Copyright updates:
[exim.git] / src / src / parse.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2018 */
6 /* Copyright (c) The Exim Maintainers 2020 - 2021 */
7 /* See the file NOTICE for conditions of use and distribution. */
8
9 /* Functions for parsing addresses */
10
11
12 #include "exim.h"
13
14
15 static const uschar *last_comment_position;
16
17
18
19 /* In stand-alone mode, provide a replacement for deliver_make_addr()
20 and rewrite_address[_qualify]() so as to avoid having to drag in too much
21 redundant apparatus. */
22
23 #ifdef STAND_ALONE
24
25 address_item *deliver_make_addr(uschar *address, BOOL copy)
26 {
27 address_item *addr = store_get(sizeof(address_item), FALSE);
28 addr->next = NULL;
29 addr->parent = NULL;
30 addr->address = address;
31 return addr;
32 }
33
34 uschar *rewrite_address(uschar *recipient, BOOL dummy1, BOOL dummy2, rewrite_rule
35   *dummy3, int dummy4)
36 {
37 return recipient;
38 }
39
40 uschar *rewrite_address_qualify(uschar *recipient, BOOL dummy1)
41 {
42 return recipient;
43 }
44
45 #endif
46
47
48
49
50 /*************************************************
51 *             Find the end of an address         *
52 *************************************************/
53
54 /* Scan over a string looking for the termination of an address at a comma,
55 or end of the string. It's the source-routed addresses which cause much pain
56 here. Although Exim ignores source routes, it must recognize such addresses, so
57 we cannot get rid of this logic.
58
59 Argument:
60   s        pointer to the start of an address
61   nl_ends  if TRUE, '\n' terminates an address
62
63 Returns:   pointer past the end of the address
64            (i.e. points to null or comma)
65 */
66
67 uschar *
68 parse_find_address_end(const uschar *s, BOOL nl_ends)
69 {
70 BOOL source_routing = *s == '@';
71 int no_term = source_routing? 1 : 0;
72
73 while (*s != 0 && (*s != ',' || no_term > 0) && (*s != '\n' || !nl_ends))
74   {
75   /* Skip single quoted characters. Strictly these should not occur outside
76   quoted strings in RFC 822 addresses, but they can in RFC 821 addresses. Pity
77   about the lack of consistency, isn't it? */
78
79   if (*s == '\\' && s[1] != 0) s += 2;
80
81   /* Skip quoted items that are not inside brackets. Note that
82   quoted pairs are allowed inside quoted strings. */
83
84   else if (*s == '\"')
85     {
86     while (*(++s) != 0 && (*s != '\n' || !nl_ends))
87       {
88       if (*s == '\\' && s[1] != 0) s++;
89         else if (*s == '\"') { s++; break; }
90       }
91     }
92
93   /* Skip comments, which may include nested brackets, but quotes
94   are not recognized inside comments, though quoted pairs are. */
95
96   else if (*s == '(')
97     {
98     int level = 1;
99     while (*(++s) != 0 && (*s != '\n' || !nl_ends))
100       {
101       if (*s == '\\' && s[1] != 0) s++;
102         else if (*s == '(') level++;
103           else if (*s == ')' && --level <= 0) { s++; break; }
104       }
105     }
106
107   /* Non-special character; just advance. Passing the colon in a source
108   routed address means that any subsequent comma or colon may terminate unless
109   inside angle brackets. */
110
111   else
112     {
113     if (*s == '<')
114       {
115       source_routing = s[1] == '@';
116       no_term = source_routing? 2 : 1;
117       }
118     else if (*s == '>') no_term--;
119     else if (source_routing && *s == ':') no_term--;
120     s++;
121     }
122   }
123
124 return US s;
125 }
126
127
128
129 /*************************************************
130 *            Find last @ in an address           *
131 *************************************************/
132
133 /* This function is used when we have something that may not qualified. If we
134 know it's qualified, searching for the rightmost '@' is sufficient. Here we
135 have to be a bit more clever than just a plain search, in order to handle
136 unqualified local parts like "thing@thong" correctly. Since quotes may not
137 legally be part of a domain name, we can give up on hitting the first quote
138 when searching from the right. Now that the parsing also permits the RFC 821
139 form of address, where quoted-pairs are allowed in unquoted local parts, we
140 must take care to handle that too.
141
142 Argument:  pointer to an address, possibly unqualified
143 Returns:   pointer to the last @ in an address, or NULL if none
144 */
145
146 const uschar *
147 parse_find_at(const uschar *s)
148 {
149 const uschar * t = s + Ustrlen(s);
150 while (--t >= s)
151   if (*t == '@')
152     {
153     int backslash_count = 0;
154     const uschar *tt = t - 1;
155     while (tt > s && *tt-- == '\\') backslash_count++;
156     if ((backslash_count & 1) == 0) return t;
157     }
158   else if (*t == '\"')
159     return NULL;
160
161 return NULL;
162 }
163
164
165
166
167 /***************************************************************************
168 * In all the functions below that read a particular object type from       *
169 * the input, return the new value of the pointer s (the first argument),   *
170 * and put the object into the store pointed to by t (the second argument), *
171 * adding a terminating zero. If no object is found, t will point to zero   *
172 * on return.                                                               *
173 ***************************************************************************/
174
175
176 /*************************************************
177 *          Skip white space and comment          *
178 *************************************************/
179
180 /* Algorithm:
181   (1) Skip spaces.
182   (2) If uschar not '(', return.
183   (3) Skip till matching ')', not counting any characters
184       escaped with '\'.
185   (4) Move past ')' and goto (1).
186
187 The start of the last potential comment position is remembered to
188 make it possible to ignore comments at the end of compound items.
189
190 Argument: current character pointer
191 Returns:  new character pointer
192 */
193
194 static const uschar *
195 skip_comment(const uschar *s)
196 {
197 last_comment_position = s;
198 while (*s)
199   {
200   int c, level;
201
202   if (Uskip_whitespace(&s) != '(') break;
203   level = 1;
204   while((c = *(++s)))
205     {
206     if (c == '(') level++;
207     else if (c == ')') { if (--level <= 0) { s++; break; } }
208     else if (c == '\\' && s[1] != 0) s++;
209     }
210   }
211 return s;
212 }
213
214
215
216 /*************************************************
217 *             Read a domain                      *
218 *************************************************/
219
220 /* A domain is a sequence of subdomains, separated by dots. See comments below
221 for detailed syntax of the subdomains.
222
223 If allow_domain_literals is TRUE, a "domain" may also be an IP address enclosed
224 in []. Make sure the output is set to the null string if there is a syntax
225 error as well as if there is no domain at all.
226
227 Optionally, msg_id domain literals ( printable-ascii enclosed in [] )
228 are permitted.
229
230 Arguments:
231   s          current character pointer
232   t          where to put the domain
233   msg_id_literals     flag for relaxed domain-literal processing
234   errorptr   put error message here on failure (*t will be 0 on exit)
235
236 Returns:     new character pointer
237 */
238
239 static const uschar *
240 read_domain(const uschar *s, uschar *t, BOOL msg_id_literals, uschar **errorptr)
241 {
242 uschar *tt = t;
243 s = skip_comment(s);
244
245 /* Handle domain literals if permitted. An RFC 822 domain literal may contain
246 any character except [ ] \, including linear white space, and may contain
247 quoted characters. However, RFC 821 restricts literals to being dot-separated
248 3-digit numbers, and we make the obvious extension for IPv6. Go for a sequence
249 of digits, dots, hex digits, and colons here; later this will be checked for
250 being a syntactically valid IP address if it ever gets to a router.
251
252 Allow both the formal IPv6 form, with IPV6: at the start, and the informal form
253 without it, and accept IPV4: as well, 'cause someone will use it sooner or
254 later. */
255
256 if (*s == '[')
257   {
258   *t++ = *s++;
259
260   if (strncmpic(s, US"IPv6:", 5) == 0 || strncmpic(s, US"IPv4:", 5) == 0)
261     {
262     memcpy(t, s, 5);
263     t += 5;
264     s += 5;
265     }
266
267   if (msg_id_literals)
268     while (*s >= 33 && *s <= 90 || *s >= 94 && *s <= 126) *t++ = *s++;
269   else
270     while (*s == '.' || *s == ':' || isxdigit(*s)) *t++ = *s++;
271
272   if (*s == ']') *t++ = *s++; else
273     {
274     *errorptr = US"malformed domain literal";
275     *tt = 0;
276     }
277
278   if (!allow_domain_literals && !msg_id_literals)
279     {
280     *errorptr = US"domain literals not allowed";
281     *tt = 0;
282     }
283   *t = 0;
284   return skip_comment(s);
285   }
286
287 /* Handle a proper domain, which is a sequence of dot-separated atoms. Remove
288 trailing dots if strip_trailing_dot is set. A subdomain is an atom.
289
290 An atom is a sequence of any characters except specials, space, and controls.
291 The specials are ( ) < > @ , ; : \ " . [ and ]. This is the rule for RFC 822
292 and its successor (RFC 2822). However, RFC 821 and its successor (RFC 2821) is
293 tighter, allowing only letters, digits, and hyphens, not starting with a
294 hyphen.
295
296 There used to be a global flag that got set when checking addresses that came
297 in over SMTP and which should therefore should be checked according to the
298 stricter rule. However, it seems silly to make the distinction, because I don't
299 suppose anybody ever uses local domains that are 822-compliant and not
300 821-compliant. Furthermore, Exim now has additional data on the spool file line
301 after an address (after "one_time" processing), and it makes use of a #
302 character to delimit it. When I wrote that code, I forgot about this 822-domain
303 stuff, and assumed # could never appear in a domain.
304
305 So the old code is now cut out for Release 4.11 onwards, on 09-Aug-02. In a few
306 years, when we are sure this isn't actually causing trouble, throw it away.
307
308 March 2003: the story continues: There is a camp that is arguing for the use of
309 UTF-8 in domain names as the way to internationalization, and other MTAs
310 support this. Therefore, we now have a flag that permits the use of characters
311 with values greater than 127, encoded in UTF-8, in subdomains, so that Exim can
312 be used experimentally in this way. */
313
314 for (;;)
315   {
316   uschar *tsave = t;
317
318 /*********************
319   if (rfc821_domains)
320     {
321     if (*s != '-') while (isalnum(*s) || *s == '-') *t++ = *s++;
322     }
323   else
324     while (!mac_iscntrl_or_special(*s)) *t++ = *s++;
325 *********************/
326
327   if (*s != '-')
328     {
329     /* Only letters, digits, and hyphens */
330
331     if (!allow_utf8_domains)
332       {
333       while (isalnum(*s) || *s == '-') *t++ = *s++;
334       }
335
336     /* Permit legal UTF-8 characters to be included */
337
338     else for(;;)
339       {
340       int i, d;
341       if (isalnum(*s) || *s == '-')    /* legal ascii characters */
342         {
343         *t++ = *s++;
344         continue;
345         }
346       if ((*s & 0xc0) != 0xc0) break;  /* not start of UTF-8 character */
347       d = *s << 2;
348       for (i = 1; i < 6; i++)          /* i is the number of additional bytes */
349         {
350         if ((d & 0x80) == 0) break;
351         d <<= 1;
352         }
353       if (i == 6) goto BAD_UTF8;       /* invalid UTF-8 */
354       *t++ = *s++;                     /* leading UTF-8 byte */
355       while (i-- > 0)                  /* copy and check remainder */
356         {
357         if ((*s & 0xc0) != 0x80)
358           {
359           BAD_UTF8:
360           *errorptr = US"invalid UTF-8 byte sequence";
361           *tt = 0;
362           return s;
363           }
364         *t++ = *s++;
365         }
366       }    /* End of loop for UTF-8 character */
367     }      /* End of subdomain */
368
369   s = skip_comment(s);
370   *t = 0;
371
372   if (t == tsave)   /* empty component */
373     {
374     if (strip_trailing_dot && t > tt && *s != '.') t[-1] = 0; else
375       {
376       *errorptr = US"domain missing or malformed";
377       *tt = 0;
378       }
379     return s;
380     }
381
382   if (*s != '.') break;
383   *t++ = *s++;
384   s = skip_comment(s);
385   }
386
387 return s;
388 }
389
390
391
392 /*************************************************
393 *            Read a local-part                   *
394 *************************************************/
395
396 /* A local-part is a sequence of words, separated by periods. A null word
397 between dots is not strictly allowed but apparently many mailers permit it,
398 so, sigh, better be compatible. Even accept a trailing dot...
399
400 A <word> is either a quoted string, or an <atom>, which is a sequence
401 of any characters except specials, space, and controls. The specials are
402 ( ) < > @ , ; : \ " . [ and ]. In RFC 822, a single quoted character, (a
403 quoted-pair) is not allowed in a word. However, in RFC 821, it is permitted in
404 the local part of an address. Rather than have separate parsing functions for
405 the different cases, take the liberal attitude always. At least one MUA is
406 happy to recognize this case; I don't know how many other programs do.
407
408 Arguments:
409   s           current character pointer
410   t           where to put the local part
411   error       where to point error text
412   allow_null  TRUE if an empty local part is not an error
413
414 Returns:   new character pointer
415 */
416
417 static const uschar *
418 read_local_part(const uschar *s, uschar *t, uschar **error, BOOL allow_null)
419 {
420 uschar *tt = t;
421 *error = NULL;
422 for (;;)
423   {
424   int c;
425   uschar *tsave = t;
426   s = skip_comment(s);
427
428   /* Handle a quoted string */
429
430   if (*s == '\"')
431     {
432     *t++ = '\"';
433     while ((c = *++s) && c != '\"')
434       {
435       *t++ = c;
436       if (c == '\\' && s[1]) *t++ = *++s;
437       }
438     if (c == '\"')
439       {
440       s++;
441       *t++ = '\"';
442       }
443     else
444       {
445       *error = US"unmatched doublequote in local part";
446       return s;
447       }
448     }
449
450   /* Handle an atom, but allow quoted pairs within it. */
451
452   else while (!mac_iscntrl_or_special(*s) || *s == '\\')
453     {
454     c = *t++ = *s++;
455     if (c == '\\' && *s) *t++ = *s++;
456     }
457
458   /* Terminate the word and skip subsequent comment */
459
460   *t = 0;
461   s = skip_comment(s);
462
463   /* If we have read a null component at this point, give an error unless it is
464   terminated by a dot - an extension to RFC 822 - or if it is the first
465   component of the local part and an empty local part is permitted, in which
466   case just return normally. */
467
468   if (t == tsave && *s != '.')
469     {
470     if (t == tt && !allow_null)
471       *error = US"missing or malformed local part";
472     return s;
473     }
474
475   /* Anything other than a dot terminates the local part. Treat multiple dots
476   as a single dot, as this seems to be a common extension. */
477
478   if (*s != '.') break;
479   do { *t++ = *s++; } while (*s == '.');
480   }
481
482 return s;
483 }
484
485
486 /*************************************************
487 *            Read route part of route-addr       *
488 *************************************************/
489
490 /* The pointer is at the initial "@" on entry. Return it following the
491 terminating colon. Exim no longer supports the use of source routes, but it is
492 required to accept the syntax.
493
494 Arguments:
495   s          current character pointer
496   t          where to put the route
497   errorptr   where to put an error message
498
499 Returns:     new character pointer
500 */
501
502 static const uschar *
503 read_route(const uschar *s, uschar *t, uschar **errorptr)
504 {
505 BOOL commas = FALSE;
506 *errorptr = NULL;
507
508 while (*s == '@')
509   {
510   *t++ = '@';
511   s = read_domain(s+1, t, FALSE, errorptr);
512   if (*t == 0) return s;
513   t += Ustrlen((const uschar *)t);
514   if (*s != ',') break;
515   *t++ = *s++;
516   commas = TRUE;
517   s = skip_comment(s);
518   }
519
520 if (*s == ':') *t++ = *s++;
521
522 /* If there is no colon, and there were no commas, the most likely error
523 is in fact a missing local part in the address rather than a missing colon
524 after the route. */
525
526 else *errorptr = commas?
527   US"colon expected after route list" :
528   US"no local part";
529
530 /* Terminate the route and return */
531
532 *t = 0;
533 return skip_comment(s);
534 }
535
536
537
538 /*************************************************
539 *                Read addr-spec                  *
540 *************************************************/
541
542 /* Addr-spec is local-part@domain. We make the domain optional -
543 the expected terminator for the whole thing is passed to check this.
544 This function is called only when we know we have a route-addr.
545
546 Arguments:
547   s          current character pointer
548   t          where to put the addr-spec
549   term       expected terminator (0 or >)
550   errorptr   where to put an error message
551   domainptr  set to point to the start of the domain
552
553 Returns:     new character pointer
554 */
555
556 static const uschar *
557 read_addr_spec(const uschar *s, uschar *t, int term, uschar **errorptr,
558   uschar **domainptr)
559 {
560 s = read_local_part(s, t, errorptr, FALSE);
561 if (*errorptr == NULL)
562   if (*s != term)
563     if (*s != '@')
564       *errorptr = string_sprintf("\"@\" or \".\" expected after \"%s\"", t);
565     else
566       {
567       t += Ustrlen((const uschar *)t);
568       *t++ = *s++;
569       *domainptr = t;
570       s = read_domain(s, t, FALSE, errorptr);
571       }
572 return s;
573 }
574
575
576
577 /*************************************************
578 *         Extract operative address              *
579 *************************************************/
580
581 /* This function extracts an operative address from a full RFC822 mailbox and
582 returns it in a piece of dynamic store. We take the easy way and get a piece
583 of store the same size as the input, and then copy into it whatever is
584 necessary. If we cannot find a valid address (syntax error), return NULL, and
585 point the error pointer to the reason. The arguments "start" and "end" are used
586 to return the offsets of the first and one past the last characters in the
587 original mailbox of the address that has been extracted, to aid in re-writing.
588 The argument "domain" is set to point to the first character after "@" in the
589 final part of the returned address, or zero if there is no @.
590
591 Exim no longer supports the use of source routed addresses (those of the form
592 @domain,...:route_addr). It recognizes the syntax, but collapses such addresses
593 down to their final components. Formerly, collapse_source_routes had to be set
594 to achieve this effect. RFC 1123 allows collapsing with MAY, while the revision
595 of RFC 821 had increased this to SHOULD, so I've gone for it, because it makes
596 a lot of code elsewhere in Exim much simpler.
597
598 There are some special fudges here for handling RFC 822 group address notation
599 which may appear in certain headers. If the flag parse_allow_group is set
600 TRUE and parse_found_group is FALSE when this function is called, an address
601 which is the start of a group (i.e. preceded by a phrase and a colon) is
602 recognized; the phrase is ignored and the flag parse_found_group is set. If
603 this flag is TRUE at the end of an address, and if an extraneous semicolon is
604 found, it is ignored and the flag is cleared.
605
606 This logic is used only when scanning through addresses in headers, either to
607 fulfil the -t option, or for rewriting, or for checking header syntax. Because
608 the group "state" has to be remembered between multiple calls of this function,
609 the variables parse_{allow,found}_group are global. It is important to ensure
610 that they are reset to FALSE at the end of scanning a header's list of
611 addresses.
612
613 Arguments:
614   mailbox     points to the RFC822 mailbox
615   errorptr    where to point an error message
616   start       set to start offset in mailbox
617   end         set to end offset in mailbox
618   domain      set to domain offset in result, or 0 if no domain present
619   allow_null  allow <> if TRUE
620
621 Returns:      points to the extracted address, or NULL on error
622 */
623
624 #define FAILED(s) { *errorptr = s; goto PARSE_FAILED; }
625
626 uschar *
627 parse_extract_address(const uschar *mailbox, uschar **errorptr, int *start, int *end,
628   int *domain, BOOL allow_null)
629 {
630 uschar *yield = store_get(Ustrlen(mailbox) + 1, is_tainted(mailbox));
631 const uschar *startptr, *endptr;
632 const uschar *s = US mailbox;
633 uschar *t = US yield;
634
635 *domain = 0;
636
637 /* At the start of the string we expect either an addr-spec or a phrase
638 preceding a <route-addr>. If groups are allowed, we might also find a phrase
639 preceding a colon and an address. If we find an initial word followed by
640 a dot, strict interpretation of the RFC would cause it to be taken
641 as the start of an addr-spec. However, many mailers break the rules
642 and use addresses of the form "a.n.other <ano@somewhere>" and so we
643 allow this case. */
644
645 RESTART:   /* Come back here after passing a group name */
646
647 s = skip_comment(s);
648 startptr = s;                                 /* In case addr-spec */
649 s = read_local_part(s, t, errorptr, TRUE);    /* Dot separated words */
650 if (*errorptr) goto PARSE_FAILED;
651
652 /* If the terminator is neither < nor @ then the format of the address
653 must either be a bare local-part (we are now at the end), or a phrase
654 followed by a route-addr (more words must follow). */
655
656 if (*s != '@' && *s != '<')
657   {
658   if (*s == 0 || *s == ';')
659     {
660     if (!*t) FAILED(US"empty address");
661     endptr = last_comment_position;
662     goto PARSE_SUCCEEDED;              /* Bare local part */
663     }
664
665   /* Expect phrase route-addr, or phrase : if groups permitted, but allow
666   dots in the phrase; complete the loop only when '<' or ':' is encountered -
667   end of string will produce a null local_part and therefore fail. We don't
668   need to keep updating t, as the phrase isn't to be kept. */
669
670   while (*s != '<' && (!f.parse_allow_group || *s != ':'))
671     {
672     s = read_local_part(s, t, errorptr, FALSE);
673     if (*errorptr)
674       {
675       *errorptr = string_sprintf("%s (expected word or \"<\")", *errorptr);
676       goto PARSE_FAILED;
677       }
678     }
679
680   if (*s == ':')
681     {
682     f.parse_found_group = TRUE;
683     f.parse_allow_group = FALSE;
684     s++;
685     goto RESTART;
686     }
687
688   /* Assert *s == '<' */
689   }
690
691 /* At this point the next character is either '@' or '<'. If it is '@', only a
692 single local-part has previously been read. An angle bracket signifies the
693 start of an <addr-spec>. Throw away anything we have saved so far before
694 processing it. Note that this is "if" rather than "else if" because it's also
695 used after reading a preceding phrase.
696
697 There are a lot of broken sendmails out there that put additional pairs of <>
698 round <route-addr>s.  If strip_excess_angle_brackets is set, allow a limited
699 number of them, as long as they match. */
700
701 if (*s == '<')
702   {
703   uschar *domainptr = yield;
704   BOOL source_routed = FALSE;
705   int bracket_count = 1;
706
707   s++;
708   if (strip_excess_angle_brackets) while (*s == '<')
709    {
710    if(bracket_count++ > 5) FAILED(US"angle-brackets nested too deep");
711    s++;
712    }
713
714   t = yield;
715   startptr = s;
716   s = skip_comment(s);
717
718   /* Read an optional series of routes, each of which is a domain. They
719   are separated by commas and terminated by a colon. However, we totally ignore
720   such routes (RFC 1123 says we MAY, and the revision of RFC 821 says we
721   SHOULD). */
722
723   if (*s == '@')
724     {
725     s = read_route(s, t, errorptr);
726     if (*errorptr) goto PARSE_FAILED;
727     *t = 0;                  /* Ensure route is ignored - probably overkill */
728     source_routed = TRUE;
729     }
730
731   /* Now an addr-spec, terminated by '>'. If there is no preceding route,
732   we must allow an empty addr-spec if allow_null is TRUE, to permit the
733   address "<>" in some circumstances. A source-routed address MUST have
734   a domain in the final part. */
735
736   if (allow_null && !source_routed && *s == '>')
737     {
738     *t = 0;
739     *errorptr = NULL;
740     }
741   else
742     {
743     s = read_addr_spec(s, t, '>', errorptr, &domainptr);
744     if (*errorptr) goto PARSE_FAILED;
745     *domain = domainptr - yield;
746     if (source_routed && *domain == 0)
747       FAILED(US"domain missing in source-routed address");
748     }
749
750   endptr = s;
751   if (*errorptr) goto PARSE_FAILED;
752   while (bracket_count-- > 0) if (*s++ != '>')
753     {
754     *errorptr = s[-1] == 0
755       ? US"'>' missing at end of address"
756       : string_sprintf("malformed address: %.32s may not follow %.*s",
757           s-1, (int)(s - US mailbox - 1), mailbox);
758     goto PARSE_FAILED;
759     }
760
761   s = skip_comment(s);
762   }
763
764 /* Hitting '@' after the first local-part means we have definitely got an
765 addr-spec, on a strict reading of the RFC, and the rest of the string
766 should be the domain. However, for flexibility we allow for a route-address
767 not enclosed in <> as well, which is indicated by an empty first local
768 part preceding '@'. The source routing is, however, ignored. */
769
770 else if (!*t)
771   {
772   uschar *domainptr = yield;
773   s = read_route(s, t, errorptr);
774   if (*errorptr) goto PARSE_FAILED;
775   *t = 0;         /* Ensure route is ignored - probably overkill */
776   s = read_addr_spec(s, t, 0, errorptr, &domainptr);
777   if (*errorptr) goto PARSE_FAILED;
778   *domain = domainptr - yield;
779   endptr = last_comment_position;
780   if (*domain == 0) FAILED(US"domain missing in source-routed address");
781   }
782
783 /* This is the strict case of local-part@domain. */
784
785 else
786   {
787   t += Ustrlen((const uschar *)t);
788   *t++ = *s++;
789   *domain = t - yield;
790   s = read_domain(s, t, TRUE, errorptr);
791   if (!*t) goto PARSE_FAILED;
792   endptr = last_comment_position;
793   }
794
795 /* Use goto to get here from the bare local part case. Arrive by falling
796 through for other cases. Endptr may have been moved over whitespace, so
797 move it back past white space if necessary. */
798
799 PARSE_SUCCEEDED:
800 if (*s)
801   {
802   if (f.parse_found_group && *s == ';')
803     {
804     f.parse_found_group = FALSE;
805     f.parse_allow_group = TRUE;
806     }
807   else
808     {
809     *errorptr = string_sprintf("malformed address: %.32s may not follow %.*s",
810       s, (int)(s - US mailbox), mailbox);
811     goto PARSE_FAILED;
812     }
813   }
814 *start = startptr - US mailbox;      /* Return offsets */
815 while (isspace(endptr[-1])) endptr--;
816 *end = endptr - US mailbox;
817
818 /* Although this code has no limitation on the length of address extracted,
819 other parts of Exim may have limits, and in any case, RFC 5321 limits email
820 addresses to 256, so we do a check here, giving an error if the address is
821 ridiculously long. */
822
823 if (*end - *start > EXIM_EMAILADDR_MAX)
824   {
825   *errorptr = string_sprintf("address is ridiculously long: %.64s...", yield);
826   return NULL;
827   }
828
829 return yield;
830
831 /* Use goto (via the macro FAILED) to get to here from a variety of places.
832 We might have an empty address in a group - the caller can choose to ignore
833 this. We must, however, keep the flags correct. */
834
835 PARSE_FAILED:
836 if (f.parse_found_group && *s == ';')
837   {
838   f.parse_found_group = FALSE;
839   f.parse_allow_group = TRUE;
840   }
841 return NULL;
842 }
843
844 #undef FAILED
845
846
847
848 /*************************************************
849 *        Quote according to RFC 2047             *
850 *************************************************/
851
852 /* This function is used for quoting text in headers according to RFC 2047.
853 If the only characters that strictly need quoting are spaces, we return the
854 original string, unmodified.
855
856 Hmmph. As always, things get perverted for other uses. This function was
857 originally for the "phrase" part of addresses. Now it is being used for much
858 longer texts in ACLs and via the ${rfc2047: expansion item. This means we have
859 to check for overlong "encoded-word"s and split them. November 2004.
860
861 Arguments:
862   string       the string to quote - already checked to contain non-printing
863                  chars
864   len          the length of the string
865   charset      the name of the character set; NULL => iso-8859-1
866   fold         if TRUE, a newline is inserted before the separating space when
867                  more than one encoded-word is generated
868
869 Returns:       pointer to the original string, if no quoting needed, or
870                pointer to allocated memory containing the quoted string
871 */
872
873 const uschar *
874 parse_quote_2047(const uschar *string, int len, const uschar *charset,
875   BOOL fold)
876 {
877 const uschar * s = string;
878 int hlen, l;
879 BOOL coded = FALSE;
880 BOOL first_byte = FALSE;
881 gstring * g =
882   string_fmt_append(NULL, "=?%s?Q?", charset ? charset : US"iso-8859-1");
883
884 hlen = l = g->ptr;
885
886 for (s = string; len > 0; s++, len--)
887   {
888   int ch = *s;
889
890   if (g->ptr - l > 67 && !first_byte)
891     {
892     g = fold ? string_catn(g, US"?=\n ", 4) : string_catn(g, US"?= ", 3);
893     l = g->ptr;
894     g = string_catn(g, g->s, hlen);
895     }
896
897   if (  ch < 33 || ch > 126
898      || Ustrchr("?=()<>@,;:\\\".[]_", ch) != NULL)
899     {
900     if (ch == ' ')
901       {
902       g = string_catn(g, US"_", 1);
903       first_byte = FALSE;
904       }
905     else
906       {
907       g = string_fmt_append(g, "=%02X", ch);
908       coded = TRUE;
909       first_byte = !first_byte;
910       }
911     }
912   else
913     { g = string_catn(g, s, 1); first_byte = FALSE; }
914   }
915
916 if (coded)
917   string = string_from_gstring(g = string_catn(g, US"?=", 2));
918 else
919   g->ptr = -1;
920
921 gstring_release_unused(g);
922 return string;
923 }
924
925
926
927
928 /*************************************************
929 *            Fix up an RFC 822 "phrase"          *
930 *************************************************/
931
932 /* This function is called to repair any syntactic defects in the "phrase" part
933 of an RFC822 address. In particular, it is applied to the user's name as read
934 from the passwd file when accepting a local message, and to the data from the
935 -F option.
936
937 If the string contains existing quoted strings or comments containing
938 freestanding quotes, then we just quote those bits that need quoting -
939 otherwise it would get awfully messy and probably not look good. If not, we
940 quote the whole thing if necessary. Thus
941
942    John Q. Smith            =>  "John Q. Smith"
943    John "Jack" Smith        =>  John "Jack" Smith
944    John "Jack" Q. Smith     =>  John "Jack" "Q." Smith
945    John (Jack) Q. Smith     =>  "John (Jack) Q. Smith"
946    John ("Jack") Q. Smith   =>  John ("Jack") "Q." Smith
947 but
948    John (\"Jack\") Q. Smith =>  "John (\"Jack\") Q. Smith"
949
950 Sheesh! This is tedious code. It is a great pity that the syntax of RFC822 is
951 the way it is...
952
953 August 2000: Additional code added:
954
955   Previously, non-printing characters were turned into question marks, which do
956   not need to be quoted.
957
958   Now, a different tactic is used if there are any non-printing ASCII
959   characters. The encoding method from RFC 2047 is used, assuming iso-8859-1 as
960   the character set.
961
962   We *could* use this for all cases, getting rid of the messy original code,
963   but leave it for now. It would complicate simple cases like "John Q. Smith".
964
965 The result is passed back in allocated memory.
966
967 Arguments:
968   phrase       an RFC822 phrase
969   len          the length of the phrase
970
971 Returns:       the fixed RFC822 phrase
972 */
973
974 const uschar *
975 parse_fix_phrase(const uschar *phrase, int len)
976 {
977 int ch, i;
978 BOOL quoted = FALSE;
979 const uschar *s, *end;
980 uschar * buffer;
981 uschar *t, *yield;
982
983 while (len > 0 && isspace(*phrase)) { phrase++; len--; }
984
985 /* See if there are any non-printing characters, and if so, use the RFC 2047
986 encoding for the whole thing. */
987
988 for (i = 0, s = phrase; i < len; i++, s++)
989   if ((*s < 32 && *s != '\t') || *s > 126) break;
990
991 if (i < len)
992   return parse_quote_2047(phrase, len, headers_charset, FALSE);
993
994 /* No non-printers; use the RFC 822 quoting rules */
995
996 if (len <= 0 || len >= INT_MAX/4)
997   {
998   return string_copy_taint(CUS"", is_tainted(phrase));
999   }
1000
1001 buffer = store_get((len+1)*4, is_tainted(phrase));
1002
1003 s = phrase;
1004 end = s + len;
1005 yield = t = buffer + 1;
1006
1007 while (s < end)
1008   {
1009   ch = *s++;
1010
1011   /* Copy over quoted strings, remembering we encountered one */
1012
1013   if (ch == '\"')
1014     {
1015     *t++ = '\"';
1016     while (s < end && (ch = *s++) != '\"')
1017       {
1018       *t++ = ch;
1019       if (ch == '\\' && s < end) *t++ = *s++;
1020       }
1021     *t++ = '\"';
1022     if (s >= end) break;
1023     quoted = TRUE;
1024     }
1025
1026   /* Copy over comments, noting if they contain freestanding quote
1027   characters */
1028
1029   else if (ch == '(')
1030     {
1031     int level = 1;
1032     *t++ = '(';
1033     while (s < end)
1034       {
1035       ch = *s++;
1036       *t++ = ch;
1037       if (ch == '(') level++;
1038       else if (ch == ')') { if (--level <= 0) break; }
1039       else if (ch == '\\' && s < end) *t++ = *s++ & 127;
1040       else if (ch == '\"') quoted = TRUE;
1041       }
1042     if (ch == 0)
1043       {
1044       while (level--) *t++ = ')';
1045       break;
1046       }
1047     }
1048
1049   /* Handle special characters that need to be quoted */
1050
1051   else if (Ustrchr(")<>@,;:\\.[]", ch) != NULL)
1052     {
1053     /* If hit previous quotes just make one quoted "word" */
1054
1055     if (quoted)
1056       {
1057       uschar *tt = t++;
1058       while (*(--tt) != ' ' && *tt != '\"' && *tt != ')') tt[1] = *tt;
1059       tt[1] = '\"';
1060       *t++ = ch;
1061       while (s < end)
1062         {
1063         ch = *s++;
1064         if (ch == ' ' || ch == '\"') { s--; break; } else *t++ = ch;
1065         }
1066       *t++ = '\"';
1067       }
1068
1069     /* Else quote the whole string so far, and the rest up to any following
1070     quotes. We must treat anything following a backslash as a literal. */
1071
1072     else
1073       {
1074       BOOL escaped = (ch == '\\');
1075       *(--yield) = '\"';
1076       *t++ = ch;
1077
1078       /* Now look for the end or a quote */
1079
1080       while (s < end)
1081         {
1082         ch = *s++;
1083
1084         /* Handle escaped pairs */
1085
1086         if (escaped)
1087           {
1088           *t++ = ch;
1089           escaped = FALSE;
1090           }
1091
1092         else if (ch == '\\')
1093           {
1094           *t++ = ch;
1095           escaped = TRUE;
1096           }
1097
1098         /* If hit subsequent quotes, insert our quote before any trailing
1099         spaces and back up to re-handle the quote in the outer loop. */
1100
1101         else if (ch == '\"')
1102           {
1103           int count = 0;
1104           while (t[-1] == ' ') { t--; count++; }
1105           *t++ = '\"';
1106           while (count-- > 0) *t++ = ' ';
1107           s--;
1108           break;
1109           }
1110
1111         /* If hit a subsequent comment, check it for unescaped quotes,
1112         and if so, end our quote before it. */
1113
1114         else if (ch == '(')
1115           {
1116           const uschar *ss = s;     /* uschar after '(' */
1117           int level = 1;
1118           while(ss < end)
1119             {
1120             ch = *ss++;
1121             if (ch == '(') level++;
1122             else if (ch == ')') { if (--level <= 0) break; }
1123             else if (ch == '\\' && ss+1 < end) ss++;
1124             else if (ch == '\"') { quoted = TRUE; break; }
1125             }
1126
1127           /* Comment contains unescaped quotes; end our quote before
1128           the start of the comment. */
1129
1130           if (quoted)
1131             {
1132             int count = 0;
1133             while (t[-1] == ' ') { t--; count++; }
1134             *t++ = '\"';
1135             while (count-- > 0) *t++ = ' ';
1136             break;
1137             }
1138
1139           /* Comment does not contain unescaped quotes; include it in
1140           our quote. */
1141
1142           else
1143             {
1144             if (ss >= end) ss--;
1145             *t++ = '(';
1146             if (ss > s)
1147               {
1148               Ustrncpy(t, s, ss-s);
1149               t += ss-s;
1150               s = ss;
1151               }
1152             }
1153           }
1154
1155         /* Not a comment or quote; include this character in our quotes. */
1156
1157         else *t++ = ch;
1158         }
1159       }
1160
1161     /* Add a final quote if we hit the end of the string. */
1162
1163     if (s >= end) *t++ = '\"';
1164     }
1165
1166   /* Non-special character; just copy it over */
1167
1168   else *t++ = ch;
1169   }
1170
1171 *t = 0;
1172 store_release_above(t+1);
1173 return yield;
1174 }
1175
1176
1177 /*************************************************
1178 *          Extract addresses from a list         *
1179 *************************************************/
1180
1181 /* This function is called by the redirect router to scan a string containing a
1182 list of addresses separated by commas (with optional white space) or by
1183 newlines, and to generate a chain of address items from them. In other words,
1184 to unpick data from an alias or .forward file.
1185
1186 The SunOS5 documentation for alias files is not very clear on the syntax; it
1187 does not say that either a comma or a newline can be used for separation.
1188 However, that is the way Smail does it, so we follow suit.
1189
1190 If a # character is encountered in a white space position, then characters from
1191 there to the next newline are skipped.
1192
1193 If an unqualified address begins with '\', just skip that character. This gives
1194 compatibility with Sendmail's use of \ to prevent looping. Exim has its own
1195 loop prevention scheme which handles other cases too - see the code in
1196 route_address().
1197
1198 An "address" can be a specification of a file or a pipe; the latter may often
1199 need to be quoted because it may contain spaces, but we don't want to retain
1200 the quotes. Quotes may appear in normal addresses too, and should be retained.
1201 We can distinguish between these cases, because in addresses, quotes are used
1202 only for parts of the address, not the whole thing. Therefore, we remove quotes
1203 from items when they entirely enclose them, but not otherwise.
1204
1205 An "address" can also be of the form :include:pathname to include a list of
1206 addresses contained in the specified file.
1207
1208 Any unqualified addresses are qualified with and rewritten if necessary, via
1209 the rewrite_address() function.
1210
1211 Arguments:
1212   s                the list of addresses (typically a complete
1213                      .forward file or a list of entries in an alias file)
1214   options          option bits for permitting or denying various special cases;
1215                      not all bits are relevant here - some are for filter
1216                      files; those we use here are:
1217                        RDO_DEFER
1218                        RDO_FREEZE
1219                        RDO_FAIL
1220                        RDO_BLACKHOLE
1221                        RDO_REWRITE
1222                        RDO_INCLUDE
1223   anchor           where to hang the chain of newly-created addresses. This
1224                      should be initialized to NULL.
1225   error            where to return an error text
1226   incoming domain  domain of the incoming address; used to qualify unqualified
1227                      local parts preceded by \
1228   directory        if NULL, no checks are done on :include: files
1229                    otherwise, included file names must start with the given
1230                      directory
1231   syntax_errors    if not NULL, it carries on after syntax errors in addresses,
1232                      building up a list of errors as error blocks chained on
1233                      here.
1234
1235 Returns:      FF_DELIVERED      addresses extracted
1236               FF_NOTDELIVERED   no addresses extracted, but no errors
1237               FF_BLACKHOLE      :blackhole:
1238               FF_DEFER          :defer:
1239               FF_FAIL           :fail:
1240               FF_INCLUDEFAIL    some problem with :include:; *error set
1241               FF_ERROR          other problems; *error is set
1242 */
1243
1244 int
1245 parse_forward_list(const uschar *s, int options, address_item **anchor,
1246   uschar **error, const uschar *incoming_domain, uschar *directory,
1247   error_block **syntax_errors)
1248 {
1249 int count = 0;
1250
1251 DEBUG(D_route) debug_printf("parse_forward_list: %s\n", s);
1252
1253 for (;;)
1254   {
1255   int len;
1256   int special = 0;
1257   int specopt = 0;
1258   int specbit = 0;
1259   const uschar *ss, *nexts;
1260   address_item *addr;
1261   BOOL inquote = FALSE;
1262
1263   for (;;)
1264     {
1265     while (isspace(*s) || *s == ',') s++;
1266     if (*s == '#') { while (*s != 0 && *s != '\n') s++; } else break;
1267     }
1268
1269   /* When we reach the end of the list, we return FF_DELIVERED if any child
1270   addresses have been generated. If nothing has been generated, there are two
1271   possibilities: either the list is really empty, or there were syntax errors
1272   that are being skipped. (If syntax errors are not being skipped, an FF_ERROR
1273   return is generated on hitting a syntax error and we don't get here.) For a
1274   truly empty list we return FF_NOTDELIVERED so that the router can decline.
1275   However, if the list is empty only because syntax errors were skipped, we
1276   return FF_DELIVERED. */
1277
1278   if (!*s)
1279     {
1280     return (count > 0 || (syntax_errors && *syntax_errors))
1281       ?  FF_DELIVERED : FF_NOTDELIVERED;
1282
1283     /* This previous code returns FF_ERROR if nothing is generated but a
1284     syntax error has been skipped. I now think it is the wrong approach, but
1285     have left this here just in case, and for the record. */
1286
1287 #ifdef NEVER
1288     if (count > 0) return FF_DELIVERED;   /* Something was generated */
1289
1290     if (syntax_errors == NULL ||          /* Not skipping syntax errors, or */
1291        *syntax_errors == NULL)            /*   we didn't actually skip any */
1292       return FF_NOTDELIVERED;
1293
1294     *error = string_sprintf("no addresses generated: syntax error in %s: %s",
1295        (*syntax_errors)->text2, (*syntax_errors)->text1);
1296     return FF_ERROR;
1297 #endif
1298     }
1299
1300   /* Find the end of the next address. Quoted strings in addresses may contain
1301   escaped characters; I haven't found a proper specification of .forward or
1302   alias files that mentions the quoting properties, but it seems right to do
1303   the escaping thing in all cases, so use the function that finds the end of an
1304   address. However, don't let a quoted string extend over the end of a line. */
1305
1306   ss = parse_find_address_end(s, TRUE);
1307
1308   /* Remember where we finished, for starting the next one. */
1309
1310   nexts = ss;
1311
1312   /* Remove any trailing spaces; we know there's at least one non-space. */
1313
1314   while (isspace((ss[-1]))) ss--;
1315
1316   /* We now have s->start and ss->end of the next address. Remove quotes
1317   if they completely enclose, remembering the address started with a quote
1318   for handling pipes and files. Another round of removal of leading and
1319   trailing spaces is then required. */
1320
1321   if (*s == '\"' && ss[-1] == '\"')
1322     {
1323     s++;
1324     ss--;
1325     inquote = TRUE;
1326     while (s < ss && isspace(*s)) s++;
1327     while (ss > s && isspace((ss[-1]))) ss--;
1328     }
1329
1330   /* Set up the length of the address. */
1331
1332   len = ss - s;
1333
1334   DEBUG(D_route) debug_printf("extract item: %.*s\n", len, s);
1335
1336   /* Handle special addresses if permitted. If the address is :unknown:
1337   ignore it - this is for backward compatibility with old alias files. You
1338   don't need to use it nowadays - just generate an empty string. For :defer:,
1339   :blackhole:, or :fail: we have to set up the error message and give up right
1340   away. */
1341
1342   if (Ustrncmp(s, ":unknown:", len) == 0)
1343     {
1344     s = nexts;
1345     continue;
1346     }
1347
1348   if      (Ustrncmp(s, ":defer:", 7) == 0)
1349     { special = FF_DEFER; specopt = RDO_DEFER; }  /* specbit is 0 */
1350   else if (Ustrncmp(s, ":blackhole:", 11) == 0)
1351     { special = FF_BLACKHOLE; specopt = specbit = RDO_BLACKHOLE; }
1352   else if (Ustrncmp(s, ":fail:", 6) == 0)
1353     { special = FF_FAIL; specopt = RDO_FAIL; }  /* specbit is 0 */
1354
1355   if (special)
1356     {
1357     uschar *ss = Ustrchr(s+1, ':') + 1;
1358     if ((options & specopt) == specbit)
1359       {
1360       *error = string_sprintf("\"%.*s\" is not permitted", len, s);
1361       return FF_ERROR;
1362       }
1363     while (*ss && isspace(*ss)) ss++;
1364     while (s[len] && s[len] != '\n') len++;
1365     *error = string_copyn(ss, s + len - ss);
1366     return special;
1367     }
1368
1369   /* If the address is of the form :include:pathname, read the file, and call
1370   this function recursively to extract the addresses from it. If directory is
1371   NULL, do no checks. Otherwise, insist that the file name starts with the
1372   given directory and is a regular file. */
1373
1374   if (Ustrncmp(s, ":include:", 9) == 0)
1375     {
1376     uschar *filebuf;
1377     uschar filename[256];
1378     const uschar * t = s+9;
1379     int flen = len - 9;
1380     int frc;
1381     struct stat statbuf;
1382     address_item *last;
1383     FILE *f;
1384
1385     while (flen > 0 && isspace(*t)) { t++; flen--; }
1386
1387     if (flen <= 0)
1388       {
1389       *error = US"file name missing after :include:";
1390       return FF_ERROR;
1391       }
1392
1393     if (flen > 255)
1394       {
1395       *error = string_sprintf("included file name \"%s\" is too long", t);
1396       return FF_ERROR;
1397       }
1398
1399     Ustrncpy(filename, t, flen);
1400     filename[flen] = 0;
1401
1402     /* Insist on absolute path */
1403
1404     if (filename[0] != '/')
1405       {
1406       *error = string_sprintf("included file \"%s\" is not an absolute path",
1407         filename);
1408       return FF_ERROR;
1409       }
1410
1411     /* Check if include is permitted */
1412
1413     if (options & RDO_INCLUDE)
1414       {
1415       *error = US"included files not permitted";
1416       return FF_ERROR;
1417       }
1418
1419     if ((*error = is_tainted2(filename, 0, "Tainted name '%s' for included file not permitted\n", filename)))
1420       return FF_ERROR;
1421
1422     /* Check file name if required */
1423
1424     if (directory)
1425       {
1426       int len = Ustrlen(directory);
1427       uschar *p = filename + len;
1428
1429       if (Ustrncmp(filename, directory, len) != 0 || *p != '/')
1430         {
1431         *error = string_sprintf("included file %s is not in directory %s",
1432           filename, directory);
1433         return FF_ERROR;
1434         }
1435
1436 #ifdef EXIM_HAVE_OPENAT
1437       /* It is necessary to check that every component inside the directory
1438       is NOT a symbolic link, in order to keep the file inside the directory.
1439       This is mighty tedious. We open the directory and openat every component,
1440       with a flag that fails symlinks. */
1441
1442       {
1443       int fd = exim_open2(CS directory, O_RDONLY);
1444       if (fd < 0)
1445         {
1446         *error = string_sprintf("failed to open directory %s", directory);
1447         return FF_ERROR;
1448         }
1449       while (*p)
1450         {
1451         uschar temp;
1452         int fd2;
1453         uschar * q = p;
1454
1455         while (*++p && *p != '/') ;
1456         temp = *p;
1457         *p = '\0';
1458
1459         fd2 = exim_openat(fd, CS q, O_RDONLY|O_NOFOLLOW);
1460         close(fd);
1461         *p = temp;
1462         if (fd2 < 0)
1463           {
1464           *error = string_sprintf("failed to open %s (component of included "
1465             "file); could be symbolic link", filename);
1466           return FF_ERROR;
1467           }
1468         fd = fd2;
1469         }
1470       f = fdopen(fd, "rb");
1471       }
1472 #else
1473       /* It is necessary to check that every component inside the directory
1474       is NOT a symbolic link, in order to keep the file inside the directory.
1475       This is mighty tedious. It is also not totally foolproof in that it
1476       leaves the possibility of a race attack, but I don't know how to do
1477       any better. */
1478
1479       while (*p)
1480         {
1481         int temp;
1482         while (*++p && *p != '/');
1483         temp = *p;
1484         *p = 0;
1485         if (Ulstat(filename, &statbuf) != 0)
1486           {
1487           *error = string_sprintf("failed to stat %s (component of included "
1488             "file)", filename);
1489           *p = temp;
1490           return FF_ERROR;
1491           }
1492
1493         *p = temp;
1494
1495         if ((statbuf.st_mode & S_IFMT) == S_IFLNK)
1496           {
1497           *error = string_sprintf("included file %s in the %s directory "
1498             "involves a symbolic link", filename, directory);
1499           return FF_ERROR;
1500           }
1501         }
1502 #endif
1503       }
1504
1505 #ifdef EXIM_HAVE_OPENAT
1506     else
1507 #endif
1508       /* Open and stat the file */
1509       f = Ufopen(filename, "rb");
1510
1511     if (!f)
1512       {
1513       *error = string_open_failed("included file %s", filename);
1514       return FF_INCLUDEFAIL;
1515       }
1516
1517     if (fstat(fileno(f), &statbuf) != 0)
1518       {
1519       *error = string_sprintf("failed to stat included file %s: %s",
1520         filename, strerror(errno));
1521       (void)fclose(f);
1522       return FF_INCLUDEFAIL;
1523       }
1524
1525     /* If directory was checked, double check that we opened a regular file */
1526
1527     if (directory && (statbuf.st_mode & S_IFMT) != S_IFREG)
1528       {
1529       *error = string_sprintf("included file %s is not a regular file in "
1530         "the %s directory", filename, directory);
1531       return FF_ERROR;
1532       }
1533
1534     /* Get a buffer and read the contents */
1535
1536     if (statbuf.st_size > MAX_INCLUDE_SIZE)
1537       {
1538       *error = string_sprintf("included file %s is too big (max %d)",
1539         filename, MAX_INCLUDE_SIZE);
1540       return FF_ERROR;
1541       }
1542
1543     filebuf = store_get(statbuf.st_size + 1, is_tainted(filename));
1544     if (fread(filebuf, 1, statbuf.st_size, f) != statbuf.st_size)
1545       {
1546       *error = string_sprintf("error while reading included file %s: %s",
1547         filename, strerror(errno));
1548       (void)fclose(f);
1549       return FF_ERROR;
1550       }
1551     filebuf[statbuf.st_size] = 0;
1552     (void)fclose(f);
1553
1554     addr = NULL;
1555     frc = parse_forward_list(filebuf, options, &addr,
1556       error, incoming_domain, directory, syntax_errors);
1557     if (frc != FF_DELIVERED && frc != FF_NOTDELIVERED) return frc;
1558
1559     if (addr)
1560       {
1561       for (last = addr; last->next; last = last->next) count++;
1562       last->next = *anchor;
1563       *anchor = addr;
1564       count++;
1565       }
1566     }
1567
1568   /* Else (not :include:) ensure address is syntactically correct and fully
1569   qualified if not a pipe or a file, removing a leading \ if present on an
1570   unqualified address. For pipes and files we must handle quoting. It's
1571   not quite clear exactly what to do for partially quoted things, but the
1572   common case of having the whole thing in quotes is straightforward. If this
1573   was the case, inquote will have been set TRUE above and the quotes removed.
1574
1575   There is a possible ambiguity over addresses whose local parts start with
1576   a vertical bar or a slash, and the latter do in fact occur, thanks to X.400.
1577   Consider a .forward file that contains the line
1578
1579      /X=xxx/Y=xxx/OU=xxx/@some.gate.way
1580
1581   Is this a file or an X.400 address? Does it make any difference if it is in
1582   quotes? On the grounds that file names of this type are rare, Exim treats
1583   something that parses as an RFC 822 address and has a domain as an address
1584   rather than a file or a pipe. This is also how an address such as the above
1585   would be treated if it came in from outside. */
1586
1587   else
1588     {
1589     int start, end, domain;
1590     const uschar *recipient = NULL;
1591     uschar * s_ltd = string_copyn(s, len);
1592
1593     /* If it starts with \ and the rest of it parses as a valid mail address
1594     without a domain, carry on with that address, but qualify it with the
1595     incoming domain. Otherwise arrange for the address to fall through,
1596     causing an error message on the re-parse. */
1597
1598     if (*s_ltd == '\\')
1599       {
1600       recipient =
1601         parse_extract_address(s_ltd+1, error, &start, &end, &domain, FALSE);
1602       if (recipient)
1603         recipient = domain != 0 ? NULL :
1604           string_sprintf("%s@%s", recipient, incoming_domain);
1605       }
1606
1607     /* Try parsing the item as an address. */
1608
1609     if (!recipient) recipient =
1610       parse_extract_address(s_ltd, error, &start, &end, &domain, FALSE);
1611
1612     /* If item starts with / or | and is not a valid address, or there
1613     is no domain, treat it as a file or pipe. If it was a quoted item,
1614     remove the quoting occurrences of \ within it. */
1615
1616     if ((*s_ltd == '|' || *s_ltd == '/') && (recipient == NULL || domain == 0))
1617       {
1618       uschar *t = store_get(Ustrlen(s_ltd) + 1, is_tainted(s_ltd));
1619       uschar *p = t;
1620       uschar *q = s_ltd;
1621       while (*q != 0)
1622         {
1623         if (inquote)
1624           {
1625           *p++ = (*q == '\\')? *(++q) : *q;
1626           q++;
1627           }
1628         else *p++ = *q++;
1629         }
1630       *p = 0;
1631       addr = deliver_make_addr(t, TRUE);
1632       setflag(addr, af_pfr);                   /* indicates pipe/file/reply */
1633       if (*s_ltd != '|') setflag(addr, af_file);   /* indicates file */
1634       }
1635
1636     /* Item must be an address. Complain if not, else qualify, rewrite and set
1637     up the control block. It appears that people are in the habit of using
1638     empty addresses but with comments as a way of putting comments into
1639     alias and forward files. Therefore, ignore the error "empty address".
1640     Mailing lists might want to tolerate syntax errors; there is therefore
1641     an option to do so. */
1642
1643     else
1644       {
1645       if (!recipient)
1646         {
1647         if (Ustrcmp(*error, "empty address") == 0)
1648           {
1649           *error = NULL;
1650           s = nexts;
1651           continue;
1652           }
1653
1654         if (syntax_errors)
1655           {
1656           error_block *e = store_get(sizeof(error_block), FALSE);
1657           error_block *last = *syntax_errors;
1658           if (!last) *syntax_errors = e; else
1659             {
1660             while (last->next) last = last->next;
1661             last->next = e;
1662             }
1663           e->next = NULL;
1664           e->text1 = *error;
1665           e->text2 = s_ltd;
1666           s = nexts;
1667           continue;
1668           }
1669         else
1670           {
1671           *error = string_sprintf("%s in \"%s\"", *error, s_ltd);
1672           return FF_ERROR;
1673           }
1674         }
1675
1676       /* Address was successfully parsed. Rewrite, and then make an address
1677       block. */
1678
1679       recipient = ((options & RDO_REWRITE) != 0)?
1680         rewrite_address(recipient, TRUE, FALSE, global_rewrite_rules,
1681           rewrite_existflags) :
1682         rewrite_address_qualify(recipient, TRUE);       /*XXX loses track of const */
1683       addr = deliver_make_addr(US recipient, TRUE);  /* TRUE => copy recipient, so deconst ok */
1684       }
1685
1686     /* Add the original data to the output chain. */
1687
1688     addr->next = *anchor;
1689     *anchor = addr;
1690     count++;
1691     }
1692
1693   /* Advance pointer for the next address */
1694
1695   s = nexts;
1696   }
1697 }
1698
1699
1700 /*************************************************
1701 *            Extract a Message-ID                *
1702 *************************************************/
1703
1704 /* This function is used to extract message ids from In-Reply-To: and
1705 References: header lines.
1706
1707 Arguments:
1708   str          pointer to the start of the message-id
1709   yield        put pointer to the message id (in dynamic memory) here
1710   error        put error message here on failure
1711
1712 Returns:       points after the processed message-id or NULL on error
1713 */
1714
1715 const uschar *
1716 parse_message_id(const uschar *str, uschar **yield, uschar **error)
1717 {
1718 uschar *domain = NULL;
1719 uschar *id;
1720 rmark reset_point;
1721
1722 str = skip_comment(str);
1723 if (*str != '<')
1724   {
1725   *error = US"Missing '<' before message-id";
1726   return NULL;
1727   }
1728
1729 /* Getting a block the size of the input string will definitely be sufficient
1730 for the answer, but it may also be very long if we are processing a header
1731 line. Therefore, take care to release unwanted store afterwards. */
1732
1733 reset_point = store_mark();
1734 id = *yield = store_get(Ustrlen(str) + 1, is_tainted(str));
1735 *id++ = *str++;
1736
1737 str = read_addr_spec(str, id, '>', error, &domain);
1738
1739 if (!*error)
1740   {
1741   if (*str != '>') *error = US"Missing '>' after message-id";
1742     else if (domain == NULL) *error = US"domain missing in message-id";
1743   }
1744
1745 if (*error)
1746   {
1747   store_reset(reset_point);
1748   return NULL;
1749   }
1750
1751 while (*id) id++;
1752 *id++ = *str++;
1753 *id++ = 0;
1754 store_release_above(id);
1755
1756 return skip_comment(str);
1757 }
1758
1759
1760 /*************************************************
1761 *        Parse a fixed digit number              *
1762 *************************************************/
1763
1764 /* Parse a string containing an ASCII encoded fixed digits number
1765
1766 Arguments:
1767   str          pointer to the start of the ASCII encoded number
1768   n            pointer to the resulting value
1769   digits       number of required digits
1770
1771 Returns:       points after the processed date or NULL on error
1772 */
1773
1774 static const uschar *
1775 parse_number(const uschar *str, int *n, int digits)
1776 {
1777 *n=0;
1778 while (digits--)
1779   {
1780   if (*str<'0' || *str>'9') return NULL;
1781   *n=10*(*n)+(*str++-'0');
1782   }
1783 return str;
1784 }
1785
1786
1787 /*************************************************
1788 *        Parse a RFC 2822 day of week            *
1789 *************************************************/
1790
1791 /* Parse the day of the week from a RFC 2822 date, but do not
1792    decode it, because it is only for humans.
1793
1794 Arguments:
1795   str          pointer to the start of the day of the week
1796
1797 Returns:       points after the parsed day or NULL on error
1798 */
1799
1800 static const uschar *
1801 parse_day_of_week(const uschar * str)
1802 {
1803 /*
1804 day-of-week     =       ([FWS] day-name) / obs-day-of-week
1805
1806 day-name        =       "Mon" / "Tue" / "Wed" / "Thu" /
1807                         "Fri" / "Sat" / "Sun"
1808
1809 obs-day-of-week =       [CFWS] day-name [CFWS]
1810 */
1811
1812 static const uschar *day_name[7]={ US"mon", US"tue", US"wed", US"thu", US"fri", US"sat", US"sun" };
1813 int i;
1814 uschar day[4];
1815
1816 str = skip_comment(str);
1817 for (i = 0; i < 3; ++i)
1818   {
1819   if ((day[i] = tolower(*str)) == '\0') return NULL;
1820   ++str;
1821   }
1822 day[3] = '\0';
1823 for (i = 0; i<7; ++i) if (Ustrcmp(day,day_name[i]) == 0) break;
1824 if (i == 7) return NULL;
1825 return skip_comment(str);
1826 }
1827
1828
1829 /*************************************************
1830 *            Parse a RFC 2822 date               *
1831 *************************************************/
1832
1833 /* Parse the date part of a RFC 2822 date-time, extracting the
1834    day, month and year.
1835
1836 Arguments:
1837   str          pointer to the start of the date
1838   d            pointer to the resulting day
1839   m            pointer to the resulting month
1840   y            pointer to the resulting year
1841
1842 Returns:       points after the processed date or NULL on error
1843 */
1844
1845 static const uschar *
1846 parse_date(const uschar *str, int *d, int *m, int *y)
1847 {
1848 /*
1849 date            =       day month year
1850
1851 year            =       4*DIGIT / obs-year
1852
1853 obs-year        =       [CFWS] 2*DIGIT [CFWS]
1854
1855 month           =       (FWS month-name FWS) / obs-month
1856
1857 month-name      =       "Jan" / "Feb" / "Mar" / "Apr" /
1858                         "May" / "Jun" / "Jul" / "Aug" /
1859                         "Sep" / "Oct" / "Nov" / "Dec"
1860
1861 obs-month       =       CFWS month-name CFWS
1862
1863 day             =       ([FWS] 1*2DIGIT) / obs-day
1864
1865 obs-day         =       [CFWS] 1*2DIGIT [CFWS]
1866 */
1867
1868 const uschar * s, * n;
1869 static const uschar *month_name[]={ US"jan", US"feb", US"mar", US"apr", US"may", US"jun", US"jul", US"aug", US"sep", US"oct", US"nov", US"dec" };
1870 int i;
1871 uschar month[4];
1872
1873 str = skip_comment(str);
1874 if ((str = parse_number(str,d,1)) == NULL) return NULL;
1875
1876 if (*str>='0' && *str<='9') *d = 10*(*d)+(*str++-'0');
1877 s = skip_comment(str);
1878 if (s == str) return NULL;
1879 str = s;
1880
1881 for (i = 0; i<3; ++i) if ((month[i]=tolower(*(str+i))) == '\0') return NULL;
1882 month[3] = '\0';
1883 for (i = 0; i<12; ++i) if (Ustrcmp(month,month_name[i]) == 0) break;
1884 if (i == 12) return NULL;
1885 str+=3;
1886 *m = i;
1887 s = skip_comment(str);
1888 if (s == str) return NULL;
1889 str=s;
1890
1891 if ((n = parse_number(str,y,4)))
1892   {
1893   str = n;
1894   if (*y<1900) return NULL;
1895   *y = *y-1900;
1896   }
1897 else if ((n = parse_number(str,y,2)))
1898   {
1899   str = skip_comment(n);
1900   while (*(str-1) == ' ' || *(str-1) == '\t') --str; /* match last FWS later */
1901   if (*y<50) *y+=100;
1902   }
1903 else return NULL;
1904 return str;
1905 }
1906
1907
1908 /*************************************************
1909 *            Parse a RFC 2822 Time               *
1910 *************************************************/
1911
1912 /* Parse the time part of a RFC 2822 date-time, extracting the
1913    hour, minute, second and timezone.
1914
1915 Arguments:
1916   str          pointer to the start of the time
1917   h            pointer to the resulting hour
1918   m            pointer to the resulting minute
1919   s            pointer to the resulting second
1920   z            pointer to the resulting timezone (offset in seconds)
1921
1922 Returns:       points after the processed time or NULL on error
1923 */
1924
1925 static const uschar *
1926 parse_time(const uschar *str, int *h, int *m, int *s, int *z)
1927 {
1928 /*
1929 time            =       time-of-day FWS zone
1930
1931 time-of-day     =       hour ":" minute [ ":" second ]
1932
1933 hour            =       2DIGIT / obs-hour
1934
1935 obs-hour        =       [CFWS] 2DIGIT [CFWS]
1936
1937 minute          =       2DIGIT / obs-minute
1938
1939 obs-minute      =       [CFWS] 2DIGIT [CFWS]
1940
1941 second          =       2DIGIT / obs-second
1942
1943 obs-second      =       [CFWS] 2DIGIT [CFWS]
1944
1945 zone            =       (( "+" / "-" ) 4DIGIT) / obs-zone
1946
1947 obs-zone        =       "UT" / "GMT" /          ; Universal Time
1948                                                 ; North American UT
1949                                                 ; offsets
1950                         "EST" / "EDT" /         ; Eastern:  - 5/ - 4
1951                         "CST" / "CDT" /         ; Central:  - 6/ - 5
1952                         "MST" / "MDT" /         ; Mountain: - 7/ - 6
1953                         "PST" / "PDT" /         ; Pacific:  - 8/ - 7
1954
1955                         %d65-73 /               ; Military zones - "A"
1956                         %d75-90 /               ; through "I" and "K"
1957                         %d97-105 /              ; through "Z", both
1958                         %d107-122               ; upper and lower case
1959 */
1960
1961 const uschar * c;
1962
1963 str = skip_comment(str);
1964 if ((str = parse_number(str,h,2)) == NULL) return NULL;
1965 str = skip_comment(str);
1966 if (*str!=':') return NULL;
1967 ++str;
1968 str = skip_comment(str);
1969 if ((str = parse_number(str,m,2)) == NULL) return NULL;
1970 c = skip_comment(str);
1971 if (*str == ':')
1972   {
1973   ++str;
1974   str = skip_comment(str);
1975   if ((str = parse_number(str,s,2)) == NULL) return NULL;
1976   c = skip_comment(str);
1977   }
1978 if (c == str) return NULL;
1979 else str=c;
1980 if (*str == '+' || *str == '-')
1981   {
1982   int neg;
1983
1984   neg = (*str == '-');
1985   ++str;
1986   if ((str = parse_number(str,z,4)) == NULL) return NULL;
1987   *z = (*z/100)*3600+(*z%100)*60;
1988   if (neg) *z = -*z;
1989   }
1990 else
1991   {
1992   char zone[5];
1993   struct { const char *name; int off; } zone_name[10] =
1994   { {"gmt",0}, {"ut",0}, {"est",-5}, {"edt",-4}, {"cst",-6}, {"cdt",-5}, {"mst",-7}, {"mdt",-6}, {"pst",-8}, {"pdt",-7}};
1995   int i,j;
1996
1997   for (i = 0; i<4; ++i)
1998     {
1999     zone[i] = tolower(*(str+i));
2000     if (zone[i]<'a' || zone[i]>'z') break;
2001     }
2002   zone[i] = '\0';
2003   for (j = 0; j<10 && strcmp(zone,zone_name[j].name); ++j);
2004   /* Besides zones named in the grammar, RFC 2822 says other alphabetic */
2005   /* time zones should be treated as unknown offsets. */
2006   if (j<10)
2007     {
2008     *z = zone_name[j].off*3600;
2009     str+=i;
2010     }
2011   else if (zone[0]<'a' || zone[1]>'z') return 0;
2012   else
2013     {
2014     while ((*str>='a' && *str<='z') || (*str>='A' && *str<='Z')) ++str;
2015     *z = 0;
2016     }
2017   }
2018 return str;
2019 }
2020
2021
2022 /*************************************************
2023 *          Parse a RFC 2822 date-time            *
2024 *************************************************/
2025
2026 /* Parse a RFC 2822 date-time and return it in seconds since the epoch.
2027
2028 Arguments:
2029   str          pointer to the start of the date-time
2030   t            pointer to the parsed time
2031
2032 Returns:       points after the processed date-time or NULL on error
2033 */
2034
2035 const uschar *
2036 parse_date_time(const uschar *str, time_t *t)
2037 {
2038 /*
2039 date-time       =       [ day-of-week "," ] date FWS time [CFWS]
2040 */
2041
2042 struct tm tm;
2043 int zone;
2044 extern char **environ;
2045 char **old_environ;
2046 static char gmt0[]="TZ=GMT0";
2047 static char *gmt_env[]={ gmt0, (char*)0 };
2048 const uschar * try;
2049
2050 if ((try = parse_day_of_week(str)))
2051   {
2052   str = try;
2053   if (*str!=',') return 0;
2054   ++str;
2055   }
2056 if ((str = parse_date(str,&tm.tm_mday,&tm.tm_mon,&tm.tm_year)) == NULL) return NULL;
2057 if (*str!=' ' && *str!='\t') return NULL;
2058 while (*str == ' ' || *str == '\t') ++str;
2059 if ((str = parse_time(str,&tm.tm_hour,&tm.tm_min,&tm.tm_sec,&zone)) == NULL) return NULL;
2060 tm.tm_isdst = 0;
2061 old_environ = environ;
2062 environ = gmt_env;
2063 *t = mktime(&tm);
2064 environ = old_environ;
2065 if (*t == -1) return NULL;
2066 *t-=zone;
2067 return skip_comment(str);
2068 }
2069
2070
2071
2072
2073 /*************************************************
2074 **************************************************
2075 *             Stand-alone test program           *
2076 **************************************************
2077 *************************************************/
2078
2079 #if defined STAND_ALONE
2080 int main(void)
2081 {
2082 int start, end, domain;
2083 uschar buffer[1024];
2084
2085 store_init();
2086 big_buffer = store_malloc(big_buffer_size);
2087
2088 /* strip_trailing_dot = TRUE; */
2089 allow_domain_literals = TRUE;
2090
2091 printf("Testing parse_fix_phrase\n");
2092
2093 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2094   {
2095   buffer[Ustrlen(buffer)-1] = 0;
2096   if (buffer[0] == 0) break;
2097   printf("%s\n", CS parse_fix_phrase(buffer, Ustrlen(buffer)));
2098   }
2099
2100 printf("Testing parse_extract_address without group syntax and without UTF-8\n");
2101
2102 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2103   {
2104   uschar *out;
2105   uschar *errmess;
2106   buffer[Ustrlen(buffer) - 1] = 0;
2107   if (buffer[0] == 0) break;
2108   out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2109   if (!out)
2110     printf("*** bad address: %s\n", errmess);
2111   else
2112     {
2113     uschar extract[1024];
2114     Ustrncpy(extract, buffer+start, end-start);
2115     extract[end-start] = 0;
2116     printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2117     }
2118   }
2119
2120 printf("Testing parse_extract_address without group syntax but with UTF-8\n");
2121
2122 allow_utf8_domains = TRUE;
2123 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2124   {
2125   uschar *out;
2126   uschar *errmess;
2127   buffer[Ustrlen(buffer) - 1] = 0;
2128   if (buffer[0] == 0) break;
2129   out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2130   if (!out)
2131     printf("*** bad address: %s\n", errmess);
2132   else
2133     {
2134     uschar extract[1024];
2135     Ustrncpy(extract, buffer+start, end-start);
2136     extract[end-start] = 0;
2137     printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2138     }
2139   }
2140 allow_utf8_domains = FALSE;
2141
2142 printf("Testing parse_extract_address with group syntax\n");
2143
2144 f.parse_allow_group = TRUE;
2145 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2146   {
2147   uschar *out;
2148   uschar *errmess;
2149   uschar *s;
2150   buffer[Ustrlen(buffer) - 1] = 0;
2151   if (buffer[0] == 0) break;
2152   s = buffer;
2153   while (*s)
2154     {
2155     uschar *ss = parse_find_address_end(s, FALSE);
2156     int terminator = *ss;
2157     *ss = 0;
2158     out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2159     *ss = terminator;
2160
2161     if (!out)
2162       printf("*** bad address: %s\n", errmess);
2163     else
2164       {
2165       uschar extract[1024];
2166       Ustrncpy(extract, buffer+start, end-start);
2167       extract[end-start] = 0;
2168       printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2169       }
2170
2171     s = ss + (terminator? 1:0);
2172     Uskip_whitespace(&s);
2173     }
2174   }
2175
2176 printf("Testing parse_find_at\n");
2177
2178 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2179   {
2180   uschar *s;
2181   buffer[Ustrlen(buffer)-1] = 0;
2182   if (buffer[0] == 0) break;
2183   s = parse_find_at(buffer);
2184   if (s == NULL) printf("no @ found\n");
2185     else printf("offset = %d\n", s - buffer);
2186   }
2187
2188 printf("Testing parse_extract_addresses\n");
2189
2190 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2191   {
2192   uschar *errmess;
2193   int extracted;
2194   address_item *anchor = NULL;
2195   buffer[Ustrlen(buffer) - 1] = 0;
2196   if (buffer[0] == 0) break;
2197   if ((extracted = parse_forward_list(buffer, -1, &anchor,
2198       &errmess, US"incoming.domain", NULL, NULL)) == FF_DELIVERED)
2199     {
2200     while (anchor != NULL)
2201       {
2202       address_item *addr = anchor;
2203       anchor = anchor->next;
2204       printf("%d %s\n", testflag(addr, af_pfr), addr->address);
2205       }
2206     }
2207   else printf("Failed: %d %s\n", extracted, errmess);
2208   }
2209
2210 printf("Testing parse_message_id\n");
2211
2212 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2213   {
2214   uschar *s, *t, *errmess;
2215   buffer[Ustrlen(buffer) - 1] = 0;
2216   if (buffer[0] == 0) break;
2217   s = buffer;
2218   while (*s != 0)
2219     {
2220     s = parse_message_id(s, &t, &errmess);
2221     if (errmess != NULL)
2222       {
2223       printf("Failed: %s\n", errmess);
2224       break;
2225       }
2226     printf("%s\n", t);
2227     }
2228   }
2229
2230 return 0;
2231 }
2232
2233 #endif
2234
2235 /* End of parse.c */