Fix include_directory in redirect routers. Bug 2715
[exim.git] / src / src / parse.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2018 */
6 /* Copyright (c) The Exim Maintainers 2020 - 2021 */
7 /* See the file NOTICE for conditions of use and distribution. */
8
9 /* Functions for parsing addresses */
10
11
12 #include "exim.h"
13
14
15 static const uschar *last_comment_position;
16
17
18
19 /* In stand-alone mode, provide a replacement for deliver_make_addr()
20 and rewrite_address[_qualify]() so as to avoid having to drag in too much
21 redundant apparatus. */
22
23 #ifdef STAND_ALONE
24
25 address_item *deliver_make_addr(uschar *address, BOOL copy)
26 {
27 address_item *addr = store_get(sizeof(address_item), FALSE);
28 addr->next = NULL;
29 addr->parent = NULL;
30 addr->address = address;
31 return addr;
32 }
33
34 uschar *rewrite_address(uschar *recipient, BOOL dummy1, BOOL dummy2, rewrite_rule
35   *dummy3, int dummy4)
36 {
37 return recipient;
38 }
39
40 uschar *rewrite_address_qualify(uschar *recipient, BOOL dummy1)
41 {
42 return recipient;
43 }
44
45 #endif
46
47
48
49
50 /*************************************************
51 *             Find the end of an address         *
52 *************************************************/
53
54 /* Scan over a string looking for the termination of an address at a comma,
55 or end of the string. It's the source-routed addresses which cause much pain
56 here. Although Exim ignores source routes, it must recognize such addresses, so
57 we cannot get rid of this logic.
58
59 Argument:
60   s        pointer to the start of an address
61   nl_ends  if TRUE, '\n' terminates an address
62
63 Returns:   pointer past the end of the address
64            (i.e. points to null or comma)
65 */
66
67 uschar *
68 parse_find_address_end(const uschar *s, BOOL nl_ends)
69 {
70 BOOL source_routing = *s == '@';
71 int no_term = source_routing? 1 : 0;
72
73 while (*s != 0 && (*s != ',' || no_term > 0) && (*s != '\n' || !nl_ends))
74   {
75   /* Skip single quoted characters. Strictly these should not occur outside
76   quoted strings in RFC 822 addresses, but they can in RFC 821 addresses. Pity
77   about the lack of consistency, isn't it? */
78
79   if (*s == '\\' && s[1] != 0) s += 2;
80
81   /* Skip quoted items that are not inside brackets. Note that
82   quoted pairs are allowed inside quoted strings. */
83
84   else if (*s == '\"')
85     {
86     while (*(++s) != 0 && (*s != '\n' || !nl_ends))
87       {
88       if (*s == '\\' && s[1] != 0) s++;
89         else if (*s == '\"') { s++; break; }
90       }
91     }
92
93   /* Skip comments, which may include nested brackets, but quotes
94   are not recognized inside comments, though quoted pairs are. */
95
96   else if (*s == '(')
97     {
98     int level = 1;
99     while (*(++s) != 0 && (*s != '\n' || !nl_ends))
100       {
101       if (*s == '\\' && s[1] != 0) s++;
102         else if (*s == '(') level++;
103           else if (*s == ')' && --level <= 0) { s++; break; }
104       }
105     }
106
107   /* Non-special character; just advance. Passing the colon in a source
108   routed address means that any subsequent comma or colon may terminate unless
109   inside angle brackets. */
110
111   else
112     {
113     if (*s == '<')
114       {
115       source_routing = s[1] == '@';
116       no_term = source_routing? 2 : 1;
117       }
118     else if (*s == '>') no_term--;
119     else if (source_routing && *s == ':') no_term--;
120     s++;
121     }
122   }
123
124 return US s;
125 }
126
127
128
129 /*************************************************
130 *            Find last @ in an address           *
131 *************************************************/
132
133 /* This function is used when we have something that may not qualified. If we
134 know it's qualified, searching for the rightmost '@' is sufficient. Here we
135 have to be a bit more clever than just a plain search, in order to handle
136 unqualified local parts like "thing@thong" correctly. Since quotes may not
137 legally be part of a domain name, we can give up on hitting the first quote
138 when searching from the right. Now that the parsing also permits the RFC 821
139 form of address, where quoted-pairs are allowed in unquoted local parts, we
140 must take care to handle that too.
141
142 Argument:  pointer to an address, possibly unqualified
143 Returns:   pointer to the last @ in an address, or NULL if none
144 */
145
146 const uschar *
147 parse_find_at(const uschar *s)
148 {
149 const uschar * t = s + Ustrlen(s);
150 while (--t >= s)
151   if (*t == '@')
152     {
153     int backslash_count = 0;
154     const uschar *tt = t - 1;
155     while (tt > s && *tt-- == '\\') backslash_count++;
156     if ((backslash_count & 1) == 0) return t;
157     }
158   else if (*t == '\"')
159     return NULL;
160
161 return NULL;
162 }
163
164
165
166
167 /***************************************************************************
168 * In all the functions below that read a particular object type from       *
169 * the input, return the new value of the pointer s (the first argument),   *
170 * and put the object into the store pointed to by t (the second argument), *
171 * adding a terminating zero. If no object is found, t will point to zero   *
172 * on return.                                                               *
173 ***************************************************************************/
174
175
176 /*************************************************
177 *          Skip white space and comment          *
178 *************************************************/
179
180 /* Algorithm:
181   (1) Skip spaces.
182   (2) If uschar not '(', return.
183   (3) Skip till matching ')', not counting any characters
184       escaped with '\'.
185   (4) Move past ')' and goto (1).
186
187 The start of the last potential comment position is remembered to
188 make it possible to ignore comments at the end of compound items.
189
190 Argument: current character pointer
191 Returns:  new character pointer
192 */
193
194 static const uschar *
195 skip_comment(const uschar *s)
196 {
197 last_comment_position = s;
198 while (*s)
199   {
200   int c, level;
201
202   if (Uskip_whitespace(&s) != '(') break;
203   level = 1;
204   while((c = *(++s)))
205     {
206     if (c == '(') level++;
207     else if (c == ')') { if (--level <= 0) { s++; break; } }
208     else if (c == '\\' && s[1] != 0) s++;
209     }
210   }
211 return s;
212 }
213
214
215
216 /*************************************************
217 *             Read a domain                      *
218 *************************************************/
219
220 /* A domain is a sequence of subdomains, separated by dots. See comments below
221 for detailed syntax of the subdomains.
222
223 If allow_domain_literals is TRUE, a "domain" may also be an IP address enclosed
224 in []. Make sure the output is set to the null string if there is a syntax
225 error as well as if there is no domain at all.
226
227 Optionally, msg_id domain literals ( printable-ascii enclosed in [] )
228 are permitted.
229
230 Arguments:
231   s          current character pointer
232   t          where to put the domain
233   msg_id_literals     flag for relaxed domain-literal processing
234   errorptr   put error message here on failure (*t will be 0 on exit)
235
236 Returns:     new character pointer
237 */
238
239 static const uschar *
240 read_domain(const uschar *s, uschar *t, BOOL msg_id_literals, uschar **errorptr)
241 {
242 uschar *tt = t;
243 s = skip_comment(s);
244
245 /* Handle domain literals if permitted. An RFC 822 domain literal may contain
246 any character except [ ] \, including linear white space, and may contain
247 quoted characters. However, RFC 821 restricts literals to being dot-separated
248 3-digit numbers, and we make the obvious extension for IPv6. Go for a sequence
249 of digits, dots, hex digits, and colons here; later this will be checked for
250 being a syntactically valid IP address if it ever gets to a router.
251
252 Allow both the formal IPv6 form, with IPV6: at the start, and the informal form
253 without it, and accept IPV4: as well, 'cause someone will use it sooner or
254 later. */
255
256 if (*s == '[')
257   {
258   *t++ = *s++;
259
260   if (strncmpic(s, US"IPv6:", 5) == 0 || strncmpic(s, US"IPv4:", 5) == 0)
261     {
262     memcpy(t, s, 5);
263     t += 5;
264     s += 5;
265     }
266
267   if (msg_id_literals)
268     while (*s >= 33 && *s <= 90 || *s >= 94 && *s <= 126) *t++ = *s++;
269   else
270     while (*s == '.' || *s == ':' || isxdigit(*s)) *t++ = *s++;
271
272   if (*s == ']') *t++ = *s++; else
273     {
274     *errorptr = US"malformed domain literal";
275     *tt = 0;
276     }
277
278   if (!allow_domain_literals && !msg_id_literals)
279     {
280     *errorptr = US"domain literals not allowed";
281     *tt = 0;
282     }
283   *t = 0;
284   return skip_comment(s);
285   }
286
287 /* Handle a proper domain, which is a sequence of dot-separated atoms. Remove
288 trailing dots if strip_trailing_dot is set. A subdomain is an atom.
289
290 An atom is a sequence of any characters except specials, space, and controls.
291 The specials are ( ) < > @ , ; : \ " . [ and ]. This is the rule for RFC 822
292 and its successor (RFC 2822). However, RFC 821 and its successor (RFC 2821) is
293 tighter, allowing only letters, digits, and hyphens, not starting with a
294 hyphen.
295
296 There used to be a global flag that got set when checking addresses that came
297 in over SMTP and which should therefore should be checked according to the
298 stricter rule. However, it seems silly to make the distinction, because I don't
299 suppose anybody ever uses local domains that are 822-compliant and not
300 821-compliant. Furthermore, Exim now has additional data on the spool file line
301 after an address (after "one_time" processing), and it makes use of a #
302 character to delimit it. When I wrote that code, I forgot about this 822-domain
303 stuff, and assumed # could never appear in a domain.
304
305 So the old code is now cut out for Release 4.11 onwards, on 09-Aug-02. In a few
306 years, when we are sure this isn't actually causing trouble, throw it away.
307
308 March 2003: the story continues: There is a camp that is arguing for the use of
309 UTF-8 in domain names as the way to internationalization, and other MTAs
310 support this. Therefore, we now have a flag that permits the use of characters
311 with values greater than 127, encoded in UTF-8, in subdomains, so that Exim can
312 be used experimentally in this way. */
313
314 for (;;)
315   {
316   uschar *tsave = t;
317
318 /*********************
319   if (rfc821_domains)
320     {
321     if (*s != '-') while (isalnum(*s) || *s == '-') *t++ = *s++;
322     }
323   else
324     while (!mac_iscntrl_or_special(*s)) *t++ = *s++;
325 *********************/
326
327   if (*s != '-')
328     {
329     /* Only letters, digits, and hyphens */
330
331     if (!allow_utf8_domains)
332       {
333       while (isalnum(*s) || *s == '-') *t++ = *s++;
334       }
335
336     /* Permit legal UTF-8 characters to be included */
337
338     else for(;;)
339       {
340       int i, d;
341       if (isalnum(*s) || *s == '-')    /* legal ascii characters */
342         {
343         *t++ = *s++;
344         continue;
345         }
346       if ((*s & 0xc0) != 0xc0) break;  /* not start of UTF-8 character */
347       d = *s << 2;
348       for (i = 1; i < 6; i++)          /* i is the number of additional bytes */
349         {
350         if ((d & 0x80) == 0) break;
351         d <<= 1;
352         }
353       if (i == 6) goto BAD_UTF8;       /* invalid UTF-8 */
354       *t++ = *s++;                     /* leading UTF-8 byte */
355       while (i-- > 0)                  /* copy and check remainder */
356         {
357         if ((*s & 0xc0) != 0x80)
358           {
359           BAD_UTF8:
360           *errorptr = US"invalid UTF-8 byte sequence";
361           *tt = 0;
362           return s;
363           }
364         *t++ = *s++;
365         }
366       }    /* End of loop for UTF-8 character */
367     }      /* End of subdomain */
368
369   s = skip_comment(s);
370   *t = 0;
371
372   if (t == tsave)   /* empty component */
373     {
374     if (strip_trailing_dot && t > tt && *s != '.') t[-1] = 0; else
375       {
376       *errorptr = US"domain missing or malformed";
377       *tt = 0;
378       }
379     return s;
380     }
381
382   if (*s != '.') break;
383   *t++ = *s++;
384   s = skip_comment(s);
385   }
386
387 return s;
388 }
389
390
391
392 /*************************************************
393 *            Read a local-part                   *
394 *************************************************/
395
396 /* A local-part is a sequence of words, separated by periods. A null word
397 between dots is not strictly allowed but apparently many mailers permit it,
398 so, sigh, better be compatible. Even accept a trailing dot...
399
400 A <word> is either a quoted string, or an <atom>, which is a sequence
401 of any characters except specials, space, and controls. The specials are
402 ( ) < > @ , ; : \ " . [ and ]. In RFC 822, a single quoted character, (a
403 quoted-pair) is not allowed in a word. However, in RFC 821, it is permitted in
404 the local part of an address. Rather than have separate parsing functions for
405 the different cases, take the liberal attitude always. At least one MUA is
406 happy to recognize this case; I don't know how many other programs do.
407
408 Arguments:
409   s           current character pointer
410   t           where to put the local part
411   error       where to point error text
412   allow_null  TRUE if an empty local part is not an error
413
414 Returns:   new character pointer
415 */
416
417 static const uschar *
418 read_local_part(const uschar *s, uschar *t, uschar **error, BOOL allow_null)
419 {
420 uschar *tt = t;
421 *error = NULL;
422 for (;;)
423   {
424   int c;
425   uschar *tsave = t;
426   s = skip_comment(s);
427
428   /* Handle a quoted string */
429
430   if (*s == '\"')
431     {
432     *t++ = '\"';
433     while ((c = *++s) && c != '\"')
434       {
435       *t++ = c;
436       if (c == '\\' && s[1]) *t++ = *++s;
437       }
438     if (c == '\"')
439       {
440       s++;
441       *t++ = '\"';
442       }
443     else
444       {
445       *error = US"unmatched doublequote in local part";
446       return s;
447       }
448     }
449
450   /* Handle an atom, but allow quoted pairs within it. */
451
452   else while (!mac_iscntrl_or_special(*s) || *s == '\\')
453     {
454     c = *t++ = *s++;
455     if (c == '\\' && *s) *t++ = *s++;
456     }
457
458   /* Terminate the word and skip subsequent comment */
459
460   *t = 0;
461   s = skip_comment(s);
462
463   /* If we have read a null component at this point, give an error unless it is
464   terminated by a dot - an extension to RFC 822 - or if it is the first
465   component of the local part and an empty local part is permitted, in which
466   case just return normally. */
467
468   if (t == tsave && *s != '.')
469     {
470     if (t == tt && !allow_null)
471       *error = US"missing or malformed local part";
472     return s;
473     }
474
475   /* Anything other than a dot terminates the local part. Treat multiple dots
476   as a single dot, as this seems to be a common extension. */
477
478   if (*s != '.') break;
479   do { *t++ = *s++; } while (*s == '.');
480   }
481
482 return s;
483 }
484
485
486 /*************************************************
487 *            Read route part of route-addr       *
488 *************************************************/
489
490 /* The pointer is at the initial "@" on entry. Return it following the
491 terminating colon. Exim no longer supports the use of source routes, but it is
492 required to accept the syntax.
493
494 Arguments:
495   s          current character pointer
496   t          where to put the route
497   errorptr   where to put an error message
498
499 Returns:     new character pointer
500 */
501
502 static const uschar *
503 read_route(const uschar *s, uschar *t, uschar **errorptr)
504 {
505 BOOL commas = FALSE;
506 *errorptr = NULL;
507
508 while (*s == '@')
509   {
510   *t++ = '@';
511   s = read_domain(s+1, t, FALSE, errorptr);
512   if (*t == 0) return s;
513   t += Ustrlen((const uschar *)t);
514   if (*s != ',') break;
515   *t++ = *s++;
516   commas = TRUE;
517   s = skip_comment(s);
518   }
519
520 if (*s == ':') *t++ = *s++;
521
522 /* If there is no colon, and there were no commas, the most likely error
523 is in fact a missing local part in the address rather than a missing colon
524 after the route. */
525
526 else *errorptr = commas?
527   US"colon expected after route list" :
528   US"no local part";
529
530 /* Terminate the route and return */
531
532 *t = 0;
533 return skip_comment(s);
534 }
535
536
537
538 /*************************************************
539 *                Read addr-spec                  *
540 *************************************************/
541
542 /* Addr-spec is local-part@domain. We make the domain optional -
543 the expected terminator for the whole thing is passed to check this.
544 This function is called only when we know we have a route-addr.
545
546 Arguments:
547   s          current character pointer
548   t          where to put the addr-spec
549   term       expected terminator (0 or >)
550   errorptr   where to put an error message
551   domainptr  set to point to the start of the domain
552
553 Returns:     new character pointer
554 */
555
556 static const uschar *
557 read_addr_spec(const uschar *s, uschar *t, int term, uschar **errorptr,
558   uschar **domainptr)
559 {
560 s = read_local_part(s, t, errorptr, FALSE);
561 if (*errorptr == NULL)
562   if (*s != term)
563     if (*s != '@')
564       *errorptr = string_sprintf("\"@\" or \".\" expected after \"%s\"", t);
565     else
566       {
567       t += Ustrlen((const uschar *)t);
568       *t++ = *s++;
569       *domainptr = t;
570       s = read_domain(s, t, FALSE, errorptr);
571       }
572 return s;
573 }
574
575
576
577 /*************************************************
578 *         Extract operative address              *
579 *************************************************/
580
581 /* This function extracts an operative address from a full RFC822 mailbox and
582 returns it in a piece of dynamic store. We take the easy way and get a piece
583 of store the same size as the input, and then copy into it whatever is
584 necessary. If we cannot find a valid address (syntax error), return NULL, and
585 point the error pointer to the reason. The arguments "start" and "end" are used
586 to return the offsets of the first and one past the last characters in the
587 original mailbox of the address that has been extracted, to aid in re-writing.
588 The argument "domain" is set to point to the first character after "@" in the
589 final part of the returned address, or zero if there is no @.
590
591 Exim no longer supports the use of source routed addresses (those of the form
592 @domain,...:route_addr). It recognizes the syntax, but collapses such addresses
593 down to their final components. Formerly, collapse_source_routes had to be set
594 to achieve this effect. RFC 1123 allows collapsing with MAY, while the revision
595 of RFC 821 had increased this to SHOULD, so I've gone for it, because it makes
596 a lot of code elsewhere in Exim much simpler.
597
598 There are some special fudges here for handling RFC 822 group address notation
599 which may appear in certain headers. If the flag parse_allow_group is set
600 TRUE and parse_found_group is FALSE when this function is called, an address
601 which is the start of a group (i.e. preceded by a phrase and a colon) is
602 recognized; the phrase is ignored and the flag parse_found_group is set. If
603 this flag is TRUE at the end of an address, and if an extraneous semicolon is
604 found, it is ignored and the flag is cleared.
605
606 This logic is used only when scanning through addresses in headers, either to
607 fulfil the -t option, or for rewriting, or for checking header syntax. Because
608 the group "state" has to be remembered between multiple calls of this function,
609 the variables parse_{allow,found}_group are global. It is important to ensure
610 that they are reset to FALSE at the end of scanning a header's list of
611 addresses.
612
613 Arguments:
614   mailbox     points to the RFC822 mailbox
615   errorptr    where to point an error message
616   start       set to start offset in mailbox
617   end         set to end offset in mailbox
618   domain      set to domain offset in result, or 0 if no domain present
619   allow_null  allow <> if TRUE
620
621 Returns:      points to the extracted address, or NULL on error
622 */
623
624 #define FAILED(s) { *errorptr = s; goto PARSE_FAILED; }
625
626 uschar *
627 parse_extract_address(const uschar *mailbox, uschar **errorptr, int *start, int *end,
628   int *domain, BOOL allow_null)
629 {
630 uschar *yield = store_get(Ustrlen(mailbox) + 1, is_tainted(mailbox));
631 const uschar *startptr, *endptr;
632 const uschar *s = US mailbox;
633 uschar *t = US yield;
634
635 *domain = 0;
636
637 /* At the start of the string we expect either an addr-spec or a phrase
638 preceding a <route-addr>. If groups are allowed, we might also find a phrase
639 preceding a colon and an address. If we find an initial word followed by
640 a dot, strict interpretation of the RFC would cause it to be taken
641 as the start of an addr-spec. However, many mailers break the rules
642 and use addresses of the form "a.n.other <ano@somewhere>" and so we
643 allow this case. */
644
645 RESTART:   /* Come back here after passing a group name */
646
647 s = skip_comment(s);
648 startptr = s;                                 /* In case addr-spec */
649 s = read_local_part(s, t, errorptr, TRUE);    /* Dot separated words */
650 if (*errorptr) goto PARSE_FAILED;
651
652 /* If the terminator is neither < nor @ then the format of the address
653 must either be a bare local-part (we are now at the end), or a phrase
654 followed by a route-addr (more words must follow). */
655
656 if (*s != '@' && *s != '<')
657   {
658   if (*s == 0 || *s == ';')
659     {
660     if (!*t) FAILED(US"empty address");
661     endptr = last_comment_position;
662     goto PARSE_SUCCEEDED;              /* Bare local part */
663     }
664
665   /* Expect phrase route-addr, or phrase : if groups permitted, but allow
666   dots in the phrase; complete the loop only when '<' or ':' is encountered -
667   end of string will produce a null local_part and therefore fail. We don't
668   need to keep updating t, as the phrase isn't to be kept. */
669
670   while (*s != '<' && (!f.parse_allow_group || *s != ':'))
671     {
672     s = read_local_part(s, t, errorptr, FALSE);
673     if (*errorptr)
674       {
675       *errorptr = string_sprintf("%s (expected word or \"<\")", *errorptr);
676       goto PARSE_FAILED;
677       }
678     }
679
680   if (*s == ':')
681     {
682     f.parse_found_group = TRUE;
683     f.parse_allow_group = FALSE;
684     s++;
685     goto RESTART;
686     }
687
688   /* Assert *s == '<' */
689   }
690
691 /* At this point the next character is either '@' or '<'. If it is '@', only a
692 single local-part has previously been read. An angle bracket signifies the
693 start of an <addr-spec>. Throw away anything we have saved so far before
694 processing it. Note that this is "if" rather than "else if" because it's also
695 used after reading a preceding phrase.
696
697 There are a lot of broken sendmails out there that put additional pairs of <>
698 round <route-addr>s.  If strip_excess_angle_brackets is set, allow a limited
699 number of them, as long as they match. */
700
701 if (*s == '<')
702   {
703   uschar *domainptr = yield;
704   BOOL source_routed = FALSE;
705   int bracket_count = 1;
706
707   s++;
708   if (strip_excess_angle_brackets) while (*s == '<')
709    {
710    if(bracket_count++ > 5) FAILED(US"angle-brackets nested too deep");
711    s++;
712    }
713
714   t = yield;
715   startptr = s;
716   s = skip_comment(s);
717
718   /* Read an optional series of routes, each of which is a domain. They
719   are separated by commas and terminated by a colon. However, we totally ignore
720   such routes (RFC 1123 says we MAY, and the revision of RFC 821 says we
721   SHOULD). */
722
723   if (*s == '@')
724     {
725     s = read_route(s, t, errorptr);
726     if (*errorptr) goto PARSE_FAILED;
727     *t = 0;                  /* Ensure route is ignored - probably overkill */
728     source_routed = TRUE;
729     }
730
731   /* Now an addr-spec, terminated by '>'. If there is no preceding route,
732   we must allow an empty addr-spec if allow_null is TRUE, to permit the
733   address "<>" in some circumstances. A source-routed address MUST have
734   a domain in the final part. */
735
736   if (allow_null && !source_routed && *s == '>')
737     {
738     *t = 0;
739     *errorptr = NULL;
740     }
741   else
742     {
743     s = read_addr_spec(s, t, '>', errorptr, &domainptr);
744     if (*errorptr) goto PARSE_FAILED;
745     *domain = domainptr - yield;
746     if (source_routed && *domain == 0)
747       FAILED(US"domain missing in source-routed address");
748     }
749
750   endptr = s;
751   if (*errorptr) goto PARSE_FAILED;
752   while (bracket_count-- > 0) if (*s++ != '>')
753     {
754     *errorptr = s[-1] == 0
755       ? US"'>' missing at end of address"
756       : string_sprintf("malformed address: %.32s may not follow %.*s",
757           s-1, (int)(s - US mailbox - 1), mailbox);
758     goto PARSE_FAILED;
759     }
760
761   s = skip_comment(s);
762   }
763
764 /* Hitting '@' after the first local-part means we have definitely got an
765 addr-spec, on a strict reading of the RFC, and the rest of the string
766 should be the domain. However, for flexibility we allow for a route-address
767 not enclosed in <> as well, which is indicated by an empty first local
768 part preceding '@'. The source routing is, however, ignored. */
769
770 else if (!*t)
771   {
772   uschar *domainptr = yield;
773   s = read_route(s, t, errorptr);
774   if (*errorptr) goto PARSE_FAILED;
775   *t = 0;         /* Ensure route is ignored - probably overkill */
776   s = read_addr_spec(s, t, 0, errorptr, &domainptr);
777   if (*errorptr) goto PARSE_FAILED;
778   *domain = domainptr - yield;
779   endptr = last_comment_position;
780   if (*domain == 0) FAILED(US"domain missing in source-routed address");
781   }
782
783 /* This is the strict case of local-part@domain. */
784
785 else
786   {
787   t += Ustrlen((const uschar *)t);
788   *t++ = *s++;
789   *domain = t - yield;
790   s = read_domain(s, t, TRUE, errorptr);
791   if (!*t) goto PARSE_FAILED;
792   endptr = last_comment_position;
793   }
794
795 /* Use goto to get here from the bare local part case. Arrive by falling
796 through for other cases. Endptr may have been moved over whitespace, so
797 move it back past white space if necessary. */
798
799 PARSE_SUCCEEDED:
800 if (*s)
801   {
802   if (f.parse_found_group && *s == ';')
803     {
804     f.parse_found_group = FALSE;
805     f.parse_allow_group = TRUE;
806     }
807   else
808     {
809     *errorptr = string_sprintf("malformed address: %.32s may not follow %.*s",
810       s, (int)(s - US mailbox), mailbox);
811     goto PARSE_FAILED;
812     }
813   }
814 *start = startptr - US mailbox;      /* Return offsets */
815 while (isspace(endptr[-1])) endptr--;
816 *end = endptr - US mailbox;
817
818 /* Although this code has no limitation on the length of address extracted,
819 other parts of Exim may have limits, and in any case, RFC 5321 limits email
820 addresses to 256, so we do a check here, giving an error if the address is
821 ridiculously long. */
822
823 if (*end - *start > EXIM_EMAILADDR_MAX)
824   {
825   *errorptr = string_sprintf("address is ridiculously long: %.64s...", yield);
826   return NULL;
827   }
828
829 return yield;
830
831 /* Use goto (via the macro FAILED) to get to here from a variety of places.
832 We might have an empty address in a group - the caller can choose to ignore
833 this. We must, however, keep the flags correct. */
834
835 PARSE_FAILED:
836 if (f.parse_found_group && *s == ';')
837   {
838   f.parse_found_group = FALSE;
839   f.parse_allow_group = TRUE;
840   }
841 return NULL;
842 }
843
844 #undef FAILED
845
846
847
848 /*************************************************
849 *        Quote according to RFC 2047             *
850 *************************************************/
851
852 /* This function is used for quoting text in headers according to RFC 2047.
853 If the only characters that strictly need quoting are spaces, we return the
854 original string, unmodified.
855
856 Hmmph. As always, things get perverted for other uses. This function was
857 originally for the "phrase" part of addresses. Now it is being used for much
858 longer texts in ACLs and via the ${rfc2047: expansion item. This means we have
859 to check for overlong "encoded-word"s and split them. November 2004.
860
861 Arguments:
862   string       the string to quote - already checked to contain non-printing
863                  chars
864   len          the length of the string
865   charset      the name of the character set; NULL => iso-8859-1
866   fold         if TRUE, a newline is inserted before the separating space when
867                  more than one encoded-word is generated
868
869 Returns:       pointer to the original string, if no quoting needed, or
870                pointer to allocated memory containing the quoted string
871 */
872
873 const uschar *
874 parse_quote_2047(const uschar *string, int len, const uschar *charset,
875   BOOL fold)
876 {
877 const uschar * s = string;
878 int hlen, l;
879 BOOL coded = FALSE;
880 BOOL first_byte = FALSE;
881 gstring * g =
882   string_fmt_append(NULL, "=?%s?Q?", charset ? charset : US"iso-8859-1");
883
884 hlen = l = g->ptr;
885
886 for (s = string; len > 0; s++, len--)
887   {
888   int ch = *s;
889
890   if (g->ptr - l > 67 && !first_byte)
891     {
892     g = fold ? string_catn(g, US"?=\n ", 4) : string_catn(g, US"?= ", 3);
893     l = g->ptr;
894     g = string_catn(g, g->s, hlen);
895     }
896
897   if (  ch < 33 || ch > 126
898      || Ustrchr("?=()<>@,;:\\\".[]_", ch) != NULL)
899     {
900     if (ch == ' ')
901       {
902       g = string_catn(g, US"_", 1);
903       first_byte = FALSE;
904       }
905     else
906       {
907       g = string_fmt_append(g, "=%02X", ch);
908       coded = TRUE;
909       first_byte = !first_byte;
910       }
911     }
912   else
913     { g = string_catn(g, s, 1); first_byte = FALSE; }
914   }
915
916 if (coded)
917   string = string_from_gstring(g = string_catn(g, US"?=", 2));
918 else
919   g->ptr = -1;
920
921 gstring_release_unused(g);
922 return string;
923 }
924
925
926
927
928 /*************************************************
929 *            Fix up an RFC 822 "phrase"          *
930 *************************************************/
931
932 /* This function is called to repair any syntactic defects in the "phrase" part
933 of an RFC822 address. In particular, it is applied to the user's name as read
934 from the passwd file when accepting a local message, and to the data from the
935 -F option.
936
937 If the string contains existing quoted strings or comments containing
938 freestanding quotes, then we just quote those bits that need quoting -
939 otherwise it would get awfully messy and probably not look good. If not, we
940 quote the whole thing if necessary. Thus
941
942    John Q. Smith            =>  "John Q. Smith"
943    John "Jack" Smith        =>  John "Jack" Smith
944    John "Jack" Q. Smith     =>  John "Jack" "Q." Smith
945    John (Jack) Q. Smith     =>  "John (Jack) Q. Smith"
946    John ("Jack") Q. Smith   =>  John ("Jack") "Q." Smith
947 but
948    John (\"Jack\") Q. Smith =>  "John (\"Jack\") Q. Smith"
949
950 Sheesh! This is tedious code. It is a great pity that the syntax of RFC822 is
951 the way it is...
952
953 August 2000: Additional code added:
954
955   Previously, non-printing characters were turned into question marks, which do
956   not need to be quoted.
957
958   Now, a different tactic is used if there are any non-printing ASCII
959   characters. The encoding method from RFC 2047 is used, assuming iso-8859-1 as
960   the character set.
961
962   We *could* use this for all cases, getting rid of the messy original code,
963   but leave it for now. It would complicate simple cases like "John Q. Smith".
964
965 The result is passed back in allocated memory.
966
967 Arguments:
968   phrase       an RFC822 phrase
969   len          the length of the phrase
970
971 Returns:       the fixed RFC822 phrase
972 */
973
974 const uschar *
975 parse_fix_phrase(const uschar *phrase, int len)
976 {
977 int ch, i;
978 BOOL quoted = FALSE;
979 const uschar *s, *end;
980 uschar * buffer;
981 uschar *t, *yield;
982
983 while (len > 0 && isspace(*phrase)) { phrase++; len--; }
984
985 /* See if there are any non-printing characters, and if so, use the RFC 2047
986 encoding for the whole thing. */
987
988 for (i = 0, s = phrase; i < len; i++, s++)
989   if ((*s < 32 && *s != '\t') || *s > 126) break;
990
991 if (i < len)
992   return parse_quote_2047(phrase, len, headers_charset, FALSE);
993
994 /* No non-printers; use the RFC 822 quoting rules */
995
996 if (len <= 0 || len >= INT_MAX/4)
997   {
998   return string_copy_taint(CUS"", is_tainted(phrase));
999   }
1000
1001 buffer = store_get((len+1)*4, is_tainted(phrase));
1002
1003 s = phrase;
1004 end = s + len;
1005 yield = t = buffer + 1;
1006
1007 while (s < end)
1008   {
1009   ch = *s++;
1010
1011   /* Copy over quoted strings, remembering we encountered one */
1012
1013   if (ch == '\"')
1014     {
1015     *t++ = '\"';
1016     while (s < end && (ch = *s++) != '\"')
1017       {
1018       *t++ = ch;
1019       if (ch == '\\' && s < end) *t++ = *s++;
1020       }
1021     *t++ = '\"';
1022     if (s >= end) break;
1023     quoted = TRUE;
1024     }
1025
1026   /* Copy over comments, noting if they contain freestanding quote
1027   characters */
1028
1029   else if (ch == '(')
1030     {
1031     int level = 1;
1032     *t++ = '(';
1033     while (s < end)
1034       {
1035       ch = *s++;
1036       *t++ = ch;
1037       if (ch == '(') level++;
1038       else if (ch == ')') { if (--level <= 0) break; }
1039       else if (ch == '\\' && s < end) *t++ = *s++ & 127;
1040       else if (ch == '\"') quoted = TRUE;
1041       }
1042     if (ch == 0)
1043       {
1044       while (level--) *t++ = ')';
1045       break;
1046       }
1047     }
1048
1049   /* Handle special characters that need to be quoted */
1050
1051   else if (Ustrchr(")<>@,;:\\.[]", ch) != NULL)
1052     {
1053     /* If hit previous quotes just make one quoted "word" */
1054
1055     if (quoted)
1056       {
1057       uschar *tt = t++;
1058       while (*(--tt) != ' ' && *tt != '\"' && *tt != ')') tt[1] = *tt;
1059       tt[1] = '\"';
1060       *t++ = ch;
1061       while (s < end)
1062         {
1063         ch = *s++;
1064         if (ch == ' ' || ch == '\"') { s--; break; } else *t++ = ch;
1065         }
1066       *t++ = '\"';
1067       }
1068
1069     /* Else quote the whole string so far, and the rest up to any following
1070     quotes. We must treat anything following a backslash as a literal. */
1071
1072     else
1073       {
1074       BOOL escaped = (ch == '\\');
1075       *(--yield) = '\"';
1076       *t++ = ch;
1077
1078       /* Now look for the end or a quote */
1079
1080       while (s < end)
1081         {
1082         ch = *s++;
1083
1084         /* Handle escaped pairs */
1085
1086         if (escaped)
1087           {
1088           *t++ = ch;
1089           escaped = FALSE;
1090           }
1091
1092         else if (ch == '\\')
1093           {
1094           *t++ = ch;
1095           escaped = TRUE;
1096           }
1097
1098         /* If hit subsequent quotes, insert our quote before any trailing
1099         spaces and back up to re-handle the quote in the outer loop. */
1100
1101         else if (ch == '\"')
1102           {
1103           int count = 0;
1104           while (t[-1] == ' ') { t--; count++; }
1105           *t++ = '\"';
1106           while (count-- > 0) *t++ = ' ';
1107           s--;
1108           break;
1109           }
1110
1111         /* If hit a subsequent comment, check it for unescaped quotes,
1112         and if so, end our quote before it. */
1113
1114         else if (ch == '(')
1115           {
1116           const uschar *ss = s;     /* uschar after '(' */
1117           int level = 1;
1118           while(ss < end)
1119             {
1120             ch = *ss++;
1121             if (ch == '(') level++;
1122             else if (ch == ')') { if (--level <= 0) break; }
1123             else if (ch == '\\' && ss+1 < end) ss++;
1124             else if (ch == '\"') { quoted = TRUE; break; }
1125             }
1126
1127           /* Comment contains unescaped quotes; end our quote before
1128           the start of the comment. */
1129
1130           if (quoted)
1131             {
1132             int count = 0;
1133             while (t[-1] == ' ') { t--; count++; }
1134             *t++ = '\"';
1135             while (count-- > 0) *t++ = ' ';
1136             break;
1137             }
1138
1139           /* Comment does not contain unescaped quotes; include it in
1140           our quote. */
1141
1142           else
1143             {
1144             if (ss >= end) ss--;
1145             *t++ = '(';
1146             if (ss > s)
1147               {
1148               Ustrncpy(t, s, ss-s);
1149               t += ss-s;
1150               s = ss;
1151               }
1152             }
1153           }
1154
1155         /* Not a comment or quote; include this character in our quotes. */
1156
1157         else *t++ = ch;
1158         }
1159       }
1160
1161     /* Add a final quote if we hit the end of the string. */
1162
1163     if (s >= end) *t++ = '\"';
1164     }
1165
1166   /* Non-special character; just copy it over */
1167
1168   else *t++ = ch;
1169   }
1170
1171 *t = 0;
1172 store_release_above(t+1);
1173 return yield;
1174 }
1175
1176
1177 /*************************************************
1178 *          Extract addresses from a list         *
1179 *************************************************/
1180
1181 /* This function is called by the redirect router to scan a string containing a
1182 list of addresses separated by commas (with optional white space) or by
1183 newlines, and to generate a chain of address items from them. In other words,
1184 to unpick data from an alias or .forward file.
1185
1186 The SunOS5 documentation for alias files is not very clear on the syntax; it
1187 does not say that either a comma or a newline can be used for separation.
1188 However, that is the way Smail does it, so we follow suit.
1189
1190 If a # character is encountered in a white space position, then characters from
1191 there to the next newline are skipped.
1192
1193 If an unqualified address begins with '\', just skip that character. This gives
1194 compatibility with Sendmail's use of \ to prevent looping. Exim has its own
1195 loop prevention scheme which handles other cases too - see the code in
1196 route_address().
1197
1198 An "address" can be a specification of a file or a pipe; the latter may often
1199 need to be quoted because it may contain spaces, but we don't want to retain
1200 the quotes. Quotes may appear in normal addresses too, and should be retained.
1201 We can distinguish between these cases, because in addresses, quotes are used
1202 only for parts of the address, not the whole thing. Therefore, we remove quotes
1203 from items when they entirely enclose them, but not otherwise.
1204
1205 An "address" can also be of the form :include:pathname to include a list of
1206 addresses contained in the specified file.
1207
1208 Any unqualified addresses are qualified with and rewritten if necessary, via
1209 the rewrite_address() function.
1210
1211 Arguments:
1212   s                the list of addresses (typically a complete
1213                      .forward file or a list of entries in an alias file)
1214   options          option bits for permitting or denying various special cases;
1215                      not all bits are relevant here - some are for filter
1216                      files; those we use here are:
1217                        RDO_DEFER
1218                        RDO_FREEZE
1219                        RDO_FAIL
1220                        RDO_BLACKHOLE
1221                        RDO_REWRITE
1222                        RDO_INCLUDE
1223   anchor           where to hang the chain of newly-created addresses. This
1224                      should be initialized to NULL.
1225   error            where to return an error text
1226   incoming domain  domain of the incoming address; used to qualify unqualified
1227                      local parts preceded by \
1228   directory        if NULL, no checks are done on :include: files
1229                    otherwise, included file names must start with the given
1230                      directory
1231   syntax_errors    if not NULL, it carries on after syntax errors in addresses,
1232                      building up a list of errors as error blocks chained on
1233                      here.
1234
1235 Returns:      FF_DELIVERED      addresses extracted
1236               FF_NOTDELIVERED   no addresses extracted, but no errors
1237               FF_BLACKHOLE      :blackhole:
1238               FF_DEFER          :defer:
1239               FF_FAIL           :fail:
1240               FF_INCLUDEFAIL    some problem with :include:; *error set
1241               FF_ERROR          other problems; *error is set
1242 */
1243
1244 int
1245 parse_forward_list(const uschar *s, int options, address_item **anchor,
1246   uschar **error, const uschar *incoming_domain, const uschar *directory,
1247   error_block **syntax_errors)
1248 {
1249 int count = 0;
1250
1251 DEBUG(D_route) debug_printf("parse_forward_list: %s\n", s);
1252
1253 for (;;)
1254   {
1255   int len, special = 0, specopt = 0, specbit = 0;
1256   const uschar * ss, * nexts;
1257   address_item * addr;
1258   BOOL inquote = FALSE;
1259
1260   for (;;)
1261     {
1262     while (isspace(*s) || *s == ',') s++;
1263     if (*s == '#') { while (*s && *s != '\n') s++; } else break;
1264     }
1265
1266   /* When we reach the end of the list, we return FF_DELIVERED if any child
1267   addresses have been generated. If nothing has been generated, there are two
1268   possibilities: either the list is really empty, or there were syntax errors
1269   that are being skipped. (If syntax errors are not being skipped, an FF_ERROR
1270   return is generated on hitting a syntax error and we don't get here.) For a
1271   truly empty list we return FF_NOTDELIVERED so that the router can decline.
1272   However, if the list is empty only because syntax errors were skipped, we
1273   return FF_DELIVERED. */
1274
1275   if (!*s)
1276     {
1277     return (count > 0 || (syntax_errors && *syntax_errors))
1278       ?  FF_DELIVERED : FF_NOTDELIVERED;
1279
1280     /* This previous code returns FF_ERROR if nothing is generated but a
1281     syntax error has been skipped. I now think it is the wrong approach, but
1282     have left this here just in case, and for the record. */
1283
1284 #ifdef NEVER
1285     if (count > 0) return FF_DELIVERED;   /* Something was generated */
1286
1287     if (!syntax_errors ||          /* Not skipping syntax errors, or */
1288        !*syntax_errors)            /*   we didn't actually skip any */
1289       return FF_NOTDELIVERED;
1290
1291     *error = string_sprintf("no addresses generated: syntax error in %s: %s",
1292        (*syntax_errors)->text2, (*syntax_errors)->text1);
1293     return FF_ERROR;
1294 #endif
1295     }
1296
1297   /* Find the end of the next address. Quoted strings in addresses may contain
1298   escaped characters; I haven't found a proper specification of .forward or
1299   alias files that mentions the quoting properties, but it seems right to do
1300   the escaping thing in all cases, so use the function that finds the end of an
1301   address. However, don't let a quoted string extend over the end of a line. */
1302
1303   ss = parse_find_address_end(s, TRUE);
1304
1305   /* Remember where we finished, for starting the next one. */
1306
1307   nexts = ss;
1308
1309   /* Remove any trailing spaces; we know there's at least one non-space. */
1310
1311   while (isspace(ss[-1])) ss--;
1312
1313   /* We now have s->start and ss->end of the next address. Remove quotes
1314   if they completely enclose, remembering the address started with a quote
1315   for handling pipes and files. Another round of removal of leading and
1316   trailing spaces is then required. */
1317
1318   if (*s == '\"' && ss[-1] == '\"')
1319     {
1320     s++;
1321     ss--;
1322     inquote = TRUE;
1323     while (s < ss && isspace(*s)) s++;
1324     while (ss > s && isspace(ss[-1])) ss--;
1325     }
1326
1327   /* Set up the length of the address. */
1328
1329   len = ss - s;
1330
1331   DEBUG(D_route) debug_printf("extract item: %.*s\n", len, s);
1332
1333   /* Handle special addresses if permitted. If the address is :unknown:
1334   ignore it - this is for backward compatibility with old alias files. You
1335   don't need to use it nowadays - just generate an empty string. For :defer:,
1336   :blackhole:, or :fail: we have to set up the error message and give up right
1337   away. */
1338
1339   if (Ustrncmp(s, ":unknown:", len) == 0)
1340     {
1341     s = nexts;
1342     continue;
1343     }
1344
1345   if      (Ustrncmp(s, ":defer:", 7) == 0)
1346     { special = FF_DEFER; specopt = RDO_DEFER; }  /* specbit is 0 */
1347   else if (Ustrncmp(s, ":blackhole:", 11) == 0)
1348     { special = FF_BLACKHOLE; specopt = specbit = RDO_BLACKHOLE; }
1349   else if (Ustrncmp(s, ":fail:", 6) == 0)
1350     { special = FF_FAIL; specopt = RDO_FAIL; }  /* specbit is 0 */
1351
1352   if (special)
1353     {
1354     uschar * ss = Ustrchr(s+1, ':') + 1; /* line after the special... */
1355     if ((options & specopt) == specbit)
1356       {
1357       *error = string_sprintf("\"%.*s\" is not permitted", len, s);
1358       return FF_ERROR;
1359       }
1360     while (*ss && isspace(*ss)) ss++;   /* skip leading whitespace */
1361     if ((len = Ustrlen(ss)) > 0)        /* ignore trailing newlines */
1362       for (const uschar * t = ss + len - 1; t >= ss && *t == '\n'; t--) len--;
1363     *error = string_copyn(ss, len);     /* becomes the error */
1364     return special;
1365     }
1366
1367   /* If the address is of the form :include:pathname, read the file, and call
1368   this function recursively to extract the addresses from it. If directory is
1369   NULL, do no checks. Otherwise, insist that the file name starts with the
1370   given directory and is a regular file. */
1371
1372   if (Ustrncmp(s, ":include:", 9) == 0)
1373     {
1374     uschar * filebuf;
1375     uschar filename[256];
1376     const uschar * t = s+9;
1377     int flen = len - 9;
1378     int frc;
1379     struct stat statbuf;
1380     address_item * last;
1381     FILE * f;
1382
1383     while (flen > 0 && isspace(*t)) { t++; flen--; }
1384
1385     if (flen <= 0)
1386       {
1387       *error = US"file name missing after :include:";
1388       return FF_ERROR;
1389       }
1390
1391     if (flen > sizeof(filename)-1)
1392       {
1393       *error = string_sprintf("included file name \"%s\" is too long", t);
1394       return FF_ERROR;
1395       }
1396
1397     Ustrncpy(filename, t, flen);
1398     filename[flen] = 0;
1399
1400     /* Insist on absolute path */
1401
1402     if (filename[0] != '/')
1403       {
1404       *error = string_sprintf("included file \"%s\" is not an absolute path",
1405         filename);
1406       return FF_ERROR;
1407       }
1408
1409     /* Check if include is permitted */
1410
1411     if (options & RDO_INCLUDE)
1412       {
1413       *error = US"included files not permitted";
1414       return FF_ERROR;
1415       }
1416
1417     if ((*error = is_tainted2(filename, 0, "Tainted name '%s' for included file not permitted\n", filename)))
1418       return FF_ERROR;
1419
1420     /* Check file name if required */
1421
1422     if (directory)
1423       {
1424       int len = Ustrlen(directory);
1425       uschar * p;
1426
1427       while (len > 0 && directory[len-1] == '/') len--;         /* ignore trailing '/' */
1428       p = filename + len;
1429       if (Ustrncmp(filename, directory, len) != 0 || *p != '/')
1430         {
1431         *error = string_sprintf("included file %s is not in directory %s",
1432           filename, directory);
1433         return FF_ERROR;
1434         }
1435
1436 #ifdef EXIM_HAVE_OPENAT
1437       /* It is necessary to check that every component inside the directory
1438       is NOT a symbolic link, in order to keep the file inside the directory.
1439       This is mighty tedious. We open the directory and openat every component,
1440       with a flag that fails symlinks. */
1441
1442       {
1443       int fd = exim_open2(CCS directory, O_RDONLY);
1444       if (fd < 0)
1445         {
1446         *error = string_sprintf("failed to open directory %s", directory);
1447         return FF_ERROR;
1448         }
1449       while (*p)
1450         {
1451         uschar temp;
1452         int fd2;
1453         uschar * q = p + 1;             /* skip dividing '/' */
1454
1455         while (*q == '/') q++;          /* skip extra '/' */
1456         while (*++p && *p != '/') ;     /* end of component */
1457         temp = *p;
1458         *p = '\0';
1459
1460         fd2 = exim_openat(fd, CS q, O_RDONLY|O_NOFOLLOW);
1461         close(fd);
1462         *p = temp;
1463         if (fd2 < 0)
1464           {
1465           *error = string_sprintf("failed to open %s (component of included "
1466             "file); could be symbolic link", filename);
1467           return FF_ERROR;
1468           }
1469         fd = fd2;
1470         }
1471       f = fdopen(fd, "rb");
1472       }
1473 #else
1474       /* It is necessary to check that every component inside the directory
1475       is NOT a symbolic link, in order to keep the file inside the directory.
1476       This is mighty tedious. It is also not totally foolproof in that it
1477       leaves the possibility of a race attack, but I don't know how to do
1478       any better. */
1479
1480       while (*p)
1481         {
1482         int temp;
1483         while (*++p && *p != '/');
1484         temp = *p;
1485         *p = 0;
1486         if (Ulstat(filename, &statbuf) != 0)
1487           {
1488           *error = string_sprintf("failed to stat %s (component of included "
1489             "file)", filename);
1490           *p = temp;
1491           return FF_ERROR;
1492           }
1493
1494         *p = temp;
1495
1496         if ((statbuf.st_mode & S_IFMT) == S_IFLNK)
1497           {
1498           *error = string_sprintf("included file %s in the %s directory "
1499             "involves a symbolic link", filename, directory);
1500           return FF_ERROR;
1501           }
1502         }
1503 #endif
1504       }
1505
1506 #ifdef EXIM_HAVE_OPENAT
1507     else
1508 #endif
1509       /* Open and stat the file */
1510       f = Ufopen(filename, "rb");
1511
1512     if (!f)
1513       {
1514       *error = string_open_failed("included file %s", filename);
1515       return FF_INCLUDEFAIL;
1516       }
1517
1518     if (fstat(fileno(f), &statbuf) != 0)
1519       {
1520       *error = string_sprintf("failed to stat included file %s: %s",
1521         filename, strerror(errno));
1522       (void)fclose(f);
1523       return FF_INCLUDEFAIL;
1524       }
1525
1526     /* If directory was checked, double check that we opened a regular file */
1527
1528     if (directory && (statbuf.st_mode & S_IFMT) != S_IFREG)
1529       {
1530       *error = string_sprintf("included file %s is not a regular file in "
1531         "the %s directory", filename, directory);
1532       return FF_ERROR;
1533       }
1534
1535     /* Get a buffer and read the contents */
1536
1537     if (statbuf.st_size > MAX_INCLUDE_SIZE)
1538       {
1539       *error = string_sprintf("included file %s is too big (max %d)",
1540         filename, MAX_INCLUDE_SIZE);
1541       return FF_ERROR;
1542       }
1543
1544     filebuf = store_get(statbuf.st_size + 1, is_tainted(filename));
1545     if (fread(filebuf, 1, statbuf.st_size, f) != statbuf.st_size)
1546       {
1547       *error = string_sprintf("error while reading included file %s: %s",
1548         filename, strerror(errno));
1549       (void)fclose(f);
1550       return FF_ERROR;
1551       }
1552     filebuf[statbuf.st_size] = 0;
1553     (void)fclose(f);
1554
1555     addr = NULL;
1556     frc = parse_forward_list(filebuf, options, &addr,
1557       error, incoming_domain, directory, syntax_errors);
1558     if (frc != FF_DELIVERED && frc != FF_NOTDELIVERED) return frc;
1559
1560     if (addr)
1561       {
1562       for (last = addr; last->next; last = last->next) count++;
1563       last->next = *anchor;
1564       *anchor = addr;
1565       count++;
1566       }
1567     }
1568
1569   /* Else (not :include:) ensure address is syntactically correct and fully
1570   qualified if not a pipe or a file, removing a leading \ if present on an
1571   unqualified address. For pipes and files we must handle quoting. It's
1572   not quite clear exactly what to do for partially quoted things, but the
1573   common case of having the whole thing in quotes is straightforward. If this
1574   was the case, inquote will have been set TRUE above and the quotes removed.
1575
1576   There is a possible ambiguity over addresses whose local parts start with
1577   a vertical bar or a slash, and the latter do in fact occur, thanks to X.400.
1578   Consider a .forward file that contains the line
1579
1580      /X=xxx/Y=xxx/OU=xxx/@some.gate.way
1581
1582   Is this a file or an X.400 address? Does it make any difference if it is in
1583   quotes? On the grounds that file names of this type are rare, Exim treats
1584   something that parses as an RFC 822 address and has a domain as an address
1585   rather than a file or a pipe. This is also how an address such as the above
1586   would be treated if it came in from outside. */
1587
1588   else
1589     {
1590     int start, end, domain;
1591     const uschar *recipient = NULL;
1592     uschar * s_ltd = string_copyn(s, len);
1593
1594     /* If it starts with \ and the rest of it parses as a valid mail address
1595     without a domain, carry on with that address, but qualify it with the
1596     incoming domain. Otherwise arrange for the address to fall through,
1597     causing an error message on the re-parse. */
1598
1599     if (*s_ltd == '\\')
1600       {
1601       recipient =
1602         parse_extract_address(s_ltd+1, error, &start, &end, &domain, FALSE);
1603       if (recipient)
1604         recipient = domain != 0 ? NULL :
1605           string_sprintf("%s@%s", recipient, incoming_domain);
1606       }
1607
1608     /* Try parsing the item as an address. */
1609
1610     if (!recipient) recipient =
1611       parse_extract_address(s_ltd, error, &start, &end, &domain, FALSE);
1612
1613     /* If item starts with / or | and is not a valid address, or there
1614     is no domain, treat it as a file or pipe. If it was a quoted item,
1615     remove the quoting occurrences of \ within it. */
1616
1617     if ((*s_ltd == '|' || *s_ltd == '/') && (!recipient || domain == 0))
1618       {
1619       uschar * t = store_get(Ustrlen(s_ltd) + 1, is_tainted(s_ltd));
1620       uschar * p = t, * q = s_ltd;
1621
1622       while (*q)
1623         {
1624         if (inquote)
1625           {
1626           *p++ = *q == '\\' ? *++q : *q;
1627           q++;
1628           }
1629         else *p++ = *q++;
1630         }
1631       *p = 0;
1632       addr = deliver_make_addr(t, TRUE);
1633       setflag(addr, af_pfr);                   /* indicates pipe/file/reply */
1634       if (*s_ltd != '|') setflag(addr, af_file);   /* indicates file */
1635       }
1636
1637     /* Item must be an address. Complain if not, else qualify, rewrite and set
1638     up the control block. It appears that people are in the habit of using
1639     empty addresses but with comments as a way of putting comments into
1640     alias and forward files. Therefore, ignore the error "empty address".
1641     Mailing lists might want to tolerate syntax errors; there is therefore
1642     an option to do so. */
1643
1644     else
1645       {
1646       if (!recipient)
1647         {
1648         if (Ustrcmp(*error, "empty address") == 0)
1649           {
1650           *error = NULL;
1651           s = nexts;
1652           continue;
1653           }
1654
1655         if (syntax_errors)
1656           {
1657           error_block * e = store_get(sizeof(error_block), FALSE);
1658           error_block * last = *syntax_errors;
1659           if (last)
1660             {
1661             while (last->next) last = last->next;
1662             last->next = e;
1663             }
1664           else
1665             *syntax_errors = e;
1666           e->next = NULL;
1667           e->text1 = *error;
1668           e->text2 = s_ltd;
1669           s = nexts;
1670           continue;
1671           }
1672         else
1673           {
1674           *error = string_sprintf("%s in \"%s\"", *error, s_ltd);
1675           return FF_ERROR;
1676           }
1677         }
1678
1679       /* Address was successfully parsed. Rewrite, and then make an address
1680       block. */
1681
1682       recipient = options & RDO_REWRITE
1683         ? rewrite_address(recipient, TRUE, FALSE, global_rewrite_rules,
1684                           rewrite_existflags)
1685         : rewrite_address_qualify(recipient, TRUE);     /*XXX loses track of const */
1686       addr = deliver_make_addr(US recipient, TRUE);  /* TRUE => copy recipient, so deconst ok */
1687       }
1688
1689     /* Add the original data to the output chain. */
1690
1691     addr->next = *anchor;
1692     *anchor = addr;
1693     count++;
1694     }
1695
1696   /* Advance pointer for the next address */
1697
1698   s = nexts;
1699   }
1700 }
1701
1702
1703 /*************************************************
1704 *            Extract a Message-ID                *
1705 *************************************************/
1706
1707 /* This function is used to extract message ids from In-Reply-To: and
1708 References: header lines.
1709
1710 Arguments:
1711   str          pointer to the start of the message-id
1712   yield        put pointer to the message id (in dynamic memory) here
1713   error        put error message here on failure
1714
1715 Returns:       points after the processed message-id or NULL on error
1716 */
1717
1718 const uschar *
1719 parse_message_id(const uschar *str, uschar **yield, uschar **error)
1720 {
1721 uschar *domain = NULL;
1722 uschar *id;
1723 rmark reset_point;
1724
1725 str = skip_comment(str);
1726 if (*str != '<')
1727   {
1728   *error = US"Missing '<' before message-id";
1729   return NULL;
1730   }
1731
1732 /* Getting a block the size of the input string will definitely be sufficient
1733 for the answer, but it may also be very long if we are processing a header
1734 line. Therefore, take care to release unwanted store afterwards. */
1735
1736 reset_point = store_mark();
1737 id = *yield = store_get(Ustrlen(str) + 1, is_tainted(str));
1738 *id++ = *str++;
1739
1740 str = read_addr_spec(str, id, '>', error, &domain);
1741
1742 if (!*error)
1743   {
1744   if (*str != '>') *error = US"Missing '>' after message-id";
1745     else if (domain == NULL) *error = US"domain missing in message-id";
1746   }
1747
1748 if (*error)
1749   {
1750   store_reset(reset_point);
1751   return NULL;
1752   }
1753
1754 while (*id) id++;
1755 *id++ = *str++;
1756 *id++ = 0;
1757 store_release_above(id);
1758
1759 return skip_comment(str);
1760 }
1761
1762
1763 /*************************************************
1764 *        Parse a fixed digit number              *
1765 *************************************************/
1766
1767 /* Parse a string containing an ASCII encoded fixed digits number
1768
1769 Arguments:
1770   str          pointer to the start of the ASCII encoded number
1771   n            pointer to the resulting value
1772   digits       number of required digits
1773
1774 Returns:       points after the processed date or NULL on error
1775 */
1776
1777 static const uschar *
1778 parse_number(const uschar *str, int *n, int digits)
1779 {
1780 *n=0;
1781 while (digits--)
1782   {
1783   if (*str<'0' || *str>'9') return NULL;
1784   *n=10*(*n)+(*str++-'0');
1785   }
1786 return str;
1787 }
1788
1789
1790 /*************************************************
1791 *        Parse a RFC 2822 day of week            *
1792 *************************************************/
1793
1794 /* Parse the day of the week from a RFC 2822 date, but do not
1795    decode it, because it is only for humans.
1796
1797 Arguments:
1798   str          pointer to the start of the day of the week
1799
1800 Returns:       points after the parsed day or NULL on error
1801 */
1802
1803 static const uschar *
1804 parse_day_of_week(const uschar * str)
1805 {
1806 /*
1807 day-of-week     =       ([FWS] day-name) / obs-day-of-week
1808
1809 day-name        =       "Mon" / "Tue" / "Wed" / "Thu" /
1810                         "Fri" / "Sat" / "Sun"
1811
1812 obs-day-of-week =       [CFWS] day-name [CFWS]
1813 */
1814
1815 static const uschar *day_name[7]={ US"mon", US"tue", US"wed", US"thu", US"fri", US"sat", US"sun" };
1816 int i;
1817 uschar day[4];
1818
1819 str = skip_comment(str);
1820 for (i = 0; i < 3; ++i)
1821   {
1822   if ((day[i] = tolower(*str)) == '\0') return NULL;
1823   ++str;
1824   }
1825 day[3] = '\0';
1826 for (i = 0; i<7; ++i) if (Ustrcmp(day,day_name[i]) == 0) break;
1827 if (i == 7) return NULL;
1828 return skip_comment(str);
1829 }
1830
1831
1832 /*************************************************
1833 *            Parse a RFC 2822 date               *
1834 *************************************************/
1835
1836 /* Parse the date part of a RFC 2822 date-time, extracting the
1837    day, month and year.
1838
1839 Arguments:
1840   str          pointer to the start of the date
1841   d            pointer to the resulting day
1842   m            pointer to the resulting month
1843   y            pointer to the resulting year
1844
1845 Returns:       points after the processed date or NULL on error
1846 */
1847
1848 static const uschar *
1849 parse_date(const uschar *str, int *d, int *m, int *y)
1850 {
1851 /*
1852 date            =       day month year
1853
1854 year            =       4*DIGIT / obs-year
1855
1856 obs-year        =       [CFWS] 2*DIGIT [CFWS]
1857
1858 month           =       (FWS month-name FWS) / obs-month
1859
1860 month-name      =       "Jan" / "Feb" / "Mar" / "Apr" /
1861                         "May" / "Jun" / "Jul" / "Aug" /
1862                         "Sep" / "Oct" / "Nov" / "Dec"
1863
1864 obs-month       =       CFWS month-name CFWS
1865
1866 day             =       ([FWS] 1*2DIGIT) / obs-day
1867
1868 obs-day         =       [CFWS] 1*2DIGIT [CFWS]
1869 */
1870
1871 const uschar * s, * n;
1872 static const uschar *month_name[]={ US"jan", US"feb", US"mar", US"apr", US"may", US"jun", US"jul", US"aug", US"sep", US"oct", US"nov", US"dec" };
1873 int i;
1874 uschar month[4];
1875
1876 str = skip_comment(str);
1877 if ((str = parse_number(str,d,1)) == NULL) return NULL;
1878
1879 if (*str>='0' && *str<='9') *d = 10*(*d)+(*str++-'0');
1880 s = skip_comment(str);
1881 if (s == str) return NULL;
1882 str = s;
1883
1884 for (i = 0; i<3; ++i) if ((month[i]=tolower(*(str+i))) == '\0') return NULL;
1885 month[3] = '\0';
1886 for (i = 0; i<12; ++i) if (Ustrcmp(month,month_name[i]) == 0) break;
1887 if (i == 12) return NULL;
1888 str+=3;
1889 *m = i;
1890 s = skip_comment(str);
1891 if (s == str) return NULL;
1892 str=s;
1893
1894 if ((n = parse_number(str,y,4)))
1895   {
1896   str = n;
1897   if (*y<1900) return NULL;
1898   *y = *y-1900;
1899   }
1900 else if ((n = parse_number(str,y,2)))
1901   {
1902   str = skip_comment(n);
1903   while (*(str-1) == ' ' || *(str-1) == '\t') --str; /* match last FWS later */
1904   if (*y<50) *y+=100;
1905   }
1906 else return NULL;
1907 return str;
1908 }
1909
1910
1911 /*************************************************
1912 *            Parse a RFC 2822 Time               *
1913 *************************************************/
1914
1915 /* Parse the time part of a RFC 2822 date-time, extracting the
1916    hour, minute, second and timezone.
1917
1918 Arguments:
1919   str          pointer to the start of the time
1920   h            pointer to the resulting hour
1921   m            pointer to the resulting minute
1922   s            pointer to the resulting second
1923   z            pointer to the resulting timezone (offset in seconds)
1924
1925 Returns:       points after the processed time or NULL on error
1926 */
1927
1928 static const uschar *
1929 parse_time(const uschar *str, int *h, int *m, int *s, int *z)
1930 {
1931 /*
1932 time            =       time-of-day FWS zone
1933
1934 time-of-day     =       hour ":" minute [ ":" second ]
1935
1936 hour            =       2DIGIT / obs-hour
1937
1938 obs-hour        =       [CFWS] 2DIGIT [CFWS]
1939
1940 minute          =       2DIGIT / obs-minute
1941
1942 obs-minute      =       [CFWS] 2DIGIT [CFWS]
1943
1944 second          =       2DIGIT / obs-second
1945
1946 obs-second      =       [CFWS] 2DIGIT [CFWS]
1947
1948 zone            =       (( "+" / "-" ) 4DIGIT) / obs-zone
1949
1950 obs-zone        =       "UT" / "GMT" /          ; Universal Time
1951                                                 ; North American UT
1952                                                 ; offsets
1953                         "EST" / "EDT" /         ; Eastern:  - 5/ - 4
1954                         "CST" / "CDT" /         ; Central:  - 6/ - 5
1955                         "MST" / "MDT" /         ; Mountain: - 7/ - 6
1956                         "PST" / "PDT" /         ; Pacific:  - 8/ - 7
1957
1958                         %d65-73 /               ; Military zones - "A"
1959                         %d75-90 /               ; through "I" and "K"
1960                         %d97-105 /              ; through "Z", both
1961                         %d107-122               ; upper and lower case
1962 */
1963
1964 const uschar * c;
1965
1966 str = skip_comment(str);
1967 if ((str = parse_number(str,h,2)) == NULL) return NULL;
1968 str = skip_comment(str);
1969 if (*str!=':') return NULL;
1970 ++str;
1971 str = skip_comment(str);
1972 if ((str = parse_number(str,m,2)) == NULL) return NULL;
1973 c = skip_comment(str);
1974 if (*str == ':')
1975   {
1976   ++str;
1977   str = skip_comment(str);
1978   if ((str = parse_number(str,s,2)) == NULL) return NULL;
1979   c = skip_comment(str);
1980   }
1981 if (c == str) return NULL;
1982 else str=c;
1983 if (*str == '+' || *str == '-')
1984   {
1985   int neg;
1986
1987   neg = (*str == '-');
1988   ++str;
1989   if ((str = parse_number(str,z,4)) == NULL) return NULL;
1990   *z = (*z/100)*3600+(*z%100)*60;
1991   if (neg) *z = -*z;
1992   }
1993 else
1994   {
1995   char zone[5];
1996   struct { const char *name; int off; } zone_name[10] =
1997   { {"gmt",0}, {"ut",0}, {"est",-5}, {"edt",-4}, {"cst",-6}, {"cdt",-5}, {"mst",-7}, {"mdt",-6}, {"pst",-8}, {"pdt",-7}};
1998   int i,j;
1999
2000   for (i = 0; i<4; ++i)
2001     {
2002     zone[i] = tolower(*(str+i));
2003     if (zone[i]<'a' || zone[i]>'z') break;
2004     }
2005   zone[i] = '\0';
2006   for (j = 0; j<10 && strcmp(zone,zone_name[j].name); ++j);
2007   /* Besides zones named in the grammar, RFC 2822 says other alphabetic */
2008   /* time zones should be treated as unknown offsets. */
2009   if (j<10)
2010     {
2011     *z = zone_name[j].off*3600;
2012     str+=i;
2013     }
2014   else if (zone[0]<'a' || zone[1]>'z') return 0;
2015   else
2016     {
2017     while ((*str>='a' && *str<='z') || (*str>='A' && *str<='Z')) ++str;
2018     *z = 0;
2019     }
2020   }
2021 return str;
2022 }
2023
2024
2025 /*************************************************
2026 *          Parse a RFC 2822 date-time            *
2027 *************************************************/
2028
2029 /* Parse a RFC 2822 date-time and return it in seconds since the epoch.
2030
2031 Arguments:
2032   str          pointer to the start of the date-time
2033   t            pointer to the parsed time
2034
2035 Returns:       points after the processed date-time or NULL on error
2036 */
2037
2038 const uschar *
2039 parse_date_time(const uschar *str, time_t *t)
2040 {
2041 /*
2042 date-time       =       [ day-of-week "," ] date FWS time [CFWS]
2043 */
2044
2045 struct tm tm;
2046 int zone;
2047 extern char **environ;
2048 char **old_environ;
2049 static char gmt0[]="TZ=GMT0";
2050 static char *gmt_env[]={ gmt0, (char*)0 };
2051 const uschar * try;
2052
2053 if ((try = parse_day_of_week(str)))
2054   {
2055   str = try;
2056   if (*str!=',') return 0;
2057   ++str;
2058   }
2059 if ((str = parse_date(str,&tm.tm_mday,&tm.tm_mon,&tm.tm_year)) == NULL) return NULL;
2060 if (*str!=' ' && *str!='\t') return NULL;
2061 while (*str == ' ' || *str == '\t') ++str;
2062 if ((str = parse_time(str,&tm.tm_hour,&tm.tm_min,&tm.tm_sec,&zone)) == NULL) return NULL;
2063 tm.tm_isdst = 0;
2064 old_environ = environ;
2065 environ = gmt_env;
2066 *t = mktime(&tm);
2067 environ = old_environ;
2068 if (*t == -1) return NULL;
2069 *t-=zone;
2070 return skip_comment(str);
2071 }
2072
2073
2074
2075
2076 /*************************************************
2077 **************************************************
2078 *             Stand-alone test program           *
2079 **************************************************
2080 *************************************************/
2081
2082 #if defined STAND_ALONE
2083 int main(void)
2084 {
2085 int start, end, domain;
2086 uschar buffer[1024];
2087
2088 store_init();
2089 big_buffer = store_malloc(big_buffer_size);
2090
2091 /* strip_trailing_dot = TRUE; */
2092 allow_domain_literals = TRUE;
2093
2094 printf("Testing parse_fix_phrase\n");
2095
2096 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2097   {
2098   buffer[Ustrlen(buffer)-1] = 0;
2099   if (buffer[0] == 0) break;
2100   printf("%s\n", CS parse_fix_phrase(buffer, Ustrlen(buffer)));
2101   }
2102
2103 printf("Testing parse_extract_address without group syntax and without UTF-8\n");
2104
2105 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2106   {
2107   uschar *out;
2108   uschar *errmess;
2109   buffer[Ustrlen(buffer) - 1] = 0;
2110   if (buffer[0] == 0) break;
2111   out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2112   if (!out)
2113     printf("*** bad address: %s\n", errmess);
2114   else
2115     {
2116     uschar extract[1024];
2117     Ustrncpy(extract, buffer+start, end-start);
2118     extract[end-start] = 0;
2119     printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2120     }
2121   }
2122
2123 printf("Testing parse_extract_address without group syntax but with UTF-8\n");
2124
2125 allow_utf8_domains = TRUE;
2126 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2127   {
2128   uschar *out;
2129   uschar *errmess;
2130   buffer[Ustrlen(buffer) - 1] = 0;
2131   if (buffer[0] == 0) break;
2132   out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2133   if (!out)
2134     printf("*** bad address: %s\n", errmess);
2135   else
2136     {
2137     uschar extract[1024];
2138     Ustrncpy(extract, buffer+start, end-start);
2139     extract[end-start] = 0;
2140     printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2141     }
2142   }
2143 allow_utf8_domains = FALSE;
2144
2145 printf("Testing parse_extract_address with group syntax\n");
2146
2147 f.parse_allow_group = TRUE;
2148 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2149   {
2150   uschar *out;
2151   uschar *errmess;
2152   uschar *s;
2153   buffer[Ustrlen(buffer) - 1] = 0;
2154   if (buffer[0] == 0) break;
2155   s = buffer;
2156   while (*s)
2157     {
2158     uschar *ss = parse_find_address_end(s, FALSE);
2159     int terminator = *ss;
2160     *ss = 0;
2161     out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2162     *ss = terminator;
2163
2164     if (!out)
2165       printf("*** bad address: %s\n", errmess);
2166     else
2167       {
2168       uschar extract[1024];
2169       Ustrncpy(extract, buffer+start, end-start);
2170       extract[end-start] = 0;
2171       printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2172       }
2173
2174     s = ss + (terminator? 1:0);
2175     Uskip_whitespace(&s);
2176     }
2177   }
2178
2179 printf("Testing parse_find_at\n");
2180
2181 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2182   {
2183   uschar *s;
2184   buffer[Ustrlen(buffer)-1] = 0;
2185   if (buffer[0] == 0) break;
2186   s = parse_find_at(buffer);
2187   if (s == NULL) printf("no @ found\n");
2188     else printf("offset = %d\n", s - buffer);
2189   }
2190
2191 printf("Testing parse_extract_addresses\n");
2192
2193 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2194   {
2195   uschar *errmess;
2196   int extracted;
2197   address_item *anchor = NULL;
2198   buffer[Ustrlen(buffer) - 1] = 0;
2199   if (buffer[0] == 0) break;
2200   if ((extracted = parse_forward_list(buffer, -1, &anchor,
2201       &errmess, US"incoming.domain", NULL, NULL)) == FF_DELIVERED)
2202     {
2203     while (anchor != NULL)
2204       {
2205       address_item *addr = anchor;
2206       anchor = anchor->next;
2207       printf("%d %s\n", testflag(addr, af_pfr), addr->address);
2208       }
2209     }
2210   else printf("Failed: %d %s\n", extracted, errmess);
2211   }
2212
2213 printf("Testing parse_message_id\n");
2214
2215 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2216   {
2217   uschar *s, *t, *errmess;
2218   buffer[Ustrlen(buffer) - 1] = 0;
2219   if (buffer[0] == 0) break;
2220   s = buffer;
2221   while (*s != 0)
2222     {
2223     s = parse_message_id(s, &t, &errmess);
2224     if (errmess != NULL)
2225       {
2226       printf("Failed: %s\n", errmess);
2227       break;
2228       }
2229     printf("%s\n", t);
2230     }
2231   }
2232
2233 return 0;
2234 }
2235
2236 #endif
2237
2238 /* End of parse.c */