Revert introduction of alloc_insecure_tainted_data
[exim.git] / src / src / parse.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2018 */
6 /* Copyright (c) The Exim Maintainers 2020 - 2021 */
7 /* See the file NOTICE for conditions of use and distribution. */
8
9 /* Functions for parsing addresses */
10
11
12 #include "exim.h"
13
14
15 static const uschar *last_comment_position;
16
17
18
19 /* In stand-alone mode, provide a replacement for deliver_make_addr()
20 and rewrite_address[_qualify]() so as to avoid having to drag in too much
21 redundant apparatus. */
22
23 #ifdef STAND_ALONE
24
25 address_item *deliver_make_addr(uschar *address, BOOL copy)
26 {
27 address_item *addr = store_get(sizeof(address_item), FALSE);
28 addr->next = NULL;
29 addr->parent = NULL;
30 addr->address = address;
31 return addr;
32 }
33
34 uschar *rewrite_address(uschar *recipient, BOOL dummy1, BOOL dummy2, rewrite_rule
35   *dummy3, int dummy4)
36 {
37 return recipient;
38 }
39
40 uschar *rewrite_address_qualify(uschar *recipient, BOOL dummy1)
41 {
42 return recipient;
43 }
44
45 #endif
46
47
48
49
50 /*************************************************
51 *             Find the end of an address         *
52 *************************************************/
53
54 /* Scan over a string looking for the termination of an address at a comma,
55 or end of the string. It's the source-routed addresses which cause much pain
56 here. Although Exim ignores source routes, it must recognize such addresses, so
57 we cannot get rid of this logic.
58
59 Argument:
60   s        pointer to the start of an address
61   nl_ends  if TRUE, '\n' terminates an address
62
63 Returns:   pointer past the end of the address
64            (i.e. points to null or comma)
65 */
66
67 uschar *
68 parse_find_address_end(const uschar *s, BOOL nl_ends)
69 {
70 BOOL source_routing = *s == '@';
71 int no_term = source_routing? 1 : 0;
72
73 while (*s != 0 && (*s != ',' || no_term > 0) && (*s != '\n' || !nl_ends))
74   {
75   /* Skip single quoted characters. Strictly these should not occur outside
76   quoted strings in RFC 822 addresses, but they can in RFC 821 addresses. Pity
77   about the lack of consistency, isn't it? */
78
79   if (*s == '\\' && s[1] != 0) s += 2;
80
81   /* Skip quoted items that are not inside brackets. Note that
82   quoted pairs are allowed inside quoted strings. */
83
84   else if (*s == '\"')
85     {
86     while (*(++s) != 0 && (*s != '\n' || !nl_ends))
87       {
88       if (*s == '\\' && s[1] != 0) s++;
89         else if (*s == '\"') { s++; break; }
90       }
91     }
92
93   /* Skip comments, which may include nested brackets, but quotes
94   are not recognized inside comments, though quoted pairs are. */
95
96   else if (*s == '(')
97     {
98     int level = 1;
99     while (*(++s) != 0 && (*s != '\n' || !nl_ends))
100       {
101       if (*s == '\\' && s[1] != 0) s++;
102         else if (*s == '(') level++;
103           else if (*s == ')' && --level <= 0) { s++; break; }
104       }
105     }
106
107   /* Non-special character; just advance. Passing the colon in a source
108   routed address means that any subsequent comma or colon may terminate unless
109   inside angle brackets. */
110
111   else
112     {
113     if (*s == '<')
114       {
115       source_routing = s[1] == '@';
116       no_term = source_routing? 2 : 1;
117       }
118     else if (*s == '>') no_term--;
119     else if (source_routing && *s == ':') no_term--;
120     s++;
121     }
122   }
123
124 return US s;
125 }
126
127
128
129 /*************************************************
130 *            Find last @ in an address           *
131 *************************************************/
132
133 /* This function is used when we have something that may not qualified. If we
134 know it's qualified, searching for the rightmost '@' is sufficient. Here we
135 have to be a bit more clever than just a plain search, in order to handle
136 unqualified local parts like "thing@thong" correctly. Since quotes may not
137 legally be part of a domain name, we can give up on hitting the first quote
138 when searching from the right. Now that the parsing also permits the RFC 821
139 form of address, where quoted-pairs are allowed in unquoted local parts, we
140 must take care to handle that too.
141
142 Argument:  pointer to an address, possibly unqualified
143 Returns:   pointer to the last @ in an address, or NULL if none
144 */
145
146 const uschar *
147 parse_find_at(const uschar *s)
148 {
149 const uschar * t = s + Ustrlen(s);
150 while (--t >= s)
151   if (*t == '@')
152     {
153     int backslash_count = 0;
154     const uschar *tt = t - 1;
155     while (tt > s && *tt-- == '\\') backslash_count++;
156     if ((backslash_count & 1) == 0) return t;
157     }
158   else if (*t == '\"')
159     return NULL;
160
161 return NULL;
162 }
163
164
165
166
167 /***************************************************************************
168 * In all the functions below that read a particular object type from       *
169 * the input, return the new value of the pointer s (the first argument),   *
170 * and put the object into the store pointed to by t (the second argument), *
171 * adding a terminating zero. If no object is found, t will point to zero   *
172 * on return.                                                               *
173 ***************************************************************************/
174
175
176 /*************************************************
177 *          Skip white space and comment          *
178 *************************************************/
179
180 /* Algorithm:
181   (1) Skip spaces.
182   (2) If uschar not '(', return.
183   (3) Skip till matching ')', not counting any characters
184       escaped with '\'.
185   (4) Move past ')' and goto (1).
186
187 The start of the last potential comment position is remembered to
188 make it possible to ignore comments at the end of compound items.
189
190 Argument: current character pointer
191 Returns:  new character pointer
192 */
193
194 static const uschar *
195 skip_comment(const uschar *s)
196 {
197 last_comment_position = s;
198 while (*s)
199   {
200   int c, level;
201
202   if (Uskip_whitespace(&s) != '(') break;
203   level = 1;
204   while((c = *(++s)))
205     {
206     if (c == '(') level++;
207     else if (c == ')') { if (--level <= 0) { s++; break; } }
208     else if (c == '\\' && s[1] != 0) s++;
209     }
210   }
211 return s;
212 }
213
214
215
216 /*************************************************
217 *             Read a domain                      *
218 *************************************************/
219
220 /* A domain is a sequence of subdomains, separated by dots. See comments below
221 for detailed syntax of the subdomains.
222
223 If allow_domain_literals is TRUE, a "domain" may also be an IP address enclosed
224 in []. Make sure the output is set to the null string if there is a syntax
225 error as well as if there is no domain at all.
226
227 Optionally, msg_id domain literals ( printable-ascii enclosed in [] )
228 are permitted.
229
230 Arguments:
231   s          current character pointer
232   t          where to put the domain
233   msg_id_literals     flag for relaxed domain-literal processing
234   errorptr   put error message here on failure (*t will be 0 on exit)
235
236 Returns:     new character pointer
237 */
238
239 static const uschar *
240 read_domain(const uschar *s, uschar *t, BOOL msg_id_literals, uschar **errorptr)
241 {
242 uschar *tt = t;
243 s = skip_comment(s);
244
245 /* Handle domain literals if permitted. An RFC 822 domain literal may contain
246 any character except [ ] \, including linear white space, and may contain
247 quoted characters. However, RFC 821 restricts literals to being dot-separated
248 3-digit numbers, and we make the obvious extension for IPv6. Go for a sequence
249 of digits, dots, hex digits, and colons here; later this will be checked for
250 being a syntactically valid IP address if it ever gets to a router.
251
252 Allow both the formal IPv6 form, with IPV6: at the start, and the informal form
253 without it, and accept IPV4: as well, 'cause someone will use it sooner or
254 later. */
255
256 if (*s == '[')
257   {
258   *t++ = *s++;
259
260   if (strncmpic(s, US"IPv6:", 5) == 0 || strncmpic(s, US"IPv4:", 5) == 0)
261     {
262     memcpy(t, s, 5);
263     t += 5;
264     s += 5;
265     }
266
267   if (msg_id_literals)
268     while (*s >= 33 && *s <= 90 || *s >= 94 && *s <= 126) *t++ = *s++;
269   else
270     while (*s == '.' || *s == ':' || isxdigit(*s)) *t++ = *s++;
271
272   if (*s == ']') *t++ = *s++; else
273     {
274     *errorptr = US"malformed domain literal";
275     *tt = 0;
276     }
277
278   if (!allow_domain_literals && !msg_id_literals)
279     {
280     *errorptr = US"domain literals not allowed";
281     *tt = 0;
282     }
283   *t = 0;
284   return skip_comment(s);
285   }
286
287 /* Handle a proper domain, which is a sequence of dot-separated atoms. Remove
288 trailing dots if strip_trailing_dot is set. A subdomain is an atom.
289
290 An atom is a sequence of any characters except specials, space, and controls.
291 The specials are ( ) < > @ , ; : \ " . [ and ]. This is the rule for RFC 822
292 and its successor (RFC 2822). However, RFC 821 and its successor (RFC 2821) is
293 tighter, allowing only letters, digits, and hyphens, not starting with a
294 hyphen.
295
296 There used to be a global flag that got set when checking addresses that came
297 in over SMTP and which should therefore should be checked according to the
298 stricter rule. However, it seems silly to make the distinction, because I don't
299 suppose anybody ever uses local domains that are 822-compliant and not
300 821-compliant. Furthermore, Exim now has additional data on the spool file line
301 after an address (after "one_time" processing), and it makes use of a #
302 character to delimit it. When I wrote that code, I forgot about this 822-domain
303 stuff, and assumed # could never appear in a domain.
304
305 So the old code is now cut out for Release 4.11 onwards, on 09-Aug-02. In a few
306 years, when we are sure this isn't actually causing trouble, throw it away.
307
308 March 2003: the story continues: There is a camp that is arguing for the use of
309 UTF-8 in domain names as the way to internationalization, and other MTAs
310 support this. Therefore, we now have a flag that permits the use of characters
311 with values greater than 127, encoded in UTF-8, in subdomains, so that Exim can
312 be used experimentally in this way. */
313
314 for (;;)
315   {
316   uschar *tsave = t;
317
318 /*********************
319   if (rfc821_domains)
320     {
321     if (*s != '-') while (isalnum(*s) || *s == '-') *t++ = *s++;
322     }
323   else
324     while (!mac_iscntrl_or_special(*s)) *t++ = *s++;
325 *********************/
326
327   if (*s != '-')
328     {
329     /* Only letters, digits, and hyphens */
330
331     if (!allow_utf8_domains)
332       {
333       while (isalnum(*s) || *s == '-') *t++ = *s++;
334       }
335
336     /* Permit legal UTF-8 characters to be included */
337
338     else for(;;)
339       {
340       int i, d;
341       if (isalnum(*s) || *s == '-')    /* legal ascii characters */
342         {
343         *t++ = *s++;
344         continue;
345         }
346       if ((*s & 0xc0) != 0xc0) break;  /* not start of UTF-8 character */
347       d = *s << 2;
348       for (i = 1; i < 6; i++)          /* i is the number of additional bytes */
349         {
350         if ((d & 0x80) == 0) break;
351         d <<= 1;
352         }
353       if (i == 6) goto BAD_UTF8;       /* invalid UTF-8 */
354       *t++ = *s++;                     /* leading UTF-8 byte */
355       while (i-- > 0)                  /* copy and check remainder */
356         {
357         if ((*s & 0xc0) != 0x80)
358           {
359           BAD_UTF8:
360           *errorptr = US"invalid UTF-8 byte sequence";
361           *tt = 0;
362           return s;
363           }
364         *t++ = *s++;
365         }
366       }    /* End of loop for UTF-8 character */
367     }      /* End of subdomain */
368
369   s = skip_comment(s);
370   *t = 0;
371
372   if (t == tsave)   /* empty component */
373     {
374     if (strip_trailing_dot && t > tt && *s != '.') t[-1] = 0; else
375       {
376       *errorptr = US"domain missing or malformed";
377       *tt = 0;
378       }
379     return s;
380     }
381
382   if (*s != '.') break;
383   *t++ = *s++;
384   s = skip_comment(s);
385   }
386
387 return s;
388 }
389
390
391
392 /*************************************************
393 *            Read a local-part                   *
394 *************************************************/
395
396 /* A local-part is a sequence of words, separated by periods. A null word
397 between dots is not strictly allowed but apparently many mailers permit it,
398 so, sigh, better be compatible. Even accept a trailing dot...
399
400 A <word> is either a quoted string, or an <atom>, which is a sequence
401 of any characters except specials, space, and controls. The specials are
402 ( ) < > @ , ; : \ " . [ and ]. In RFC 822, a single quoted character, (a
403 quoted-pair) is not allowed in a word. However, in RFC 821, it is permitted in
404 the local part of an address. Rather than have separate parsing functions for
405 the different cases, take the liberal attitude always. At least one MUA is
406 happy to recognize this case; I don't know how many other programs do.
407
408 Arguments:
409   s           current character pointer
410   t           where to put the local part
411   error       where to point error text
412   allow_null  TRUE if an empty local part is not an error
413
414 Returns:   new character pointer
415 */
416
417 static const uschar *
418 read_local_part(const uschar *s, uschar *t, uschar **error, BOOL allow_null)
419 {
420 uschar *tt = t;
421 *error = NULL;
422 for (;;)
423   {
424   int c;
425   uschar *tsave = t;
426   s = skip_comment(s);
427
428   /* Handle a quoted string */
429
430   if (*s == '\"')
431     {
432     *t++ = '\"';
433     while ((c = *++s) && c != '\"')
434       {
435       *t++ = c;
436       if (c == '\\' && s[1]) *t++ = *++s;
437       }
438     if (c == '\"')
439       {
440       s++;
441       *t++ = '\"';
442       }
443     else
444       {
445       *error = US"unmatched doublequote in local part";
446       return s;
447       }
448     }
449
450   /* Handle an atom, but allow quoted pairs within it. */
451
452   else while (!mac_iscntrl_or_special(*s) || *s == '\\')
453     {
454     c = *t++ = *s++;
455     if (c == '\\' && *s) *t++ = *s++;
456     }
457
458   /* Terminate the word and skip subsequent comment */
459
460   *t = 0;
461   s = skip_comment(s);
462
463   /* If we have read a null component at this point, give an error unless it is
464   terminated by a dot - an extension to RFC 822 - or if it is the first
465   component of the local part and an empty local part is permitted, in which
466   case just return normally. */
467
468   if (t == tsave && *s != '.')
469     {
470     if (t == tt && !allow_null)
471       *error = US"missing or malformed local part";
472     return s;
473     }
474
475   /* Anything other than a dot terminates the local part. Treat multiple dots
476   as a single dot, as this seems to be a common extension. */
477
478   if (*s != '.') break;
479   do { *t++ = *s++; } while (*s == '.');
480   }
481
482 return s;
483 }
484
485
486 /*************************************************
487 *            Read route part of route-addr       *
488 *************************************************/
489
490 /* The pointer is at the initial "@" on entry. Return it following the
491 terminating colon. Exim no longer supports the use of source routes, but it is
492 required to accept the syntax.
493
494 Arguments:
495   s          current character pointer
496   t          where to put the route
497   errorptr   where to put an error message
498
499 Returns:     new character pointer
500 */
501
502 static const uschar *
503 read_route(const uschar *s, uschar *t, uschar **errorptr)
504 {
505 BOOL commas = FALSE;
506 *errorptr = NULL;
507
508 while (*s == '@')
509   {
510   *t++ = '@';
511   s = read_domain(s+1, t, FALSE, errorptr);
512   if (*t == 0) return s;
513   t += Ustrlen((const uschar *)t);
514   if (*s != ',') break;
515   *t++ = *s++;
516   commas = TRUE;
517   s = skip_comment(s);
518   }
519
520 if (*s == ':') *t++ = *s++;
521
522 /* If there is no colon, and there were no commas, the most likely error
523 is in fact a missing local part in the address rather than a missing colon
524 after the route. */
525
526 else *errorptr = commas?
527   US"colon expected after route list" :
528   US"no local part";
529
530 /* Terminate the route and return */
531
532 *t = 0;
533 return skip_comment(s);
534 }
535
536
537
538 /*************************************************
539 *                Read addr-spec                  *
540 *************************************************/
541
542 /* Addr-spec is local-part@domain. We make the domain optional -
543 the expected terminator for the whole thing is passed to check this.
544 This function is called only when we know we have a route-addr.
545
546 Arguments:
547   s          current character pointer
548   t          where to put the addr-spec
549   term       expected terminator (0 or >)
550   errorptr   where to put an error message
551   domainptr  set to point to the start of the domain
552
553 Returns:     new character pointer
554 */
555
556 static const uschar *
557 read_addr_spec(const uschar *s, uschar *t, int term, uschar **errorptr,
558   uschar **domainptr)
559 {
560 s = read_local_part(s, t, errorptr, FALSE);
561 if (*errorptr == NULL)
562   if (*s != term)
563     if (*s != '@')
564       *errorptr = string_sprintf("\"@\" or \".\" expected after \"%s\"", t);
565     else
566       {
567       t += Ustrlen((const uschar *)t);
568       *t++ = *s++;
569       *domainptr = t;
570       s = read_domain(s, t, FALSE, errorptr);
571       }
572 return s;
573 }
574
575
576
577 /*************************************************
578 *         Extract operative address              *
579 *************************************************/
580
581 /* This function extracts an operative address from a full RFC822 mailbox and
582 returns it in a piece of dynamic store. We take the easy way and get a piece
583 of store the same size as the input, and then copy into it whatever is
584 necessary. If we cannot find a valid address (syntax error), return NULL, and
585 point the error pointer to the reason. The arguments "start" and "end" are used
586 to return the offsets of the first and one past the last characters in the
587 original mailbox of the address that has been extracted, to aid in re-writing.
588 The argument "domain" is set to point to the first character after "@" in the
589 final part of the returned address, or zero if there is no @.
590
591 Exim no longer supports the use of source routed addresses (those of the form
592 @domain,...:route_addr). It recognizes the syntax, but collapses such addresses
593 down to their final components. Formerly, collapse_source_routes had to be set
594 to achieve this effect. RFC 1123 allows collapsing with MAY, while the revision
595 of RFC 821 had increased this to SHOULD, so I've gone for it, because it makes
596 a lot of code elsewhere in Exim much simpler.
597
598 There are some special fudges here for handling RFC 822 group address notation
599 which may appear in certain headers. If the flag parse_allow_group is set
600 TRUE and parse_found_group is FALSE when this function is called, an address
601 which is the start of a group (i.e. preceded by a phrase and a colon) is
602 recognized; the phrase is ignored and the flag parse_found_group is set. If
603 this flag is TRUE at the end of an address, and if an extraneous semicolon is
604 found, it is ignored and the flag is cleared.
605
606 This logic is used only when scanning through addresses in headers, either to
607 fulfil the -t option, or for rewriting, or for checking header syntax. Because
608 the group "state" has to be remembered between multiple calls of this function,
609 the variables parse_{allow,found}_group are global. It is important to ensure
610 that they are reset to FALSE at the end of scanning a header's list of
611 addresses.
612
613 Arguments:
614   mailbox     points to the RFC822 mailbox
615   errorptr    where to point an error message
616   start       set to start offset in mailbox
617   end         set to end offset in mailbox
618   domain      set to domain offset in result, or 0 if no domain present
619   allow_null  allow <> if TRUE
620
621 Returns:      points to the extracted address, or NULL on error
622 */
623
624 #define FAILED(s) { *errorptr = s; goto PARSE_FAILED; }
625
626 uschar *
627 parse_extract_address(const uschar *mailbox, uschar **errorptr, int *start, int *end,
628   int *domain, BOOL allow_null)
629 {
630 uschar *yield = store_get(Ustrlen(mailbox) + 1, is_tainted(mailbox));
631 const uschar *startptr, *endptr;
632 const uschar *s = US mailbox;
633 uschar *t = US yield;
634
635 *domain = 0;
636
637 /* At the start of the string we expect either an addr-spec or a phrase
638 preceding a <route-addr>. If groups are allowed, we might also find a phrase
639 preceding a colon and an address. If we find an initial word followed by
640 a dot, strict interpretation of the RFC would cause it to be taken
641 as the start of an addr-spec. However, many mailers break the rules
642 and use addresses of the form "a.n.other <ano@somewhere>" and so we
643 allow this case. */
644
645 RESTART:   /* Come back here after passing a group name */
646
647 s = skip_comment(s);
648 startptr = s;                                 /* In case addr-spec */
649 s = read_local_part(s, t, errorptr, TRUE);    /* Dot separated words */
650 if (*errorptr) goto PARSE_FAILED;
651
652 /* If the terminator is neither < nor @ then the format of the address
653 must either be a bare local-part (we are now at the end), or a phrase
654 followed by a route-addr (more words must follow). */
655
656 if (*s != '@' && *s != '<')
657   {
658   if (*s == 0 || *s == ';')
659     {
660     if (!*t) FAILED(US"empty address");
661     endptr = last_comment_position;
662     goto PARSE_SUCCEEDED;              /* Bare local part */
663     }
664
665   /* Expect phrase route-addr, or phrase : if groups permitted, but allow
666   dots in the phrase; complete the loop only when '<' or ':' is encountered -
667   end of string will produce a null local_part and therefore fail. We don't
668   need to keep updating t, as the phrase isn't to be kept. */
669
670   while (*s != '<' && (!f.parse_allow_group || *s != ':'))
671     {
672     s = read_local_part(s, t, errorptr, FALSE);
673     if (*errorptr)
674       {
675       *errorptr = string_sprintf("%s (expected word or \"<\")", *errorptr);
676       goto PARSE_FAILED;
677       }
678     }
679
680   if (*s == ':')
681     {
682     f.parse_found_group = TRUE;
683     f.parse_allow_group = FALSE;
684     s++;
685     goto RESTART;
686     }
687
688   /* Assert *s == '<' */
689   }
690
691 /* At this point the next character is either '@' or '<'. If it is '@', only a
692 single local-part has previously been read. An angle bracket signifies the
693 start of an <addr-spec>. Throw away anything we have saved so far before
694 processing it. Note that this is "if" rather than "else if" because it's also
695 used after reading a preceding phrase.
696
697 There are a lot of broken sendmails out there that put additional pairs of <>
698 round <route-addr>s.  If strip_excess_angle_brackets is set, allow a limited
699 number of them, as long as they match. */
700
701 if (*s == '<')
702   {
703   uschar *domainptr = yield;
704   BOOL source_routed = FALSE;
705   int bracket_count = 1;
706
707   s++;
708   if (strip_excess_angle_brackets) while (*s == '<')
709    {
710    if(bracket_count++ > 5) FAILED(US"angle-brackets nested too deep");
711    s++;
712    }
713
714   t = yield;
715   startptr = s;
716   s = skip_comment(s);
717
718   /* Read an optional series of routes, each of which is a domain. They
719   are separated by commas and terminated by a colon. However, we totally ignore
720   such routes (RFC 1123 says we MAY, and the revision of RFC 821 says we
721   SHOULD). */
722
723   if (*s == '@')
724     {
725     s = read_route(s, t, errorptr);
726     if (*errorptr) goto PARSE_FAILED;
727     *t = 0;                  /* Ensure route is ignored - probably overkill */
728     source_routed = TRUE;
729     }
730
731   /* Now an addr-spec, terminated by '>'. If there is no preceding route,
732   we must allow an empty addr-spec if allow_null is TRUE, to permit the
733   address "<>" in some circumstances. A source-routed address MUST have
734   a domain in the final part. */
735
736   if (allow_null && !source_routed && *s == '>')
737     {
738     *t = 0;
739     *errorptr = NULL;
740     }
741   else
742     {
743     s = read_addr_spec(s, t, '>', errorptr, &domainptr);
744     if (*errorptr) goto PARSE_FAILED;
745     *domain = domainptr - yield;
746     if (source_routed && *domain == 0)
747       FAILED(US"domain missing in source-routed address");
748     }
749
750   endptr = s;
751   if (*errorptr) goto PARSE_FAILED;
752   while (bracket_count-- > 0) if (*s++ != '>')
753     {
754     *errorptr = s[-1] == 0
755       ? US"'>' missing at end of address"
756       : string_sprintf("malformed address: %.32s may not follow %.*s",
757           s-1, (int)(s - US mailbox - 1), mailbox);
758     goto PARSE_FAILED;
759     }
760
761   s = skip_comment(s);
762   }
763
764 /* Hitting '@' after the first local-part means we have definitely got an
765 addr-spec, on a strict reading of the RFC, and the rest of the string
766 should be the domain. However, for flexibility we allow for a route-address
767 not enclosed in <> as well, which is indicated by an empty first local
768 part preceding '@'. The source routing is, however, ignored. */
769
770 else if (!*t)
771   {
772   uschar *domainptr = yield;
773   s = read_route(s, t, errorptr);
774   if (*errorptr) goto PARSE_FAILED;
775   *t = 0;         /* Ensure route is ignored - probably overkill */
776   s = read_addr_spec(s, t, 0, errorptr, &domainptr);
777   if (*errorptr) goto PARSE_FAILED;
778   *domain = domainptr - yield;
779   endptr = last_comment_position;
780   if (*domain == 0) FAILED(US"domain missing in source-routed address");
781   }
782
783 /* This is the strict case of local-part@domain. */
784
785 else
786   {
787   t += Ustrlen((const uschar *)t);
788   *t++ = *s++;
789   *domain = t - yield;
790   s = read_domain(s, t, TRUE, errorptr);
791   if (!*t) goto PARSE_FAILED;
792   endptr = last_comment_position;
793   }
794
795 /* Use goto to get here from the bare local part case. Arrive by falling
796 through for other cases. Endptr may have been moved over whitespace, so
797 move it back past white space if necessary. */
798
799 PARSE_SUCCEEDED:
800 if (*s)
801   {
802   if (f.parse_found_group && *s == ';')
803     {
804     f.parse_found_group = FALSE;
805     f.parse_allow_group = TRUE;
806     }
807   else
808     {
809     *errorptr = string_sprintf("malformed address: %.32s may not follow %.*s",
810       s, (int)(s - US mailbox), mailbox);
811     goto PARSE_FAILED;
812     }
813   }
814 *start = startptr - US mailbox;      /* Return offsets */
815 while (isspace(endptr[-1])) endptr--;
816 *end = endptr - US mailbox;
817
818 /* Although this code has no limitation on the length of address extracted,
819 other parts of Exim may have limits, and in any case, RFC 5321 limits email
820 addresses to 256, so we do a check here, giving an error if the address is
821 ridiculously long. */
822
823 if (*end - *start > EXIM_EMAILADDR_MAX)
824   {
825   *errorptr = string_sprintf("address is ridiculously long: %.64s...", yield);
826   return NULL;
827   }
828
829 return yield;
830
831 /* Use goto (via the macro FAILED) to get to here from a variety of places.
832 We might have an empty address in a group - the caller can choose to ignore
833 this. We must, however, keep the flags correct. */
834
835 PARSE_FAILED:
836 if (f.parse_found_group && *s == ';')
837   {
838   f.parse_found_group = FALSE;
839   f.parse_allow_group = TRUE;
840   }
841 return NULL;
842 }
843
844 #undef FAILED
845
846
847
848 /*************************************************
849 *        Quote according to RFC 2047             *
850 *************************************************/
851
852 /* This function is used for quoting text in headers according to RFC 2047.
853 If the only characters that strictly need quoting are spaces, we return the
854 original string, unmodified.
855
856 Hmmph. As always, things get perverted for other uses. This function was
857 originally for the "phrase" part of addresses. Now it is being used for much
858 longer texts in ACLs and via the ${rfc2047: expansion item. This means we have
859 to check for overlong "encoded-word"s and split them. November 2004.
860
861 Arguments:
862   string       the string to quote - already checked to contain non-printing
863                  chars
864   len          the length of the string
865   charset      the name of the character set; NULL => iso-8859-1
866   fold         if TRUE, a newline is inserted before the separating space when
867                  more than one encoded-word is generated
868
869 Returns:       pointer to the original string, if no quoting needed, or
870                pointer to allocated memory containing the quoted string
871 */
872
873 const uschar *
874 parse_quote_2047(const uschar *string, int len, const uschar *charset,
875   BOOL fold)
876 {
877 const uschar * s = string;
878 int hlen, l;
879 BOOL coded = FALSE;
880 BOOL first_byte = FALSE;
881 gstring * g =
882   string_fmt_append(NULL, "=?%s?Q?", charset ? charset : US"iso-8859-1");
883
884 hlen = l = g->ptr;
885
886 for (s = string; len > 0; s++, len--)
887   {
888   int ch = *s;
889
890   if (g->ptr - l > 67 && !first_byte)
891     {
892     g = fold ? string_catn(g, US"?=\n ", 4) : string_catn(g, US"?= ", 3);
893     l = g->ptr;
894     g = string_catn(g, g->s, hlen);
895     }
896
897   if (  ch < 33 || ch > 126
898      || Ustrchr("?=()<>@,;:\\\".[]_", ch) != NULL)
899     {
900     if (ch == ' ')
901       {
902       g = string_catn(g, US"_", 1);
903       first_byte = FALSE;
904       }
905     else
906       {
907       g = string_fmt_append(g, "=%02X", ch);
908       coded = TRUE;
909       first_byte = !first_byte;
910       }
911     }
912   else
913     { g = string_catn(g, s, 1); first_byte = FALSE; }
914   }
915
916 if (coded)
917   string = string_from_gstring(g = string_catn(g, US"?=", 2));
918 else
919   g->ptr = -1;
920
921 gstring_release_unused(g);
922 return string;
923 }
924
925
926
927
928 /*************************************************
929 *            Fix up an RFC 822 "phrase"          *
930 *************************************************/
931
932 /* This function is called to repair any syntactic defects in the "phrase" part
933 of an RFC822 address. In particular, it is applied to the user's name as read
934 from the passwd file when accepting a local message, and to the data from the
935 -F option.
936
937 If the string contains existing quoted strings or comments containing
938 freestanding quotes, then we just quote those bits that need quoting -
939 otherwise it would get awfully messy and probably not look good. If not, we
940 quote the whole thing if necessary. Thus
941
942    John Q. Smith            =>  "John Q. Smith"
943    John "Jack" Smith        =>  John "Jack" Smith
944    John "Jack" Q. Smith     =>  John "Jack" "Q." Smith
945    John (Jack) Q. Smith     =>  "John (Jack) Q. Smith"
946    John ("Jack") Q. Smith   =>  John ("Jack") "Q." Smith
947 but
948    John (\"Jack\") Q. Smith =>  "John (\"Jack\") Q. Smith"
949
950 Sheesh! This is tedious code. It is a great pity that the syntax of RFC822 is
951 the way it is...
952
953 August 2000: Additional code added:
954
955   Previously, non-printing characters were turned into question marks, which do
956   not need to be quoted.
957
958   Now, a different tactic is used if there are any non-printing ASCII
959   characters. The encoding method from RFC 2047 is used, assuming iso-8859-1 as
960   the character set.
961
962   We *could* use this for all cases, getting rid of the messy original code,
963   but leave it for now. It would complicate simple cases like "John Q. Smith".
964
965 The result is passed back in allocated memory.
966
967 Arguments:
968   phrase       an RFC822 phrase
969   len          the length of the phrase
970
971 Returns:       the fixed RFC822 phrase
972 */
973
974 const uschar *
975 parse_fix_phrase(const uschar *phrase, int len)
976 {
977 int ch, i;
978 BOOL quoted = FALSE;
979 const uschar *s, *end;
980 uschar * buffer;
981 uschar *t, *yield;
982
983 while (len > 0 && isspace(*phrase)) { phrase++; len--; }
984
985 /* See if there are any non-printing characters, and if so, use the RFC 2047
986 encoding for the whole thing. */
987
988 for (i = 0, s = phrase; i < len; i++, s++)
989   if ((*s < 32 && *s != '\t') || *s > 126) break;
990
991 if (i < len)
992   return parse_quote_2047(phrase, len, headers_charset, FALSE);
993
994 /* No non-printers; use the RFC 822 quoting rules */
995
996 if (len <= 0 || len >= INT_MAX/4)
997   {
998   return string_copy_taint(CUS"", is_tainted(phrase));
999   }
1000
1001 buffer = store_get((len+1)*4, is_tainted(phrase));
1002
1003 s = phrase;
1004 end = s + len;
1005 yield = t = buffer + 1;
1006
1007 while (s < end)
1008   {
1009   ch = *s++;
1010
1011   /* Copy over quoted strings, remembering we encountered one */
1012
1013   if (ch == '\"')
1014     {
1015     *t++ = '\"';
1016     while (s < end && (ch = *s++) != '\"')
1017       {
1018       *t++ = ch;
1019       if (ch == '\\' && s < end) *t++ = *s++;
1020       }
1021     *t++ = '\"';
1022     if (s >= end) break;
1023     quoted = TRUE;
1024     }
1025
1026   /* Copy over comments, noting if they contain freestanding quote
1027   characters */
1028
1029   else if (ch == '(')
1030     {
1031     int level = 1;
1032     *t++ = '(';
1033     while (s < end)
1034       {
1035       ch = *s++;
1036       *t++ = ch;
1037       if (ch == '(') level++;
1038       else if (ch == ')') { if (--level <= 0) break; }
1039       else if (ch == '\\' && s < end) *t++ = *s++ & 127;
1040       else if (ch == '\"') quoted = TRUE;
1041       }
1042     if (ch == 0)
1043       {
1044       while (level--) *t++ = ')';
1045       break;
1046       }
1047     }
1048
1049   /* Handle special characters that need to be quoted */
1050
1051   else if (Ustrchr(")<>@,;:\\.[]", ch) != NULL)
1052     {
1053     /* If hit previous quotes just make one quoted "word" */
1054
1055     if (quoted)
1056       {
1057       uschar *tt = t++;
1058       while (*(--tt) != ' ' && *tt != '\"' && *tt != ')') tt[1] = *tt;
1059       tt[1] = '\"';
1060       *t++ = ch;
1061       while (s < end)
1062         {
1063         ch = *s++;
1064         if (ch == ' ' || ch == '\"') { s--; break; } else *t++ = ch;
1065         }
1066       *t++ = '\"';
1067       }
1068
1069     /* Else quote the whole string so far, and the rest up to any following
1070     quotes. We must treat anything following a backslash as a literal. */
1071
1072     else
1073       {
1074       BOOL escaped = (ch == '\\');
1075       *(--yield) = '\"';
1076       *t++ = ch;
1077
1078       /* Now look for the end or a quote */
1079
1080       while (s < end)
1081         {
1082         ch = *s++;
1083
1084         /* Handle escaped pairs */
1085
1086         if (escaped)
1087           {
1088           *t++ = ch;
1089           escaped = FALSE;
1090           }
1091
1092         else if (ch == '\\')
1093           {
1094           *t++ = ch;
1095           escaped = TRUE;
1096           }
1097
1098         /* If hit subsequent quotes, insert our quote before any trailing
1099         spaces and back up to re-handle the quote in the outer loop. */
1100
1101         else if (ch == '\"')
1102           {
1103           int count = 0;
1104           while (t[-1] == ' ') { t--; count++; }
1105           *t++ = '\"';
1106           while (count-- > 0) *t++ = ' ';
1107           s--;
1108           break;
1109           }
1110
1111         /* If hit a subsequent comment, check it for unescaped quotes,
1112         and if so, end our quote before it. */
1113
1114         else if (ch == '(')
1115           {
1116           const uschar *ss = s;     /* uschar after '(' */
1117           int level = 1;
1118           while(ss < end)
1119             {
1120             ch = *ss++;
1121             if (ch == '(') level++;
1122             else if (ch == ')') { if (--level <= 0) break; }
1123             else if (ch == '\\' && ss+1 < end) ss++;
1124             else if (ch == '\"') { quoted = TRUE; break; }
1125             }
1126
1127           /* Comment contains unescaped quotes; end our quote before
1128           the start of the comment. */
1129
1130           if (quoted)
1131             {
1132             int count = 0;
1133             while (t[-1] == ' ') { t--; count++; }
1134             *t++ = '\"';
1135             while (count-- > 0) *t++ = ' ';
1136             break;
1137             }
1138
1139           /* Comment does not contain unescaped quotes; include it in
1140           our quote. */
1141
1142           else
1143             {
1144             if (ss >= end) ss--;
1145             *t++ = '(';
1146             if (ss > s)
1147               {
1148               Ustrncpy(t, s, ss-s);
1149               t += ss-s;
1150               s = ss;
1151               }
1152             }
1153           }
1154
1155         /* Not a comment or quote; include this character in our quotes. */
1156
1157         else *t++ = ch;
1158         }
1159       }
1160
1161     /* Add a final quote if we hit the end of the string. */
1162
1163     if (s >= end) *t++ = '\"';
1164     }
1165
1166   /* Non-special character; just copy it over */
1167
1168   else *t++ = ch;
1169   }
1170
1171 *t = 0;
1172 store_release_above(t+1);
1173 return yield;
1174 }
1175
1176
1177 /*************************************************
1178 *          Extract addresses from a list         *
1179 *************************************************/
1180
1181 /* This function is called by the redirect router to scan a string containing a
1182 list of addresses separated by commas (with optional white space) or by
1183 newlines, and to generate a chain of address items from them. In other words,
1184 to unpick data from an alias or .forward file.
1185
1186 The SunOS5 documentation for alias files is not very clear on the syntax; it
1187 does not say that either a comma or a newline can be used for separation.
1188 However, that is the way Smail does it, so we follow suit.
1189
1190 If a # character is encountered in a white space position, then characters from
1191 there to the next newline are skipped.
1192
1193 If an unqualified address begins with '\', just skip that character. This gives
1194 compatibility with Sendmail's use of \ to prevent looping. Exim has its own
1195 loop prevention scheme which handles other cases too - see the code in
1196 route_address().
1197
1198 An "address" can be a specification of a file or a pipe; the latter may often
1199 need to be quoted because it may contain spaces, but we don't want to retain
1200 the quotes. Quotes may appear in normal addresses too, and should be retained.
1201 We can distinguish between these cases, because in addresses, quotes are used
1202 only for parts of the address, not the whole thing. Therefore, we remove quotes
1203 from items when they entirely enclose them, but not otherwise.
1204
1205 An "address" can also be of the form :include:pathname to include a list of
1206 addresses contained in the specified file.
1207
1208 Any unqualified addresses are qualified with and rewritten if necessary, via
1209 the rewrite_address() function.
1210
1211 Arguments:
1212   s                the list of addresses (typically a complete
1213                      .forward file or a list of entries in an alias file)
1214   options          option bits for permitting or denying various special cases;
1215                      not all bits are relevant here - some are for filter
1216                      files; those we use here are:
1217                        RDO_DEFER
1218                        RDO_FREEZE
1219                        RDO_FAIL
1220                        RDO_BLACKHOLE
1221                        RDO_REWRITE
1222                        RDO_INCLUDE
1223   anchor           where to hang the chain of newly-created addresses. This
1224                      should be initialized to NULL.
1225   error            where to return an error text
1226   incoming domain  domain of the incoming address; used to qualify unqualified
1227                      local parts preceded by \
1228   directory        if NULL, no checks are done on :include: files
1229                    otherwise, included file names must start with the given
1230                      directory
1231   syntax_errors    if not NULL, it carries on after syntax errors in addresses,
1232                      building up a list of errors as error blocks chained on
1233                      here.
1234
1235 Returns:      FF_DELIVERED      addresses extracted
1236               FF_NOTDELIVERED   no addresses extracted, but no errors
1237               FF_BLACKHOLE      :blackhole:
1238               FF_DEFER          :defer:
1239               FF_FAIL           :fail:
1240               FF_INCLUDEFAIL    some problem with :include:; *error set
1241               FF_ERROR          other problems; *error is set
1242 */
1243
1244 int
1245 parse_forward_list(const uschar *s, int options, address_item **anchor,
1246   uschar **error, const uschar *incoming_domain, const uschar *directory,
1247   error_block **syntax_errors)
1248 {
1249 int count = 0;
1250
1251 DEBUG(D_route) debug_printf("parse_forward_list: %s\n", s);
1252
1253 for (;;)
1254   {
1255   int len, special = 0, specopt = 0, specbit = 0;
1256   const uschar * ss, * nexts;
1257   address_item * addr;
1258   BOOL inquote = FALSE;
1259
1260   for (;;)
1261     {
1262     while (isspace(*s) || *s == ',') s++;
1263     if (*s == '#') { while (*s && *s != '\n') s++; } else break;
1264     }
1265
1266   /* When we reach the end of the list, we return FF_DELIVERED if any child
1267   addresses have been generated. If nothing has been generated, there are two
1268   possibilities: either the list is really empty, or there were syntax errors
1269   that are being skipped. (If syntax errors are not being skipped, an FF_ERROR
1270   return is generated on hitting a syntax error and we don't get here.) For a
1271   truly empty list we return FF_NOTDELIVERED so that the router can decline.
1272   However, if the list is empty only because syntax errors were skipped, we
1273   return FF_DELIVERED. */
1274
1275   if (!*s)
1276     {
1277     return (count > 0 || (syntax_errors && *syntax_errors))
1278       ?  FF_DELIVERED : FF_NOTDELIVERED;
1279
1280     /* This previous code returns FF_ERROR if nothing is generated but a
1281     syntax error has been skipped. I now think it is the wrong approach, but
1282     have left this here just in case, and for the record. */
1283
1284 #ifdef NEVER
1285     if (count > 0) return FF_DELIVERED;   /* Something was generated */
1286
1287     if (!syntax_errors ||          /* Not skipping syntax errors, or */
1288        !*syntax_errors)            /*   we didn't actually skip any */
1289       return FF_NOTDELIVERED;
1290
1291     *error = string_sprintf("no addresses generated: syntax error in %s: %s",
1292        (*syntax_errors)->text2, (*syntax_errors)->text1);
1293     return FF_ERROR;
1294 #endif
1295     }
1296
1297   /* Find the end of the next address. Quoted strings in addresses may contain
1298   escaped characters; I haven't found a proper specification of .forward or
1299   alias files that mentions the quoting properties, but it seems right to do
1300   the escaping thing in all cases, so use the function that finds the end of an
1301   address. However, don't let a quoted string extend over the end of a line. */
1302
1303   ss = parse_find_address_end(s, TRUE);
1304
1305   /* Remember where we finished, for starting the next one. */
1306
1307   nexts = ss;
1308
1309   /* Remove any trailing spaces; we know there's at least one non-space. */
1310
1311   while (isspace(ss[-1])) ss--;
1312
1313   /* We now have s->start and ss->end of the next address. Remove quotes
1314   if they completely enclose, remembering the address started with a quote
1315   for handling pipes and files. Another round of removal of leading and
1316   trailing spaces is then required. */
1317
1318   if (*s == '\"' && ss[-1] == '\"')
1319     {
1320     s++;
1321     ss--;
1322     inquote = TRUE;
1323     while (s < ss && isspace(*s)) s++;
1324     while (ss > s && isspace(ss[-1])) ss--;
1325     }
1326
1327   /* Set up the length of the address. */
1328
1329   len = ss - s;
1330
1331   DEBUG(D_route) debug_printf("extract item: %.*s\n", len, s);
1332
1333   /* Handle special addresses if permitted. If the address is :unknown:
1334   ignore it - this is for backward compatibility with old alias files. You
1335   don't need to use it nowadays - just generate an empty string. For :defer:,
1336   :blackhole:, or :fail: we have to set up the error message and give up right
1337   away. */
1338
1339   if (Ustrncmp(s, ":unknown:", len) == 0)
1340     {
1341     s = nexts;
1342     continue;
1343     }
1344
1345   if      (Ustrncmp(s, ":defer:", 7) == 0)
1346     { special = FF_DEFER; specopt = RDO_DEFER; }  /* specbit is 0 */
1347   else if (Ustrncmp(s, ":blackhole:", 11) == 0)
1348     { special = FF_BLACKHOLE; specopt = specbit = RDO_BLACKHOLE; }
1349   else if (Ustrncmp(s, ":fail:", 6) == 0)
1350     { special = FF_FAIL; specopt = RDO_FAIL; }  /* specbit is 0 */
1351
1352   if (special)
1353     {
1354     uschar * ss = Ustrchr(s+1, ':') + 1; /* line after the special... */
1355     if ((options & specopt) == specbit)
1356       {
1357       *error = string_sprintf("\"%.*s\" is not permitted", len, s);
1358       return FF_ERROR;
1359       }
1360     while (*ss && isspace(*ss)) ss++;   /* skip leading whitespace */
1361     if ((len = Ustrlen(ss)) > 0)        /* ignore trailing newlines */
1362       for (const uschar * t = ss + len - 1; t >= ss && *t == '\n'; t--) len--;
1363     *error = string_copyn(ss, len);     /* becomes the error */
1364     return special;
1365     }
1366
1367   /* If the address is of the form :include:pathname, read the file, and call
1368   this function recursively to extract the addresses from it. If directory is
1369   NULL, do no checks. Otherwise, insist that the file name starts with the
1370   given directory and is a regular file. */
1371
1372   if (Ustrncmp(s, ":include:", 9) == 0)
1373     {
1374     uschar * filebuf;
1375     uschar filename[256];
1376     const uschar * t = s+9;
1377     int flen = len - 9;
1378     int frc;
1379     struct stat statbuf;
1380     address_item * last;
1381     FILE * f;
1382
1383     while (flen > 0 && isspace(*t)) { t++; flen--; }
1384
1385     if (flen <= 0)
1386       {
1387       *error = US"file name missing after :include:";
1388       return FF_ERROR;
1389       }
1390
1391     if (flen > sizeof(filename)-1)
1392       {
1393       *error = string_sprintf("included file name \"%s\" is too long", t);
1394       return FF_ERROR;
1395       }
1396
1397     Ustrncpy(filename, t, flen);
1398     filename[flen] = 0;
1399
1400     /* Insist on absolute path */
1401
1402     if (filename[0] != '/')
1403       {
1404       *error = string_sprintf("included file \"%s\" is not an absolute path",
1405         filename);
1406       return FF_ERROR;
1407       }
1408
1409     /* Check if include is permitted */
1410
1411     if (options & RDO_INCLUDE)
1412       {
1413       *error = US"included files not permitted";
1414       return FF_ERROR;
1415       }
1416
1417     if (is_tainted(filename))
1418       {
1419       *error = string_sprintf("Tainted name '%s' for included file  not permitted\n",
1420        filename);
1421       return FF_ERROR;
1422       }
1423
1424     /* Check file name if required */
1425
1426     if (directory)
1427       {
1428       int len = Ustrlen(directory);
1429       uschar * p;
1430
1431       while (len > 0 && directory[len-1] == '/') len--;         /* ignore trailing '/' */
1432       p = filename + len;
1433       if (Ustrncmp(filename, directory, len) != 0 || *p != '/')
1434         {
1435         *error = string_sprintf("included file %s is not in directory %s",
1436           filename, directory);
1437         return FF_ERROR;
1438         }
1439
1440 #ifdef EXIM_HAVE_OPENAT
1441       /* It is necessary to check that every component inside the directory
1442       is NOT a symbolic link, in order to keep the file inside the directory.
1443       This is mighty tedious. We open the directory and openat every component,
1444       with a flag that fails symlinks. */
1445
1446       {
1447       int fd = exim_open2(CCS directory, O_RDONLY);
1448       if (fd < 0)
1449         {
1450         *error = string_sprintf("failed to open directory %s", directory);
1451         return FF_ERROR;
1452         }
1453       while (*p)
1454         {
1455         uschar temp;
1456         int fd2;
1457         uschar * q = p + 1;             /* skip dividing '/' */
1458
1459         while (*q == '/') q++;          /* skip extra '/' */
1460         while (*++p && *p != '/') ;     /* end of component */
1461         temp = *p;
1462         *p = '\0';
1463
1464         fd2 = exim_openat(fd, CS q, O_RDONLY|O_NOFOLLOW);
1465         close(fd);
1466         *p = temp;
1467         if (fd2 < 0)
1468           {
1469           *error = string_sprintf("failed to open %s (component of included "
1470             "file); could be symbolic link", filename);
1471           return FF_ERROR;
1472           }
1473         fd = fd2;
1474         }
1475       f = fdopen(fd, "rb");
1476       }
1477 #else
1478       /* It is necessary to check that every component inside the directory
1479       is NOT a symbolic link, in order to keep the file inside the directory.
1480       This is mighty tedious. It is also not totally foolproof in that it
1481       leaves the possibility of a race attack, but I don't know how to do
1482       any better. */
1483
1484       while (*p)
1485         {
1486         int temp;
1487         while (*++p && *p != '/');
1488         temp = *p;
1489         *p = 0;
1490         if (Ulstat(filename, &statbuf) != 0)
1491           {
1492           *error = string_sprintf("failed to stat %s (component of included "
1493             "file)", filename);
1494           *p = temp;
1495           return FF_ERROR;
1496           }
1497
1498         *p = temp;
1499
1500         if ((statbuf.st_mode & S_IFMT) == S_IFLNK)
1501           {
1502           *error = string_sprintf("included file %s in the %s directory "
1503             "involves a symbolic link", filename, directory);
1504           return FF_ERROR;
1505           }
1506         }
1507 #endif
1508       }
1509
1510 #ifdef EXIM_HAVE_OPENAT
1511     else
1512 #endif
1513       /* Open and stat the file */
1514       f = Ufopen(filename, "rb");
1515
1516     if (!f)
1517       {
1518       *error = string_open_failed("included file %s", filename);
1519       return FF_INCLUDEFAIL;
1520       }
1521
1522     if (fstat(fileno(f), &statbuf) != 0)
1523       {
1524       *error = string_sprintf("failed to stat included file %s: %s",
1525         filename, strerror(errno));
1526       (void)fclose(f);
1527       return FF_INCLUDEFAIL;
1528       }
1529
1530     /* If directory was checked, double check that we opened a regular file */
1531
1532     if (directory && (statbuf.st_mode & S_IFMT) != S_IFREG)
1533       {
1534       *error = string_sprintf("included file %s is not a regular file in "
1535         "the %s directory", filename, directory);
1536       return FF_ERROR;
1537       }
1538
1539     /* Get a buffer and read the contents */
1540
1541     if (statbuf.st_size > MAX_INCLUDE_SIZE)
1542       {
1543       *error = string_sprintf("included file %s is too big (max %d)",
1544         filename, MAX_INCLUDE_SIZE);
1545       return FF_ERROR;
1546       }
1547
1548     filebuf = store_get(statbuf.st_size + 1, is_tainted(filename));
1549     if (fread(filebuf, 1, statbuf.st_size, f) != statbuf.st_size)
1550       {
1551       *error = string_sprintf("error while reading included file %s: %s",
1552         filename, strerror(errno));
1553       (void)fclose(f);
1554       return FF_ERROR;
1555       }
1556     filebuf[statbuf.st_size] = 0;
1557     (void)fclose(f);
1558
1559     addr = NULL;
1560     frc = parse_forward_list(filebuf, options, &addr,
1561       error, incoming_domain, directory, syntax_errors);
1562     if (frc != FF_DELIVERED && frc != FF_NOTDELIVERED) return frc;
1563
1564     if (addr)
1565       {
1566       for (last = addr; last->next; last = last->next) count++;
1567       last->next = *anchor;
1568       *anchor = addr;
1569       count++;
1570       }
1571     }
1572
1573   /* Else (not :include:) ensure address is syntactically correct and fully
1574   qualified if not a pipe or a file, removing a leading \ if present on an
1575   unqualified address. For pipes and files we must handle quoting. It's
1576   not quite clear exactly what to do for partially quoted things, but the
1577   common case of having the whole thing in quotes is straightforward. If this
1578   was the case, inquote will have been set TRUE above and the quotes removed.
1579
1580   There is a possible ambiguity over addresses whose local parts start with
1581   a vertical bar or a slash, and the latter do in fact occur, thanks to X.400.
1582   Consider a .forward file that contains the line
1583
1584      /X=xxx/Y=xxx/OU=xxx/@some.gate.way
1585
1586   Is this a file or an X.400 address? Does it make any difference if it is in
1587   quotes? On the grounds that file names of this type are rare, Exim treats
1588   something that parses as an RFC 822 address and has a domain as an address
1589   rather than a file or a pipe. This is also how an address such as the above
1590   would be treated if it came in from outside. */
1591
1592   else
1593     {
1594     int start, end, domain;
1595     const uschar *recipient = NULL;
1596     uschar * s_ltd = string_copyn(s, len);
1597
1598     /* If it starts with \ and the rest of it parses as a valid mail address
1599     without a domain, carry on with that address, but qualify it with the
1600     incoming domain. Otherwise arrange for the address to fall through,
1601     causing an error message on the re-parse. */
1602
1603     if (*s_ltd == '\\')
1604       {
1605       recipient =
1606         parse_extract_address(s_ltd+1, error, &start, &end, &domain, FALSE);
1607       if (recipient)
1608         recipient = domain != 0 ? NULL :
1609           string_sprintf("%s@%s", recipient, incoming_domain);
1610       }
1611
1612     /* Try parsing the item as an address. */
1613
1614     if (!recipient) recipient =
1615       parse_extract_address(s_ltd, error, &start, &end, &domain, FALSE);
1616
1617     /* If item starts with / or | and is not a valid address, or there
1618     is no domain, treat it as a file or pipe. If it was a quoted item,
1619     remove the quoting occurrences of \ within it. */
1620
1621     if ((*s_ltd == '|' || *s_ltd == '/') && (!recipient || domain == 0))
1622       {
1623       uschar * t = store_get(Ustrlen(s_ltd) + 1, is_tainted(s_ltd));
1624       uschar * p = t, * q = s_ltd;
1625
1626       while (*q)
1627         {
1628         if (inquote)
1629           {
1630           *p++ = *q == '\\' ? *++q : *q;
1631           q++;
1632           }
1633         else *p++ = *q++;
1634         }
1635       *p = 0;
1636       addr = deliver_make_addr(t, TRUE);
1637       setflag(addr, af_pfr);                   /* indicates pipe/file/reply */
1638       if (*s_ltd != '|') setflag(addr, af_file);   /* indicates file */
1639       }
1640
1641     /* Item must be an address. Complain if not, else qualify, rewrite and set
1642     up the control block. It appears that people are in the habit of using
1643     empty addresses but with comments as a way of putting comments into
1644     alias and forward files. Therefore, ignore the error "empty address".
1645     Mailing lists might want to tolerate syntax errors; there is therefore
1646     an option to do so. */
1647
1648     else
1649       {
1650       if (!recipient)
1651         {
1652         if (Ustrcmp(*error, "empty address") == 0)
1653           {
1654           *error = NULL;
1655           s = nexts;
1656           continue;
1657           }
1658
1659         if (syntax_errors)
1660           {
1661           error_block * e = store_get(sizeof(error_block), FALSE);
1662           error_block * last = *syntax_errors;
1663           if (last)
1664             {
1665             while (last->next) last = last->next;
1666             last->next = e;
1667             }
1668           else
1669             *syntax_errors = e;
1670           e->next = NULL;
1671           e->text1 = *error;
1672           e->text2 = s_ltd;
1673           s = nexts;
1674           continue;
1675           }
1676         else
1677           {
1678           *error = string_sprintf("%s in \"%s\"", *error, s_ltd);
1679           return FF_ERROR;
1680           }
1681         }
1682
1683       /* Address was successfully parsed. Rewrite, and then make an address
1684       block. */
1685
1686       recipient = options & RDO_REWRITE
1687         ? rewrite_address(recipient, TRUE, FALSE, global_rewrite_rules,
1688                           rewrite_existflags)
1689         : rewrite_address_qualify(recipient, TRUE);     /*XXX loses track of const */
1690       addr = deliver_make_addr(US recipient, TRUE);  /* TRUE => copy recipient, so deconst ok */
1691       }
1692
1693     /* Add the original data to the output chain. */
1694
1695     addr->next = *anchor;
1696     *anchor = addr;
1697     count++;
1698     }
1699
1700   /* Advance pointer for the next address */
1701
1702   s = nexts;
1703   }
1704 }
1705
1706
1707 /*************************************************
1708 *            Extract a Message-ID                *
1709 *************************************************/
1710
1711 /* This function is used to extract message ids from In-Reply-To: and
1712 References: header lines.
1713
1714 Arguments:
1715   str          pointer to the start of the message-id
1716   yield        put pointer to the message id (in dynamic memory) here
1717   error        put error message here on failure
1718
1719 Returns:       points after the processed message-id or NULL on error
1720 */
1721
1722 const uschar *
1723 parse_message_id(const uschar *str, uschar **yield, uschar **error)
1724 {
1725 uschar *domain = NULL;
1726 uschar *id;
1727 rmark reset_point;
1728
1729 str = skip_comment(str);
1730 if (*str != '<')
1731   {
1732   *error = US"Missing '<' before message-id";
1733   return NULL;
1734   }
1735
1736 /* Getting a block the size of the input string will definitely be sufficient
1737 for the answer, but it may also be very long if we are processing a header
1738 line. Therefore, take care to release unwanted store afterwards. */
1739
1740 reset_point = store_mark();
1741 id = *yield = store_get(Ustrlen(str) + 1, is_tainted(str));
1742 *id++ = *str++;
1743
1744 str = read_addr_spec(str, id, '>', error, &domain);
1745
1746 if (!*error)
1747   {
1748   if (*str != '>') *error = US"Missing '>' after message-id";
1749     else if (domain == NULL) *error = US"domain missing in message-id";
1750   }
1751
1752 if (*error)
1753   {
1754   store_reset(reset_point);
1755   return NULL;
1756   }
1757
1758 while (*id) id++;
1759 *id++ = *str++;
1760 *id++ = 0;
1761 store_release_above(id);
1762
1763 return skip_comment(str);
1764 }
1765
1766
1767 /*************************************************
1768 *        Parse a fixed digit number              *
1769 *************************************************/
1770
1771 /* Parse a string containing an ASCII encoded fixed digits number
1772
1773 Arguments:
1774   str          pointer to the start of the ASCII encoded number
1775   n            pointer to the resulting value
1776   digits       number of required digits
1777
1778 Returns:       points after the processed date or NULL on error
1779 */
1780
1781 static const uschar *
1782 parse_number(const uschar *str, int *n, int digits)
1783 {
1784 *n=0;
1785 while (digits--)
1786   {
1787   if (*str<'0' || *str>'9') return NULL;
1788   *n=10*(*n)+(*str++-'0');
1789   }
1790 return str;
1791 }
1792
1793
1794 /*************************************************
1795 *        Parse a RFC 2822 day of week            *
1796 *************************************************/
1797
1798 /* Parse the day of the week from a RFC 2822 date, but do not
1799    decode it, because it is only for humans.
1800
1801 Arguments:
1802   str          pointer to the start of the day of the week
1803
1804 Returns:       points after the parsed day or NULL on error
1805 */
1806
1807 static const uschar *
1808 parse_day_of_week(const uschar * str)
1809 {
1810 /*
1811 day-of-week     =       ([FWS] day-name) / obs-day-of-week
1812
1813 day-name        =       "Mon" / "Tue" / "Wed" / "Thu" /
1814                         "Fri" / "Sat" / "Sun"
1815
1816 obs-day-of-week =       [CFWS] day-name [CFWS]
1817 */
1818
1819 static const uschar *day_name[7]={ US"mon", US"tue", US"wed", US"thu", US"fri", US"sat", US"sun" };
1820 int i;
1821 uschar day[4];
1822
1823 str = skip_comment(str);
1824 for (i = 0; i < 3; ++i)
1825   {
1826   if ((day[i] = tolower(*str)) == '\0') return NULL;
1827   ++str;
1828   }
1829 day[3] = '\0';
1830 for (i = 0; i<7; ++i) if (Ustrcmp(day,day_name[i]) == 0) break;
1831 if (i == 7) return NULL;
1832 return skip_comment(str);
1833 }
1834
1835
1836 /*************************************************
1837 *            Parse a RFC 2822 date               *
1838 *************************************************/
1839
1840 /* Parse the date part of a RFC 2822 date-time, extracting the
1841    day, month and year.
1842
1843 Arguments:
1844   str          pointer to the start of the date
1845   d            pointer to the resulting day
1846   m            pointer to the resulting month
1847   y            pointer to the resulting year
1848
1849 Returns:       points after the processed date or NULL on error
1850 */
1851
1852 static const uschar *
1853 parse_date(const uschar *str, int *d, int *m, int *y)
1854 {
1855 /*
1856 date            =       day month year
1857
1858 year            =       4*DIGIT / obs-year
1859
1860 obs-year        =       [CFWS] 2*DIGIT [CFWS]
1861
1862 month           =       (FWS month-name FWS) / obs-month
1863
1864 month-name      =       "Jan" / "Feb" / "Mar" / "Apr" /
1865                         "May" / "Jun" / "Jul" / "Aug" /
1866                         "Sep" / "Oct" / "Nov" / "Dec"
1867
1868 obs-month       =       CFWS month-name CFWS
1869
1870 day             =       ([FWS] 1*2DIGIT) / obs-day
1871
1872 obs-day         =       [CFWS] 1*2DIGIT [CFWS]
1873 */
1874
1875 const uschar * s, * n;
1876 static const uschar *month_name[]={ US"jan", US"feb", US"mar", US"apr", US"may", US"jun", US"jul", US"aug", US"sep", US"oct", US"nov", US"dec" };
1877 int i;
1878 uschar month[4];
1879
1880 str = skip_comment(str);
1881 if ((str = parse_number(str,d,1)) == NULL) return NULL;
1882
1883 if (*str>='0' && *str<='9') *d = 10*(*d)+(*str++-'0');
1884 s = skip_comment(str);
1885 if (s == str) return NULL;
1886 str = s;
1887
1888 for (i = 0; i<3; ++i) if ((month[i]=tolower(*(str+i))) == '\0') return NULL;
1889 month[3] = '\0';
1890 for (i = 0; i<12; ++i) if (Ustrcmp(month,month_name[i]) == 0) break;
1891 if (i == 12) return NULL;
1892 str+=3;
1893 *m = i;
1894 s = skip_comment(str);
1895 if (s == str) return NULL;
1896 str=s;
1897
1898 if ((n = parse_number(str,y,4)))
1899   {
1900   str = n;
1901   if (*y<1900) return NULL;
1902   *y = *y-1900;
1903   }
1904 else if ((n = parse_number(str,y,2)))
1905   {
1906   str = skip_comment(n);
1907   while (*(str-1) == ' ' || *(str-1) == '\t') --str; /* match last FWS later */
1908   if (*y<50) *y+=100;
1909   }
1910 else return NULL;
1911 return str;
1912 }
1913
1914
1915 /*************************************************
1916 *            Parse a RFC 2822 Time               *
1917 *************************************************/
1918
1919 /* Parse the time part of a RFC 2822 date-time, extracting the
1920    hour, minute, second and timezone.
1921
1922 Arguments:
1923   str          pointer to the start of the time
1924   h            pointer to the resulting hour
1925   m            pointer to the resulting minute
1926   s            pointer to the resulting second
1927   z            pointer to the resulting timezone (offset in seconds)
1928
1929 Returns:       points after the processed time or NULL on error
1930 */
1931
1932 static const uschar *
1933 parse_time(const uschar *str, int *h, int *m, int *s, int *z)
1934 {
1935 /*
1936 time            =       time-of-day FWS zone
1937
1938 time-of-day     =       hour ":" minute [ ":" second ]
1939
1940 hour            =       2DIGIT / obs-hour
1941
1942 obs-hour        =       [CFWS] 2DIGIT [CFWS]
1943
1944 minute          =       2DIGIT / obs-minute
1945
1946 obs-minute      =       [CFWS] 2DIGIT [CFWS]
1947
1948 second          =       2DIGIT / obs-second
1949
1950 obs-second      =       [CFWS] 2DIGIT [CFWS]
1951
1952 zone            =       (( "+" / "-" ) 4DIGIT) / obs-zone
1953
1954 obs-zone        =       "UT" / "GMT" /          ; Universal Time
1955                                                 ; North American UT
1956                                                 ; offsets
1957                         "EST" / "EDT" /         ; Eastern:  - 5/ - 4
1958                         "CST" / "CDT" /         ; Central:  - 6/ - 5
1959                         "MST" / "MDT" /         ; Mountain: - 7/ - 6
1960                         "PST" / "PDT" /         ; Pacific:  - 8/ - 7
1961
1962                         %d65-73 /               ; Military zones - "A"
1963                         %d75-90 /               ; through "I" and "K"
1964                         %d97-105 /              ; through "Z", both
1965                         %d107-122               ; upper and lower case
1966 */
1967
1968 const uschar * c;
1969
1970 str = skip_comment(str);
1971 if ((str = parse_number(str,h,2)) == NULL) return NULL;
1972 str = skip_comment(str);
1973 if (*str!=':') return NULL;
1974 ++str;
1975 str = skip_comment(str);
1976 if ((str = parse_number(str,m,2)) == NULL) return NULL;
1977 c = skip_comment(str);
1978 if (*str == ':')
1979   {
1980   ++str;
1981   str = skip_comment(str);
1982   if ((str = parse_number(str,s,2)) == NULL) return NULL;
1983   c = skip_comment(str);
1984   }
1985 if (c == str) return NULL;
1986 else str=c;
1987 if (*str == '+' || *str == '-')
1988   {
1989   int neg;
1990
1991   neg = (*str == '-');
1992   ++str;
1993   if ((str = parse_number(str,z,4)) == NULL) return NULL;
1994   *z = (*z/100)*3600+(*z%100)*60;
1995   if (neg) *z = -*z;
1996   }
1997 else
1998   {
1999   char zone[5];
2000   struct { const char *name; int off; } zone_name[10] =
2001   { {"gmt",0}, {"ut",0}, {"est",-5}, {"edt",-4}, {"cst",-6}, {"cdt",-5}, {"mst",-7}, {"mdt",-6}, {"pst",-8}, {"pdt",-7}};
2002   int i,j;
2003
2004   for (i = 0; i<4; ++i)
2005     {
2006     zone[i] = tolower(*(str+i));
2007     if (zone[i]<'a' || zone[i]>'z') break;
2008     }
2009   zone[i] = '\0';
2010   for (j = 0; j<10 && strcmp(zone,zone_name[j].name); ++j);
2011   /* Besides zones named in the grammar, RFC 2822 says other alphabetic */
2012   /* time zones should be treated as unknown offsets. */
2013   if (j<10)
2014     {
2015     *z = zone_name[j].off*3600;
2016     str+=i;
2017     }
2018   else if (zone[0]<'a' || zone[1]>'z') return 0;
2019   else
2020     {
2021     while ((*str>='a' && *str<='z') || (*str>='A' && *str<='Z')) ++str;
2022     *z = 0;
2023     }
2024   }
2025 return str;
2026 }
2027
2028
2029 /*************************************************
2030 *          Parse a RFC 2822 date-time            *
2031 *************************************************/
2032
2033 /* Parse a RFC 2822 date-time and return it in seconds since the epoch.
2034
2035 Arguments:
2036   str          pointer to the start of the date-time
2037   t            pointer to the parsed time
2038
2039 Returns:       points after the processed date-time or NULL on error
2040 */
2041
2042 const uschar *
2043 parse_date_time(const uschar *str, time_t *t)
2044 {
2045 /*
2046 date-time       =       [ day-of-week "," ] date FWS time [CFWS]
2047 */
2048
2049 struct tm tm;
2050 int zone;
2051 extern char **environ;
2052 char **old_environ;
2053 static char gmt0[]="TZ=GMT0";
2054 static char *gmt_env[]={ gmt0, (char*)0 };
2055 const uschar * try;
2056
2057 if ((try = parse_day_of_week(str)))
2058   {
2059   str = try;
2060   if (*str!=',') return 0;
2061   ++str;
2062   }
2063 if ((str = parse_date(str,&tm.tm_mday,&tm.tm_mon,&tm.tm_year)) == NULL) return NULL;
2064 if (*str!=' ' && *str!='\t') return NULL;
2065 while (*str == ' ' || *str == '\t') ++str;
2066 if ((str = parse_time(str,&tm.tm_hour,&tm.tm_min,&tm.tm_sec,&zone)) == NULL) return NULL;
2067 tm.tm_isdst = 0;
2068 old_environ = environ;
2069 environ = gmt_env;
2070 *t = mktime(&tm);
2071 environ = old_environ;
2072 if (*t == -1) return NULL;
2073 *t-=zone;
2074 return skip_comment(str);
2075 }
2076
2077
2078
2079
2080 /*************************************************
2081 **************************************************
2082 *             Stand-alone test program           *
2083 **************************************************
2084 *************************************************/
2085
2086 #if defined STAND_ALONE
2087 int main(void)
2088 {
2089 int start, end, domain;
2090 uschar buffer[1024];
2091
2092 store_init();
2093 big_buffer = store_malloc(big_buffer_size);
2094
2095 /* strip_trailing_dot = TRUE; */
2096 allow_domain_literals = TRUE;
2097
2098 printf("Testing parse_fix_phrase\n");
2099
2100 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2101   {
2102   buffer[Ustrlen(buffer)-1] = 0;
2103   if (buffer[0] == 0) break;
2104   printf("%s\n", CS parse_fix_phrase(buffer, Ustrlen(buffer)));
2105   }
2106
2107 printf("Testing parse_extract_address without group syntax and without UTF-8\n");
2108
2109 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2110   {
2111   uschar *out;
2112   uschar *errmess;
2113   buffer[Ustrlen(buffer) - 1] = 0;
2114   if (buffer[0] == 0) break;
2115   out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2116   if (!out)
2117     printf("*** bad address: %s\n", errmess);
2118   else
2119     {
2120     uschar extract[1024];
2121     Ustrncpy(extract, buffer+start, end-start);
2122     extract[end-start] = 0;
2123     printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2124     }
2125   }
2126
2127 printf("Testing parse_extract_address without group syntax but with UTF-8\n");
2128
2129 allow_utf8_domains = TRUE;
2130 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2131   {
2132   uschar *out;
2133   uschar *errmess;
2134   buffer[Ustrlen(buffer) - 1] = 0;
2135   if (buffer[0] == 0) break;
2136   out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2137   if (!out)
2138     printf("*** bad address: %s\n", errmess);
2139   else
2140     {
2141     uschar extract[1024];
2142     Ustrncpy(extract, buffer+start, end-start);
2143     extract[end-start] = 0;
2144     printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2145     }
2146   }
2147 allow_utf8_domains = FALSE;
2148
2149 printf("Testing parse_extract_address with group syntax\n");
2150
2151 f.parse_allow_group = TRUE;
2152 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2153   {
2154   uschar *out;
2155   uschar *errmess;
2156   uschar *s;
2157   buffer[Ustrlen(buffer) - 1] = 0;
2158   if (buffer[0] == 0) break;
2159   s = buffer;
2160   while (*s)
2161     {
2162     uschar *ss = parse_find_address_end(s, FALSE);
2163     int terminator = *ss;
2164     *ss = 0;
2165     out = parse_extract_address(buffer, &errmess, &start, &end, &domain, FALSE);
2166     *ss = terminator;
2167
2168     if (!out)
2169       printf("*** bad address: %s\n", errmess);
2170     else
2171       {
2172       uschar extract[1024];
2173       Ustrncpy(extract, buffer+start, end-start);
2174       extract[end-start] = 0;
2175       printf("%s %d %d %d \"%s\"\n", out, start, end, domain, extract);
2176       }
2177
2178     s = ss + (terminator? 1:0);
2179     Uskip_whitespace(&s);
2180     }
2181   }
2182
2183 printf("Testing parse_find_at\n");
2184
2185 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2186   {
2187   uschar *s;
2188   buffer[Ustrlen(buffer)-1] = 0;
2189   if (buffer[0] == 0) break;
2190   s = parse_find_at(buffer);
2191   if (s == NULL) printf("no @ found\n");
2192     else printf("offset = %d\n", s - buffer);
2193   }
2194
2195 printf("Testing parse_extract_addresses\n");
2196
2197 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2198   {
2199   uschar *errmess;
2200   int extracted;
2201   address_item *anchor = NULL;
2202   buffer[Ustrlen(buffer) - 1] = 0;
2203   if (buffer[0] == 0) break;
2204   if ((extracted = parse_forward_list(buffer, -1, &anchor,
2205       &errmess, US"incoming.domain", NULL, NULL)) == FF_DELIVERED)
2206     {
2207     while (anchor != NULL)
2208       {
2209       address_item *addr = anchor;
2210       anchor = anchor->next;
2211       printf("%d %s\n", testflag(addr, af_pfr), addr->address);
2212       }
2213     }
2214   else printf("Failed: %d %s\n", extracted, errmess);
2215   }
2216
2217 printf("Testing parse_message_id\n");
2218
2219 while (Ufgets(buffer, sizeof(buffer), stdin) != NULL)
2220   {
2221   uschar *s, *t, *errmess;
2222   buffer[Ustrlen(buffer) - 1] = 0;
2223   if (buffer[0] == 0) break;
2224   s = buffer;
2225   while (*s != 0)
2226     {
2227     s = parse_message_id(s, &t, &errmess);
2228     if (errmess != NULL)
2229       {
2230       printf("Failed: %s\n", errmess);
2231       break;
2232       }
2233     printf("%s\n", t);
2234     }
2235   }
2236
2237 return 0;
2238 }
2239
2240 #endif
2241
2242 /* End of parse.c */