Move DKIM endif.
[exim.git] / src / src / receive.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2012 */
6 /* See the file NOTICE for conditions of use and distribution. */
7
8 /* Code for receiving a message and setting up spool files. */
9
10 #include "exim.h"
11
12 #ifdef EXPERIMENTAL_DCC
13 extern int dcc_ok;
14 #endif
15
16 #ifdef EXPERIMENTAL_DMARC
17 #include "dmarc.h"
18 #endif /* EXPERIMENTAL_DMARC */
19
20 /*************************************************
21 *                Local static variables          *
22 *************************************************/
23
24 static FILE   *data_file = NULL;
25 static int     data_fd = -1;
26 static uschar  spool_name[256];
27
28
29
30 /*************************************************
31 *      Non-SMTP character reading functions      *
32 *************************************************/
33
34 /* These are the default functions that are set up in the variables such as
35 receive_getc initially. They just call the standard functions, passing stdin as
36 the file. (When SMTP input is occurring, different functions are used by
37 changing the pointer variables.) */
38
39 int
40 stdin_getc(void)
41 {
42 return getc(stdin);
43 }
44
45 int
46 stdin_ungetc(int c)
47 {
48 return ungetc(c, stdin);
49 }
50
51 int
52 stdin_feof(void)
53 {
54 return feof(stdin);
55 }
56
57 int
58 stdin_ferror(void)
59 {
60 return ferror(stdin);
61 }
62
63
64
65
66 /*************************************************
67 *     Check that a set sender is allowed         *
68 *************************************************/
69
70 /* This function is called when a local caller sets an explicit sender address.
71 It checks whether this is permitted, which it is for trusted callers.
72 Otherwise, it must match the pattern(s) in untrusted_set_sender.
73
74 Arguments:  the proposed sender address
75 Returns:    TRUE for a trusted caller
76             TRUE if the address has been set, untrusted_set_sender has been
77               set, and the address matches something in the list
78             FALSE otherwise
79 */
80
81 BOOL
82 receive_check_set_sender(uschar *newsender)
83 {
84 uschar *qnewsender;
85 if (trusted_caller) return TRUE;
86 if (newsender == NULL || untrusted_set_sender == NULL) return FALSE;
87 qnewsender = (Ustrchr(newsender, '@') != NULL)?
88   newsender : string_sprintf("%s@%s", newsender, qualify_domain_sender);
89 return
90   match_address_list(qnewsender, TRUE, TRUE, &untrusted_set_sender, NULL, -1,
91     0, NULL) == OK;
92 }
93
94
95
96
97 /*************************************************
98 *          Read space info for a partition       *
99 *************************************************/
100
101 /* This function is called by receive_check_fs() below, and also by string
102 expansion for variables such as $spool_space. The field names for the statvfs
103 structure are macros, because not all OS have F_FAVAIL and it seems tidier to
104 have macros for F_BAVAIL and F_FILES as well. Some kinds of file system do not
105 have inodes, and they return -1 for the number available.
106
107 Later: It turns out that some file systems that do not have the concept of
108 inodes return 0 rather than -1. Such systems should also return 0 for the total
109 number of inodes, so we require that to be greater than zero before returning
110 an inode count.
111
112 Arguments:
113   isspool       TRUE for spool partition, FALSE for log partition
114   inodeptr      address of int to receive inode count; -1 if there isn't one
115
116 Returns:        available on-root space, in kilobytes
117                 -1 for log partition if there isn't one
118
119 All values are -1 if the STATFS functions are not available.
120 */
121
122 int
123 receive_statvfs(BOOL isspool, int *inodeptr)
124 {
125 #ifdef HAVE_STATFS
126 struct STATVFS statbuf;
127 uschar *path;
128 uschar *name;
129 uschar buffer[1024];
130
131 /* The spool directory must always exist. */
132
133 if (isspool)
134   {
135   path = spool_directory;
136   name = US"spool";
137   }
138
139 /* Need to cut down the log file path to the directory, and to ignore any
140 appearance of "syslog" in it. */
141
142 else
143   {
144   int sep = ':';              /* Not variable - outside scripts use */
145   uschar *p = log_file_path;
146   name = US"log";
147
148   /* An empty log_file_path means "use the default". This is the same as an
149   empty item in a list. */
150
151   if (*p == 0) p = US":";
152   while ((path = string_nextinlist(&p, &sep, buffer, sizeof(buffer))) != NULL)
153     {
154     if (Ustrcmp(path, "syslog") != 0) break;
155     }
156
157   if (path == NULL)  /* No log files */
158     {
159     *inodeptr = -1;
160     return -1;
161     }
162
163   /* An empty string means use the default, which is in the spool directory.
164   But don't just use the spool directory, as it is possible that the log
165   subdirectory has been symbolically linked elsewhere. */
166
167   if (path[0] == 0)
168     {
169     sprintf(CS buffer, CS"%s/log", CS spool_directory);
170     path = buffer;
171     }
172   else
173     {
174     uschar *cp;
175     if ((cp = Ustrrchr(path, '/')) != NULL) *cp = 0;
176     }
177   }
178
179 /* We now have the path; do the business */
180
181 memset(&statbuf, 0, sizeof(statbuf));
182
183 if (STATVFS(CS path, &statbuf) != 0)
184   {
185   log_write(0, LOG_MAIN|LOG_PANIC, "cannot accept message: failed to stat "
186     "%s directory %s: %s", name, spool_directory, strerror(errno));
187   smtp_closedown(US"spool or log directory problem");
188   exim_exit(EXIT_FAILURE);
189   }
190
191 *inodeptr = (statbuf.F_FILES > 0)? statbuf.F_FAVAIL : -1;
192
193 /* Disks are getting huge. Take care with computing the size in kilobytes. */
194
195 return (int)(((double)statbuf.F_BAVAIL * (double)statbuf.F_FRSIZE)/1024.0);
196
197 /* Unable to find partition sizes in this environment. */
198
199 #else
200 *inodeptr = -1;
201 return -1;
202 #endif
203 }
204
205
206
207
208 /*************************************************
209 *     Check space on spool and log partitions    *
210 *************************************************/
211
212 /* This function is called before accepting a message; if any thresholds are
213 set, it checks them. If a message_size is supplied, it checks that there is
214 enough space for that size plus the threshold - i.e. that the message won't
215 reduce the space to the threshold. Not all OS have statvfs(); for those that
216 don't, this function always returns TRUE. For some OS the old function and
217 struct name statfs is used; that is handled by a macro, defined in exim.h.
218
219 Arguments:
220   msg_size     the (estimated) size of an incoming message
221
222 Returns:       FALSE if there isn't enough space, or if the information cannot
223                  be obtained
224                TRUE if no check was done or there is enough space
225 */
226
227 BOOL
228 receive_check_fs(int msg_size)
229 {
230 int space, inodes;
231
232 if (check_spool_space > 0 || msg_size > 0 || check_spool_inodes > 0)
233   {
234   space = receive_statvfs(TRUE, &inodes);
235
236   DEBUG(D_receive)
237     debug_printf("spool directory space = %dK inodes = %d "
238       "check_space = %dK inodes = %d msg_size = %d\n",
239       space, inodes, check_spool_space, check_spool_inodes, msg_size);
240
241   if ((space >= 0 && space < check_spool_space) ||
242       (inodes >= 0 && inodes < check_spool_inodes))
243     {
244     log_write(0, LOG_MAIN, "spool directory space check failed: space=%d "
245       "inodes=%d", space, inodes);
246     return FALSE;
247     }
248   }
249
250 if (check_log_space > 0 || check_log_inodes > 0)
251   {
252   space = receive_statvfs(FALSE, &inodes);
253
254   DEBUG(D_receive)
255     debug_printf("log directory space = %dK inodes = %d "
256       "check_space = %dK inodes = %d\n",
257       space, inodes, check_log_space, check_log_inodes);
258
259   if ((space >= 0 && space < check_log_space) ||
260       (inodes >= 0 && inodes < check_log_inodes))
261     {
262     log_write(0, LOG_MAIN, "log directory space check failed: space=%d "
263       "inodes=%d", space, inodes);
264     return FALSE;
265     }
266   }
267
268 return TRUE;
269 }
270
271
272
273 /*************************************************
274 *         Bomb out while reading a message       *
275 *************************************************/
276
277 /* The common case of wanting to bomb out is if a SIGTERM or SIGINT is
278 received, or if there is a timeout. A rarer case might be if the log files are
279 screwed up and Exim can't open them to record a message's arrival. Handling
280 that case is done by setting a flag to cause the log functions to call this
281 function if there is an ultimate disaster. That is why it is globally
282 accessible.
283
284 Arguments:
285   reason     text reason to pass to the not-quit ACL
286   msg        default SMTP response to give if in an SMTP session
287 Returns:     it doesn't
288 */
289
290 void
291 receive_bomb_out(uschar *reason, uschar *msg)
292 {
293   static BOOL already_bombing_out;
294 /* The smtp_notquit_exit() below can call ACLs which can trigger recursive
295 timeouts, if someone has something slow in their quit ACL.  Since the only
296 things we should be doing are to close down cleanly ASAP, on the second
297 pass we also close down stuff that might be opened again, before bypassing
298 the ACL call and exiting. */
299
300 /* If spool_name is set, it contains the name of the data file that is being
301 written. Unlink it before closing so that it cannot be picked up by a delivery
302 process. Ensure that any header file is also removed. */
303
304 if (spool_name[0] != '\0')
305   {
306   Uunlink(spool_name);
307   spool_name[Ustrlen(spool_name) - 1] = 'H';
308   Uunlink(spool_name);
309   spool_name[0] = '\0';
310   }
311
312 /* Now close the file if it is open, either as a fd or a stream. */
313
314 if (data_file != NULL)
315   {
316   (void)fclose(data_file);
317   data_file = NULL;
318 } else if (data_fd >= 0) {
319   (void)close(data_fd);
320   data_fd = -1;
321   }
322
323 /* Attempt to close down an SMTP connection tidily. For non-batched SMTP, call
324 smtp_notquit_exit(), which runs the NOTQUIT ACL, if present, and handles the
325 SMTP response. */
326
327 if (!already_bombing_out)
328   {
329   already_bombing_out = TRUE;
330   if (smtp_input)
331     {
332     if (smtp_batched_input)
333       moan_smtp_batch(NULL, "421 %s - message abandoned", msg);  /* No return */
334     smtp_notquit_exit(reason, US"421", US"%s %s - closing connection.",
335       smtp_active_hostname, msg);
336     }
337   }
338
339 /* Exit from the program (non-BSMTP cases) */
340
341 exim_exit(EXIT_FAILURE);
342 }
343
344
345 /*************************************************
346 *              Data read timeout                 *
347 *************************************************/
348
349 /* Handler function for timeouts that occur while reading the data that
350 comprises a message.
351
352 Argument:  the signal number
353 Returns:   nothing
354 */
355
356 static void
357 data_timeout_handler(int sig)
358 {
359 uschar *msg = NULL;
360
361 sig = sig;    /* Keep picky compilers happy */
362
363 if (smtp_input)
364   {
365   msg = US"SMTP incoming data timeout";
366   log_write(L_lost_incoming_connection,
367             LOG_MAIN, "SMTP data timeout (message abandoned) on connection "
368             "from %s F=<%s>",
369             (sender_fullhost != NULL)? sender_fullhost : US"local process",
370             sender_address);
371   }
372 else
373   {
374   fprintf(stderr, "exim: timed out while reading - message abandoned\n");
375   log_write(L_lost_incoming_connection,
376             LOG_MAIN, "timed out while reading local message");
377   }
378
379 receive_bomb_out(US"data-timeout", msg);   /* Does not return */
380 }
381
382
383
384 /*************************************************
385 *              local_scan() timeout              *
386 *************************************************/
387
388 /* Handler function for timeouts that occur while running a local_scan()
389 function.
390
391 Argument:  the signal number
392 Returns:   nothing
393 */
394
395 static void
396 local_scan_timeout_handler(int sig)
397 {
398 sig = sig;    /* Keep picky compilers happy */
399 log_write(0, LOG_MAIN|LOG_REJECT, "local_scan() function timed out - "
400   "message temporarily rejected (size %d)", message_size);
401 /* Does not return */
402 receive_bomb_out(US"local-scan-timeout", US"local verification problem");
403 }
404
405
406
407 /*************************************************
408 *            local_scan() crashed                *
409 *************************************************/
410
411 /* Handler function for signals that occur while running a local_scan()
412 function.
413
414 Argument:  the signal number
415 Returns:   nothing
416 */
417
418 static void
419 local_scan_crash_handler(int sig)
420 {
421 log_write(0, LOG_MAIN|LOG_REJECT, "local_scan() function crashed with "
422   "signal %d - message temporarily rejected (size %d)", sig, message_size);
423 /* Does not return */
424 receive_bomb_out(US"local-scan-error", US"local verification problem");
425 }
426
427
428 /*************************************************
429 *           SIGTERM or SIGINT received           *
430 *************************************************/
431
432 /* Handler for SIGTERM or SIGINT signals that occur while reading the
433 data that comprises a message.
434
435 Argument:  the signal number
436 Returns:   nothing
437 */
438
439 static void
440 data_sigterm_sigint_handler(int sig)
441 {
442 uschar *msg = NULL;
443
444 if (smtp_input)
445   {
446   msg = US"Service not available - SIGTERM or SIGINT received";
447   log_write(0, LOG_MAIN, "%s closed after %s", smtp_get_connection_info(),
448     (sig == SIGTERM)? "SIGTERM" : "SIGINT");
449   }
450 else
451   {
452   if (filter_test == FTEST_NONE)
453     {
454     fprintf(stderr, "\nexim: %s received - message abandoned\n",
455       (sig == SIGTERM)? "SIGTERM" : "SIGINT");
456     log_write(0, LOG_MAIN, "%s received while reading local message",
457       (sig == SIGTERM)? "SIGTERM" : "SIGINT");
458     }
459   }
460
461 receive_bomb_out(US"signal-exit", msg);    /* Does not return */
462 }
463
464
465
466 /*************************************************
467 *          Add new recipient to list             *
468 *************************************************/
469
470 /* This function builds a list of recipient addresses in argc/argv
471 format.
472
473 Arguments:
474   recipient   the next address to add to recipients_list
475   pno         parent number for fixed aliases; -1 otherwise
476
477 Returns:      nothing
478 */
479
480 void
481 receive_add_recipient(uschar *recipient, int pno)
482 {
483 if (recipients_count >= recipients_list_max)
484   {
485   recipient_item *oldlist = recipients_list;
486   int oldmax = recipients_list_max;
487   recipients_list_max = recipients_list_max? 2*recipients_list_max : 50;
488   recipients_list = store_get(recipients_list_max * sizeof(recipient_item));
489   if (oldlist != NULL)
490     memcpy(recipients_list, oldlist, oldmax * sizeof(recipient_item));
491   }
492
493 recipients_list[recipients_count].address = recipient;
494 recipients_list[recipients_count].pno = pno;
495 #ifdef EXPERIMENTAL_BRIGHTMAIL
496 recipients_list[recipients_count].bmi_optin = bmi_current_optin;
497 /* reset optin string pointer for next recipient */
498 bmi_current_optin = NULL;
499 #endif
500 recipients_list[recipients_count++].errors_to = NULL;
501 }
502
503
504
505
506 /*************************************************
507 *        Send user response message              *
508 *************************************************/
509
510 /* This function is passed a default response code and a user message. It calls
511 smtp_message_code() to check and possibly modify the response code, and then
512 calls smtp_respond() to transmit the response. I put this into a function
513 just to avoid a lot of repetition.
514
515 Arguments:
516   code         the response code
517   user_msg     the user message
518
519 Returns:       nothing
520 */
521
522 #ifdef EXPERIMENTAL_PRDR
523 static void
524 smtp_user_msg(uschar *code, uschar *user_msg)
525 {
526 int len = 3;
527 smtp_message_code(&code, &len, &user_msg, NULL);
528 smtp_respond(code, len, TRUE, user_msg);
529 }
530 #endif
531
532
533
534
535
536 /*************************************************
537 *        Remove a recipient from the list        *
538 *************************************************/
539
540 /* This function is provided for local_scan() to use.
541
542 Argument:
543   recipient   address to remove
544
545 Returns:      TRUE if it did remove something; FALSE otherwise
546 */
547
548 BOOL
549 receive_remove_recipient(uschar *recipient)
550 {
551 int count;
552 DEBUG(D_receive) debug_printf("receive_remove_recipient(\"%s\") called\n",
553   recipient);
554 for (count = 0; count < recipients_count; count++)
555   {
556   if (Ustrcmp(recipients_list[count].address, recipient) == 0)
557     {
558     if ((--recipients_count - count) > 0)
559       memmove(recipients_list + count, recipients_list + count + 1,
560         (recipients_count - count)*sizeof(recipient_item));
561     return TRUE;
562     }
563   }
564 return FALSE;
565 }
566
567
568
569
570
571 /*************************************************
572 *     Read data portion of a non-SMTP message    *
573 *************************************************/
574
575 /* This function is called to read the remainder of a message (following the
576 header) when the input is not from SMTP - we are receiving a local message on
577 a standard input stream. The message is always terminated by EOF, and is also
578 terminated by a dot on a line by itself if the flag dot_ends is TRUE. Split the
579 two cases for maximum efficiency.
580
581 Ensure that the body ends with a newline. This will naturally be the case when
582 the termination is "\n.\n" but may not be otherwise. The RFC defines messages
583 as "sequences of lines" - this of course strictly applies only to SMTP, but
584 deliveries into BSD-type mailbox files also require it. Exim used to have a
585 flag for doing this at delivery time, but as it was always set for all
586 transports, I decided to simplify things by putting the check here instead.
587
588 There is at least one MUA (dtmail) that sends CRLF via this interface, and
589 other programs are known to do this as well. Exim used to have a option for
590 dealing with this: in July 2003, after much discussion, the code has been
591 changed to default to treat any of LF, CRLF, and bare CR as line terminators.
592
593 However, for the case when a dot on a line by itself terminates a message, the
594 only recognized terminating sequences before and after the dot are LF and CRLF.
595 Otherwise, having read EOL . CR, you don't know whether to read another
596 character or not.
597
598 Internally, in messages stored in Exim's spool files, LF is used as the line
599 terminator. Under the new regime, bare CRs will no longer appear in these
600 files.
601
602 Arguments:
603   fout      a FILE to which to write the message
604
605 Returns:    One of the END_xxx values indicating why it stopped reading
606 */
607
608 static int
609 read_message_data(FILE *fout)
610 {
611 int ch_state;
612 register int ch;
613 register int linelength = 0;
614
615 /* Handle the case when only EOF terminates the message */
616
617 if (!dot_ends)
618   {
619   register int last_ch = '\n';
620
621   for (; (ch = (receive_getc)()) != EOF; last_ch = ch)
622     {
623     if (ch == 0) body_zerocount++;
624     if (last_ch == '\r' && ch != '\n')
625       {
626       if (linelength > max_received_linelength)
627         max_received_linelength = linelength;
628       linelength = 0;
629       if (fputc('\n', fout) == EOF) return END_WERROR;
630       message_size++;
631       body_linecount++;
632       }
633     if (ch == '\r') continue;
634
635     if (fputc(ch, fout) == EOF) return END_WERROR;
636     if (ch == '\n')
637       {
638       if (linelength > max_received_linelength)
639         max_received_linelength = linelength;
640       linelength = 0;
641       body_linecount++;
642       }
643     else linelength++;
644     if (++message_size > thismessage_size_limit) return END_SIZE;
645     }
646
647   if (last_ch != '\n')
648     {
649     if (linelength > max_received_linelength)
650       max_received_linelength = linelength;
651     if (fputc('\n', fout) == EOF) return END_WERROR;
652     message_size++;
653     body_linecount++;
654     }
655
656   return END_EOF;
657   }
658
659 /* Handle the case when a dot on a line on its own, or EOF, terminates. */
660
661 ch_state = 1;
662
663 while ((ch = (receive_getc)()) != EOF)
664   {
665   if (ch == 0) body_zerocount++;
666   switch (ch_state)
667     {
668     case 0:                         /* Normal state (previous char written) */
669     if (ch == '\n')
670       {
671       body_linecount++;
672       if (linelength > max_received_linelength)
673         max_received_linelength = linelength;
674       linelength = -1;
675       ch_state = 1;
676       }
677     else if (ch == '\r')
678       { ch_state = 2; continue; }
679     break;
680
681     case 1:                         /* After written "\n" */
682     if (ch == '.') { ch_state = 3; continue; }
683     if (ch != '\n') ch_state = 0; else linelength = -1;
684     break;
685
686     case 2:
687     body_linecount++;               /* After unwritten "\r" */
688     if (linelength > max_received_linelength)
689       max_received_linelength = linelength;
690     if (ch == '\n')
691       {
692       ch_state = 1;
693       linelength = -1;
694       }
695     else
696       {
697       if (message_size++, fputc('\n', fout) == EOF) return END_WERROR;
698       if (ch == '\r') continue;
699       ch_state = 0;
700       linelength = 0;
701       }
702     break;
703
704     case 3:                         /* After "\n." (\n written, dot not) */
705     if (ch == '\n') return END_DOT;
706     if (ch == '\r') { ch_state = 4; continue; }
707     message_size++;
708     linelength++;
709     if (fputc('.', fout) == EOF) return END_WERROR;
710     ch_state = 0;
711     break;
712
713     case 4:                         /* After "\n.\r" (\n written, rest not) */
714     if (ch == '\n') return END_DOT;
715     message_size += 2;
716     body_linecount++;
717     if (fputs(".\n", fout) == EOF) return END_WERROR;
718     if (ch == '\r') { ch_state = 2; continue; }
719     ch_state = 0;
720     break;
721     }
722
723   linelength++;
724   if (fputc(ch, fout) == EOF) return END_WERROR;
725   if (++message_size > thismessage_size_limit) return END_SIZE;
726   }
727
728 /* Get here if EOF read. Unless we have just written "\n", we need to ensure
729 the message ends with a newline, and we must also write any characters that
730 were saved up while testing for an ending dot. */
731
732 if (ch_state != 1)
733   {
734   static uschar *ends[] = { US"\n", NULL, US"\n", US".\n", US".\n" };
735   if (fputs(CS ends[ch_state], fout) == EOF) return END_WERROR;
736   message_size += Ustrlen(ends[ch_state]);
737   body_linecount++;
738   }
739
740 return END_EOF;
741 }
742
743
744
745
746 /*************************************************
747 *      Read data portion of an SMTP message      *
748 *************************************************/
749
750 /* This function is called to read the remainder of an SMTP message (after the
751 headers), or to skip over it when an error has occurred. In this case, the
752 output file is passed as NULL.
753
754 If any line begins with a dot, that character is skipped. The input should only
755 be successfully terminated by CR LF . CR LF unless it is local (non-network)
756 SMTP, in which case the CRs are optional, but...
757
758 FUDGE: It seems that sites on the net send out messages with just LF
759 terminators, despite the warnings in the RFCs, and other MTAs handle this. So
760 we make the CRs optional in all cases.
761
762 July 2003: Bare CRs cause trouble. We now treat them as line terminators as
763 well, so that there are no CRs in spooled messages. However, the message
764 terminating dot is not recognized between two bare CRs.
765
766 Arguments:
767   fout      a FILE to which to write the message; NULL if skipping
768
769 Returns:    One of the END_xxx values indicating why it stopped reading
770 */
771
772 static int
773 read_message_data_smtp(FILE *fout)
774 {
775 int ch_state = 0;
776 int ch;
777 register int linelength = 0;
778
779 while ((ch = (receive_getc)()) != EOF)
780   {
781   if (ch == 0) body_zerocount++;
782   switch (ch_state)
783     {
784     case 0:                             /* After LF or CRLF */
785     if (ch == '.')
786       {
787       ch_state = 3;
788       continue;                         /* Don't ever write . after LF */
789       }
790     ch_state = 1;
791
792     /* Else fall through to handle as normal uschar. */
793
794     case 1:                             /* Normal state */
795     if (ch == '\n')
796       {
797       ch_state = 0;
798       body_linecount++;
799       if (linelength > max_received_linelength)
800         max_received_linelength = linelength;
801       linelength = -1;
802       }
803     else if (ch == '\r')
804       {
805       ch_state = 2;
806       continue;
807       }
808     break;
809
810     case 2:                             /* After (unwritten) CR */
811     body_linecount++;
812     if (linelength > max_received_linelength)
813       max_received_linelength = linelength;
814     linelength = -1;
815     if (ch == '\n')
816       {
817       ch_state = 0;
818       }
819     else
820       {
821       message_size++;
822       if (fout != NULL && fputc('\n', fout) == EOF) return END_WERROR;
823       (void) cutthrough_put_nl();
824       if (ch != '\r') ch_state = 1; else continue;
825       }
826     break;
827
828     case 3:                             /* After [CR] LF . */
829     if (ch == '\n')
830       return END_DOT;
831     if (ch == '\r')
832       {
833       ch_state = 4;
834       continue;
835       }
836     ch_state = 1;                       /* The dot itself is removed */
837     break;
838
839     case 4:                             /* After [CR] LF . CR */
840     if (ch == '\n') return END_DOT;
841     message_size++;
842     body_linecount++;
843     if (fout != NULL && fputc('\n', fout) == EOF) return END_WERROR;
844     (void) cutthrough_put_nl();
845     if (ch == '\r')
846       {
847       ch_state = 2;
848       continue;
849       }
850     ch_state = 1;
851     break;
852     }
853
854   /* Add the character to the spool file, unless skipping; then loop for the
855   next. */
856
857   message_size++;
858   linelength++;
859   if (fout != NULL)
860     {
861     if (fputc(ch, fout) == EOF) return END_WERROR;
862     if (message_size > thismessage_size_limit) return END_SIZE;
863     }
864   if(ch == '\n')
865     (void) cutthrough_put_nl();
866   else
867     {
868     uschar c= ch;
869     (void) cutthrough_puts(&c, 1);
870     }
871   }
872
873 /* Fall through here if EOF encountered. This indicates some kind of error,
874 since a correct message is terminated by [CR] LF . [CR] LF. */
875
876 return END_EOF;
877 }
878
879
880
881
882 /*************************************************
883 *             Swallow SMTP message               *
884 *************************************************/
885
886 /* This function is called when there has been some kind of error while reading
887 an SMTP message, and the remaining data may need to be swallowed. It is global
888 because it is called from smtp_closedown() to shut down an incoming call
889 tidily.
890
891 Argument:    a FILE from which to read the message
892 Returns:     nothing
893 */
894
895 void
896 receive_swallow_smtp(void)
897 {
898 if (message_ended >= END_NOTENDED)
899   message_ended = read_message_data_smtp(NULL);
900 }
901
902
903
904 /*************************************************
905 *           Handle lost SMTP connection          *
906 *************************************************/
907
908 /* This function logs connection loss incidents and generates an appropriate
909 SMTP response.
910
911 Argument:  additional data for the message
912 Returns:   the SMTP response
913 */
914
915 static uschar *
916 handle_lost_connection(uschar *s)
917 {
918 log_write(L_lost_incoming_connection | L_smtp_connection, LOG_MAIN,
919   "%s lost while reading message data%s", smtp_get_connection_info(), s);
920 return US"421 Lost incoming connection";
921 }
922
923
924
925
926 /*************************************************
927 *         Handle a non-smtp reception error      *
928 *************************************************/
929
930 /* This function is called for various errors during the reception of non-SMTP
931 messages. It either sends a message to the sender of the problem message, or it
932 writes to the standard error stream.
933
934 Arguments:
935   errcode     code for moan_to_sender(), identifying the error
936   text1       first message text, passed to moan_to_sender()
937   text2       second message text, used only for stderrr
938   error_rc    code to pass to exim_exit if no problem
939   f           FILE containing body of message (may be stdin)
940   hptr        pointer to instore headers or NULL
941
942 Returns:      calls exim_exit(), which does not return
943 */
944
945 static void
946 give_local_error(int errcode, uschar *text1, uschar *text2, int error_rc,
947   FILE *f, header_line *hptr)
948 {
949 if (error_handling == ERRORS_SENDER)
950   {
951   error_block eblock;
952   eblock.next = NULL;
953   eblock.text1 = text1;
954   if (!moan_to_sender(errcode, &eblock, hptr, f, FALSE))
955     error_rc = EXIT_FAILURE;
956   }
957 else fprintf(stderr, "exim: %s%s\n", text2, text1);  /* Sic */
958 (void)fclose(f);
959 exim_exit(error_rc);
960 }
961
962
963
964 /*************************************************
965 *          Add header lines set up by ACL        *
966 *************************************************/
967
968 /* This function is called to add the header lines that were set up by
969 statements in an ACL to the list of headers in memory. It is done in two stages
970 like this, because when the ACL for RCPT is running, the other headers have not
971 yet been received. This function is called twice; once just before running the
972 DATA ACL, and once after. This is so that header lines added by MAIL or RCPT
973 are visible to the DATA ACL.
974
975 Originally these header lines were added at the end. Now there is support for
976 three different places: top, bottom, and after the Received: header(s). There
977 will always be at least one Received: header, even if it is marked deleted, and
978 even if something else has been put in front of it.
979
980 Arguments:
981   acl_name   text to identify which ACL
982
983 Returns:     nothing
984 */
985
986 static void
987 add_acl_headers(uschar *acl_name)
988 {
989 header_line *h, *next;
990 header_line *last_received = NULL;
991
992 if (acl_removed_headers != NULL)
993   {
994   DEBUG(D_receive|D_acl) debug_printf(">>Headers removed by %s ACL:\n", acl_name);
995
996   for (h = header_list; h != NULL; h = h->next)
997     {
998     uschar *list;
999     BOOL include_header;
1000
1001     if (h->type == htype_old) continue;
1002
1003     include_header = TRUE;
1004     list = acl_removed_headers;
1005
1006     int sep = ':';         /* This is specified as a colon-separated list */
1007     uschar *s;
1008     uschar buffer[128];
1009     while ((s = string_nextinlist(&list, &sep, buffer, sizeof(buffer)))
1010             != NULL)
1011       {
1012       int len = Ustrlen(s);
1013       if (header_testname(h, s, len, FALSE))
1014         {
1015         h->type = htype_old;
1016         DEBUG(D_receive|D_acl) debug_printf("  %s", h->text);
1017         }
1018       }
1019     }
1020   acl_removed_headers = NULL;
1021   DEBUG(D_receive|D_acl) debug_printf(">>\n");
1022   }
1023
1024 if (acl_added_headers == NULL) return;
1025 DEBUG(D_receive|D_acl) debug_printf(">>Headers added by %s ACL:\n", acl_name);
1026
1027 for (h = acl_added_headers; h != NULL; h = next)
1028   {
1029   next = h->next;
1030
1031   switch(h->type)
1032     {
1033     case htype_add_top:
1034     h->next = header_list;
1035     header_list = h;
1036     DEBUG(D_receive|D_acl) debug_printf("  (at top)");
1037     break;
1038
1039     case htype_add_rec:
1040     if (last_received == NULL)
1041       {
1042       last_received = header_list;
1043       while (!header_testname(last_received, US"Received", 8, FALSE))
1044         last_received = last_received->next;
1045       while (last_received->next != NULL &&
1046              header_testname(last_received->next, US"Received", 8, FALSE))
1047         last_received = last_received->next;
1048       }
1049     h->next = last_received->next;
1050     last_received->next = h;
1051     DEBUG(D_receive|D_acl) debug_printf("  (after Received:)");
1052     break;
1053
1054     case htype_add_rfc:
1055     /* add header before any header which is NOT Received: or Resent- */
1056     last_received = header_list;
1057     while ( (last_received->next != NULL) &&
1058             ( (header_testname(last_received->next, US"Received", 8, FALSE)) ||
1059               (header_testname_incomplete(last_received->next, US"Resent-", 7, FALSE)) ) )
1060               last_received = last_received->next;
1061     /* last_received now points to the last Received: or Resent-* header
1062        in an uninterrupted chain of those header types (seen from the beginning
1063        of all headers. Our current header must follow it. */
1064     h->next = last_received->next;
1065     last_received->next = h;
1066     DEBUG(D_receive|D_acl) debug_printf("  (before any non-Received: or Resent-*: header)");
1067     break;
1068
1069     default:
1070     h->next = NULL;
1071     header_last->next = h;
1072     break;
1073     }
1074
1075   if (h->next == NULL) header_last = h;
1076
1077   /* Check for one of the known header types (From:, To:, etc.) though in
1078   practice most added headers are going to be "other". Lower case
1079   identification letters are never stored with the header; they are used
1080   for existence tests when messages are received. So discard any lower case
1081   flag values. */
1082
1083   h->type = header_checkname(h, FALSE);
1084   if (h->type >= 'a') h->type = htype_other;
1085
1086   DEBUG(D_receive|D_acl) debug_printf("  %s", header_last->text);
1087   }
1088
1089 acl_added_headers = NULL;
1090 DEBUG(D_receive|D_acl) debug_printf(">>\n");
1091 }
1092
1093
1094
1095 /*************************************************
1096 *       Add host information for log line        *
1097 *************************************************/
1098
1099 /* Called for acceptance and rejecting log lines. This adds information about
1100 the calling host to a string that is being built dynamically.
1101
1102 Arguments:
1103   s           the dynamic string
1104   sizeptr     points to the size variable
1105   ptrptr      points to the pointer variable
1106
1107 Returns:      the extended string
1108 */
1109
1110 static uschar *
1111 add_host_info_for_log(uschar *s, int *sizeptr, int *ptrptr)
1112 {
1113 if (sender_fullhost != NULL)
1114   {
1115   s = string_append(s, sizeptr, ptrptr, 2, US" H=", sender_fullhost);
1116   if ((log_extra_selector & LX_incoming_interface) != 0 &&
1117        interface_address != NULL)
1118     {
1119     uschar *ss = string_sprintf(" I=[%s]:%d", interface_address,
1120       interface_port);
1121     s = string_cat(s, sizeptr, ptrptr, ss, Ustrlen(ss));
1122     }
1123   }
1124 if (sender_ident != NULL)
1125   s = string_append(s, sizeptr, ptrptr, 2, US" U=", sender_ident);
1126 if (received_protocol != NULL)
1127   s = string_append(s, sizeptr, ptrptr, 2, US" P=", received_protocol);
1128 return s;
1129 }
1130
1131
1132
1133 #ifdef WITH_CONTENT_SCAN
1134
1135 /*************************************************
1136 *       Run the MIME ACL on a message            *
1137 *************************************************/
1138
1139 /* This code is in a subroutine so that it can be used for both SMTP
1140 and non-SMTP messages. It is called with a non-NULL ACL pointer.
1141
1142 Arguments:
1143   acl                The ACL to run (acl_smtp_mime or acl_not_smtp_mime)
1144   smtp_yield_ptr     Set FALSE to kill messages after dropped connection
1145   smtp_reply_ptr     Where SMTP reply is being built
1146   blackholed_by_ptr  Where "blackholed by" message is being built
1147
1148 Returns:             TRUE to carry on; FALSE to abandon the message
1149 */
1150
1151 static BOOL
1152 run_mime_acl(uschar *acl, BOOL *smtp_yield_ptr, uschar **smtp_reply_ptr,
1153   uschar **blackholed_by_ptr)
1154 {
1155 FILE *mbox_file;
1156 uschar rfc822_file_path[2048];
1157 unsigned long mbox_size;
1158 header_line *my_headerlist;
1159 uschar *user_msg, *log_msg;
1160 int mime_part_count_buffer = -1;
1161 int rc = OK;
1162
1163 memset(CS rfc822_file_path,0,2048);
1164
1165 /* check if it is a MIME message */
1166 my_headerlist = header_list;
1167 while (my_headerlist != NULL)
1168   {
1169   /* skip deleted headers */
1170   if (my_headerlist->type == '*')
1171     {
1172     my_headerlist = my_headerlist->next;
1173     continue;
1174     }
1175   if (strncmpic(my_headerlist->text, US"Content-Type:", 13) == 0)
1176     {
1177     DEBUG(D_receive) debug_printf("Found Content-Type: header - executing acl_smtp_mime.\n");
1178     goto DO_MIME_ACL;
1179     }
1180   my_headerlist = my_headerlist->next;
1181   }
1182
1183 DEBUG(D_receive) debug_printf("No Content-Type: header - presumably not a MIME message.\n");
1184 return TRUE;
1185
1186 DO_MIME_ACL:
1187 /* make sure the eml mbox file is spooled up */
1188 mbox_file = spool_mbox(&mbox_size, NULL);
1189 if (mbox_file == NULL) {
1190   /* error while spooling */
1191   log_write(0, LOG_MAIN|LOG_PANIC,
1192          "acl_smtp_mime: error while creating mbox spool file, message temporarily rejected.");
1193   Uunlink(spool_name);
1194   unspool_mbox();
1195 #ifdef EXPERIMENTAL_DCC
1196   dcc_ok = 0;
1197 #endif
1198   smtp_respond(US"451", 3, TRUE, US"temporary local problem");
1199   message_id[0] = 0;            /* Indicate no message accepted */
1200   *smtp_reply_ptr = US"";       /* Indicate reply already sent */
1201   return FALSE;                 /* Indicate skip to end of receive function */
1202 };
1203
1204 mime_is_rfc822 = 0;
1205
1206 MIME_ACL_CHECK:
1207 mime_part_count = -1;
1208 rc = mime_acl_check(acl, mbox_file, NULL, &user_msg, &log_msg);
1209 (void)fclose(mbox_file);
1210
1211 if (Ustrlen(rfc822_file_path) > 0)
1212   {
1213   mime_part_count = mime_part_count_buffer;
1214
1215   if (unlink(CS rfc822_file_path) == -1)
1216     {
1217     log_write(0, LOG_PANIC,
1218          "acl_smtp_mime: can't unlink RFC822 spool file, skipping.");
1219       goto END_MIME_ACL;
1220     }
1221   }
1222
1223 /* check if we must check any message/rfc822 attachments */
1224 if (rc == OK)
1225   {
1226   uschar temp_path[1024];
1227   int n;
1228   struct dirent *entry;
1229   DIR *tempdir;
1230
1231   (void)string_format(temp_path, 1024, "%s/scan/%s", spool_directory,
1232     message_id);
1233
1234   tempdir = opendir(CS temp_path);
1235   n = 0;
1236   do
1237     {
1238     entry = readdir(tempdir);
1239     if (entry == NULL) break;
1240     if (strncmpic(US entry->d_name,US"__rfc822_",9) == 0)
1241       {
1242       (void)string_format(rfc822_file_path, 2048,"%s/scan/%s/%s", spool_directory, message_id, entry->d_name);
1243       debug_printf("RFC822 attachment detected: running MIME ACL for '%s'\n", rfc822_file_path);
1244       break;
1245       }
1246     } while (1);
1247   closedir(tempdir);
1248
1249   if (entry != NULL)
1250     {
1251     mbox_file = Ufopen(rfc822_file_path,"rb");
1252     if (mbox_file == NULL)
1253       {
1254       log_write(0, LOG_PANIC,
1255          "acl_smtp_mime: can't open RFC822 spool file, skipping.");
1256       unlink(CS rfc822_file_path);
1257       goto END_MIME_ACL;
1258       }
1259     /* set RFC822 expansion variable */
1260     mime_is_rfc822 = 1;
1261     mime_part_count_buffer = mime_part_count;
1262     goto MIME_ACL_CHECK;
1263     }
1264   }
1265
1266 END_MIME_ACL:
1267 add_acl_headers(US"MIME");
1268 if (rc == DISCARD)
1269   {
1270   recipients_count = 0;
1271   *blackholed_by_ptr = US"MIME ACL";
1272   }
1273 else if (rc != OK)
1274   {
1275   Uunlink(spool_name);
1276   unspool_mbox();
1277 #ifdef EXPERIMENTAL_DCC
1278   dcc_ok = 0;
1279 #endif
1280   if (smtp_handle_acl_fail(ACL_WHERE_MIME, rc, user_msg, log_msg) != 0)
1281     *smtp_yield_ptr = FALSE;    /* No more messsages after dropped connection */
1282   *smtp_reply_ptr = US"";       /* Indicate reply already sent */
1283   message_id[0] = 0;            /* Indicate no message accepted */
1284   return FALSE;                 /* Cause skip to end of receive function */
1285   }
1286
1287 return TRUE;
1288 }
1289
1290 #endif  /* WITH_CONTENT_SCAN */
1291
1292
1293
1294 void
1295 received_header_gen(void)
1296 {
1297 uschar *received;
1298 uschar *timestamp;
1299 header_line *received_header= header_list;
1300
1301 timestamp = expand_string(US"${tod_full}");
1302 if (recipients_count == 1) received_for = recipients_list[0].address;
1303 received = expand_string(received_header_text);
1304 received_for = NULL;
1305
1306 if (received == NULL)
1307   {
1308   if(spool_name[0] != 0)
1309     Uunlink(spool_name);           /* Lose the data file */
1310   log_write(0, LOG_MAIN|LOG_PANIC_DIE, "Expansion of \"%s\" "
1311     "(received_header_text) failed: %s", string_printing(received_header_text),
1312       expand_string_message);
1313   }
1314
1315 /* The first element on the header chain is reserved for the Received header,
1316 so all we have to do is fill in the text pointer, and set the type. However, if
1317 the result of the expansion is an empty string, we leave the header marked as
1318 "old" so as to refrain from adding a Received header. */
1319
1320 if (received[0] == 0)
1321   {
1322   received_header->text = string_sprintf("Received: ; %s\n", timestamp);
1323   received_header->type = htype_old;
1324   }
1325 else
1326   {
1327   received_header->text = string_sprintf("%s; %s\n", received, timestamp);
1328   received_header->type = htype_received;
1329   }
1330
1331 received_header->slen = Ustrlen(received_header->text);
1332
1333 DEBUG(D_receive) debug_printf(">>Generated Received: header line\n%c %s",
1334   received_header->type, received_header->text);
1335 }
1336
1337
1338
1339 /*************************************************
1340 *                 Receive message                *
1341 *************************************************/
1342
1343 /* Receive a message on the given input, and put it into a pair of spool files.
1344 Either a non-null list of recipients, or the extract flag will be true, or
1345 both. The flag sender_local is true for locally generated messages. The flag
1346 submission_mode is true if an ACL has obeyed "control = submission". The flag
1347 suppress_local_fixups is true if an ACL has obeyed "control =
1348 suppress_local_fixups" or -G was passed on the command-line.
1349 The flag smtp_input is true if the message is to be
1350 handled using SMTP conventions about termination and lines starting with dots.
1351 For non-SMTP messages, dot_ends is true for dot-terminated messages.
1352
1353 If a message was successfully read, message_id[0] will be non-zero.
1354
1355 The general actions of this function are:
1356
1357   . Read the headers of the message (if any) into a chain of store
1358     blocks.
1359
1360   . If there is a "sender:" header and the message is locally originated,
1361     throw it away, unless the caller is trusted, or unless
1362     active_local_sender_retain is set - which can only happen if
1363     active_local_from_check is false.
1364
1365   . If recipients are to be extracted from the message, build the
1366     recipients list from the headers, removing any that were on the
1367     original recipients list (unless extract_addresses_remove_arguments is
1368     false), and at the same time, remove any bcc header that may be present.
1369
1370   . Get the spool file for the data, sort out its unique name, open
1371     and lock it (but don't give it the name yet).
1372
1373   . Generate a "Message-Id" header if the message doesn't have one, for
1374     locally-originated messages.
1375
1376   . Generate a "Received" header.
1377
1378   . Ensure the recipients list is fully qualified and rewritten if necessary.
1379
1380   . If there are any rewriting rules, apply them to the sender address
1381     and also to the headers.
1382
1383   . If there is no from: header, generate one, for locally-generated messages
1384     and messages in "submission mode" only.
1385
1386   . If the sender is local, check that from: is correct, and if not, generate
1387     a Sender: header, unless message comes from a trusted caller, or this
1388     feature is disabled by active_local_from_check being false.
1389
1390   . If there is no "date" header, generate one, for locally-originated
1391     or submission mode messages only.
1392
1393   . Copy the rest of the input, or up to a terminating "." if in SMTP or
1394     dot_ends mode, to the data file. Leave it open, to hold the lock.
1395
1396   . Write the envelope and the headers to a new file.
1397
1398   . Set the name for the header file; close it.
1399
1400   . Set the name for the data file; close it.
1401
1402 Because this function can potentially be called many times in a single
1403 SMTP connection, all store should be got by store_get(), so that it will be
1404 automatically retrieved after the message is accepted.
1405
1406 FUDGE: It seems that sites on the net send out messages with just LF
1407 terminators, despite the warnings in the RFCs, and other MTAs handle this. So
1408 we make the CRs optional in all cases.
1409
1410 July 2003: Bare CRs in messages, especially in header lines, cause trouble. A
1411 new regime is now in place in which bare CRs in header lines are turned into LF
1412 followed by a space, so as not to terminate the header line.
1413
1414 February 2004: A bare LF in a header line in a message whose first line was
1415 terminated by CRLF is treated in the same way as a bare CR.
1416
1417 Arguments:
1418   extract_recip  TRUE if recipients are to be extracted from the message's
1419                    headers
1420
1421 Returns:  TRUE   there are more messages to be read (SMTP input)
1422           FALSE  there are no more messages to be read (non-SMTP input
1423                  or SMTP connection collapsed, or other failure)
1424
1425 When reading a message for filter testing, the returned value indicates
1426 whether the headers (which is all that is read) were terminated by '.' or
1427 not. */
1428
1429 BOOL
1430 receive_msg(BOOL extract_recip)
1431 {
1432 int  i;
1433 int  rc = FAIL;
1434 int  msg_size = 0;
1435 int  process_info_len = Ustrlen(process_info);
1436 int  error_rc = (error_handling == ERRORS_SENDER)?
1437        errors_sender_rc : EXIT_FAILURE;
1438 int  header_size = 256;
1439 int  start, end, domain, size, sptr;
1440 int  id_resolution;
1441 int  had_zero = 0;
1442 int  prevlines_length = 0;
1443
1444 register int ptr = 0;
1445
1446 BOOL contains_resent_headers = FALSE;
1447 BOOL extracted_ignored = FALSE;
1448 BOOL first_line_ended_crlf = TRUE_UNSET;
1449 BOOL smtp_yield = TRUE;
1450 BOOL yield = FALSE;
1451
1452 BOOL resents_exist = FALSE;
1453 uschar *resent_prefix = US"";
1454 uschar *blackholed_by = NULL;
1455 uschar *blackhole_log_msg = US"";
1456 int  cutthrough_done = 0;
1457
1458 flock_t lock_data;
1459 error_block *bad_addresses = NULL;
1460
1461 uschar *frozen_by = NULL;
1462 uschar *queued_by = NULL;
1463
1464 uschar *errmsg, *s;
1465 struct stat statbuf;
1466
1467 /* Final message to give to SMTP caller, and messages from ACLs */
1468
1469 uschar *smtp_reply = NULL;
1470 uschar *user_msg, *log_msg;
1471
1472 /* Working header pointers */
1473
1474 header_line *h, *next;
1475
1476 /* Flags for noting the existence of certain headers (only one left) */
1477
1478 BOOL date_header_exists = FALSE;
1479
1480 /* Pointers to receive the addresses of headers whose contents we need. */
1481
1482 header_line *from_header = NULL;
1483 header_line *subject_header = NULL;
1484 header_line *msgid_header = NULL;
1485 header_line *received_header;
1486
1487 #ifdef EXPERIMENTAL_DMARC
1488 int dmarc_up = 0;
1489 #endif /* EXPERIMENTAL_DMARC */
1490
1491 /* Variables for use when building the Received: header. */
1492
1493 uschar *timestamp;
1494 int tslen;
1495
1496 /* Release any open files that might have been cached while preparing to
1497 accept the message - e.g. by verifying addresses - because reading a message
1498 might take a fair bit of real time. */
1499
1500 search_tidyup();
1501
1502 /* Extracting the recipient list from an input file is incompatible with
1503 cutthrough delivery with the no-spool option.  It shouldn't be possible
1504 to set up the combination, but just in case kill any ongoing connection. */
1505 if (extract_recip || !smtp_input)
1506   cancel_cutthrough_connection("not smtp input");
1507
1508 /* Initialize the chain of headers by setting up a place-holder for Received:
1509 header. Temporarily mark it as "old", i.e. not to be used. We keep header_last
1510 pointing to the end of the chain to make adding headers simple. */
1511
1512 received_header = header_list = header_last = store_get(sizeof(header_line));
1513 header_list->next = NULL;
1514 header_list->type = htype_old;
1515 header_list->text = NULL;
1516 header_list->slen = 0;
1517
1518 /* Control block for the next header to be read. */
1519
1520 next = store_get(sizeof(header_line));
1521 next->text = store_get(header_size);
1522
1523 /* Initialize message id to be null (indicating no message read), and the
1524 header names list to be the normal list. Indicate there is no data file open
1525 yet, initialize the size and warning count, and deal with no size limit. */
1526
1527 message_id[0] = 0;
1528 data_file = NULL;
1529 data_fd = -1;
1530 spool_name[0] = 0;
1531 message_size = 0;
1532 warning_count = 0;
1533 received_count = 1;            /* For the one we will add */
1534
1535 if (thismessage_size_limit <= 0) thismessage_size_limit = INT_MAX;
1536
1537 /* While reading the message, the following counts are computed. */
1538
1539 message_linecount = body_linecount = body_zerocount =
1540   max_received_linelength = 0;
1541
1542 #ifndef DISABLE_DKIM
1543 /* Call into DKIM to set up the context. */
1544 if (smtp_input && !smtp_batched_input && !dkim_disable_verify) dkim_exim_verify_init();
1545 #endif
1546
1547 #ifdef EXPERIMENTAL_DMARC
1548 /* initialize libopendmarc */
1549 dmarc_up = dmarc_init();
1550 #endif
1551
1552 /* Remember the time of reception. Exim uses time+pid for uniqueness of message
1553 ids, and fractions of a second are required. See the comments that precede the
1554 message id creation below. */
1555
1556 (void)gettimeofday(&message_id_tv, NULL);
1557
1558 /* For other uses of the received time we can operate with granularity of one
1559 second, and for that we use the global variable received_time. This is for
1560 things like ultimate message timeouts. */
1561
1562 received_time = message_id_tv.tv_sec;
1563
1564 /* If SMTP input, set the special handler for timeouts. The alarm() calls
1565 happen in the smtp_getc() function when it refills its buffer. */
1566
1567 if (smtp_input) os_non_restarting_signal(SIGALRM, data_timeout_handler);
1568
1569 /* If not SMTP input, timeout happens only if configured, and we just set a
1570 single timeout for the whole message. */
1571
1572 else if (receive_timeout > 0)
1573   {
1574   os_non_restarting_signal(SIGALRM, data_timeout_handler);
1575   alarm(receive_timeout);
1576   }
1577
1578 /* SIGTERM and SIGINT are caught always. */
1579
1580 signal(SIGTERM, data_sigterm_sigint_handler);
1581 signal(SIGINT, data_sigterm_sigint_handler);
1582
1583 /* Header lines in messages are not supposed to be very long, though when
1584 unfolded, to: and cc: headers can take up a lot of store. We must also cope
1585 with the possibility of junk being thrown at us. Start by getting 256 bytes for
1586 storing the header, and extend this as necessary using string_cat().
1587
1588 To cope with total lunacies, impose an upper limit on the length of the header
1589 section of the message, as otherwise the store will fill up. We must also cope
1590 with the possibility of binary zeros in the data. Hence we cannot use fgets().
1591 Folded header lines are joined into one string, leaving the '\n' characters
1592 inside them, so that writing them out reproduces the input.
1593
1594 Loop for each character of each header; the next structure for chaining the
1595 header is set up already, with ptr the offset of the next character in
1596 next->text. */
1597
1598 for (;;)
1599   {
1600   int ch = (receive_getc)();
1601
1602   /* If we hit EOF on a SMTP connection, it's an error, since incoming
1603   SMTP must have a correct "." terminator. */
1604
1605   if (ch == EOF && smtp_input /* && !smtp_batched_input */)
1606     {
1607     smtp_reply = handle_lost_connection(US" (header)");
1608     smtp_yield = FALSE;
1609     goto TIDYUP;                       /* Skip to end of function */
1610     }
1611
1612   /* See if we are at the current header's size limit - there must be at least
1613   four bytes left. This allows for the new character plus a zero, plus two for
1614   extra insertions when we are playing games with dots and carriage returns. If
1615   we are at the limit, extend the text buffer. This could have been done
1616   automatically using string_cat() but because this is a tightish loop storing
1617   only one character at a time, we choose to do it inline. Normally
1618   store_extend() will be able to extend the block; only at the end of a big
1619   store block will a copy be needed. To handle the case of very long headers
1620   (and sometimes lunatic messages can have ones that are 100s of K long) we
1621   call store_release() for strings that have been copied - if the string is at
1622   the start of a block (and therefore the only thing in it, because we aren't
1623   doing any other gets), the block gets freed. We can only do this because we
1624   know there are no other calls to store_get() going on. */
1625
1626   if (ptr >= header_size - 4)
1627     {
1628     int oldsize = header_size;
1629     /* header_size += 256; */
1630     header_size *= 2;
1631     if (!store_extend(next->text, oldsize, header_size))
1632       {
1633       uschar *newtext = store_get(header_size);
1634       memcpy(newtext, next->text, ptr);
1635       store_release(next->text);
1636       next->text = newtext;
1637       }
1638     }
1639
1640   /* Cope with receiving a binary zero. There is dispute about whether
1641   these should be allowed in RFC 822 messages. The middle view is that they
1642   should not be allowed in headers, at least. Exim takes this attitude at
1643   the moment. We can't just stomp on them here, because we don't know that
1644   this line is a header yet. Set a flag to cause scanning later. */
1645
1646   if (ch == 0) had_zero++;
1647
1648   /* Test for termination. Lines in remote SMTP are terminated by CRLF, while
1649   those from data files use just LF. Treat LF in local SMTP input as a
1650   terminator too. Treat EOF as a line terminator always. */
1651
1652   if (ch == EOF) goto EOL;
1653
1654   /* FUDGE: There are sites out there that don't send CRs before their LFs, and
1655   other MTAs accept this. We are therefore forced into this "liberalisation"
1656   too, so we accept LF as a line terminator whatever the source of the message.
1657   However, if the first line of the message ended with a CRLF, we treat a bare
1658   LF specially by inserting a white space after it to ensure that the header
1659   line is not terminated. */
1660
1661   if (ch == '\n')
1662     {
1663     if (first_line_ended_crlf == TRUE_UNSET) first_line_ended_crlf = FALSE;
1664       else if (first_line_ended_crlf) receive_ungetc(' ');
1665     goto EOL;
1666     }
1667
1668   /* This is not the end of the line. If this is SMTP input and this is
1669   the first character in the line and it is a "." character, ignore it.
1670   This implements the dot-doubling rule, though header lines starting with
1671   dots aren't exactly common. They are legal in RFC 822, though. If the
1672   following is CRLF or LF, this is the line that that terminates the
1673   entire message. We set message_ended to indicate this has happened (to
1674   prevent further reading), and break out of the loop, having freed the
1675   empty header, and set next = NULL to indicate no data line. */
1676
1677   if (ptr == 0 && ch == '.' && (smtp_input || dot_ends))
1678     {
1679     ch = (receive_getc)();
1680     if (ch == '\r')
1681       {
1682       ch = (receive_getc)();
1683       if (ch != '\n')
1684         {
1685         receive_ungetc(ch);
1686         ch = '\r';              /* Revert to CR */
1687         }
1688       }
1689     if (ch == '\n')
1690       {
1691       message_ended = END_DOT;
1692       store_reset(next);
1693       next = NULL;
1694       break;                    /* End character-reading loop */
1695       }
1696
1697     /* For non-SMTP input, the dot at the start of the line was really a data
1698     character. What is now in ch is the following character. We guaranteed
1699     enough space for this above. */
1700
1701     if (!smtp_input)
1702       {
1703       next->text[ptr++] = '.';
1704       message_size++;
1705       }
1706     }
1707
1708   /* If CR is immediately followed by LF, end the line, ignoring the CR, and
1709   remember this case if this is the first line ending. */
1710
1711   if (ch == '\r')
1712     {
1713     ch = (receive_getc)();
1714     if (ch == '\n')
1715       {
1716       if (first_line_ended_crlf == TRUE_UNSET) first_line_ended_crlf = TRUE;
1717       goto EOL;
1718       }
1719
1720     /* Otherwise, put back the character after CR, and turn the bare CR
1721     into LF SP. */
1722
1723     ch = (receive_ungetc)(ch);
1724     next->text[ptr++] = '\n';
1725     message_size++;
1726     ch = ' ';
1727     }
1728
1729   /* We have a data character for the header line. */
1730
1731   next->text[ptr++] = ch;    /* Add to buffer */
1732   message_size++;            /* Total message size so far */
1733
1734   /* Handle failure due to a humungously long header section. The >= allows
1735   for the terminating \n. Add what we have so far onto the headers list so
1736   that it gets reflected in any error message, and back up the just-read
1737   character. */
1738
1739   if (message_size >= header_maxsize)
1740     {
1741     next->text[ptr] = 0;
1742     next->slen = ptr;
1743     next->type = htype_other;
1744     next->next = NULL;
1745     header_last->next = next;
1746     header_last = next;
1747
1748     log_write(0, LOG_MAIN, "ridiculously long message header received from "
1749       "%s (more than %d characters): message abandoned",
1750       sender_host_unknown? sender_ident : sender_fullhost, header_maxsize);
1751
1752     if (smtp_input)
1753       {
1754       smtp_reply = US"552 Message header is ridiculously long";
1755       receive_swallow_smtp();
1756       goto TIDYUP;                             /* Skip to end of function */
1757       }
1758
1759     else
1760       {
1761       give_local_error(ERRMESS_VLONGHEADER,
1762         string_sprintf("message header longer than %d characters received: "
1763          "message not accepted", header_maxsize), US"", error_rc, stdin,
1764            header_list->next);
1765       /* Does not return */
1766       }
1767     }
1768
1769   continue;                  /* With next input character */
1770
1771   /* End of header line reached */
1772
1773   EOL:
1774
1775   /* Keep track of lines for BSMTP errors and overall message_linecount. */
1776
1777   receive_linecount++;
1778   message_linecount++;
1779
1780   /* Keep track of maximum line length */
1781
1782   if (ptr - prevlines_length > max_received_linelength)
1783     max_received_linelength = ptr - prevlines_length;
1784   prevlines_length = ptr + 1;
1785
1786   /* Now put in the terminating newline. There is always space for
1787   at least two more characters. */
1788
1789   next->text[ptr++] = '\n';
1790   message_size++;
1791
1792   /* A blank line signals the end of the headers; release the unwanted
1793   space and set next to NULL to indicate this. */
1794
1795   if (ptr == 1)
1796     {
1797     store_reset(next);
1798     next = NULL;
1799     break;
1800     }
1801
1802   /* There is data in the line; see if the next input character is a
1803   whitespace character. If it is, we have a continuation of this header line.
1804   There is always space for at least one character at this point. */
1805
1806   if (ch != EOF)
1807     {
1808     int nextch = (receive_getc)();
1809     if (nextch == ' ' || nextch == '\t')
1810       {
1811       next->text[ptr++] = nextch;
1812       message_size++;
1813       continue;                      /* Iterate the loop */
1814       }
1815     else if (nextch != EOF) (receive_ungetc)(nextch);   /* For next time */
1816     else ch = EOF;                   /* Cause main loop to exit at end */
1817     }
1818
1819   /* We have got to the real line end. Terminate the string and release store
1820   beyond it. If it turns out to be a real header, internal binary zeros will
1821   be squashed later. */
1822
1823   next->text[ptr] = 0;
1824   next->slen = ptr;
1825   store_reset(next->text + ptr + 1);
1826
1827   /* Check the running total size against the overall message size limit. We
1828   don't expect to fail here, but if the overall limit is set less than MESSAGE_
1829   MAXSIZE and a big header is sent, we want to catch it. Just stop reading
1830   headers - the code to read the body will then also hit the buffer. */
1831
1832   if (message_size > thismessage_size_limit) break;
1833
1834   /* A line that is not syntactically correct for a header also marks
1835   the end of the headers. In this case, we leave next containing the
1836   first data line. This might actually be several lines because of the
1837   continuation logic applied above, but that doesn't matter.
1838
1839   It turns out that smail, and presumably sendmail, accept leading lines
1840   of the form
1841
1842   From ph10 Fri Jan  5 12:35 GMT 1996
1843
1844   in messages. The "mail" command on Solaris 2 sends such lines. I cannot
1845   find any documentation of this, but for compatibility it had better be
1846   accepted. Exim restricts it to the case of non-smtp messages, and
1847   treats it as an alternative to the -f command line option. Thus it is
1848   ignored except for trusted users or filter testing. Otherwise it is taken
1849   as the sender address, unless -f was used (sendmail compatibility).
1850
1851   It further turns out that some UUCPs generate the From_line in a different
1852   format, e.g.
1853
1854   From ph10 Fri, 7 Jan 97 14:00:00 GMT
1855
1856   The regex for matching these things is now capable of recognizing both
1857   formats (including 2- and 4-digit years in the latter). In fact, the regex
1858   is now configurable, as is the expansion string to fish out the sender.
1859
1860   Even further on it has been discovered that some broken clients send
1861   these lines in SMTP messages. There is now an option to ignore them from
1862   specified hosts or networks. Sigh. */
1863
1864   if (header_last == header_list &&
1865        (!smtp_input
1866          ||
1867          (sender_host_address != NULL &&
1868            verify_check_host(&ignore_fromline_hosts) == OK)
1869          ||
1870          (sender_host_address == NULL && ignore_fromline_local)
1871        ) &&
1872        regex_match_and_setup(regex_From, next->text, 0, -1))
1873     {
1874     if (!sender_address_forced)
1875       {
1876       uschar *uucp_sender = expand_string(uucp_from_sender);
1877       if (uucp_sender == NULL)
1878         {
1879         log_write(0, LOG_MAIN|LOG_PANIC,
1880           "expansion of \"%s\" failed after matching "
1881           "\"From \" line: %s", uucp_from_sender, expand_string_message);
1882         }
1883       else
1884         {
1885         int start, end, domain;
1886         uschar *errmess;
1887         uschar *newsender = parse_extract_address(uucp_sender, &errmess,
1888           &start, &end, &domain, TRUE);
1889         if (newsender != NULL)
1890           {
1891           if (domain == 0 && newsender[0] != 0)
1892             newsender = rewrite_address_qualify(newsender, FALSE);
1893
1894           if (filter_test != FTEST_NONE || receive_check_set_sender(newsender))
1895             {
1896             sender_address = newsender;
1897
1898             if (trusted_caller || filter_test != FTEST_NONE)
1899               {
1900               authenticated_sender = NULL;
1901               originator_name = US"";
1902               sender_local = FALSE;
1903               }
1904
1905             if (filter_test != FTEST_NONE)
1906               printf("Sender taken from \"From \" line\n");
1907             }
1908           }
1909         }
1910       }
1911     }
1912
1913   /* Not a leading "From " line. Check to see if it is a valid header line.
1914   Header names may contain any non-control characters except space and colon,
1915   amazingly. */
1916
1917   else
1918     {
1919     uschar *p = next->text;
1920
1921     /* If not a valid header line, break from the header reading loop, leaving
1922     next != NULL, indicating that it holds the first line of the body. */
1923
1924     if (isspace(*p)) break;
1925     while (mac_isgraph(*p) && *p != ':') p++;
1926     while (isspace(*p)) p++;
1927     if (*p != ':')
1928       {
1929       body_zerocount = had_zero;
1930       break;
1931       }
1932
1933     /* We have a valid header line. If there were any binary zeroes in
1934     the line, stomp on them here. */
1935
1936     if (had_zero > 0)
1937       for (p = next->text; p < next->text + ptr; p++) if (*p == 0) *p = '?';
1938
1939     /* It is perfectly legal to have an empty continuation line
1940     at the end of a header, but it is confusing to humans
1941     looking at such messages, since it looks like a blank line.
1942     Reduce confusion by removing redundant white space at the
1943     end. We know that there is at least one printing character
1944     (the ':' tested for above) so there is no danger of running
1945     off the end. */
1946
1947     p = next->text + ptr - 2;
1948     for (;;)
1949       {
1950       while (*p == ' ' || *p == '\t') p--;
1951       if (*p != '\n') break;
1952       ptr = (p--) - next->text + 1;
1953       message_size -= next->slen - ptr;
1954       next->text[ptr] = 0;
1955       next->slen = ptr;
1956       }
1957
1958     /* Add the header to the chain */
1959
1960     next->type = htype_other;
1961     next->next = NULL;
1962     header_last->next = next;
1963     header_last = next;
1964
1965     /* Check the limit for individual line lengths. This comes after adding to
1966     the chain so that the failing line is reflected if a bounce is generated
1967     (for a local message). */
1968
1969     if (header_line_maxsize > 0 && next->slen > header_line_maxsize)
1970       {
1971       log_write(0, LOG_MAIN, "overlong message header line received from "
1972         "%s (more than %d characters): message abandoned",
1973         sender_host_unknown? sender_ident : sender_fullhost,
1974         header_line_maxsize);
1975
1976       if (smtp_input)
1977         {
1978         smtp_reply = US"552 A message header line is too long";
1979         receive_swallow_smtp();
1980         goto TIDYUP;                             /* Skip to end of function */
1981         }
1982
1983       else
1984         {
1985         give_local_error(ERRMESS_VLONGHDRLINE,
1986           string_sprintf("message header line longer than %d characters "
1987            "received: message not accepted", header_line_maxsize), US"",
1988            error_rc, stdin, header_list->next);
1989         /* Does not return */
1990         }
1991       }
1992
1993     /* Note if any resent- fields exist. */
1994
1995     if (!resents_exist && strncmpic(next->text, US"resent-", 7) == 0)
1996       {
1997       resents_exist = TRUE;
1998       resent_prefix = US"Resent-";
1999       }
2000     }
2001
2002   /* The line has been handled. If we have hit EOF, break out of the loop,
2003   indicating no pending data line. */
2004
2005   if (ch == EOF) { next = NULL; break; }
2006
2007   /* Set up for the next header */
2008
2009   header_size = 256;
2010   next = store_get(sizeof(header_line));
2011   next->text = store_get(header_size);
2012   ptr = 0;
2013   had_zero = 0;
2014   prevlines_length = 0;
2015   }      /* Continue, starting to read the next header */
2016
2017 /* At this point, we have read all the headers into a data structure in main
2018 store. The first header is still the dummy placeholder for the Received: header
2019 we are going to generate a bit later on. If next != NULL, it contains the first
2020 data line - which terminated the headers before reaching a blank line (not the
2021 normal case). */
2022
2023 DEBUG(D_receive)
2024   {
2025   debug_printf(">>Headers received:\n");
2026   for (h = header_list->next; h != NULL; h = h->next)
2027     debug_printf("%s", h->text);
2028   debug_printf("\n");
2029   }
2030
2031 /* End of file on any SMTP connection is an error. If an incoming SMTP call
2032 is dropped immediately after valid headers, the next thing we will see is EOF.
2033 We must test for this specially, as further down the reading of the data is
2034 skipped if already at EOF. */
2035
2036 if (smtp_input && (receive_feof)())
2037   {
2038   smtp_reply = handle_lost_connection(US" (after header)");
2039   smtp_yield = FALSE;
2040   goto TIDYUP;                       /* Skip to end of function */
2041   }
2042
2043 /* If this is a filter test run and no headers were read, output a warning
2044 in case there is a mistake in the test message. */
2045
2046 if (filter_test != FTEST_NONE && header_list->next == NULL)
2047   printf("Warning: no message headers read\n");
2048
2049
2050 /* Scan the headers to identify them. Some are merely marked for later
2051 processing; some are dealt with here. */
2052
2053 for (h = header_list->next; h != NULL; h = h->next)
2054   {
2055   BOOL is_resent = strncmpic(h->text, US"resent-", 7) == 0;
2056   if (is_resent) contains_resent_headers = TRUE;
2057
2058   switch (header_checkname(h, is_resent))
2059     {
2060     case htype_bcc:
2061     h->type = htype_bcc;        /* Both Bcc: and Resent-Bcc: */
2062     break;
2063
2064     case htype_cc:
2065     h->type = htype_cc;         /* Both Cc: and Resent-Cc: */
2066     break;
2067
2068     /* Record whether a Date: or Resent-Date: header exists, as appropriate. */
2069
2070     case htype_date:
2071     if (!resents_exist || is_resent) date_header_exists = TRUE;
2072     break;
2073
2074     /* Same comments as about Return-Path: below. */
2075
2076     case htype_delivery_date:
2077     if (delivery_date_remove) h->type = htype_old;
2078     break;
2079
2080     /* Same comments as about Return-Path: below. */
2081
2082     case htype_envelope_to:
2083     if (envelope_to_remove) h->type = htype_old;
2084     break;
2085
2086     /* Mark all "From:" headers so they get rewritten. Save the one that is to
2087     be used for Sender: checking. For Sendmail compatibility, if the "From:"
2088     header consists of just the login id of the user who called Exim, rewrite
2089     it with the gecos field first. Apply this rule to Resent-From: if there
2090     are resent- fields. */
2091
2092     case htype_from:
2093     h->type = htype_from;
2094     if (!resents_exist || is_resent)
2095       {
2096       from_header = h;
2097       if (!smtp_input)
2098         {
2099         int len;
2100         uschar *s = Ustrchr(h->text, ':') + 1;
2101         while (isspace(*s)) s++;
2102         len = h->slen - (s - h->text) - 1;
2103         if (Ustrlen(originator_login) == len &&
2104             strncmpic(s, originator_login, len) == 0)
2105           {
2106           uschar *name = is_resent? US"Resent-From" : US"From";
2107           header_add(htype_from, "%s: %s <%s@%s>\n", name, originator_name,
2108             originator_login, qualify_domain_sender);
2109           from_header = header_last;
2110           h->type = htype_old;
2111           DEBUG(D_receive|D_rewrite)
2112             debug_printf("rewrote \"%s:\" header using gecos\n", name);
2113          }
2114         }
2115       }
2116     break;
2117
2118     /* Identify the Message-id: header for generating "in-reply-to" in the
2119     autoreply transport. For incoming logging, save any resent- value. In both
2120     cases, take just the first of any multiples. */
2121
2122     case htype_id:
2123     if (msgid_header == NULL && (!resents_exist || is_resent))
2124       {
2125       msgid_header = h;
2126       h->type = htype_id;
2127       }
2128     break;
2129
2130     /* Flag all Received: headers */
2131
2132     case htype_received:
2133     h->type = htype_received;
2134     received_count++;
2135     break;
2136
2137     /* "Reply-to:" is just noted (there is no resent-reply-to field) */
2138
2139     case htype_reply_to:
2140     h->type = htype_reply_to;
2141     break;
2142
2143     /* The Return-path: header is supposed to be added to messages when
2144     they leave the SMTP system. We shouldn't receive messages that already
2145     contain Return-path. However, since Exim generates Return-path: on
2146     local delivery, resent messages may well contain it. We therefore
2147     provide an option (which defaults on) to remove any Return-path: headers
2148     on input. Removal actually means flagging as "old", which prevents the
2149     header being transmitted with the message. */
2150
2151     case htype_return_path:
2152     if (return_path_remove) h->type = htype_old;
2153
2154     /* If we are testing a mail filter file, use the value of the
2155     Return-Path: header to set up the return_path variable, which is not
2156     otherwise set. However, remove any <> that surround the address
2157     because the variable doesn't have these. */
2158
2159     if (filter_test != FTEST_NONE)
2160       {
2161       uschar *start = h->text + 12;
2162       uschar *end = start + Ustrlen(start);
2163       while (isspace(*start)) start++;
2164       while (end > start && isspace(end[-1])) end--;
2165       if (*start == '<' && end[-1] == '>')
2166         {
2167         start++;
2168         end--;
2169         }
2170       return_path = string_copyn(start, end - start);
2171       printf("Return-path taken from \"Return-path:\" header line\n");
2172       }
2173     break;
2174
2175     /* If there is a "Sender:" header and the message is locally originated,
2176     and from an untrusted caller and suppress_local_fixups is not set, or if we
2177     are in submission mode for a remote message, mark it "old" so that it will
2178     not be transmitted with the message, unless active_local_sender_retain is
2179     set. (This can only be true if active_local_from_check is false.) If there
2180     are any resent- headers in the message, apply this rule to Resent-Sender:
2181     instead of Sender:. Messages with multiple resent- header sets cannot be
2182     tidily handled. (For this reason, at least one MUA - Pine - turns old
2183     resent- headers into X-resent- headers when resending, leaving just one
2184     set.) */
2185
2186     case htype_sender:
2187     h->type = ((!active_local_sender_retain &&
2188                 (
2189                 (sender_local && !trusted_caller && !suppress_local_fixups)
2190                   || submission_mode
2191                 )
2192                ) &&
2193                (!resents_exist||is_resent))?
2194       htype_old : htype_sender;
2195     break;
2196
2197     /* Remember the Subject: header for logging. There is no Resent-Subject */
2198
2199     case htype_subject:
2200     subject_header = h;
2201     break;
2202
2203     /* "To:" gets flagged, and the existence of a recipient header is noted,
2204     whether it's resent- or not. */
2205
2206     case htype_to:
2207     h->type = htype_to;
2208     /****
2209     to_or_cc_header_exists = TRUE;
2210     ****/
2211     break;
2212     }
2213   }
2214
2215 /* Extract recipients from the headers if that is required (the -t option).
2216 Note that this is documented as being done *before* any address rewriting takes
2217 place. There are two possibilities:
2218
2219 (1) According to sendmail documentation for Solaris, IRIX, and HP-UX, any
2220 recipients already listed are to be REMOVED from the message. Smail 3 works
2221 like this. We need to build a non-recipients tree for that list, because in
2222 subsequent processing this data is held in a tree and that's what the
2223 spool_write_header() function expects. Make sure that non-recipient addresses
2224 are fully qualified and rewritten if necessary.
2225
2226 (2) According to other sendmail documentation, -t ADDS extracted recipients to
2227 those in the command line arguments (and it is rumoured some other MTAs do
2228 this). Therefore, there is an option to make Exim behave this way.
2229
2230 *** Notes on "Resent-" header lines ***
2231
2232 The presence of resent-headers in the message makes -t horribly ambiguous.
2233 Experiments with sendmail showed that it uses recipients for all resent-
2234 headers, totally ignoring the concept of "sets of resent- headers" as described
2235 in RFC 2822 section 3.6.6. Sendmail also amalgamates them into a single set
2236 with all the addresses in one instance of each header.
2237
2238 This seems to me not to be at all sensible. Before release 4.20, Exim 4 gave an
2239 error for -t if there were resent- headers in the message. However, after a
2240 discussion on the mailing list, I've learned that there are MUAs that use
2241 resent- headers with -t, and also that the stuff about sets of resent- headers
2242 and their ordering in RFC 2822 is generally ignored. An MUA that submits a
2243 message with -t and resent- header lines makes sure that only *its* resent-
2244 headers are present; previous ones are often renamed as X-resent- for example.
2245
2246 Consequently, Exim has been changed so that, if any resent- header lines are
2247 present, the recipients are taken from all of the appropriate resent- lines,
2248 and not from the ordinary To:, Cc:, etc. */
2249
2250 if (extract_recip)
2251   {
2252   int rcount = 0;
2253   error_block **bnext = &bad_addresses;
2254
2255   if (extract_addresses_remove_arguments)
2256     {
2257     while (recipients_count-- > 0)
2258       {
2259       uschar *s = rewrite_address(recipients_list[recipients_count].address,
2260         TRUE, TRUE, global_rewrite_rules, rewrite_existflags);
2261       tree_add_nonrecipient(s);
2262       }
2263     recipients_list = NULL;
2264     recipients_count = recipients_list_max = 0;
2265     }
2266
2267   /* Now scan the headers */
2268
2269   for (h = header_list->next; h != NULL; h = h->next)
2270     {
2271     if ((h->type == htype_to || h->type == htype_cc || h->type == htype_bcc) &&
2272         (!contains_resent_headers || strncmpic(h->text, US"resent-", 7) == 0))
2273       {
2274       uschar *s = Ustrchr(h->text, ':') + 1;
2275       while (isspace(*s)) s++;
2276
2277       parse_allow_group = TRUE;          /* Allow address group syntax */
2278
2279       while (*s != 0)
2280         {
2281         uschar *ss = parse_find_address_end(s, FALSE);
2282         uschar *recipient, *errmess, *p, *pp;
2283         int start, end, domain;
2284
2285         /* Check on maximum */
2286
2287         if (recipients_max > 0 && ++rcount > recipients_max)
2288           {
2289           give_local_error(ERRMESS_TOOMANYRECIP, US"too many recipients",
2290             US"message rejected: ", error_rc, stdin, NULL);
2291           /* Does not return */
2292           }
2293
2294         /* Make a copy of the address, and remove any internal newlines. These
2295         may be present as a result of continuations of the header line. The
2296         white space that follows the newline must not be removed - it is part
2297         of the header. */
2298
2299         pp = recipient = store_get(ss - s + 1);
2300         for (p = s; p < ss; p++) if (*p != '\n') *pp++ = *p;
2301         *pp = 0;
2302         recipient = parse_extract_address(recipient, &errmess, &start, &end,
2303           &domain, FALSE);
2304
2305         /* Keep a list of all the bad addresses so we can send a single
2306         error message at the end. However, an empty address is not an error;
2307         just ignore it. This can come from an empty group list like
2308
2309           To: Recipients of list:;
2310
2311         If there are no recipients at all, an error will occur later. */
2312
2313         if (recipient == NULL && Ustrcmp(errmess, "empty address") != 0)
2314           {
2315           int len = Ustrlen(s);
2316           error_block *b = store_get(sizeof(error_block));
2317           while (len > 0 && isspace(s[len-1])) len--;
2318           b->next = NULL;
2319           b->text1 = string_printing(string_copyn(s, len));
2320           b->text2 = errmess;
2321           *bnext = b;
2322           bnext = &(b->next);
2323           }
2324
2325         /* If the recipient is already in the nonrecipients tree, it must
2326         have appeared on the command line with the option extract_addresses_
2327         remove_arguments set. Do not add it to the recipients, and keep a note
2328         that this has happened, in order to give a better error if there are
2329         no recipients left. */
2330
2331         else if (recipient != NULL)
2332           {
2333           if (tree_search(tree_nonrecipients, recipient) == NULL)
2334             receive_add_recipient(recipient, -1);
2335           else
2336             extracted_ignored = TRUE;
2337           }
2338
2339         /* Move on past this address */
2340
2341         s = ss + (*ss? 1:0);
2342         while (isspace(*s)) s++;
2343         }    /* Next address */
2344
2345       parse_allow_group = FALSE;      /* Reset group syntax flags */
2346       parse_found_group = FALSE;
2347
2348       /* If this was the bcc: header, mark it "old", which means it
2349       will be kept on the spool, but not transmitted as part of the
2350       message. */
2351
2352       if (h->type == htype_bcc) h->type = htype_old;
2353       }   /* For appropriate header line */
2354     }     /* For each header line */
2355
2356   }
2357
2358 /* Now build the unique message id. This has changed several times over the
2359 lifetime of Exim. This description was rewritten for Exim 4.14 (February 2003).
2360 Retaining all the history in the comment has become too unwieldy - read
2361 previous release sources if you want it.
2362
2363 The message ID has 3 parts: tttttt-pppppp-ss. Each part is a number in base 62.
2364 The first part is the current time, in seconds. The second part is the current
2365 pid. Both are large enough to hold 32-bit numbers in base 62. The third part
2366 can hold a number in the range 0-3843. It used to be a computed sequence
2367 number, but is now the fractional component of the current time in units of
2368 1/2000 of a second (i.e. a value in the range 0-1999). After a message has been
2369 received, Exim ensures that the timer has ticked at the appropriate level
2370 before proceeding, to avoid duplication if the pid happened to be re-used
2371 within the same time period. It seems likely that most messages will take at
2372 least half a millisecond to be received, so no delay will normally be
2373 necessary. At least for some time...
2374
2375 There is a modification when localhost_number is set. Formerly this was allowed
2376 to be as large as 255. Now it is restricted to the range 0-16, and the final
2377 component of the message id becomes (localhost_number * 200) + fractional time
2378 in units of 1/200 of a second (i.e. a value in the range 0-3399).
2379
2380 Some not-really-Unix operating systems use case-insensitive file names (Darwin,
2381 Cygwin). For these, we have to use base 36 instead of base 62. Luckily, this
2382 still allows the tttttt field to hold a large enough number to last for some
2383 more decades, and the final two-digit field can hold numbers up to 1295, which
2384 is enough for milliseconds (instead of 1/2000 of a second).
2385
2386 However, the pppppp field cannot hold a 32-bit pid, but it can hold a 31-bit
2387 pid, so it is probably safe because pids have to be positive. The
2388 localhost_number is restricted to 0-10 for these hosts, and when it is set, the
2389 final field becomes (localhost_number * 100) + fractional time in centiseconds.
2390
2391 Note that string_base62() returns its data in a static storage block, so it
2392 must be copied before calling string_base62() again. It always returns exactly
2393 6 characters.
2394
2395 There doesn't seem to be anything in the RFC which requires a message id to
2396 start with a letter, but Smail was changed to ensure this. The external form of
2397 the message id (as supplied by string expansion) therefore starts with an
2398 additional leading 'E'. The spool file names do not include this leading
2399 letter and it is not used internally.
2400
2401 NOTE: If ever the format of message ids is changed, the regular expression for
2402 checking that a string is in this format must be updated in a corresponding
2403 way. It appears in the initializing code in exim.c. The macro MESSAGE_ID_LENGTH
2404 must also be changed to reflect the correct string length. Then, of course,
2405 other programs that rely on the message id format will need updating too. */
2406
2407 Ustrncpy(message_id, string_base62((long int)(message_id_tv.tv_sec)), 6);
2408 message_id[6] = '-';
2409 Ustrncpy(message_id + 7, string_base62((long int)getpid()), 6);
2410
2411 /* Deal with the case where the host number is set. The value of the number was
2412 checked when it was read, to ensure it isn't too big. The timing granularity is
2413 left in id_resolution so that an appropriate wait can be done after receiving
2414 the message, if necessary (we hope it won't be). */
2415
2416 if (host_number_string != NULL)
2417   {
2418   id_resolution = (BASE_62 == 62)? 5000 : 10000;
2419   sprintf(CS(message_id + MESSAGE_ID_LENGTH - 3), "-%2s",
2420     string_base62((long int)(
2421       host_number * (1000000/id_resolution) +
2422         message_id_tv.tv_usec/id_resolution)) + 4);
2423   }
2424
2425 /* Host number not set: final field is just the fractional time at an
2426 appropriate resolution. */
2427
2428 else
2429   {
2430   id_resolution = (BASE_62 == 62)? 500 : 1000;
2431   sprintf(CS(message_id + MESSAGE_ID_LENGTH - 3), "-%2s",
2432     string_base62((long int)(message_id_tv.tv_usec/id_resolution)) + 4);
2433   }
2434
2435 /* Add the current message id onto the current process info string if
2436 it will fit. */
2437
2438 (void)string_format(process_info + process_info_len,
2439   PROCESS_INFO_SIZE - process_info_len, " id=%s", message_id);
2440
2441 /* If we are using multiple input directories, set up the one for this message
2442 to be the least significant base-62 digit of the time of arrival. Otherwise
2443 ensure that it is an empty string. */
2444
2445 message_subdir[0] = split_spool_directory? message_id[5] : 0;
2446
2447 /* Now that we have the message-id, if there is no message-id: header, generate
2448 one, but only for local (without suppress_local_fixups) or submission mode
2449 messages. This can be user-configured if required, but we had better flatten
2450 any illegal characters therein. */
2451
2452 if (msgid_header == NULL &&
2453       ((sender_host_address == NULL && !suppress_local_fixups)
2454         || submission_mode))
2455   {
2456   uschar *p;
2457   uschar *id_text = US"";
2458   uschar *id_domain = primary_hostname;
2459
2460   /* Permit only letters, digits, dots, and hyphens in the domain */
2461
2462   if (message_id_domain != NULL)
2463     {
2464     uschar *new_id_domain = expand_string(message_id_domain);
2465     if (new_id_domain == NULL)
2466       {
2467       if (!expand_string_forcedfail)
2468         log_write(0, LOG_MAIN|LOG_PANIC,
2469           "expansion of \"%s\" (message_id_header_domain) "
2470           "failed: %s", message_id_domain, expand_string_message);
2471       }
2472     else if (*new_id_domain != 0)
2473       {
2474       id_domain = new_id_domain;
2475       for (p = id_domain; *p != 0; p++)
2476         if (!isalnum(*p) && *p != '.') *p = '-';  /* No need to test '-' ! */
2477       }
2478     }
2479
2480   /* Permit all characters except controls and RFC 2822 specials in the
2481   additional text part. */
2482
2483   if (message_id_text != NULL)
2484     {
2485     uschar *new_id_text = expand_string(message_id_text);
2486     if (new_id_text == NULL)
2487       {
2488       if (!expand_string_forcedfail)
2489         log_write(0, LOG_MAIN|LOG_PANIC,
2490           "expansion of \"%s\" (message_id_header_text) "
2491           "failed: %s", message_id_text, expand_string_message);
2492       }
2493     else if (*new_id_text != 0)
2494       {
2495       id_text = new_id_text;
2496       for (p = id_text; *p != 0; p++)
2497         if (mac_iscntrl_or_special(*p)) *p = '-';
2498       }
2499     }
2500
2501   /* Add the header line
2502    * Resent-* headers are prepended, per RFC 5322 3.6.6.  Non-Resent-* are
2503    * appended, to preserve classical expectations of header ordering. */
2504
2505   header_add_at_position(!resents_exist, NULL, FALSE, htype_id,
2506     "%sMessage-Id: <%s%s%s@%s>\n", resent_prefix, message_id_external,
2507     (*id_text == 0)? "" : ".", id_text, id_domain);
2508   }
2509
2510 /* If we are to log recipients, keep a copy of the raw ones before any possible
2511 rewriting. Must copy the count, because later ACLs and the local_scan()
2512 function may mess with the real recipients. */
2513
2514 if ((log_extra_selector & LX_received_recipients) != 0)
2515   {
2516   raw_recipients = store_get(recipients_count * sizeof(uschar *));
2517   for (i = 0; i < recipients_count; i++)
2518     raw_recipients[i] = string_copy(recipients_list[i].address);
2519   raw_recipients_count = recipients_count;
2520   }
2521
2522 /* Ensure the recipients list is fully qualified and rewritten. Unqualified
2523 recipients will get here only if the conditions were right (allow_unqualified_
2524 recipient is TRUE). */
2525
2526 for (i = 0; i < recipients_count; i++)
2527   recipients_list[i].address =
2528     rewrite_address(recipients_list[i].address, TRUE, TRUE,
2529       global_rewrite_rules, rewrite_existflags);
2530
2531 /* If there is no From: header, generate one for local (without
2532 suppress_local_fixups) or submission_mode messages. If there is no sender
2533 address, but the sender is local or this is a local delivery error, use the
2534 originator login. This shouldn't happen for genuine bounces, but might happen
2535 for autoreplies. The addition of From: must be done *before* checking for the
2536 possible addition of a Sender: header, because untrusted_set_sender allows an
2537 untrusted user to set anything in the envelope (which might then get info
2538 From:) but we still want to ensure a valid Sender: if it is required. */
2539
2540 if (from_header == NULL &&
2541     ((sender_host_address == NULL && !suppress_local_fixups)
2542       || submission_mode))
2543   {
2544   uschar *oname = US"";
2545
2546   /* Use the originator_name if this is a locally submitted message and the
2547   caller is not trusted. For trusted callers, use it only if -F was used to
2548   force its value or if we have a non-SMTP message for which -f was not used
2549   to set the sender. */
2550
2551   if (sender_host_address == NULL)
2552     {
2553     if (!trusted_caller || sender_name_forced ||
2554          (!smtp_input && !sender_address_forced))
2555       oname = originator_name;
2556     }
2557
2558   /* For non-locally submitted messages, the only time we use the originator
2559   name is when it was forced by the /name= option on control=submission. */
2560
2561   else
2562     {
2563     if (submission_name != NULL) oname = submission_name;
2564     }
2565
2566   /* Envelope sender is empty */
2567
2568   if (sender_address[0] == 0)
2569     {
2570     uschar *fromstart, *fromend;
2571
2572     fromstart = string_sprintf("%sFrom: %s%s", resent_prefix,
2573       oname, (oname[0] == 0)? "" : " <");
2574     fromend = (oname[0] == 0)? US"" : US">";
2575
2576     if (sender_local || local_error_message)
2577       {
2578       header_add(htype_from, "%s%s@%s%s\n", fromstart,
2579         local_part_quote(originator_login), qualify_domain_sender,
2580         fromend);
2581       }
2582     else if (submission_mode && authenticated_id != NULL)
2583       {
2584       if (submission_domain == NULL)
2585         {
2586         header_add(htype_from, "%s%s@%s%s\n", fromstart,
2587           local_part_quote(authenticated_id), qualify_domain_sender,
2588           fromend);
2589         }
2590       else if (submission_domain[0] == 0)  /* empty => whole address set */
2591         {
2592         header_add(htype_from, "%s%s%s\n", fromstart, authenticated_id,
2593           fromend);
2594         }
2595       else
2596         {
2597         header_add(htype_from, "%s%s@%s%s\n", fromstart,
2598           local_part_quote(authenticated_id), submission_domain,
2599           fromend);
2600         }
2601       from_header = header_last;    /* To get it checked for Sender: */
2602       }
2603     }
2604
2605   /* There is a non-null envelope sender. Build the header using the original
2606   sender address, before any rewriting that might have been done while
2607   verifying it. */
2608
2609   else
2610     {
2611     header_add(htype_from, "%sFrom: %s%s%s%s\n", resent_prefix,
2612       oname,
2613       (oname[0] == 0)? "" : " <",
2614       (sender_address_unrewritten == NULL)?
2615         sender_address : sender_address_unrewritten,
2616       (oname[0] == 0)? "" : ">");
2617
2618     from_header = header_last;    /* To get it checked for Sender: */
2619     }
2620   }
2621
2622
2623 /* If the sender is local (without suppress_local_fixups), or if we are in
2624 submission mode and there is an authenticated_id, check that an existing From:
2625 is correct, and if not, generate a Sender: header, unless disabled. Any
2626 previously-existing Sender: header was removed above. Note that sender_local,
2627 as well as being TRUE if the caller of exim is not trusted, is also true if a
2628 trusted caller did not supply a -f argument for non-smtp input. To allow
2629 trusted callers to forge From: without supplying -f, we have to test explicitly
2630 here. If the From: header contains more than one address, then the call to
2631 parse_extract_address fails, and a Sender: header is inserted, as required. */
2632
2633 if (from_header != NULL &&
2634      (active_local_from_check &&
2635        ((sender_local && !trusted_caller && !suppress_local_fixups) ||
2636         (submission_mode && authenticated_id != NULL))
2637      ))
2638   {
2639   BOOL make_sender = TRUE;
2640   int start, end, domain;
2641   uschar *errmess;
2642   uschar *from_address =
2643     parse_extract_address(Ustrchr(from_header->text, ':') + 1, &errmess,
2644       &start, &end, &domain, FALSE);
2645   uschar *generated_sender_address;
2646
2647   if (submission_mode)
2648     {
2649     if (submission_domain == NULL)
2650       {
2651       generated_sender_address = string_sprintf("%s@%s",
2652         local_part_quote(authenticated_id), qualify_domain_sender);
2653       }
2654     else if (submission_domain[0] == 0)  /* empty => full address */
2655       {
2656       generated_sender_address = string_sprintf("%s",
2657         authenticated_id);
2658       }
2659     else
2660       {
2661       generated_sender_address = string_sprintf("%s@%s",
2662         local_part_quote(authenticated_id), submission_domain);
2663       }
2664     }
2665   else
2666     generated_sender_address = string_sprintf("%s@%s",
2667       local_part_quote(originator_login), qualify_domain_sender);
2668
2669   /* Remove permitted prefixes and suffixes from the local part of the From:
2670   address before doing the comparison with the generated sender. */
2671
2672   if (from_address != NULL)
2673     {
2674     int slen;
2675     uschar *at = (domain == 0)? NULL : from_address + domain - 1;
2676
2677     if (at != NULL) *at = 0;
2678     from_address += route_check_prefix(from_address, local_from_prefix);
2679     slen = route_check_suffix(from_address, local_from_suffix);
2680     if (slen > 0)
2681       {
2682       memmove(from_address+slen, from_address, Ustrlen(from_address)-slen);
2683       from_address += slen;
2684       }
2685     if (at != NULL) *at = '@';
2686
2687     if (strcmpic(generated_sender_address, from_address) == 0 ||
2688       (domain == 0 && strcmpic(from_address, originator_login) == 0))
2689         make_sender = FALSE;
2690     }
2691
2692   /* We have to cause the Sender header to be rewritten if there are
2693   appropriate rewriting rules. */
2694
2695   if (make_sender)
2696     {
2697     if (submission_mode && submission_name == NULL)
2698       header_add(htype_sender, "%sSender: %s\n", resent_prefix,
2699         generated_sender_address);
2700     else
2701       header_add(htype_sender, "%sSender: %s <%s>\n",
2702         resent_prefix,
2703         submission_mode? submission_name : originator_name,
2704         generated_sender_address);
2705     }
2706
2707   /* Ensure that a non-null envelope sender address corresponds to the
2708   submission mode sender address. */
2709
2710   if (submission_mode && sender_address[0] != 0)
2711     {
2712     if (sender_address_unrewritten == NULL)
2713       sender_address_unrewritten = sender_address;
2714     sender_address = generated_sender_address;
2715     if (Ustrcmp(sender_address_unrewritten, generated_sender_address) != 0)
2716       log_write(L_address_rewrite, LOG_MAIN,
2717         "\"%s\" from env-from rewritten as \"%s\" by submission mode",
2718         sender_address_unrewritten, generated_sender_address);
2719     }
2720   }
2721
2722 /* If there are any rewriting rules, apply them to the sender address, unless
2723 it has already been rewritten as part of verification for SMTP input. */
2724
2725 if (global_rewrite_rules != NULL && sender_address_unrewritten == NULL &&
2726     sender_address[0] != 0)
2727   {
2728   sender_address = rewrite_address(sender_address, FALSE, TRUE,
2729     global_rewrite_rules, rewrite_existflags);
2730   DEBUG(D_receive|D_rewrite)
2731     debug_printf("rewritten sender = %s\n", sender_address);
2732   }
2733
2734
2735 /* The headers must be run through rewrite_header(), because it ensures that
2736 addresses are fully qualified, as well as applying any rewriting rules that may
2737 exist.
2738
2739 Qualification of header addresses in a message from a remote host happens only
2740 if the host is in sender_unqualified_hosts or recipient_unqualified hosts, as
2741 appropriate. For local messages, qualification always happens, unless -bnq is
2742 used to explicitly suppress it. No rewriting is done for an unqualified address
2743 that is left untouched.
2744
2745 We start at the second header, skipping our own Received:. This rewriting is
2746 documented as happening *after* recipient addresses are taken from the headers
2747 by the -t command line option. An added Sender: gets rewritten here. */
2748
2749 for (h = header_list->next; h != NULL; h = h->next)
2750   {
2751   header_line *newh = rewrite_header(h, NULL, NULL, global_rewrite_rules,
2752     rewrite_existflags, TRUE);
2753   if (newh != NULL) h = newh;
2754   }
2755
2756
2757 /* An RFC 822 (sic) message is not legal unless it has at least one of "to",
2758 "cc", or "bcc". Note that although the minimal examples in RFC 822 show just
2759 "to" or "bcc", the full syntax spec allows "cc" as well. If any resent- header
2760 exists, this applies to the set of resent- headers rather than the normal set.
2761
2762 The requirement for a recipient header has been removed in RFC 2822. At this
2763 point in the code, earlier versions of Exim added a To: header for locally
2764 submitted messages, and an empty Bcc: header for others. In the light of the
2765 changes in RFC 2822, this was dropped in November 2003. */
2766
2767
2768 /* If there is no date header, generate one if the message originates locally
2769 (i.e. not over TCP/IP) and suppress_local_fixups is not set, or if the
2770 submission mode flag is set. Messages without Date: are not valid, but it seems
2771 to be more confusing if Exim adds one to all remotely-originated messages.
2772 As per Message-Id, we prepend if resending, else append.
2773 */
2774
2775 if (!date_header_exists &&
2776       ((sender_host_address == NULL && !suppress_local_fixups)
2777         || submission_mode))
2778   header_add_at_position(!resents_exist, NULL, FALSE, htype_other,
2779     "%sDate: %s\n", resent_prefix, tod_stamp(tod_full));
2780
2781 search_tidyup();    /* Free any cached resources */
2782
2783 /* Show the complete set of headers if debugging. Note that the first one (the
2784 new Received:) has not yet been set. */
2785
2786 DEBUG(D_receive)
2787   {
2788   debug_printf(">>Headers after rewriting and local additions:\n");
2789   for (h = header_list->next; h != NULL; h = h->next)
2790     debug_printf("%c %s", h->type, h->text);
2791   debug_printf("\n");
2792   }
2793
2794 /* The headers are now complete in store. If we are running in filter
2795 testing mode, that is all this function does. Return TRUE if the message
2796 ended with a dot. */
2797
2798 if (filter_test != FTEST_NONE)
2799   {
2800   process_info[process_info_len] = 0;
2801   return message_ended == END_DOT;
2802   }
2803
2804 /* Cutthrough delivery:
2805         We have to create the Received header now rather than at the end of reception,
2806         so the timestamp behaviour is a change to the normal case.
2807         XXX Ensure this gets documented XXX.
2808         Having created it, send the headers to the destination.
2809 */
2810 if (cutthrough_fd >= 0)
2811   {
2812   if (received_count > received_headers_max)
2813     {
2814     cancel_cutthrough_connection("too many headers");
2815     if (smtp_input) receive_swallow_smtp();  /* Swallow incoming SMTP */
2816     log_write(0, LOG_MAIN|LOG_REJECT, "rejected from <%s>%s%s%s%s: "
2817       "Too many \"Received\" headers",
2818       sender_address,
2819       (sender_fullhost == NULL)? "" : " H=",
2820       (sender_fullhost == NULL)? US"" : sender_fullhost,
2821       (sender_ident == NULL)? "" : " U=",
2822       (sender_ident == NULL)? US"" : sender_ident);
2823     message_id[0] = 0;                       /* Indicate no message accepted */
2824     smtp_reply = US"550 Too many \"Received\" headers - suspected mail loop";
2825     goto TIDYUP;                             /* Skip to end of function */
2826     }
2827   received_header_gen();
2828   add_acl_headers(US"MAIL or RCPT");
2829   (void) cutthrough_headers_send();
2830   }
2831
2832
2833 /* Open a new spool file for the data portion of the message. We need
2834 to access it both via a file descriptor and a stream. Try to make the
2835 directory if it isn't there. Note re use of sprintf: spool_directory
2836 is checked on input to be < 200 characters long. */
2837
2838 sprintf(CS spool_name, "%s/input/%s/%s-D", spool_directory, message_subdir,
2839   message_id);
2840 data_fd = Uopen(spool_name, O_RDWR|O_CREAT|O_EXCL, SPOOL_MODE);
2841 if (data_fd < 0)
2842   {
2843   if (errno == ENOENT)
2844     {
2845     uschar temp[16];
2846     sprintf(CS temp, "input/%s", message_subdir);
2847     if (message_subdir[0] == 0) temp[5] = 0;
2848     (void)directory_make(spool_directory, temp, INPUT_DIRECTORY_MODE, TRUE);
2849     data_fd = Uopen(spool_name, O_RDWR|O_CREAT|O_EXCL, SPOOL_MODE);
2850     }
2851   if (data_fd < 0)
2852     log_write(0, LOG_MAIN|LOG_PANIC_DIE, "Failed to create spool file %s: %s",
2853       spool_name, strerror(errno));
2854   }
2855
2856 /* Make sure the file's group is the Exim gid, and double-check the mode
2857 because the group setting doesn't always get set automatically. */
2858
2859 if (fchown(data_fd, exim_uid, exim_gid))
2860   log_write(0, LOG_MAIN|LOG_PANIC_DIE,
2861     "Failed setting ownership on spool file %s: %s",
2862     spool_name, strerror(errno));
2863 (void)fchmod(data_fd, SPOOL_MODE);
2864
2865 /* We now have data file open. Build a stream for it and lock it. We lock only
2866 the first line of the file (containing the message ID) because otherwise there
2867 are problems when Exim is run under Cygwin (I'm told). See comments in
2868 spool_in.c, where the same locking is done. */
2869
2870 data_file = fdopen(data_fd, "w+");
2871 lock_data.l_type = F_WRLCK;
2872 lock_data.l_whence = SEEK_SET;
2873 lock_data.l_start = 0;
2874 lock_data.l_len = SPOOL_DATA_START_OFFSET;
2875
2876 if (fcntl(data_fd, F_SETLK, &lock_data) < 0)
2877   log_write(0, LOG_MAIN|LOG_PANIC_DIE, "Cannot lock %s (%d): %s", spool_name,
2878     errno, strerror(errno));
2879
2880 /* We have an open, locked data file. Write the message id to it to make it
2881 self-identifying. Then read the remainder of the input of this message and
2882 write it to the data file. If the variable next != NULL, it contains the first
2883 data line (which was read as a header but then turned out not to have the right
2884 format); write it (remembering that it might contain binary zeros). The result
2885 of fwrite() isn't inspected; instead we call ferror() below. */
2886
2887 fprintf(data_file, "%s-D\n", message_id);
2888 if (next != NULL)
2889   {
2890   uschar *s = next->text;
2891   int len = next->slen;
2892   len = fwrite(s, 1, len, data_file);  len = len; /* compiler quietening */
2893   body_linecount++;                 /* Assumes only 1 line */
2894   }
2895
2896 /* Note that we might already be at end of file, or the logical end of file
2897 (indicated by '.'), or might have encountered an error while writing the
2898 message id or "next" line. */
2899
2900 if (!ferror(data_file) && !(receive_feof)() && message_ended != END_DOT)
2901   {
2902   if (smtp_input)
2903     {
2904     message_ended = read_message_data_smtp(data_file);
2905     receive_linecount++;                /* The terminating "." line */
2906     }
2907   else message_ended = read_message_data(data_file);
2908
2909   receive_linecount += body_linecount;  /* For BSMTP errors mainly */
2910   message_linecount += body_linecount;
2911
2912   /* Handle premature termination of SMTP */
2913
2914   if (smtp_input && message_ended == END_EOF)
2915     {
2916     Uunlink(spool_name);                     /* Lose data file when closed */
2917     cancel_cutthrough_connection("sender closed connection");
2918     message_id[0] = 0;                       /* Indicate no message accepted */
2919     smtp_reply = handle_lost_connection(US"");
2920     smtp_yield = FALSE;
2921     goto TIDYUP;                             /* Skip to end of function */
2922     }
2923
2924   /* Handle message that is too big. Don't use host_or_ident() in the log
2925   message; we want to see the ident value even for non-remote messages. */
2926
2927   if (message_ended == END_SIZE)
2928     {
2929     Uunlink(spool_name);                /* Lose the data file when closed */
2930     cancel_cutthrough_connection("mail too big");
2931     if (smtp_input) receive_swallow_smtp();  /* Swallow incoming SMTP */
2932
2933     log_write(L_size_reject, LOG_MAIN|LOG_REJECT, "rejected from <%s>%s%s%s%s: "
2934       "message too big: read=%d max=%d",
2935       sender_address,
2936       (sender_fullhost == NULL)? "" : " H=",
2937       (sender_fullhost == NULL)? US"" : sender_fullhost,
2938       (sender_ident == NULL)? "" : " U=",
2939       (sender_ident == NULL)? US"" : sender_ident,
2940       message_size,
2941       thismessage_size_limit);
2942
2943     if (smtp_input)
2944       {
2945       smtp_reply = US"552 Message size exceeds maximum permitted";
2946       message_id[0] = 0;               /* Indicate no message accepted */
2947       goto TIDYUP;                     /* Skip to end of function */
2948       }
2949     else
2950       {
2951       fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
2952       give_local_error(ERRMESS_TOOBIG,
2953         string_sprintf("message too big (max=%d)", thismessage_size_limit),
2954         US"message rejected: ", error_rc, data_file, header_list);
2955       /* Does not return */
2956       }
2957     }
2958   }
2959
2960 /* Restore the standard SIGALRM handler for any subsequent processing. (For
2961 example, there may be some expansion in an ACL that uses a timer.) */
2962
2963 os_non_restarting_signal(SIGALRM, sigalrm_handler);
2964
2965 /* The message body has now been read into the data file. Call fflush() to
2966 empty the buffers in C, and then call fsync() to get the data written out onto
2967 the disk, as fflush() doesn't do this (or at least, it isn't documented as
2968 having to do this). If there was an I/O error on either input or output,
2969 attempt to send an error message, and unlink the spool file. For non-SMTP input
2970 we can then give up. Note that for SMTP input we must swallow the remainder of
2971 the input in cases of output errors, since the far end doesn't expect to see
2972 anything until the terminating dot line is sent. */
2973
2974 if (fflush(data_file) == EOF || ferror(data_file) ||
2975     EXIMfsync(fileno(data_file)) < 0 || (receive_ferror)())
2976   {
2977   uschar *msg_errno = US strerror(errno);
2978   BOOL input_error = (receive_ferror)() != 0;
2979   uschar *msg = string_sprintf("%s error (%s) while receiving message from %s",
2980     input_error? "Input read" : "Spool write",
2981     msg_errno,
2982     (sender_fullhost != NULL)? sender_fullhost : sender_ident);
2983
2984   log_write(0, LOG_MAIN, "Message abandoned: %s", msg);
2985   Uunlink(spool_name);                /* Lose the data file */
2986   cancel_cutthrough_connection("error writing spoolfile");
2987
2988   if (smtp_input)
2989     {
2990     if (input_error)
2991       smtp_reply = US"451 Error while reading input data";
2992     else
2993       {
2994       smtp_reply = US"451 Error while writing spool file";
2995       receive_swallow_smtp();
2996       }
2997     message_id[0] = 0;               /* Indicate no message accepted */
2998     goto TIDYUP;                     /* Skip to end of function */
2999     }
3000
3001   else
3002     {
3003     fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3004     give_local_error(ERRMESS_IOERR, msg, US"", error_rc, data_file,
3005       header_list);
3006     /* Does not return */
3007     }
3008   }
3009
3010
3011 /* No I/O errors were encountered while writing the data file. */
3012
3013 DEBUG(D_receive) debug_printf("Data file written for message %s\n", message_id);
3014
3015
3016 /* If there were any bad addresses extracted by -t, or there were no recipients
3017 left after -t, send a message to the sender of this message, or write it to
3018 stderr if the error handling option is set that way. Note that there may
3019 legitimately be no recipients for an SMTP message if they have all been removed
3020 by "discard".
3021
3022 We need to rewind the data file in order to read it. In the case of no
3023 recipients or stderr error writing, throw the data file away afterwards, and
3024 exit. (This can't be SMTP, which always ensures there's at least one
3025 syntactically good recipient address.) */
3026
3027 if (extract_recip && (bad_addresses != NULL || recipients_count == 0))
3028   {
3029   DEBUG(D_receive)
3030     {
3031     if (recipients_count == 0) debug_printf("*** No recipients\n");
3032     if (bad_addresses != NULL)
3033       {
3034       error_block *eblock = bad_addresses;
3035       debug_printf("*** Bad address(es)\n");
3036       while (eblock != NULL)
3037         {
3038         debug_printf("  %s: %s\n", eblock->text1, eblock->text2);
3039         eblock = eblock->next;
3040         }
3041       }
3042     }
3043
3044   fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3045
3046   /* If configured to send errors to the sender, but this fails, force
3047   a failure error code. We use a special one for no recipients so that it
3048   can be detected by the autoreply transport. Otherwise error_rc is set to
3049   errors_sender_rc, which is EXIT_FAILURE unless -oee was given, in which case
3050   it is EXIT_SUCCESS. */
3051
3052   if (error_handling == ERRORS_SENDER)
3053     {
3054     if (!moan_to_sender(
3055           (bad_addresses == NULL)?
3056             (extracted_ignored? ERRMESS_IGADDRESS : ERRMESS_NOADDRESS) :
3057           (recipients_list == NULL)? ERRMESS_BADNOADDRESS : ERRMESS_BADADDRESS,
3058           bad_addresses, header_list, data_file, FALSE))
3059       error_rc = (bad_addresses == NULL)? EXIT_NORECIPIENTS : EXIT_FAILURE;
3060     }
3061   else
3062     {
3063     if (bad_addresses == NULL)
3064       {
3065       if (extracted_ignored)
3066         fprintf(stderr, "exim: all -t recipients overridden by command line\n");
3067       else
3068         fprintf(stderr, "exim: no recipients in message\n");
3069       }
3070     else
3071       {
3072       fprintf(stderr, "exim: invalid address%s",
3073         (bad_addresses->next == NULL)? ":" : "es:\n");
3074       while (bad_addresses != NULL)
3075         {
3076         fprintf(stderr, "  %s: %s\n", bad_addresses->text1,
3077           bad_addresses->text2);
3078         bad_addresses = bad_addresses->next;
3079         }
3080       }
3081     }
3082
3083   if (recipients_count == 0 || error_handling == ERRORS_STDERR)
3084     {
3085     Uunlink(spool_name);
3086     (void)fclose(data_file);
3087     exim_exit(error_rc);
3088     }
3089   }
3090
3091 /* Data file successfully written. Generate text for the Received: header by
3092 expanding the configured string, and adding a timestamp. By leaving this
3093 operation till now, we ensure that the timestamp is the time that message
3094 reception was completed. However, this is deliberately done before calling the
3095 data ACL and local_scan().
3096
3097 This Received: header may therefore be inspected by the data ACL and by code in
3098 the local_scan() function. When they have run, we update the timestamp to be
3099 the final time of reception.
3100
3101 If there is just one recipient, set up its value in the $received_for variable
3102 for use when we generate the Received: header.
3103
3104 Note: the checking for too many Received: headers is handled by the delivery
3105 code. */
3106 /*XXX eventually add excess Received: check for cutthrough case back when classifying them */
3107
3108 if (received_header->text == NULL)      /* Non-cutthrough case */
3109   {
3110   received_header_gen();
3111
3112   /* Set the value of message_body_size for the DATA ACL and for local_scan() */
3113
3114   message_body_size = (fstat(data_fd, &statbuf) == 0)?
3115     statbuf.st_size - SPOOL_DATA_START_OFFSET : -1;
3116
3117   /* If an ACL from any RCPT commands set up any warning headers to add, do so
3118   now, before running the DATA ACL. */
3119
3120   add_acl_headers(US"MAIL or RCPT");
3121   }
3122 else
3123   message_body_size = (fstat(data_fd, &statbuf) == 0)?
3124     statbuf.st_size - SPOOL_DATA_START_OFFSET : -1;
3125
3126 /* If an ACL is specified for checking things at this stage of reception of a
3127 message, run it, unless all the recipients were removed by "discard" in earlier
3128 ACLs. That is the only case in which recipients_count can be zero at this
3129 stage. Set deliver_datafile to point to the data file so that $message_body and
3130 $message_body_end can be extracted if needed. Allow $recipients in expansions.
3131 */
3132
3133 deliver_datafile = data_fd;
3134 user_msg = NULL;
3135
3136 enable_dollar_recipients = TRUE;
3137
3138 if (recipients_count == 0)
3139   {
3140   blackholed_by = recipients_discarded? US"MAIL ACL" : US"RCPT ACL";
3141   }
3142 else
3143   {
3144   /* Handle interactive SMTP messages */
3145
3146   if (smtp_input && !smtp_batched_input)
3147     {
3148
3149 #ifndef DISABLE_DKIM
3150     if (!dkim_disable_verify)
3151       {
3152       /* Finish verification, this will log individual signature results to
3153          the mainlog */
3154       dkim_exim_verify_finish();
3155
3156       /* Check if we must run the DKIM ACL */
3157       if ((acl_smtp_dkim != NULL) &&
3158           (dkim_verify_signers != NULL) &&
3159           (dkim_verify_signers[0] != '\0'))
3160         {
3161         uschar *dkim_verify_signers_expanded =
3162           expand_string(dkim_verify_signers);
3163         if (dkim_verify_signers_expanded == NULL)
3164           {
3165           log_write(0, LOG_MAIN|LOG_PANIC,
3166             "expansion of dkim_verify_signers option failed: %s",
3167             expand_string_message);
3168           }
3169         else
3170           {
3171           int sep = 0;
3172           uschar *ptr = dkim_verify_signers_expanded;
3173           uschar *item = NULL;
3174           uschar *seen_items = NULL;
3175           int     seen_items_size = 0;
3176           int     seen_items_offset = 0;
3177           uschar itembuf[256];
3178           /* Default to OK when no items are present */
3179           rc = OK;
3180           while ((item = string_nextinlist(&ptr, &sep,
3181                                            itembuf,
3182                                            sizeof(itembuf))) != NULL)
3183             {
3184             /* Prevent running ACL for an empty item */
3185             if (!item || (item[0] == '\0')) continue;
3186             /* Only run ACL once for each domain or identity, no matter how often it
3187                appears in the expanded list. */
3188             if (seen_items != NULL)
3189               {
3190               uschar *seen_item = NULL;
3191               uschar seen_item_buf[256];
3192               uschar *seen_items_list = seen_items;
3193               int seen_this_item = 0;
3194
3195               while ((seen_item = string_nextinlist(&seen_items_list, &sep,
3196                                                     seen_item_buf,
3197                                                     sizeof(seen_item_buf))) != NULL)
3198                 {
3199                   if (Ustrcmp(seen_item,item) == 0)
3200                     {
3201                       seen_this_item = 1;
3202                       break;
3203                     }
3204                 }
3205
3206               if (seen_this_item > 0)
3207                 {
3208                 DEBUG(D_receive)
3209                   debug_printf("acl_smtp_dkim: skipping signer %s, already seen\n", item);
3210                 continue;
3211                 }
3212
3213               seen_items = string_append(seen_items,&seen_items_size,&seen_items_offset,1,":");
3214               }
3215
3216             seen_items = string_append(seen_items,&seen_items_size,&seen_items_offset,1,item);
3217             seen_items[seen_items_offset] = '\0';
3218
3219             DEBUG(D_receive)
3220               debug_printf("calling acl_smtp_dkim for dkim_cur_signer=%s\n", item);
3221
3222             dkim_exim_acl_setup(item);
3223             rc = acl_check(ACL_WHERE_DKIM, NULL, acl_smtp_dkim, &user_msg, &log_msg);
3224
3225             if (rc != OK)
3226               {
3227                 DEBUG(D_receive)
3228                   debug_printf("acl_smtp_dkim: acl_check returned %d on %s, skipping remaining items\n", rc, item);
3229                 cancel_cutthrough_connection("dkim acl not ok");
3230                 break;
3231               }
3232             }
3233           add_acl_headers(US"DKIM");
3234           if (rc == DISCARD)
3235             {
3236             recipients_count = 0;
3237             blackholed_by = US"DKIM ACL";
3238             if (log_msg != NULL)
3239               blackhole_log_msg = string_sprintf(": %s", log_msg);
3240             }
3241           else if (rc != OK)
3242             {
3243             Uunlink(spool_name);
3244             if (smtp_handle_acl_fail(ACL_WHERE_DKIM, rc, user_msg, log_msg) != 0)
3245               smtp_yield = FALSE;    /* No more messsages after dropped connection */
3246             smtp_reply = US"";       /* Indicate reply already sent */
3247             message_id[0] = 0;       /* Indicate no message accepted */
3248             goto TIDYUP;             /* Skip to end of function */
3249             }
3250           }
3251         }
3252       }
3253 #endif /* DISABLE_DKIM */
3254
3255 #ifdef WITH_CONTENT_SCAN
3256     if (recipients_count > 0 &&
3257         acl_smtp_mime != NULL &&
3258         !run_mime_acl(acl_smtp_mime, &smtp_yield, &smtp_reply, &blackholed_by))
3259       goto TIDYUP;
3260 #endif /* WITH_CONTENT_SCAN */
3261
3262 #ifdef EXPERIMENTAL_DMARC
3263     dmarc_up = dmarc_store_data(from_header);
3264 #endif /* EXPERIMENTAL_DMARC */
3265
3266 #ifdef EXPERIMENTAL_PRDR
3267     if (prdr_requested && recipients_count > 1 && acl_smtp_data_prdr != NULL )
3268       {
3269       unsigned int c;
3270       int all_pass = OK;
3271       int all_fail = FAIL;
3272
3273       smtp_printf("353 PRDR content analysis beginning\r\n");
3274       /* Loop through recipients, responses must be in same order received */
3275       for (c = 0; recipients_count > c; c++)
3276         {
3277         uschar * addr= recipients_list[c].address;
3278         uschar * msg= US"PRDR R=<%s> %s";
3279         uschar * code;
3280         DEBUG(D_receive)
3281           debug_printf("PRDR processing recipient %s (%d of %d)\n",
3282                        addr, c+1, recipients_count);
3283         rc = acl_check(ACL_WHERE_PRDR, addr,
3284                        acl_smtp_data_prdr, &user_msg, &log_msg);
3285
3286         /* If any recipient rejected content, indicate it in final message */
3287         all_pass |= rc;
3288         /* If all recipients rejected, indicate in final message */
3289         all_fail &= rc;
3290
3291         switch (rc)
3292           {
3293           case OK: case DISCARD: code = US"250"; break;
3294           case DEFER:            code = US"450"; break;
3295           default:               code = US"550"; break;
3296           }
3297         if (user_msg != NULL)
3298           smtp_user_msg(code, user_msg);
3299         else
3300           {
3301           switch (rc)
3302             {
3303             case OK: case DISCARD:
3304               msg = string_sprintf(CS msg, addr, "acceptance");        break;
3305             case DEFER:
3306               msg = string_sprintf(CS msg, addr, "temporary refusal"); break;
3307             default:
3308               msg = string_sprintf(CS msg, addr, "refusal");           break;
3309             }
3310           smtp_user_msg(code, msg);
3311           }
3312         if (log_msg)       log_write(0, LOG_MAIN, "PRDR %s %s", addr, log_msg);
3313         else if (user_msg) log_write(0, LOG_MAIN, "PRDR %s %s", addr, user_msg);
3314         else               log_write(0, LOG_MAIN, CS msg);
3315
3316         if (rc != OK) { receive_remove_recipient(addr); c--; }
3317         }
3318       /* Set up final message, used if data acl gives OK */
3319       smtp_reply = string_sprintf("%s id=%s message %s",
3320                        all_fail == FAIL ? US"550" : US"250",
3321                        message_id,
3322                        all_fail == FAIL
3323                          ? US"rejected for all recipients"
3324                          : all_pass == OK
3325                            ? US"accepted"
3326                            : US"accepted for some recipients");
3327       if (recipients_count == 0)
3328         {
3329         message_id[0] = 0;       /* Indicate no message accepted */
3330         goto TIDYUP;
3331         }
3332       }
3333     else
3334       prdr_requested = FALSE;
3335 #endif /* EXPERIMENTAL_PRDR */
3336
3337     /* Check the recipients count again, as the MIME ACL might have changed
3338     them. */
3339
3340     if (acl_smtp_data != NULL && recipients_count > 0)
3341       {
3342       rc = acl_check(ACL_WHERE_DATA, NULL, acl_smtp_data, &user_msg, &log_msg);
3343       add_acl_headers(US"DATA");
3344       if (rc == DISCARD)
3345         {
3346         recipients_count = 0;
3347         blackholed_by = US"DATA ACL";
3348         if (log_msg != NULL)
3349           blackhole_log_msg = string_sprintf(": %s", log_msg);
3350         cancel_cutthrough_connection("data acl discard");
3351         }
3352       else if (rc != OK)
3353         {
3354         Uunlink(spool_name);
3355         cancel_cutthrough_connection("data acl not ok");
3356 #ifdef WITH_CONTENT_SCAN
3357         unspool_mbox();
3358 #endif
3359 #ifdef EXPERIMENTAL_DCC
3360         dcc_ok = 0;
3361 #endif
3362         if (smtp_handle_acl_fail(ACL_WHERE_DATA, rc, user_msg, log_msg) != 0)
3363           smtp_yield = FALSE;    /* No more messsages after dropped connection */
3364         smtp_reply = US"";       /* Indicate reply already sent */
3365         message_id[0] = 0;       /* Indicate no message accepted */
3366         goto TIDYUP;             /* Skip to end of function */
3367         }
3368       }
3369     }
3370
3371   /* Handle non-SMTP and batch SMTP (i.e. non-interactive) messages. Note that
3372   we cannot take different actions for permanent and temporary rejections. */
3373
3374   else
3375     {
3376
3377 #ifdef WITH_CONTENT_SCAN
3378     if (acl_not_smtp_mime != NULL &&
3379         !run_mime_acl(acl_not_smtp_mime, &smtp_yield, &smtp_reply,
3380           &blackholed_by))
3381       goto TIDYUP;
3382 #endif /* WITH_CONTENT_SCAN */
3383
3384     if (acl_not_smtp != NULL)
3385       {
3386       uschar *user_msg, *log_msg;
3387       rc = acl_check(ACL_WHERE_NOTSMTP, NULL, acl_not_smtp, &user_msg, &log_msg);
3388       if (rc == DISCARD)
3389         {
3390         recipients_count = 0;
3391         blackholed_by = US"non-SMTP ACL";
3392         if (log_msg != NULL)
3393           blackhole_log_msg = string_sprintf(": %s", log_msg);
3394         }
3395       else if (rc != OK)
3396         {
3397         Uunlink(spool_name);
3398 #ifdef WITH_CONTENT_SCAN
3399         unspool_mbox();
3400 #endif
3401 #ifdef EXPERIMENTAL_DCC
3402         dcc_ok = 0;
3403 #endif
3404         /* The ACL can specify where rejections are to be logged, possibly
3405         nowhere. The default is main and reject logs. */
3406
3407         if (log_reject_target != 0)
3408           log_write(0, log_reject_target, "F=<%s> rejected by non-SMTP ACL: %s",
3409             sender_address, log_msg);
3410
3411         if (user_msg == NULL) user_msg = US"local configuration problem";
3412         if (smtp_batched_input)
3413           {
3414           moan_smtp_batch(NULL, "%d %s", 550, user_msg);
3415           /* Does not return */
3416           }
3417         else
3418           {
3419           fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3420           give_local_error(ERRMESS_LOCAL_ACL, user_msg,
3421             US"message rejected by non-SMTP ACL: ", error_rc, data_file,
3422               header_list);
3423           /* Does not return */
3424           }
3425         }
3426       add_acl_headers(US"non-SMTP");
3427       }
3428     }
3429
3430   /* The applicable ACLs have been run */
3431
3432   if (deliver_freeze) frozen_by = US"ACL";     /* for later logging */
3433   if (queue_only_policy) queued_by = US"ACL";
3434   }
3435
3436 #ifdef WITH_CONTENT_SCAN
3437 unspool_mbox();
3438 #endif
3439
3440 #ifdef EXPERIMENTAL_DCC
3441 dcc_ok = 0;
3442 #endif
3443
3444
3445 /* The final check on the message is to run the scan_local() function. The
3446 version supplied with Exim always accepts, but this is a hook for sysadmins to
3447 supply their own checking code. The local_scan() function is run even when all
3448 the recipients have been discarded. */
3449
3450 lseek(data_fd, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3451
3452 /* Arrange to catch crashes in local_scan(), so that the -D file gets
3453 deleted, and the incident gets logged. */
3454
3455 os_non_restarting_signal(SIGSEGV, local_scan_crash_handler);
3456 os_non_restarting_signal(SIGFPE, local_scan_crash_handler);
3457 os_non_restarting_signal(SIGILL, local_scan_crash_handler);
3458 os_non_restarting_signal(SIGBUS, local_scan_crash_handler);
3459
3460 DEBUG(D_receive) debug_printf("calling local_scan(); timeout=%d\n",
3461   local_scan_timeout);
3462 local_scan_data = NULL;
3463
3464 os_non_restarting_signal(SIGALRM, local_scan_timeout_handler);
3465 if (local_scan_timeout > 0) alarm(local_scan_timeout);
3466 rc = local_scan(data_fd, &local_scan_data);
3467 alarm(0);
3468 os_non_restarting_signal(SIGALRM, sigalrm_handler);
3469
3470 enable_dollar_recipients = FALSE;
3471
3472 store_pool = POOL_MAIN;   /* In case changed */
3473 DEBUG(D_receive) debug_printf("local_scan() returned %d %s\n", rc,
3474   local_scan_data);
3475
3476 os_non_restarting_signal(SIGSEGV, SIG_DFL);
3477 os_non_restarting_signal(SIGFPE, SIG_DFL);
3478 os_non_restarting_signal(SIGILL, SIG_DFL);
3479 os_non_restarting_signal(SIGBUS, SIG_DFL);
3480
3481 /* The length check is paranoia against some runaway code, and also because
3482 (for a success return) lines in the spool file are read into big_buffer. */
3483
3484 if (local_scan_data != NULL)
3485   {
3486   int len = Ustrlen(local_scan_data);
3487   if (len > LOCAL_SCAN_MAX_RETURN) len = LOCAL_SCAN_MAX_RETURN;
3488   local_scan_data = string_copyn(local_scan_data, len);
3489   }
3490
3491 if (rc == LOCAL_SCAN_ACCEPT_FREEZE)
3492   {
3493   if (!deliver_freeze)         /* ACL might have already frozen */
3494     {
3495     deliver_freeze = TRUE;
3496     deliver_frozen_at = time(NULL);
3497     frozen_by = US"local_scan()";
3498     }
3499   rc = LOCAL_SCAN_ACCEPT;
3500   }
3501 else if (rc == LOCAL_SCAN_ACCEPT_QUEUE)
3502   {
3503   if (!queue_only_policy)      /* ACL might have already queued */
3504     {
3505     queue_only_policy = TRUE;
3506     queued_by = US"local_scan()";
3507     }
3508   rc = LOCAL_SCAN_ACCEPT;
3509   }
3510
3511 /* Message accepted: remove newlines in local_scan_data because otherwise
3512 the spool file gets corrupted. Ensure that all recipients are qualified. */
3513
3514 if (rc == LOCAL_SCAN_ACCEPT)
3515   {
3516   if (local_scan_data != NULL)
3517     {
3518     uschar *s;
3519     for (s = local_scan_data; *s != 0; s++) if (*s == '\n') *s = ' ';
3520     }
3521   for (i = 0; i < recipients_count; i++)
3522     {
3523     recipient_item *r = recipients_list + i;
3524     r->address = rewrite_address_qualify(r->address, TRUE);
3525     if (r->errors_to != NULL)
3526       r->errors_to = rewrite_address_qualify(r->errors_to, TRUE);
3527     }
3528   if (recipients_count == 0 && blackholed_by == NULL)
3529     blackholed_by = US"local_scan";
3530   }
3531
3532 /* Message rejected: newlines permitted in local_scan_data to generate
3533 multiline SMTP responses. */
3534
3535 else
3536   {
3537   uschar *istemp = US"";
3538   uschar *s = NULL;
3539   uschar *smtp_code;
3540   int size = 0;
3541   int sptr = 0;
3542
3543   errmsg = local_scan_data;
3544
3545   Uunlink(spool_name);          /* Cancel this message */
3546   switch(rc)
3547     {
3548     default:
3549     log_write(0, LOG_MAIN, "invalid return %d from local_scan(). Temporary "
3550       "rejection given", rc);
3551     goto TEMPREJECT;
3552
3553     case LOCAL_SCAN_REJECT_NOLOGHDR:
3554     log_extra_selector &= ~LX_rejected_header;
3555     /* Fall through */
3556
3557     case LOCAL_SCAN_REJECT:
3558     smtp_code = US"550";
3559     if (errmsg == NULL) errmsg =  US"Administrative prohibition";
3560     break;
3561
3562     case LOCAL_SCAN_TEMPREJECT_NOLOGHDR:
3563     log_extra_selector &= ~LX_rejected_header;
3564     /* Fall through */
3565
3566     case LOCAL_SCAN_TEMPREJECT:
3567     TEMPREJECT:
3568     smtp_code = US"451";
3569     if (errmsg == NULL) errmsg = US"Temporary local problem";
3570     istemp = US"temporarily ";
3571     break;
3572     }
3573
3574   s = string_append(s, &size, &sptr, 2, US"F=",
3575     (sender_address[0] == 0)? US"<>" : sender_address);
3576   s = add_host_info_for_log(s, &size, &sptr);
3577   s[sptr] = 0;
3578
3579   log_write(0, LOG_MAIN|LOG_REJECT, "%s %srejected by local_scan(): %.256s",
3580     s, istemp, string_printing(errmsg));
3581
3582   if (smtp_input)
3583     {
3584     if (!smtp_batched_input)
3585       {
3586       smtp_respond(smtp_code, 3, TRUE, errmsg);
3587       message_id[0] = 0;            /* Indicate no message accepted */
3588       smtp_reply = US"";            /* Indicate reply already sent */
3589       goto TIDYUP;                  /* Skip to end of function */
3590       }
3591     else
3592       {
3593       moan_smtp_batch(NULL, "%s %s", smtp_code, errmsg);
3594       /* Does not return */
3595       }
3596     }
3597   else
3598     {
3599     fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3600     give_local_error(ERRMESS_LOCAL_SCAN, errmsg,
3601       US"message rejected by local scan code: ", error_rc, data_file,
3602         header_list);
3603     /* Does not return */
3604     }
3605   }
3606
3607 /* Reset signal handlers to ignore signals that previously would have caused
3608 the message to be abandoned. */
3609
3610 signal(SIGTERM, SIG_IGN);
3611 signal(SIGINT, SIG_IGN);
3612
3613
3614 /* Ensure the first time flag is set in the newly-received message. */
3615
3616 deliver_firsttime = TRUE;
3617
3618 #ifdef EXPERIMENTAL_BRIGHTMAIL
3619 if (bmi_run == 1) {
3620   /* rewind data file */
3621   lseek(data_fd, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3622   bmi_verdicts = bmi_process_message(header_list, data_fd);
3623 };
3624 #endif
3625
3626 /* Update the timstamp in our Received: header to account for any time taken by
3627 an ACL or by local_scan(). The new time is the time that all reception
3628 processing is complete. */
3629
3630 timestamp = expand_string(US"${tod_full}");
3631 tslen = Ustrlen(timestamp);
3632
3633 memcpy(received_header->text + received_header->slen - tslen - 1,
3634   timestamp, tslen);
3635
3636 /* In MUA wrapper mode, ignore queueing actions set by ACL or local_scan() */
3637
3638 if (mua_wrapper)
3639   {
3640   deliver_freeze = FALSE;
3641   queue_only_policy = FALSE;
3642   }
3643
3644 /* Keep the data file open until we have written the header file, in order to
3645 hold onto the lock. In a -bh run, or if the message is to be blackholed, we
3646 don't write the header file, and we unlink the data file. If writing the header
3647 file fails, we have failed to accept this message. */
3648
3649 if (host_checking || blackholed_by != NULL)
3650   {
3651   header_line *h;
3652   Uunlink(spool_name);
3653   msg_size = 0;                                  /* Compute size for log line */
3654   for (h = header_list; h != NULL; h = h->next)
3655     if (h->type != '*') msg_size += h->slen;
3656   }
3657
3658 /* Write the -H file */
3659
3660 else
3661   {
3662   if ((msg_size = spool_write_header(message_id, SW_RECEIVING, &errmsg)) < 0)
3663     {
3664     log_write(0, LOG_MAIN, "Message abandoned: %s", errmsg);
3665     Uunlink(spool_name);           /* Lose the data file */
3666
3667     if (smtp_input)
3668       {
3669       smtp_reply = US"451 Error in writing spool file";
3670       message_id[0] = 0;          /* Indicate no message accepted */
3671       goto TIDYUP;
3672       }
3673     else
3674       {
3675       fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3676       give_local_error(ERRMESS_IOERR, errmsg, US"", error_rc, data_file,
3677         header_list);
3678       /* Does not return */
3679       }
3680     }
3681   }
3682
3683
3684 /* The message has now been successfully received. */
3685
3686 receive_messagecount++;
3687
3688 /* In SMTP sessions we may receive several in one connection. After each one,
3689 we wait for the clock to tick at the level of message-id granularity. This is
3690 so that the combination of time+pid is unique, even on systems where the pid
3691 can be re-used within our time interval. We can't shorten the interval without
3692 re-designing the message-id. See comments above where the message id is
3693 created. This is Something For The Future. */
3694
3695 message_id_tv.tv_usec = (message_id_tv.tv_usec/id_resolution) * id_resolution;
3696 exim_wait_tick(&message_id_tv, id_resolution);
3697
3698 /* Add data size to written header size. We do not count the initial file name
3699 that is in the file, but we do add one extra for the notional blank line that
3700 precedes the data. This total differs from message_size in that it include the
3701 added Received: header and any other headers that got created locally. */
3702
3703 fflush(data_file);
3704 fstat(data_fd, &statbuf);
3705
3706 msg_size += statbuf.st_size - SPOOL_DATA_START_OFFSET + 1;
3707
3708 /* Generate a "message received" log entry. We do this by building up a dynamic
3709 string as required. Since we commonly want to add two items at a time, use a
3710 macro to simplify the coding. We log the arrival of a new message while the
3711 file is still locked, just in case the machine is *really* fast, and delivers
3712 it first! Include any message id that is in the message - since the syntax of a
3713 message id is actually an addr-spec, we can use the parse routine to canonicize
3714 it. */
3715
3716 size = 256;
3717 sptr = 0;
3718 s = store_get(size);
3719
3720 s = string_append(s, &size, &sptr, 2, US"<= ",
3721   (sender_address[0] == 0)? US"<>" : sender_address);
3722 if (message_reference != NULL)
3723   s = string_append(s, &size, &sptr, 2, US" R=", message_reference);
3724
3725 s = add_host_info_for_log(s, &size, &sptr);
3726
3727 #ifdef SUPPORT_TLS
3728 if ((log_extra_selector & LX_tls_cipher) != 0 && tls_in.cipher != NULL)
3729   s = string_append(s, &size, &sptr, 2, US" X=", tls_in.cipher);
3730 if ((log_extra_selector & LX_tls_certificate_verified) != 0 &&
3731      tls_in.cipher != NULL)
3732   s = string_append(s, &size, &sptr, 2, US" CV=",
3733     tls_in.certificate_verified? "yes":"no");
3734 if ((log_extra_selector & LX_tls_peerdn) != 0 && tls_in.peerdn != NULL)
3735   s = string_append(s, &size, &sptr, 3, US" DN=\"",
3736     string_printing(tls_in.peerdn), US"\"");
3737 if ((log_extra_selector & LX_tls_sni) != 0 && tls_in.sni != NULL)
3738   s = string_append(s, &size, &sptr, 3, US" SNI=\"",
3739     string_printing(tls_in.sni), US"\"");
3740 #endif
3741
3742 if (sender_host_authenticated != NULL)
3743   {
3744   s = string_append(s, &size, &sptr, 2, US" A=", sender_host_authenticated);
3745   if (authenticated_id != NULL)
3746     {
3747     s = string_append(s, &size, &sptr, 2, US":", authenticated_id);
3748     if (log_extra_selector & LX_smtp_mailauth  &&  authenticated_sender != NULL)
3749       s = string_append(s, &size, &sptr, 2, US":", authenticated_sender);
3750     }
3751   }
3752
3753 #ifdef EXPERIMENTAL_PRDR
3754 if (prdr_requested)
3755   s = string_append(s, &size, &sptr, 1, US" PRDR");
3756 #endif
3757
3758 sprintf(CS big_buffer, "%d", msg_size);
3759 s = string_append(s, &size, &sptr, 2, US" S=", big_buffer);
3760
3761 /* log 8BITMIME mode announced in MAIL_FROM
3762    0 ... no BODY= used
3763    7 ... 7BIT
3764    8 ... 8BITMIME */
3765 if (log_extra_selector & LX_8bitmime)
3766   {
3767   sprintf(CS big_buffer, "%d", body_8bitmime);
3768   s = string_append(s, &size, &sptr, 2, US" M8S=", big_buffer);
3769   }
3770
3771 /* If an addr-spec in a message-id contains a quoted string, it can contain
3772 any characters except " \ and CR and so in particular it can contain NL!
3773 Therefore, make sure we use a printing-characters only version for the log.
3774 Also, allow for domain literals in the message id. */
3775
3776 if (msgid_header != NULL)
3777   {
3778   uschar *old_id;
3779   BOOL save_allow_domain_literals = allow_domain_literals;
3780   allow_domain_literals = TRUE;
3781   old_id = parse_extract_address(Ustrchr(msgid_header->text, ':') + 1,
3782     &errmsg, &start, &end, &domain, FALSE);
3783   allow_domain_literals = save_allow_domain_literals;
3784   if (old_id != NULL)
3785     s = string_append(s, &size, &sptr, 2, US" id=", string_printing(old_id));
3786   }
3787
3788 /* If subject logging is turned on, create suitable printing-character
3789 text. By expanding $h_subject: we make use of the MIME decoding. */
3790
3791 if ((log_extra_selector & LX_subject) != 0 && subject_header != NULL)
3792   {
3793   int i;
3794   uschar *p = big_buffer;
3795   uschar *ss = expand_string(US"$h_subject:");
3796
3797   /* Backslash-quote any double quotes or backslashes so as to make a
3798   a C-like string, and turn any non-printers into escape sequences. */
3799
3800   *p++ = '\"';
3801   if (*ss != 0) for (i = 0; i < 100 && ss[i] != 0; i++)
3802     {
3803     if (ss[i] == '\"' || ss[i] == '\\') *p++ = '\\';
3804     *p++ = ss[i];
3805     }
3806   *p++ = '\"';
3807   *p = 0;
3808   s = string_append(s, &size, &sptr, 2, US" T=", string_printing(big_buffer));
3809   }
3810
3811 /* Terminate the string: string_cat() and string_append() leave room, but do
3812 not put the zero in. */
3813
3814 s[sptr] = 0;
3815
3816 /* Create a message log file if message logs are being used and this message is
3817 not blackholed. Write the reception stuff to it. We used to leave message log
3818 creation until the first delivery, but this has proved confusing for some
3819 people. */
3820
3821 if (message_logs && blackholed_by == NULL)
3822   {
3823   int fd;
3824
3825   sprintf(CS spool_name, "%s/msglog/%s/%s", spool_directory, message_subdir,
3826     message_id);
3827   fd = Uopen(spool_name, O_WRONLY|O_APPEND|O_CREAT, SPOOL_MODE);
3828
3829   if (fd < 0 && errno == ENOENT)
3830     {
3831     uschar temp[16];
3832     sprintf(CS temp, "msglog/%s", message_subdir);
3833     if (message_subdir[0] == 0) temp[6] = 0;
3834     (void)directory_make(spool_directory, temp, MSGLOG_DIRECTORY_MODE, TRUE);
3835     fd = Uopen(spool_name, O_WRONLY|O_APPEND|O_CREAT, SPOOL_MODE);
3836     }
3837
3838   if (fd < 0)
3839     {
3840     log_write(0, LOG_MAIN|LOG_PANIC, "Couldn't open message log %s: %s",
3841       spool_name, strerror(errno));
3842     }
3843
3844   else
3845     {
3846     FILE *message_log = fdopen(fd, "a");
3847     if (message_log == NULL)
3848       {
3849       log_write(0, LOG_MAIN|LOG_PANIC, "Couldn't fdopen message log %s: %s",
3850         spool_name, strerror(errno));
3851       (void)close(fd);
3852       }
3853     else
3854       {
3855       uschar *now = tod_stamp(tod_log);
3856       fprintf(message_log, "%s Received from %s\n", now, s+3);
3857       if (deliver_freeze) fprintf(message_log, "%s frozen by %s\n", now,
3858         frozen_by);
3859       if (queue_only_policy) fprintf(message_log,
3860         "%s no immediate delivery: queued by %s\n", now, queued_by);
3861       (void)fclose(message_log);
3862       }
3863     }
3864   }
3865
3866 /* Everything has now been done for a successful message except logging its
3867 arrival, and outputting an SMTP response. While writing to the log, set a flag
3868 to cause a call to receive_bomb_out() if the log cannot be opened. */
3869
3870 receive_call_bombout = TRUE;
3871
3872 /* Before sending an SMTP response in a TCP/IP session, we check to see if the
3873 connection has gone away. This can only be done if there is no unconsumed input
3874 waiting in the local input buffer. We can test for this by calling
3875 receive_smtp_buffered(). RFC 2920 (pipelining) explicitly allows for additional
3876 input to be sent following the final dot, so the presence of following input is
3877 not an error.
3878
3879 If the connection is still present, but there is no unread input for the
3880 socket, the result of a select() call will be zero. If, however, the connection
3881 has gone away, or if there is pending input, the result of select() will be
3882 non-zero. The two cases can be distinguished by trying to read the next input
3883 character. If we succeed, we can unread it so that it remains in the local
3884 buffer for handling later. If not, the connection has been lost.
3885
3886 Of course, since TCP/IP is asynchronous, there is always a chance that the
3887 connection will vanish between the time of this test and the sending of the
3888 response, but the chance of this happening should be small. */
3889
3890 if (smtp_input && sender_host_address != NULL && !sender_host_notsocket &&
3891     !receive_smtp_buffered())
3892   {
3893   struct timeval tv;
3894   fd_set select_check;
3895   FD_ZERO(&select_check);
3896   FD_SET(fileno(smtp_in), &select_check);
3897   tv.tv_sec = 0;
3898   tv.tv_usec = 0;
3899
3900   if (select(fileno(smtp_in) + 1, &select_check, NULL, NULL, &tv) != 0)
3901     {
3902     int c = (receive_getc)();
3903     if (c != EOF) (receive_ungetc)(c); else
3904       {
3905       uschar *msg = US"SMTP connection lost after final dot";
3906       smtp_reply = US"";    /* No attempt to send a response */
3907       smtp_yield = FALSE;   /* Nothing more on this connection */
3908
3909       /* Re-use the log line workspace */
3910
3911       sptr = 0;
3912       s = string_cat(s, &size, &sptr, msg, Ustrlen(msg));
3913       s = add_host_info_for_log(s, &size, &sptr);
3914       s[sptr] = 0;
3915       log_write(0, LOG_MAIN, "%s", s);
3916
3917       /* Delete the files for this aborted message. */
3918
3919       sprintf(CS spool_name, "%s/input/%s/%s-D", spool_directory,
3920         message_subdir, message_id);
3921       Uunlink(spool_name);
3922
3923       sprintf(CS spool_name, "%s/input/%s/%s-H", spool_directory,
3924         message_subdir, message_id);
3925       Uunlink(spool_name);
3926
3927       sprintf(CS spool_name, "%s/msglog/%s/%s", spool_directory,
3928         message_subdir, message_id);
3929       Uunlink(spool_name);
3930
3931       goto TIDYUP;
3932       }
3933     }
3934   }
3935
3936 /* The connection has not gone away; we really are going to take responsibility
3937 for this message. */
3938
3939 /* Cutthrough - had sender last-dot; assume we've sent (or bufferred) all
3940    data onward by now.
3941
3942    Send dot onward.  If accepted, wipe the spooled files, log as delivered and accept
3943    the sender's dot (below).
3944    If rejected: copy response to sender, wipe the spooled files, log approriately.
3945    If temp-reject: accept to sender, keep the spooled files.
3946
3947    Having the normal spool files lets us do data-filtering, and store/forward on temp-reject.
3948
3949    XXX We do not handle queue-only, freezing, or blackholes.
3950 */
3951 cutthrough_done = 0;
3952 if(cutthrough_fd >= 0)
3953   {
3954   uschar * msg= cutthrough_finaldot();  /* Ask the target system to accept the messsage */
3955                                         /* Logging was done in finaldot() */
3956   switch(msg[0])
3957     {
3958     case '2':   /* Accept. Do the same to the source; dump any spoolfiles.   */
3959       cutthrough_done = 3;
3960       break;                                    /* message_id needed for SMTP accept below */
3961
3962     default:    /* Unknown response, or error.  Treat as temp-reject.         */
3963     case '4':   /* Temp-reject. Keep spoolfiles and accept. */
3964       cutthrough_done = 1;                      /* Avoid the usual immediate delivery attempt */
3965       break;                                    /* message_id needed for SMTP accept below */
3966
3967     case '5':   /* Perm-reject.  Do the same to the source.  Dump any spoolfiles */
3968       smtp_reply= msg;          /* Pass on the exact error */
3969       cutthrough_done = 2;
3970       break;
3971     }
3972   }
3973
3974 if(smtp_reply == NULL
3975 #ifdef EXPERIMENTAL_PRDR
3976                      || prdr_requested
3977 #endif
3978   )
3979   {
3980   log_write(0, LOG_MAIN |
3981     (((log_extra_selector & LX_received_recipients) != 0)? LOG_RECIPIENTS : 0) |
3982     (((log_extra_selector & LX_received_sender) != 0)? LOG_SENDER : 0),
3983     "%s", s);
3984
3985   /* Log any control actions taken by an ACL or local_scan(). */
3986
3987   if (deliver_freeze) log_write(0, LOG_MAIN, "frozen by %s", frozen_by);
3988   if (queue_only_policy) log_write(L_delay_delivery, LOG_MAIN,
3989     "no immediate delivery: queued by %s", queued_by);
3990   }
3991 receive_call_bombout = FALSE;
3992
3993 store_reset(s);   /* The store for the main log message can be reused */
3994
3995 /* If the message is frozen, and freeze_tell is set, do the telling. */
3996
3997 if (deliver_freeze && freeze_tell != NULL && freeze_tell[0] != 0)
3998   {
3999   moan_tell_someone(freeze_tell, NULL, US"Message frozen on arrival",
4000     "Message %s was frozen on arrival by %s.\nThe sender is <%s>.\n",
4001     message_id, frozen_by, sender_address);
4002   }
4003
4004
4005 /* Either a message has been successfully received and written to the two spool
4006 files, or an error in writing the spool has occurred for an SMTP message, or
4007 an SMTP message has been rejected for policy reasons. (For a non-SMTP message
4008 we will have already given up because there's no point in carrying on!) In
4009 either event, we must now close (and thereby unlock) the data file. In the
4010 successful case, this leaves the message on the spool, ready for delivery. In
4011 the error case, the spool file will be deleted. Then tidy up store, interact
4012 with an SMTP call if necessary, and return.
4013
4014 A fflush() was done earlier in the expectation that any write errors on the
4015 data file will be flushed(!) out thereby. Nevertheless, it is theoretically
4016 possible for fclose() to fail - but what to do? What has happened to the lock
4017 if this happens? */
4018
4019
4020 TIDYUP:
4021 process_info[process_info_len] = 0;                /* Remove message id */
4022 if (data_file != NULL) (void)fclose(data_file);    /* Frees the lock */
4023
4024 /* Now reset signal handlers to their defaults */
4025
4026 signal(SIGTERM, SIG_DFL);
4027 signal(SIGINT, SIG_DFL);
4028
4029 /* Tell an SMTP caller the state of play, and arrange to return the SMTP return
4030 value, which defaults TRUE - meaning there may be more incoming messages from
4031 this connection. For non-SMTP callers (where there is only ever one message),
4032 the default is FALSE. */
4033
4034 if (smtp_input)
4035   {
4036   yield = smtp_yield;
4037
4038   /* Handle interactive SMTP callers. After several kinds of error, smtp_reply
4039   is set to the response that should be sent. When it is NULL, we generate
4040   default responses. After an ACL error or local_scan() error, the response has
4041   already been sent, and smtp_reply is an empty string to indicate this. */
4042
4043   if (!smtp_batched_input)
4044     {
4045     if (smtp_reply == NULL)
4046       {
4047       if (fake_response != OK)
4048         smtp_respond((fake_response == DEFER)? US"450" : US"550", 3, TRUE,
4049           fake_response_text);
4050
4051       /* An OK response is required; use "message" text if present. */
4052
4053       else if (user_msg != NULL)
4054         {
4055         uschar *code = US"250";
4056         int len = 3;
4057         smtp_message_code(&code, &len, &user_msg, NULL);
4058         smtp_respond(code, len, TRUE, user_msg);
4059         }
4060
4061       /* Default OK response */
4062
4063       else
4064         smtp_printf("250 OK id=%s\r\n", message_id);
4065       if (host_checking)
4066         fprintf(stdout,
4067           "\n**** SMTP testing: that is not a real message id!\n\n");
4068       }
4069
4070     /* smtp_reply is set non-empty */
4071
4072     else if (smtp_reply[0] != 0)
4073       {
4074       if (fake_response != OK && (smtp_reply[0] == '2'))
4075         smtp_respond((fake_response == DEFER)? US"450" : US"550", 3, TRUE,
4076           fake_response_text);
4077       else
4078         smtp_printf("%.1024s\r\n", smtp_reply);
4079       }
4080
4081     switch (cutthrough_done)
4082       {
4083       case 3: log_write(0, LOG_MAIN, "Completed");      /* Delivery was done */
4084       case 2: {                                         /* Delete spool files */
4085               sprintf(CS spool_name, "%s/input/%s/%s-D", spool_directory,
4086                 message_subdir, message_id);
4087               Uunlink(spool_name);
4088               sprintf(CS spool_name, "%s/input/%s/%s-H", spool_directory,
4089                 message_subdir, message_id);
4090               Uunlink(spool_name);
4091               sprintf(CS spool_name, "%s/msglog/%s/%s", spool_directory,
4092                 message_subdir, message_id);
4093               Uunlink(spool_name);
4094               }
4095       case 1: message_id[0] = 0;                        /* Prevent a delivery from starting */
4096       default:break;
4097       }
4098     cutthrough_delivery = FALSE;
4099     }
4100
4101   /* For batched SMTP, generate an error message on failure, and do
4102   nothing on success. The function moan_smtp_batch() does not return -
4103   it exits from the program with a non-zero return code. */
4104
4105   else if (smtp_reply != NULL) moan_smtp_batch(NULL, "%s", smtp_reply);
4106   }
4107
4108
4109 /* If blackholing, we can immediately log this message's sad fate. The data
4110 file has already been unlinked, and the header file was never written to disk.
4111 We must now indicate that nothing was received, to prevent a delivery from
4112 starting. */
4113
4114 if (blackholed_by != NULL)
4115   {
4116   uschar *detail = (local_scan_data != NULL)?
4117     string_printing(local_scan_data) :
4118     string_sprintf("(%s discarded recipients)", blackholed_by);
4119   log_write(0, LOG_MAIN, "=> blackhole %s%s", detail, blackhole_log_msg);
4120   log_write(0, LOG_MAIN, "Completed");
4121   message_id[0] = 0;
4122   }
4123
4124 /* Reset headers so that logging of rejects for a subsequent message doesn't
4125 include them. It is also important to set header_last = NULL before exiting
4126 from this function, as this prevents certain rewrites that might happen during
4127 subsequent verifying (of another incoming message) from trying to add headers
4128 when they shouldn't. */
4129
4130 header_list = header_last = NULL;
4131
4132 return yield;  /* TRUE if more messages (SMTP only) */
4133 }
4134
4135 /* End of receive.c */