VRFY: Permit an ACL to override the default 252 response, to support
[exim.git] / src / src / receive.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2015 */
6 /* See the file NOTICE for conditions of use and distribution. */
7
8 /* Code for receiving a message and setting up spool files. */
9
10 #include "exim.h"
11
12 #ifdef EXPERIMENTAL_DCC
13 extern int dcc_ok;
14 #endif
15
16 #ifdef EXPERIMENTAL_DMARC
17 # include "dmarc.h"
18 #endif /* EXPERIMENTAL_DMARC */
19
20 /*************************************************
21 *                Local static variables          *
22 *************************************************/
23
24 static FILE   *data_file = NULL;
25 static int     data_fd = -1;
26 static uschar  spool_name[256];
27
28
29
30 /*************************************************
31 *      Non-SMTP character reading functions      *
32 *************************************************/
33
34 /* These are the default functions that are set up in the variables such as
35 receive_getc initially. They just call the standard functions, passing stdin as
36 the file. (When SMTP input is occurring, different functions are used by
37 changing the pointer variables.) */
38
39 int
40 stdin_getc(void)
41 {
42 return getc(stdin);
43 }
44
45 int
46 stdin_ungetc(int c)
47 {
48 return ungetc(c, stdin);
49 }
50
51 int
52 stdin_feof(void)
53 {
54 return feof(stdin);
55 }
56
57 int
58 stdin_ferror(void)
59 {
60 return ferror(stdin);
61 }
62
63
64
65
66 /*************************************************
67 *     Check that a set sender is allowed         *
68 *************************************************/
69
70 /* This function is called when a local caller sets an explicit sender address.
71 It checks whether this is permitted, which it is for trusted callers.
72 Otherwise, it must match the pattern(s) in untrusted_set_sender.
73
74 Arguments:  the proposed sender address
75 Returns:    TRUE for a trusted caller
76             TRUE if the address has been set, untrusted_set_sender has been
77               set, and the address matches something in the list
78             FALSE otherwise
79 */
80
81 BOOL
82 receive_check_set_sender(uschar *newsender)
83 {
84 uschar *qnewsender;
85 if (trusted_caller) return TRUE;
86 if (newsender == NULL || untrusted_set_sender == NULL) return FALSE;
87 qnewsender = (Ustrchr(newsender, '@') != NULL)?
88   newsender : string_sprintf("%s@%s", newsender, qualify_domain_sender);
89 return
90   match_address_list(qnewsender, TRUE, TRUE, CUSS &untrusted_set_sender, NULL, -1,
91     0, NULL) == OK;
92 }
93
94
95
96
97 /*************************************************
98 *          Read space info for a partition       *
99 *************************************************/
100
101 /* This function is called by receive_check_fs() below, and also by string
102 expansion for variables such as $spool_space. The field names for the statvfs
103 structure are macros, because not all OS have F_FAVAIL and it seems tidier to
104 have macros for F_BAVAIL and F_FILES as well. Some kinds of file system do not
105 have inodes, and they return -1 for the number available.
106
107 Later: It turns out that some file systems that do not have the concept of
108 inodes return 0 rather than -1. Such systems should also return 0 for the total
109 number of inodes, so we require that to be greater than zero before returning
110 an inode count.
111
112 Arguments:
113   isspool       TRUE for spool partition, FALSE for log partition
114   inodeptr      address of int to receive inode count; -1 if there isn't one
115
116 Returns:        available on-root space, in kilobytes
117                 -1 for log partition if there isn't one
118
119 All values are -1 if the STATFS functions are not available.
120 */
121
122 int
123 receive_statvfs(BOOL isspool, int *inodeptr)
124 {
125 #ifdef HAVE_STATFS
126 struct STATVFS statbuf;
127 uschar *path;
128 uschar *name;
129 uschar buffer[1024];
130
131 /* The spool directory must always exist. */
132
133 if (isspool)
134   {
135   path = spool_directory;
136   name = US"spool";
137   }
138
139 /* Need to cut down the log file path to the directory, and to ignore any
140 appearance of "syslog" in it. */
141
142 else
143   {
144   int sep = ':';              /* Not variable - outside scripts use */
145   const uschar *p = log_file_path;
146   name = US"log";
147
148   /* An empty log_file_path means "use the default". This is the same as an
149   empty item in a list. */
150
151   if (*p == 0) p = US":";
152   while ((path = string_nextinlist(&p, &sep, buffer, sizeof(buffer))))
153     if (Ustrcmp(path, "syslog") != 0)
154       break;
155
156   if (path == NULL)  /* No log files */
157     {
158     *inodeptr = -1;
159     return -1;
160     }
161
162   /* An empty string means use the default, which is in the spool directory.
163   But don't just use the spool directory, as it is possible that the log
164   subdirectory has been symbolically linked elsewhere. */
165
166   if (path[0] == 0)
167     {
168     sprintf(CS buffer, CS"%s/log", CS spool_directory);
169     path = buffer;
170     }
171   else
172     {
173     uschar *cp;
174     if ((cp = Ustrrchr(path, '/')) != NULL) *cp = 0;
175     }
176   }
177
178 /* We now have the path; do the business */
179
180 memset(&statbuf, 0, sizeof(statbuf));
181
182 if (STATVFS(CS path, &statbuf) != 0)
183   {
184   log_write(0, LOG_MAIN|LOG_PANIC, "cannot accept message: failed to stat "
185     "%s directory %s: %s", name, spool_directory, strerror(errno));
186   smtp_closedown(US"spool or log directory problem");
187   exim_exit(EXIT_FAILURE);
188   }
189
190 *inodeptr = (statbuf.F_FILES > 0)? statbuf.F_FAVAIL : -1;
191
192 /* Disks are getting huge. Take care with computing the size in kilobytes. */
193
194 return (int)(((double)statbuf.F_BAVAIL * (double)statbuf.F_FRSIZE)/1024.0);
195
196 /* Unable to find partition sizes in this environment. */
197
198 #else
199 *inodeptr = -1;
200 return -1;
201 #endif
202 }
203
204
205
206
207 /*************************************************
208 *     Check space on spool and log partitions    *
209 *************************************************/
210
211 /* This function is called before accepting a message; if any thresholds are
212 set, it checks them. If a message_size is supplied, it checks that there is
213 enough space for that size plus the threshold - i.e. that the message won't
214 reduce the space to the threshold. Not all OS have statvfs(); for those that
215 don't, this function always returns TRUE. For some OS the old function and
216 struct name statfs is used; that is handled by a macro, defined in exim.h.
217
218 Arguments:
219   msg_size     the (estimated) size of an incoming message
220
221 Returns:       FALSE if there isn't enough space, or if the information cannot
222                  be obtained
223                TRUE if no check was done or there is enough space
224 */
225
226 BOOL
227 receive_check_fs(int msg_size)
228 {
229 int space, inodes;
230
231 if (check_spool_space > 0 || msg_size > 0 || check_spool_inodes > 0)
232   {
233   space = receive_statvfs(TRUE, &inodes);
234
235   DEBUG(D_receive)
236     debug_printf("spool directory space = %dK inodes = %d "
237       "check_space = %dK inodes = %d msg_size = %d\n",
238       space, inodes, check_spool_space, check_spool_inodes, msg_size);
239
240   if ((space >= 0 && space < check_spool_space) ||
241       (inodes >= 0 && inodes < check_spool_inodes))
242     {
243     log_write(0, LOG_MAIN, "spool directory space check failed: space=%d "
244       "inodes=%d", space, inodes);
245     return FALSE;
246     }
247   }
248
249 if (check_log_space > 0 || check_log_inodes > 0)
250   {
251   space = receive_statvfs(FALSE, &inodes);
252
253   DEBUG(D_receive)
254     debug_printf("log directory space = %dK inodes = %d "
255       "check_space = %dK inodes = %d\n",
256       space, inodes, check_log_space, check_log_inodes);
257
258   if ((space >= 0 && space < check_log_space) ||
259       (inodes >= 0 && inodes < check_log_inodes))
260     {
261     log_write(0, LOG_MAIN, "log directory space check failed: space=%d "
262       "inodes=%d", space, inodes);
263     return FALSE;
264     }
265   }
266
267 return TRUE;
268 }
269
270
271
272 /*************************************************
273 *         Bomb out while reading a message       *
274 *************************************************/
275
276 /* The common case of wanting to bomb out is if a SIGTERM or SIGINT is
277 received, or if there is a timeout. A rarer case might be if the log files are
278 screwed up and Exim can't open them to record a message's arrival. Handling
279 that case is done by setting a flag to cause the log functions to call this
280 function if there is an ultimate disaster. That is why it is globally
281 accessible.
282
283 Arguments:
284   reason     text reason to pass to the not-quit ACL
285   msg        default SMTP response to give if in an SMTP session
286 Returns:     it doesn't
287 */
288
289 void
290 receive_bomb_out(uschar *reason, uschar *msg)
291 {
292   static BOOL already_bombing_out;
293 /* The smtp_notquit_exit() below can call ACLs which can trigger recursive
294 timeouts, if someone has something slow in their quit ACL.  Since the only
295 things we should be doing are to close down cleanly ASAP, on the second
296 pass we also close down stuff that might be opened again, before bypassing
297 the ACL call and exiting. */
298
299 /* If spool_name is set, it contains the name of the data file that is being
300 written. Unlink it before closing so that it cannot be picked up by a delivery
301 process. Ensure that any header file is also removed. */
302
303 if (spool_name[0] != '\0')
304   {
305   Uunlink(spool_name);
306   spool_name[Ustrlen(spool_name) - 1] = 'H';
307   Uunlink(spool_name);
308   spool_name[0] = '\0';
309   }
310
311 /* Now close the file if it is open, either as a fd or a stream. */
312
313 if (data_file != NULL)
314   {
315   (void)fclose(data_file);
316   data_file = NULL;
317 } else if (data_fd >= 0) {
318   (void)close(data_fd);
319   data_fd = -1;
320   }
321
322 /* Attempt to close down an SMTP connection tidily. For non-batched SMTP, call
323 smtp_notquit_exit(), which runs the NOTQUIT ACL, if present, and handles the
324 SMTP response. */
325
326 if (!already_bombing_out)
327   {
328   already_bombing_out = TRUE;
329   if (smtp_input)
330     {
331     if (smtp_batched_input)
332       moan_smtp_batch(NULL, "421 %s - message abandoned", msg);  /* No return */
333     smtp_notquit_exit(reason, US"421", US"%s %s - closing connection.",
334       smtp_active_hostname, msg);
335     }
336   }
337
338 /* Exit from the program (non-BSMTP cases) */
339
340 exim_exit(EXIT_FAILURE);
341 }
342
343
344 /*************************************************
345 *              Data read timeout                 *
346 *************************************************/
347
348 /* Handler function for timeouts that occur while reading the data that
349 comprises a message.
350
351 Argument:  the signal number
352 Returns:   nothing
353 */
354
355 static void
356 data_timeout_handler(int sig)
357 {
358 uschar *msg = NULL;
359
360 sig = sig;    /* Keep picky compilers happy */
361
362 if (smtp_input)
363   {
364   msg = US"SMTP incoming data timeout";
365   log_write(L_lost_incoming_connection,
366             LOG_MAIN, "SMTP data timeout (message abandoned) on connection "
367             "from %s F=<%s>",
368             (sender_fullhost != NULL)? sender_fullhost : US"local process",
369             sender_address);
370   }
371 else
372   {
373   fprintf(stderr, "exim: timed out while reading - message abandoned\n");
374   log_write(L_lost_incoming_connection,
375             LOG_MAIN, "timed out while reading local message");
376   }
377
378 receive_bomb_out(US"data-timeout", msg);   /* Does not return */
379 }
380
381
382
383 /*************************************************
384 *              local_scan() timeout              *
385 *************************************************/
386
387 /* Handler function for timeouts that occur while running a local_scan()
388 function.
389
390 Argument:  the signal number
391 Returns:   nothing
392 */
393
394 static void
395 local_scan_timeout_handler(int sig)
396 {
397 sig = sig;    /* Keep picky compilers happy */
398 log_write(0, LOG_MAIN|LOG_REJECT, "local_scan() function timed out - "
399   "message temporarily rejected (size %d)", message_size);
400 /* Does not return */
401 receive_bomb_out(US"local-scan-timeout", US"local verification problem");
402 }
403
404
405
406 /*************************************************
407 *            local_scan() crashed                *
408 *************************************************/
409
410 /* Handler function for signals that occur while running a local_scan()
411 function.
412
413 Argument:  the signal number
414 Returns:   nothing
415 */
416
417 static void
418 local_scan_crash_handler(int sig)
419 {
420 log_write(0, LOG_MAIN|LOG_REJECT, "local_scan() function crashed with "
421   "signal %d - message temporarily rejected (size %d)", sig, message_size);
422 /* Does not return */
423 receive_bomb_out(US"local-scan-error", US"local verification problem");
424 }
425
426
427 /*************************************************
428 *           SIGTERM or SIGINT received           *
429 *************************************************/
430
431 /* Handler for SIGTERM or SIGINT signals that occur while reading the
432 data that comprises a message.
433
434 Argument:  the signal number
435 Returns:   nothing
436 */
437
438 static void
439 data_sigterm_sigint_handler(int sig)
440 {
441 uschar *msg = NULL;
442
443 if (smtp_input)
444   {
445   msg = US"Service not available - SIGTERM or SIGINT received";
446   log_write(0, LOG_MAIN, "%s closed after %s", smtp_get_connection_info(),
447     (sig == SIGTERM)? "SIGTERM" : "SIGINT");
448   }
449 else
450   {
451   if (filter_test == FTEST_NONE)
452     {
453     fprintf(stderr, "\nexim: %s received - message abandoned\n",
454       (sig == SIGTERM)? "SIGTERM" : "SIGINT");
455     log_write(0, LOG_MAIN, "%s received while reading local message",
456       (sig == SIGTERM)? "SIGTERM" : "SIGINT");
457     }
458   }
459
460 receive_bomb_out(US"signal-exit", msg);    /* Does not return */
461 }
462
463
464
465 /*************************************************
466 *          Add new recipient to list             *
467 *************************************************/
468
469 /* This function builds a list of recipient addresses in argc/argv
470 format.
471
472 Arguments:
473   recipient   the next address to add to recipients_list
474   pno         parent number for fixed aliases; -1 otherwise
475
476 Returns:      nothing
477 */
478
479 void
480 receive_add_recipient(uschar *recipient, int pno)
481 {
482 if (recipients_count >= recipients_list_max)
483   {
484   recipient_item *oldlist = recipients_list;
485   int oldmax = recipients_list_max;
486   recipients_list_max = recipients_list_max? 2*recipients_list_max : 50;
487   recipients_list = store_get(recipients_list_max * sizeof(recipient_item));
488   if (oldlist != NULL)
489     memcpy(recipients_list, oldlist, oldmax * sizeof(recipient_item));
490   }
491
492 recipients_list[recipients_count].address = recipient;
493 recipients_list[recipients_count].pno = pno;
494 #ifdef EXPERIMENTAL_BRIGHTMAIL
495 recipients_list[recipients_count].bmi_optin = bmi_current_optin;
496 /* reset optin string pointer for next recipient */
497 bmi_current_optin = NULL;
498 #endif
499 recipients_list[recipients_count].orcpt = NULL;
500 recipients_list[recipients_count].dsn_flags = 0;
501 recipients_list[recipients_count++].errors_to = NULL;
502 }
503
504
505
506
507 /*************************************************
508 *        Send user response message              *
509 *************************************************/
510
511 /* This function is passed a default response code and a user message. It calls
512 smtp_message_code() to check and possibly modify the response code, and then
513 calls smtp_respond() to transmit the response. I put this into a function
514 just to avoid a lot of repetition.
515
516 Arguments:
517   code         the response code
518   user_msg     the user message
519
520 Returns:       nothing
521 */
522
523 #ifndef DISABLE_PRDR
524 static void
525 smtp_user_msg(uschar *code, uschar *user_msg)
526 {
527 int len = 3;
528 smtp_message_code(&code, &len, &user_msg, NULL, TRUE);
529 smtp_respond(code, len, TRUE, user_msg);
530 }
531 #endif
532
533
534
535
536
537 /*************************************************
538 *        Remove a recipient from the list        *
539 *************************************************/
540
541 /* This function is provided for local_scan() to use.
542
543 Argument:
544   recipient   address to remove
545
546 Returns:      TRUE if it did remove something; FALSE otherwise
547 */
548
549 BOOL
550 receive_remove_recipient(uschar *recipient)
551 {
552 int count;
553 DEBUG(D_receive) debug_printf("receive_remove_recipient(\"%s\") called\n",
554   recipient);
555 for (count = 0; count < recipients_count; count++)
556   {
557   if (Ustrcmp(recipients_list[count].address, recipient) == 0)
558     {
559     if ((--recipients_count - count) > 0)
560       memmove(recipients_list + count, recipients_list + count + 1,
561         (recipients_count - count)*sizeof(recipient_item));
562     return TRUE;
563     }
564   }
565 return FALSE;
566 }
567
568
569
570
571
572 /*************************************************
573 *     Read data portion of a non-SMTP message    *
574 *************************************************/
575
576 /* This function is called to read the remainder of a message (following the
577 header) when the input is not from SMTP - we are receiving a local message on
578 a standard input stream. The message is always terminated by EOF, and is also
579 terminated by a dot on a line by itself if the flag dot_ends is TRUE. Split the
580 two cases for maximum efficiency.
581
582 Ensure that the body ends with a newline. This will naturally be the case when
583 the termination is "\n.\n" but may not be otherwise. The RFC defines messages
584 as "sequences of lines" - this of course strictly applies only to SMTP, but
585 deliveries into BSD-type mailbox files also require it. Exim used to have a
586 flag for doing this at delivery time, but as it was always set for all
587 transports, I decided to simplify things by putting the check here instead.
588
589 There is at least one MUA (dtmail) that sends CRLF via this interface, and
590 other programs are known to do this as well. Exim used to have a option for
591 dealing with this: in July 2003, after much discussion, the code has been
592 changed to default to treat any of LF, CRLF, and bare CR as line terminators.
593
594 However, for the case when a dot on a line by itself terminates a message, the
595 only recognized terminating sequences before and after the dot are LF and CRLF.
596 Otherwise, having read EOL . CR, you don't know whether to read another
597 character or not.
598
599 Internally, in messages stored in Exim's spool files, LF is used as the line
600 terminator. Under the new regime, bare CRs will no longer appear in these
601 files.
602
603 Arguments:
604   fout      a FILE to which to write the message
605
606 Returns:    One of the END_xxx values indicating why it stopped reading
607 */
608
609 static int
610 read_message_data(FILE *fout)
611 {
612 int ch_state;
613 register int ch;
614 register int linelength = 0;
615
616 /* Handle the case when only EOF terminates the message */
617
618 if (!dot_ends)
619   {
620   register int last_ch = '\n';
621
622   for (; (ch = (receive_getc)()) != EOF; last_ch = ch)
623     {
624     if (ch == 0) body_zerocount++;
625     if (last_ch == '\r' && ch != '\n')
626       {
627       if (linelength > max_received_linelength)
628         max_received_linelength = linelength;
629       linelength = 0;
630       if (fputc('\n', fout) == EOF) return END_WERROR;
631       message_size++;
632       body_linecount++;
633       }
634     if (ch == '\r') continue;
635
636     if (fputc(ch, fout) == EOF) return END_WERROR;
637     if (ch == '\n')
638       {
639       if (linelength > max_received_linelength)
640         max_received_linelength = linelength;
641       linelength = 0;
642       body_linecount++;
643       }
644     else linelength++;
645     if (++message_size > thismessage_size_limit) return END_SIZE;
646     }
647
648   if (last_ch != '\n')
649     {
650     if (linelength > max_received_linelength)
651       max_received_linelength = linelength;
652     if (fputc('\n', fout) == EOF) return END_WERROR;
653     message_size++;
654     body_linecount++;
655     }
656
657   return END_EOF;
658   }
659
660 /* Handle the case when a dot on a line on its own, or EOF, terminates. */
661
662 ch_state = 1;
663
664 while ((ch = (receive_getc)()) != EOF)
665   {
666   if (ch == 0) body_zerocount++;
667   switch (ch_state)
668     {
669     case 0:                         /* Normal state (previous char written) */
670     if (ch == '\n')
671       {
672       body_linecount++;
673       if (linelength > max_received_linelength)
674         max_received_linelength = linelength;
675       linelength = -1;
676       ch_state = 1;
677       }
678     else if (ch == '\r')
679       { ch_state = 2; continue; }
680     break;
681
682     case 1:                         /* After written "\n" */
683     if (ch == '.') { ch_state = 3; continue; }
684     if (ch == '\r') { ch_state = 2; continue; }
685     if (ch != '\n') ch_state = 0; else linelength = -1;
686     break;
687
688     case 2:
689     body_linecount++;               /* After unwritten "\r" */
690     if (linelength > max_received_linelength)
691       max_received_linelength = linelength;
692     if (ch == '\n')
693       {
694       ch_state = 1;
695       linelength = -1;
696       }
697     else
698       {
699       if (message_size++, fputc('\n', fout) == EOF) return END_WERROR;
700       if (ch == '\r') continue;
701       ch_state = 0;
702       linelength = 0;
703       }
704     break;
705
706     case 3:                         /* After "\n." (\n written, dot not) */
707     if (ch == '\n') return END_DOT;
708     if (ch == '\r') { ch_state = 4; continue; }
709     message_size++;
710     linelength++;
711     if (fputc('.', fout) == EOF) return END_WERROR;
712     ch_state = 0;
713     break;
714
715     case 4:                         /* After "\n.\r" (\n written, rest not) */
716     if (ch == '\n') return END_DOT;
717     message_size += 2;
718     body_linecount++;
719     if (fputs(".\n", fout) == EOF) return END_WERROR;
720     if (ch == '\r') { ch_state = 2; continue; }
721     ch_state = 0;
722     break;
723     }
724
725   linelength++;
726   if (fputc(ch, fout) == EOF) return END_WERROR;
727   if (++message_size > thismessage_size_limit) return END_SIZE;
728   }
729
730 /* Get here if EOF read. Unless we have just written "\n", we need to ensure
731 the message ends with a newline, and we must also write any characters that
732 were saved up while testing for an ending dot. */
733
734 if (ch_state != 1)
735   {
736   static uschar *ends[] = { US"\n", NULL, US"\n", US".\n", US".\n" };
737   if (fputs(CS ends[ch_state], fout) == EOF) return END_WERROR;
738   message_size += Ustrlen(ends[ch_state]);
739   body_linecount++;
740   }
741
742 return END_EOF;
743 }
744
745
746
747
748 /*************************************************
749 *      Read data portion of an SMTP message      *
750 *************************************************/
751
752 /* This function is called to read the remainder of an SMTP message (after the
753 headers), or to skip over it when an error has occurred. In this case, the
754 output file is passed as NULL.
755
756 If any line begins with a dot, that character is skipped. The input should only
757 be successfully terminated by CR LF . CR LF unless it is local (non-network)
758 SMTP, in which case the CRs are optional, but...
759
760 FUDGE: It seems that sites on the net send out messages with just LF
761 terminators, despite the warnings in the RFCs, and other MTAs handle this. So
762 we make the CRs optional in all cases.
763
764 July 2003: Bare CRs cause trouble. We now treat them as line terminators as
765 well, so that there are no CRs in spooled messages. However, the message
766 terminating dot is not recognized between two bare CRs.
767
768 Arguments:
769   fout      a FILE to which to write the message; NULL if skipping
770
771 Returns:    One of the END_xxx values indicating why it stopped reading
772 */
773
774 static int
775 read_message_data_smtp(FILE *fout)
776 {
777 int ch_state = 0;
778 int ch;
779 register int linelength = 0;
780
781 while ((ch = (receive_getc)()) != EOF)
782   {
783   if (ch == 0) body_zerocount++;
784   switch (ch_state)
785     {
786     case 0:                             /* After LF or CRLF */
787     if (ch == '.')
788       {
789       ch_state = 3;
790       continue;                         /* Don't ever write . after LF */
791       }
792     ch_state = 1;
793
794     /* Else fall through to handle as normal uschar. */
795
796     case 1:                             /* Normal state */
797     if (ch == '\n')
798       {
799       ch_state = 0;
800       body_linecount++;
801       if (linelength > max_received_linelength)
802         max_received_linelength = linelength;
803       linelength = -1;
804       }
805     else if (ch == '\r')
806       {
807       ch_state = 2;
808       continue;
809       }
810     break;
811
812     case 2:                             /* After (unwritten) CR */
813     body_linecount++;
814     if (linelength > max_received_linelength)
815       max_received_linelength = linelength;
816     linelength = -1;
817     if (ch == '\n')
818       {
819       ch_state = 0;
820       }
821     else
822       {
823       message_size++;
824       if (fout != NULL && fputc('\n', fout) == EOF) return END_WERROR;
825       (void) cutthrough_put_nl();
826       if (ch != '\r') ch_state = 1; else continue;
827       }
828     break;
829
830     case 3:                             /* After [CR] LF . */
831     if (ch == '\n')
832       return END_DOT;
833     if (ch == '\r')
834       {
835       ch_state = 4;
836       continue;
837       }
838     ch_state = 1;                       /* The dot itself is removed */
839     break;
840
841     case 4:                             /* After [CR] LF . CR */
842     if (ch == '\n') return END_DOT;
843     message_size++;
844     body_linecount++;
845     if (fout != NULL && fputc('\n', fout) == EOF) return END_WERROR;
846     (void) cutthrough_put_nl();
847     if (ch == '\r')
848       {
849       ch_state = 2;
850       continue;
851       }
852     ch_state = 1;
853     break;
854     }
855
856   /* Add the character to the spool file, unless skipping; then loop for the
857   next. */
858
859   message_size++;
860   linelength++;
861   if (fout != NULL)
862     {
863     if (fputc(ch, fout) == EOF) return END_WERROR;
864     if (message_size > thismessage_size_limit) return END_SIZE;
865     }
866   if(ch == '\n')
867     (void) cutthrough_put_nl();
868   else
869     {
870     uschar c= ch;
871     (void) cutthrough_puts(&c, 1);
872     }
873   }
874
875 /* Fall through here if EOF encountered. This indicates some kind of error,
876 since a correct message is terminated by [CR] LF . [CR] LF. */
877
878 return END_EOF;
879 }
880
881
882
883
884 /*************************************************
885 *             Swallow SMTP message               *
886 *************************************************/
887
888 /* This function is called when there has been some kind of error while reading
889 an SMTP message, and the remaining data may need to be swallowed. It is global
890 because it is called from smtp_closedown() to shut down an incoming call
891 tidily.
892
893 Argument:    a FILE from which to read the message
894 Returns:     nothing
895 */
896
897 void
898 receive_swallow_smtp(void)
899 {
900 if (message_ended >= END_NOTENDED)
901   message_ended = read_message_data_smtp(NULL);
902 }
903
904
905
906 /*************************************************
907 *           Handle lost SMTP connection          *
908 *************************************************/
909
910 /* This function logs connection loss incidents and generates an appropriate
911 SMTP response.
912
913 Argument:  additional data for the message
914 Returns:   the SMTP response
915 */
916
917 static uschar *
918 handle_lost_connection(uschar *s)
919 {
920 log_write(L_lost_incoming_connection | L_smtp_connection, LOG_MAIN,
921   "%s lost while reading message data%s", smtp_get_connection_info(), s);
922 return US"421 Lost incoming connection";
923 }
924
925
926
927
928 /*************************************************
929 *         Handle a non-smtp reception error      *
930 *************************************************/
931
932 /* This function is called for various errors during the reception of non-SMTP
933 messages. It either sends a message to the sender of the problem message, or it
934 writes to the standard error stream.
935
936 Arguments:
937   errcode     code for moan_to_sender(), identifying the error
938   text1       first message text, passed to moan_to_sender()
939   text2       second message text, used only for stderrr
940   error_rc    code to pass to exim_exit if no problem
941   f           FILE containing body of message (may be stdin)
942   hptr        pointer to instore headers or NULL
943
944 Returns:      calls exim_exit(), which does not return
945 */
946
947 static void
948 give_local_error(int errcode, uschar *text1, uschar *text2, int error_rc,
949   FILE *f, header_line *hptr)
950 {
951 if (error_handling == ERRORS_SENDER)
952   {
953   error_block eblock;
954   eblock.next = NULL;
955   eblock.text1 = text1;
956   if (!moan_to_sender(errcode, &eblock, hptr, f, FALSE))
957     error_rc = EXIT_FAILURE;
958   }
959 else fprintf(stderr, "exim: %s%s\n", text2, text1);  /* Sic */
960 (void)fclose(f);
961 exim_exit(error_rc);
962 }
963
964
965
966 /*************************************************
967 *          Add header lines set up by ACL        *
968 *************************************************/
969
970 /* This function is called to add the header lines that were set up by
971 statements in an ACL to the list of headers in memory. It is done in two stages
972 like this, because when the ACL for RCPT is running, the other headers have not
973 yet been received. This function is called twice; once just before running the
974 DATA ACL, and once after. This is so that header lines added by MAIL or RCPT
975 are visible to the DATA ACL.
976
977 Originally these header lines were added at the end. Now there is support for
978 three different places: top, bottom, and after the Received: header(s). There
979 will always be at least one Received: header, even if it is marked deleted, and
980 even if something else has been put in front of it.
981
982 Arguments:
983   acl_name   text to identify which ACL
984
985 Returns:     nothing
986 */
987
988 static void
989 add_acl_headers(int where, uschar *acl_name)
990 {
991 header_line *h, *next;
992 header_line *last_received = NULL;
993
994 switch(where)
995   {
996   case ACL_WHERE_DKIM:
997   case ACL_WHERE_MIME:
998   case ACL_WHERE_DATA:
999     if (cutthrough.fd >= 0 && (acl_removed_headers || acl_added_headers))
1000     {
1001     log_write(0, LOG_MAIN|LOG_PANIC, "Header modification in data ACLs"
1002                         " will not take effect on cutthrough deliveries");
1003     return;
1004     }
1005   }
1006
1007 if (acl_removed_headers != NULL)
1008   {
1009   DEBUG(D_receive|D_acl) debug_printf(">>Headers removed by %s ACL:\n", acl_name);
1010
1011   for (h = header_list; h != NULL; h = h->next) if (h->type != htype_old)
1012     {
1013     const uschar * list = acl_removed_headers;
1014     int sep = ':';         /* This is specified as a colon-separated list */
1015     uschar *s;
1016     uschar buffer[128];
1017
1018     while ((s = string_nextinlist(&list, &sep, buffer, sizeof(buffer))))
1019       if (header_testname(h, s, Ustrlen(s), FALSE))
1020         {
1021         h->type = htype_old;
1022         DEBUG(D_receive|D_acl) debug_printf("  %s", h->text);
1023         }
1024     }
1025   acl_removed_headers = NULL;
1026   DEBUG(D_receive|D_acl) debug_printf(">>\n");
1027   }
1028
1029 if (acl_added_headers == NULL) return;
1030 DEBUG(D_receive|D_acl) debug_printf(">>Headers added by %s ACL:\n", acl_name);
1031
1032 for (h = acl_added_headers; h != NULL; h = next)
1033   {
1034   next = h->next;
1035
1036   switch(h->type)
1037     {
1038     case htype_add_top:
1039     h->next = header_list;
1040     header_list = h;
1041     DEBUG(D_receive|D_acl) debug_printf("  (at top)");
1042     break;
1043
1044     case htype_add_rec:
1045     if (last_received == NULL)
1046       {
1047       last_received = header_list;
1048       while (!header_testname(last_received, US"Received", 8, FALSE))
1049         last_received = last_received->next;
1050       while (last_received->next != NULL &&
1051              header_testname(last_received->next, US"Received", 8, FALSE))
1052         last_received = last_received->next;
1053       }
1054     h->next = last_received->next;
1055     last_received->next = h;
1056     DEBUG(D_receive|D_acl) debug_printf("  (after Received:)");
1057     break;
1058
1059     case htype_add_rfc:
1060     /* add header before any header which is NOT Received: or Resent- */
1061     last_received = header_list;
1062     while ( (last_received->next != NULL) &&
1063             ( (header_testname(last_received->next, US"Received", 8, FALSE)) ||
1064               (header_testname_incomplete(last_received->next, US"Resent-", 7, FALSE)) ) )
1065               last_received = last_received->next;
1066     /* last_received now points to the last Received: or Resent-* header
1067        in an uninterrupted chain of those header types (seen from the beginning
1068        of all headers. Our current header must follow it. */
1069     h->next = last_received->next;
1070     last_received->next = h;
1071     DEBUG(D_receive|D_acl) debug_printf("  (before any non-Received: or Resent-*: header)");
1072     break;
1073
1074     default:
1075     h->next = NULL;
1076     header_last->next = h;
1077     break;
1078     }
1079
1080   if (h->next == NULL) header_last = h;
1081
1082   /* Check for one of the known header types (From:, To:, etc.) though in
1083   practice most added headers are going to be "other". Lower case
1084   identification letters are never stored with the header; they are used
1085   for existence tests when messages are received. So discard any lower case
1086   flag values. */
1087
1088   h->type = header_checkname(h, FALSE);
1089   if (h->type >= 'a') h->type = htype_other;
1090
1091   DEBUG(D_receive|D_acl) debug_printf("  %s", header_last->text);
1092   }
1093
1094 acl_added_headers = NULL;
1095 DEBUG(D_receive|D_acl) debug_printf(">>\n");
1096 }
1097
1098
1099
1100 /*************************************************
1101 *       Add host information for log line        *
1102 *************************************************/
1103
1104 /* Called for acceptance and rejecting log lines. This adds information about
1105 the calling host to a string that is being built dynamically.
1106
1107 Arguments:
1108   s           the dynamic string
1109   sizeptr     points to the size variable
1110   ptrptr      points to the pointer variable
1111
1112 Returns:      the extended string
1113 */
1114
1115 static uschar *
1116 add_host_info_for_log(uschar *s, int *sizeptr, int *ptrptr)
1117 {
1118 if (sender_fullhost != NULL)
1119   {
1120   s = string_append(s, sizeptr, ptrptr, 2, US" H=", sender_fullhost);
1121   if (LOGGING(incoming_interface) && interface_address != NULL)
1122     {
1123     uschar *ss = string_sprintf(" I=[%s]:%d", interface_address,
1124       interface_port);
1125     s = string_cat(s, sizeptr, ptrptr, ss, Ustrlen(ss));
1126     }
1127   }
1128 if (sender_ident != NULL)
1129   s = string_append(s, sizeptr, ptrptr, 2, US" U=", sender_ident);
1130 if (received_protocol != NULL)
1131   s = string_append(s, sizeptr, ptrptr, 2, US" P=", received_protocol);
1132 return s;
1133 }
1134
1135
1136
1137 #ifdef WITH_CONTENT_SCAN
1138
1139 /*************************************************
1140 *       Run the MIME ACL on a message            *
1141 *************************************************/
1142
1143 /* This code is in a subroutine so that it can be used for both SMTP
1144 and non-SMTP messages. It is called with a non-NULL ACL pointer.
1145
1146 Arguments:
1147   acl                The ACL to run (acl_smtp_mime or acl_not_smtp_mime)
1148   smtp_yield_ptr     Set FALSE to kill messages after dropped connection
1149   smtp_reply_ptr     Where SMTP reply is being built
1150   blackholed_by_ptr  Where "blackholed by" message is being built
1151
1152 Returns:             TRUE to carry on; FALSE to abandon the message
1153 */
1154
1155 static BOOL
1156 run_mime_acl(uschar *acl, BOOL *smtp_yield_ptr, uschar **smtp_reply_ptr,
1157   uschar **blackholed_by_ptr)
1158 {
1159 FILE *mbox_file;
1160 uschar rfc822_file_path[2048];
1161 unsigned long mbox_size;
1162 header_line *my_headerlist;
1163 uschar *user_msg, *log_msg;
1164 int mime_part_count_buffer = -1;
1165 int rc = OK;
1166
1167 memset(CS rfc822_file_path,0,2048);
1168
1169 /* check if it is a MIME message */
1170 my_headerlist = header_list;
1171 while (my_headerlist != NULL)
1172   {
1173   /* skip deleted headers */
1174   if (my_headerlist->type == '*')
1175     {
1176     my_headerlist = my_headerlist->next;
1177     continue;
1178     }
1179   if (strncmpic(my_headerlist->text, US"Content-Type:", 13) == 0)
1180     {
1181     DEBUG(D_receive) debug_printf("Found Content-Type: header - executing acl_smtp_mime.\n");
1182     goto DO_MIME_ACL;
1183     }
1184   my_headerlist = my_headerlist->next;
1185   }
1186
1187 DEBUG(D_receive) debug_printf("No Content-Type: header - presumably not a MIME message.\n");
1188 return TRUE;
1189
1190 DO_MIME_ACL:
1191 /* make sure the eml mbox file is spooled up */
1192 mbox_file = spool_mbox(&mbox_size, NULL);
1193 if (mbox_file == NULL) {
1194   /* error while spooling */
1195   log_write(0, LOG_MAIN|LOG_PANIC,
1196          "acl_smtp_mime: error while creating mbox spool file, message temporarily rejected.");
1197   Uunlink(spool_name);
1198   unspool_mbox();
1199 #ifdef EXPERIMENTAL_DCC
1200   dcc_ok = 0;
1201 #endif
1202   smtp_respond(US"451", 3, TRUE, US"temporary local problem");
1203   message_id[0] = 0;            /* Indicate no message accepted */
1204   *smtp_reply_ptr = US"";       /* Indicate reply already sent */
1205   return FALSE;                 /* Indicate skip to end of receive function */
1206 };
1207
1208 mime_is_rfc822 = 0;
1209
1210 MIME_ACL_CHECK:
1211 mime_part_count = -1;
1212 rc = mime_acl_check(acl, mbox_file, NULL, &user_msg, &log_msg);
1213 (void)fclose(mbox_file);
1214
1215 if (Ustrlen(rfc822_file_path) > 0)
1216   {
1217   mime_part_count = mime_part_count_buffer;
1218
1219   if (unlink(CS rfc822_file_path) == -1)
1220     {
1221     log_write(0, LOG_PANIC,
1222          "acl_smtp_mime: can't unlink RFC822 spool file, skipping.");
1223       goto END_MIME_ACL;
1224     }
1225   }
1226
1227 /* check if we must check any message/rfc822 attachments */
1228 if (rc == OK)
1229   {
1230   uschar temp_path[1024];
1231   struct dirent * entry;
1232   DIR * tempdir;
1233
1234   (void) string_format(temp_path, sizeof(temp_path), "%s/scan/%s",
1235     spool_directory, message_id);
1236
1237   tempdir = opendir(CS temp_path);
1238   for (;;)
1239     {
1240     if (!(entry = readdir(tempdir)))
1241       break;
1242     if (strncmpic(US entry->d_name, US"__rfc822_", 9) == 0)
1243       {
1244       (void) string_format(rfc822_file_path, sizeof(rfc822_file_path),
1245         "%s/scan/%s/%s", spool_directory, message_id, entry->d_name);
1246       debug_printf("RFC822 attachment detected: running MIME ACL for '%s'\n",
1247         rfc822_file_path);
1248       break;
1249       }
1250     }
1251   closedir(tempdir);
1252
1253   if (entry)
1254     {
1255     if ((mbox_file = Ufopen(rfc822_file_path, "rb")))
1256       {
1257       /* set RFC822 expansion variable */
1258       mime_is_rfc822 = 1;
1259       mime_part_count_buffer = mime_part_count;
1260       goto MIME_ACL_CHECK;
1261       }
1262     log_write(0, LOG_PANIC,
1263        "acl_smtp_mime: can't open RFC822 spool file, skipping.");
1264     unlink(CS rfc822_file_path);
1265     }
1266   }
1267
1268 END_MIME_ACL:
1269 add_acl_headers(ACL_WHERE_MIME, US"MIME");
1270 if (rc == DISCARD)
1271   {
1272   recipients_count = 0;
1273   *blackholed_by_ptr = US"MIME ACL";
1274   }
1275 else if (rc != OK)
1276   {
1277   Uunlink(spool_name);
1278   unspool_mbox();
1279 #ifdef EXPERIMENTAL_DCC
1280   dcc_ok = 0;
1281 #endif
1282   if (  smtp_input
1283      && smtp_handle_acl_fail(ACL_WHERE_MIME, rc, user_msg, log_msg) != 0)
1284     {
1285     *smtp_yield_ptr = FALSE;    /* No more messsages after dropped connection */
1286     *smtp_reply_ptr = US"";     /* Indicate reply already sent */
1287     }
1288   message_id[0] = 0;            /* Indicate no message accepted */
1289   return FALSE;                 /* Cause skip to end of receive function */
1290   }
1291
1292 return TRUE;
1293 }
1294
1295 #endif  /* WITH_CONTENT_SCAN */
1296
1297
1298
1299 void
1300 received_header_gen(void)
1301 {
1302 uschar *received;
1303 uschar *timestamp;
1304 header_line *received_header= header_list;
1305
1306 timestamp = expand_string(US"${tod_full}");
1307 if (recipients_count == 1) received_for = recipients_list[0].address;
1308 received = expand_string(received_header_text);
1309 received_for = NULL;
1310
1311 if (received == NULL)
1312   {
1313   if(spool_name[0] != 0)
1314     Uunlink(spool_name);           /* Lose the data file */
1315   log_write(0, LOG_MAIN|LOG_PANIC_DIE, "Expansion of \"%s\" "
1316     "(received_header_text) failed: %s", string_printing(received_header_text),
1317       expand_string_message);
1318   }
1319
1320 /* The first element on the header chain is reserved for the Received header,
1321 so all we have to do is fill in the text pointer, and set the type. However, if
1322 the result of the expansion is an empty string, we leave the header marked as
1323 "old" so as to refrain from adding a Received header. */
1324
1325 if (received[0] == 0)
1326   {
1327   received_header->text = string_sprintf("Received: ; %s\n", timestamp);
1328   received_header->type = htype_old;
1329   }
1330 else
1331   {
1332   received_header->text = string_sprintf("%s; %s\n", received, timestamp);
1333   received_header->type = htype_received;
1334   }
1335
1336 received_header->slen = Ustrlen(received_header->text);
1337
1338 DEBUG(D_receive) debug_printf(">>Generated Received: header line\n%c %s",
1339   received_header->type, received_header->text);
1340 }
1341
1342
1343
1344 /*************************************************
1345 *                 Receive message                *
1346 *************************************************/
1347
1348 /* Receive a message on the given input, and put it into a pair of spool files.
1349 Either a non-null list of recipients, or the extract flag will be true, or
1350 both. The flag sender_local is true for locally generated messages. The flag
1351 submission_mode is true if an ACL has obeyed "control = submission". The flag
1352 suppress_local_fixups is true if an ACL has obeyed "control =
1353 suppress_local_fixups" or -G was passed on the command-line.
1354 The flag smtp_input is true if the message is to be
1355 handled using SMTP conventions about termination and lines starting with dots.
1356 For non-SMTP messages, dot_ends is true for dot-terminated messages.
1357
1358 If a message was successfully read, message_id[0] will be non-zero.
1359
1360 The general actions of this function are:
1361
1362   . Read the headers of the message (if any) into a chain of store
1363     blocks.
1364
1365   . If there is a "sender:" header and the message is locally originated,
1366     throw it away, unless the caller is trusted, or unless
1367     active_local_sender_retain is set - which can only happen if
1368     active_local_from_check is false.
1369
1370   . If recipients are to be extracted from the message, build the
1371     recipients list from the headers, removing any that were on the
1372     original recipients list (unless extract_addresses_remove_arguments is
1373     false), and at the same time, remove any bcc header that may be present.
1374
1375   . Get the spool file for the data, sort out its unique name, open
1376     and lock it (but don't give it the name yet).
1377
1378   . Generate a "Message-Id" header if the message doesn't have one, for
1379     locally-originated messages.
1380
1381   . Generate a "Received" header.
1382
1383   . Ensure the recipients list is fully qualified and rewritten if necessary.
1384
1385   . If there are any rewriting rules, apply them to the sender address
1386     and also to the headers.
1387
1388   . If there is no from: header, generate one, for locally-generated messages
1389     and messages in "submission mode" only.
1390
1391   . If the sender is local, check that from: is correct, and if not, generate
1392     a Sender: header, unless message comes from a trusted caller, or this
1393     feature is disabled by active_local_from_check being false.
1394
1395   . If there is no "date" header, generate one, for locally-originated
1396     or submission mode messages only.
1397
1398   . Copy the rest of the input, or up to a terminating "." if in SMTP or
1399     dot_ends mode, to the data file. Leave it open, to hold the lock.
1400
1401   . Write the envelope and the headers to a new file.
1402
1403   . Set the name for the header file; close it.
1404
1405   . Set the name for the data file; close it.
1406
1407 Because this function can potentially be called many times in a single
1408 SMTP connection, all store should be got by store_get(), so that it will be
1409 automatically retrieved after the message is accepted.
1410
1411 FUDGE: It seems that sites on the net send out messages with just LF
1412 terminators, despite the warnings in the RFCs, and other MTAs handle this. So
1413 we make the CRs optional in all cases.
1414
1415 July 2003: Bare CRs in messages, especially in header lines, cause trouble. A
1416 new regime is now in place in which bare CRs in header lines are turned into LF
1417 followed by a space, so as not to terminate the header line.
1418
1419 February 2004: A bare LF in a header line in a message whose first line was
1420 terminated by CRLF is treated in the same way as a bare CR.
1421
1422 Arguments:
1423   extract_recip  TRUE if recipients are to be extracted from the message's
1424                    headers
1425
1426 Returns:  TRUE   there are more messages to be read (SMTP input)
1427           FALSE  there are no more messages to be read (non-SMTP input
1428                  or SMTP connection collapsed, or other failure)
1429
1430 When reading a message for filter testing, the returned value indicates
1431 whether the headers (which is all that is read) were terminated by '.' or
1432 not. */
1433
1434 BOOL
1435 receive_msg(BOOL extract_recip)
1436 {
1437 int  i;
1438 int  rc = FAIL;
1439 int  msg_size = 0;
1440 int  process_info_len = Ustrlen(process_info);
1441 int  error_rc = (error_handling == ERRORS_SENDER)?
1442        errors_sender_rc : EXIT_FAILURE;
1443 int  header_size = 256;
1444 int  start, end, domain, size, sptr;
1445 int  id_resolution;
1446 int  had_zero = 0;
1447 int  prevlines_length = 0;
1448
1449 register int ptr = 0;
1450
1451 BOOL contains_resent_headers = FALSE;
1452 BOOL extracted_ignored = FALSE;
1453 BOOL first_line_ended_crlf = TRUE_UNSET;
1454 BOOL smtp_yield = TRUE;
1455 BOOL yield = FALSE;
1456
1457 BOOL resents_exist = FALSE;
1458 uschar *resent_prefix = US"";
1459 uschar *blackholed_by = NULL;
1460 uschar *blackhole_log_msg = US"";
1461 enum {NOT_TRIED, TMP_REJ, PERM_REJ, ACCEPTED} cutthrough_done = NOT_TRIED;
1462
1463 flock_t lock_data;
1464 error_block *bad_addresses = NULL;
1465
1466 uschar *frozen_by = NULL;
1467 uschar *queued_by = NULL;
1468
1469 uschar *errmsg, *s;
1470 struct stat statbuf;
1471
1472 /* Final message to give to SMTP caller, and messages from ACLs */
1473
1474 uschar *smtp_reply = NULL;
1475 uschar *user_msg, *log_msg;
1476
1477 /* Working header pointers */
1478
1479 header_line *h, *next;
1480
1481 /* Flags for noting the existence of certain headers (only one left) */
1482
1483 BOOL date_header_exists = FALSE;
1484
1485 /* Pointers to receive the addresses of headers whose contents we need. */
1486
1487 header_line *from_header = NULL;
1488 header_line *subject_header = NULL;
1489 header_line *msgid_header = NULL;
1490 header_line *received_header;
1491
1492 #ifdef EXPERIMENTAL_DMARC
1493 int dmarc_up = 0;
1494 #endif /* EXPERIMENTAL_DMARC */
1495
1496 /* Variables for use when building the Received: header. */
1497
1498 uschar *timestamp;
1499 int tslen;
1500
1501 /* Release any open files that might have been cached while preparing to
1502 accept the message - e.g. by verifying addresses - because reading a message
1503 might take a fair bit of real time. */
1504
1505 search_tidyup();
1506
1507 /* Extracting the recipient list from an input file is incompatible with
1508 cutthrough delivery with the no-spool option.  It shouldn't be possible
1509 to set up the combination, but just in case kill any ongoing connection. */
1510 if (extract_recip || !smtp_input)
1511   cancel_cutthrough_connection("not smtp input");
1512
1513 /* Initialize the chain of headers by setting up a place-holder for Received:
1514 header. Temporarily mark it as "old", i.e. not to be used. We keep header_last
1515 pointing to the end of the chain to make adding headers simple. */
1516
1517 received_header = header_list = header_last = store_get(sizeof(header_line));
1518 header_list->next = NULL;
1519 header_list->type = htype_old;
1520 header_list->text = NULL;
1521 header_list->slen = 0;
1522
1523 /* Control block for the next header to be read. */
1524
1525 next = store_get(sizeof(header_line));
1526 next->text = store_get(header_size);
1527
1528 /* Initialize message id to be null (indicating no message read), and the
1529 header names list to be the normal list. Indicate there is no data file open
1530 yet, initialize the size and warning count, and deal with no size limit. */
1531
1532 message_id[0] = 0;
1533 data_file = NULL;
1534 data_fd = -1;
1535 spool_name[0] = 0;
1536 message_size = 0;
1537 warning_count = 0;
1538 received_count = 1;            /* For the one we will add */
1539
1540 if (thismessage_size_limit <= 0) thismessage_size_limit = INT_MAX;
1541
1542 /* While reading the message, the following counts are computed. */
1543
1544 message_linecount = body_linecount = body_zerocount =
1545   max_received_linelength = 0;
1546
1547 #ifndef DISABLE_DKIM
1548 /* Call into DKIM to set up the context. */
1549 if (smtp_input && !smtp_batched_input && !dkim_disable_verify) dkim_exim_verify_init();
1550 #endif
1551
1552 #ifdef EXPERIMENTAL_DMARC
1553 /* initialize libopendmarc */
1554 dmarc_up = dmarc_init();
1555 #endif
1556
1557 /* Remember the time of reception. Exim uses time+pid for uniqueness of message
1558 ids, and fractions of a second are required. See the comments that precede the
1559 message id creation below. */
1560
1561 (void)gettimeofday(&message_id_tv, NULL);
1562
1563 /* For other uses of the received time we can operate with granularity of one
1564 second, and for that we use the global variable received_time. This is for
1565 things like ultimate message timeouts. */
1566
1567 received_time = message_id_tv.tv_sec;
1568
1569 /* If SMTP input, set the special handler for timeouts. The alarm() calls
1570 happen in the smtp_getc() function when it refills its buffer. */
1571
1572 if (smtp_input) os_non_restarting_signal(SIGALRM, data_timeout_handler);
1573
1574 /* If not SMTP input, timeout happens only if configured, and we just set a
1575 single timeout for the whole message. */
1576
1577 else if (receive_timeout > 0)
1578   {
1579   os_non_restarting_signal(SIGALRM, data_timeout_handler);
1580   alarm(receive_timeout);
1581   }
1582
1583 /* SIGTERM and SIGINT are caught always. */
1584
1585 signal(SIGTERM, data_sigterm_sigint_handler);
1586 signal(SIGINT, data_sigterm_sigint_handler);
1587
1588 /* Header lines in messages are not supposed to be very long, though when
1589 unfolded, to: and cc: headers can take up a lot of store. We must also cope
1590 with the possibility of junk being thrown at us. Start by getting 256 bytes for
1591 storing the header, and extend this as necessary using string_cat().
1592
1593 To cope with total lunacies, impose an upper limit on the length of the header
1594 section of the message, as otherwise the store will fill up. We must also cope
1595 with the possibility of binary zeros in the data. Hence we cannot use fgets().
1596 Folded header lines are joined into one string, leaving the '\n' characters
1597 inside them, so that writing them out reproduces the input.
1598
1599 Loop for each character of each header; the next structure for chaining the
1600 header is set up already, with ptr the offset of the next character in
1601 next->text. */
1602
1603 for (;;)
1604   {
1605   int ch = (receive_getc)();
1606
1607   /* If we hit EOF on a SMTP connection, it's an error, since incoming
1608   SMTP must have a correct "." terminator. */
1609
1610   if (ch == EOF && smtp_input /* && !smtp_batched_input */)
1611     {
1612     smtp_reply = handle_lost_connection(US" (header)");
1613     smtp_yield = FALSE;
1614     goto TIDYUP;                       /* Skip to end of function */
1615     }
1616
1617   /* See if we are at the current header's size limit - there must be at least
1618   four bytes left. This allows for the new character plus a zero, plus two for
1619   extra insertions when we are playing games with dots and carriage returns. If
1620   we are at the limit, extend the text buffer. This could have been done
1621   automatically using string_cat() but because this is a tightish loop storing
1622   only one character at a time, we choose to do it inline. Normally
1623   store_extend() will be able to extend the block; only at the end of a big
1624   store block will a copy be needed. To handle the case of very long headers
1625   (and sometimes lunatic messages can have ones that are 100s of K long) we
1626   call store_release() for strings that have been copied - if the string is at
1627   the start of a block (and therefore the only thing in it, because we aren't
1628   doing any other gets), the block gets freed. We can only do this because we
1629   know there are no other calls to store_get() going on. */
1630
1631   if (ptr >= header_size - 4)
1632     {
1633     int oldsize = header_size;
1634     /* header_size += 256; */
1635     header_size *= 2;
1636     if (!store_extend(next->text, oldsize, header_size))
1637       {
1638       uschar *newtext = store_get(header_size);
1639       memcpy(newtext, next->text, ptr);
1640       store_release(next->text);
1641       next->text = newtext;
1642       }
1643     }
1644
1645   /* Cope with receiving a binary zero. There is dispute about whether
1646   these should be allowed in RFC 822 messages. The middle view is that they
1647   should not be allowed in headers, at least. Exim takes this attitude at
1648   the moment. We can't just stomp on them here, because we don't know that
1649   this line is a header yet. Set a flag to cause scanning later. */
1650
1651   if (ch == 0) had_zero++;
1652
1653   /* Test for termination. Lines in remote SMTP are terminated by CRLF, while
1654   those from data files use just LF. Treat LF in local SMTP input as a
1655   terminator too. Treat EOF as a line terminator always. */
1656
1657   if (ch == EOF) goto EOL;
1658
1659   /* FUDGE: There are sites out there that don't send CRs before their LFs, and
1660   other MTAs accept this. We are therefore forced into this "liberalisation"
1661   too, so we accept LF as a line terminator whatever the source of the message.
1662   However, if the first line of the message ended with a CRLF, we treat a bare
1663   LF specially by inserting a white space after it to ensure that the header
1664   line is not terminated. */
1665
1666   if (ch == '\n')
1667     {
1668     if (first_line_ended_crlf == TRUE_UNSET) first_line_ended_crlf = FALSE;
1669       else if (first_line_ended_crlf) receive_ungetc(' ');
1670     goto EOL;
1671     }
1672
1673   /* This is not the end of the line. If this is SMTP input and this is
1674   the first character in the line and it is a "." character, ignore it.
1675   This implements the dot-doubling rule, though header lines starting with
1676   dots aren't exactly common. They are legal in RFC 822, though. If the
1677   following is CRLF or LF, this is the line that that terminates the
1678   entire message. We set message_ended to indicate this has happened (to
1679   prevent further reading), and break out of the loop, having freed the
1680   empty header, and set next = NULL to indicate no data line. */
1681
1682   if (ptr == 0 && ch == '.' && (smtp_input || dot_ends))
1683     {
1684     ch = (receive_getc)();
1685     if (ch == '\r')
1686       {
1687       ch = (receive_getc)();
1688       if (ch != '\n')
1689         {
1690         receive_ungetc(ch);
1691         ch = '\r';              /* Revert to CR */
1692         }
1693       }
1694     if (ch == '\n')
1695       {
1696       message_ended = END_DOT;
1697       store_reset(next);
1698       next = NULL;
1699       break;                    /* End character-reading loop */
1700       }
1701
1702     /* For non-SMTP input, the dot at the start of the line was really a data
1703     character. What is now in ch is the following character. We guaranteed
1704     enough space for this above. */
1705
1706     if (!smtp_input)
1707       {
1708       next->text[ptr++] = '.';
1709       message_size++;
1710       }
1711     }
1712
1713   /* If CR is immediately followed by LF, end the line, ignoring the CR, and
1714   remember this case if this is the first line ending. */
1715
1716   if (ch == '\r')
1717     {
1718     ch = (receive_getc)();
1719     if (ch == '\n')
1720       {
1721       if (first_line_ended_crlf == TRUE_UNSET) first_line_ended_crlf = TRUE;
1722       goto EOL;
1723       }
1724
1725     /* Otherwise, put back the character after CR, and turn the bare CR
1726     into LF SP. */
1727
1728     ch = (receive_ungetc)(ch);
1729     next->text[ptr++] = '\n';
1730     message_size++;
1731     ch = ' ';
1732     }
1733
1734   /* We have a data character for the header line. */
1735
1736   next->text[ptr++] = ch;    /* Add to buffer */
1737   message_size++;            /* Total message size so far */
1738
1739   /* Handle failure due to a humungously long header section. The >= allows
1740   for the terminating \n. Add what we have so far onto the headers list so
1741   that it gets reflected in any error message, and back up the just-read
1742   character. */
1743
1744   if (message_size >= header_maxsize)
1745     {
1746     next->text[ptr] = 0;
1747     next->slen = ptr;
1748     next->type = htype_other;
1749     next->next = NULL;
1750     header_last->next = next;
1751     header_last = next;
1752
1753     log_write(0, LOG_MAIN, "ridiculously long message header received from "
1754       "%s (more than %d characters): message abandoned",
1755       sender_host_unknown? sender_ident : sender_fullhost, header_maxsize);
1756
1757     if (smtp_input)
1758       {
1759       smtp_reply = US"552 Message header is ridiculously long";
1760       receive_swallow_smtp();
1761       goto TIDYUP;                             /* Skip to end of function */
1762       }
1763
1764     else
1765       {
1766       give_local_error(ERRMESS_VLONGHEADER,
1767         string_sprintf("message header longer than %d characters received: "
1768          "message not accepted", header_maxsize), US"", error_rc, stdin,
1769            header_list->next);
1770       /* Does not return */
1771       }
1772     }
1773
1774   continue;                  /* With next input character */
1775
1776   /* End of header line reached */
1777
1778   EOL:
1779
1780   /* Keep track of lines for BSMTP errors and overall message_linecount. */
1781
1782   receive_linecount++;
1783   message_linecount++;
1784
1785   /* Keep track of maximum line length */
1786
1787   if (ptr - prevlines_length > max_received_linelength)
1788     max_received_linelength = ptr - prevlines_length;
1789   prevlines_length = ptr + 1;
1790
1791   /* Now put in the terminating newline. There is always space for
1792   at least two more characters. */
1793
1794   next->text[ptr++] = '\n';
1795   message_size++;
1796
1797   /* A blank line signals the end of the headers; release the unwanted
1798   space and set next to NULL to indicate this. */
1799
1800   if (ptr == 1)
1801     {
1802     store_reset(next);
1803     next = NULL;
1804     break;
1805     }
1806
1807   /* There is data in the line; see if the next input character is a
1808   whitespace character. If it is, we have a continuation of this header line.
1809   There is always space for at least one character at this point. */
1810
1811   if (ch != EOF)
1812     {
1813     int nextch = (receive_getc)();
1814     if (nextch == ' ' || nextch == '\t')
1815       {
1816       next->text[ptr++] = nextch;
1817       message_size++;
1818       continue;                      /* Iterate the loop */
1819       }
1820     else if (nextch != EOF) (receive_ungetc)(nextch);   /* For next time */
1821     else ch = EOF;                   /* Cause main loop to exit at end */
1822     }
1823
1824   /* We have got to the real line end. Terminate the string and release store
1825   beyond it. If it turns out to be a real header, internal binary zeros will
1826   be squashed later. */
1827
1828   next->text[ptr] = 0;
1829   next->slen = ptr;
1830   store_reset(next->text + ptr + 1);
1831
1832   /* Check the running total size against the overall message size limit. We
1833   don't expect to fail here, but if the overall limit is set less than MESSAGE_
1834   MAXSIZE and a big header is sent, we want to catch it. Just stop reading
1835   headers - the code to read the body will then also hit the buffer. */
1836
1837   if (message_size > thismessage_size_limit) break;
1838
1839   /* A line that is not syntactically correct for a header also marks
1840   the end of the headers. In this case, we leave next containing the
1841   first data line. This might actually be several lines because of the
1842   continuation logic applied above, but that doesn't matter.
1843
1844   It turns out that smail, and presumably sendmail, accept leading lines
1845   of the form
1846
1847   From ph10 Fri Jan  5 12:35 GMT 1996
1848
1849   in messages. The "mail" command on Solaris 2 sends such lines. I cannot
1850   find any documentation of this, but for compatibility it had better be
1851   accepted. Exim restricts it to the case of non-smtp messages, and
1852   treats it as an alternative to the -f command line option. Thus it is
1853   ignored except for trusted users or filter testing. Otherwise it is taken
1854   as the sender address, unless -f was used (sendmail compatibility).
1855
1856   It further turns out that some UUCPs generate the From_line in a different
1857   format, e.g.
1858
1859   From ph10 Fri, 7 Jan 97 14:00:00 GMT
1860
1861   The regex for matching these things is now capable of recognizing both
1862   formats (including 2- and 4-digit years in the latter). In fact, the regex
1863   is now configurable, as is the expansion string to fish out the sender.
1864
1865   Even further on it has been discovered that some broken clients send
1866   these lines in SMTP messages. There is now an option to ignore them from
1867   specified hosts or networks. Sigh. */
1868
1869   if (header_last == header_list &&
1870        (!smtp_input
1871          ||
1872          (sender_host_address != NULL &&
1873            verify_check_host(&ignore_fromline_hosts) == OK)
1874          ||
1875          (sender_host_address == NULL && ignore_fromline_local)
1876        ) &&
1877        regex_match_and_setup(regex_From, next->text, 0, -1))
1878     {
1879     if (!sender_address_forced)
1880       {
1881       uschar *uucp_sender = expand_string(uucp_from_sender);
1882       if (uucp_sender == NULL)
1883         {
1884         log_write(0, LOG_MAIN|LOG_PANIC,
1885           "expansion of \"%s\" failed after matching "
1886           "\"From \" line: %s", uucp_from_sender, expand_string_message);
1887         }
1888       else
1889         {
1890         int start, end, domain;
1891         uschar *errmess;
1892         uschar *newsender = parse_extract_address(uucp_sender, &errmess,
1893           &start, &end, &domain, TRUE);
1894         if (newsender != NULL)
1895           {
1896           if (domain == 0 && newsender[0] != 0)
1897             newsender = rewrite_address_qualify(newsender, FALSE);
1898
1899           if (filter_test != FTEST_NONE || receive_check_set_sender(newsender))
1900             {
1901             sender_address = newsender;
1902
1903             if (trusted_caller || filter_test != FTEST_NONE)
1904               {
1905               authenticated_sender = NULL;
1906               originator_name = US"";
1907               sender_local = FALSE;
1908               }
1909
1910             if (filter_test != FTEST_NONE)
1911               printf("Sender taken from \"From \" line\n");
1912             }
1913           }
1914         }
1915       }
1916     }
1917
1918   /* Not a leading "From " line. Check to see if it is a valid header line.
1919   Header names may contain any non-control characters except space and colon,
1920   amazingly. */
1921
1922   else
1923     {
1924     uschar *p = next->text;
1925
1926     /* If not a valid header line, break from the header reading loop, leaving
1927     next != NULL, indicating that it holds the first line of the body. */
1928
1929     if (isspace(*p)) break;
1930     while (mac_isgraph(*p) && *p != ':') p++;
1931     while (isspace(*p)) p++;
1932     if (*p != ':')
1933       {
1934       body_zerocount = had_zero;
1935       break;
1936       }
1937
1938     /* We have a valid header line. If there were any binary zeroes in
1939     the line, stomp on them here. */
1940
1941     if (had_zero > 0)
1942       for (p = next->text; p < next->text + ptr; p++) if (*p == 0) *p = '?';
1943
1944     /* It is perfectly legal to have an empty continuation line
1945     at the end of a header, but it is confusing to humans
1946     looking at such messages, since it looks like a blank line.
1947     Reduce confusion by removing redundant white space at the
1948     end. We know that there is at least one printing character
1949     (the ':' tested for above) so there is no danger of running
1950     off the end. */
1951
1952     p = next->text + ptr - 2;
1953     for (;;)
1954       {
1955       while (*p == ' ' || *p == '\t') p--;
1956       if (*p != '\n') break;
1957       ptr = (p--) - next->text + 1;
1958       message_size -= next->slen - ptr;
1959       next->text[ptr] = 0;
1960       next->slen = ptr;
1961       }
1962
1963     /* Add the header to the chain */
1964
1965     next->type = htype_other;
1966     next->next = NULL;
1967     header_last->next = next;
1968     header_last = next;
1969
1970     /* Check the limit for individual line lengths. This comes after adding to
1971     the chain so that the failing line is reflected if a bounce is generated
1972     (for a local message). */
1973
1974     if (header_line_maxsize > 0 && next->slen > header_line_maxsize)
1975       {
1976       log_write(0, LOG_MAIN, "overlong message header line received from "
1977         "%s (more than %d characters): message abandoned",
1978         sender_host_unknown? sender_ident : sender_fullhost,
1979         header_line_maxsize);
1980
1981       if (smtp_input)
1982         {
1983         smtp_reply = US"552 A message header line is too long";
1984         receive_swallow_smtp();
1985         goto TIDYUP;                             /* Skip to end of function */
1986         }
1987
1988       else
1989         {
1990         give_local_error(ERRMESS_VLONGHDRLINE,
1991           string_sprintf("message header line longer than %d characters "
1992            "received: message not accepted", header_line_maxsize), US"",
1993            error_rc, stdin, header_list->next);
1994         /* Does not return */
1995         }
1996       }
1997
1998     /* Note if any resent- fields exist. */
1999
2000     if (!resents_exist && strncmpic(next->text, US"resent-", 7) == 0)
2001       {
2002       resents_exist = TRUE;
2003       resent_prefix = US"Resent-";
2004       }
2005     }
2006
2007   /* The line has been handled. If we have hit EOF, break out of the loop,
2008   indicating no pending data line. */
2009
2010   if (ch == EOF) { next = NULL; break; }
2011
2012   /* Set up for the next header */
2013
2014   header_size = 256;
2015   next = store_get(sizeof(header_line));
2016   next->text = store_get(header_size);
2017   ptr = 0;
2018   had_zero = 0;
2019   prevlines_length = 0;
2020   }      /* Continue, starting to read the next header */
2021
2022 /* At this point, we have read all the headers into a data structure in main
2023 store. The first header is still the dummy placeholder for the Received: header
2024 we are going to generate a bit later on. If next != NULL, it contains the first
2025 data line - which terminated the headers before reaching a blank line (not the
2026 normal case). */
2027
2028 DEBUG(D_receive)
2029   {
2030   debug_printf(">>Headers received:\n");
2031   for (h = header_list->next; h != NULL; h = h->next)
2032     debug_printf("%s", h->text);
2033   debug_printf("\n");
2034   }
2035
2036 /* End of file on any SMTP connection is an error. If an incoming SMTP call
2037 is dropped immediately after valid headers, the next thing we will see is EOF.
2038 We must test for this specially, as further down the reading of the data is
2039 skipped if already at EOF. */
2040
2041 if (smtp_input && (receive_feof)())
2042   {
2043   smtp_reply = handle_lost_connection(US" (after header)");
2044   smtp_yield = FALSE;
2045   goto TIDYUP;                       /* Skip to end of function */
2046   }
2047
2048 /* If this is a filter test run and no headers were read, output a warning
2049 in case there is a mistake in the test message. */
2050
2051 if (filter_test != FTEST_NONE && header_list->next == NULL)
2052   printf("Warning: no message headers read\n");
2053
2054
2055 /* Scan the headers to identify them. Some are merely marked for later
2056 processing; some are dealt with here. */
2057
2058 for (h = header_list->next; h != NULL; h = h->next)
2059   {
2060   BOOL is_resent = strncmpic(h->text, US"resent-", 7) == 0;
2061   if (is_resent) contains_resent_headers = TRUE;
2062
2063   switch (header_checkname(h, is_resent))
2064     {
2065     case htype_bcc:
2066     h->type = htype_bcc;        /* Both Bcc: and Resent-Bcc: */
2067     break;
2068
2069     case htype_cc:
2070     h->type = htype_cc;         /* Both Cc: and Resent-Cc: */
2071     break;
2072
2073     /* Record whether a Date: or Resent-Date: header exists, as appropriate. */
2074
2075     case htype_date:
2076     if (!resents_exist || is_resent) date_header_exists = TRUE;
2077     break;
2078
2079     /* Same comments as about Return-Path: below. */
2080
2081     case htype_delivery_date:
2082     if (delivery_date_remove) h->type = htype_old;
2083     break;
2084
2085     /* Same comments as about Return-Path: below. */
2086
2087     case htype_envelope_to:
2088     if (envelope_to_remove) h->type = htype_old;
2089     break;
2090
2091     /* Mark all "From:" headers so they get rewritten. Save the one that is to
2092     be used for Sender: checking. For Sendmail compatibility, if the "From:"
2093     header consists of just the login id of the user who called Exim, rewrite
2094     it with the gecos field first. Apply this rule to Resent-From: if there
2095     are resent- fields. */
2096
2097     case htype_from:
2098     h->type = htype_from;
2099     if (!resents_exist || is_resent)
2100       {
2101       from_header = h;
2102       if (!smtp_input)
2103         {
2104         int len;
2105         uschar *s = Ustrchr(h->text, ':') + 1;
2106         while (isspace(*s)) s++;
2107         len = h->slen - (s - h->text) - 1;
2108         if (Ustrlen(originator_login) == len &&
2109             strncmpic(s, originator_login, len) == 0)
2110           {
2111           uschar *name = is_resent? US"Resent-From" : US"From";
2112           header_add(htype_from, "%s: %s <%s@%s>\n", name, originator_name,
2113             originator_login, qualify_domain_sender);
2114           from_header = header_last;
2115           h->type = htype_old;
2116           DEBUG(D_receive|D_rewrite)
2117             debug_printf("rewrote \"%s:\" header using gecos\n", name);
2118          }
2119         }
2120       }
2121     break;
2122
2123     /* Identify the Message-id: header for generating "in-reply-to" in the
2124     autoreply transport. For incoming logging, save any resent- value. In both
2125     cases, take just the first of any multiples. */
2126
2127     case htype_id:
2128     if (msgid_header == NULL && (!resents_exist || is_resent))
2129       {
2130       msgid_header = h;
2131       h->type = htype_id;
2132       }
2133     break;
2134
2135     /* Flag all Received: headers */
2136
2137     case htype_received:
2138     h->type = htype_received;
2139     received_count++;
2140     break;
2141
2142     /* "Reply-to:" is just noted (there is no resent-reply-to field) */
2143
2144     case htype_reply_to:
2145     h->type = htype_reply_to;
2146     break;
2147
2148     /* The Return-path: header is supposed to be added to messages when
2149     they leave the SMTP system. We shouldn't receive messages that already
2150     contain Return-path. However, since Exim generates Return-path: on
2151     local delivery, resent messages may well contain it. We therefore
2152     provide an option (which defaults on) to remove any Return-path: headers
2153     on input. Removal actually means flagging as "old", which prevents the
2154     header being transmitted with the message. */
2155
2156     case htype_return_path:
2157     if (return_path_remove) h->type = htype_old;
2158
2159     /* If we are testing a mail filter file, use the value of the
2160     Return-Path: header to set up the return_path variable, which is not
2161     otherwise set. However, remove any <> that surround the address
2162     because the variable doesn't have these. */
2163
2164     if (filter_test != FTEST_NONE)
2165       {
2166       uschar *start = h->text + 12;
2167       uschar *end = start + Ustrlen(start);
2168       while (isspace(*start)) start++;
2169       while (end > start && isspace(end[-1])) end--;
2170       if (*start == '<' && end[-1] == '>')
2171         {
2172         start++;
2173         end--;
2174         }
2175       return_path = string_copyn(start, end - start);
2176       printf("Return-path taken from \"Return-path:\" header line\n");
2177       }
2178     break;
2179
2180     /* If there is a "Sender:" header and the message is locally originated,
2181     and from an untrusted caller and suppress_local_fixups is not set, or if we
2182     are in submission mode for a remote message, mark it "old" so that it will
2183     not be transmitted with the message, unless active_local_sender_retain is
2184     set. (This can only be true if active_local_from_check is false.) If there
2185     are any resent- headers in the message, apply this rule to Resent-Sender:
2186     instead of Sender:. Messages with multiple resent- header sets cannot be
2187     tidily handled. (For this reason, at least one MUA - Pine - turns old
2188     resent- headers into X-resent- headers when resending, leaving just one
2189     set.) */
2190
2191     case htype_sender:
2192     h->type = ((!active_local_sender_retain &&
2193                 (
2194                 (sender_local && !trusted_caller && !suppress_local_fixups)
2195                   || submission_mode
2196                 )
2197                ) &&
2198                (!resents_exist||is_resent))?
2199       htype_old : htype_sender;
2200     break;
2201
2202     /* Remember the Subject: header for logging. There is no Resent-Subject */
2203
2204     case htype_subject:
2205     subject_header = h;
2206     break;
2207
2208     /* "To:" gets flagged, and the existence of a recipient header is noted,
2209     whether it's resent- or not. */
2210
2211     case htype_to:
2212     h->type = htype_to;
2213     /****
2214     to_or_cc_header_exists = TRUE;
2215     ****/
2216     break;
2217     }
2218   }
2219
2220 /* Extract recipients from the headers if that is required (the -t option).
2221 Note that this is documented as being done *before* any address rewriting takes
2222 place. There are two possibilities:
2223
2224 (1) According to sendmail documentation for Solaris, IRIX, and HP-UX, any
2225 recipients already listed are to be REMOVED from the message. Smail 3 works
2226 like this. We need to build a non-recipients tree for that list, because in
2227 subsequent processing this data is held in a tree and that's what the
2228 spool_write_header() function expects. Make sure that non-recipient addresses
2229 are fully qualified and rewritten if necessary.
2230
2231 (2) According to other sendmail documentation, -t ADDS extracted recipients to
2232 those in the command line arguments (and it is rumoured some other MTAs do
2233 this). Therefore, there is an option to make Exim behave this way.
2234
2235 *** Notes on "Resent-" header lines ***
2236
2237 The presence of resent-headers in the message makes -t horribly ambiguous.
2238 Experiments with sendmail showed that it uses recipients for all resent-
2239 headers, totally ignoring the concept of "sets of resent- headers" as described
2240 in RFC 2822 section 3.6.6. Sendmail also amalgamates them into a single set
2241 with all the addresses in one instance of each header.
2242
2243 This seems to me not to be at all sensible. Before release 4.20, Exim 4 gave an
2244 error for -t if there were resent- headers in the message. However, after a
2245 discussion on the mailing list, I've learned that there are MUAs that use
2246 resent- headers with -t, and also that the stuff about sets of resent- headers
2247 and their ordering in RFC 2822 is generally ignored. An MUA that submits a
2248 message with -t and resent- header lines makes sure that only *its* resent-
2249 headers are present; previous ones are often renamed as X-resent- for example.
2250
2251 Consequently, Exim has been changed so that, if any resent- header lines are
2252 present, the recipients are taken from all of the appropriate resent- lines,
2253 and not from the ordinary To:, Cc:, etc. */
2254
2255 if (extract_recip)
2256   {
2257   int rcount = 0;
2258   error_block **bnext = &bad_addresses;
2259
2260   if (extract_addresses_remove_arguments)
2261     {
2262     while (recipients_count-- > 0)
2263       {
2264       uschar *s = rewrite_address(recipients_list[recipients_count].address,
2265         TRUE, TRUE, global_rewrite_rules, rewrite_existflags);
2266       tree_add_nonrecipient(s);
2267       }
2268     recipients_list = NULL;
2269     recipients_count = recipients_list_max = 0;
2270     }
2271
2272   /* Now scan the headers */
2273
2274   for (h = header_list->next; h != NULL; h = h->next)
2275     {
2276     if ((h->type == htype_to || h->type == htype_cc || h->type == htype_bcc) &&
2277         (!contains_resent_headers || strncmpic(h->text, US"resent-", 7) == 0))
2278       {
2279       uschar *s = Ustrchr(h->text, ':') + 1;
2280       while (isspace(*s)) s++;
2281
2282       parse_allow_group = TRUE;          /* Allow address group syntax */
2283
2284       while (*s != 0)
2285         {
2286         uschar *ss = parse_find_address_end(s, FALSE);
2287         uschar *recipient, *errmess, *p, *pp;
2288         int start, end, domain;
2289
2290         /* Check on maximum */
2291
2292         if (recipients_max > 0 && ++rcount > recipients_max)
2293           {
2294           give_local_error(ERRMESS_TOOMANYRECIP, US"too many recipients",
2295             US"message rejected: ", error_rc, stdin, NULL);
2296           /* Does not return */
2297           }
2298
2299         /* Make a copy of the address, and remove any internal newlines. These
2300         may be present as a result of continuations of the header line. The
2301         white space that follows the newline must not be removed - it is part
2302         of the header. */
2303
2304         pp = recipient = store_get(ss - s + 1);
2305         for (p = s; p < ss; p++) if (*p != '\n') *pp++ = *p;
2306         *pp = 0;
2307
2308 #ifdef SUPPORT_I18N
2309         {
2310         BOOL b = allow_utf8_domains;
2311         allow_utf8_domains = TRUE;
2312 #endif
2313         recipient = parse_extract_address(recipient, &errmess, &start, &end,
2314           &domain, FALSE);
2315
2316 #ifdef SUPPORT_I18N
2317         if (string_is_utf8(recipient))
2318           message_smtputf8 = TRUE;
2319         else
2320           allow_utf8_domains = b;
2321         }
2322 #endif
2323
2324         /* Keep a list of all the bad addresses so we can send a single
2325         error message at the end. However, an empty address is not an error;
2326         just ignore it. This can come from an empty group list like
2327
2328           To: Recipients of list:;
2329
2330         If there are no recipients at all, an error will occur later. */
2331
2332         if (recipient == NULL && Ustrcmp(errmess, "empty address") != 0)
2333           {
2334           int len = Ustrlen(s);
2335           error_block *b = store_get(sizeof(error_block));
2336           while (len > 0 && isspace(s[len-1])) len--;
2337           b->next = NULL;
2338           b->text1 = string_printing(string_copyn(s, len));
2339           b->text2 = errmess;
2340           *bnext = b;
2341           bnext = &(b->next);
2342           }
2343
2344         /* If the recipient is already in the nonrecipients tree, it must
2345         have appeared on the command line with the option extract_addresses_
2346         remove_arguments set. Do not add it to the recipients, and keep a note
2347         that this has happened, in order to give a better error if there are
2348         no recipients left. */
2349
2350         else if (recipient != NULL)
2351           {
2352           if (tree_search(tree_nonrecipients, recipient) == NULL)
2353             receive_add_recipient(recipient, -1);
2354           else
2355             extracted_ignored = TRUE;
2356           }
2357
2358         /* Move on past this address */
2359
2360         s = ss + (*ss? 1:0);
2361         while (isspace(*s)) s++;
2362         }    /* Next address */
2363
2364       parse_allow_group = FALSE;      /* Reset group syntax flags */
2365       parse_found_group = FALSE;
2366
2367       /* If this was the bcc: header, mark it "old", which means it
2368       will be kept on the spool, but not transmitted as part of the
2369       message. */
2370
2371       if (h->type == htype_bcc) h->type = htype_old;
2372       }   /* For appropriate header line */
2373     }     /* For each header line */
2374
2375   }
2376
2377 /* Now build the unique message id. This has changed several times over the
2378 lifetime of Exim. This description was rewritten for Exim 4.14 (February 2003).
2379 Retaining all the history in the comment has become too unwieldy - read
2380 previous release sources if you want it.
2381
2382 The message ID has 3 parts: tttttt-pppppp-ss. Each part is a number in base 62.
2383 The first part is the current time, in seconds. The second part is the current
2384 pid. Both are large enough to hold 32-bit numbers in base 62. The third part
2385 can hold a number in the range 0-3843. It used to be a computed sequence
2386 number, but is now the fractional component of the current time in units of
2387 1/2000 of a second (i.e. a value in the range 0-1999). After a message has been
2388 received, Exim ensures that the timer has ticked at the appropriate level
2389 before proceeding, to avoid duplication if the pid happened to be re-used
2390 within the same time period. It seems likely that most messages will take at
2391 least half a millisecond to be received, so no delay will normally be
2392 necessary. At least for some time...
2393
2394 There is a modification when localhost_number is set. Formerly this was allowed
2395 to be as large as 255. Now it is restricted to the range 0-16, and the final
2396 component of the message id becomes (localhost_number * 200) + fractional time
2397 in units of 1/200 of a second (i.e. a value in the range 0-3399).
2398
2399 Some not-really-Unix operating systems use case-insensitive file names (Darwin,
2400 Cygwin). For these, we have to use base 36 instead of base 62. Luckily, this
2401 still allows the tttttt field to hold a large enough number to last for some
2402 more decades, and the final two-digit field can hold numbers up to 1295, which
2403 is enough for milliseconds (instead of 1/2000 of a second).
2404
2405 However, the pppppp field cannot hold a 32-bit pid, but it can hold a 31-bit
2406 pid, so it is probably safe because pids have to be positive. The
2407 localhost_number is restricted to 0-10 for these hosts, and when it is set, the
2408 final field becomes (localhost_number * 100) + fractional time in centiseconds.
2409
2410 Note that string_base62() returns its data in a static storage block, so it
2411 must be copied before calling string_base62() again. It always returns exactly
2412 6 characters.
2413
2414 There doesn't seem to be anything in the RFC which requires a message id to
2415 start with a letter, but Smail was changed to ensure this. The external form of
2416 the message id (as supplied by string expansion) therefore starts with an
2417 additional leading 'E'. The spool file names do not include this leading
2418 letter and it is not used internally.
2419
2420 NOTE: If ever the format of message ids is changed, the regular expression for
2421 checking that a string is in this format must be updated in a corresponding
2422 way. It appears in the initializing code in exim.c. The macro MESSAGE_ID_LENGTH
2423 must also be changed to reflect the correct string length. Then, of course,
2424 other programs that rely on the message id format will need updating too. */
2425
2426 Ustrncpy(message_id, string_base62((long int)(message_id_tv.tv_sec)), 6);
2427 message_id[6] = '-';
2428 Ustrncpy(message_id + 7, string_base62((long int)getpid()), 6);
2429
2430 /* Deal with the case where the host number is set. The value of the number was
2431 checked when it was read, to ensure it isn't too big. The timing granularity is
2432 left in id_resolution so that an appropriate wait can be done after receiving
2433 the message, if necessary (we hope it won't be). */
2434
2435 if (host_number_string != NULL)
2436   {
2437   id_resolution = (BASE_62 == 62)? 5000 : 10000;
2438   sprintf(CS(message_id + MESSAGE_ID_LENGTH - 3), "-%2s",
2439     string_base62((long int)(
2440       host_number * (1000000/id_resolution) +
2441         message_id_tv.tv_usec/id_resolution)) + 4);
2442   }
2443
2444 /* Host number not set: final field is just the fractional time at an
2445 appropriate resolution. */
2446
2447 else
2448   {
2449   id_resolution = (BASE_62 == 62)? 500 : 1000;
2450   sprintf(CS(message_id + MESSAGE_ID_LENGTH - 3), "-%2s",
2451     string_base62((long int)(message_id_tv.tv_usec/id_resolution)) + 4);
2452   }
2453
2454 /* Add the current message id onto the current process info string if
2455 it will fit. */
2456
2457 (void)string_format(process_info + process_info_len,
2458   PROCESS_INFO_SIZE - process_info_len, " id=%s", message_id);
2459
2460 /* If we are using multiple input directories, set up the one for this message
2461 to be the least significant base-62 digit of the time of arrival. Otherwise
2462 ensure that it is an empty string. */
2463
2464 message_subdir[0] = split_spool_directory? message_id[5] : 0;
2465
2466 /* Now that we have the message-id, if there is no message-id: header, generate
2467 one, but only for local (without suppress_local_fixups) or submission mode
2468 messages. This can be user-configured if required, but we had better flatten
2469 any illegal characters therein. */
2470
2471 if (msgid_header == NULL &&
2472       ((sender_host_address == NULL && !suppress_local_fixups)
2473         || submission_mode))
2474   {
2475   uschar *p;
2476   uschar *id_text = US"";
2477   uschar *id_domain = primary_hostname;
2478
2479   /* Permit only letters, digits, dots, and hyphens in the domain */
2480
2481   if (message_id_domain != NULL)
2482     {
2483     uschar *new_id_domain = expand_string(message_id_domain);
2484     if (new_id_domain == NULL)
2485       {
2486       if (!expand_string_forcedfail)
2487         log_write(0, LOG_MAIN|LOG_PANIC,
2488           "expansion of \"%s\" (message_id_header_domain) "
2489           "failed: %s", message_id_domain, expand_string_message);
2490       }
2491     else if (*new_id_domain != 0)
2492       {
2493       id_domain = new_id_domain;
2494       for (p = id_domain; *p != 0; p++)
2495         if (!isalnum(*p) && *p != '.') *p = '-';  /* No need to test '-' ! */
2496       }
2497     }
2498
2499   /* Permit all characters except controls and RFC 2822 specials in the
2500   additional text part. */
2501
2502   if (message_id_text != NULL)
2503     {
2504     uschar *new_id_text = expand_string(message_id_text);
2505     if (new_id_text == NULL)
2506       {
2507       if (!expand_string_forcedfail)
2508         log_write(0, LOG_MAIN|LOG_PANIC,
2509           "expansion of \"%s\" (message_id_header_text) "
2510           "failed: %s", message_id_text, expand_string_message);
2511       }
2512     else if (*new_id_text != 0)
2513       {
2514       id_text = new_id_text;
2515       for (p = id_text; *p != 0; p++)
2516         if (mac_iscntrl_or_special(*p)) *p = '-';
2517       }
2518     }
2519
2520   /* Add the header line
2521    * Resent-* headers are prepended, per RFC 5322 3.6.6.  Non-Resent-* are
2522    * appended, to preserve classical expectations of header ordering. */
2523
2524   header_add_at_position(!resents_exist, NULL, FALSE, htype_id,
2525     "%sMessage-Id: <%s%s%s@%s>\n", resent_prefix, message_id_external,
2526     (*id_text == 0)? "" : ".", id_text, id_domain);
2527   }
2528
2529 /* If we are to log recipients, keep a copy of the raw ones before any possible
2530 rewriting. Must copy the count, because later ACLs and the local_scan()
2531 function may mess with the real recipients. */
2532
2533 if (LOGGING(received_recipients))
2534   {
2535   raw_recipients = store_get(recipients_count * sizeof(uschar *));
2536   for (i = 0; i < recipients_count; i++)
2537     raw_recipients[i] = string_copy(recipients_list[i].address);
2538   raw_recipients_count = recipients_count;
2539   }
2540
2541 /* Ensure the recipients list is fully qualified and rewritten. Unqualified
2542 recipients will get here only if the conditions were right (allow_unqualified_
2543 recipient is TRUE). */
2544
2545 for (i = 0; i < recipients_count; i++)
2546   recipients_list[i].address =
2547     rewrite_address(recipients_list[i].address, TRUE, TRUE,
2548       global_rewrite_rules, rewrite_existflags);
2549
2550 /* If there is no From: header, generate one for local (without
2551 suppress_local_fixups) or submission_mode messages. If there is no sender
2552 address, but the sender is local or this is a local delivery error, use the
2553 originator login. This shouldn't happen for genuine bounces, but might happen
2554 for autoreplies. The addition of From: must be done *before* checking for the
2555 possible addition of a Sender: header, because untrusted_set_sender allows an
2556 untrusted user to set anything in the envelope (which might then get info
2557 From:) but we still want to ensure a valid Sender: if it is required. */
2558
2559 if (from_header == NULL &&
2560     ((sender_host_address == NULL && !suppress_local_fixups)
2561       || submission_mode))
2562   {
2563   uschar *oname = US"";
2564
2565   /* Use the originator_name if this is a locally submitted message and the
2566   caller is not trusted. For trusted callers, use it only if -F was used to
2567   force its value or if we have a non-SMTP message for which -f was not used
2568   to set the sender. */
2569
2570   if (sender_host_address == NULL)
2571     {
2572     if (!trusted_caller || sender_name_forced ||
2573          (!smtp_input && !sender_address_forced))
2574       oname = originator_name;
2575     }
2576
2577   /* For non-locally submitted messages, the only time we use the originator
2578   name is when it was forced by the /name= option on control=submission. */
2579
2580   else
2581     {
2582     if (submission_name != NULL) oname = submission_name;
2583     }
2584
2585   /* Envelope sender is empty */
2586
2587   if (sender_address[0] == 0)
2588     {
2589     uschar *fromstart, *fromend;
2590
2591     fromstart = string_sprintf("%sFrom: %s%s", resent_prefix,
2592       oname, (oname[0] == 0)? "" : " <");
2593     fromend = (oname[0] == 0)? US"" : US">";
2594
2595     if (sender_local || local_error_message)
2596       {
2597       header_add(htype_from, "%s%s@%s%s\n", fromstart,
2598         local_part_quote(originator_login), qualify_domain_sender,
2599         fromend);
2600       }
2601     else if (submission_mode && authenticated_id != NULL)
2602       {
2603       if (submission_domain == NULL)
2604         {
2605         header_add(htype_from, "%s%s@%s%s\n", fromstart,
2606           local_part_quote(authenticated_id), qualify_domain_sender,
2607           fromend);
2608         }
2609       else if (submission_domain[0] == 0)  /* empty => whole address set */
2610         {
2611         header_add(htype_from, "%s%s%s\n", fromstart, authenticated_id,
2612           fromend);
2613         }
2614       else
2615         {
2616         header_add(htype_from, "%s%s@%s%s\n", fromstart,
2617           local_part_quote(authenticated_id), submission_domain,
2618           fromend);
2619         }
2620       from_header = header_last;    /* To get it checked for Sender: */
2621       }
2622     }
2623
2624   /* There is a non-null envelope sender. Build the header using the original
2625   sender address, before any rewriting that might have been done while
2626   verifying it. */
2627
2628   else
2629     {
2630     header_add(htype_from, "%sFrom: %s%s%s%s\n", resent_prefix,
2631       oname,
2632       (oname[0] == 0)? "" : " <",
2633       (sender_address_unrewritten == NULL)?
2634         sender_address : sender_address_unrewritten,
2635       (oname[0] == 0)? "" : ">");
2636
2637     from_header = header_last;    /* To get it checked for Sender: */
2638     }
2639   }
2640
2641
2642 /* If the sender is local (without suppress_local_fixups), or if we are in
2643 submission mode and there is an authenticated_id, check that an existing From:
2644 is correct, and if not, generate a Sender: header, unless disabled. Any
2645 previously-existing Sender: header was removed above. Note that sender_local,
2646 as well as being TRUE if the caller of exim is not trusted, is also true if a
2647 trusted caller did not supply a -f argument for non-smtp input. To allow
2648 trusted callers to forge From: without supplying -f, we have to test explicitly
2649 here. If the From: header contains more than one address, then the call to
2650 parse_extract_address fails, and a Sender: header is inserted, as required. */
2651
2652 if (from_header != NULL &&
2653      (active_local_from_check &&
2654        ((sender_local && !trusted_caller && !suppress_local_fixups) ||
2655         (submission_mode && authenticated_id != NULL))
2656      ))
2657   {
2658   BOOL make_sender = TRUE;
2659   int start, end, domain;
2660   uschar *errmess;
2661   uschar *from_address =
2662     parse_extract_address(Ustrchr(from_header->text, ':') + 1, &errmess,
2663       &start, &end, &domain, FALSE);
2664   uschar *generated_sender_address;
2665
2666   if (submission_mode)
2667     {
2668     if (submission_domain == NULL)
2669       {
2670       generated_sender_address = string_sprintf("%s@%s",
2671         local_part_quote(authenticated_id), qualify_domain_sender);
2672       }
2673     else if (submission_domain[0] == 0)  /* empty => full address */
2674       {
2675       generated_sender_address = string_sprintf("%s",
2676         authenticated_id);
2677       }
2678     else
2679       {
2680       generated_sender_address = string_sprintf("%s@%s",
2681         local_part_quote(authenticated_id), submission_domain);
2682       }
2683     }
2684   else
2685     generated_sender_address = string_sprintf("%s@%s",
2686       local_part_quote(originator_login), qualify_domain_sender);
2687
2688   /* Remove permitted prefixes and suffixes from the local part of the From:
2689   address before doing the comparison with the generated sender. */
2690
2691   if (from_address != NULL)
2692     {
2693     int slen;
2694     uschar *at = (domain == 0)? NULL : from_address + domain - 1;
2695
2696     if (at != NULL) *at = 0;
2697     from_address += route_check_prefix(from_address, local_from_prefix);
2698     slen = route_check_suffix(from_address, local_from_suffix);
2699     if (slen > 0)
2700       {
2701       memmove(from_address+slen, from_address, Ustrlen(from_address)-slen);
2702       from_address += slen;
2703       }
2704     if (at != NULL) *at = '@';
2705
2706     if (strcmpic(generated_sender_address, from_address) == 0 ||
2707       (domain == 0 && strcmpic(from_address, originator_login) == 0))
2708         make_sender = FALSE;
2709     }
2710
2711   /* We have to cause the Sender header to be rewritten if there are
2712   appropriate rewriting rules. */
2713
2714   if (make_sender)
2715     {
2716     if (submission_mode && submission_name == NULL)
2717       header_add(htype_sender, "%sSender: %s\n", resent_prefix,
2718         generated_sender_address);
2719     else
2720       header_add(htype_sender, "%sSender: %s <%s>\n",
2721         resent_prefix,
2722         submission_mode? submission_name : originator_name,
2723         generated_sender_address);
2724     }
2725
2726   /* Ensure that a non-null envelope sender address corresponds to the
2727   submission mode sender address. */
2728
2729   if (submission_mode && sender_address[0] != 0)
2730     {
2731     if (sender_address_unrewritten == NULL)
2732       sender_address_unrewritten = sender_address;
2733     sender_address = generated_sender_address;
2734     if (Ustrcmp(sender_address_unrewritten, generated_sender_address) != 0)
2735       log_write(L_address_rewrite, LOG_MAIN,
2736         "\"%s\" from env-from rewritten as \"%s\" by submission mode",
2737         sender_address_unrewritten, generated_sender_address);
2738     }
2739   }
2740
2741 /* If there are any rewriting rules, apply them to the sender address, unless
2742 it has already been rewritten as part of verification for SMTP input. */
2743
2744 if (global_rewrite_rules != NULL && sender_address_unrewritten == NULL &&
2745     sender_address[0] != 0)
2746   {
2747   sender_address = rewrite_address(sender_address, FALSE, TRUE,
2748     global_rewrite_rules, rewrite_existflags);
2749   DEBUG(D_receive|D_rewrite)
2750     debug_printf("rewritten sender = %s\n", sender_address);
2751   }
2752
2753
2754 /* The headers must be run through rewrite_header(), because it ensures that
2755 addresses are fully qualified, as well as applying any rewriting rules that may
2756 exist.
2757
2758 Qualification of header addresses in a message from a remote host happens only
2759 if the host is in sender_unqualified_hosts or recipient_unqualified hosts, as
2760 appropriate. For local messages, qualification always happens, unless -bnq is
2761 used to explicitly suppress it. No rewriting is done for an unqualified address
2762 that is left untouched.
2763
2764 We start at the second header, skipping our own Received:. This rewriting is
2765 documented as happening *after* recipient addresses are taken from the headers
2766 by the -t command line option. An added Sender: gets rewritten here. */
2767
2768 for (h = header_list->next; h != NULL; h = h->next)
2769   {
2770   header_line *newh = rewrite_header(h, NULL, NULL, global_rewrite_rules,
2771     rewrite_existflags, TRUE);
2772   if (newh != NULL) h = newh;
2773   }
2774
2775
2776 /* An RFC 822 (sic) message is not legal unless it has at least one of "to",
2777 "cc", or "bcc". Note that although the minimal examples in RFC 822 show just
2778 "to" or "bcc", the full syntax spec allows "cc" as well. If any resent- header
2779 exists, this applies to the set of resent- headers rather than the normal set.
2780
2781 The requirement for a recipient header has been removed in RFC 2822. At this
2782 point in the code, earlier versions of Exim added a To: header for locally
2783 submitted messages, and an empty Bcc: header for others. In the light of the
2784 changes in RFC 2822, this was dropped in November 2003. */
2785
2786
2787 /* If there is no date header, generate one if the message originates locally
2788 (i.e. not over TCP/IP) and suppress_local_fixups is not set, or if the
2789 submission mode flag is set. Messages without Date: are not valid, but it seems
2790 to be more confusing if Exim adds one to all remotely-originated messages.
2791 As per Message-Id, we prepend if resending, else append.
2792 */
2793
2794 if (!date_header_exists &&
2795       ((sender_host_address == NULL && !suppress_local_fixups)
2796         || submission_mode))
2797   header_add_at_position(!resents_exist, NULL, FALSE, htype_other,
2798     "%sDate: %s\n", resent_prefix, tod_stamp(tod_full));
2799
2800 search_tidyup();    /* Free any cached resources */
2801
2802 /* Show the complete set of headers if debugging. Note that the first one (the
2803 new Received:) has not yet been set. */
2804
2805 DEBUG(D_receive)
2806   {
2807   debug_printf(">>Headers after rewriting and local additions:\n");
2808   for (h = header_list->next; h != NULL; h = h->next)
2809     debug_printf("%c %s", h->type, h->text);
2810   debug_printf("\n");
2811   }
2812
2813 /* The headers are now complete in store. If we are running in filter
2814 testing mode, that is all this function does. Return TRUE if the message
2815 ended with a dot. */
2816
2817 if (filter_test != FTEST_NONE)
2818   {
2819   process_info[process_info_len] = 0;
2820   return message_ended == END_DOT;
2821   }
2822
2823 /* Cutthrough delivery:
2824 We have to create the Received header now rather than at the end of reception,
2825 so the timestamp behaviour is a change to the normal case.
2826 XXX Ensure this gets documented XXX.
2827 Having created it, send the headers to the destination. */
2828 if (cutthrough.fd >= 0)
2829   {
2830   if (received_count > received_headers_max)
2831     {
2832     cancel_cutthrough_connection("too many headers");
2833     if (smtp_input) receive_swallow_smtp();  /* Swallow incoming SMTP */
2834     log_write(0, LOG_MAIN|LOG_REJECT, "rejected from <%s>%s%s%s%s: "
2835       "Too many \"Received\" headers",
2836       sender_address,
2837       (sender_fullhost == NULL)? "" : " H=",
2838       (sender_fullhost == NULL)? US"" : sender_fullhost,
2839       (sender_ident == NULL)? "" : " U=",
2840       (sender_ident == NULL)? US"" : sender_ident);
2841     message_id[0] = 0;                       /* Indicate no message accepted */
2842     smtp_reply = US"550 Too many \"Received\" headers - suspected mail loop";
2843     goto TIDYUP;                             /* Skip to end of function */
2844     }
2845   received_header_gen();
2846   add_acl_headers(ACL_WHERE_RCPT, US"MAIL or RCPT");
2847   (void) cutthrough_headers_send();
2848   }
2849
2850
2851 /* Open a new spool file for the data portion of the message. We need
2852 to access it both via a file descriptor and a stream. Try to make the
2853 directory if it isn't there. Note re use of sprintf: spool_directory
2854 is checked on input to be < 200 characters long. */
2855
2856 sprintf(CS spool_name, "%s/input/%s/%s-D", spool_directory, message_subdir,
2857   message_id);
2858 data_fd = Uopen(spool_name, O_RDWR|O_CREAT|O_EXCL, SPOOL_MODE);
2859 if (data_fd < 0)
2860   {
2861   if (errno == ENOENT)
2862     {
2863     uschar temp[16];
2864     sprintf(CS temp, "input/%s", message_subdir);
2865     if (message_subdir[0] == 0) temp[5] = 0;
2866     (void)directory_make(spool_directory, temp, INPUT_DIRECTORY_MODE, TRUE);
2867     data_fd = Uopen(spool_name, O_RDWR|O_CREAT|O_EXCL, SPOOL_MODE);
2868     }
2869   if (data_fd < 0)
2870     log_write(0, LOG_MAIN|LOG_PANIC_DIE, "Failed to create spool file %s: %s",
2871       spool_name, strerror(errno));
2872   }
2873
2874 /* Make sure the file's group is the Exim gid, and double-check the mode
2875 because the group setting doesn't always get set automatically. */
2876
2877 if (fchown(data_fd, exim_uid, exim_gid))
2878   log_write(0, LOG_MAIN|LOG_PANIC_DIE,
2879     "Failed setting ownership on spool file %s: %s",
2880     spool_name, strerror(errno));
2881 (void)fchmod(data_fd, SPOOL_MODE);
2882
2883 /* We now have data file open. Build a stream for it and lock it. We lock only
2884 the first line of the file (containing the message ID) because otherwise there
2885 are problems when Exim is run under Cygwin (I'm told). See comments in
2886 spool_in.c, where the same locking is done. */
2887
2888 data_file = fdopen(data_fd, "w+");
2889 lock_data.l_type = F_WRLCK;
2890 lock_data.l_whence = SEEK_SET;
2891 lock_data.l_start = 0;
2892 lock_data.l_len = SPOOL_DATA_START_OFFSET;
2893
2894 if (fcntl(data_fd, F_SETLK, &lock_data) < 0)
2895   log_write(0, LOG_MAIN|LOG_PANIC_DIE, "Cannot lock %s (%d): %s", spool_name,
2896     errno, strerror(errno));
2897
2898 /* We have an open, locked data file. Write the message id to it to make it
2899 self-identifying. Then read the remainder of the input of this message and
2900 write it to the data file. If the variable next != NULL, it contains the first
2901 data line (which was read as a header but then turned out not to have the right
2902 format); write it (remembering that it might contain binary zeros). The result
2903 of fwrite() isn't inspected; instead we call ferror() below. */
2904
2905 fprintf(data_file, "%s-D\n", message_id);
2906 if (next != NULL)
2907   {
2908   uschar *s = next->text;
2909   int len = next->slen;
2910   len = fwrite(s, 1, len, data_file);  len = len; /* compiler quietening */
2911   body_linecount++;                 /* Assumes only 1 line */
2912   }
2913
2914 /* Note that we might already be at end of file, or the logical end of file
2915 (indicated by '.'), or might have encountered an error while writing the
2916 message id or "next" line. */
2917
2918 if (!ferror(data_file) && !(receive_feof)() && message_ended != END_DOT)
2919   {
2920   if (smtp_input)
2921     {
2922     message_ended = read_message_data_smtp(data_file);
2923     receive_linecount++;                /* The terminating "." line */
2924     }
2925   else message_ended = read_message_data(data_file);
2926
2927   receive_linecount += body_linecount;  /* For BSMTP errors mainly */
2928   message_linecount += body_linecount;
2929
2930   /* Handle premature termination of SMTP */
2931
2932   if (smtp_input && message_ended == END_EOF)
2933     {
2934     Uunlink(spool_name);                     /* Lose data file when closed */
2935     cancel_cutthrough_connection("sender closed connection");
2936     message_id[0] = 0;                       /* Indicate no message accepted */
2937     smtp_reply = handle_lost_connection(US"");
2938     smtp_yield = FALSE;
2939     goto TIDYUP;                             /* Skip to end of function */
2940     }
2941
2942   /* Handle message that is too big. Don't use host_or_ident() in the log
2943   message; we want to see the ident value even for non-remote messages. */
2944
2945   if (message_ended == END_SIZE)
2946     {
2947     Uunlink(spool_name);                /* Lose the data file when closed */
2948     cancel_cutthrough_connection("mail too big");
2949     if (smtp_input) receive_swallow_smtp();  /* Swallow incoming SMTP */
2950
2951     log_write(L_size_reject, LOG_MAIN|LOG_REJECT, "rejected from <%s>%s%s%s%s: "
2952       "message too big: read=%d max=%d",
2953       sender_address,
2954       (sender_fullhost == NULL)? "" : " H=",
2955       (sender_fullhost == NULL)? US"" : sender_fullhost,
2956       (sender_ident == NULL)? "" : " U=",
2957       (sender_ident == NULL)? US"" : sender_ident,
2958       message_size,
2959       thismessage_size_limit);
2960
2961     if (smtp_input)
2962       {
2963       smtp_reply = US"552 Message size exceeds maximum permitted";
2964       message_id[0] = 0;               /* Indicate no message accepted */
2965       goto TIDYUP;                     /* Skip to end of function */
2966       }
2967     else
2968       {
2969       fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
2970       give_local_error(ERRMESS_TOOBIG,
2971         string_sprintf("message too big (max=%d)", thismessage_size_limit),
2972         US"message rejected: ", error_rc, data_file, header_list);
2973       /* Does not return */
2974       }
2975     }
2976   }
2977
2978 /* Restore the standard SIGALRM handler for any subsequent processing. (For
2979 example, there may be some expansion in an ACL that uses a timer.) */
2980
2981 os_non_restarting_signal(SIGALRM, sigalrm_handler);
2982
2983 /* The message body has now been read into the data file. Call fflush() to
2984 empty the buffers in C, and then call fsync() to get the data written out onto
2985 the disk, as fflush() doesn't do this (or at least, it isn't documented as
2986 having to do this). If there was an I/O error on either input or output,
2987 attempt to send an error message, and unlink the spool file. For non-SMTP input
2988 we can then give up. Note that for SMTP input we must swallow the remainder of
2989 the input in cases of output errors, since the far end doesn't expect to see
2990 anything until the terminating dot line is sent. */
2991
2992 if (fflush(data_file) == EOF || ferror(data_file) ||
2993     EXIMfsync(fileno(data_file)) < 0 || (receive_ferror)())
2994   {
2995   uschar *msg_errno = US strerror(errno);
2996   BOOL input_error = (receive_ferror)() != 0;
2997   uschar *msg = string_sprintf("%s error (%s) while receiving message from %s",
2998     input_error? "Input read" : "Spool write",
2999     msg_errno,
3000     (sender_fullhost != NULL)? sender_fullhost : sender_ident);
3001
3002   log_write(0, LOG_MAIN, "Message abandoned: %s", msg);
3003   Uunlink(spool_name);                /* Lose the data file */
3004   cancel_cutthrough_connection("error writing spoolfile");
3005
3006   if (smtp_input)
3007     {
3008     if (input_error)
3009       smtp_reply = US"451 Error while reading input data";
3010     else
3011       {
3012       smtp_reply = US"451 Error while writing spool file";
3013       receive_swallow_smtp();
3014       }
3015     message_id[0] = 0;               /* Indicate no message accepted */
3016     goto TIDYUP;                     /* Skip to end of function */
3017     }
3018
3019   else
3020     {
3021     fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3022     give_local_error(ERRMESS_IOERR, msg, US"", error_rc, data_file,
3023       header_list);
3024     /* Does not return */
3025     }
3026   }
3027
3028
3029 /* No I/O errors were encountered while writing the data file. */
3030
3031 DEBUG(D_receive) debug_printf("Data file written for message %s\n", message_id);
3032
3033
3034 /* If there were any bad addresses extracted by -t, or there were no recipients
3035 left after -t, send a message to the sender of this message, or write it to
3036 stderr if the error handling option is set that way. Note that there may
3037 legitimately be no recipients for an SMTP message if they have all been removed
3038 by "discard".
3039
3040 We need to rewind the data file in order to read it. In the case of no
3041 recipients or stderr error writing, throw the data file away afterwards, and
3042 exit. (This can't be SMTP, which always ensures there's at least one
3043 syntactically good recipient address.) */
3044
3045 if (extract_recip && (bad_addresses != NULL || recipients_count == 0))
3046   {
3047   DEBUG(D_receive)
3048     {
3049     if (recipients_count == 0) debug_printf("*** No recipients\n");
3050     if (bad_addresses != NULL)
3051       {
3052       error_block *eblock = bad_addresses;
3053       debug_printf("*** Bad address(es)\n");
3054       while (eblock != NULL)
3055         {
3056         debug_printf("  %s: %s\n", eblock->text1, eblock->text2);
3057         eblock = eblock->next;
3058         }
3059       }
3060     }
3061
3062   fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3063
3064   /* If configured to send errors to the sender, but this fails, force
3065   a failure error code. We use a special one for no recipients so that it
3066   can be detected by the autoreply transport. Otherwise error_rc is set to
3067   errors_sender_rc, which is EXIT_FAILURE unless -oee was given, in which case
3068   it is EXIT_SUCCESS. */
3069
3070   if (error_handling == ERRORS_SENDER)
3071     {
3072     if (!moan_to_sender(
3073           (bad_addresses == NULL)?
3074             (extracted_ignored? ERRMESS_IGADDRESS : ERRMESS_NOADDRESS) :
3075           (recipients_list == NULL)? ERRMESS_BADNOADDRESS : ERRMESS_BADADDRESS,
3076           bad_addresses, header_list, data_file, FALSE))
3077       error_rc = (bad_addresses == NULL)? EXIT_NORECIPIENTS : EXIT_FAILURE;
3078     }
3079   else
3080     {
3081     if (bad_addresses == NULL)
3082       {
3083       if (extracted_ignored)
3084         fprintf(stderr, "exim: all -t recipients overridden by command line\n");
3085       else
3086         fprintf(stderr, "exim: no recipients in message\n");
3087       }
3088     else
3089       {
3090       fprintf(stderr, "exim: invalid address%s",
3091         (bad_addresses->next == NULL)? ":" : "es:\n");
3092       while (bad_addresses != NULL)
3093         {
3094         fprintf(stderr, "  %s: %s\n", bad_addresses->text1,
3095           bad_addresses->text2);
3096         bad_addresses = bad_addresses->next;
3097         }
3098       }
3099     }
3100
3101   if (recipients_count == 0 || error_handling == ERRORS_STDERR)
3102     {
3103     Uunlink(spool_name);
3104     (void)fclose(data_file);
3105     exim_exit(error_rc);
3106     }
3107   }
3108
3109 /* Data file successfully written. Generate text for the Received: header by
3110 expanding the configured string, and adding a timestamp. By leaving this
3111 operation till now, we ensure that the timestamp is the time that message
3112 reception was completed. However, this is deliberately done before calling the
3113 data ACL and local_scan().
3114
3115 This Received: header may therefore be inspected by the data ACL and by code in
3116 the local_scan() function. When they have run, we update the timestamp to be
3117 the final time of reception.
3118
3119 If there is just one recipient, set up its value in the $received_for variable
3120 for use when we generate the Received: header.
3121
3122 Note: the checking for too many Received: headers is handled by the delivery
3123 code. */
3124 /*XXX eventually add excess Received: check for cutthrough case back when classifying them */
3125
3126 if (received_header->text == NULL)      /* Non-cutthrough case */
3127   {
3128   received_header_gen();
3129
3130   /* Set the value of message_body_size for the DATA ACL and for local_scan() */
3131
3132   message_body_size = (fstat(data_fd, &statbuf) == 0)?
3133     statbuf.st_size - SPOOL_DATA_START_OFFSET : -1;
3134
3135   /* If an ACL from any RCPT commands set up any warning headers to add, do so
3136   now, before running the DATA ACL. */
3137
3138   add_acl_headers(ACL_WHERE_RCPT, US"MAIL or RCPT");
3139   }
3140 else
3141   message_body_size = (fstat(data_fd, &statbuf) == 0)?
3142     statbuf.st_size - SPOOL_DATA_START_OFFSET : -1;
3143
3144 /* If an ACL is specified for checking things at this stage of reception of a
3145 message, run it, unless all the recipients were removed by "discard" in earlier
3146 ACLs. That is the only case in which recipients_count can be zero at this
3147 stage. Set deliver_datafile to point to the data file so that $message_body and
3148 $message_body_end can be extracted if needed. Allow $recipients in expansions.
3149 */
3150
3151 deliver_datafile = data_fd;
3152 user_msg = NULL;
3153
3154 enable_dollar_recipients = TRUE;
3155
3156 if (recipients_count == 0)
3157   {
3158   blackholed_by = recipients_discarded? US"MAIL ACL" : US"RCPT ACL";
3159   }
3160 else
3161   {
3162   /* Handle interactive SMTP messages */
3163
3164   if (smtp_input && !smtp_batched_input)
3165     {
3166
3167 #ifndef DISABLE_DKIM
3168     if (!dkim_disable_verify)
3169       {
3170       /* Finish verification, this will log individual signature results to
3171          the mainlog */
3172       dkim_exim_verify_finish();
3173
3174       /* Check if we must run the DKIM ACL */
3175       if ((acl_smtp_dkim != NULL) &&
3176           (dkim_verify_signers != NULL) &&
3177           (dkim_verify_signers[0] != '\0'))
3178         {
3179         uschar *dkim_verify_signers_expanded =
3180           expand_string(dkim_verify_signers);
3181         if (dkim_verify_signers_expanded == NULL)
3182           {
3183           log_write(0, LOG_MAIN|LOG_PANIC,
3184             "expansion of dkim_verify_signers option failed: %s",
3185             expand_string_message);
3186           }
3187         else
3188           {
3189           int sep = 0;
3190           const uschar *ptr = dkim_verify_signers_expanded;
3191           uschar *item = NULL;
3192           uschar *seen_items = NULL;
3193           int     seen_items_size = 0;
3194           int     seen_items_offset = 0;
3195           uschar itembuf[256];
3196           /* Default to OK when no items are present */
3197           rc = OK;
3198           while ((item = string_nextinlist(&ptr, &sep,
3199                                            itembuf,
3200                                            sizeof(itembuf))))
3201             {
3202             /* Prevent running ACL for an empty item */
3203             if (!item || (item[0] == '\0')) continue;
3204
3205             /* Only run ACL once for each domain or identity,
3206             no matter how often it appears in the expanded list. */
3207             if (seen_items)
3208               {
3209               uschar *seen_item = NULL;
3210               uschar seen_item_buf[256];
3211               const uschar *seen_items_list = seen_items;
3212               BOOL seen_this_item = FALSE;
3213
3214               while ((seen_item = string_nextinlist(&seen_items_list, &sep,
3215                                                     seen_item_buf,
3216                                                     sizeof(seen_item_buf))))
3217                 if (Ustrcmp(seen_item,item) == 0)
3218                   {
3219                   seen_this_item = TRUE;
3220                   break;
3221                   }
3222
3223               if (seen_this_item)
3224                 {
3225                 DEBUG(D_receive)
3226                   debug_printf("acl_smtp_dkim: skipping signer %s, "
3227                     "already seen\n", item);
3228                 continue;
3229                 }
3230
3231               seen_items = string_append(seen_items, &seen_items_size,
3232                 &seen_items_offset, 1, ":");
3233               }
3234
3235             seen_items = string_append(seen_items, &seen_items_size,
3236               &seen_items_offset, 1, item);
3237             seen_items[seen_items_offset] = '\0';
3238
3239             DEBUG(D_receive)
3240               debug_printf("calling acl_smtp_dkim for dkim_cur_signer=%s\n",
3241                 item);
3242
3243             dkim_exim_acl_setup(item);
3244             rc = acl_check(ACL_WHERE_DKIM, NULL, acl_smtp_dkim,
3245                   &user_msg, &log_msg);
3246
3247             if (rc != OK)
3248               {
3249               DEBUG(D_receive)
3250                 debug_printf("acl_smtp_dkim: acl_check returned %d on %s, "
3251                   "skipping remaining items\n", rc, item);
3252               cancel_cutthrough_connection("dkim acl not ok");
3253               break;
3254               }
3255             }
3256           add_acl_headers(ACL_WHERE_DKIM, US"DKIM");
3257           if (rc == DISCARD)
3258             {
3259             recipients_count = 0;
3260             blackholed_by = US"DKIM ACL";
3261             if (log_msg != NULL)
3262               blackhole_log_msg = string_sprintf(": %s", log_msg);
3263             }
3264           else if (rc != OK)
3265             {
3266             Uunlink(spool_name);
3267             if (smtp_handle_acl_fail(ACL_WHERE_DKIM, rc, user_msg, log_msg) != 0)
3268               smtp_yield = FALSE;    /* No more messsages after dropped connection */
3269             smtp_reply = US"";       /* Indicate reply already sent */
3270             message_id[0] = 0;       /* Indicate no message accepted */
3271             goto TIDYUP;             /* Skip to end of function */
3272             }
3273           }
3274         }
3275       }
3276 #endif /* DISABLE_DKIM */
3277
3278 #ifdef WITH_CONTENT_SCAN
3279     if (recipients_count > 0 &&
3280         acl_smtp_mime != NULL &&
3281         !run_mime_acl(acl_smtp_mime, &smtp_yield, &smtp_reply, &blackholed_by))
3282       goto TIDYUP;
3283 #endif /* WITH_CONTENT_SCAN */
3284
3285 #ifdef EXPERIMENTAL_DMARC
3286     dmarc_up = dmarc_store_data(from_header);
3287 #endif /* EXPERIMENTAL_DMARC */
3288
3289 #ifndef DISABLE_PRDR
3290     if (prdr_requested && recipients_count > 1 && acl_smtp_data_prdr)
3291       {
3292       unsigned int c;
3293       int all_pass = OK;
3294       int all_fail = FAIL;
3295
3296       smtp_printf("353 PRDR content analysis beginning\r\n");
3297       /* Loop through recipients, responses must be in same order received */
3298       for (c = 0; recipients_count > c; c++)
3299         {
3300         uschar * addr= recipients_list[c].address;
3301         uschar * msg= US"PRDR R=<%s> %s";
3302         uschar * code;
3303         DEBUG(D_receive)
3304           debug_printf("PRDR processing recipient %s (%d of %d)\n",
3305                        addr, c+1, recipients_count);
3306         rc = acl_check(ACL_WHERE_PRDR, addr,
3307                        acl_smtp_data_prdr, &user_msg, &log_msg);
3308
3309         /* If any recipient rejected content, indicate it in final message */
3310         all_pass |= rc;
3311         /* If all recipients rejected, indicate in final message */
3312         all_fail &= rc;
3313
3314         switch (rc)
3315           {
3316           case OK: case DISCARD: code = US"250"; break;
3317           case DEFER:            code = US"450"; break;
3318           default:               code = US"550"; break;
3319           }
3320         if (user_msg != NULL)
3321           smtp_user_msg(code, user_msg);
3322         else
3323           {
3324           switch (rc)
3325             {
3326             case OK: case DISCARD:
3327               msg = string_sprintf(CS msg, addr, "acceptance");        break;
3328             case DEFER:
3329               msg = string_sprintf(CS msg, addr, "temporary refusal"); break;
3330             default:
3331               msg = string_sprintf(CS msg, addr, "refusal");           break;
3332             }
3333           smtp_user_msg(code, msg);
3334           }
3335         if (log_msg)       log_write(0, LOG_MAIN, "PRDR %s %s", addr, log_msg);
3336         else if (user_msg) log_write(0, LOG_MAIN, "PRDR %s %s", addr, user_msg);
3337         else               log_write(0, LOG_MAIN, "%s", CS msg);
3338
3339         if (rc != OK) { receive_remove_recipient(addr); c--; }
3340         }
3341       /* Set up final message, used if data acl gives OK */
3342       smtp_reply = string_sprintf("%s id=%s message %s",
3343                        all_fail == FAIL ? US"550" : US"250",
3344                        message_id,
3345                        all_fail == FAIL
3346                          ? US"rejected for all recipients"
3347                          : all_pass == OK
3348                            ? US"accepted"
3349                            : US"accepted for some recipients");
3350       if (recipients_count == 0)
3351         {
3352         message_id[0] = 0;       /* Indicate no message accepted */
3353         goto TIDYUP;
3354         }
3355       }
3356     else
3357       prdr_requested = FALSE;
3358 #endif /* !DISABLE_PRDR */
3359
3360     /* Check the recipients count again, as the MIME ACL might have changed
3361     them. */
3362
3363     if (acl_smtp_data != NULL && recipients_count > 0)
3364       {
3365       rc = acl_check(ACL_WHERE_DATA, NULL, acl_smtp_data, &user_msg, &log_msg);
3366       add_acl_headers(ACL_WHERE_DATA, US"DATA");
3367       if (rc == DISCARD)
3368         {
3369         recipients_count = 0;
3370         blackholed_by = US"DATA ACL";
3371         if (log_msg != NULL)
3372           blackhole_log_msg = string_sprintf(": %s", log_msg);
3373         cancel_cutthrough_connection("data acl discard");
3374         }
3375       else if (rc != OK)
3376         {
3377         Uunlink(spool_name);
3378         cancel_cutthrough_connection("data acl not ok");
3379 #ifdef WITH_CONTENT_SCAN
3380         unspool_mbox();
3381 #endif
3382 #ifdef EXPERIMENTAL_DCC
3383         dcc_ok = 0;
3384 #endif
3385         if (smtp_handle_acl_fail(ACL_WHERE_DATA, rc, user_msg, log_msg) != 0)
3386           smtp_yield = FALSE;    /* No more messsages after dropped connection */
3387         smtp_reply = US"";       /* Indicate reply already sent */
3388         message_id[0] = 0;       /* Indicate no message accepted */
3389         goto TIDYUP;             /* Skip to end of function */
3390         }
3391       }
3392     }
3393
3394   /* Handle non-SMTP and batch SMTP (i.e. non-interactive) messages. Note that
3395   we cannot take different actions for permanent and temporary rejections. */
3396
3397   else
3398     {
3399
3400 #ifdef WITH_CONTENT_SCAN
3401     if (acl_not_smtp_mime != NULL &&
3402         !run_mime_acl(acl_not_smtp_mime, &smtp_yield, &smtp_reply,
3403           &blackholed_by))
3404       goto TIDYUP;
3405 #endif /* WITH_CONTENT_SCAN */
3406
3407     if (acl_not_smtp != NULL)
3408       {
3409       uschar *user_msg, *log_msg;
3410       rc = acl_check(ACL_WHERE_NOTSMTP, NULL, acl_not_smtp, &user_msg, &log_msg);
3411       if (rc == DISCARD)
3412         {
3413         recipients_count = 0;
3414         blackholed_by = US"non-SMTP ACL";
3415         if (log_msg != NULL)
3416           blackhole_log_msg = string_sprintf(": %s", log_msg);
3417         }
3418       else if (rc != OK)
3419         {
3420         Uunlink(spool_name);
3421 #ifdef WITH_CONTENT_SCAN
3422         unspool_mbox();
3423 #endif
3424 #ifdef EXPERIMENTAL_DCC
3425         dcc_ok = 0;
3426 #endif
3427         /* The ACL can specify where rejections are to be logged, possibly
3428         nowhere. The default is main and reject logs. */
3429
3430         if (log_reject_target != 0)
3431           log_write(0, log_reject_target, "F=<%s> rejected by non-SMTP ACL: %s",
3432             sender_address, log_msg);
3433
3434         if (user_msg == NULL) user_msg = US"local configuration problem";
3435         if (smtp_batched_input)
3436           {
3437           moan_smtp_batch(NULL, "%d %s", 550, user_msg);
3438           /* Does not return */
3439           }
3440         else
3441           {
3442           fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3443           give_local_error(ERRMESS_LOCAL_ACL, user_msg,
3444             US"message rejected by non-SMTP ACL: ", error_rc, data_file,
3445               header_list);
3446           /* Does not return */
3447           }
3448         }
3449       add_acl_headers(ACL_WHERE_NOTSMTP, US"non-SMTP");
3450       }
3451     }
3452
3453   /* The applicable ACLs have been run */
3454
3455   if (deliver_freeze) frozen_by = US"ACL";     /* for later logging */
3456   if (queue_only_policy) queued_by = US"ACL";
3457   }
3458
3459 #ifdef WITH_CONTENT_SCAN
3460 unspool_mbox();
3461 #endif
3462
3463 #ifdef EXPERIMENTAL_DCC
3464 dcc_ok = 0;
3465 #endif
3466
3467
3468 /* The final check on the message is to run the scan_local() function. The
3469 version supplied with Exim always accepts, but this is a hook for sysadmins to
3470 supply their own checking code. The local_scan() function is run even when all
3471 the recipients have been discarded. */
3472
3473 lseek(data_fd, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3474
3475 /* Arrange to catch crashes in local_scan(), so that the -D file gets
3476 deleted, and the incident gets logged. */
3477
3478 os_non_restarting_signal(SIGSEGV, local_scan_crash_handler);
3479 os_non_restarting_signal(SIGFPE, local_scan_crash_handler);
3480 os_non_restarting_signal(SIGILL, local_scan_crash_handler);
3481 os_non_restarting_signal(SIGBUS, local_scan_crash_handler);
3482
3483 DEBUG(D_receive) debug_printf("calling local_scan(); timeout=%d\n",
3484   local_scan_timeout);
3485 local_scan_data = NULL;
3486
3487 os_non_restarting_signal(SIGALRM, local_scan_timeout_handler);
3488 if (local_scan_timeout > 0) alarm(local_scan_timeout);
3489 rc = local_scan(data_fd, &local_scan_data);
3490 alarm(0);
3491 os_non_restarting_signal(SIGALRM, sigalrm_handler);
3492
3493 enable_dollar_recipients = FALSE;
3494
3495 store_pool = POOL_MAIN;   /* In case changed */
3496 DEBUG(D_receive) debug_printf("local_scan() returned %d %s\n", rc,
3497   local_scan_data);
3498
3499 os_non_restarting_signal(SIGSEGV, SIG_DFL);
3500 os_non_restarting_signal(SIGFPE, SIG_DFL);
3501 os_non_restarting_signal(SIGILL, SIG_DFL);
3502 os_non_restarting_signal(SIGBUS, SIG_DFL);
3503
3504 /* The length check is paranoia against some runaway code, and also because
3505 (for a success return) lines in the spool file are read into big_buffer. */
3506
3507 if (local_scan_data != NULL)
3508   {
3509   int len = Ustrlen(local_scan_data);
3510   if (len > LOCAL_SCAN_MAX_RETURN) len = LOCAL_SCAN_MAX_RETURN;
3511   local_scan_data = string_copyn(local_scan_data, len);
3512   }
3513
3514 if (rc == LOCAL_SCAN_ACCEPT_FREEZE)
3515   {
3516   if (!deliver_freeze)         /* ACL might have already frozen */
3517     {
3518     deliver_freeze = TRUE;
3519     deliver_frozen_at = time(NULL);
3520     frozen_by = US"local_scan()";
3521     }
3522   rc = LOCAL_SCAN_ACCEPT;
3523   }
3524 else if (rc == LOCAL_SCAN_ACCEPT_QUEUE)
3525   {
3526   if (!queue_only_policy)      /* ACL might have already queued */
3527     {
3528     queue_only_policy = TRUE;
3529     queued_by = US"local_scan()";
3530     }
3531   rc = LOCAL_SCAN_ACCEPT;
3532   }
3533
3534 /* Message accepted: remove newlines in local_scan_data because otherwise
3535 the spool file gets corrupted. Ensure that all recipients are qualified. */
3536
3537 if (rc == LOCAL_SCAN_ACCEPT)
3538   {
3539   if (local_scan_data != NULL)
3540     {
3541     uschar *s;
3542     for (s = local_scan_data; *s != 0; s++) if (*s == '\n') *s = ' ';
3543     }
3544   for (i = 0; i < recipients_count; i++)
3545     {
3546     recipient_item *r = recipients_list + i;
3547     r->address = rewrite_address_qualify(r->address, TRUE);
3548     if (r->errors_to != NULL)
3549       r->errors_to = rewrite_address_qualify(r->errors_to, TRUE);
3550     }
3551   if (recipients_count == 0 && blackholed_by == NULL)
3552     blackholed_by = US"local_scan";
3553   }
3554
3555 /* Message rejected: newlines permitted in local_scan_data to generate
3556 multiline SMTP responses. */
3557
3558 else
3559   {
3560   uschar *istemp = US"";
3561   uschar *s = NULL;
3562   uschar *smtp_code;
3563   int size = 0;
3564   int sptr = 0;
3565
3566   errmsg = local_scan_data;
3567
3568   Uunlink(spool_name);          /* Cancel this message */
3569   switch(rc)
3570     {
3571     default:
3572     log_write(0, LOG_MAIN, "invalid return %d from local_scan(). Temporary "
3573       "rejection given", rc);
3574     goto TEMPREJECT;
3575
3576     case LOCAL_SCAN_REJECT_NOLOGHDR:
3577     BIT_CLEAR(log_selector, log_selector_size, Li_rejected_header);
3578     /* Fall through */
3579
3580     case LOCAL_SCAN_REJECT:
3581     smtp_code = US"550";
3582     if (errmsg == NULL) errmsg =  US"Administrative prohibition";
3583     break;
3584
3585     case LOCAL_SCAN_TEMPREJECT_NOLOGHDR:
3586     BIT_CLEAR(log_selector, log_selector_size, Li_rejected_header);
3587     /* Fall through */
3588
3589     case LOCAL_SCAN_TEMPREJECT:
3590     TEMPREJECT:
3591     smtp_code = US"451";
3592     if (errmsg == NULL) errmsg = US"Temporary local problem";
3593     istemp = US"temporarily ";
3594     break;
3595     }
3596
3597   s = string_append(s, &size, &sptr, 2, US"F=",
3598     (sender_address[0] == 0)? US"<>" : sender_address);
3599   s = add_host_info_for_log(s, &size, &sptr);
3600   s[sptr] = 0;
3601
3602   log_write(0, LOG_MAIN|LOG_REJECT, "%s %srejected by local_scan(): %.256s",
3603     s, istemp, string_printing(errmsg));
3604
3605   if (smtp_input)
3606     {
3607     if (!smtp_batched_input)
3608       {
3609       smtp_respond(smtp_code, 3, TRUE, errmsg);
3610       message_id[0] = 0;            /* Indicate no message accepted */
3611       smtp_reply = US"";            /* Indicate reply already sent */
3612       goto TIDYUP;                  /* Skip to end of function */
3613       }
3614     else
3615       {
3616       moan_smtp_batch(NULL, "%s %s", smtp_code, errmsg);
3617       /* Does not return */
3618       }
3619     }
3620   else
3621     {
3622     fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3623     give_local_error(ERRMESS_LOCAL_SCAN, errmsg,
3624       US"message rejected by local scan code: ", error_rc, data_file,
3625         header_list);
3626     /* Does not return */
3627     }
3628   }
3629
3630 /* Reset signal handlers to ignore signals that previously would have caused
3631 the message to be abandoned. */
3632
3633 signal(SIGTERM, SIG_IGN);
3634 signal(SIGINT, SIG_IGN);
3635
3636
3637 /* Ensure the first time flag is set in the newly-received message. */
3638
3639 deliver_firsttime = TRUE;
3640
3641 #ifdef EXPERIMENTAL_BRIGHTMAIL
3642 if (bmi_run == 1) {
3643   /* rewind data file */
3644   lseek(data_fd, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3645   bmi_verdicts = bmi_process_message(header_list, data_fd);
3646 };
3647 #endif
3648
3649 /* Update the timstamp in our Received: header to account for any time taken by
3650 an ACL or by local_scan(). The new time is the time that all reception
3651 processing is complete. */
3652
3653 timestamp = expand_string(US"${tod_full}");
3654 tslen = Ustrlen(timestamp);
3655
3656 memcpy(received_header->text + received_header->slen - tslen - 1,
3657   timestamp, tslen);
3658
3659 /* In MUA wrapper mode, ignore queueing actions set by ACL or local_scan() */
3660
3661 if (mua_wrapper)
3662   {
3663   deliver_freeze = FALSE;
3664   queue_only_policy = FALSE;
3665   }
3666
3667 /* Keep the data file open until we have written the header file, in order to
3668 hold onto the lock. In a -bh run, or if the message is to be blackholed, we
3669 don't write the header file, and we unlink the data file. If writing the header
3670 file fails, we have failed to accept this message. */
3671
3672 if (host_checking || blackholed_by != NULL)
3673   {
3674   header_line *h;
3675   Uunlink(spool_name);
3676   msg_size = 0;                                  /* Compute size for log line */
3677   for (h = header_list; h != NULL; h = h->next)
3678     if (h->type != '*') msg_size += h->slen;
3679   }
3680
3681 /* Write the -H file */
3682
3683 else
3684   {
3685   if ((msg_size = spool_write_header(message_id, SW_RECEIVING, &errmsg)) < 0)
3686     {
3687     log_write(0, LOG_MAIN, "Message abandoned: %s", errmsg);
3688     Uunlink(spool_name);           /* Lose the data file */
3689
3690     if (smtp_input)
3691       {
3692       smtp_reply = US"451 Error in writing spool file";
3693       message_id[0] = 0;          /* Indicate no message accepted */
3694       goto TIDYUP;
3695       }
3696     else
3697       {
3698       fseek(data_file, (long int)SPOOL_DATA_START_OFFSET, SEEK_SET);
3699       give_local_error(ERRMESS_IOERR, errmsg, US"", error_rc, data_file,
3700         header_list);
3701       /* Does not return */
3702       }
3703     }
3704   }
3705
3706
3707 /* The message has now been successfully received. */
3708
3709 receive_messagecount++;
3710
3711 /* In SMTP sessions we may receive several in one connection. After each one,
3712 we wait for the clock to tick at the level of message-id granularity. This is
3713 so that the combination of time+pid is unique, even on systems where the pid
3714 can be re-used within our time interval. We can't shorten the interval without
3715 re-designing the message-id. See comments above where the message id is
3716 created. This is Something For The Future. */
3717
3718 message_id_tv.tv_usec = (message_id_tv.tv_usec/id_resolution) * id_resolution;
3719 exim_wait_tick(&message_id_tv, id_resolution);
3720
3721 /* Add data size to written header size. We do not count the initial file name
3722 that is in the file, but we do add one extra for the notional blank line that
3723 precedes the data. This total differs from message_size in that it include the
3724 added Received: header and any other headers that got created locally. */
3725
3726 fflush(data_file);
3727 fstat(data_fd, &statbuf);
3728
3729 msg_size += statbuf.st_size - SPOOL_DATA_START_OFFSET + 1;
3730
3731 /* Generate a "message received" log entry. We do this by building up a dynamic
3732 string as required. Since we commonly want to add two items at a time, use a
3733 macro to simplify the coding. We log the arrival of a new message while the
3734 file is still locked, just in case the machine is *really* fast, and delivers
3735 it first! Include any message id that is in the message - since the syntax of a
3736 message id is actually an addr-spec, we can use the parse routine to canonicize
3737 it. */
3738
3739 size = 256;
3740 sptr = 0;
3741 s = store_get(size);
3742
3743 s = string_append(s, &size, &sptr, 2, US"<= ",
3744   (sender_address[0] == 0)? US"<>" : sender_address);
3745 if (message_reference != NULL)
3746   s = string_append(s, &size, &sptr, 2, US" R=", message_reference);
3747
3748 s = add_host_info_for_log(s, &size, &sptr);
3749
3750 #ifdef SUPPORT_TLS
3751 if (LOGGING(tls_cipher) && tls_in.cipher)
3752   s = string_append(s, &size, &sptr, 2, US" X=", tls_in.cipher);
3753 if (LOGGING(tls_certificate_verified) && tls_in.cipher)
3754   s = string_append(s, &size, &sptr, 2, US" CV=",
3755     tls_in.certificate_verified? "yes":"no");
3756 if (LOGGING(tls_peerdn) && tls_in.peerdn)
3757   s = string_append(s, &size, &sptr, 3, US" DN=\"",
3758     string_printing(tls_in.peerdn), US"\"");
3759 if (LOGGING(tls_sni) && tls_in.sni)
3760   s = string_append(s, &size, &sptr, 3, US" SNI=\"",
3761     string_printing(tls_in.sni), US"\"");
3762 #endif
3763
3764 if (sender_host_authenticated)
3765   {
3766   s = string_append(s, &size, &sptr, 2, US" A=", sender_host_authenticated);
3767   if (authenticated_id != NULL)
3768     {
3769     s = string_append(s, &size, &sptr, 2, US":", authenticated_id);
3770     if (LOGGING(smtp_mailauth) && authenticated_sender != NULL)
3771       s = string_append(s, &size, &sptr, 2, US":", authenticated_sender);
3772     }
3773   }
3774
3775 #ifndef DISABLE_PRDR
3776 if (prdr_requested)
3777   s = string_append(s, &size, &sptr, 1, US" PRDR");
3778 #endif
3779
3780 #ifdef SUPPORT_PROXY
3781 if (proxy_session && LOGGING(proxy))
3782   s = string_append(s, &size, &sptr, 2, US" PRX=", proxy_local_address);
3783 #endif
3784
3785 sprintf(CS big_buffer, "%d", msg_size);
3786 s = string_append(s, &size, &sptr, 2, US" S=", big_buffer);
3787
3788 /* log 8BITMIME mode announced in MAIL_FROM
3789    0 ... no BODY= used
3790    7 ... 7BIT
3791    8 ... 8BITMIME */
3792 if (LOGGING(8bitmime))
3793   {
3794   sprintf(CS big_buffer, "%d", body_8bitmime);
3795   s = string_append(s, &size, &sptr, 2, US" M8S=", big_buffer);
3796   }
3797
3798 /* If an addr-spec in a message-id contains a quoted string, it can contain
3799 any characters except " \ and CR and so in particular it can contain NL!
3800 Therefore, make sure we use a printing-characters only version for the log.
3801 Also, allow for domain literals in the message id. */
3802
3803 if (msgid_header != NULL)
3804   {
3805   uschar *old_id;
3806   BOOL save_allow_domain_literals = allow_domain_literals;
3807   allow_domain_literals = TRUE;
3808   old_id = parse_extract_address(Ustrchr(msgid_header->text, ':') + 1,
3809     &errmsg, &start, &end, &domain, FALSE);
3810   allow_domain_literals = save_allow_domain_literals;
3811   if (old_id != NULL)
3812     s = string_append(s, &size, &sptr, 2, US" id=", string_printing(old_id));
3813   }
3814
3815 /* If subject logging is turned on, create suitable printing-character
3816 text. By expanding $h_subject: we make use of the MIME decoding. */
3817
3818 if (LOGGING(subject) && subject_header != NULL)
3819   {
3820   int i;
3821   uschar *p = big_buffer;
3822   uschar *ss = expand_string(US"$h_subject:");
3823
3824   /* Backslash-quote any double quotes or backslashes so as to make a
3825   a C-like string, and turn any non-printers into escape sequences. */
3826
3827   *p++ = '\"';
3828   if (*ss != 0) for (i = 0; i < 100 && ss[i] != 0; i++)
3829     {
3830     if (ss[i] == '\"' || ss[i] == '\\') *p++ = '\\';
3831     *p++ = ss[i];
3832     }
3833   *p++ = '\"';
3834   *p = 0;
3835   s = string_append(s, &size, &sptr, 2, US" T=", string_printing(big_buffer));
3836   }
3837
3838 /* Terminate the string: string_cat() and string_append() leave room, but do
3839 not put the zero in. */
3840
3841 s[sptr] = 0;
3842
3843 /* Create a message log file if message logs are being used and this message is
3844 not blackholed. Write the reception stuff to it. We used to leave message log
3845 creation until the first delivery, but this has proved confusing for some
3846 people. */
3847
3848 if (message_logs && blackholed_by == NULL)
3849   {
3850   int fd;
3851
3852   sprintf(CS spool_name, "%s/msglog/%s/%s", spool_directory, message_subdir,
3853     message_id);
3854   fd = Uopen(spool_name, O_WRONLY|O_APPEND|O_CREAT, SPOOL_MODE);
3855
3856   if (fd < 0 && errno == ENOENT)
3857     {
3858     uschar temp[16];
3859     sprintf(CS temp, "msglog/%s", message_subdir);
3860     if (message_subdir[0] == 0) temp[6] = 0;
3861     (void)directory_make(spool_directory, temp, MSGLOG_DIRECTORY_MODE, TRUE);
3862     fd = Uopen(spool_name, O_WRONLY|O_APPEND|O_CREAT, SPOOL_MODE);
3863     }
3864
3865   if (fd < 0)
3866     {
3867     log_write(0, LOG_MAIN|LOG_PANIC, "Couldn't open message log %s: %s",
3868       spool_name, strerror(errno));
3869     }
3870
3871   else
3872     {
3873     FILE *message_log = fdopen(fd, "a");
3874     if (message_log == NULL)
3875       {
3876       log_write(0, LOG_MAIN|LOG_PANIC, "Couldn't fdopen message log %s: %s",
3877         spool_name, strerror(errno));
3878       (void)close(fd);
3879       }
3880     else
3881       {
3882       uschar *now = tod_stamp(tod_log);
3883       fprintf(message_log, "%s Received from %s\n", now, s+3);
3884       if (deliver_freeze) fprintf(message_log, "%s frozen by %s\n", now,
3885         frozen_by);
3886       if (queue_only_policy) fprintf(message_log,
3887         "%s no immediate delivery: queued by %s\n", now, queued_by);
3888       (void)fclose(message_log);
3889       }
3890     }
3891   }
3892
3893 /* Everything has now been done for a successful message except logging its
3894 arrival, and outputting an SMTP response. While writing to the log, set a flag
3895 to cause a call to receive_bomb_out() if the log cannot be opened. */
3896
3897 receive_call_bombout = TRUE;
3898
3899 /* Before sending an SMTP response in a TCP/IP session, we check to see if the
3900 connection has gone away. This can only be done if there is no unconsumed input
3901 waiting in the local input buffer. We can test for this by calling
3902 receive_smtp_buffered(). RFC 2920 (pipelining) explicitly allows for additional
3903 input to be sent following the final dot, so the presence of following input is
3904 not an error.
3905
3906 If the connection is still present, but there is no unread input for the
3907 socket, the result of a select() call will be zero. If, however, the connection
3908 has gone away, or if there is pending input, the result of select() will be
3909 non-zero. The two cases can be distinguished by trying to read the next input
3910 character. If we succeed, we can unread it so that it remains in the local
3911 buffer for handling later. If not, the connection has been lost.
3912
3913 Of course, since TCP/IP is asynchronous, there is always a chance that the
3914 connection will vanish between the time of this test and the sending of the
3915 response, but the chance of this happening should be small. */
3916
3917 if (smtp_input && sender_host_address != NULL && !sender_host_notsocket &&
3918     !receive_smtp_buffered())
3919   {
3920   struct timeval tv;
3921   fd_set select_check;
3922   FD_ZERO(&select_check);
3923   FD_SET(fileno(smtp_in), &select_check);
3924   tv.tv_sec = 0;
3925   tv.tv_usec = 0;
3926
3927   if (select(fileno(smtp_in) + 1, &select_check, NULL, NULL, &tv) != 0)
3928     {
3929     int c = (receive_getc)();
3930     if (c != EOF) (receive_ungetc)(c); else
3931       {
3932       uschar *msg = US"SMTP connection lost after final dot";
3933       smtp_reply = US"";    /* No attempt to send a response */
3934       smtp_yield = FALSE;   /* Nothing more on this connection */
3935
3936       /* Re-use the log line workspace */
3937
3938       sptr = 0;
3939       s = string_cat(s, &size, &sptr, msg, Ustrlen(msg));
3940       s = add_host_info_for_log(s, &size, &sptr);
3941       s[sptr] = 0;
3942       log_write(0, LOG_MAIN, "%s", s);
3943
3944       /* Delete the files for this aborted message. */
3945
3946       sprintf(CS spool_name, "%s/input/%s/%s-D", spool_directory,
3947         message_subdir, message_id);
3948       Uunlink(spool_name);
3949
3950       sprintf(CS spool_name, "%s/input/%s/%s-H", spool_directory,
3951         message_subdir, message_id);
3952       Uunlink(spool_name);
3953
3954       sprintf(CS spool_name, "%s/msglog/%s/%s", spool_directory,
3955         message_subdir, message_id);
3956       Uunlink(spool_name);
3957
3958       goto TIDYUP;
3959       }
3960     }
3961   }
3962
3963 /* The connection has not gone away; we really are going to take responsibility
3964 for this message. */
3965
3966 /* Cutthrough - had sender last-dot; assume we've sent (or bufferred) all
3967    data onward by now.
3968
3969    Send dot onward.  If accepted, wipe the spooled files, log as delivered and accept
3970    the sender's dot (below).
3971    If rejected: copy response to sender, wipe the spooled files, log approriately.
3972    If temp-reject: accept to sender, keep the spooled files.
3973
3974    Having the normal spool files lets us do data-filtering, and store/forward on temp-reject.
3975
3976    XXX We do not handle queue-only, freezing, or blackholes.
3977 */
3978 if(cutthrough.fd >= 0)
3979   {
3980   uschar * msg= cutthrough_finaldot();  /* Ask the target system to accept the messsage */
3981                                         /* Logging was done in finaldot() */
3982   switch(msg[0])
3983     {
3984     case '2':   /* Accept. Do the same to the source; dump any spoolfiles.   */
3985       cutthrough_done = ACCEPTED;
3986       break;                                    /* message_id needed for SMTP accept below */
3987
3988     default:    /* Unknown response, or error.  Treat as temp-reject.         */
3989     case '4':   /* Temp-reject. Keep spoolfiles and accept. */
3990       cutthrough_done = TMP_REJ;                /* Avoid the usual immediate delivery attempt */
3991       break;                                    /* message_id needed for SMTP accept below */
3992
3993     case '5':   /* Perm-reject.  Do the same to the source.  Dump any spoolfiles */
3994       smtp_reply= msg;          /* Pass on the exact error */
3995       cutthrough_done = PERM_REJ;
3996       break;
3997     }
3998   }
3999
4000 #ifndef DISABLE_PRDR
4001 if(!smtp_reply || prdr_requested)
4002 #else
4003 if(!smtp_reply)
4004 #endif
4005   {
4006   log_write(0, LOG_MAIN |
4007     (LOGGING(received_recipients)? LOG_RECIPIENTS : 0) |
4008     (LOGGING(received_sender)? LOG_SENDER : 0),
4009     "%s", s);
4010
4011   /* Log any control actions taken by an ACL or local_scan(). */
4012
4013   if (deliver_freeze) log_write(0, LOG_MAIN, "frozen by %s", frozen_by);
4014   if (queue_only_policy) log_write(L_delay_delivery, LOG_MAIN,
4015     "no immediate delivery: queued by %s", queued_by);
4016   }
4017 receive_call_bombout = FALSE;
4018
4019 store_reset(s);   /* The store for the main log message can be reused */
4020
4021 /* If the message is frozen, and freeze_tell is set, do the telling. */
4022
4023 if (deliver_freeze && freeze_tell != NULL && freeze_tell[0] != 0)
4024   {
4025   moan_tell_someone(freeze_tell, NULL, US"Message frozen on arrival",
4026     "Message %s was frozen on arrival by %s.\nThe sender is <%s>.\n",
4027     message_id, frozen_by, sender_address);
4028   }
4029
4030
4031 /* Either a message has been successfully received and written to the two spool
4032 files, or an error in writing the spool has occurred for an SMTP message, or
4033 an SMTP message has been rejected for policy reasons. (For a non-SMTP message
4034 we will have already given up because there's no point in carrying on!) In
4035 either event, we must now close (and thereby unlock) the data file. In the
4036 successful case, this leaves the message on the spool, ready for delivery. In
4037 the error case, the spool file will be deleted. Then tidy up store, interact
4038 with an SMTP call if necessary, and return.
4039
4040 A fflush() was done earlier in the expectation that any write errors on the
4041 data file will be flushed(!) out thereby. Nevertheless, it is theoretically
4042 possible for fclose() to fail - but what to do? What has happened to the lock
4043 if this happens? */
4044
4045
4046 TIDYUP:
4047 process_info[process_info_len] = 0;                /* Remove message id */
4048 if (data_file != NULL) (void)fclose(data_file);    /* Frees the lock */
4049
4050 /* Now reset signal handlers to their defaults */
4051
4052 signal(SIGTERM, SIG_DFL);
4053 signal(SIGINT, SIG_DFL);
4054
4055 /* Tell an SMTP caller the state of play, and arrange to return the SMTP return
4056 value, which defaults TRUE - meaning there may be more incoming messages from
4057 this connection. For non-SMTP callers (where there is only ever one message),
4058 the default is FALSE. */
4059
4060 if (smtp_input)
4061   {
4062   yield = smtp_yield;
4063
4064   /* Handle interactive SMTP callers. After several kinds of error, smtp_reply
4065   is set to the response that should be sent. When it is NULL, we generate
4066   default responses. After an ACL error or local_scan() error, the response has
4067   already been sent, and smtp_reply is an empty string to indicate this. */
4068
4069   if (!smtp_batched_input)
4070     {
4071     if (smtp_reply == NULL)
4072       {
4073       if (fake_response != OK)
4074         smtp_respond((fake_response == DEFER)? US"450" : US"550", 3, TRUE,
4075           fake_response_text);
4076
4077       /* An OK response is required; use "message" text if present. */
4078
4079       else if (user_msg != NULL)
4080         {
4081         uschar *code = US"250";
4082         int len = 3;
4083         smtp_message_code(&code, &len, &user_msg, NULL, TRUE);
4084         smtp_respond(code, len, TRUE, user_msg);
4085         }
4086
4087       /* Default OK response */
4088
4089       else
4090         smtp_printf("250 OK id=%s\r\n", message_id);
4091       if (host_checking)
4092         fprintf(stdout,
4093           "\n**** SMTP testing: that is not a real message id!\n\n");
4094       }
4095
4096     /* smtp_reply is set non-empty */
4097
4098     else if (smtp_reply[0] != 0)
4099       {
4100       if (fake_response != OK && (smtp_reply[0] == '2'))
4101         smtp_respond((fake_response == DEFER)? US"450" : US"550", 3, TRUE,
4102           fake_response_text);
4103       else
4104         smtp_printf("%.1024s\r\n", smtp_reply);
4105       }
4106
4107     switch (cutthrough_done)
4108       {
4109       case ACCEPTED: log_write(0, LOG_MAIN, "Completed");/* Delivery was done */
4110       case PERM_REJ: {                                  /* Delete spool files */
4111               sprintf(CS spool_name, "%s/input/%s/%s-D", spool_directory,
4112                 message_subdir, message_id);
4113               Uunlink(spool_name);
4114               sprintf(CS spool_name, "%s/input/%s/%s-H", spool_directory,
4115                 message_subdir, message_id);
4116               Uunlink(spool_name);
4117               sprintf(CS spool_name, "%s/msglog/%s/%s", spool_directory,
4118                 message_subdir, message_id);
4119               Uunlink(spool_name);
4120               }
4121       case TMP_REJ: message_id[0] = 0;    /* Prevent a delivery from starting */
4122       default:break;
4123       }
4124     cutthrough.delivery = FALSE;
4125     }
4126
4127   /* For batched SMTP, generate an error message on failure, and do
4128   nothing on success. The function moan_smtp_batch() does not return -
4129   it exits from the program with a non-zero return code. */
4130
4131   else if (smtp_reply != NULL) moan_smtp_batch(NULL, "%s", smtp_reply);
4132   }
4133
4134
4135 /* If blackholing, we can immediately log this message's sad fate. The data
4136 file has already been unlinked, and the header file was never written to disk.
4137 We must now indicate that nothing was received, to prevent a delivery from
4138 starting. */
4139
4140 if (blackholed_by != NULL)
4141   {
4142   const uschar *detail = local_scan_data
4143     ? string_printing(local_scan_data)
4144     : string_sprintf("(%s discarded recipients)", blackholed_by);
4145   log_write(0, LOG_MAIN, "=> blackhole %s%s", detail, blackhole_log_msg);
4146   log_write(0, LOG_MAIN, "Completed");
4147   message_id[0] = 0;
4148   }
4149
4150 /* Reset headers so that logging of rejects for a subsequent message doesn't
4151 include them. It is also important to set header_last = NULL before exiting
4152 from this function, as this prevents certain rewrites that might happen during
4153 subsequent verifying (of another incoming message) from trying to add headers
4154 when they shouldn't. */
4155
4156 header_list = header_last = NULL;
4157
4158 return yield;  /* TRUE if more messages (SMTP only) */
4159 }
4160
4161 /* End of receive.c */