7fc2a48bb472d6d985acbe7201c7886338bfa5fe
[exim.git] / src / src / transports / smtp.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2018 */
6 /* Copyright (c) The Exim Maintainers 2020 */
7 /* See the file NOTICE for conditions of use and distribution. */
8
9 #include "../exim.h"
10 #include "smtp.h"
11
12 #if defined(SUPPORT_DANE) && defined(DISABLE_TLS)
13 # error TLS is required for DANE
14 #endif
15
16
17 /* Options specific to the smtp transport. This transport also supports LMTP
18 over TCP/IP. The options must be in alphabetic order (note that "_" comes
19 before the lower case letters). Some live in the transport_instance block so as
20 to be publicly visible; these are flagged with opt_public. */
21
22 #define LOFF(field) OPT_OFF(smtp_transport_options_block, field)
23
24 optionlist smtp_transport_options[] = {
25   { "*expand_multi_domain",             opt_stringptr | opt_hidden | opt_public,
26       OPT_OFF(transport_instance, expand_multi_domain) },
27   { "*expand_retry_include_ip_address", opt_stringptr | opt_hidden,
28       LOFF(expand_retry_include_ip_address) },
29
30   { "address_retry_include_sender", opt_bool,
31       LOFF(address_retry_include_sender) },
32   { "allow_localhost",      opt_bool,      LOFF(allow_localhost) },
33 #ifdef EXPERIMENTAL_ARC
34   { "arc_sign", opt_stringptr,             LOFF(arc_sign) },
35 #endif
36   { "authenticated_sender", opt_stringptr, LOFF(authenticated_sender) },
37   { "authenticated_sender_force", opt_bool, LOFF(authenticated_sender_force) },
38   { "command_timeout",      opt_time,      LOFF(command_timeout) },
39   { "connect_timeout",      opt_time,      LOFF(connect_timeout) },
40   { "connection_max_messages", opt_int | opt_public,
41       OPT_OFF(transport_instance, connection_max_messages) },
42 # ifdef SUPPORT_DANE
43   { "dane_require_tls_ciphers", opt_stringptr, LOFF(dane_require_tls_ciphers) },
44 # endif
45   { "data_timeout",         opt_time,      LOFF(data_timeout) },
46   { "delay_after_cutoff", opt_bool,        LOFF(delay_after_cutoff) },
47 #ifndef DISABLE_DKIM
48   { "dkim_canon", opt_stringptr,           LOFF(dkim.dkim_canon) },
49   { "dkim_domain", opt_stringptr,          LOFF(dkim.dkim_domain) },
50   { "dkim_hash", opt_stringptr,            LOFF(dkim.dkim_hash) },
51   { "dkim_identity", opt_stringptr,        LOFF(dkim.dkim_identity) },
52   { "dkim_private_key", opt_stringptr,     LOFF(dkim.dkim_private_key) },
53   { "dkim_selector", opt_stringptr,        LOFF(dkim.dkim_selector) },
54   { "dkim_sign_headers", opt_stringptr,    LOFF(dkim.dkim_sign_headers) },
55   { "dkim_strict", opt_stringptr,          LOFF(dkim.dkim_strict) },
56   { "dkim_timestamps", opt_stringptr,      LOFF(dkim.dkim_timestamps) },
57 #endif
58   { "dns_qualify_single",   opt_bool,      LOFF(dns_qualify_single) },
59   { "dns_search_parents",   opt_bool,      LOFF(dns_search_parents) },
60   { "dnssec_request_domains", opt_stringptr, LOFF(dnssec.request) },
61   { "dnssec_require_domains", opt_stringptr, LOFF(dnssec.require) },
62   { "dscp",                 opt_stringptr, LOFF(dscp) },
63   { "fallback_hosts",       opt_stringptr, LOFF(fallback_hosts) },
64   { "final_timeout",        opt_time,      LOFF(final_timeout) },
65   { "gethostbyname",        opt_bool,      LOFF(gethostbyname) },
66   { "helo_data",            opt_stringptr, LOFF(helo_data) },
67   { "hosts",                opt_stringptr, LOFF(hosts) },
68   { "hosts_avoid_esmtp",    opt_stringptr, LOFF(hosts_avoid_esmtp) },
69   { "hosts_avoid_pipelining", opt_stringptr, LOFF(hosts_avoid_pipelining) },
70 #ifndef DISABLE_TLS
71   { "hosts_avoid_tls",      opt_stringptr, LOFF(hosts_avoid_tls) },
72 #endif
73   { "hosts_max_try",        opt_int,       LOFF(hosts_max_try) },
74   { "hosts_max_try_hardlimit", opt_int,    LOFF(hosts_max_try_hardlimit) },
75 #ifndef DISABLE_TLS
76   { "hosts_nopass_tls",     opt_stringptr, LOFF(hosts_nopass_tls) },
77   { "hosts_noproxy_tls",    opt_stringptr, LOFF(hosts_noproxy_tls) },
78 #endif
79   { "hosts_override",       opt_bool,      LOFF(hosts_override) },
80 #ifndef DISABLE_PIPE_CONNECT
81   { "hosts_pipe_connect",   opt_stringptr, LOFF(hosts_pipe_connect) },
82 #endif
83   { "hosts_randomize",      opt_bool,      LOFF(hosts_randomize) },
84 #if !defined(DISABLE_TLS) && !defined(DISABLE_OCSP)
85   { "hosts_request_ocsp",   opt_stringptr, LOFF(hosts_request_ocsp) },
86 #endif
87   { "hosts_require_auth",   opt_stringptr, LOFF(hosts_require_auth) },
88 #ifndef DISABLE_TLS
89 # ifdef SUPPORT_DANE
90   { "hosts_require_dane",   opt_stringptr, LOFF(hosts_require_dane) },
91 # endif
92 # ifndef DISABLE_OCSP
93   { "hosts_require_ocsp",   opt_stringptr, LOFF(hosts_require_ocsp) },
94 # endif
95   { "hosts_require_tls",    opt_stringptr, LOFF(hosts_require_tls) },
96 #endif
97   { "hosts_try_auth",       opt_stringptr, LOFF(hosts_try_auth) },
98   { "hosts_try_chunking",   opt_stringptr, LOFF(hosts_try_chunking) },
99 #ifdef SUPPORT_DANE
100   { "hosts_try_dane",       opt_stringptr, LOFF(hosts_try_dane) },
101 #endif
102   { "hosts_try_fastopen",   opt_stringptr, LOFF(hosts_try_fastopen) },
103 #ifndef DISABLE_PRDR
104   { "hosts_try_prdr",       opt_stringptr, LOFF(hosts_try_prdr) },
105 #endif
106 #ifndef DISABLE_TLS
107   { "hosts_verify_avoid_tls", opt_stringptr, LOFF(hosts_verify_avoid_tls) },
108 #endif
109   { "interface",            opt_stringptr, LOFF(interface) },
110   { "keepalive",            opt_bool,      LOFF(keepalive) },
111   { "lmtp_ignore_quota",    opt_bool,      LOFF(lmtp_ignore_quota) },
112   { "max_rcpt",             opt_int | opt_public,
113       OPT_OFF(transport_instance, max_addresses) },
114   { "multi_domain",         opt_expand_bool | opt_public,
115       OPT_OFF(transport_instance, multi_domain) },
116   { "port",                 opt_stringptr, LOFF(port) },
117   { "protocol",             opt_stringptr, LOFF(protocol) },
118   { "retry_include_ip_address", opt_expand_bool, LOFF(retry_include_ip_address) },
119   { "serialize_hosts",      opt_stringptr, LOFF(serialize_hosts) },
120   { "size_addition",        opt_int,       LOFF(size_addition) },
121 #ifdef SUPPORT_SOCKS
122   { "socks_proxy",          opt_stringptr, LOFF(socks_proxy) },
123 #endif
124 #ifndef DISABLE_TLS
125   { "tls_certificate",      opt_stringptr, LOFF(tls_certificate) },
126   { "tls_crl",              opt_stringptr, LOFF(tls_crl) },
127   { "tls_dh_min_bits",      opt_int,       LOFF(tls_dh_min_bits) },
128   { "tls_privatekey",       opt_stringptr, LOFF(tls_privatekey) },
129   { "tls_require_ciphers",  opt_stringptr, LOFF(tls_require_ciphers) },
130 # ifdef EXPERIMENTAL_TLS_RESUME
131   { "tls_resumption_hosts", opt_stringptr, LOFF(tls_resumption_hosts) },
132 # endif
133   { "tls_sni",              opt_stringptr, LOFF(tls_sni) },
134   { "tls_tempfail_tryclear", opt_bool, LOFF(tls_tempfail_tryclear) },
135   { "tls_try_verify_hosts", opt_stringptr, LOFF(tls_try_verify_hosts) },
136   { "tls_verify_cert_hostnames", opt_stringptr, LOFF(tls_verify_cert_hostnames)},
137   { "tls_verify_certificates", opt_stringptr, LOFF(tls_verify_certificates) },
138   { "tls_verify_hosts",     opt_stringptr, LOFF(tls_verify_hosts) },
139 #endif
140 #ifdef SUPPORT_I18N
141   { "utf8_downconvert",     opt_stringptr, LOFF(utf8_downconvert) },
142 #endif
143 };
144
145 /* Size of the options list. An extern variable has to be used so that its
146 address can appear in the tables drtables.c. */
147
148 int smtp_transport_options_count = nelem(smtp_transport_options);
149
150
151 #ifdef MACRO_PREDEF
152
153 /* Dummy values */
154 smtp_transport_options_block smtp_transport_option_defaults = {0};
155 void smtp_transport_init(transport_instance *tblock) {}
156 BOOL smtp_transport_entry(transport_instance *tblock, address_item *addr) {return FALSE;}
157 void smtp_transport_closedown(transport_instance *tblock) {}
158
159 #else   /*!MACRO_PREDEF*/
160
161
162 /* Default private options block for the smtp transport. */
163
164 smtp_transport_options_block smtp_transport_option_defaults = {
165   .hosts =                      NULL,
166   .fallback_hosts =             NULL,
167   .hostlist =                   NULL,
168   .fallback_hostlist =          NULL,
169   .helo_data =                  US"$primary_hostname",
170   .interface =                  NULL,
171   .port =                       NULL,
172   .protocol =                   US"smtp",
173   .dscp =                       NULL,
174   .serialize_hosts =            NULL,
175   .hosts_try_auth =             NULL,
176   .hosts_require_auth =         NULL,
177   .hosts_try_chunking =         US"*",
178 #ifdef SUPPORT_DANE
179   .hosts_try_dane =             US"*",
180   .hosts_require_dane =         NULL,
181   .dane_require_tls_ciphers =   NULL,
182 #endif
183   .hosts_try_fastopen =         US"*",
184 #ifndef DISABLE_PRDR
185   .hosts_try_prdr =             US"*",
186 #endif
187 #ifndef DISABLE_OCSP
188   .hosts_request_ocsp =         US"*",               /* hosts_request_ocsp (except under DANE; tls_client_start()) */
189   .hosts_require_ocsp =         NULL,
190 #endif
191   .hosts_require_tls =          NULL,
192   .hosts_avoid_tls =            NULL,
193   .hosts_verify_avoid_tls =     NULL,
194   .hosts_avoid_pipelining =     NULL,
195 #ifndef DISABLE_PIPE_CONNECT
196   .hosts_pipe_connect =         NULL,
197 #endif
198   .hosts_avoid_esmtp =          NULL,
199 #ifndef DISABLE_TLS
200   .hosts_nopass_tls =           NULL,
201   .hosts_noproxy_tls =          NULL,
202 #endif
203   .command_timeout =            5*60,
204   .connect_timeout =            5*60,
205   .data_timeout =               5*60,
206   .final_timeout =              10*60,
207   .size_addition =              1024,
208   .hosts_max_try =              5,
209   .hosts_max_try_hardlimit =    50,
210   .address_retry_include_sender = TRUE,
211   .allow_localhost =            FALSE,
212   .authenticated_sender_force = FALSE,
213   .gethostbyname =              FALSE,
214   .dns_qualify_single =         TRUE,
215   .dns_search_parents =         FALSE,
216   .dnssec = { .request= US"*", .require=NULL },
217   .delay_after_cutoff =         TRUE,
218   .hosts_override =             FALSE,
219   .hosts_randomize =            FALSE,
220   .keepalive =                  TRUE,
221   .lmtp_ignore_quota =          FALSE,
222   .expand_retry_include_ip_address =    NULL,
223   .retry_include_ip_address =   TRUE,
224 #ifdef SUPPORT_SOCKS
225   .socks_proxy =                NULL,
226 #endif
227 #ifndef DISABLE_TLS
228   .tls_certificate =            NULL,
229   .tls_crl =                    NULL,
230   .tls_privatekey =             NULL,
231   .tls_require_ciphers =        NULL,
232   .tls_sni =                    NULL,
233   .tls_verify_certificates =    US"system",
234   .tls_dh_min_bits =            EXIM_CLIENT_DH_DEFAULT_MIN_BITS,
235   .tls_tempfail_tryclear =      TRUE,
236 # ifdef EXPERIMENTAL_TLS_RESUME
237   .tls_resumption_hosts =       NULL,
238 # endif
239   .tls_verify_hosts =           NULL,
240   .tls_try_verify_hosts =       US"*",
241   .tls_verify_cert_hostnames =  US"*",
242 #endif
243 #ifdef SUPPORT_I18N
244   .utf8_downconvert =           US"-1",
245 #endif
246 #ifndef DISABLE_DKIM
247  .dkim =
248    {.dkim_domain =              NULL,
249     .dkim_identity =            NULL,
250     .dkim_private_key =         NULL,
251     .dkim_selector =            NULL,
252     .dkim_canon =               NULL,
253     .dkim_sign_headers =        NULL,
254     .dkim_strict =              NULL,
255     .dkim_hash =                US"sha256",
256     .dkim_timestamps =          NULL,
257     .dot_stuffed =              FALSE,
258     .force_bodyhash =           FALSE,
259 # ifdef EXPERIMENTAL_ARC
260     .arc_signspec =             NULL,
261 # endif
262     },
263 # ifdef EXPERIMENTAL_ARC
264   .arc_sign =                   NULL,
265 # endif
266 #endif
267 };
268
269 /* some DSN flags for use later */
270
271 static int     rf_list[] = {rf_notify_never, rf_notify_success,
272                             rf_notify_failure, rf_notify_delay };
273
274 static uschar *rf_names[] = { US"NEVER", US"SUCCESS", US"FAILURE", US"DELAY" };
275
276
277
278 /* Local statics */
279
280 static uschar *smtp_command;            /* Points to last cmd for error messages */
281 static uschar *mail_command;            /* Points to MAIL cmd for error messages */
282 static uschar *data_command = US"";     /* Points to DATA cmd for error messages */
283 static BOOL    update_waiting;          /* TRUE to update the "wait" database */
284
285 /*XXX move to smtp_context */
286 static BOOL    pipelining_active;       /* current transaction is in pipe mode */
287
288
289 static unsigned ehlo_response(uschar * buf, unsigned checks);
290
291
292 /******************************************************************************/
293
294 void
295 smtp_deliver_init(void)
296 {
297 if (!regex_PIPELINING) regex_PIPELINING =
298   regex_must_compile(US"\\n250[\\s\\-]PIPELINING(\\s|\\n|$)", FALSE, TRUE);
299
300 if (!regex_SIZE) regex_SIZE =
301   regex_must_compile(US"\\n250[\\s\\-]SIZE(\\s|\\n|$)", FALSE, TRUE);
302
303 if (!regex_AUTH) regex_AUTH =
304   regex_must_compile(AUTHS_REGEX, FALSE, TRUE);
305
306 #ifndef DISABLE_TLS
307 if (!regex_STARTTLS) regex_STARTTLS =
308   regex_must_compile(US"\\n250[\\s\\-]STARTTLS(\\s|\\n|$)", FALSE, TRUE);
309 #endif
310
311 if (!regex_CHUNKING) regex_CHUNKING =
312   regex_must_compile(US"\\n250[\\s\\-]CHUNKING(\\s|\\n|$)", FALSE, TRUE);
313
314 #ifndef DISABLE_PRDR
315 if (!regex_PRDR) regex_PRDR =
316   regex_must_compile(US"\\n250[\\s\\-]PRDR(\\s|\\n|$)", FALSE, TRUE);
317 #endif
318
319 #ifdef SUPPORT_I18N
320 if (!regex_UTF8) regex_UTF8 =
321   regex_must_compile(US"\\n250[\\s\\-]SMTPUTF8(\\s|\\n|$)", FALSE, TRUE);
322 #endif
323
324 if (!regex_DSN) regex_DSN  =
325   regex_must_compile(US"\\n250[\\s\\-]DSN(\\s|\\n|$)", FALSE, TRUE);
326
327 if (!regex_IGNOREQUOTA) regex_IGNOREQUOTA =
328   regex_must_compile(US"\\n250[\\s\\-]IGNOREQUOTA(\\s|\\n|$)", FALSE, TRUE);
329
330 #ifndef DISABLE_PIPE_CONNECT
331 if (!regex_EARLY_PIPE) regex_EARLY_PIPE =
332   regex_must_compile(US"\\n250[\\s\\-]" EARLY_PIPE_FEATURE_NAME "(\\s|\\n|$)", FALSE, TRUE);
333 #endif
334 }
335
336
337 /*************************************************
338 *             Setup entry point                  *
339 *************************************************/
340
341 /* This function is called when the transport is about to be used,
342 but before running it in a sub-process. It is used for two things:
343
344   (1) To set the fallback host list in addresses, when delivering.
345   (2) To pass back the interface, port, protocol, and other options, for use
346       during callout verification.
347
348 Arguments:
349   tblock    pointer to the transport instance block
350   addrlist  list of addresses about to be transported
351   tf        if not NULL, pointer to block in which to return options
352   uid       the uid that will be set (not used)
353   gid       the gid that will be set (not used)
354   errmsg    place for error message (not used)
355
356 Returns:  OK always (FAIL, DEFER not used)
357 */
358
359 static int
360 smtp_transport_setup(transport_instance *tblock, address_item *addrlist,
361   transport_feedback *tf, uid_t uid, gid_t gid, uschar **errmsg)
362 {
363 smtp_transport_options_block *ob = SOB tblock->options_block;
364
365 errmsg = errmsg;    /* Keep picky compilers happy */
366 uid = uid;
367 gid = gid;
368
369 /* Pass back options if required. This interface is getting very messy. */
370
371 if (tf)
372   {
373   tf->interface = ob->interface;
374   tf->port = ob->port;
375   tf->protocol = ob->protocol;
376   tf->hosts = ob->hosts;
377   tf->hosts_override = ob->hosts_override;
378   tf->hosts_randomize = ob->hosts_randomize;
379   tf->gethostbyname = ob->gethostbyname;
380   tf->qualify_single = ob->dns_qualify_single;
381   tf->search_parents = ob->dns_search_parents;
382   tf->helo_data = ob->helo_data;
383   }
384
385 /* Set the fallback host list for all the addresses that don't have fallback
386 host lists, provided that the local host wasn't present in the original host
387 list. */
388
389 if (!testflag(addrlist, af_local_host_removed))
390   for (; addrlist; addrlist = addrlist->next)
391     if (!addrlist->fallback_hosts) addrlist->fallback_hosts = ob->fallback_hostlist;
392
393 return OK;
394 }
395
396
397
398 /*************************************************
399 *          Initialization entry point            *
400 *************************************************/
401
402 /* Called for each instance, after its options have been read, to
403 enable consistency checks to be done, or anything else that needs
404 to be set up.
405
406 Argument:   pointer to the transport instance block
407 Returns:    nothing
408 */
409
410 void
411 smtp_transport_init(transport_instance *tblock)
412 {
413 smtp_transport_options_block *ob = SOB tblock->options_block;
414
415 /* Retry_use_local_part defaults FALSE if unset */
416
417 if (tblock->retry_use_local_part == TRUE_UNSET)
418   tblock->retry_use_local_part = FALSE;
419
420 /* Set the default port according to the protocol */
421
422 if (!ob->port)
423   ob->port = strcmpic(ob->protocol, US"lmtp") == 0
424   ? US"lmtp"
425   : strcmpic(ob->protocol, US"smtps") == 0
426   ? US"smtps" : US"smtp";
427
428 /* Set up the setup entry point, to be called before subprocesses for this
429 transport. */
430
431 tblock->setup = smtp_transport_setup;
432
433 /* Complain if any of the timeouts are zero. */
434
435 if (ob->command_timeout <= 0 || ob->data_timeout <= 0 ||
436     ob->final_timeout <= 0)
437   log_write(0, LOG_PANIC_DIE|LOG_CONFIG,
438     "command, data, or final timeout value is zero for %s transport",
439       tblock->name);
440
441 /* If hosts_override is set and there are local hosts, set the global
442 flag that stops verify from showing router hosts. */
443
444 if (ob->hosts_override && ob->hosts != NULL) tblock->overrides_hosts = TRUE;
445
446 /* If there are any fallback hosts listed, build a chain of host items
447 for them, but do not do any lookups at this time. */
448
449 host_build_hostlist(&(ob->fallback_hostlist), ob->fallback_hosts, FALSE);
450 }
451
452
453
454
455
456 /*************************************************
457 *   Set delivery info into all active addresses  *
458 *************************************************/
459
460 /* Only addresses whose status is >= PENDING are relevant. A lesser
461 status means that an address is not currently being processed.
462
463 Arguments:
464   addrlist       points to a chain of addresses
465   errno_value    to put in each address's errno field
466   msg            to put in each address's message field
467   rc             to put in each address's transport_return field
468   pass_message   if TRUE, set the "pass message" flag in the address
469   host           if set, mark addrs as having used this host
470   smtp_greeting  from peer
471   helo_response  from peer
472   start          points to timestamp of delivery start
473
474 If errno_value has the special value ERRNO_CONNECTTIMEOUT, ETIMEDOUT is put in
475 the errno field, and RTEF_CTOUT is ORed into the more_errno field, to indicate
476 this particular type of timeout.
477
478 Returns:       nothing
479 */
480
481 static void
482 set_errno(address_item *addrlist, int errno_value, uschar *msg, int rc,
483   BOOL pass_message, host_item * host,
484 #ifdef EXPERIMENTAL_DSN_INFO
485   const uschar * smtp_greeting, const uschar * helo_response,
486 #endif
487   struct timeval * start
488   )
489 {
490 int orvalue = 0;
491 struct timeval deliver_time;
492
493 if (errno_value == ERRNO_CONNECTTIMEOUT)
494   {
495   errno_value = ETIMEDOUT;
496   orvalue = RTEF_CTOUT;
497   }
498 timesince(&deliver_time, start);
499
500 for (address_item * addr = addrlist; addr; addr = addr->next)
501   if (addr->transport_return >= PENDING)
502     {
503     addr->basic_errno = errno_value;
504     addr->more_errno |= orvalue;
505     addr->delivery_time = deliver_time;
506     if (msg)
507       {
508       addr->message = msg;
509       if (pass_message) setflag(addr, af_pass_message);
510       }
511     addr->transport_return = rc;
512     if (host)
513       {
514       addr->host_used = host;
515 #ifdef EXPERIMENTAL_DSN_INFO
516       if (smtp_greeting)
517         {uschar * s = Ustrchr(smtp_greeting, '\n'); if (s) *s = '\0';}
518       addr->smtp_greeting = smtp_greeting;
519
520       if (helo_response)
521         {uschar * s = Ustrchr(helo_response, '\n'); if (s) *s = '\0';}
522       addr->helo_response = helo_response;
523 #endif
524       }
525     }
526 }
527
528 static void
529 set_errno_nohost(address_item * addrlist, int errno_value, uschar * msg, int rc,
530   BOOL pass_message, struct timeval * start)
531 {
532 set_errno(addrlist, errno_value, msg, rc, pass_message, NULL,
533 #ifdef EXPERIMENTAL_DSN_INFO
534           NULL, NULL,
535 #endif
536           start);
537 }
538
539
540 /*************************************************
541 *          Check an SMTP response                *
542 *************************************************/
543
544 /* This function is given an errno code and the SMTP response buffer
545 to analyse, together with the host identification for generating messages. It
546 sets an appropriate message and puts the first digit of the response code into
547 the yield variable. If no response was actually read, a suitable digit is
548 chosen.
549
550 Arguments:
551   host           the current host, to get its name for messages
552   errno_value    pointer to the errno value
553   more_errno     from the top address for use with ERRNO_FILTER_FAIL
554   buffer         the SMTP response buffer
555   yield          where to put a one-digit SMTP response code
556   message        where to put an error message
557   pass_message   set TRUE if message is an SMTP response
558
559 Returns:         TRUE if an SMTP "QUIT" command should be sent, else FALSE
560 */
561
562 static BOOL
563 check_response(host_item *host, int *errno_value, int more_errno,
564   uschar *buffer, int *yield, uschar **message, BOOL *pass_message)
565 {
566 uschar * pl = pipelining_active ? US"pipelined " : US"";
567 const uschar * s;
568
569 *yield = '4';    /* Default setting is to give a temporary error */
570
571 switch(*errno_value)
572   {
573   case ETIMEDOUT:               /* Handle response timeout */
574     *message = US string_sprintf("SMTP timeout after %s%s",
575         pl, smtp_command);
576     if (transport_count > 0)
577       *message = US string_sprintf("%s (%d bytes written)", *message,
578         transport_count);
579     return FALSE;
580
581   case ERRNO_SMTPFORMAT:        /* Handle malformed SMTP response */
582     s = string_printing(buffer);
583     while (isspace(*s)) s++;
584     *message = *s == 0
585       ? string_sprintf("Malformed SMTP reply (an empty line) "
586           "in response to %s%s", pl, smtp_command)
587       : string_sprintf("Malformed SMTP reply in response to %s%s: %s",
588           pl, smtp_command, s);
589     return FALSE;
590
591   case ERRNO_TLSFAILURE:        /* Handle bad first read; can happen with
592                                 GnuTLS and TLS1.3 */
593     *message = US"bad first read from TLS conn";
594     return TRUE;
595
596   case ERRNO_FILTER_FAIL:       /* Handle a failed filter process error;
597                           can't send QUIT as we mustn't end the DATA. */
598     *message = string_sprintf("transport filter process failed (%d)%s",
599       more_errno,
600       more_errno == EX_EXECFAILED ? ": unable to execute command" : "");
601     return FALSE;
602
603   case ERRNO_CHHEADER_FAIL:     /* Handle a failed add_headers expansion;
604                             can't send QUIT as we mustn't end the DATA. */
605     *message =
606       string_sprintf("failed to expand headers_add or headers_remove: %s",
607         expand_string_message);
608     return FALSE;
609
610   case ERRNO_WRITEINCOMPLETE:   /* failure to write a complete data block */
611     *message = US"failed to write a data block";
612     return FALSE;
613
614 #ifdef SUPPORT_I18N
615   case ERRNO_UTF8_FWD: /* no advertised SMTPUTF8, for international message */
616     *message = US"utf8 support required but not offered for forwarding";
617     DEBUG(D_deliver|D_transport) debug_printf("%s\n", *message);
618     return TRUE;
619 #endif
620   }
621
622 /* Handle error responses from the remote mailer. */
623
624 if (buffer[0] != 0)
625   {
626   *message = string_sprintf("SMTP error from remote mail server after %s%s: "
627     "%s", pl, smtp_command, s = string_printing(buffer));
628   *pass_message = TRUE;
629   *yield = buffer[0];
630   return TRUE;
631   }
632
633 /* No data was read. If there is no errno, this must be the EOF (i.e.
634 connection closed) case, which causes deferral. An explicit connection reset
635 error has the same effect. Otherwise, put the host's identity in the message,
636 leaving the errno value to be interpreted as well. In all cases, we have to
637 assume the connection is now dead. */
638
639 if (*errno_value == 0 || *errno_value == ECONNRESET)
640   {
641   *errno_value = ERRNO_SMTPCLOSED;
642   *message = US string_sprintf("Remote host closed connection "
643     "in response to %s%s", pl, smtp_command);
644   }
645 else
646   *message = US string_sprintf("%s [%s]", host->name, host->address);
647
648 return FALSE;
649 }
650
651
652
653 /*************************************************
654 *          Write error message to logs           *
655 *************************************************/
656
657 /* This writes to the main log and to the message log.
658
659 Arguments:
660   host     the current host
661   detail  the current message (addr_item->message)
662   basic_errno the errno (addr_item->basic_errno)
663
664 Returns:   nothing
665 */
666
667 static void
668 write_logs(const host_item *host, const uschar *suffix, int basic_errno)
669 {
670 gstring * message = LOGGING(outgoing_port)
671   ? string_fmt_append(NULL, "H=%s [%s]:%d", host->name, host->address,
672                     host->port == PORT_NONE ? 25 : host->port)
673   : string_fmt_append(NULL, "H=%s [%s]", host->name, host->address);
674
675 if (suffix)
676   {
677   message = string_fmt_append(message, ": %s", suffix);
678   if (basic_errno > 0)
679     message = string_fmt_append(message, ": %s", strerror(basic_errno));
680   }
681 else
682   message = string_fmt_append(message, " %s", exim_errstr(basic_errno));
683
684 log_write(0, LOG_MAIN, "%s", string_from_gstring(message));
685 deliver_msglog("%s %s\n", tod_stamp(tod_log), message->s);
686 }
687
688 static void
689 msglog_line(host_item * host, uschar * message)
690 {
691 deliver_msglog("%s H=%s [%s] %s\n", tod_stamp(tod_log),
692   host->name, host->address, message);
693 }
694
695
696
697 #ifndef DISABLE_EVENT
698 /*************************************************
699 *   Post-defer action                            *
700 *************************************************/
701
702 /* This expands an arbitrary per-transport string.
703    It might, for example, be used to write to the database log.
704
705 Arguments:
706   addr                  the address item containing error information
707   host                  the current host
708   evstr                 the event
709
710 Returns:   nothing
711 */
712
713 static void
714 deferred_event_raise(address_item * addr, host_item * host, uschar * evstr)
715 {
716 uschar * action = addr->transport->event_action;
717 const uschar * save_domain;
718 uschar * save_local;
719
720 if (!action)
721   return;
722
723 save_domain = deliver_domain;
724 save_local = deliver_localpart;
725
726 /*XXX would ip & port already be set up? */
727 deliver_host_address = string_copy(host->address);
728 deliver_host_port =    host->port == PORT_NONE ? 25 : host->port;
729 event_defer_errno =    addr->basic_errno;
730
731 router_name =    addr->router->name;
732 transport_name = addr->transport->name;
733 deliver_domain = addr->domain;
734 deliver_localpart = addr->local_part;
735
736 (void) event_raise(action, evstr,
737     addr->message
738       ? addr->basic_errno > 0
739         ? string_sprintf("%s: %s", addr->message, strerror(addr->basic_errno))
740         : string_copy(addr->message)
741       : addr->basic_errno > 0
742         ? string_copy(US strerror(addr->basic_errno))
743         : NULL);
744
745 deliver_localpart = save_local;
746 deliver_domain =    save_domain;
747 router_name = transport_name = NULL;
748 }
749 #endif
750
751 /*************************************************
752 *           Reap SMTP specific responses         *
753 *************************************************/
754 static int
755 smtp_discard_responses(smtp_context * sx, smtp_transport_options_block * ob,
756   int count)
757 {
758 uschar flushbuffer[4096];
759
760 while (count-- > 0)
761   {
762   if (!smtp_read_response(sx, flushbuffer, sizeof(flushbuffer),
763              '2', ob->command_timeout)
764       && (errno != 0 || flushbuffer[0] == 0))
765     break;
766   }
767 return count;
768 }
769
770
771 /* Return boolean success */
772
773 static BOOL
774 smtp_reap_banner(smtp_context * sx)
775 {
776 BOOL good_response = smtp_read_response(sx, sx->buffer, sizeof(sx->buffer),
777   '2', (SOB sx->conn_args.ob)->command_timeout);
778 #ifdef EXPERIMENTAL_DSN_INFO
779 sx->smtp_greeting = string_copy(sx->buffer);
780 #endif
781 return good_response;
782 }
783
784 static BOOL
785 smtp_reap_ehlo(smtp_context * sx)
786 {
787 if (!smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '2',
788        (SOB sx->conn_args.ob)->command_timeout))
789   {
790   if (errno != 0 || sx->buffer[0] == 0 || sx->lmtp)
791     {
792 #ifdef EXPERIMENTAL_DSN_INFO
793     sx->helo_response = string_copy(sx->buffer);
794 #endif
795     return FALSE;
796     }
797   sx->esmtp = FALSE;
798   }
799 #ifdef EXPERIMENTAL_DSN_INFO
800 sx->helo_response = string_copy(sx->buffer);
801 #endif
802 #ifndef DISABLE_EVENT
803 (void) event_raise(sx->conn_args.tblock->event_action,
804   US"smtp:ehlo", sx->buffer);
805 #endif
806 return TRUE;
807 }
808
809
810
811 #ifndef DISABLE_PIPE_CONNECT
812 static uschar *
813 ehlo_cache_key(const smtp_context * sx)
814 {
815 host_item * host = sx->conn_args.host;
816 return Ustrchr(host->address, ':')
817   ? string_sprintf("[%s]:%d.EHLO", host->address,
818     host->port == PORT_NONE ? sx->port : host->port)
819   : string_sprintf("%s:%d.EHLO", host->address,
820     host->port == PORT_NONE ? sx->port : host->port);
821 }
822
823 static void
824 write_ehlo_cache_entry(const smtp_context * sx)
825 {
826 open_db dbblock, * dbm_file;
827
828 if ((dbm_file = dbfn_open(US"misc", O_RDWR, &dbblock, TRUE, TRUE)))
829   {
830   uschar * ehlo_resp_key = ehlo_cache_key(sx);
831   dbdata_ehlo_resp er = { .data = sx->ehlo_resp };
832
833   HDEBUG(D_transport) debug_printf("writing clr %04x/%04x cry %04x/%04x\n",
834     sx->ehlo_resp.cleartext_features, sx->ehlo_resp.cleartext_auths,
835     sx->ehlo_resp.crypted_features, sx->ehlo_resp.crypted_auths);
836
837   dbfn_write(dbm_file, ehlo_resp_key, &er, (int)sizeof(er));
838   dbfn_close(dbm_file);
839   }
840 }
841
842 static void
843 invalidate_ehlo_cache_entry(smtp_context * sx)
844 {
845 open_db dbblock, * dbm_file;
846
847 if (  sx->early_pipe_active
848    && (dbm_file = dbfn_open(US"misc", O_RDWR, &dbblock, TRUE, TRUE)))
849   {
850   uschar * ehlo_resp_key = ehlo_cache_key(sx);
851   dbfn_delete(dbm_file, ehlo_resp_key);
852   dbfn_close(dbm_file);
853   }
854 }
855
856 static BOOL
857 read_ehlo_cache_entry(smtp_context * sx)
858 {
859 open_db dbblock;
860 open_db * dbm_file;
861
862 if (!(dbm_file = dbfn_open(US"misc", O_RDONLY, &dbblock, FALSE, TRUE)))
863   { DEBUG(D_transport) debug_printf("ehlo-cache: no misc DB\n"); }
864 else
865   {
866   uschar * ehlo_resp_key = ehlo_cache_key(sx);
867   dbdata_ehlo_resp * er;
868
869   if (!(er = dbfn_read(dbm_file, ehlo_resp_key)))
870     { DEBUG(D_transport) debug_printf("no ehlo-resp record\n"); }
871   else if (time(NULL) - er->time_stamp > retry_data_expire)
872     {
873     DEBUG(D_transport) debug_printf("ehlo-resp record too old\n");
874     dbfn_close(dbm_file);
875     if ((dbm_file = dbfn_open(US"misc", O_RDWR, &dbblock, TRUE, TRUE)))
876       dbfn_delete(dbm_file, ehlo_resp_key);
877     }
878   else
879     {
880     sx->ehlo_resp = er->data;
881     dbfn_close(dbm_file);
882     DEBUG(D_transport) debug_printf(
883         "EHLO response bits from cache: cleartext 0x%04x/0x%04x crypted 0x%04x/0x%04x\n",
884         er->data.cleartext_features, er->data.cleartext_auths,
885         er->data.crypted_features, er->data.crypted_auths);
886     return TRUE;
887     }
888   dbfn_close(dbm_file);
889   }
890 return FALSE;
891 }
892
893
894
895 /* Return an auths bitmap for the set of AUTH methods offered by the server
896 which match our authenticators. */
897
898 static unsigned short
899 study_ehlo_auths(smtp_context * sx)
900 {
901 uschar * names;
902 auth_instance * au;
903 uschar authnum;
904 unsigned short authbits = 0;
905
906 if (!sx->esmtp) return 0;
907 if (!regex_AUTH) regex_AUTH = regex_must_compile(AUTHS_REGEX, FALSE, TRUE);
908 if (!regex_match_and_setup(regex_AUTH, sx->buffer, 0, -1)) return 0;
909 expand_nmax = -1;                                               /* reset */
910 names = string_copyn(expand_nstring[1], expand_nlength[1]);
911
912 for (au = auths, authnum = 0; au; au = au->next, authnum++) if (au->client)
913   {
914   const uschar * list = names;
915   uschar * s;
916   for (int sep = ' '; s = string_nextinlist(&list, &sep, NULL, 0); )
917     if (strcmpic(au->public_name, s) == 0)
918       { authbits |= BIT(authnum); break; }
919   }
920
921 DEBUG(D_transport)
922   debug_printf("server offers %s AUTH, methods '%s', bitmap 0x%04x\n",
923     tls_out.active.sock >= 0 ? "crypted" : "plaintext", names, authbits);
924
925 if (tls_out.active.sock >= 0)
926   sx->ehlo_resp.crypted_auths = authbits;
927 else
928   sx->ehlo_resp.cleartext_auths = authbits;
929 return authbits;
930 }
931
932
933
934
935 /* Wait for and check responses for early-pipelining.
936
937 Called from the lower-level smtp_read_response() function
938 used for general code that assume synchronisation, if context
939 flags indicate outstanding early-pipelining commands.  Also
940 called fom sync_responses() which handles pipelined commands.
941
942 Arguments:
943  sx     smtp connection context
944  countp number of outstanding responses, adjusted on return
945
946 Return:
947  OK     all well
948  DEFER  error on first read of TLS'd conn
949  FAIL   SMTP error in response
950 */
951 int
952 smtp_reap_early_pipe(smtp_context * sx, int * countp)
953 {
954 BOOL pending_BANNER = sx->pending_BANNER;
955 BOOL pending_EHLO = sx->pending_EHLO;
956 int rc = FAIL;
957
958 sx->pending_BANNER = FALSE;     /* clear early to avoid recursion */
959 sx->pending_EHLO = FALSE;
960
961 if (pending_BANNER)
962   {
963   DEBUG(D_transport) debug_printf("%s expect banner\n", __FUNCTION__);
964   (*countp)--;
965   if (!smtp_reap_banner(sx))
966     {
967     DEBUG(D_transport) debug_printf("bad banner\n");
968     if (tls_out.active.sock >= 0) rc = DEFER;
969     goto fail;
970     }
971   }
972
973 if (pending_EHLO)
974   {
975   unsigned peer_offered;
976   unsigned short authbits = 0, * ap;
977
978   DEBUG(D_transport) debug_printf("%s expect ehlo\n", __FUNCTION__);
979   (*countp)--;
980   if (!smtp_reap_ehlo(sx))
981     {
982     DEBUG(D_transport) debug_printf("bad response for EHLO\n");
983     if (tls_out.active.sock >= 0) rc = DEFER;
984     goto fail;
985     }
986
987   /* Compare the actual EHLO response to the cached value we assumed;
988   on difference, dump or rewrite the cache and arrange for a retry. */
989
990   ap = tls_out.active.sock < 0
991       ? &sx->ehlo_resp.cleartext_auths : &sx->ehlo_resp.crypted_auths;
992
993   peer_offered = ehlo_response(sx->buffer,
994           (tls_out.active.sock < 0 ?  OPTION_TLS : 0)
995         | OPTION_CHUNKING | OPTION_PRDR | OPTION_DSN | OPTION_PIPE | OPTION_SIZE
996         | OPTION_UTF8 | OPTION_EARLY_PIPE
997         );
998   if (  peer_offered != sx->peer_offered
999      || (authbits = study_ehlo_auths(sx)) != *ap)
1000     {
1001     HDEBUG(D_transport)
1002       debug_printf("EHLO %s extensions changed, 0x%04x/0x%04x -> 0x%04x/0x%04x\n",
1003                     tls_out.active.sock < 0 ? "cleartext" : "crypted",
1004                     sx->peer_offered, *ap, peer_offered, authbits);
1005     *(tls_out.active.sock < 0
1006       ? &sx->ehlo_resp.cleartext_features : &sx->ehlo_resp.crypted_features) = peer_offered;
1007     *ap = authbits;
1008     if (peer_offered & OPTION_EARLY_PIPE)
1009       write_ehlo_cache_entry(sx);
1010     else
1011       invalidate_ehlo_cache_entry(sx);
1012
1013     return OK;          /* just carry on */
1014     }
1015   }
1016 return OK;
1017
1018 fail:
1019   invalidate_ehlo_cache_entry(sx);
1020   (void) smtp_discard_responses(sx, sx->conn_args.ob, *countp);
1021   return rc;
1022 }
1023 #endif
1024
1025
1026 /*************************************************
1027 *           Synchronize SMTP responses           *
1028 *************************************************/
1029
1030 /* This function is called from smtp_deliver() to receive SMTP responses from
1031 the server, and match them up with the commands to which they relate. When
1032 PIPELINING is not in use, this function is called after every command, and is
1033 therefore somewhat over-engineered, but it is simpler to use a single scheme
1034 that works both with and without PIPELINING instead of having two separate sets
1035 of code.
1036
1037 The set of commands that are buffered up with pipelining may start with MAIL
1038 and may end with DATA; in between are RCPT commands that correspond to the
1039 addresses whose status is PENDING_DEFER. All other commands (STARTTLS, AUTH,
1040 etc.) are never buffered.
1041
1042 Errors after MAIL or DATA abort the whole process leaving the response in the
1043 buffer. After MAIL, pending responses are flushed, and the original command is
1044 re-instated in big_buffer for error messages. For RCPT commands, the remote is
1045 permitted to reject some recipient addresses while accepting others. However
1046 certain errors clearly abort the whole process. Set the value in
1047 transport_return to PENDING_OK if the address is accepted. If there is a
1048 subsequent general error, it will get reset accordingly. If not, it will get
1049 converted to OK at the end.
1050
1051 Arguments:
1052   sx                smtp connection context
1053   count             the number of responses to read
1054   pending_DATA      0 if last command sent was not DATA
1055                    +1 if previously had a good recipient
1056                    -1 if not previously had a good recipient
1057
1058 Returns:      3 if at least one address had 2xx and one had 5xx
1059               2 if at least one address had 5xx but none had 2xx
1060               1 if at least one host had a 2xx response, but none had 5xx
1061               0 no address had 2xx or 5xx but no errors (all 4xx, or just DATA)
1062              -1 timeout while reading RCPT response
1063              -2 I/O or other non-response error for RCPT
1064              -3 DATA or MAIL failed - errno and buffer set
1065              -4 banner or EHLO failed (early-pipelining)
1066              -5 banner or EHLO failed (early-pipelining, TLS)
1067 */
1068
1069 static int
1070 sync_responses(smtp_context * sx, int count, int pending_DATA)
1071 {
1072 address_item * addr = sx->sync_addr;
1073 smtp_transport_options_block * ob = sx->conn_args.ob;
1074 int yield = 0;
1075
1076 #ifndef DISABLE_PIPE_CONNECT
1077 int rc;
1078 if ((rc = smtp_reap_early_pipe(sx, &count)) != OK)
1079   return rc == FAIL ? -4 : -5;
1080 #endif
1081
1082 /* Handle the response for a MAIL command. On error, reinstate the original
1083 command in big_buffer for error message use, and flush any further pending
1084 responses before returning, except after I/O errors and timeouts. */
1085
1086 if (sx->pending_MAIL)
1087   {
1088   DEBUG(D_transport) debug_printf("%s expect mail\n", __FUNCTION__);
1089   count--;
1090   sx->pending_MAIL = FALSE;
1091   if (!smtp_read_response(sx, sx->buffer, sizeof(sx->buffer),
1092                           '2', ob->command_timeout))
1093     {
1094     DEBUG(D_transport) debug_printf("bad response for MAIL\n");
1095     Ustrcpy(big_buffer, mail_command);  /* Fits, because it came from there! */
1096     if (errno == ERRNO_TLSFAILURE)
1097       return -5;
1098     if (errno == 0 && sx->buffer[0] != 0)
1099       {
1100       int save_errno = 0;
1101       if (sx->buffer[0] == '4')
1102         {
1103         save_errno = ERRNO_MAIL4XX;
1104         addr->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
1105         }
1106       count = smtp_discard_responses(sx, ob, count);
1107       errno = save_errno;
1108       }
1109
1110     if (pending_DATA) count--;  /* Number of RCPT responses to come */
1111     while (count-- > 0)         /* Mark any pending addrs with the host used */
1112       {
1113       while (addr->transport_return != PENDING_DEFER) addr = addr->next;
1114       addr->host_used = sx->conn_args.host;
1115       addr = addr->next;
1116       }
1117     return -3;
1118     }
1119   }
1120
1121 if (pending_DATA) count--;  /* Number of RCPT responses to come */
1122
1123 /* Read and handle the required number of RCPT responses, matching each one up
1124 with an address by scanning for the next address whose status is PENDING_DEFER.
1125 */
1126
1127 while (count-- > 0)
1128   {
1129   while (addr->transport_return != PENDING_DEFER)
1130     if (!(addr = addr->next))
1131       return -2;
1132
1133   /* The address was accepted */
1134   addr->host_used = sx->conn_args.host;
1135
1136   DEBUG(D_transport) debug_printf("%s expect rcpt\n", __FUNCTION__);
1137   if (smtp_read_response(sx, sx->buffer, sizeof(sx->buffer),
1138                           '2', ob->command_timeout))
1139     {
1140     yield |= 1;
1141     addr->transport_return = PENDING_OK;
1142
1143     /* If af_dr_retry_exists is set, there was a routing delay on this address;
1144     ensure that any address-specific retry record is expunged. We do this both
1145     for the basic key and for the version that also includes the sender. */
1146
1147     if (testflag(addr, af_dr_retry_exists))
1148       {
1149       uschar *altkey = string_sprintf("%s:<%s>", addr->address_retry_key,
1150         sender_address);
1151       retry_add_item(addr, altkey, rf_delete);
1152       retry_add_item(addr, addr->address_retry_key, rf_delete);
1153       }
1154     }
1155
1156   /* Error on first TLS read */
1157
1158   else if (errno == ERRNO_TLSFAILURE)
1159     return -5;
1160
1161   /* Timeout while reading the response */
1162
1163   else if (errno == ETIMEDOUT)
1164     {
1165     uschar *message = string_sprintf("SMTP timeout after RCPT TO:<%s>",
1166                 transport_rcpt_address(addr, sx->conn_args.tblock->rcpt_include_affixes));
1167     set_errno_nohost(sx->first_addr, ETIMEDOUT, message, DEFER, FALSE, &sx->delivery_start);
1168     retry_add_item(addr, addr->address_retry_key, 0);
1169     update_waiting = FALSE;
1170     return -1;
1171     }
1172
1173   /* Handle other errors in obtaining an SMTP response by returning -1. This
1174   will cause all the addresses to be deferred. Restore the SMTP command in
1175   big_buffer for which we are checking the response, so the error message
1176   makes sense. */
1177
1178   else if (errno != 0 || sx->buffer[0] == 0)
1179     {
1180     gstring gs = { .size = big_buffer_size, .ptr = 0, .s = big_buffer }, * g = &gs;
1181
1182     /* Use taint-unchecked routines for writing into big_buffer, trusting
1183     that we'll never expand it. */
1184
1185     g = string_fmt_append_f(g, SVFMT_TAINT_NOCHK, "RCPT TO:<%s>",
1186       transport_rcpt_address(addr, sx->conn_args.tblock->rcpt_include_affixes));
1187     string_from_gstring(g);
1188     return -2;
1189     }
1190
1191   /* Handle SMTP permanent and temporary response codes. */
1192
1193   else
1194     {
1195     addr->message =
1196       string_sprintf("SMTP error from remote mail server after RCPT TO:<%s>: "
1197         "%s", transport_rcpt_address(addr, sx->conn_args.tblock->rcpt_include_affixes),
1198         string_printing(sx->buffer));
1199     setflag(addr, af_pass_message);
1200     if (!sx->verify)
1201       msglog_line(sx->conn_args.host, addr->message);
1202
1203     /* The response was 5xx */
1204
1205     if (sx->buffer[0] == '5')
1206       {
1207       addr->transport_return = FAIL;
1208       yield |= 2;
1209       }
1210
1211     /* The response was 4xx */
1212
1213     else
1214       {
1215       addr->transport_return = DEFER;
1216       addr->basic_errno = ERRNO_RCPT4XX;
1217       addr->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
1218
1219       if (!sx->verify)
1220         {
1221 #ifndef DISABLE_EVENT
1222         event_defer_errno = addr->more_errno;
1223         msg_event_raise(US"msg:rcpt:host:defer", addr);
1224 #endif
1225         /* If a 452 and we've had at least one 2xx or 5xx, set next_addr to the
1226         start point for another MAIL command. */
1227
1228         if (addr->more_errno >> 8 == 52  &&  yield & 3)
1229           {
1230           if (!sx->RCPT_452)
1231             {
1232             DEBUG(D_transport)
1233               debug_printf("%s: seen first 452 too-many-rcpts\n", __FUNCTION__);
1234             sx->RCPT_452 = TRUE;
1235             sx->next_addr = addr;
1236             }
1237           addr->transport_return = PENDING_DEFER;
1238           addr->basic_errno = 0;
1239           }
1240         else
1241           {
1242           /* Log temporary errors if there are more hosts to be tried.
1243           If not, log this last one in the == line. */
1244
1245           if (sx->conn_args.host->next)
1246             if (LOGGING(outgoing_port))
1247               log_write(0, LOG_MAIN, "H=%s [%s]:%d %s", sx->conn_args.host->name,
1248                 sx->conn_args.host->address,
1249                 sx->port == PORT_NONE ? 25 : sx->port, addr->message);
1250             else
1251               log_write(0, LOG_MAIN, "H=%s [%s]: %s", sx->conn_args.host->name,
1252                 sx->conn_args.host->address, addr->message);
1253
1254 #ifndef DISABLE_EVENT
1255           else
1256             msg_event_raise(US"msg:rcpt:defer", addr);
1257 #endif
1258
1259           /* Do not put this message on the list of those waiting for specific
1260           hosts, as otherwise it is likely to be tried too often. */
1261
1262           update_waiting = FALSE;
1263
1264           /* Add a retry item for the address so that it doesn't get tried again
1265           too soon. If address_retry_include_sender is true, add the sender address
1266           to the retry key. */
1267
1268           retry_add_item(addr,
1269             ob->address_retry_include_sender
1270               ? string_sprintf("%s:<%s>", addr->address_retry_key, sender_address)
1271               : addr->address_retry_key,
1272             0);
1273           }
1274         }
1275       }
1276     }
1277   }       /* Loop for next RCPT response */
1278
1279 /* Update where to start at for the next block of responses, unless we
1280 have already handled all the addresses. */
1281
1282 if (addr) sx->sync_addr = addr->next;
1283
1284 /* Handle a response to DATA. If we have not had any good recipients, either
1285 previously or in this block, the response is ignored. */
1286
1287 if (pending_DATA != 0)
1288   {
1289   DEBUG(D_transport) debug_printf("%s expect data\n", __FUNCTION__);
1290   if (!smtp_read_response(sx, sx->buffer, sizeof(sx->buffer),
1291                         '3', ob->command_timeout))
1292     {
1293     int code;
1294     uschar *msg;
1295     BOOL pass_message;
1296
1297     if (errno == ERRNO_TLSFAILURE)      /* Error on first TLS read */
1298       return -5;
1299
1300     if (pending_DATA > 0 || (yield & 1) != 0)
1301       {
1302       if (errno == 0 && sx->buffer[0] == '4')
1303         {
1304         errno = ERRNO_DATA4XX;
1305         sx->first_addr->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
1306         }
1307       return -3;
1308       }
1309     (void)check_response(sx->conn_args.host, &errno, 0, sx->buffer, &code, &msg, &pass_message);
1310     DEBUG(D_transport) debug_printf("%s\nerror for DATA ignored: pipelining "
1311       "is in use and there were no good recipients\n", msg);
1312     }
1313   }
1314
1315 /* All responses read and handled; MAIL (if present) received 2xx and DATA (if
1316 present) received 3xx. If any RCPTs were handled and yielded anything other
1317 than 4xx, yield will be set non-zero. */
1318
1319 return yield;
1320 }
1321
1322
1323
1324
1325
1326 /* Try an authenticator's client entry */
1327
1328 static int
1329 try_authenticator(smtp_context * sx, auth_instance * au)
1330 {
1331 smtp_transport_options_block * ob = sx->conn_args.ob;   /* transport options */
1332 host_item * host = sx->conn_args.host;                  /* host to deliver to */
1333 int rc;
1334
1335 sx->outblock.authenticating = TRUE;
1336 rc = (au->info->clientcode)(au, sx, ob->command_timeout,
1337                             sx->buffer, sizeof(sx->buffer));
1338 sx->outblock.authenticating = FALSE;
1339 DEBUG(D_transport) debug_printf("%s authenticator yielded %d\n", au->name, rc);
1340
1341 /* A temporary authentication failure must hold up delivery to
1342 this host. After a permanent authentication failure, we carry on
1343 to try other authentication methods. If all fail hard, try to
1344 deliver the message unauthenticated unless require_auth was set. */
1345
1346 switch(rc)
1347   {
1348   case OK:
1349     f.smtp_authenticated = TRUE;   /* stops the outer loop */
1350     client_authenticator = au->name;
1351     if (au->set_client_id)
1352       client_authenticated_id = expand_string(au->set_client_id);
1353     break;
1354
1355   /* Failure after writing a command */
1356
1357   case FAIL_SEND:
1358     return FAIL_SEND;
1359
1360   /* Failure after reading a response */
1361
1362   case FAIL:
1363     if (errno != 0 || sx->buffer[0] != '5') return FAIL;
1364     log_write(0, LOG_MAIN, "%s authenticator failed H=%s [%s] %s",
1365       au->name, host->name, host->address, sx->buffer);
1366     break;
1367
1368   /* Failure by some other means. In effect, the authenticator
1369   decided it wasn't prepared to handle this case. Typically this
1370   is the result of "fail" in an expansion string. Do we need to
1371   log anything here? Feb 2006: a message is now put in the buffer
1372   if logging is required. */
1373
1374   case CANCELLED:
1375     if (*sx->buffer != 0)
1376       log_write(0, LOG_MAIN, "%s authenticator cancelled "
1377         "authentication H=%s [%s] %s", au->name, host->name,
1378         host->address, sx->buffer);
1379     break;
1380
1381   /* Internal problem, message in buffer. */
1382
1383   case ERROR:
1384     set_errno_nohost(sx->addrlist, ERRNO_AUTHPROB, string_copy(sx->buffer),
1385               DEFER, FALSE, &sx->delivery_start);
1386     return ERROR;
1387   }
1388 return OK;
1389 }
1390
1391
1392
1393
1394 /* Do the client side of smtp-level authentication.
1395
1396 Arguments:
1397   sx            smtp connection context
1398
1399 sx->buffer should have the EHLO response from server (gets overwritten)
1400
1401 Returns:
1402   OK                    Success, or failed (but not required): global "smtp_authenticated" set
1403   DEFER                 Failed authentication (and was required)
1404   ERROR                 Internal problem
1405
1406   FAIL_SEND             Failed communications - transmit
1407   FAIL                  - response
1408 */
1409
1410 static int
1411 smtp_auth(smtp_context * sx)
1412 {
1413 host_item * host = sx->conn_args.host;                  /* host to deliver to */
1414 smtp_transport_options_block * ob = sx->conn_args.ob;   /* transport options */
1415 int require_auth = verify_check_given_host(CUSS &ob->hosts_require_auth, host);
1416 #ifndef DISABLE_PIPE_CONNECT
1417 unsigned short authbits = tls_out.active.sock >= 0
1418       ? sx->ehlo_resp.crypted_auths : sx->ehlo_resp.cleartext_auths;
1419 #endif
1420 uschar * fail_reason = US"server did not advertise AUTH support";
1421
1422 f.smtp_authenticated = FALSE;
1423 client_authenticator = client_authenticated_id = client_authenticated_sender = NULL;
1424
1425 if (!regex_AUTH)
1426   regex_AUTH = regex_must_compile(AUTHS_REGEX, FALSE, TRUE);
1427
1428 /* Is the server offering AUTH? */
1429
1430 if (  sx->esmtp
1431    &&
1432 #ifndef DISABLE_PIPE_CONNECT
1433       sx->early_pipe_active ? authbits
1434       :
1435 #endif
1436         regex_match_and_setup(regex_AUTH, sx->buffer, 0, -1)
1437    )
1438   {
1439   uschar * names = NULL;
1440   expand_nmax = -1;                          /* reset */
1441
1442 #ifndef DISABLE_PIPE_CONNECT
1443   if (!sx->early_pipe_active)
1444 #endif
1445     names = string_copyn(expand_nstring[1], expand_nlength[1]);
1446
1447   /* Must not do this check until after we have saved the result of the
1448   regex match above as the check could be another RE. */
1449
1450   if (  require_auth == OK
1451      || verify_check_given_host(CUSS &ob->hosts_try_auth, host) == OK)
1452     {
1453     DEBUG(D_transport) debug_printf("scanning authentication mechanisms\n");
1454     fail_reason = US"no common mechanisms were found";
1455
1456 #ifndef DISABLE_PIPE_CONNECT
1457     if (sx->early_pipe_active)
1458       {
1459       /* Scan our authenticators (which support use by a client and were offered
1460       by the server (checked at cache-write time)), not suppressed by
1461       client_condition.  If one is found, attempt to authenticate by calling its
1462       client function.  We are limited to supporting up to 16 authenticator
1463       public-names by the number of bits in a short. */
1464
1465       auth_instance * au;
1466       uschar bitnum;
1467       int rc;
1468
1469       for (bitnum = 0, au = auths;
1470            !f.smtp_authenticated && au && bitnum < 16;
1471            bitnum++, au = au->next) if (authbits & BIT(bitnum))
1472         {
1473         if (  au->client_condition
1474            && !expand_check_condition(au->client_condition, au->name,
1475                    US"client authenticator"))
1476           {
1477           DEBUG(D_transport) debug_printf("skipping %s authenticator: %s\n",
1478             au->name, "client_condition is false");
1479           continue;
1480           }
1481
1482         /* Found data for a listed mechanism. Call its client entry. Set
1483         a flag in the outblock so that data is overwritten after sending so
1484         that reflections don't show it. */
1485
1486         fail_reason = US"authentication attempt(s) failed";
1487
1488         if ((rc = try_authenticator(sx, au)) != OK)
1489           return rc;
1490         }
1491       }
1492     else
1493 #endif
1494
1495     /* Scan the configured authenticators looking for one which is configured
1496     for use as a client, which is not suppressed by client_condition, and
1497     whose name matches an authentication mechanism supported by the server.
1498     If one is found, attempt to authenticate by calling its client function.
1499     */
1500
1501     for (auth_instance * au = auths; !f.smtp_authenticated && au; au = au->next)
1502       {
1503       uschar *p = names;
1504
1505       if (  !au->client
1506          || (   au->client_condition
1507             &&  !expand_check_condition(au->client_condition, au->name,
1508                    US"client authenticator")))
1509         {
1510         DEBUG(D_transport) debug_printf("skipping %s authenticator: %s\n",
1511           au->name,
1512           (au->client)? "client_condition is false" :
1513                         "not configured as a client");
1514         continue;
1515         }
1516
1517       /* Loop to scan supported server mechanisms */
1518
1519       while (*p)
1520         {
1521         int len = Ustrlen(au->public_name);
1522         int rc;
1523
1524         while (isspace(*p)) p++;
1525
1526         if (strncmpic(au->public_name, p, len) != 0 ||
1527             (p[len] != 0 && !isspace(p[len])))
1528           {
1529           while (*p != 0 && !isspace(*p)) p++;
1530           continue;
1531           }
1532
1533         /* Found data for a listed mechanism. Call its client entry. Set
1534         a flag in the outblock so that data is overwritten after sending so
1535         that reflections don't show it. */
1536
1537         fail_reason = US"authentication attempt(s) failed";
1538
1539         if ((rc = try_authenticator(sx, au)) != OK)
1540           return rc;
1541
1542         break;  /* If not authenticated, try next authenticator */
1543         }       /* Loop for scanning supported server mechanisms */
1544       }         /* Loop for further authenticators */
1545     }
1546   }
1547
1548 /* If we haven't authenticated, but are required to, give up. */
1549
1550 if (require_auth == OK && !f.smtp_authenticated)
1551   {
1552   invalidate_ehlo_cache_entry(sx);
1553   set_errno_nohost(sx->addrlist, ERRNO_AUTHFAIL,
1554     string_sprintf("authentication required but %s", fail_reason), DEFER,
1555     FALSE, &sx->delivery_start);
1556   return DEFER;
1557   }
1558
1559 return OK;
1560 }
1561
1562
1563 /* Construct AUTH appendix string for MAIL TO */
1564 /*
1565 Arguments
1566   sx            context for smtp connection
1567   p             point in sx->buffer to build string
1568   addrlist      chain of potential addresses to deliver
1569
1570 Globals         f.smtp_authenticated
1571                 client_authenticated_sender
1572 Return  True on error, otherwise buffer has (possibly empty) terminated string
1573 */
1574
1575 static BOOL
1576 smtp_mail_auth_str(smtp_context * sx, uschar * p, address_item * addrlist)
1577 {
1578 smtp_transport_options_block * ob = sx->conn_args.ob;
1579 uschar * local_authenticated_sender = authenticated_sender;
1580
1581 #ifdef notdef
1582   debug_printf("smtp_mail_auth_str: as<%s> os<%s> SA<%s>\n",
1583     authenticated_sender, ob->authenticated_sender, f.smtp_authenticated?"Y":"N");
1584 #endif
1585
1586 if (ob->authenticated_sender)
1587   {
1588   uschar * new = expand_string(ob->authenticated_sender);
1589   if (!new)
1590     {
1591     if (!f.expand_string_forcedfail)
1592       {
1593       uschar *message = string_sprintf("failed to expand "
1594         "authenticated_sender: %s", expand_string_message);
1595       set_errno_nohost(addrlist, ERRNO_EXPANDFAIL, message, DEFER, FALSE, &sx->delivery_start);
1596       return TRUE;
1597       }
1598     }
1599   else if (*new)
1600     local_authenticated_sender = new;
1601   }
1602
1603 /* Add the authenticated sender address if present */
1604
1605 if (  (f.smtp_authenticated || ob->authenticated_sender_force)
1606    && local_authenticated_sender)
1607   {
1608   string_format_nt(p, sizeof(sx->buffer) - (p-sx->buffer), " AUTH=%s",
1609     auth_xtextencode(local_authenticated_sender,
1610       Ustrlen(local_authenticated_sender)));
1611   client_authenticated_sender = string_copy(local_authenticated_sender);
1612   }
1613 else
1614   *p = 0;
1615
1616 return FALSE;
1617 }
1618
1619
1620
1621 typedef struct smtp_compare_s
1622 {
1623     uschar *                    current_sender_address;
1624     struct transport_instance * tblock;
1625 } smtp_compare_t;
1626
1627
1628 /* Create a unique string that identifies this message, it is based on
1629 sender_address, helo_data and tls_certificate if enabled.
1630 */
1631
1632 static uschar *
1633 smtp_local_identity(uschar * sender, struct transport_instance * tblock)
1634 {
1635 address_item * addr1;
1636 uschar * if1 = US"";
1637 uschar * helo1 = US"";
1638 #ifndef DISABLE_TLS
1639 uschar * tlsc1 = US"";
1640 #endif
1641 uschar * save_sender_address = sender_address;
1642 uschar * local_identity = NULL;
1643 smtp_transport_options_block * ob = SOB tblock->options_block;
1644
1645 sender_address = sender;
1646
1647 addr1 = deliver_make_addr (sender, TRUE);
1648 deliver_set_expansions(addr1);
1649
1650 if (ob->interface)
1651   if1 = expand_string(ob->interface);
1652
1653 if (ob->helo_data)
1654   helo1 = expand_string(ob->helo_data);
1655
1656 #ifndef DISABLE_TLS
1657 if (ob->tls_certificate)
1658   tlsc1 = expand_string(ob->tls_certificate);
1659 local_identity = string_sprintf ("%s^%s^%s", if1, helo1, tlsc1);
1660 #else
1661 local_identity = string_sprintf ("%s^%s", if1, helo1);
1662 #endif
1663
1664 deliver_set_expansions(NULL);
1665 sender_address = save_sender_address;
1666
1667 return local_identity;
1668 }
1669
1670
1671
1672 /* This routine is a callback that is called from transport_check_waiting.
1673 This function will evaluate the incoming message versus the previous
1674 message.  If the incoming message is using a different local identity then
1675 we will veto this new message.  */
1676
1677 static BOOL
1678 smtp_are_same_identities(uschar * message_id, smtp_compare_t * s_compare)
1679 {
1680 uschar * message_local_identity,
1681        * current_local_identity,
1682        * new_sender_address;
1683
1684 current_local_identity =
1685   smtp_local_identity(s_compare->current_sender_address, s_compare->tblock);
1686
1687 if (!(new_sender_address = deliver_get_sender_address(message_id)))
1688     return FALSE;
1689
1690 message_local_identity =
1691   smtp_local_identity(new_sender_address, s_compare->tblock);
1692
1693 return Ustrcmp(current_local_identity, message_local_identity) == 0;
1694 }
1695
1696
1697
1698 static unsigned
1699 ehlo_response(uschar * buf, unsigned checks)
1700 {
1701 size_t bsize = Ustrlen(buf);
1702
1703 /* debug_printf("%s: check for 0x%04x\n", __FUNCTION__, checks); */
1704
1705 #ifndef DISABLE_TLS
1706 if (  checks & OPTION_TLS
1707    && pcre_exec(regex_STARTTLS, NULL, CS buf, bsize, 0, PCRE_EOPT, NULL, 0) < 0)
1708 #endif
1709   checks &= ~OPTION_TLS;
1710
1711 if (  checks & OPTION_IGNQ
1712    && pcre_exec(regex_IGNOREQUOTA, NULL, CS buf, bsize, 0,
1713                 PCRE_EOPT, NULL, 0) < 0)
1714   checks &= ~OPTION_IGNQ;
1715
1716 if (  checks & OPTION_CHUNKING
1717    && pcre_exec(regex_CHUNKING, NULL, CS buf, bsize, 0, PCRE_EOPT, NULL, 0) < 0)
1718   checks &= ~OPTION_CHUNKING;
1719
1720 #ifndef DISABLE_PRDR
1721 if (  checks & OPTION_PRDR
1722    && pcre_exec(regex_PRDR, NULL, CS buf, bsize, 0, PCRE_EOPT, NULL, 0) < 0)
1723 #endif
1724   checks &= ~OPTION_PRDR;
1725
1726 #ifdef SUPPORT_I18N
1727 if (  checks & OPTION_UTF8
1728    && pcre_exec(regex_UTF8, NULL, CS buf, bsize, 0, PCRE_EOPT, NULL, 0) < 0)
1729 #endif
1730   checks &= ~OPTION_UTF8;
1731
1732 if (  checks & OPTION_DSN
1733    && pcre_exec(regex_DSN, NULL, CS buf, bsize, 0, PCRE_EOPT, NULL, 0) < 0)
1734   checks &= ~OPTION_DSN;
1735
1736 if (  checks & OPTION_PIPE
1737    && pcre_exec(regex_PIPELINING, NULL, CS buf, bsize, 0,
1738                 PCRE_EOPT, NULL, 0) < 0)
1739   checks &= ~OPTION_PIPE;
1740
1741 if (  checks & OPTION_SIZE
1742    && pcre_exec(regex_SIZE, NULL, CS buf, bsize, 0, PCRE_EOPT, NULL, 0) < 0)
1743   checks &= ~OPTION_SIZE;
1744
1745 #ifndef DISABLE_PIPE_CONNECT
1746 if (  checks & OPTION_EARLY_PIPE
1747    && pcre_exec(regex_EARLY_PIPE, NULL, CS buf, bsize, 0,
1748                 PCRE_EOPT, NULL, 0) < 0)
1749 #endif
1750   checks &= ~OPTION_EARLY_PIPE;
1751
1752 /* debug_printf("%s: found     0x%04x\n", __FUNCTION__, checks); */
1753 return checks;
1754 }
1755
1756
1757
1758 /* Callback for emitting a BDAT data chunk header.
1759
1760 If given a nonzero size, first flush any buffered SMTP commands
1761 then emit the command.
1762
1763 Reap previous SMTP command responses if requested, and always reap
1764 the response from a previous BDAT command.
1765
1766 Args:
1767  tctx           transport context
1768  chunk_size     value for SMTP BDAT command
1769  flags
1770    tc_chunk_last        add LAST option to SMTP BDAT command
1771    tc_reap_prev         reap response to previous SMTP commands
1772
1773 Returns:
1774   OK or ERROR
1775   DEFER                 TLS error on first read (EHLO-resp); errno set
1776 */
1777
1778 static int
1779 smtp_chunk_cmd_callback(transport_ctx * tctx, unsigned chunk_size,
1780   unsigned flags)
1781 {
1782 smtp_transport_options_block * ob = SOB tctx->tblock->options_block;
1783 smtp_context * sx = tctx->smtp_context;
1784 int cmd_count = 0;
1785 int prev_cmd_count;
1786
1787 /* Write SMTP chunk header command.  If not reaping responses, note that
1788 there may be more writes (like, the chunk data) done soon. */
1789
1790 if (chunk_size > 0)
1791   {
1792 #ifndef DISABLE_PIPE_CONNECT
1793   BOOL new_conn = !!(sx->outblock.conn_args);
1794 #endif
1795   if((cmd_count = smtp_write_command(sx,
1796               flags & tc_reap_prev ? SCMD_FLUSH : SCMD_MORE,
1797               "BDAT %u%s\r\n", chunk_size, flags & tc_chunk_last ? " LAST" : "")
1798      ) < 0) return ERROR;
1799   if (flags & tc_chunk_last)
1800     data_command = string_copy(big_buffer);  /* Save for later error message */
1801 #ifndef DISABLE_PIPE_CONNECT
1802   /* That command write could have been the one that made the connection.
1803   Copy the fd from the client conn ctx (smtp transport specific) to the
1804   generic transport ctx. */
1805
1806   if (new_conn)
1807     tctx->u.fd = sx->outblock.cctx->sock;
1808 #endif
1809   }
1810
1811 prev_cmd_count = cmd_count += sx->cmd_count;
1812
1813 /* Reap responses for any previous, but not one we just emitted */
1814
1815 if (chunk_size > 0)
1816   prev_cmd_count--;
1817 if (sx->pending_BDAT)
1818   prev_cmd_count--;
1819
1820 if (flags & tc_reap_prev  &&  prev_cmd_count > 0)
1821   {
1822   DEBUG(D_transport) debug_printf("look for %d responses"
1823     " for previous pipelined cmds\n", prev_cmd_count);
1824
1825   switch(sync_responses(sx, prev_cmd_count, 0))
1826     {
1827     case 1:                             /* 2xx (only) => OK */
1828     case 3: sx->good_RCPT = TRUE;       /* 2xx & 5xx => OK & progress made */
1829     case 2: sx->completed_addr = TRUE;  /* 5xx (only) => progress made */
1830     case 0: break;                      /* No 2xx or 5xx, but no probs */
1831
1832     case -5: errno = ERRNO_TLSFAILURE;
1833              return DEFER;
1834 #ifndef DISABLE_PIPE_CONNECT
1835     case -4:                            /* non-2xx for pipelined banner or EHLO */
1836 #endif
1837     case -1:                            /* Timeout on RCPT */
1838     default: return ERROR;              /* I/O error, or any MAIL/DATA error */
1839     }
1840   cmd_count = 1;
1841   if (!sx->pending_BDAT)
1842     pipelining_active = FALSE;
1843   }
1844
1845 /* Reap response for an outstanding BDAT */
1846
1847 if (sx->pending_BDAT)
1848   {
1849   DEBUG(D_transport) debug_printf("look for one response for BDAT\n");
1850
1851   if (!smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '2',
1852        ob->command_timeout))
1853     {
1854     if (errno == 0 && sx->buffer[0] == '4')
1855       {
1856       errno = ERRNO_DATA4XX;    /*XXX does this actually get used? */
1857       sx->addrlist->more_errno |=
1858         ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
1859       }
1860     return ERROR;
1861     }
1862   cmd_count--;
1863   sx->pending_BDAT = FALSE;
1864   pipelining_active = FALSE;
1865   }
1866 else if (chunk_size > 0)
1867   sx->pending_BDAT = TRUE;
1868
1869
1870 sx->cmd_count = cmd_count;
1871 return OK;
1872 }
1873
1874
1875
1876
1877
1878 /*************************************************
1879 *       Make connection for given message        *
1880 *************************************************/
1881
1882 /*
1883 Arguments:
1884   ctx             connection context
1885   suppress_tls    if TRUE, don't attempt a TLS connection - this is set for
1886                     a second attempt after TLS initialization fails
1887
1888 Returns:          OK    - the connection was made and the delivery attempted;
1889                           fd is set in the conn context, tls_out set up.
1890                   DEFER - the connection could not be made, or something failed
1891                           while setting up the SMTP session, or there was a
1892                           non-message-specific error, such as a timeout.
1893                   ERROR - helo_data or add_headers or authenticated_sender is
1894                           specified for this transport, and the string failed
1895                           to expand
1896 */
1897 int
1898 smtp_setup_conn(smtp_context * sx, BOOL suppress_tls)
1899 {
1900 smtp_transport_options_block * ob = sx->conn_args.tblock->options_block;
1901 BOOL pass_message = FALSE;
1902 uschar * message = NULL;
1903 int yield = OK;
1904 #ifndef DISABLE_TLS
1905 uschar * tls_errstr;
1906 #endif
1907
1908 sx->conn_args.ob = ob;
1909
1910 sx->lmtp = strcmpic(ob->protocol, US"lmtp") == 0;
1911 sx->smtps = strcmpic(ob->protocol, US"smtps") == 0;
1912 /* sx->ok = FALSE; */
1913 sx->send_rset = TRUE;
1914 sx->send_quit = TRUE;
1915 sx->setting_up = TRUE;
1916 sx->esmtp = TRUE;
1917 /* sx->esmtp_sent = FALSE; */
1918 #ifdef SUPPORT_I18N
1919 /* sx->utf8_needed = FALSE; */
1920 #endif
1921 sx->dsn_all_lasthop = TRUE;
1922 #ifdef SUPPORT_DANE
1923 /* sx->conn_args.dane = FALSE; */
1924 sx->dane_required =
1925   verify_check_given_host(CUSS &ob->hosts_require_dane, sx->conn_args.host) == OK;
1926 #endif
1927 #ifndef DISABLE_PIPE_CONNECT
1928 /* sx->early_pipe_active = sx->early_pipe_ok = FALSE; */
1929 /* sx->ehlo_resp.cleartext_features = sx->ehlo_resp.crypted_features = 0; */
1930 /* sx->pending_BANNER = sx->pending_EHLO = sx->pending_MAIL = FALSE; */
1931 #endif
1932
1933 if ((sx->max_rcpt = sx->conn_args.tblock->max_addresses) == 0) sx->max_rcpt = 999999;
1934 /* sx->peer_offered = 0; */
1935 /* sx->avoid_option = 0; */
1936 sx->igquotstr = US"";
1937 if (!sx->helo_data) sx->helo_data = ob->helo_data;
1938 #ifdef EXPERIMENTAL_DSN_INFO
1939 /* sx->smtp_greeting = NULL; */
1940 /* sx->helo_response = NULL; */
1941 #endif
1942
1943 smtp_command = US"initial connection";
1944 /* sx->buffer[0] = '\0'; */
1945
1946 /* Set up the buffer for reading SMTP response packets. */
1947
1948 sx->inblock.buffer = sx->inbuffer;
1949 sx->inblock.buffersize = sizeof(sx->inbuffer);
1950 sx->inblock.ptr = sx->inbuffer;
1951 sx->inblock.ptrend = sx->inbuffer;
1952
1953 /* Set up the buffer for holding SMTP commands while pipelining */
1954
1955 sx->outblock.buffer = sx->outbuffer;
1956 sx->outblock.buffersize = sizeof(sx->outbuffer);
1957 sx->outblock.ptr = sx->outbuffer;
1958 /* sx->outblock.cmd_count = 0; */
1959 /* sx->outblock.authenticating = FALSE; */
1960 /* sx->outblock.conn_args = NULL; */
1961
1962 /* Reset the parameters of a TLS session. */
1963
1964 tls_out.bits = 0;
1965 tls_out.cipher = NULL;  /* the one we may use for this transport */
1966 tls_out.ourcert = NULL;
1967 tls_out.peercert = NULL;
1968 tls_out.peerdn = NULL;
1969 #ifdef USE_OPENSSL
1970 tls_out.sni = NULL;
1971 #endif
1972 tls_out.ocsp = OCSP_NOT_REQ;
1973 #ifdef EXPERIMENTAL_TLS_RESUME
1974 tls_out.resumption = 0;
1975 #endif
1976 tls_out.ver = NULL;
1977
1978 /* Flip the legacy TLS-related variables over to the outbound set in case
1979 they're used in the context of the transport.  Don't bother resetting
1980 afterward (when being used by a transport) as we're in a subprocess.
1981 For verify, unflipped once the callout is dealt with */
1982
1983 tls_modify_variables(&tls_out);
1984
1985 #ifdef DISABLE_TLS
1986 if (sx->smtps)
1987   {
1988   set_errno_nohost(sx->addrlist, ERRNO_TLSFAILURE, US"TLS support not available",
1989             DEFER, FALSE, &sx->delivery_start);
1990   return ERROR;
1991   }
1992 #endif
1993
1994 #ifdef SUPPORT_DANE
1995 /* If we have a proxied TLS connection, check usability for this message */
1996
1997 if (continue_hostname && continue_proxy_cipher)
1998   {
1999   int rc;
2000   const uschar * sni = US"";
2001
2002   /* Check if the message will be DANE-verified; if so force its SNI */
2003
2004   smtp_port_for_connect(sx->conn_args.host, sx->port);
2005   if (  sx->conn_args.host->dnssec == DS_YES
2006      && (  sx->dane_required
2007         || verify_check_given_host(CUSS &ob->hosts_try_dane, sx->conn_args.host) == OK
2008      )  )
2009     switch (rc = tlsa_lookup(sx->conn_args.host, &sx->conn_args.tlsa_dnsa, sx->dane_required))
2010       {
2011       case OK:          sx->conn_args.dane = TRUE;
2012                         ob->tls_tempfail_tryclear = FALSE;      /* force TLS */
2013                         ob->tls_sni = sx->first_addr->domain;   /* force SNI */
2014                         break;
2015       case FAIL_FORCED: break;
2016       default:          set_errno_nohost(sx->addrlist, ERRNO_DNSDEFER,
2017                               string_sprintf("DANE error: tlsa lookup %s",
2018                                 rc_to_string(rc)),
2019                               rc, FALSE, &sx->delivery_start);
2020 # ifndef DISABLE_EVENT
2021                             (void) event_raise(sx->conn_args.tblock->event_action,
2022                               US"dane:fail", sx->dane_required
2023                                 ?  US"dane-required" : US"dnssec-invalid");
2024 # endif
2025                             return rc;
2026       }
2027
2028   /* If the SNI required for the new message differs from the existing conn
2029   drop the connection to force a new one. */
2030
2031   if (ob->tls_sni && !(sni = expand_cstring(ob->tls_sni)))
2032     log_write(0, LOG_MAIN|LOG_PANIC,
2033       "<%s>: failed to expand transport's tls_sni value: %s",
2034       sx->addrlist->address, expand_string_message);
2035
2036   if (  (continue_proxy_sni ? (Ustrcmp(continue_proxy_sni, sni) == 0) : !*sni)
2037      && continue_proxy_dane == sx->conn_args.dane)
2038     {
2039     tls_out.sni = US sni;
2040     if ((tls_out.dane_verified = continue_proxy_dane))
2041       sx->conn_args.host->dnssec = DS_YES;
2042     }
2043   else
2044     {
2045     DEBUG(D_transport)
2046       debug_printf("Closing proxied-TLS connection due to SNI mismatch\n");
2047
2048     HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP>> QUIT\n");
2049     write(0, "QUIT\r\n", 6);
2050     close(0);
2051     tls_out.dane_verified = FALSE;
2052     continue_hostname = continue_proxy_cipher = NULL;
2053     f.continue_more = FALSE;
2054     continue_sequence = 1;      /* Unfortunately, this process cannot affect success log
2055                                 which is done by delivery proc.  Would have to pass this
2056                                 back through reporting pipe. */
2057     }
2058   }
2059 #endif
2060
2061
2062 /* Make a connection to the host if this isn't a continued delivery, and handle
2063 the initial interaction and HELO/EHLO/LHLO. Connect timeout errors are handled
2064 specially so they can be identified for retries. */
2065
2066 if (!continue_hostname)
2067   {
2068   if (sx->verify)
2069     HDEBUG(D_verify) debug_printf("interface=%s port=%d\n", sx->conn_args.interface, sx->port);
2070
2071   /* Get the actual port the connection will use, into sx->conn_args.host */
2072
2073   smtp_port_for_connect(sx->conn_args.host, sx->port);
2074
2075 #ifdef SUPPORT_DANE
2076     /* Do TLSA lookup for DANE */
2077     {
2078     tls_out.dane_verified = FALSE;
2079     tls_out.tlsa_usage = 0;
2080
2081     if (sx->conn_args.host->dnssec == DS_YES)
2082       {
2083       int rc;
2084       if(  sx->dane_required
2085         || verify_check_given_host(CUSS &ob->hosts_try_dane, sx->conn_args.host) == OK
2086         )
2087         switch (rc = tlsa_lookup(sx->conn_args.host, &sx->conn_args.tlsa_dnsa, sx->dane_required))
2088           {
2089           case OK:              sx->conn_args.dane = TRUE;
2090                                 ob->tls_tempfail_tryclear = FALSE;      /* force TLS */
2091                                 ob->tls_sni = sx->first_addr->domain;   /* force SNI */
2092                                 break;
2093           case FAIL_FORCED:     break;
2094           default:              set_errno_nohost(sx->addrlist, ERRNO_DNSDEFER,
2095                                   string_sprintf("DANE error: tlsa lookup %s",
2096                                     rc_to_string(rc)),
2097                                   rc, FALSE, &sx->delivery_start);
2098 # ifndef DISABLE_EVENT
2099                                 (void) event_raise(sx->conn_args.tblock->event_action,
2100                                   US"dane:fail", sx->dane_required
2101                                     ?  US"dane-required" : US"dnssec-invalid");
2102 # endif
2103                                 return rc;
2104           }
2105       }
2106     else if (sx->dane_required)
2107       {
2108       set_errno_nohost(sx->addrlist, ERRNO_DNSDEFER,
2109         string_sprintf("DANE error: %s lookup not DNSSEC", sx->conn_args.host->name),
2110         FAIL, FALSE, &sx->delivery_start);
2111 # ifndef DISABLE_EVENT
2112       (void) event_raise(sx->conn_args.tblock->event_action,
2113         US"dane:fail", US"dane-required");
2114 # endif
2115       return FAIL;
2116       }
2117     }
2118 #endif  /*DANE*/
2119
2120   /* Make the TCP connection */
2121
2122   sx->cctx.tls_ctx = NULL;
2123   sx->inblock.cctx = sx->outblock.cctx = &sx->cctx;
2124   sx->avoid_option = sx->peer_offered = smtp_peer_options = 0;
2125
2126 #ifndef DISABLE_PIPE_CONNECT
2127   if (  verify_check_given_host(CUSS &ob->hosts_pipe_connect,
2128                                             sx->conn_args.host) == OK)
2129
2130     /* We don't find out the local ip address until the connect, so if
2131     the helo string might use it avoid doing early-pipelining. */
2132
2133     if (  !sx->helo_data
2134        || !Ustrstr(sx->helo_data, "$sending_ip_address")
2135        || Ustrstr(sx->helo_data, "def:sending_ip_address")
2136        )
2137       {
2138       sx->early_pipe_ok = TRUE;
2139       if (  read_ehlo_cache_entry(sx)
2140          && sx->ehlo_resp.cleartext_features & OPTION_EARLY_PIPE)
2141         {
2142         DEBUG(D_transport)
2143           debug_printf("Using cached cleartext PIPE_CONNECT\n");
2144         sx->early_pipe_active = TRUE;
2145         sx->peer_offered = sx->ehlo_resp.cleartext_features;
2146         }
2147       }
2148     else DEBUG(D_transport)
2149       debug_printf("helo needs $sending_ip_address\n");
2150
2151 PIPE_CONNECT_RETRY:
2152   if (sx->early_pipe_active)
2153     sx->outblock.conn_args = &sx->conn_args;
2154   else
2155 #endif
2156     {
2157     if ((sx->cctx.sock = smtp_connect(&sx->conn_args, NULL)) < 0)
2158       {
2159       set_errno_nohost(sx->addrlist,
2160         errno == ETIMEDOUT ? ERRNO_CONNECTTIMEOUT : errno,
2161         sx->verify ? US strerror(errno) : NULL,
2162         DEFER, FALSE, &sx->delivery_start);
2163       sx->send_quit = FALSE;
2164       return DEFER;
2165       }
2166     }
2167   /* Expand the greeting message while waiting for the initial response. (Makes
2168   sense if helo_data contains ${lookup dnsdb ...} stuff). The expansion is
2169   delayed till here so that $sending_interface and $sending_port are set. */
2170 /*XXX early-pipe: they still will not be. Is there any way to find out what they
2171 will be?  Somehow I doubt it. */
2172
2173   if (sx->helo_data)
2174     if (!(sx->helo_data = expand_string(sx->helo_data)))
2175       if (sx->verify)
2176         log_write(0, LOG_MAIN|LOG_PANIC,
2177           "<%s>: failed to expand transport's helo_data value for callout: %s",
2178           sx->addrlist->address, expand_string_message);
2179
2180 #ifdef SUPPORT_I18N
2181   if (sx->helo_data)
2182     {
2183     expand_string_message = NULL;
2184     if ((sx->helo_data = string_domain_utf8_to_alabel(sx->helo_data,
2185                                               &expand_string_message)),
2186         expand_string_message)
2187       if (sx->verify)
2188         log_write(0, LOG_MAIN|LOG_PANIC,
2189           "<%s>: failed to expand transport's helo_data value for callout: %s",
2190           sx->addrlist->address, expand_string_message);
2191       else
2192         sx->helo_data = NULL;
2193     }
2194 #endif
2195
2196   /* The first thing is to wait for an initial OK response. The dreaded "goto"
2197   is nevertheless a reasonably clean way of programming this kind of logic,
2198   where you want to escape on any error. */
2199
2200   if (!sx->smtps)
2201     {
2202 #ifndef DISABLE_PIPE_CONNECT
2203     if (sx->early_pipe_active)
2204       {
2205       sx->pending_BANNER = TRUE;        /* sync_responses() must eventually handle */
2206       sx->outblock.cmd_count = 1;
2207       }
2208     else
2209 #endif
2210       {
2211 #ifdef TCP_QUICKACK
2212       (void) setsockopt(sx->cctx.sock, IPPROTO_TCP, TCP_QUICKACK, US &off,
2213                         sizeof(off));
2214 #endif
2215       if (!smtp_reap_banner(sx))
2216         goto RESPONSE_FAILED;
2217       }
2218
2219 #ifndef DISABLE_EVENT
2220       {
2221       uschar * s;
2222       lookup_dnssec_authenticated = sx->conn_args.host->dnssec==DS_YES ? US"yes"
2223         : sx->conn_args.host->dnssec==DS_NO ? US"no" : NULL;
2224       s = event_raise(sx->conn_args.tblock->event_action, US"smtp:connect", sx->buffer);
2225       if (s)
2226         {
2227         set_errno_nohost(sx->addrlist, ERRNO_EXPANDFAIL,
2228           string_sprintf("deferred by smtp:connect event expansion: %s", s),
2229           DEFER, FALSE, &sx->delivery_start);
2230         yield = DEFER;
2231         goto SEND_QUIT;
2232         }
2233       }
2234 #endif
2235
2236     /* Now check if the helo_data expansion went well, and sign off cleanly if
2237     it didn't. */
2238
2239     if (!sx->helo_data)
2240       {
2241       message = string_sprintf("failed to expand helo_data: %s",
2242         expand_string_message);
2243       set_errno_nohost(sx->addrlist, ERRNO_EXPANDFAIL, message, DEFER, FALSE, &sx->delivery_start);
2244       yield = DEFER;
2245       goto SEND_QUIT;
2246       }
2247     }
2248
2249 /** Debugging without sending a message
2250 sx->addrlist->transport_return = DEFER;
2251 goto SEND_QUIT;
2252 **/
2253
2254   /* Errors that occur after this point follow an SMTP command, which is
2255   left in big_buffer by smtp_write_command() for use in error messages. */
2256
2257   smtp_command = big_buffer;
2258
2259   /* Tell the remote who we are...
2260
2261   February 1998: A convention has evolved that ESMTP-speaking MTAs include the
2262   string "ESMTP" in their greeting lines, so make Exim send EHLO if the
2263   greeting is of this form. The assumption was that the far end supports it
2264   properly... but experience shows that there are some that give 5xx responses,
2265   even though the banner includes "ESMTP" (there's a bloody-minded one that
2266   says "ESMTP not spoken here"). Cope with that case.
2267
2268   September 2000: Time has passed, and it seems reasonable now to always send
2269   EHLO at the start. It is also convenient to make the change while installing
2270   the TLS stuff.
2271
2272   July 2003: Joachim Wieland met a broken server that advertises "PIPELINING"
2273   but times out after sending MAIL FROM, RCPT TO and DATA all together. There
2274   would be no way to send out the mails, so there is now a host list
2275   "hosts_avoid_esmtp" that disables ESMTP for special hosts and solves the
2276   PIPELINING problem as well. Maybe it can also be useful to cure other
2277   problems with broken servers.
2278
2279   Exim originally sent "Helo" at this point and ran for nearly a year that way.
2280   Then somebody tried it with a Microsoft mailer... It seems that all other
2281   mailers use upper case for some reason (the RFC is quite clear about case
2282   independence) so, for peace of mind, I gave in. */
2283
2284   sx->esmtp = verify_check_given_host(CUSS &ob->hosts_avoid_esmtp, sx->conn_args.host) != OK;
2285
2286   /* Alas; be careful, since this goto is not an error-out, so conceivably
2287   we might set data between here and the target which we assume to exist
2288   and be usable.  I can see this coming back to bite us. */
2289 #ifndef DISABLE_TLS
2290   if (sx->smtps)
2291     {
2292     smtp_peer_options |= OPTION_TLS;
2293     suppress_tls = FALSE;
2294     ob->tls_tempfail_tryclear = FALSE;
2295     smtp_command = US"SSL-on-connect";
2296     goto TLS_NEGOTIATE;
2297     }
2298 #endif
2299
2300   if (sx->esmtp)
2301     {
2302     if (smtp_write_command(sx,
2303 #ifndef DISABLE_PIPE_CONNECT
2304           sx->early_pipe_active ? SCMD_BUFFER :
2305 #endif
2306             SCMD_FLUSH,
2307           "%s %s\r\n", sx->lmtp ? "LHLO" : "EHLO", sx->helo_data) < 0)
2308       goto SEND_FAILED;
2309     sx->esmtp_sent = TRUE;
2310
2311 #ifndef DISABLE_PIPE_CONNECT
2312     if (sx->early_pipe_active)
2313       {
2314       sx->pending_EHLO = TRUE;
2315
2316       /* If we have too many authenticators to handle and might need to AUTH
2317       for this transport, pipeline no further as we will need the
2318       list of auth methods offered.  Reap the banner and EHLO. */
2319
2320       if (  (ob->hosts_require_auth || ob->hosts_try_auth)
2321          && f.smtp_in_early_pipe_no_auth)
2322         {
2323         DEBUG(D_transport) debug_printf("may need to auth, so pipeline no further\n");
2324         if (smtp_write_command(sx, SCMD_FLUSH, NULL) < 0)
2325           goto SEND_FAILED;
2326         if (sync_responses(sx, 2, 0) != 0)
2327           {
2328           HDEBUG(D_transport)
2329             debug_printf("failed reaping pipelined cmd responses\n");
2330           goto RESPONSE_FAILED;
2331           }
2332         sx->early_pipe_active = FALSE;
2333         }
2334       }
2335     else
2336 #endif
2337       if (!smtp_reap_ehlo(sx))
2338         goto RESPONSE_FAILED;
2339     }
2340   else
2341     DEBUG(D_transport)
2342       debug_printf("not sending EHLO (host matches hosts_avoid_esmtp)\n");
2343
2344 #ifndef DISABLE_PIPE_CONNECT
2345   if (!sx->early_pipe_active)
2346 #endif
2347     if (!sx->esmtp)
2348       {
2349       BOOL good_response;
2350       int n = sizeof(sx->buffer);
2351       uschar * rsp = sx->buffer;
2352
2353       if (sx->esmtp_sent && (n = Ustrlen(sx->buffer)) < sizeof(sx->buffer)/2)
2354         { rsp = sx->buffer + n + 1; n = sizeof(sx->buffer) - n; }
2355
2356       if (smtp_write_command(sx, SCMD_FLUSH, "HELO %s\r\n", sx->helo_data) < 0)
2357         goto SEND_FAILED;
2358       good_response = smtp_read_response(sx, rsp, n, '2', ob->command_timeout);
2359 #ifdef EXPERIMENTAL_DSN_INFO
2360       sx->helo_response = string_copy(rsp);
2361 #endif
2362       if (!good_response)
2363         {
2364         /* Handle special logging for a closed connection after HELO
2365         when had previously sent EHLO */
2366
2367         if (rsp != sx->buffer && rsp[0] == 0 && (errno == 0 || errno == ECONNRESET))
2368           {
2369           errno = ERRNO_SMTPCLOSED;
2370           goto EHLOHELO_FAILED;
2371           }
2372         memmove(sx->buffer, rsp, Ustrlen(rsp));
2373         goto RESPONSE_FAILED;
2374         }
2375       }
2376
2377   if (sx->esmtp || sx->lmtp)
2378     {
2379 #ifndef DISABLE_PIPE_CONNECT
2380     if (!sx->early_pipe_active)
2381 #endif
2382       {
2383       sx->peer_offered = ehlo_response(sx->buffer,
2384         OPTION_TLS      /* others checked later */
2385 #ifndef DISABLE_PIPE_CONNECT
2386         | (sx->early_pipe_ok
2387           ?   OPTION_IGNQ
2388             | OPTION_CHUNKING | OPTION_PRDR | OPTION_DSN | OPTION_PIPE | OPTION_SIZE
2389 #ifdef SUPPORT_I18N
2390             | OPTION_UTF8
2391 #endif
2392             | OPTION_EARLY_PIPE
2393           : 0
2394           )
2395 #endif
2396         );
2397 #ifndef DISABLE_PIPE_CONNECT
2398       if (sx->early_pipe_ok)
2399         {
2400         sx->ehlo_resp.cleartext_features = sx->peer_offered;
2401
2402         if (  (sx->peer_offered & (OPTION_PIPE | OPTION_EARLY_PIPE))
2403            == (OPTION_PIPE | OPTION_EARLY_PIPE))
2404           {
2405           DEBUG(D_transport) debug_printf("PIPE_CONNECT usable in future for this IP\n");
2406           sx->ehlo_resp.cleartext_auths = study_ehlo_auths(sx);
2407           write_ehlo_cache_entry(sx);
2408           }
2409         }
2410 #endif
2411       }
2412
2413   /* Set tls_offered if the response to EHLO specifies support for STARTTLS. */
2414
2415 #ifndef DISABLE_TLS
2416     smtp_peer_options |= sx->peer_offered & OPTION_TLS;
2417 #endif
2418     }
2419   }
2420
2421 /* For continuing deliveries down the same channel, having re-exec'd  the socket
2422 is the standard input; for a socket held open from verify it is recorded
2423 in the cutthrough context block.  Either way we don't need to redo EHLO here
2424 (but may need to do so for TLS - see below).
2425 Set up the pointer to where subsequent commands will be left, for
2426 error messages. Note that smtp_peer_options will have been
2427 set from the command line if they were set in the process that passed the
2428 connection on. */
2429
2430 /*XXX continue case needs to propagate DSN_INFO, prob. in deliver.c
2431 as the continue goes via transport_pass_socket() and doublefork and exec.
2432 It does not wait.  Unclear how we keep separate host's responses
2433 separate - we could match up by host ip+port as a bodge. */
2434
2435 else
2436   {
2437   if (cutthrough.cctx.sock >= 0 && cutthrough.callout_hold_only)
2438     {
2439     sx->cctx = cutthrough.cctx;
2440     sx->conn_args.host->port = sx->port = cutthrough.host.port;
2441     }
2442   else
2443     {
2444     sx->cctx.sock = 0;                          /* stdin */
2445     sx->cctx.tls_ctx = NULL;
2446     smtp_port_for_connect(sx->conn_args.host, sx->port);        /* Record the port that was used */
2447     }
2448   sx->inblock.cctx = sx->outblock.cctx = &sx->cctx;
2449   smtp_command = big_buffer;
2450   sx->peer_offered = smtp_peer_options;
2451   sx->helo_data = NULL;         /* ensure we re-expand ob->helo_data */
2452
2453   /* For a continued connection with TLS being proxied for us, or a
2454   held-open verify connection with TLS, nothing more to do. */
2455
2456   if (  continue_proxy_cipher
2457      || (cutthrough.cctx.sock >= 0 && cutthrough.callout_hold_only
2458          && cutthrough.is_tls)
2459      )
2460     {
2461     sx->pipelining_used = pipelining_active = !!(smtp_peer_options & OPTION_PIPE);
2462     HDEBUG(D_transport) debug_printf("continued connection, %s TLS\n",
2463       continue_proxy_cipher ? "proxied" : "verify conn with");
2464     return OK;
2465     }
2466   HDEBUG(D_transport) debug_printf("continued connection, no TLS\n");
2467   }
2468
2469 /* If TLS is available on this connection, whether continued or not, attempt to
2470 start up a TLS session, unless the host is in hosts_avoid_tls. If successful,
2471 send another EHLO - the server may give a different answer in secure mode. We
2472 use a separate buffer for reading the response to STARTTLS so that if it is
2473 negative, the original EHLO data is available for subsequent analysis, should
2474 the client not be required to use TLS. If the response is bad, copy the buffer
2475 for error analysis. */
2476
2477 #ifndef DISABLE_TLS
2478 if (  smtp_peer_options & OPTION_TLS
2479    && !suppress_tls
2480    && verify_check_given_host(CUSS &ob->hosts_avoid_tls, sx->conn_args.host) != OK
2481    && (  !sx->verify
2482       || verify_check_given_host(CUSS &ob->hosts_verify_avoid_tls, sx->conn_args.host) != OK
2483    )  )
2484   {
2485   uschar buffer2[4096];
2486
2487   if (smtp_write_command(sx, SCMD_FLUSH, "STARTTLS\r\n") < 0)
2488     goto SEND_FAILED;
2489
2490 #ifndef DISABLE_PIPE_CONNECT
2491   /* If doing early-pipelining reap the banner and EHLO-response but leave
2492   the response for the STARTTLS we just sent alone. */
2493
2494   if (sx->early_pipe_active && sync_responses(sx, 2, 0) != 0)
2495     {
2496     HDEBUG(D_transport)
2497       debug_printf("failed reaping pipelined cmd responses\n");
2498     close(sx->cctx.sock);
2499     sx->cctx.sock = -1;
2500     sx->early_pipe_active = FALSE;
2501     goto PIPE_CONNECT_RETRY;
2502     }
2503 #endif
2504
2505   /* If there is an I/O error, transmission of this message is deferred. If
2506   there is a temporary rejection of STARRTLS and tls_tempfail_tryclear is
2507   false, we also defer. However, if there is a temporary rejection of STARTTLS
2508   and tls_tempfail_tryclear is true, or if there is an outright rejection of
2509   STARTTLS, we carry on. This means we will try to send the message in clear,
2510   unless the host is in hosts_require_tls (tested below). */
2511
2512   if (!smtp_read_response(sx, buffer2, sizeof(buffer2), '2', ob->command_timeout))
2513     {
2514     if (  errno != 0
2515        || buffer2[0] == 0
2516        || (buffer2[0] == '4' && !ob->tls_tempfail_tryclear)
2517        )
2518       {
2519       Ustrncpy(sx->buffer, buffer2, sizeof(sx->buffer));
2520       sx->buffer[sizeof(sx->buffer)-1] = '\0';
2521       goto RESPONSE_FAILED;
2522       }
2523     }
2524
2525   /* STARTTLS accepted: try to negotiate a TLS session. */
2526
2527   else
2528   TLS_NEGOTIATE:
2529     {
2530     if (!tls_client_start(&sx->cctx, &sx->conn_args, sx->addrlist, &tls_out, &tls_errstr))
2531       {
2532       /* TLS negotiation failed; give an error. From outside, this function may
2533       be called again to try in clear on a new connection, if the options permit
2534       it for this host. */
2535 #ifdef USE_GNUTLS
2536   GNUTLS_CONN_FAILED:
2537 #endif
2538       DEBUG(D_tls) debug_printf("TLS session fail: %s\n", tls_errstr);
2539
2540 # ifdef SUPPORT_DANE
2541       if (sx->conn_args.dane)
2542         {
2543         log_write(0, LOG_MAIN,
2544           "DANE attempt failed; TLS connection to %s [%s]: %s",
2545           sx->conn_args.host->name, sx->conn_args.host->address, tls_errstr);
2546 #  ifndef DISABLE_EVENT
2547         (void) event_raise(sx->conn_args.tblock->event_action,
2548           US"dane:fail", US"validation-failure");       /* could do with better detail */
2549 #  endif
2550         }
2551 # endif
2552
2553       errno = ERRNO_TLSFAILURE;
2554       message = string_sprintf("TLS session: %s", tls_errstr);
2555       sx->send_quit = FALSE;
2556       goto TLS_FAILED;
2557       }
2558
2559     /* TLS session is set up */
2560
2561     smtp_peer_options_wrap = smtp_peer_options;
2562     for (address_item * addr = sx->addrlist; addr; addr = addr->next)
2563       if (addr->transport_return == PENDING_DEFER)
2564         {
2565         addr->cipher = tls_out.cipher;
2566         addr->ourcert = tls_out.ourcert;
2567         addr->peercert = tls_out.peercert;
2568         addr->peerdn = tls_out.peerdn;
2569         addr->ocsp = tls_out.ocsp;
2570         addr->tlsver = tls_out.ver;
2571         }
2572     }
2573   }
2574
2575 /* if smtps, we'll have smtp_command set to something else; always safe to
2576 reset it here. */
2577 smtp_command = big_buffer;
2578
2579 /* If we started TLS, redo the EHLO/LHLO exchange over the secure channel. If
2580 helo_data is null, we are dealing with a connection that was passed from
2581 another process, and so we won't have expanded helo_data above. We have to
2582 expand it here. $sending_ip_address and $sending_port are set up right at the
2583 start of the Exim process (in exim.c). */
2584
2585 if (tls_out.active.sock >= 0)
2586   {
2587   uschar * greeting_cmd;
2588
2589   if (!sx->helo_data && !(sx->helo_data = expand_string(ob->helo_data)))
2590     {
2591     uschar *message = string_sprintf("failed to expand helo_data: %s",
2592       expand_string_message);
2593     set_errno_nohost(sx->addrlist, ERRNO_EXPANDFAIL, message, DEFER, FALSE, &sx->delivery_start);
2594     yield = DEFER;
2595     goto SEND_QUIT;
2596     }
2597
2598 #ifndef DISABLE_PIPE_CONNECT
2599   /* For SMTPS there is no cleartext early-pipe; use the crypted permission bit.
2600   We're unlikely to get the group sent and delivered before the server sends its
2601   banner, but it's still worth sending as a group.
2602   For STARTTLS allow for cleartext early-pipe but no crypted early-pipe, but not
2603   the reverse.  */
2604
2605   if (sx->smtps ? sx->early_pipe_ok : sx->early_pipe_active)
2606     {
2607     sx->peer_offered = sx->ehlo_resp.crypted_features;
2608     if ((sx->early_pipe_active =
2609          !!(sx->ehlo_resp.crypted_features & OPTION_EARLY_PIPE)))
2610       DEBUG(D_transport) debug_printf("Using cached crypted PIPE_CONNECT\n");
2611     }
2612 #endif
2613
2614   /* For SMTPS we need to wait for the initial OK response. */
2615   if (sx->smtps)
2616 #ifndef DISABLE_PIPE_CONNECT
2617     if (sx->early_pipe_active)
2618       {
2619       sx->pending_BANNER = TRUE;
2620       sx->outblock.cmd_count = 1;
2621       }
2622     else
2623 #endif
2624       if (!smtp_reap_banner(sx))
2625         goto RESPONSE_FAILED;
2626
2627   if (sx->lmtp)
2628     greeting_cmd = US"LHLO";
2629   else if (sx->esmtp)
2630     greeting_cmd = US"EHLO";
2631   else
2632     {
2633     greeting_cmd = US"HELO";
2634     DEBUG(D_transport)
2635       debug_printf("not sending EHLO (host matches hosts_avoid_esmtp)\n");
2636     }
2637
2638   if (smtp_write_command(sx,
2639 #ifndef DISABLE_PIPE_CONNECT
2640         sx->early_pipe_active ? SCMD_BUFFER :
2641 #endif
2642           SCMD_FLUSH,
2643         "%s %s\r\n", greeting_cmd, sx->helo_data) < 0)
2644     goto SEND_FAILED;
2645
2646 #ifndef DISABLE_PIPE_CONNECT
2647   if (sx->early_pipe_active)
2648     sx->pending_EHLO = TRUE;
2649   else
2650 #endif
2651     {
2652     if (!smtp_reap_ehlo(sx))
2653 #ifdef USE_GNUTLS
2654       {
2655       /* The GnuTLS layer in Exim only spots a server-rejection of a client
2656       cert late, under TLS1.3 - which means here; the first time we try to
2657       receive crypted data.  Treat it as if it was a connect-time failure.
2658       See also the early-pipe equivalent... which will be hard; every call
2659       to sync_responses will need to check the result.
2660       It would be nicer to have GnuTLS check the cert during the handshake.
2661       Can it do that, with all the flexibility we need? */
2662
2663       tls_errstr = US"error on first read";
2664       goto GNUTLS_CONN_FAILED;
2665       }
2666 #else
2667       goto RESPONSE_FAILED;
2668 #endif
2669     smtp_peer_options = 0;
2670     }
2671   }
2672
2673 /* If the host is required to use a secure channel, ensure that we
2674 have one. */
2675
2676 else if (  sx->smtps
2677 # ifdef SUPPORT_DANE
2678         || sx->conn_args.dane
2679 # endif
2680         || verify_check_given_host(CUSS &ob->hosts_require_tls, sx->conn_args.host) == OK
2681         )
2682   {
2683   errno = ERRNO_TLSREQUIRED;
2684   message = string_sprintf("a TLS session is required, but %s",
2685     smtp_peer_options & OPTION_TLS
2686     ? "an attempt to start TLS failed" : "the server did not offer TLS support");
2687 # if defined(SUPPORT_DANE) && !defined(DISABLE_EVENT)
2688   if (sx->conn_args.dane)
2689     (void) event_raise(sx->conn_args.tblock->event_action, US"dane:fail",
2690       smtp_peer_options & OPTION_TLS
2691       ? US"validation-failure"          /* could do with better detail */
2692       : US"starttls-not-supported");
2693 # endif
2694   goto TLS_FAILED;
2695   }
2696 #endif  /*DISABLE_TLS*/
2697
2698 /* If TLS is active, we have just started it up and re-done the EHLO command,
2699 so its response needs to be analyzed. If TLS is not active and this is a
2700 continued session down a previously-used socket, we haven't just done EHLO, so
2701 we skip this. */
2702
2703 if (continue_hostname == NULL
2704 #ifndef DISABLE_TLS
2705     || tls_out.active.sock >= 0
2706 #endif
2707     )
2708   {
2709   if (sx->esmtp || sx->lmtp)
2710     {
2711 #ifndef DISABLE_PIPE_CONNECT
2712   if (!sx->early_pipe_active)
2713 #endif
2714     {
2715     sx->peer_offered = ehlo_response(sx->buffer,
2716         0 /* no TLS */
2717 #ifndef DISABLE_PIPE_CONNECT
2718         | (sx->lmtp && ob->lmtp_ignore_quota ? OPTION_IGNQ : 0)
2719         | OPTION_DSN | OPTION_PIPE | OPTION_SIZE
2720         | OPTION_CHUNKING | OPTION_PRDR | OPTION_UTF8
2721         | (tls_out.active.sock >= 0 ? OPTION_EARLY_PIPE : 0) /* not for lmtp */
2722
2723 #else
2724
2725         | (sx->lmtp && ob->lmtp_ignore_quota ? OPTION_IGNQ : 0)
2726         | OPTION_CHUNKING
2727         | OPTION_PRDR
2728 # ifdef SUPPORT_I18N
2729         | (sx->addrlist->prop.utf8_msg ? OPTION_UTF8 : 0)
2730           /*XXX if we hand peercaps on to continued-conn processes,
2731                 must not depend on this addr */
2732 # endif
2733         | OPTION_DSN
2734         | OPTION_PIPE
2735         | (ob->size_addition >= 0 ? OPTION_SIZE : 0)
2736 #endif
2737       );
2738 #ifndef DISABLE_PIPE_CONNECT
2739     if (tls_out.active.sock >= 0)
2740       sx->ehlo_resp.crypted_features = sx->peer_offered;
2741 #endif
2742     }
2743
2744     /* Set for IGNOREQUOTA if the response to LHLO specifies support and the
2745     lmtp_ignore_quota option was set. */
2746
2747     sx->igquotstr = sx->peer_offered & OPTION_IGNQ ? US" IGNOREQUOTA" : US"";
2748
2749     /* If the response to EHLO specified support for the SIZE parameter, note
2750     this, provided size_addition is non-negative. */
2751
2752     smtp_peer_options |= sx->peer_offered & OPTION_SIZE;
2753
2754     /* Note whether the server supports PIPELINING. If hosts_avoid_esmtp matched
2755     the current host, esmtp will be false, so PIPELINING can never be used. If
2756     the current host matches hosts_avoid_pipelining, don't do it. */
2757
2758     if (  sx->peer_offered & OPTION_PIPE
2759        && verify_check_given_host(CUSS &ob->hosts_avoid_pipelining, sx->conn_args.host) != OK)
2760       smtp_peer_options |= OPTION_PIPE;
2761
2762     DEBUG(D_transport) debug_printf("%susing PIPELINING\n",
2763       smtp_peer_options & OPTION_PIPE ? "" : "not ");
2764
2765     if (  sx->peer_offered & OPTION_CHUNKING
2766        && verify_check_given_host(CUSS &ob->hosts_try_chunking, sx->conn_args.host) != OK)
2767       sx->peer_offered &= ~OPTION_CHUNKING;
2768
2769     if (sx->peer_offered & OPTION_CHUNKING)
2770       DEBUG(D_transport) debug_printf("CHUNKING usable\n");
2771
2772 #ifndef DISABLE_PRDR
2773     if (  sx->peer_offered & OPTION_PRDR
2774        && verify_check_given_host(CUSS &ob->hosts_try_prdr, sx->conn_args.host) != OK)
2775       sx->peer_offered &= ~OPTION_PRDR;
2776
2777     if (sx->peer_offered & OPTION_PRDR)
2778       DEBUG(D_transport) debug_printf("PRDR usable\n");
2779 #endif
2780
2781     /* Note if the server supports DSN */
2782     smtp_peer_options |= sx->peer_offered & OPTION_DSN;
2783     DEBUG(D_transport) debug_printf("%susing DSN\n",
2784                         sx->peer_offered & OPTION_DSN ? "" : "not ");
2785
2786 #ifndef DISABLE_PIPE_CONNECT
2787     if (  sx->early_pipe_ok
2788        && !sx->early_pipe_active
2789        && tls_out.active.sock >= 0
2790        && smtp_peer_options & OPTION_PIPE
2791        && ( sx->ehlo_resp.cleartext_features | sx->ehlo_resp.crypted_features)
2792           & OPTION_EARLY_PIPE)
2793       {
2794       DEBUG(D_transport) debug_printf("PIPE_CONNECT usable in future for this IP\n");
2795       sx->ehlo_resp.crypted_auths = study_ehlo_auths(sx);
2796       write_ehlo_cache_entry(sx);
2797       }
2798 #endif
2799
2800     /* Note if the response to EHLO specifies support for the AUTH extension.
2801     If it has, check that this host is one we want to authenticate to, and do
2802     the business. The host name and address must be available when the
2803     authenticator's client driver is running. */
2804
2805     switch (yield = smtp_auth(sx))
2806       {
2807       default:          goto SEND_QUIT;
2808       case OK:          break;
2809       case FAIL_SEND:   goto SEND_FAILED;
2810       case FAIL:        goto RESPONSE_FAILED;
2811       }
2812     }
2813   }
2814 sx->pipelining_used = pipelining_active = !!(smtp_peer_options & OPTION_PIPE);
2815
2816 /* The setting up of the SMTP call is now complete. Any subsequent errors are
2817 message-specific. */
2818
2819 sx->setting_up = FALSE;
2820
2821 #ifdef SUPPORT_I18N
2822 if (sx->addrlist->prop.utf8_msg)
2823   {
2824   uschar * s;
2825
2826   /* If the transport sets a downconversion mode it overrides any set by ACL
2827   for the message. */
2828
2829   if ((s = ob->utf8_downconvert))
2830     {
2831     if (!(s = expand_string(s)))
2832       {
2833       message = string_sprintf("failed to expand utf8_downconvert: %s",
2834         expand_string_message);
2835       set_errno_nohost(sx->addrlist, ERRNO_EXPANDFAIL, message, DEFER, FALSE, &sx->delivery_start);
2836       yield = DEFER;
2837       goto SEND_QUIT;
2838       }
2839     switch (*s)
2840       {
2841       case '1': sx->addrlist->prop.utf8_downcvt = TRUE;
2842                 sx->addrlist->prop.utf8_downcvt_maybe = FALSE;
2843                 break;
2844       case '0': sx->addrlist->prop.utf8_downcvt = FALSE;
2845                 sx->addrlist->prop.utf8_downcvt_maybe = FALSE;
2846                 break;
2847       case '-': if (s[1] == '1')
2848                   {
2849                   sx->addrlist->prop.utf8_downcvt = FALSE;
2850                   sx->addrlist->prop.utf8_downcvt_maybe = TRUE;
2851                   }
2852                 break;
2853       }
2854     }
2855
2856   sx->utf8_needed = !sx->addrlist->prop.utf8_downcvt
2857                     && !sx->addrlist->prop.utf8_downcvt_maybe;
2858   DEBUG(D_transport) if (!sx->utf8_needed)
2859     debug_printf("utf8: %s downconvert\n",
2860       sx->addrlist->prop.utf8_downcvt ? "mandatory" : "optional");
2861   }
2862
2863 /* If this is an international message we need the host to speak SMTPUTF8 */
2864 if (sx->utf8_needed && !(sx->peer_offered & OPTION_UTF8))
2865   {
2866   errno = ERRNO_UTF8_FWD;
2867   goto RESPONSE_FAILED;
2868   }
2869 #endif  /*SUPPORT_I18N*/
2870
2871 return OK;
2872
2873
2874   {
2875   int code;
2876
2877   RESPONSE_FAILED:
2878     if (errno == ECONNREFUSED)  /* first-read error on a TFO conn */
2879       {
2880       /* There is a testing facility for simulating a connection timeout, as I
2881       can't think of any other way of doing this. It converts a connection
2882       refused into a timeout if the timeout is set to 999999.  This is done for
2883       a 3whs connection in ip_connect(), but a TFO connection does not error
2884       there - instead it gets ECONNREFUSED on the first data read.  Tracking
2885       that a TFO really was done is too hard, or we would set a
2886       sx->pending_conn_done bit and test that in smtp_reap_banner() and
2887       smtp_reap_ehlo().  That would let us also add the conn-timeout to the
2888       cmd-timeout. */
2889
2890       if (f.running_in_test_harness && ob->connect_timeout == 999999)
2891         errno = ETIMEDOUT;
2892       set_errno_nohost(sx->addrlist,
2893         errno == ETIMEDOUT ? ERRNO_CONNECTTIMEOUT : errno,
2894         sx->verify ? US strerror(errno) : NULL,
2895         DEFER, FALSE, &sx->delivery_start);
2896       sx->send_quit = FALSE;
2897       return DEFER;
2898       }
2899
2900     /* really an error on an SMTP read */
2901     message = NULL;
2902     sx->send_quit = check_response(sx->conn_args.host, &errno, sx->addrlist->more_errno,
2903       sx->buffer, &code, &message, &pass_message);
2904     yield = DEFER;
2905     goto FAILED;
2906
2907   SEND_FAILED:
2908     code = '4';
2909     message = US string_sprintf("send() to %s [%s] failed: %s",
2910       sx->conn_args.host->name, sx->conn_args.host->address, strerror(errno));
2911     sx->send_quit = FALSE;
2912     yield = DEFER;
2913     goto FAILED;
2914
2915   EHLOHELO_FAILED:
2916     code = '4';
2917     message = string_sprintf("Remote host closed connection in response to %s"
2918       " (EHLO response was: %s)", smtp_command, sx->buffer);
2919     sx->send_quit = FALSE;
2920     yield = DEFER;
2921     goto FAILED;
2922
2923   /* This label is jumped to directly when a TLS negotiation has failed,
2924   or was not done for a host for which it is required. Values will be set
2925   in message and errno, and setting_up will always be true. Treat as
2926   a temporary error. */
2927
2928 #ifndef DISABLE_TLS
2929   TLS_FAILED:
2930     code = '4', yield = DEFER;
2931     goto FAILED;
2932 #endif
2933
2934   /* The failure happened while setting up the call; see if the failure was
2935   a 5xx response (this will either be on connection, or following HELO - a 5xx
2936   after EHLO causes it to try HELO). If so, and there are no more hosts to try,
2937   fail all addresses, as this host is never going to accept them. For other
2938   errors during setting up (timeouts or whatever), defer all addresses, and
2939   yield DEFER, so that the host is not tried again for a while.
2940
2941   XXX This peeking for another host feels like a layering violation. We want
2942   to note the host as unusable, but down here we shouldn't know if this was
2943   the last host to try for the addr(list).  Perhaps the upper layer should be
2944   the one to do set_errno() ?  The problem is that currently the addr is where
2945   errno etc. are stashed, but until we run out of hosts to try the errors are
2946   host-specific.  Maybe we should enhance the host_item definition? */
2947
2948 FAILED:
2949   sx->ok = FALSE;                /* For when reached by GOTO */
2950   set_errno(sx->addrlist, errno, message,
2951             sx->conn_args.host->next
2952             ? DEFER
2953             : code == '5'
2954 #ifdef SUPPORT_I18N
2955                         || errno == ERRNO_UTF8_FWD
2956 #endif
2957             ? FAIL : DEFER,
2958             pass_message,
2959             errno == ECONNREFUSED ? NULL : sx->conn_args.host,
2960 #ifdef EXPERIMENTAL_DSN_INFO
2961             sx->smtp_greeting, sx->helo_response,
2962 #endif
2963             &sx->delivery_start);
2964   }
2965
2966
2967 SEND_QUIT:
2968
2969 if (sx->send_quit)
2970   (void)smtp_write_command(sx, SCMD_FLUSH, "QUIT\r\n");
2971
2972 #ifndef DISABLE_TLS
2973 if (sx->cctx.tls_ctx)
2974   {
2975   tls_close(sx->cctx.tls_ctx, TLS_SHUTDOWN_NOWAIT);
2976   sx->cctx.tls_ctx = NULL;
2977   }
2978 #endif
2979
2980 /* Close the socket, and return the appropriate value, first setting
2981 works because the NULL setting is passed back to the calling process, and
2982 remote_max_parallel is forced to 1 when delivering over an existing connection,
2983 */
2984
2985 HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP(close)>>\n");
2986 if (sx->send_quit)
2987   {
2988   shutdown(sx->cctx.sock, SHUT_WR);
2989   if (fcntl(sx->cctx.sock, F_SETFL, O_NONBLOCK) == 0)
2990     for (int i = 16; read(sx->cctx.sock, sx->inbuffer, sizeof(sx->inbuffer)) > 0 && i > 0;)
2991       i--;                              /* drain socket */
2992   sx->send_quit = FALSE;
2993   }
2994 (void)close(sx->cctx.sock);
2995 sx->cctx.sock = -1;
2996
2997 #ifndef DISABLE_EVENT
2998 (void) event_raise(sx->conn_args.tblock->event_action, US"tcp:close", NULL);
2999 #endif
3000
3001 continue_transport = NULL;
3002 continue_hostname = NULL;
3003 return yield;
3004 }
3005
3006
3007
3008
3009 /* Create the string of options that will be appended to the MAIL FROM:
3010 in the connection context buffer */
3011
3012 static int
3013 build_mailcmd_options(smtp_context * sx, address_item * addrlist)
3014 {
3015 uschar * p = sx->buffer;
3016 address_item * addr;
3017 int address_count;
3018
3019 *p = 0;
3020
3021 /* If we know the receiving MTA supports the SIZE qualification, and we know it,
3022 send it, adding something to the message size to allow for imprecision
3023 and things that get added en route. Exim keeps the number of lines
3024 in a message, so we can give an accurate value for the original message, but we
3025 need some additional to handle added headers. (Double "." characters don't get
3026 included in the count.) */
3027
3028 if (  message_size > 0
3029    && sx->peer_offered & OPTION_SIZE && !(sx->avoid_option & OPTION_SIZE))
3030   {
3031 /*XXX problem here under spool_files_wireformat?
3032 Or just forget about lines?  Or inflate by a fixed proportion? */
3033
3034   sprintf(CS p, " SIZE=%d", message_size+message_linecount+(SOB sx->conn_args.ob)->size_addition);
3035   while (*p) p++;
3036   }
3037
3038 #ifndef DISABLE_PRDR
3039 /* If it supports Per-Recipient Data Responses, and we have more than one recipient,
3040 request that */
3041
3042 sx->prdr_active = FALSE;
3043 if (sx->peer_offered & OPTION_PRDR)
3044   for (address_item * addr = addrlist; addr; addr = addr->next)
3045     if (addr->transport_return == PENDING_DEFER)
3046       {
3047       for (addr = addr->next; addr; addr = addr->next)
3048         if (addr->transport_return == PENDING_DEFER)
3049           {                     /* at least two recipients to send */
3050           sx->prdr_active = TRUE;
3051           sprintf(CS p, " PRDR"); p += 5;
3052           break;
3053           }
3054       break;
3055       }
3056 #endif
3057
3058 #ifdef SUPPORT_I18N
3059 /* If it supports internationalised messages, and this meesage need that,
3060 request it */
3061
3062 if (  sx->peer_offered & OPTION_UTF8
3063    && addrlist->prop.utf8_msg
3064    && !addrlist->prop.utf8_downcvt
3065    )
3066   Ustrcpy(p, US" SMTPUTF8"), p += 9;
3067 #endif
3068
3069 /* check if all addresses have DSN-lasthop flag; do not send RET and ENVID if so */
3070 for (sx->dsn_all_lasthop = TRUE, addr = addrlist, address_count = 0;
3071      addr && address_count < sx->max_rcpt;
3072      addr = addr->next) if (addr->transport_return == PENDING_DEFER)
3073   {
3074   address_count++;
3075   if (!(addr->dsn_flags & rf_dsnlasthop))
3076     {
3077     sx->dsn_all_lasthop = FALSE;
3078     break;
3079     }
3080   }
3081
3082 /* Add any DSN flags to the mail command */
3083
3084 if (sx->peer_offered & OPTION_DSN && !sx->dsn_all_lasthop)
3085   {
3086   if (dsn_ret == dsn_ret_hdrs)
3087     { Ustrcpy(p, US" RET=HDRS"); p += 9; }
3088   else if (dsn_ret == dsn_ret_full)
3089     { Ustrcpy(p, US" RET=FULL"); p += 9; }
3090
3091   if (dsn_envid)
3092     {
3093     string_format(p, sizeof(sx->buffer) - (p-sx->buffer), " ENVID=%s", dsn_envid);
3094     while (*p) p++;
3095     }
3096   }
3097
3098 /* If an authenticated_sender override has been specified for this transport
3099 instance, expand it. If the expansion is forced to fail, and there was already
3100 an authenticated_sender for this message, the original value will be used.
3101 Other expansion failures are serious. An empty result is ignored, but there is
3102 otherwise no check - this feature is expected to be used with LMTP and other
3103 cases where non-standard addresses (e.g. without domains) might be required. */
3104
3105 return smtp_mail_auth_str(sx, p, addrlist) ? ERROR : OK;
3106 }
3107
3108
3109 static void
3110 build_rcptcmd_options(smtp_context * sx, const address_item * addr)
3111 {
3112 uschar * p = sx->buffer;
3113 *p = 0;
3114
3115 /* Add any DSN flags to the rcpt command */
3116
3117 if (sx->peer_offered & OPTION_DSN && !(addr->dsn_flags & rf_dsnlasthop))
3118   {
3119   if (addr->dsn_flags & rf_dsnflags)
3120     {
3121     BOOL first = TRUE;
3122
3123     Ustrcpy(p, US" NOTIFY=");
3124     while (*p) p++;
3125     for (int i = 0; i < nelem(rf_list); i++) if (addr->dsn_flags & rf_list[i])
3126       {
3127       if (!first) *p++ = ',';
3128       first = FALSE;
3129       Ustrcpy(p, rf_names[i]);
3130       while (*p) p++;
3131       }
3132     }
3133
3134   if (addr->dsn_orcpt)
3135     {
3136     string_format(p, sizeof(sx->buffer) - (p-sx->buffer), " ORCPT=%s",
3137       addr->dsn_orcpt);
3138     while (*p) p++;
3139     }
3140   }
3141 }
3142
3143
3144
3145 /*
3146 Return:
3147  0      good, rcpt results in addr->transport_return (PENDING_OK, DEFER, FAIL)
3148  -1     MAIL response error
3149  -2     any non-MAIL read i/o error
3150  -3     non-MAIL response timeout
3151  -4     internal error; channel still usable
3152  -5     transmit failed
3153  */
3154
3155 int
3156 smtp_write_mail_and_rcpt_cmds(smtp_context * sx, int * yield)
3157 {
3158 address_item * addr;
3159 int address_count, pipe_limit;
3160 int rc;
3161
3162 if (build_mailcmd_options(sx, sx->first_addr) != OK)
3163   {
3164   *yield = ERROR;
3165   return -4;
3166   }
3167
3168 /* From here until we send the DATA command, we can make use of PIPELINING
3169 if the server host supports it. The code has to be able to check the responses
3170 at any point, for when the buffer fills up, so we write it totally generally.
3171 When PIPELINING is off, each command written reports that it has flushed the
3172 buffer. */
3173
3174 sx->pending_MAIL = TRUE;     /* The block starts with MAIL */
3175
3176   {
3177   uschar * s = sx->from_addr;
3178 #ifdef SUPPORT_I18N
3179   uschar * errstr = NULL;
3180
3181   /* If we must downconvert, do the from-address here.  Remember we had to
3182   for the to-addresses (done below), and also (ugly) for re-doing when building
3183   the delivery log line. */
3184
3185   if (  sx->addrlist->prop.utf8_msg
3186      && (sx->addrlist->prop.utf8_downcvt || !(sx->peer_offered & OPTION_UTF8))
3187      )
3188     {
3189     if (s = string_address_utf8_to_alabel(s, &errstr), errstr)
3190       {
3191       set_errno_nohost(sx->addrlist, ERRNO_EXPANDFAIL, errstr, DEFER, FALSE, &sx->delivery_start);
3192       *yield = ERROR;
3193       return -4;
3194       }
3195     setflag(sx->addrlist, af_utf8_downcvt);
3196     }
3197 #endif
3198
3199   rc = smtp_write_command(sx, pipelining_active ? SCMD_BUFFER : SCMD_FLUSH,
3200           "MAIL FROM:<%s>%s\r\n", s, sx->buffer);
3201   }
3202
3203 mail_command = string_copy(big_buffer);  /* Save for later error message */
3204
3205 switch(rc)
3206   {
3207   case -1:                /* Transmission error */
3208     return -5;
3209
3210   case +1:                /* Cmd was sent */
3211     if (!smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '2',
3212        (SOB sx->conn_args.ob)->command_timeout))
3213       {
3214       if (errno == 0 && sx->buffer[0] == '4')
3215         {
3216         errno = ERRNO_MAIL4XX;
3217         sx->addrlist->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
3218         }
3219       return -1;
3220       }
3221     sx->pending_MAIL = FALSE;
3222     break;
3223
3224   /* otherwise zero: command queued for pipeline */
3225   }
3226
3227 /* Pass over all the relevant recipient addresses for this host, which are the
3228 ones that have status PENDING_DEFER. If we are using PIPELINING, we can send
3229 several before we have to read the responses for those seen so far. This
3230 checking is done by a subroutine because it also needs to be done at the end.
3231 Send only up to max_rcpt addresses at a time, leaving next_addr pointing to
3232 the next one if not all are sent.
3233
3234 In the MUA wrapper situation, we want to flush the PIPELINING buffer for the
3235 last address because we want to abort if any recipients have any kind of
3236 problem, temporary or permanent. We know that all recipient addresses will have
3237 the PENDING_DEFER status, because only one attempt is ever made, and we know
3238 that max_rcpt will be large, so all addresses will be done at once.
3239
3240 For verify we flush the pipeline after any (the only) rcpt address. */
3241
3242 for (addr = sx->first_addr, address_count = 0, pipe_limit = 100;
3243      addr  &&  address_count < sx->max_rcpt;
3244      addr = addr->next) if (addr->transport_return == PENDING_DEFER)
3245   {
3246   int cmds_sent;
3247   BOOL no_flush;
3248   uschar * rcpt_addr;
3249
3250   addr->dsn_aware = sx->peer_offered & OPTION_DSN
3251     ? dsn_support_yes : dsn_support_no;
3252
3253   address_count++;
3254   if (pipe_limit-- <= 0)
3255     { no_flush = FALSE; pipe_limit = 100; }
3256   else
3257     no_flush = pipelining_active && !sx->verify
3258           && (!mua_wrapper || addr->next && address_count < sx->max_rcpt);
3259
3260   build_rcptcmd_options(sx, addr);
3261
3262   /* Now send the RCPT command, and process outstanding responses when
3263   necessary. After a timeout on RCPT, we just end the function, leaving the
3264   yield as OK, because this error can often mean that there is a problem with
3265   just one address, so we don't want to delay the host. */
3266
3267   rcpt_addr = transport_rcpt_address(addr, sx->conn_args.tblock->rcpt_include_affixes);
3268
3269 #ifdef SUPPORT_I18N
3270   if (  testflag(sx->addrlist, af_utf8_downcvt)
3271      && !(rcpt_addr = string_address_utf8_to_alabel(rcpt_addr, NULL))
3272      )
3273     {
3274     /*XXX could we use a per-address errstr here? Not fail the whole send? */
3275     errno = ERRNO_EXPANDFAIL;
3276     return -5;          /*XXX too harsh? */
3277     }
3278 #endif
3279
3280   cmds_sent = smtp_write_command(sx, no_flush ? SCMD_BUFFER : SCMD_FLUSH,
3281     "RCPT TO:<%s>%s%s\r\n", rcpt_addr, sx->igquotstr, sx->buffer);
3282
3283   if (cmds_sent < 0) return -5;
3284   if (cmds_sent > 0)
3285     {
3286     switch(sync_responses(sx, cmds_sent, 0))
3287       {
3288       case 3: sx->ok = TRUE;                    /* 2xx & 5xx => OK & progress made */
3289       case 2: sx->completed_addr = TRUE;        /* 5xx (only) => progress made */
3290               break;
3291
3292       case 1: sx->ok = TRUE;                    /* 2xx (only) => OK, but if LMTP, */
3293               if (!sx->lmtp)                    /*  can't tell about progress yet */
3294                 sx->completed_addr = TRUE;
3295       case 0:                                   /* No 2xx or 5xx, but no probs */
3296               /* If any RCPT got a 452 response then next_addr has been updated
3297               for restarting with a new MAIL on the same connection.  Send no more
3298               RCPTs for this MAIL. */
3299
3300               if (sx->RCPT_452)
3301                 {
3302                 DEBUG(D_transport) debug_printf("seen 452 too-many-rcpts\n");
3303                 sx->RCPT_452 = FALSE;
3304                 /* sx->next_addr has been reset for fast_retry */
3305                 return 0;
3306                 }
3307               break;
3308
3309       case -1: return -3;                       /* Timeout on RCPT */
3310       case -2: return -2;                       /* non-MAIL read i/o error */
3311       default: return -1;                       /* any MAIL error */
3312
3313 #ifndef DISABLE_PIPE_CONNECT
3314       case -4: return -1;                       /* non-2xx for pipelined banner or EHLO */
3315       case -5: return -1;                       /* TLS first-read error */
3316 #endif
3317       }
3318     }
3319   }      /* Loop for next address */
3320
3321 sx->next_addr = addr;
3322 return 0;
3323 }
3324
3325
3326 #ifndef DISABLE_TLS
3327 /*****************************************************
3328 * Proxy TLS connection for another transport process *
3329 ******************************************************/
3330 /*
3331 Close the unused end of the pipe, fork once more, then use the given buffer
3332 as a staging area, and select on both the given fd and the TLS'd client-fd for
3333 data to read (per the coding in ip_recv() and fd_ready() this is legitimate).
3334 Do blocking full-size writes, and reads under a timeout.  Once both input
3335 channels are closed, exit the process.
3336
3337 Arguments:
3338   ct_ctx        tls context
3339   buf           space to use for buffering
3340   bufsiz        size of buffer
3341   pfd           pipe filedescriptor array; [0] is comms to proxied process
3342   timeout       per-read timeout, seconds
3343
3344 Does not return.
3345 */
3346
3347 void
3348 smtp_proxy_tls(void * ct_ctx, uschar * buf, size_t bsize, int * pfd,
3349   int timeout)
3350 {
3351 fd_set rfds, efds;
3352 int max_fd = MAX(pfd[0], tls_out.active.sock) + 1;
3353 int rc, i;
3354
3355 close(pfd[1]);
3356 if ((rc = exim_fork(US"tls-proxy")))
3357   _exit(rc < 0 ? EXIT_FAILURE : EXIT_SUCCESS);
3358
3359 set_process_info("proxying TLS connection for continued transport");
3360 FD_ZERO(&rfds);
3361 FD_SET(tls_out.active.sock, &rfds);
3362 FD_SET(pfd[0], &rfds);
3363
3364 for (int fd_bits = 3; fd_bits; )
3365   {
3366   time_t time_left = timeout;
3367   time_t time_start = time(NULL);
3368
3369   /* wait for data */
3370   efds = rfds;
3371   do
3372     {
3373     struct timeval tv = { time_left, 0 };
3374
3375     rc = select(max_fd,
3376       (SELECT_ARG2_TYPE *)&rfds, NULL, (SELECT_ARG2_TYPE *)&efds, &tv);
3377
3378     if (rc < 0 && errno == EINTR)
3379       if ((time_left -= time(NULL) - time_start) > 0) continue;
3380
3381     if (rc <= 0)
3382       {
3383       DEBUG(D_transport) if (rc == 0) debug_printf("%s: timed out\n", __FUNCTION__);
3384       goto done;
3385       }
3386
3387     if (FD_ISSET(tls_out.active.sock, &efds) || FD_ISSET(pfd[0], &efds))
3388       {
3389       DEBUG(D_transport) debug_printf("select: exceptional cond on %s fd\n",
3390         FD_ISSET(pfd[0], &efds) ? "proxy" : "tls");
3391       goto done;
3392       }
3393     }
3394   while (rc < 0 || !(FD_ISSET(tls_out.active.sock, &rfds) || FD_ISSET(pfd[0], &rfds)));
3395
3396   /* handle inbound data */
3397   if (FD_ISSET(tls_out.active.sock, &rfds))
3398     if ((rc = tls_read(ct_ctx, buf, bsize)) <= 0)
3399       {
3400       fd_bits &= ~1;
3401       FD_CLR(tls_out.active.sock, &rfds);
3402       shutdown(pfd[0], SHUT_WR);
3403       timeout = 5;
3404       }
3405     else
3406       {
3407       for (int nbytes = 0; rc - nbytes > 0; nbytes += i)
3408         if ((i = write(pfd[0], buf + nbytes, rc - nbytes)) < 0) goto done;
3409       }
3410   else if (fd_bits & 1)
3411     FD_SET(tls_out.active.sock, &rfds);
3412
3413   /* handle outbound data */
3414   if (FD_ISSET(pfd[0], &rfds))
3415     if ((rc = read(pfd[0], buf, bsize)) <= 0)
3416       {
3417       fd_bits = 0;
3418       tls_close(ct_ctx, TLS_SHUTDOWN_NOWAIT);
3419       ct_ctx = NULL;
3420       }
3421     else
3422       {
3423       for (int nbytes = 0; rc - nbytes > 0; nbytes += i)
3424         if ((i = tls_write(ct_ctx, buf + nbytes, rc - nbytes, FALSE)) < 0)
3425           goto done;
3426       }
3427   else if (fd_bits & 2)
3428     FD_SET(pfd[0], &rfds);
3429   }
3430
3431 done:
3432   testharness_pause_ms(100);    /* let logging complete */
3433   exim_exit(EXIT_SUCCESS);
3434 }
3435 #endif
3436
3437
3438 /*************************************************
3439 *       Deliver address list to given host       *
3440 *************************************************/
3441
3442 /* If continue_hostname is not null, we get here only when continuing to
3443 deliver down an existing channel. The channel was passed as the standard
3444 input. TLS is never active on a passed channel; the previous process either
3445 closes it down before passing the connection on, or inserts a TLS-proxy
3446 process and passes on a cleartext conection.
3447
3448 Otherwise, we have to make a connection to the remote host, and do the
3449 initial protocol exchange.
3450
3451 When running as an MUA wrapper, if the sender or any recipient is rejected,
3452 temporarily or permanently, we force failure for all recipients.
3453
3454 Arguments:
3455   addrlist        chain of potential addresses to deliver; only those whose
3456                   transport_return field is set to PENDING_DEFER are currently
3457                   being processed; others should be skipped - they have either
3458                   been delivered to an earlier host or IP address, or been
3459                   failed by one of them.
3460   host            host to deliver to
3461   host_af         AF_INET or AF_INET6
3462   defport         default TCP/IP port to use if host does not specify, in host
3463                   byte order
3464   interface       interface to bind to, or NULL
3465   tblock          transport instance block
3466   message_defer   set TRUE if yield is OK, but all addresses were deferred
3467                     because of a non-recipient, non-host failure, that is, a
3468                     4xx response to MAIL FROM, DATA, or ".". This is a defer
3469                     that is specific to the message.
3470   suppress_tls    if TRUE, don't attempt a TLS connection - this is set for
3471                     a second attempt after TLS initialization fails
3472
3473 Returns:          OK    - the connection was made and the delivery attempted;
3474                           the result for each address is in its data block.
3475                   DEFER - the connection could not be made, or something failed
3476                           while setting up the SMTP session, or there was a
3477                           non-message-specific error, such as a timeout.
3478                   ERROR - a filter command is specified for this transport,
3479                           and there was a problem setting it up; OR helo_data
3480                           or add_headers or authenticated_sender is specified
3481                           for this transport, and the string failed to expand
3482
3483                 For all non-OK returns the first addr of the list carries the
3484                 time taken for the attempt.
3485 */
3486
3487 static int
3488 smtp_deliver(address_item *addrlist, host_item *host, int host_af, int defport,
3489   uschar *interface, transport_instance *tblock,
3490   BOOL *message_defer, BOOL suppress_tls)
3491 {
3492 smtp_transport_options_block * ob = SOB tblock->options_block;
3493 int yield = OK;
3494 int save_errno;
3495 int rc;
3496
3497 BOOL pass_message = FALSE;
3498 uschar *message = NULL;
3499 uschar new_message_id[MESSAGE_ID_LENGTH + 1];
3500 smtp_context * sx = store_get(sizeof(*sx), TRUE);       /* tainted, for the data buffers */
3501 #ifdef SUPPORT_DANE
3502 BOOL dane_held;
3503 #endif
3504
3505 suppress_tls = suppress_tls;  /* stop compiler warning when no TLS support */
3506 *message_defer = FALSE;
3507
3508 memset(sx, 0, sizeof(*sx));
3509 sx->addrlist = addrlist;
3510 sx->conn_args.host = host;
3511 sx->conn_args.host_af = host_af,
3512 sx->port = defport;
3513 sx->conn_args.interface = interface;
3514 sx->helo_data = NULL;
3515 sx->conn_args.tblock = tblock;
3516 /* sx->verify = FALSE; */
3517 gettimeofday(&sx->delivery_start, NULL);
3518 sx->sync_addr = sx->first_addr = addrlist;
3519
3520 #ifdef SUPPORT_DANE
3521 DANE_DOMAINS:
3522 dane_held = FALSE;
3523 #endif
3524
3525 /* Get the channel set up ready for a message, MAIL FROM being the next
3526 SMTP command to send. */
3527
3528 if ((rc = smtp_setup_conn(sx, suppress_tls)) != OK)
3529   {
3530   timesince(&addrlist->delivery_time, &sx->delivery_start);
3531   yield = rc;
3532   goto TIDYUP;
3533   }
3534
3535 #ifdef SUPPORT_DANE
3536 /* If the connection used DANE, ignore for now any addresses with incompatible
3537 domains.  The SNI has to be the domain.  Arrange a whole new TCP conn later,
3538 just in case only TLS isn't enough. */
3539
3540 if (sx->conn_args.dane)
3541   {
3542   const uschar * dane_domain = sx->first_addr->domain;
3543
3544   for (address_item * a = sx->first_addr->next; a; a = a->next)
3545     if (  a->transport_return == PENDING_DEFER
3546        && Ustrcmp(dane_domain, a->domain) != 0)
3547       {
3548       DEBUG(D_transport) debug_printf("DANE: holding %s for later\n", a->domain);
3549       dane_held = TRUE;
3550       a->transport_return = DANE;
3551       }
3552   }
3553 #endif
3554
3555 /* If there is a filter command specified for this transport, we can now
3556 set it up. This cannot be done until the identity of the host is known. */
3557
3558 if (tblock->filter_command)
3559   {
3560   transport_filter_timeout = tblock->filter_timeout;
3561
3562   /* On failure, copy the error to all addresses, abandon the SMTP call, and
3563   yield ERROR. */
3564
3565   if (!transport_set_up_command(&transport_filter_argv,
3566         tblock->filter_command, TRUE, DEFER, addrlist,
3567         string_sprintf("%.50s transport", tblock->name), NULL))
3568     {
3569     set_errno_nohost(addrlist->next, addrlist->basic_errno, addrlist->message, DEFER,
3570       FALSE, &sx->delivery_start);
3571     yield = ERROR;
3572     goto SEND_QUIT;
3573     }
3574
3575   if (  transport_filter_argv
3576      && *transport_filter_argv
3577      && **transport_filter_argv
3578      && sx->peer_offered & OPTION_CHUNKING
3579 #ifndef DISABLE_DKIM
3580     /* When dkim signing, chunking is handled even with a transport-filter */
3581      && !(ob->dkim.dkim_private_key && ob->dkim.dkim_domain && ob->dkim.dkim_selector)
3582      && !ob->dkim.force_bodyhash
3583 #endif
3584      )
3585     {
3586     sx->peer_offered &= ~OPTION_CHUNKING;
3587     DEBUG(D_transport) debug_printf("CHUNKING not usable due to transport filter\n");
3588     }
3589   }
3590
3591 /* For messages that have more than the maximum number of envelope recipients,
3592 we want to send several transactions down the same SMTP connection. (See
3593 comments in deliver.c as to how this reconciles, heuristically, with
3594 remote_max_parallel.) This optimization was added to Exim after the following
3595 code was already working. The simplest way to put it in without disturbing the
3596 code was to use a goto to jump back to this point when there is another
3597 transaction to handle. */
3598
3599 SEND_MESSAGE:
3600 sx->from_addr = return_path;
3601 sx->sync_addr = sx->first_addr;
3602 sx->ok = FALSE;
3603 sx->send_rset = TRUE;
3604 sx->completed_addr = FALSE;
3605
3606
3607 /* If we are a continued-connection-after-verify the MAIL and RCPT
3608 commands were already sent; do not re-send but do mark the addrs as
3609 having been accepted up to RCPT stage.  A traditional cont-conn
3610 always has a sequence number greater than one. */
3611
3612 if (continue_hostname && continue_sequence == 1)
3613   {
3614   /* sx->pending_MAIL = FALSE; */
3615   sx->ok = TRUE;
3616   /* sx->next_addr = NULL; */
3617
3618   for (address_item * addr = addrlist; addr; addr = addr->next)
3619     addr->transport_return = PENDING_OK;
3620   }
3621 else
3622   {
3623   /* Initiate a message transfer. */
3624
3625   switch(smtp_write_mail_and_rcpt_cmds(sx, &yield))
3626     {
3627     case 0:             break;
3628     case -1: case -2:   goto RESPONSE_FAILED;
3629     case -3:            goto END_OFF;
3630     case -4:            goto SEND_QUIT;
3631     default:            goto SEND_FAILED;
3632     }
3633
3634   /* If we are an MUA wrapper, abort if any RCPTs were rejected, either
3635   permanently or temporarily. We should have flushed and synced after the last
3636   RCPT. */
3637
3638   if (mua_wrapper)
3639     {
3640     address_item * a;
3641     unsigned cnt;
3642
3643     for (a = sx->first_addr, cnt = 0; a && cnt < sx->max_rcpt; a = a->next, cnt++)
3644       if (a->transport_return != PENDING_OK)
3645         {
3646         /*XXX could we find a better errno than 0 here? */
3647         set_errno_nohost(addrlist, 0, a->message, FAIL,
3648           testflag(a, af_pass_message), &sx->delivery_start);
3649         sx->ok = FALSE;
3650         break;
3651         }
3652     }
3653   }
3654
3655 /* If ok is TRUE, we know we have got at least one good recipient, and must now
3656 send DATA, but if it is FALSE (in the normal, non-wrapper case), we may still
3657 have a good recipient buffered up if we are pipelining. We don't want to waste
3658 time sending DATA needlessly, so we only send it if either ok is TRUE or if we
3659 are pipelining. The responses are all handled by sync_responses().
3660 If using CHUNKING, do not send a BDAT until we know how big a chunk we want
3661 to send is. */
3662
3663 if (  !(sx->peer_offered & OPTION_CHUNKING)
3664    && (sx->ok || (pipelining_active && !mua_wrapper)))
3665   {
3666   int count = smtp_write_command(sx, SCMD_FLUSH, "DATA\r\n");
3667
3668   if (count < 0) goto SEND_FAILED;
3669   switch(sync_responses(sx, count, sx->ok ? +1 : -1))
3670     {
3671     case 3: sx->ok = TRUE;            /* 2xx & 5xx => OK & progress made */
3672     case 2: sx->completed_addr = TRUE;    /* 5xx (only) => progress made */
3673     break;
3674
3675     case 1: sx->ok = TRUE;            /* 2xx (only) => OK, but if LMTP, */
3676     if (!sx->lmtp) sx->completed_addr = TRUE; /* can't tell about progress yet */
3677     case 0: break;                      /* No 2xx or 5xx, but no probs */
3678
3679     case -1: goto END_OFF;              /* Timeout on RCPT */
3680
3681 #ifndef DISABLE_PIPE_CONNECT
3682     case -5:                            /* TLS first-read error */
3683     case -4:  HDEBUG(D_transport)
3684                 debug_printf("failed reaping pipelined cmd responses\n");
3685 #endif
3686     default: goto RESPONSE_FAILED;       /* I/O error, or any MAIL/DATA error */
3687     }
3688   pipelining_active = FALSE;
3689   data_command = string_copy(big_buffer);  /* Save for later error message */
3690   }
3691
3692 /* If there were no good recipients (but otherwise there have been no
3693 problems), just set ok TRUE, since we have handled address-specific errors
3694 already. Otherwise, it's OK to send the message. Use the check/escape mechanism
3695 for handling the SMTP dot-handling protocol, flagging to apply to headers as
3696 well as body. Set the appropriate timeout value to be used for each chunk.
3697 (Haven't been able to make it work using select() for writing yet.) */
3698
3699 if (  !sx->ok
3700    && (!(sx->peer_offered & OPTION_CHUNKING) || !pipelining_active))
3701   {
3702   /* Save the first address of the next batch. */
3703   sx->first_addr = sx->next_addr;
3704
3705   sx->ok = TRUE;
3706   }
3707 else
3708   {
3709   transport_ctx tctx = {
3710     .u = {.fd = sx->cctx.sock}, /*XXX will this need TLS info? */
3711     .tblock =   tblock,
3712     .addr =     addrlist,
3713     .check_string = US".",
3714     .escape_string = US"..",    /* Escaping strings */
3715     .options =
3716       topt_use_crlf | topt_escape_headers
3717     | (tblock->body_only        ? topt_no_headers : 0)
3718     | (tblock->headers_only     ? topt_no_body : 0)
3719     | (tblock->return_path_add  ? topt_add_return_path : 0)
3720     | (tblock->delivery_date_add ? topt_add_delivery_date : 0)
3721     | (tblock->envelope_to_add  ? topt_add_envelope_to : 0)
3722   };
3723
3724   /* If using CHUNKING we need a callback from the generic transport
3725   support to us, for the sending of BDAT smtp commands and the reaping
3726   of responses.  The callback needs a whole bunch of state so set up
3727   a transport-context structure to be passed around. */
3728
3729   if (sx->peer_offered & OPTION_CHUNKING)
3730     {
3731     tctx.check_string = tctx.escape_string = NULL;
3732     tctx.options |= topt_use_bdat;
3733     tctx.chunk_cb = smtp_chunk_cmd_callback;
3734     sx->pending_BDAT = FALSE;
3735     sx->good_RCPT = sx->ok;
3736     sx->cmd_count = 0;
3737     tctx.smtp_context = sx;
3738     }
3739   else
3740     tctx.options |= topt_end_dot;
3741
3742   /* Save the first address of the next batch. */
3743   sx->first_addr = sx->next_addr;
3744
3745   /* Responses from CHUNKING commands go in buffer.  Otherwise,
3746   there has not been a response. */
3747
3748   sx->buffer[0] = 0;
3749
3750   sigalrm_seen = FALSE;
3751   transport_write_timeout = ob->data_timeout;
3752   smtp_command = US"sending data block";   /* For error messages */
3753   DEBUG(D_transport|D_v)
3754     if (sx->peer_offered & OPTION_CHUNKING)
3755       debug_printf("         will write message using CHUNKING\n");
3756     else
3757       debug_printf("  SMTP>> writing message and terminating \".\"\n");
3758   transport_count = 0;
3759
3760 #ifndef DISABLE_DKIM
3761   {
3762 # ifdef MEASURE_TIMING
3763   struct timeval t0;
3764   gettimeofday(&t0, NULL);
3765 # endif
3766   dkim_exim_sign_init();
3767 # ifdef EXPERIMENTAL_ARC
3768     {
3769     uschar * s = ob->arc_sign;
3770     if (s)
3771       {
3772       if (!(ob->dkim.arc_signspec = s = expand_string(s)))
3773         {
3774         if (!f.expand_string_forcedfail)
3775           {
3776           message = US"failed to expand arc_sign";
3777           sx->ok = FALSE;
3778           goto SEND_FAILED;
3779           }
3780         }
3781       else if (*s)
3782         {
3783         /* Ask dkim code to hash the body for ARC */
3784         (void) arc_ams_setup_sign_bodyhash();
3785         ob->dkim.force_bodyhash = TRUE;
3786         }
3787       }
3788     }
3789 # endif
3790 # ifdef MEASURE_TIMING
3791   report_time_since(&t0, US"dkim_exim_sign_init (delta)");
3792 # endif
3793   }
3794   sx->ok = dkim_transport_write_message(&tctx, &ob->dkim, CUSS &message);
3795 #else
3796   sx->ok = transport_write_message(&tctx, 0);
3797 #endif
3798
3799   /* transport_write_message() uses write() because it is called from other
3800   places to write to non-sockets. This means that under some OS (e.g. Solaris)
3801   it can exit with "Broken pipe" as its error. This really means that the
3802   socket got closed at the far end. */
3803
3804   transport_write_timeout = 0;   /* for subsequent transports */
3805
3806   /* Failure can either be some kind of I/O disaster (including timeout),
3807   or the failure of a transport filter or the expansion of added headers.
3808   Or, when CHUNKING, it can be a protocol-detected failure. */
3809
3810   if (!sx->ok)
3811     if (message) goto SEND_FAILED;
3812     else         goto RESPONSE_FAILED;
3813
3814   /* We used to send the terminating "." explicitly here, but because of
3815   buffering effects at both ends of TCP/IP connections, you don't gain
3816   anything by keeping it separate, so it might as well go in the final
3817   data buffer for efficiency. This is now done by setting the topt_end_dot
3818   flag above. */
3819
3820   smtp_command = US"end of data";
3821
3822   if (sx->peer_offered & OPTION_CHUNKING && sx->cmd_count > 1)
3823     {
3824     /* Reap any outstanding MAIL & RCPT commands, but not a DATA-go-ahead */
3825     switch(sync_responses(sx, sx->cmd_count-1, 0))
3826       {
3827       case 3: sx->ok = TRUE;            /* 2xx & 5xx => OK & progress made */
3828       case 2: sx->completed_addr = TRUE;    /* 5xx (only) => progress made */
3829               break;
3830
3831       case 1: sx->ok = TRUE;            /* 2xx (only) => OK, but if LMTP, */
3832       if (!sx->lmtp) sx->completed_addr = TRUE; /* can't tell about progress yet */
3833       case 0: break;                    /* No 2xx or 5xx, but no probs */
3834
3835       case -1: goto END_OFF;            /* Timeout on RCPT */
3836
3837 #ifndef DISABLE_PIPE_CONNECT
3838       case -5:                          /* TLS first-read error */
3839       case -4:  HDEBUG(D_transport)
3840                   debug_printf("failed reaping pipelined cmd responses\n");
3841 #endif
3842       default: goto RESPONSE_FAILED;    /* I/O error, or any MAIL/DATA error */
3843       }
3844     }
3845
3846 #ifndef DISABLE_PRDR
3847   /* For PRDR we optionally get a partial-responses warning followed by the
3848   individual responses, before going on with the overall response.  If we don't
3849   get the warning then deal with per non-PRDR. */
3850
3851   if(sx->prdr_active)
3852     {
3853     sx->ok = smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '3', ob->final_timeout);
3854     if (!sx->ok && errno == 0) switch(sx->buffer[0])
3855       {
3856       case '2': sx->prdr_active = FALSE;
3857                 sx->ok = TRUE;
3858                 break;
3859       case '4': errno = ERRNO_DATA4XX;
3860                 addrlist->more_errno |=
3861                   ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
3862                 break;
3863       }
3864     }
3865   else
3866 #endif
3867
3868   /* For non-PRDR SMTP, we now read a single response that applies to the
3869   whole message.  If it is OK, then all the addresses have been delivered. */
3870
3871   if (!sx->lmtp)
3872     {
3873     sx->ok = smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '2',
3874       ob->final_timeout);
3875     if (!sx->ok && errno == 0 && sx->buffer[0] == '4')
3876       {
3877       errno = ERRNO_DATA4XX;
3878       addrlist->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
3879       }
3880     }
3881
3882   /* For LMTP, we get back a response for every RCPT command that we sent;
3883   some may be accepted and some rejected. For those that get a response, their
3884   status is fixed; any that are accepted have been handed over, even if later
3885   responses crash - at least, that's how I read RFC 2033.
3886
3887   If all went well, mark the recipient addresses as completed, record which
3888   host/IPaddress they were delivered to, and cut out RSET when sending another
3889   message down the same channel. Write the completed addresses to the journal
3890   now so that they are recorded in case there is a crash of hardware or
3891   software before the spool gets updated. Also record the final SMTP
3892   confirmation if needed (for SMTP only). */
3893
3894   if (sx->ok)
3895     {
3896     int flag = '=';
3897     struct timeval delivery_time;
3898     int len;
3899     uschar * conf = NULL;
3900
3901     timesince(&delivery_time, &sx->delivery_start);
3902     sx->send_rset = FALSE;
3903     pipelining_active = FALSE;
3904
3905     /* Set up confirmation if needed - applies only to SMTP */
3906
3907     if (
3908 #ifdef DISABLE_EVENT
3909           LOGGING(smtp_confirmation) &&
3910 #endif
3911           !sx->lmtp
3912        )
3913       {
3914       const uschar *s = string_printing(sx->buffer);
3915       /* deconst cast ok here as string_printing was checked to have alloc'n'copied */
3916       conf = (s == sx->buffer)? US string_copy(s) : US s;
3917       }
3918
3919     /* Process all transported addresses - for LMTP or PRDR, read a status for
3920     each one. */
3921
3922     for (address_item * addr = addrlist; addr != sx->first_addr; addr = addr->next)
3923       {
3924       if (addr->transport_return != PENDING_OK) continue;
3925
3926       /* LMTP - if the response fails badly (e.g. timeout), use it for all the
3927       remaining addresses. Otherwise, it's a return code for just the one
3928       address. For temporary errors, add a retry item for the address so that
3929       it doesn't get tried again too soon. */
3930
3931 #ifndef DISABLE_PRDR
3932       if (sx->lmtp || sx->prdr_active)
3933 #else
3934       if (sx->lmtp)
3935 #endif
3936         {
3937         if (!smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '2',
3938             ob->final_timeout))
3939           {
3940           if (errno != 0 || sx->buffer[0] == 0) goto RESPONSE_FAILED;
3941           addr->message = string_sprintf(
3942 #ifndef DISABLE_PRDR
3943             "%s error after %s: %s", sx->prdr_active ? "PRDR":"LMTP",
3944 #else
3945             "LMTP error after %s: %s",
3946 #endif
3947             data_command, string_printing(sx->buffer));
3948           setflag(addr, af_pass_message);   /* Allow message to go to user */
3949           if (sx->buffer[0] == '5')
3950             addr->transport_return = FAIL;
3951           else
3952             {
3953             errno = ERRNO_DATA4XX;
3954             addr->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
3955             addr->transport_return = DEFER;
3956 #ifndef DISABLE_PRDR
3957             if (!sx->prdr_active)
3958 #endif
3959               retry_add_item(addr, addr->address_retry_key, 0);
3960             }
3961           continue;
3962           }
3963         sx->completed_addr = TRUE;   /* NOW we can set this flag */
3964         if (LOGGING(smtp_confirmation))
3965           {
3966           const uschar *s = string_printing(sx->buffer);
3967           /* deconst cast ok here as string_printing was checked to have alloc'n'copied */
3968           conf = (s == sx->buffer) ? US string_copy(s) : US s;
3969           }
3970         }
3971
3972       /* SMTP, or success return from LMTP for this address. Pass back the
3973       actual host that was used. */
3974
3975       addr->transport_return = OK;
3976       addr->host_used = host;
3977       addr->delivery_time = delivery_time;
3978       addr->special_action = flag;
3979       addr->message = conf;
3980
3981       if (tcp_out_fastopen)
3982         {
3983         setflag(addr, af_tcp_fastopen_conn);
3984         if (tcp_out_fastopen >= TFO_USED_NODATA) setflag(addr, af_tcp_fastopen);
3985         if (tcp_out_fastopen >= TFO_USED_DATA) setflag(addr, af_tcp_fastopen_data);
3986         }
3987       if (sx->pipelining_used) setflag(addr, af_pipelining);
3988 #ifndef DISABLE_PIPE_CONNECT
3989       if (sx->early_pipe_active) setflag(addr, af_early_pipe);
3990 #endif
3991 #ifndef DISABLE_PRDR
3992       if (sx->prdr_active) setflag(addr, af_prdr_used);
3993 #endif
3994       if (sx->peer_offered & OPTION_CHUNKING) setflag(addr, af_chunking_used);
3995       flag = '-';
3996
3997 #ifndef DISABLE_PRDR
3998       if (!sx->prdr_active)
3999 #endif
4000         {
4001         /* Update the journal. For homonymic addresses, use the base address plus
4002         the transport name. See lots of comments in deliver.c about the reasons
4003         for the complications when homonyms are involved. Just carry on after
4004         write error, as it may prove possible to update the spool file later. */
4005
4006         if (testflag(addr, af_homonym))
4007           sprintf(CS sx->buffer, "%.500s/%s\n", addr->unique + 3, tblock->name);
4008         else
4009           sprintf(CS sx->buffer, "%.500s\n", addr->unique);
4010
4011         DEBUG(D_deliver) debug_printf("S:journalling %s\n", sx->buffer);
4012         len = Ustrlen(CS sx->buffer);
4013         if (write(journal_fd, sx->buffer, len) != len)
4014           log_write(0, LOG_MAIN|LOG_PANIC, "failed to write journal for "
4015             "%s: %s", sx->buffer, strerror(errno));
4016         }
4017       }
4018
4019 #ifndef DISABLE_PRDR
4020     if (sx->prdr_active)
4021       {
4022       const uschar * overall_message;
4023
4024       /* PRDR - get the final, overall response.  For any non-success
4025       upgrade all the address statuses. */
4026
4027       sx->ok = smtp_read_response(sx, sx->buffer, sizeof(sx->buffer), '2',
4028         ob->final_timeout);
4029       if (!sx->ok)
4030         {
4031         if(errno == 0 && sx->buffer[0] == '4')
4032           {
4033           errno = ERRNO_DATA4XX;
4034           addrlist->more_errno |= ((sx->buffer[1] - '0')*10 + sx->buffer[2] - '0') << 8;
4035           }
4036         for (address_item * addr = addrlist; addr != sx->first_addr; addr = addr->next)
4037           if (sx->buffer[0] == '5' || addr->transport_return == OK)
4038             addr->transport_return = PENDING_OK; /* allow set_errno action */
4039         goto RESPONSE_FAILED;
4040         }
4041
4042       /* Append the overall response to the individual PRDR response for logging
4043       and update the journal, or setup retry. */
4044
4045       overall_message = string_printing(sx->buffer);
4046       for (address_item * addr = addrlist; addr != sx->first_addr; addr = addr->next)
4047         if (addr->transport_return == OK)
4048           addr->message = string_sprintf("%s\\n%s", addr->message, overall_message);
4049
4050       for (address_item * addr = addrlist; addr != sx->first_addr; addr = addr->next)
4051         if (addr->transport_return == OK)
4052           {
4053           if (testflag(addr, af_homonym))
4054             sprintf(CS sx->buffer, "%.500s/%s\n", addr->unique + 3, tblock->name);
4055           else
4056             sprintf(CS sx->buffer, "%.500s\n", addr->unique);
4057
4058           DEBUG(D_deliver) debug_printf("journalling(PRDR) %s\n", sx->buffer);
4059           len = Ustrlen(CS sx->buffer);
4060           if (write(journal_fd, sx->buffer, len) != len)
4061             log_write(0, LOG_MAIN|LOG_PANIC, "failed to write journal for "
4062               "%s: %s", sx->buffer, strerror(errno));
4063           }
4064         else if (addr->transport_return == DEFER)
4065           retry_add_item(addr, addr->address_retry_key, -2);
4066       }
4067 #endif
4068
4069     /* Ensure the journal file is pushed out to disk. */
4070
4071     if (EXIMfsync(journal_fd) < 0)
4072       log_write(0, LOG_MAIN|LOG_PANIC, "failed to fsync journal: %s",
4073         strerror(errno));
4074     }
4075   }
4076
4077
4078 /* Handle general (not specific to one address) failures here. The value of ok
4079 is used to skip over this code on the falling through case. A timeout causes a
4080 deferral. Other errors may defer or fail according to the response code, and
4081 may set up a special errno value, e.g. after connection chopped, which is
4082 assumed if errno == 0 and there is no text in the buffer. If control reaches
4083 here during the setting up phase (i.e. before MAIL FROM) then always defer, as
4084 the problem is not related to this specific message. */
4085
4086 if (!sx->ok)
4087   {
4088   int code, set_rc;
4089   uschar * set_message;
4090
4091   RESPONSE_FAILED:
4092     {
4093     save_errno = errno;
4094     message = NULL;
4095     sx->send_quit = check_response(host, &save_errno, addrlist->more_errno,
4096       sx->buffer, &code, &message, &pass_message);
4097     goto FAILED;
4098     }
4099
4100   SEND_FAILED:
4101     {
4102     save_errno = errno;
4103     code = '4';
4104     message = string_sprintf("send() to %s [%s] failed: %s",
4105       host->name, host->address, message ? message : US strerror(save_errno));
4106     sx->send_quit = FALSE;
4107     goto FAILED;
4108     }
4109
4110   FAILED:
4111     {
4112     BOOL message_error;
4113
4114     sx->ok = FALSE;                /* For when reached by GOTO */
4115     set_message = message;
4116
4117   /* We want to handle timeouts after MAIL or "." and loss of connection after
4118   "." specially. They can indicate a problem with the sender address or with
4119   the contents of the message rather than a real error on the connection. These
4120   cases are treated in the same way as a 4xx response. This next bit of code
4121   does the classification. */
4122
4123     switch(save_errno)
4124       {
4125       case 0:
4126       case ERRNO_MAIL4XX:
4127       case ERRNO_DATA4XX:
4128         message_error = TRUE;
4129         break;
4130
4131       case ETIMEDOUT:
4132         message_error = Ustrncmp(smtp_command,"MAIL",4) == 0 ||
4133                         Ustrncmp(smtp_command,"end ",4) == 0;
4134         break;
4135
4136       case ERRNO_SMTPCLOSED:
4137         message_error = Ustrncmp(smtp_command,"end ",4) == 0;
4138         break;
4139
4140       default:
4141         message_error = FALSE;
4142         break;
4143       }
4144
4145     /* Handle the cases that are treated as message errors. These are:
4146
4147       (a) negative response or timeout after MAIL
4148       (b) negative response after DATA
4149       (c) negative response or timeout or dropped connection after "."
4150       (d) utf8 support required and not offered
4151
4152     It won't be a negative response or timeout after RCPT, as that is dealt
4153     with separately above. The action in all cases is to set an appropriate
4154     error code for all the addresses, but to leave yield set to OK because the
4155     host itself has not failed. Of course, it might in practice have failed
4156     when we've had a timeout, but if so, we'll discover that at the next
4157     delivery attempt. For a temporary error, set the message_defer flag, and
4158     write to the logs for information if this is not the last host. The error
4159     for the last host will be logged as part of the address's log line. */
4160
4161     if (message_error)
4162       {
4163       if (mua_wrapper) code = '5';  /* Force hard failure in wrapper mode */
4164
4165       /* If there's an errno, the message contains just the identity of
4166       the host. */
4167
4168       if (code == '5')
4169         set_rc = FAIL;
4170       else              /* Anything other than 5 is treated as temporary */
4171         {
4172         set_rc = DEFER;
4173         if (save_errno > 0)
4174           message = US string_sprintf("%s: %s", message, strerror(save_errno));
4175
4176         write_logs(host, message, sx->first_addr ? sx->first_addr->basic_errno : 0);
4177
4178         *message_defer = TRUE;
4179         }
4180       }
4181
4182     /* Otherwise, we have an I/O error or a timeout other than after MAIL or
4183     ".", or some other transportation error. We defer all addresses and yield
4184     DEFER, except for the case of failed add_headers expansion, or a transport
4185     filter failure, when the yield should be ERROR, to stop it trying other
4186     hosts. */
4187
4188     else
4189       {
4190 #ifndef DISABLE_PIPE_CONNECT
4191       /* If we were early-pipelinng and the actual EHLO response did not match
4192       the cached value we assumed, we could have detected it and passed a
4193       custom errno through to here.  It would be nice to RSET and retry right
4194       away, but to reliably do that we eould need an extra synch point before
4195       we committed to data and that would discard half the gained roundrips.
4196       Or we could summarily drop the TCP connection. but that is also ugly.
4197       Instead, we ignore the possibility (having freshened the cache) and rely
4198       on the server telling us with a nonmessage error if we have tried to
4199       do something it no longer supports. */
4200 #endif
4201       set_rc = DEFER;
4202       yield = (save_errno == ERRNO_CHHEADER_FAIL ||
4203                save_errno == ERRNO_FILTER_FAIL) ? ERROR : DEFER;
4204       }
4205     }
4206
4207   set_errno(addrlist, save_errno, set_message, set_rc, pass_message, host,
4208 #ifdef EXPERIMENTAL_DSN_INFO
4209             sx->smtp_greeting, sx->helo_response,
4210 #endif
4211             &sx->delivery_start);
4212   }
4213
4214 /* If all has gone well, send_quit will be set TRUE, implying we can end the
4215 SMTP session tidily. However, if there were too many addresses to send in one
4216 message (indicated by first_addr being non-NULL) we want to carry on with the
4217 rest of them. Also, it is desirable to send more than one message down the SMTP
4218 connection if there are several waiting, provided we haven't already sent so
4219 many as to hit the configured limit. The function transport_check_waiting looks
4220 for a waiting message and returns its id. Then transport_pass_socket tries to
4221 set up a continued delivery by passing the socket on to another process. The
4222 variable send_rset is FALSE if a message has just been successfully transferred.
4223
4224 If we are already sending down a continued channel, there may be further
4225 addresses not yet delivered that are aimed at the same host, but which have not
4226 been passed in this run of the transport. In this case, continue_more will be
4227 true, and all we should do is send RSET if necessary, and return, leaving the
4228 channel open.
4229
4230 However, if no address was disposed of, i.e. all addresses got 4xx errors, we
4231 do not want to continue with other messages down the same channel, because that
4232 can lead to looping between two or more messages, all with the same,
4233 temporarily failing address(es). [The retry information isn't updated yet, so
4234 new processes keep on trying.] We probably also don't want to try more of this
4235 message's addresses either.
4236
4237 If we have started a TLS session, we have to end it before passing the
4238 connection to a new process. However, not all servers can handle this (Exim
4239 can), so we do not pass such a connection on if the host matches
4240 hosts_nopass_tls. */
4241
4242 DEBUG(D_transport)
4243   debug_printf("ok=%d send_quit=%d send_rset=%d continue_more=%d "
4244     "yield=%d first_address is %sNULL\n", sx->ok, sx->send_quit,
4245     sx->send_rset, f.continue_more, yield, sx->first_addr ? "not " : "");
4246
4247 if (sx->completed_addr && sx->ok && sx->send_quit)
4248   {
4249   BOOL more;
4250   smtp_compare_t t_compare;
4251
4252   t_compare.tblock = tblock;
4253   t_compare.current_sender_address = sender_address;
4254
4255   if (  sx->first_addr != NULL          /* more addrs for this message */
4256      || f.continue_more                 /* more addrs for coninued-host */
4257      || (
4258 #ifndef DISABLE_TLS
4259            (  tls_out.active.sock < 0  &&  !continue_proxy_cipher
4260            || verify_check_given_host(CUSS &ob->hosts_nopass_tls, host) != OK
4261            )
4262         &&
4263 #endif
4264            transport_check_waiting(tblock->name, host->name,
4265              tblock->connection_max_messages, new_message_id, &more,
4266              (oicf)smtp_are_same_identities, (void*)&t_compare)
4267      )  )
4268     {
4269     uschar *msg;
4270     BOOL pass_message;
4271
4272     if (sx->send_rset)
4273       if (! (sx->ok = smtp_write_command(sx, SCMD_FLUSH, "RSET\r\n") >= 0))
4274         {
4275         msg = US string_sprintf("send() to %s [%s] failed: %s", host->name,
4276           host->address, strerror(errno));
4277         sx->send_quit = FALSE;
4278         }
4279       else if (! (sx->ok = smtp_read_response(sx, sx->buffer, sizeof(sx->buffer),
4280                   '2', ob->command_timeout)))
4281         {
4282         int code;
4283         sx->send_quit = check_response(host, &errno, 0, sx->buffer, &code, &msg,
4284           &pass_message);
4285         if (!sx->send_quit)
4286           {
4287           DEBUG(D_transport) debug_printf("H=%s [%s] %s\n",
4288             host->name, host->address, msg);
4289           }
4290         }
4291
4292     /* Either RSET was not needed, or it succeeded */
4293
4294     if (sx->ok)
4295       {
4296 #ifndef DISABLE_TLS
4297       int pfd[2];
4298 #endif
4299       int socket_fd = sx->cctx.sock;
4300
4301
4302       if (sx->first_addr != NULL)       /* More addresses still to be sent */
4303         {                               /*   for this message              */
4304         continue_sequence++;            /* Causes * in logging */
4305         pipelining_active = sx->pipelining_used;    /* was cleared at DATA */
4306         goto SEND_MESSAGE;
4307         }
4308
4309       /* Unless caller said it already has more messages listed for this host,
4310       pass the connection on to a new Exim process (below, the call to
4311       transport_pass_socket).  If the caller has more ready, just return with
4312       the connection still open. */
4313
4314 #ifndef DISABLE_TLS
4315       if (tls_out.active.sock >= 0)
4316         if (  f.continue_more
4317            || verify_check_given_host(CUSS &ob->hosts_noproxy_tls, host) == OK)
4318           {
4319           /* Before passing the socket on, or returning to caller with it still
4320           open, we must shut down TLS.  Not all MTAs allow for the continuation
4321           of the SMTP session when TLS is shut down. We test for this by sending
4322           a new EHLO. If we don't get a good response, we don't attempt to pass
4323           the socket on. */
4324
4325           tls_close(sx->cctx.tls_ctx, TLS_SHUTDOWN_WAIT);
4326           sx->cctx.tls_ctx = NULL;
4327           tls_out.active.sock = -1;
4328           smtp_peer_options = smtp_peer_options_wrap;
4329           sx->ok = !sx->smtps
4330             && smtp_write_command(sx, SCMD_FLUSH, "EHLO %s\r\n", sx->helo_data)
4331                 >= 0
4332             && smtp_read_response(sx, sx->buffer, sizeof(sx->buffer),
4333                                       '2', ob->command_timeout);
4334
4335           if (sx->ok && f.continue_more)
4336             goto TIDYUP;                /* More addresses for another run */
4337           }
4338         else
4339           {
4340           /* Set up a pipe for proxying TLS for the new transport process */
4341
4342           smtp_peer_options |= OPTION_TLS;
4343           if ((sx->ok = socketpair(AF_UNIX, SOCK_STREAM, 0, pfd) == 0))
4344             socket_fd = pfd[1];
4345           else
4346             set_errno(sx->first_addr, errno, US"internal allocation problem",
4347                     DEFER, FALSE, host,
4348 # ifdef EXPERIMENTAL_DSN_INFO
4349                     sx->smtp_greeting, sx->helo_response,
4350 # endif
4351                     &sx->delivery_start);
4352           }
4353       else
4354 #endif
4355         if (f.continue_more)
4356           goto TIDYUP;                  /* More addresses for another run */
4357
4358       /* If the socket is successfully passed, we mustn't send QUIT (or
4359       indeed anything!) from here. */
4360
4361 /*XXX DSN_INFO: assume likely to do new HELO; but for greet we'll want to
4362 propagate it from the initial
4363 */
4364       if (sx->ok && transport_pass_socket(tblock->name, host->name,
4365             host->address, new_message_id, socket_fd))
4366         {
4367         sx->send_quit = FALSE;
4368
4369         /* We have passed the client socket to a fresh transport process.
4370         If TLS is still active, we need to proxy it for the transport we
4371         just passed the baton to.  Fork a child to to do it, and return to
4372         get logging done asap.  Which way to place the work makes assumptions
4373         about post-fork prioritisation which may not hold on all platforms. */
4374 #ifndef DISABLE_TLS
4375         if (tls_out.active.sock >= 0)
4376           {
4377           int pid = exim_fork(US"tls-proxy-interproc");
4378           if (pid == 0)         /* child; fork again to disconnect totally */
4379             {
4380             /* does not return */
4381             smtp_proxy_tls(sx->cctx.tls_ctx, sx->buffer, sizeof(sx->buffer), pfd,
4382                             ob->command_timeout);
4383             }
4384
4385           if (pid > 0)          /* parent */
4386             {
4387             close(pfd[0]);
4388             /* tidy the inter-proc to disconn the proxy proc */
4389             waitpid(pid, NULL, 0);
4390             tls_close(sx->cctx.tls_ctx, TLS_NO_SHUTDOWN);
4391             sx->cctx.tls_ctx = NULL;
4392             (void)close(sx->cctx.sock);
4393             sx->cctx.sock = -1;
4394             continue_transport = NULL;
4395             continue_hostname = NULL;
4396             goto TIDYUP;
4397             }
4398           log_write(0, LOG_PANIC_DIE, "fork failed");
4399           }
4400 #endif
4401         }
4402       }
4403
4404     /* If RSET failed and there are addresses left, they get deferred. */
4405     else
4406       set_errno(sx->first_addr, errno, msg, DEFER, FALSE, host,
4407 #ifdef EXPERIMENTAL_DSN_INFO
4408                   sx->smtp_greeting, sx->helo_response,
4409 #endif
4410                   &sx->delivery_start);
4411     }
4412   }
4413
4414 /* End off tidily with QUIT unless the connection has died or the socket has
4415 been passed to another process. There has been discussion on the net about what
4416 to do after sending QUIT. The wording of the RFC suggests that it is necessary
4417 to wait for a response, but on the other hand, there isn't anything one can do
4418 with an error response, other than log it. Exim used to do that. However,
4419 further discussion suggested that it is positively advantageous not to wait for
4420 the response, but to close the session immediately. This is supposed to move
4421 the TCP/IP TIME_WAIT state from the server to the client, thereby removing some
4422 load from the server. (Hosts that are both servers and clients may not see much
4423 difference, of course.) Further discussion indicated that this was safe to do
4424 on Unix systems which have decent implementations of TCP/IP that leave the
4425 connection around for a while (TIME_WAIT) after the application has gone away.
4426 This enables the response sent by the server to be properly ACKed rather than
4427 timed out, as can happen on broken TCP/IP implementations on other OS.
4428
4429 This change is being made on 31-Jul-98. After over a year of trouble-free
4430 operation, the old commented-out code was removed on 17-Sep-99. */
4431
4432 SEND_QUIT:
4433 #ifdef TCP_CORK
4434 (void) setsockopt(sx->cctx.sock, IPPROTO_TCP, TCP_CORK, US &on, sizeof(on));
4435 #endif
4436 if (sx->send_quit) (void)smtp_write_command(sx, SCMD_FLUSH, "QUIT\r\n");
4437
4438 END_OFF:
4439
4440 #ifndef DISABLE_TLS
4441 tls_close(sx->cctx.tls_ctx, TLS_SHUTDOWN_NOWAIT);
4442 sx->cctx.tls_ctx = NULL;
4443 #endif
4444
4445 /* Close the socket, and return the appropriate value, first setting
4446 works because the NULL setting is passed back to the calling process, and
4447 remote_max_parallel is forced to 1 when delivering over an existing connection,
4448
4449 If all went well and continue_more is set, we shouldn't actually get here if
4450 there are further addresses, as the return above will be taken. However,
4451 writing RSET might have failed, or there may be other addresses whose hosts are
4452 specified in the transports, and therefore not visible at top level, in which
4453 case continue_more won't get set. */
4454
4455 HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP(close)>>\n");
4456 if (sx->send_quit)
4457   {
4458   shutdown(sx->cctx.sock, SHUT_WR);
4459   millisleep(20);
4460   testharness_pause_ms(200);
4461   if (fcntl(sx->cctx.sock, F_SETFL, O_NONBLOCK) == 0)
4462     for (int i = 16; read(sx->cctx.sock, sx->inbuffer, sizeof(sx->inbuffer)) > 0 && i > 0;)
4463       i--;                              /* drain socket */
4464   }
4465 (void)close(sx->cctx.sock);
4466
4467 #ifndef DISABLE_EVENT
4468 (void) event_raise(tblock->event_action, US"tcp:close", NULL);
4469 #endif
4470
4471 #ifdef SUPPORT_DANE
4472 if (dane_held)
4473   {
4474   sx->first_addr = NULL;
4475   for (address_item * a = sx->addrlist->next; a; a = a->next)
4476     if (a->transport_return == DANE)
4477       {
4478       a->transport_return = PENDING_DEFER;
4479       if (!sx->first_addr)
4480         {
4481         /* Remember the new start-point in the addrlist, for smtp_setup_conn()
4482         to get the domain string for SNI */
4483
4484         sx->first_addr = a;
4485         DEBUG(D_transport) debug_printf("DANE: go-around for %s\n", a->domain);
4486         }
4487       }
4488   goto DANE_DOMAINS;
4489   }
4490 #endif
4491
4492 continue_transport = NULL;
4493 continue_hostname = NULL;
4494 return yield;
4495
4496 TIDYUP:
4497 #ifdef SUPPORT_DANE
4498 if (dane_held) for (address_item * a = sx->addrlist->next; a; a = a->next)
4499   if (a->transport_return == DANE)
4500     a->transport_return = PENDING_DEFER;
4501 #endif
4502 return yield;
4503 }
4504
4505
4506
4507
4508 /*************************************************
4509 *              Closedown entry point             *
4510 *************************************************/
4511
4512 /* This function is called when exim is passed an open smtp channel
4513 from another incarnation, but the message which it has been asked
4514 to deliver no longer exists. The channel is on stdin.
4515
4516 We might do fancy things like looking for another message to send down
4517 the channel, but if the one we sought has gone, it has probably been
4518 delivered by some other process that itself will seek further messages,
4519 so just close down our connection.
4520
4521 Argument:   pointer to the transport instance block
4522 Returns:    nothing
4523 */
4524
4525 void
4526 smtp_transport_closedown(transport_instance *tblock)
4527 {
4528 smtp_transport_options_block * ob = SOB tblock->options_block;
4529 client_conn_ctx cctx;
4530 smtp_context sx;
4531 uschar buffer[256];
4532 uschar inbuffer[4096];
4533 uschar outbuffer[16];
4534
4535 /*XXX really we need an active-smtp-client ctx, rather than assuming stdout */
4536 cctx.sock = fileno(stdin);
4537 cctx.tls_ctx = cctx.sock == tls_out.active.sock ? tls_out.active.tls_ctx : NULL;
4538
4539 sx.inblock.cctx = &cctx;
4540 sx.inblock.buffer = inbuffer;
4541 sx.inblock.buffersize = sizeof(inbuffer);
4542 sx.inblock.ptr = inbuffer;
4543 sx.inblock.ptrend = inbuffer;
4544
4545 sx.outblock.cctx = &cctx;
4546 sx.outblock.buffersize = sizeof(outbuffer);
4547 sx.outblock.buffer = outbuffer;
4548 sx.outblock.ptr = outbuffer;
4549 sx.outblock.cmd_count = 0;
4550 sx.outblock.authenticating = FALSE;
4551
4552 (void)smtp_write_command(&sx, SCMD_FLUSH, "QUIT\r\n");
4553 (void)smtp_read_response(&sx, buffer, sizeof(buffer), '2', ob->command_timeout);
4554 (void)close(cctx.sock);
4555 }
4556
4557
4558
4559 /*************************************************
4560 *            Prepare addresses for delivery      *
4561 *************************************************/
4562
4563 /* This function is called to flush out error settings from previous delivery
4564 attempts to other hosts. It also records whether we got here via an MX record
4565 or not in the more_errno field of the address. We are interested only in
4566 addresses that are still marked DEFER - others may have got delivered to a
4567 previously considered IP address. Set their status to PENDING_DEFER to indicate
4568 which ones are relevant this time.
4569
4570 Arguments:
4571   addrlist     the list of addresses
4572   host         the host we are delivering to
4573
4574 Returns:       the first address for this delivery
4575 */
4576
4577 static address_item *
4578 prepare_addresses(address_item *addrlist, host_item *host)
4579 {
4580 address_item *first_addr = NULL;
4581 for (address_item * addr = addrlist; addr; addr = addr->next)
4582   if (addr->transport_return == DEFER)
4583     {
4584     if (!first_addr) first_addr = addr;
4585     addr->transport_return = PENDING_DEFER;
4586     addr->basic_errno = 0;
4587     addr->more_errno = (host->mx >= 0)? 'M' : 'A';
4588     addr->message = NULL;
4589 #ifndef DISABLE_TLS
4590     addr->cipher = NULL;
4591     addr->ourcert = NULL;
4592     addr->peercert = NULL;
4593     addr->peerdn = NULL;
4594     addr->ocsp = OCSP_NOT_REQ;
4595     addr->tlsver = NULL;
4596 #endif
4597 #ifdef EXPERIMENTAL_DSN_INFO
4598     addr->smtp_greeting = NULL;
4599     addr->helo_response = NULL;
4600 #endif
4601     }
4602 return first_addr;
4603 }
4604
4605
4606
4607 /*************************************************
4608 *              Main entry point                  *
4609 *************************************************/
4610
4611 /* See local README for interface details. As this is a remote transport, it is
4612 given a chain of addresses to be delivered in one connection, if possible. It
4613 always returns TRUE, indicating that each address has its own independent
4614 status set, except if there is a setting up problem, in which case it returns
4615 FALSE. */
4616
4617 BOOL
4618 smtp_transport_entry(
4619   transport_instance *tblock,      /* data for this instantiation */
4620   address_item *addrlist)          /* addresses we are working on */
4621 {
4622 int defport;
4623 int hosts_defer = 0;
4624 int hosts_fail  = 0;
4625 int hosts_looked_up = 0;
4626 int hosts_retry = 0;
4627 int hosts_serial = 0;
4628 int hosts_total = 0;
4629 int total_hosts_tried = 0;
4630 BOOL expired = TRUE;
4631 uschar *expanded_hosts = NULL;
4632 uschar *pistring;
4633 uschar *tid = string_sprintf("%s transport", tblock->name);
4634 smtp_transport_options_block *ob = SOB tblock->options_block;
4635 host_item *hostlist = addrlist->host_list;
4636 host_item *host = NULL;
4637
4638 DEBUG(D_transport)
4639   {
4640   debug_printf("%s transport entered\n", tblock->name);
4641   for (address_item * addr = addrlist; addr; addr = addr->next)
4642     debug_printf("  %s\n", addr->address);
4643   if (hostlist)
4644     {
4645     debug_printf("hostlist:\n");
4646     for (host_item * host = hostlist; host; host = host->next)
4647       debug_printf("  '%s' IP %s port %d\n", host->name, host->address, host->port);
4648     }
4649   if (continue_hostname)
4650     debug_printf("already connected to %s [%s] (on fd %d)\n",
4651       continue_hostname, continue_host_address,
4652       cutthrough.cctx.sock >= 0 ? cutthrough.cctx.sock : 0);
4653   }
4654
4655 /* Set the flag requesting that these hosts be added to the waiting
4656 database if the delivery fails temporarily or if we are running with
4657 queue_smtp or a 2-stage queue run. This gets unset for certain
4658 kinds of error, typically those that are specific to the message. */
4659
4660 update_waiting =  TRUE;
4661
4662 /* If a host list is not defined for the addresses - they must all have the
4663 same one in order to be passed to a single transport - or if the transport has
4664 a host list with hosts_override set, use the host list supplied with the
4665 transport. It is an error for this not to exist. */
4666
4667 if (!hostlist || (ob->hosts_override && ob->hosts))
4668   {
4669   if (!ob->hosts)
4670     {
4671     addrlist->message = string_sprintf("%s transport called with no hosts set",
4672       tblock->name);
4673     addrlist->transport_return = PANIC;
4674     return FALSE;   /* Only top address has status */
4675     }
4676
4677   DEBUG(D_transport) debug_printf("using the transport's hosts: %s\n",
4678     ob->hosts);
4679
4680   /* If the transport's host list contains no '$' characters, and we are not
4681   randomizing, it is fixed and therefore a chain of hosts can be built once
4682   and for all, and remembered for subsequent use by other calls to this
4683   transport. If, on the other hand, the host list does contain '$', or we are
4684   randomizing its order, we have to rebuild it each time. In the fixed case,
4685   as the hosts string will never be used again, it doesn't matter that we
4686   replace all the : characters with zeros. */
4687
4688   if (!ob->hostlist)
4689     {
4690     uschar *s = ob->hosts;
4691
4692     if (Ustrchr(s, '$') != NULL)
4693       {
4694       if (!(expanded_hosts = expand_string(s)))
4695         {
4696         addrlist->message = string_sprintf("failed to expand list of hosts "
4697           "\"%s\" in %s transport: %s", s, tblock->name, expand_string_message);
4698         addrlist->transport_return = f.search_find_defer ? DEFER : PANIC;
4699         return FALSE;     /* Only top address has status */
4700         }
4701       DEBUG(D_transport) debug_printf("expanded list of hosts \"%s\" to "
4702         "\"%s\"\n", s, expanded_hosts);
4703       s = expanded_hosts;
4704       }
4705     else
4706       if (ob->hosts_randomize) s = expanded_hosts = string_copy(s);
4707
4708     if (is_tainted(s))
4709       {
4710       log_write(0, LOG_MAIN|LOG_PANIC,
4711         "attempt to use tainted host list '%s' from '%s' in transport %s",
4712         s, ob->hosts, tblock->name);
4713       /* Avoid leaking info to an attacker */
4714       addrlist->message = US"internal configuration error";
4715       addrlist->transport_return = PANIC;
4716       return FALSE;
4717       }
4718
4719     host_build_hostlist(&hostlist, s, ob->hosts_randomize);
4720
4721     /* Check that the expansion yielded something useful. */
4722     if (!hostlist)
4723       {
4724       addrlist->message =
4725         string_sprintf("%s transport has empty hosts setting", tblock->name);
4726       addrlist->transport_return = PANIC;
4727       return FALSE;   /* Only top address has status */
4728       }
4729
4730     /* If there was no expansion of hosts, save the host list for
4731     next time. */
4732
4733     if (!expanded_hosts) ob->hostlist = hostlist;
4734     }
4735
4736   /* This is not the first time this transport has been run in this delivery;
4737   the host list was built previously. */
4738
4739   else
4740     hostlist = ob->hostlist;
4741   }
4742
4743 /* The host list was supplied with the address. If hosts_randomize is set, we
4744 must sort it into a random order if it did not come from MX records and has not
4745 already been randomized (but don't bother if continuing down an existing
4746 connection). */
4747
4748 else if (ob->hosts_randomize && hostlist->mx == MX_NONE && !continue_hostname)
4749   {
4750   host_item *newlist = NULL;
4751   while (hostlist)
4752     {
4753     host_item *h = hostlist;
4754     hostlist = hostlist->next;
4755
4756     h->sort_key = random_number(100);
4757
4758     if (!newlist)
4759       {
4760       h->next = NULL;
4761       newlist = h;
4762       }
4763     else if (h->sort_key < newlist->sort_key)
4764       {
4765       h->next = newlist;
4766       newlist = h;
4767       }
4768     else
4769       {
4770       host_item *hh = newlist;
4771       while (hh->next)
4772         {
4773         if (h->sort_key < hh->next->sort_key) break;
4774         hh = hh->next;
4775         }
4776       h->next = hh->next;
4777       hh->next = h;
4778       }
4779     }
4780
4781   hostlist = addrlist->host_list = newlist;
4782   }
4783
4784 /* Sort out the default port.  */
4785
4786 if (!smtp_get_port(ob->port, addrlist, &defport, tid)) return FALSE;
4787
4788 /* For each host-plus-IP-address on the list:
4789
4790 .  If this is a continued delivery and the host isn't the one with the
4791    current connection, skip.
4792
4793 .  If the status is unusable (i.e. previously failed or retry checked), skip.
4794
4795 .  If no IP address set, get the address, either by turning the name into
4796    an address, calling gethostbyname if gethostbyname is on, or by calling
4797    the DNS. The DNS may yield multiple addresses, in which case insert the
4798    extra ones into the list.
4799
4800 .  Get the retry data if not previously obtained for this address and set the
4801    field which remembers the state of this address. Skip if the retry time is
4802    not reached. If not, remember whether retry data was found. The retry string
4803    contains both the name and the IP address.
4804
4805 .  Scan the list of addresses and mark those whose status is DEFER as
4806    PENDING_DEFER. These are the only ones that will be processed in this cycle
4807    of the hosts loop.
4808
4809 .  Make a delivery attempt - addresses marked PENDING_DEFER will be tried.
4810    Some addresses may be successfully delivered, others may fail, and yet
4811    others may get temporary errors and so get marked DEFER.
4812
4813 .  The return from the delivery attempt is OK if a connection was made and a
4814    valid SMTP dialogue was completed. Otherwise it is DEFER.
4815
4816 .  If OK, add a "remove" retry item for this host/IPaddress, if any.
4817
4818 .  If fail to connect, or other defer state, add a retry item.
4819
4820 .  If there are any addresses whose status is still DEFER, carry on to the
4821    next host/IPaddress, unless we have tried the number of hosts given
4822    by hosts_max_try or hosts_max_try_hardlimit; otherwise return. Note that
4823    there is some fancy logic for hosts_max_try that means its limit can be
4824    overstepped in some circumstances.
4825
4826 If we get to the end of the list, all hosts have deferred at least one address,
4827 or not reached their retry times. If delay_after_cutoff is unset, it requests a
4828 delivery attempt to those hosts whose last try was before the arrival time of
4829 the current message. To cope with this, we have to go round the loop a second
4830 time. After that, set the status and error data for any addresses that haven't
4831 had it set already. */
4832
4833 for (int cutoff_retry = 0;
4834      expired && cutoff_retry < (ob->delay_after_cutoff ? 1 : 2);
4835      cutoff_retry++)
4836   {
4837   host_item *nexthost = NULL;
4838   int unexpired_hosts_tried = 0;
4839   BOOL continue_host_tried = FALSE;
4840
4841 retry_non_continued:
4842   for (host = hostlist;
4843           host
4844        && unexpired_hosts_tried < ob->hosts_max_try
4845        && total_hosts_tried < ob->hosts_max_try_hardlimit;
4846        host = nexthost)
4847     {
4848     int rc;
4849     int host_af;
4850     BOOL host_is_expired = FALSE;
4851     BOOL message_defer = FALSE;
4852     BOOL some_deferred = FALSE;
4853     address_item *first_addr = NULL;
4854     uschar *interface = NULL;
4855     uschar *retry_host_key = NULL;
4856     uschar *retry_message_key = NULL;
4857     uschar *serialize_key = NULL;
4858
4859     /* Default next host is next host. :-) But this can vary if the
4860     hosts_max_try limit is hit (see below). It may also be reset if a host
4861     address is looked up here (in case the host was multihomed). */
4862
4863     nexthost = host->next;
4864
4865     /* If the address hasn't yet been obtained from the host name, look it up
4866     now, unless the host is already marked as unusable. If it is marked as
4867     unusable, it means that the router was unable to find its IP address (in
4868     the DNS or wherever) OR we are in the 2nd time round the cutoff loop, and
4869     the lookup failed last time. We don't get this far if *all* MX records
4870     point to non-existent hosts; that is treated as a hard error.
4871
4872     We can just skip this host entirely. When the hosts came from the router,
4873     the address will timeout based on the other host(s); when the address is
4874     looked up below, there is an explicit retry record added.
4875
4876     Note that we mustn't skip unusable hosts if the address is not unset; they
4877     may be needed as expired hosts on the 2nd time round the cutoff loop. */
4878
4879     if (!host->address)
4880       {
4881       int new_port, flags;
4882
4883       if (host->status >= hstatus_unusable)
4884         {
4885         DEBUG(D_transport) debug_printf("%s has no address and is unusable - skipping\n",
4886           host->name);
4887         continue;
4888         }
4889
4890       DEBUG(D_transport) debug_printf("getting address for %s\n", host->name);
4891
4892       /* The host name is permitted to have an attached port. Find it, and
4893       strip it from the name. Just remember it for now. */
4894
4895       new_port = host_item_get_port(host);
4896
4897       /* Count hosts looked up */
4898
4899       hosts_looked_up++;
4900
4901       /* Find by name if so configured, or if it's an IP address. We don't
4902       just copy the IP address, because we need the test-for-local to happen. */
4903
4904       flags = HOST_FIND_BY_A | HOST_FIND_BY_AAAA;
4905       if (ob->dns_qualify_single) flags |= HOST_FIND_QUALIFY_SINGLE;
4906       if (ob->dns_search_parents) flags |= HOST_FIND_SEARCH_PARENTS;
4907
4908       if (ob->gethostbyname || string_is_ip_address(host->name, NULL) != 0)
4909         rc = host_find_byname(host, NULL, flags, NULL, TRUE);
4910       else
4911         rc = host_find_bydns(host, NULL, flags, NULL, NULL, NULL,
4912           &ob->dnssec,          /* domains for request/require */
4913           NULL, NULL);
4914
4915       /* Update the host (and any additional blocks, resulting from
4916       multihoming) with a host-specific port, if any. */
4917
4918       for (host_item * hh = host; hh != nexthost; hh = hh->next) hh->port = new_port;
4919
4920       /* Failure to find the host at this time (usually DNS temporary failure)
4921       is really a kind of routing failure rather than a transport failure.
4922       Therefore we add a retry item of the routing kind, not to stop us trying
4923       to look this name up here again, but to ensure the address gets timed
4924       out if the failures go on long enough. A complete failure at this point
4925       commonly points to a configuration error, but the best action is still
4926       to carry on for the next host. */
4927
4928       if (rc == HOST_FIND_AGAIN || rc == HOST_FIND_SECURITY || rc == HOST_FIND_FAILED)
4929         {
4930         retry_add_item(addrlist, string_sprintf("R:%s", host->name), 0);
4931         expired = FALSE;
4932         if (rc == HOST_FIND_AGAIN) hosts_defer++; else hosts_fail++;
4933         DEBUG(D_transport) debug_printf("rc = %s for %s\n", (rc == HOST_FIND_AGAIN)?
4934           "HOST_FIND_AGAIN" : "HOST_FIND_FAILED", host->name);
4935         host->status = hstatus_unusable;
4936
4937         for (address_item * addr = addrlist; addr; addr = addr->next)
4938           {
4939           if (addr->transport_return != DEFER) continue;
4940           addr->basic_errno = ERRNO_UNKNOWNHOST;
4941           addr->message = string_sprintf(
4942             rc == HOST_FIND_SECURITY
4943               ? "lookup of IP address for %s was insecure"
4944               : "failed to lookup IP address for %s",
4945             host->name);
4946           }
4947         continue;
4948         }
4949
4950       /* If the host is actually the local host, we may have a problem, or
4951       there may be some cunning configuration going on. In the problem case,
4952       log things and give up. The default transport status is already DEFER. */
4953
4954       if (rc == HOST_FOUND_LOCAL && !ob->allow_localhost)
4955         {
4956         for (address_item * addr = addrlist; addr; addr = addr->next)
4957           {
4958           addr->basic_errno = ERRNO_HOST_IS_LOCAL;
4959           addr->message = string_sprintf("%s transport found host %s to be "
4960             "local", tblock->name, host->name);
4961           }
4962         goto END_TRANSPORT;
4963         }
4964       }   /* End of block for IP address lookup */
4965
4966     /* If this is a continued delivery, we are interested only in the host
4967     which matches the name of the existing open channel. The check is put
4968     here after the local host lookup, in case the name gets expanded as a
4969     result of the lookup. Set expired FALSE, to save the outer loop executing
4970     twice. */
4971
4972     if (continue_hostname)
4973       if (  Ustrcmp(continue_hostname, host->name) != 0
4974          || Ustrcmp(continue_host_address, host->address) != 0
4975          )
4976         {
4977         expired = FALSE;
4978         continue;      /* With next host */
4979         }
4980       else
4981         continue_host_tried = TRUE;
4982
4983     /* Reset the default next host in case a multihomed host whose addresses
4984     are not looked up till just above added to the host list. */
4985
4986     nexthost = host->next;
4987
4988     /* If queue_smtp is set (-odqs or the first part of a 2-stage run), or the
4989     domain is in queue_smtp_domains, we don't actually want to attempt any
4990     deliveries. When doing a queue run, queue_smtp_domains is always unset. If
4991     there is a lookup defer in queue_smtp_domains, proceed as if the domain
4992     were not in it. We don't want to hold up all SMTP deliveries! Except when
4993     doing a two-stage queue run, don't do this if forcing. */
4994
4995     if (  (!f.deliver_force || f.queue_2stage)
4996        && (  f.queue_smtp
4997           || match_isinlist(addrlist->domain,
4998               CUSS &queue_smtp_domains, 0,
4999               &domainlist_anchor, NULL, MCL_DOMAIN, TRUE, NULL) == OK)
5000        )
5001       {
5002       DEBUG(D_transport) debug_printf("first-pass routing only\n");
5003       expired = FALSE;
5004       for (address_item * addr = addrlist; addr; addr = addr->next)
5005         if (addr->transport_return == DEFER)
5006           addr->message = US"first-pass only routing due to -odqs, "
5007                             "queue_smtp_domains or control=queue";
5008       continue;      /* With next host */
5009       }
5010
5011     /* Count hosts being considered - purely for an intelligent comment
5012     if none are usable. */
5013
5014     hosts_total++;
5015
5016     /* Set $host and $host address now in case they are needed for the
5017     interface expansion or the serialize_hosts check; they remain set if an
5018     actual delivery happens. */
5019
5020     deliver_host = host->name;
5021     deliver_host_address = host->address;
5022     lookup_dnssec_authenticated = host->dnssec == DS_YES ? US"yes"
5023                                 : host->dnssec == DS_NO ? US"no"
5024                                 : US"";
5025
5026     /* Set up a string for adding to the retry key if the port number is not
5027     the standard SMTP port. A host may have its own port setting that overrides
5028     the default. */
5029
5030     pistring = string_sprintf(":%d", host->port == PORT_NONE
5031       ? defport : host->port);
5032     if (Ustrcmp(pistring, ":25") == 0) pistring = US"";
5033
5034     /* Select IPv4 or IPv6, and choose an outgoing interface. If the interface
5035     string is set, even if constant (as different transports can have different
5036     constant settings), we must add it to the key that is used for retries,
5037     because connections to the same host from a different interface should be
5038     treated separately. */
5039
5040     host_af = Ustrchr(host->address, ':') == NULL ? AF_INET : AF_INET6;
5041       {
5042       uschar * s = ob->interface;
5043       if (s && *s)
5044         {
5045         if (!smtp_get_interface(s, host_af, addrlist, &interface, tid))
5046           return FALSE;
5047         pistring = string_sprintf("%s/%s", pistring, interface);
5048         }
5049       }
5050
5051     /* The first time round the outer loop, check the status of the host by
5052     inspecting the retry data. The second time round, we are interested only
5053     in expired hosts that haven't been tried since this message arrived. */
5054
5055     if (cutoff_retry == 0)
5056       {
5057       BOOL incl_ip;
5058       /* Ensure the status of the address is set by checking retry data if
5059       necessary. There may be host-specific retry data (applicable to all
5060       messages) and also data for retries of a specific message at this host.
5061       If either of these retry records are actually read, the keys used are
5062       returned to save recomputing them later. */
5063
5064       if (exp_bool(addrlist, US"transport", tblock->name, D_transport,
5065                 US"retry_include_ip_address", ob->retry_include_ip_address,
5066                 ob->expand_retry_include_ip_address, &incl_ip) != OK)
5067         continue;       /* with next host */
5068
5069       host_is_expired = retry_check_address(addrlist->domain, host, pistring,
5070         incl_ip, &retry_host_key, &retry_message_key);
5071
5072       DEBUG(D_transport) debug_printf("%s [%s]%s retry-status = %s\n", host->name,
5073         host->address ? host->address : US"", pistring,
5074         host->status == hstatus_usable ? "usable"
5075         : host->status == hstatus_unusable ? "unusable"
5076         : host->status == hstatus_unusable_expired ? "unusable (expired)" : "?");
5077
5078       /* Skip this address if not usable at this time, noting if it wasn't
5079       actually expired, both locally and in the address. */
5080
5081       switch (host->status)
5082         {
5083         case hstatus_unusable:
5084           expired = FALSE;
5085           setflag(addrlist, af_retry_skipped);
5086           /* Fall through */
5087
5088         case hstatus_unusable_expired:
5089           switch (host->why)
5090             {
5091             case hwhy_retry: hosts_retry++; break;
5092             case hwhy_failed:  hosts_fail++; break;
5093             case hwhy_insecure:
5094             case hwhy_deferred: hosts_defer++; break;
5095             }
5096
5097           /* If there was a retry message key, implying that previously there
5098           was a message-specific defer, we don't want to update the list of
5099           messages waiting for these hosts. */
5100
5101           if (retry_message_key) update_waiting = FALSE;
5102           continue;   /* With the next host or IP address */
5103         }
5104       }
5105
5106     /* Second time round the loop: if the address is set but expired, and
5107     the message is newer than the last try, let it through. */
5108
5109     else
5110       {
5111       if (  !host->address
5112          || host->status != hstatus_unusable_expired
5113          || host->last_try > received_time.tv_sec)
5114         continue;
5115       DEBUG(D_transport) debug_printf("trying expired host %s [%s]%s\n",
5116           host->name, host->address, pistring);
5117       host_is_expired = TRUE;
5118       }
5119
5120     /* Setting "expired=FALSE" doesn't actually mean not all hosts are expired;
5121     it remains TRUE only if all hosts are expired and none are actually tried.
5122     */
5123
5124     expired = FALSE;
5125
5126     /* If this host is listed as one to which access must be serialized,
5127     see if another Exim process has a connection to it, and if so, skip
5128     this host. If not, update the database to record our connection to it
5129     and remember this for later deletion. Do not do any of this if we are
5130     sending the message down a pre-existing connection. */
5131
5132     if (  !continue_hostname
5133        && verify_check_given_host(CUSS &ob->serialize_hosts, host) == OK)
5134       {
5135       serialize_key = string_sprintf("host-serialize-%s", host->name);
5136       if (!enq_start(serialize_key, 1))
5137         {
5138         DEBUG(D_transport)
5139           debug_printf("skipping host %s because another Exim process "
5140             "is connected to it\n", host->name);
5141         hosts_serial++;
5142         continue;
5143         }
5144       }
5145
5146     /* OK, we have an IP address that is not waiting for its retry time to
5147     arrive (it might be expired) OR (second time round the loop) we have an
5148     expired host that hasn't been tried since the message arrived. Have a go
5149     at delivering the message to it. First prepare the addresses by flushing
5150     out the result of previous attempts, and finding the first address that
5151     is still to be delivered. */
5152
5153     first_addr = prepare_addresses(addrlist, host);
5154
5155     DEBUG(D_transport) debug_printf("delivering %s to %s [%s] (%s%s)\n",
5156       message_id, host->name, host->address, addrlist->address,
5157       addrlist->next ? ", ..." : "");
5158
5159     set_process_info("delivering %s to %s [%s]%s (%s%s)",
5160       message_id, host->name, host->address, pistring, addrlist->address,
5161       addrlist->next ? ", ..." : "");
5162
5163     /* This is not for real; don't do the delivery. If there are
5164     any remaining hosts, list them. */
5165
5166     if (f.dont_deliver)
5167       {
5168       struct timeval now;
5169       gettimeofday(&now, NULL);
5170       set_errno_nohost(addrlist, 0, NULL, OK, FALSE, &now);
5171       for (address_item * addr = addrlist; addr; addr = addr->next)
5172         {
5173         addr->host_used = host;
5174         addr->special_action = '*';
5175         addr->message = US"delivery bypassed by -N option";
5176         }
5177       DEBUG(D_transport)
5178         {
5179         debug_printf("*** delivery by %s transport bypassed by -N option\n"
5180                      "*** host and remaining hosts:\n", tblock->name);
5181         for (host_item * host2 = host; host2; host2 = host2->next)
5182           debug_printf("    %s [%s]\n", host2->name,
5183             host2->address ? host2->address : US"unset");
5184         }
5185       rc = OK;
5186       }
5187
5188     /* This is for real. If the host is expired, we don't count it for
5189     hosts_max_retry. This ensures that all hosts must expire before an address
5190     is timed out, unless hosts_max_try_hardlimit (which protects against
5191     lunatic DNS configurations) is reached.
5192
5193     If the host is not expired and we are about to hit the hosts_max_retry
5194     limit, check to see if there is a subsequent hosts with a different MX
5195     value. If so, make that the next host, and don't count this one. This is a
5196     heuristic to make sure that different MXs do get tried. With a normal kind
5197     of retry rule, they would get tried anyway when the earlier hosts were
5198     delayed, but if the domain has a "retry every time" type of rule - as is
5199     often used for the the very large ISPs, that won't happen. */
5200
5201     else
5202       {
5203       host_item * thost;
5204       /* Make a copy of the host if it is local to this invocation
5205        of the transport. */
5206
5207       if (expanded_hosts)
5208         {
5209         thost = store_get(sizeof(host_item), FALSE);
5210         *thost = *host;
5211         thost->name = string_copy(host->name);
5212         thost->address = string_copy(host->address);
5213         }
5214       else
5215         thost = host;
5216
5217       if (!host_is_expired && ++unexpired_hosts_tried >= ob->hosts_max_try)
5218         {
5219         DEBUG(D_transport)
5220           debug_printf("hosts_max_try limit reached with this host\n");
5221         for (host_item * h = host; h; h = h->next) if (h->mx != host->mx)
5222           {
5223           nexthost = h;
5224           unexpired_hosts_tried--;
5225           DEBUG(D_transport) debug_printf("however, a higher MX host exists "
5226             "and will be tried\n");
5227           break;
5228           }
5229         }
5230
5231       /* Attempt the delivery. */
5232
5233       total_hosts_tried++;
5234       rc = smtp_deliver(addrlist, thost, host_af, defport, interface, tblock,
5235         &message_defer, FALSE);
5236
5237       /* Yield is one of:
5238          OK     => connection made, each address contains its result;
5239                      message_defer is set for message-specific defers (when all
5240                      recipients are marked defer)
5241          DEFER  => there was a non-message-specific delivery problem;
5242          ERROR  => there was a problem setting up the arguments for a filter,
5243                    or there was a problem with expanding added headers
5244       */
5245
5246       /* If the result is not OK, there was a non-message-specific problem.
5247       If the result is DEFER, we need to write to the logs saying what happened
5248       for this particular host, except in the case of authentication and TLS
5249       failures, where the log has already been written. If all hosts defer a
5250       general message is written at the end. */
5251
5252       if (rc == DEFER && first_addr->basic_errno != ERRNO_AUTHFAIL
5253                       && first_addr->basic_errno != ERRNO_TLSFAILURE)
5254         write_logs(host, first_addr->message, first_addr->basic_errno);
5255
5256 #ifndef DISABLE_EVENT
5257       if (rc == DEFER)
5258         deferred_event_raise(first_addr, host, US"msg:host:defer");
5259 #endif
5260
5261       /* If STARTTLS was accepted, but there was a failure in setting up the
5262       TLS session (usually a certificate screwup), and the host is not in
5263       hosts_require_tls, and tls_tempfail_tryclear is true, try again, with
5264       TLS forcibly turned off. We have to start from scratch with a new SMTP
5265       connection. That's why the retry is done from here, not from within
5266       smtp_deliver(). [Rejections of STARTTLS itself don't screw up the
5267       session, so the in-clear transmission after those errors, if permitted,
5268       happens inside smtp_deliver().] */
5269
5270 #ifndef DISABLE_TLS
5271       if (  rc == DEFER
5272          && first_addr->basic_errno == ERRNO_TLSFAILURE
5273          && ob->tls_tempfail_tryclear
5274          && verify_check_given_host(CUSS &ob->hosts_require_tls, host) != OK
5275          )
5276         {
5277         log_write(0, LOG_MAIN,
5278           "%s: delivering unencrypted to H=%s [%s] (not in hosts_require_tls)",
5279           first_addr->message, host->name, host->address);
5280         first_addr = prepare_addresses(addrlist, host);
5281         rc = smtp_deliver(addrlist, thost, host_af, defport, interface, tblock,
5282           &message_defer, TRUE);
5283         if (rc == DEFER && first_addr->basic_errno != ERRNO_AUTHFAIL)
5284           write_logs(host, first_addr->message, first_addr->basic_errno);
5285 # ifndef DISABLE_EVENT
5286         if (rc == DEFER)
5287           deferred_event_raise(first_addr, host, US"msg:host:defer");
5288 # endif
5289         }
5290 #endif  /*DISABLE_TLS*/
5291
5292 #ifndef DISABLE_EVENT
5293       /* If the last host gave a defer raise a per-message event */
5294
5295       if (  !(  nexthost
5296              && unexpired_hosts_tried < ob->hosts_max_try
5297              && total_hosts_tried < ob->hosts_max_try_hardlimit
5298              )
5299          && (message_defer || rc == DEFER)
5300          )
5301         deferred_event_raise(first_addr, host, US"msg:defer");
5302 #endif
5303       }
5304
5305     /* Delivery attempt finished */
5306
5307     set_process_info("delivering %s: just tried %s [%s]%s for %s%s: result %s",
5308       message_id, host->name, host->address, pistring, addrlist->address,
5309       addrlist->next ? " (& others)" : "", rc_to_string(rc));
5310
5311     /* Release serialization if set up */
5312
5313     if (serialize_key) enq_end(serialize_key);
5314
5315     /* If the result is DEFER, or if a host retry record is known to exist, we
5316     need to add an item to the retry chain for updating the retry database
5317     at the end of delivery. We only need to add the item to the top address,
5318     of course. Also, if DEFER, we mark the IP address unusable so as to skip it
5319     for any other delivery attempts using the same address. (It is copied into
5320     the unusable tree at the outer level, so even if different address blocks
5321     contain the same address, it still won't get tried again.) */
5322
5323     if (rc == DEFER || retry_host_key)
5324       {
5325       int delete_flag = rc != DEFER ? rf_delete : 0;
5326       if (!retry_host_key)
5327         {
5328         BOOL incl_ip;
5329         if (exp_bool(addrlist, US"transport", tblock->name, D_transport,
5330                   US"retry_include_ip_address", ob->retry_include_ip_address,
5331                   ob->expand_retry_include_ip_address, &incl_ip) != OK)
5332           incl_ip = TRUE;       /* error; use most-specific retry record */
5333
5334         retry_host_key = incl_ip
5335           ? string_sprintf("T:%S:%s%s", host->name, host->address, pistring)
5336           : string_sprintf("T:%S%s", host->name, pistring);
5337         }
5338
5339       /* If a delivery of another message over an existing SMTP connection
5340       yields DEFER, we do NOT set up retry data for the host. This covers the
5341       case when there are delays in routing the addresses in the second message
5342       that are so long that the server times out. This is alleviated by not
5343       routing addresses that previously had routing defers when handling an
5344       existing connection, but even so, this case may occur (e.g. if a
5345       previously happily routed address starts giving routing defers). If the
5346       host is genuinely down, another non-continued message delivery will
5347       notice it soon enough. */
5348
5349       if (delete_flag != 0 || !continue_hostname)
5350         retry_add_item(first_addr, retry_host_key, rf_host | delete_flag);
5351
5352       /* We may have tried an expired host, if its retry time has come; ensure
5353       the status reflects the expiry for the benefit of any other addresses. */
5354
5355       if (rc == DEFER)
5356         {
5357         host->status = host_is_expired
5358           ? hstatus_unusable_expired : hstatus_unusable;
5359         host->why = hwhy_deferred;
5360         }
5361       }
5362
5363     /* If message_defer is set (host was OK, but every recipient got deferred
5364     because of some message-specific problem), or if that had happened
5365     previously so that a message retry key exists, add an appropriate item
5366     to the retry chain. Note that if there was a message defer but now there is
5367     a host defer, the message defer record gets deleted. That seems perfectly
5368     reasonable. Also, stop the message from being remembered as waiting
5369     for specific hosts. */
5370
5371     if (message_defer || retry_message_key)
5372       {
5373       int delete_flag = message_defer ? 0 : rf_delete;
5374       if (!retry_message_key)
5375         {
5376         BOOL incl_ip;
5377         if (exp_bool(addrlist, US"transport", tblock->name, D_transport,
5378                   US"retry_include_ip_address", ob->retry_include_ip_address,
5379                   ob->expand_retry_include_ip_address, &incl_ip) != OK)
5380           incl_ip = TRUE;       /* error; use most-specific retry record */
5381
5382         retry_message_key = incl_ip
5383           ? string_sprintf("T:%S:%s%s:%s", host->name, host->address, pistring,
5384               message_id)
5385           : string_sprintf("T:%S%s:%s", host->name, pistring, message_id);
5386         }
5387       retry_add_item(addrlist, retry_message_key,
5388         rf_message | rf_host | delete_flag);
5389       update_waiting = FALSE;
5390       }
5391
5392     /* Any return other than DEFER (that is, OK or ERROR) means that the
5393     addresses have got their final statuses filled in for this host. In the OK
5394     case, see if any of them are deferred. */
5395
5396     if (rc == OK)
5397       for (address_item * addr = addrlist; addr; addr = addr->next)
5398         if (addr->transport_return == DEFER)
5399           {
5400           some_deferred = TRUE;
5401           break;
5402           }
5403
5404     /* If no addresses deferred or the result was ERROR, return. We do this for
5405     ERROR because a failing filter set-up or add_headers expansion is likely to
5406     fail for any host we try. */
5407
5408     if (rc == ERROR || (rc == OK && !some_deferred))
5409       {
5410       DEBUG(D_transport) debug_printf("Leaving %s transport\n", tblock->name);
5411       return TRUE;    /* Each address has its status */
5412       }
5413
5414     /* If the result was DEFER or some individual addresses deferred, let
5415     the loop run to try other hosts with the deferred addresses, except for the
5416     case when we were trying to deliver down an existing channel and failed.
5417     Don't try any other hosts in this case. */
5418
5419     if (continue_hostname) break;
5420
5421     /* If the whole delivery, or some individual addresses, were deferred and
5422     there are more hosts that could be tried, do not count this host towards
5423     the hosts_max_try limit if the age of the message is greater than the
5424     maximum retry time for this host. This means we may try try all hosts,
5425     ignoring the limit, when messages have been around for some time. This is
5426     important because if we don't try all hosts, the address will never time
5427     out. NOTE: this does not apply to hosts_max_try_hardlimit. */
5428
5429     if ((rc == DEFER || some_deferred) && nexthost)
5430       {
5431       BOOL timedout;
5432       retry_config *retry = retry_find_config(host->name, NULL, 0, 0);
5433
5434       if (retry && retry->rules)
5435         {
5436         retry_rule *last_rule;
5437         for (last_rule = retry->rules;
5438              last_rule->next;
5439              last_rule = last_rule->next);
5440         timedout = time(NULL) - received_time.tv_sec > last_rule->timeout;
5441         }
5442       else timedout = TRUE;    /* No rule => timed out */
5443
5444       if (timedout)
5445         {
5446         unexpired_hosts_tried--;
5447         DEBUG(D_transport) debug_printf("temporary delivery error(s) override "
5448           "hosts_max_try (message older than host's retry time)\n");
5449         }
5450       }
5451
5452     DEBUG(D_transport)
5453       {
5454       if (unexpired_hosts_tried >= ob->hosts_max_try)
5455         debug_printf("reached transport hosts_max_try limit %d\n",
5456           ob->hosts_max_try);
5457       if (total_hosts_tried >= ob->hosts_max_try_hardlimit)
5458         debug_printf("reached transport hosts_max_try_hardlimit limit %d\n",
5459           ob->hosts_max_try_hardlimit);
5460       }
5461
5462     testharness_pause_ms(500); /* let server debug out */
5463     }   /* End of loop for trying multiple hosts. */
5464
5465   /* If we failed to find a matching host in the list, for an already-open
5466   connection, just close it and start over with the list.  This can happen
5467   for routing that changes from run to run, or big multi-IP sites with
5468   round-robin DNS. */
5469
5470   if (continue_hostname && !continue_host_tried)
5471     {
5472     int fd = cutthrough.cctx.sock >= 0 ? cutthrough.cctx.sock : 0;
5473
5474     DEBUG(D_transport) debug_printf("no hosts match already-open connection\n");
5475 #ifndef DISABLE_TLS
5476     /* A TLS conn could be open for a cutthrough, but not for a plain continued-
5477     transport */
5478 /*XXX doublecheck that! */
5479
5480     if (cutthrough.cctx.sock >= 0 && cutthrough.is_tls)
5481       {
5482       (void) tls_write(cutthrough.cctx.tls_ctx, US"QUIT\r\n", 6, FALSE);
5483       tls_close(cutthrough.cctx.tls_ctx, TLS_SHUTDOWN_NOWAIT);
5484       cutthrough.cctx.tls_ctx = NULL;
5485       cutthrough.is_tls = FALSE;
5486       }
5487     else
5488 #else
5489       (void) write(fd, US"QUIT\r\n", 6);
5490 #endif
5491     (void) close(fd);
5492     cutthrough.cctx.sock = -1;
5493     continue_hostname = NULL;
5494     goto retry_non_continued;
5495     }
5496
5497   /* This is the end of the loop that repeats iff expired is TRUE and
5498   ob->delay_after_cutoff is FALSE. The second time round we will
5499   try those hosts that haven't been tried since the message arrived. */
5500
5501   DEBUG(D_transport)
5502     {
5503     debug_printf("all IP addresses skipped or deferred at least one address\n");
5504     if (expired && !ob->delay_after_cutoff && cutoff_retry == 0)
5505       debug_printf("retrying IP addresses not tried since message arrived\n");
5506     }
5507   }
5508
5509
5510 /* Get here if all IP addresses are skipped or defer at least one address. In
5511 MUA wrapper mode, this will happen only for connection or other non-message-
5512 specific failures. Force the delivery status for all addresses to FAIL. */
5513
5514 if (mua_wrapper)
5515   {
5516   for (address_item * addr = addrlist; addr; addr = addr->next)
5517     addr->transport_return = FAIL;
5518   goto END_TRANSPORT;
5519   }
5520
5521 /* In the normal, non-wrapper case, add a standard message to each deferred
5522 address if there hasn't been an error, that is, if it hasn't actually been
5523 tried this time. The variable "expired" will be FALSE if any deliveries were
5524 actually tried, or if there was at least one host that was not expired. That
5525 is, it is TRUE only if no deliveries were tried and all hosts were expired. If
5526 a delivery has been tried, an error code will be set, and the failing of the
5527 message is handled by the retry code later.
5528
5529 If queue_smtp is set, or this transport was called to send a subsequent message
5530 down an existing TCP/IP connection, and something caused the host not to be
5531 found, we end up here, but can detect these cases and handle them specially. */
5532
5533 for (address_item * addr = addrlist; addr; addr = addr->next)
5534   {
5535   /* If host is not NULL, it means that we stopped processing the host list
5536   because of hosts_max_try or hosts_max_try_hardlimit. In the former case, this
5537   means we need to behave as if some hosts were skipped because their retry
5538   time had not come. Specifically, this prevents the address from timing out.
5539   However, if we have hit hosts_max_try_hardlimit, we want to behave as if all
5540   hosts were tried. */
5541
5542   if (host)
5543     if (total_hosts_tried >= ob->hosts_max_try_hardlimit)
5544       {
5545       DEBUG(D_transport)
5546         debug_printf("hosts_max_try_hardlimit reached: behave as if all "
5547           "hosts were tried\n");
5548       }
5549     else
5550       {
5551       DEBUG(D_transport)
5552         debug_printf("hosts_max_try limit caused some hosts to be skipped\n");
5553       setflag(addr, af_retry_skipped);
5554       }
5555
5556   if (f.queue_smtp)    /* no deliveries attempted */
5557     {
5558     addr->transport_return = DEFER;
5559     addr->basic_errno = 0;
5560     addr->message = US"SMTP delivery explicitly queued";
5561     }
5562
5563   else if (  addr->transport_return == DEFER
5564           && (addr->basic_errno == ERRNO_UNKNOWNERROR || addr->basic_errno == 0)
5565           && !addr->message
5566           )
5567     {
5568     addr->basic_errno = ERRNO_HRETRY;
5569     if (continue_hostname)
5570       addr->message = US"no host found for existing SMTP connection";
5571     else if (expired)
5572       {
5573       setflag(addr, af_pass_message);   /* This is not a security risk */
5574       addr->message = string_sprintf(
5575         "all hosts%s have been failing for a long time %s",
5576         addr->domain ? string_sprintf(" for '%s'", addr->domain) : US"",
5577         ob->delay_after_cutoff
5578         ? US"(and retry time not reached)"
5579         : US"and were last tried after this message arrived");
5580
5581       /* If we are already using fallback hosts, or there are no fallback hosts
5582       defined, convert the result to FAIL to cause a bounce. */
5583
5584       if (addr->host_list == addr->fallback_hosts || !addr->fallback_hosts)
5585         addr->transport_return = FAIL;
5586       }
5587     else
5588       {
5589       const char * s;
5590       if (hosts_retry == hosts_total)
5591         s = "retry time not reached for any host%s";
5592       else if (hosts_fail == hosts_total)
5593         s = "all host address lookups%s failed permanently";
5594       else if (hosts_defer == hosts_total)
5595         s = "all host address lookups%s failed temporarily";
5596       else if (hosts_serial == hosts_total)
5597         s = "connection limit reached for all hosts%s";
5598       else if (hosts_fail+hosts_defer == hosts_total)
5599         s = "all host address lookups%s failed";
5600       else
5601         s = "some host address lookups failed and retry time "
5602         "not reached for other hosts or connection limit reached%s";
5603
5604       addr->message = string_sprintf(s,
5605         addr->domain ? string_sprintf(" for '%s'", addr->domain) : US"");
5606       }
5607     }
5608   }
5609
5610 /* Update the database which keeps information about which messages are waiting
5611 for which hosts to become available. For some message-specific errors, the
5612 update_waiting flag is turned off because we don't want follow-on deliveries in
5613 those cases.  If this transport instance is explicitly limited to one message
5614 per connection then follow-on deliveries are not possible and there's no need
5615 to create/update the per-transport wait-<transport_name> database. */
5616
5617 if (update_waiting && tblock->connection_max_messages != 1)
5618   transport_update_waiting(hostlist, tblock->name);
5619
5620 END_TRANSPORT:
5621
5622 DEBUG(D_transport) debug_printf("Leaving %s transport\n", tblock->name);
5623
5624 return TRUE;   /* Each address has its status */
5625 }
5626
5627 #endif  /*!MACRO_PREDEF*/
5628 /* vi: aw ai sw=2
5629 */
5630 /* End of transport/smtp.c */