Cutthrough: fix multi-message initiating connections. Bug 2230
[users/jgh/exim.git] / src / src / verify.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2017 */
6 /* See the file NOTICE for conditions of use and distribution. */
7
8 /* Functions concerned with verifying things. The original code for callout
9 caching was contributed by Kevin Fleming (but I hacked it around a bit). */
10
11
12 #include "exim.h"
13 #include "transports/smtp.h"
14
15 #define CUTTHROUGH_CMD_TIMEOUT  30      /* timeout for cutthrough-routing calls */
16 #define CUTTHROUGH_DATA_TIMEOUT 60      /* timeout for cutthrough-routing calls */
17 static smtp_outblock ctblock;
18 uschar ctbuffer[8192];
19
20
21 /* Structure for caching DNSBL lookups */
22
23 typedef struct dnsbl_cache_block {
24   time_t expiry;
25   dns_address *rhs;
26   uschar *text;
27   int rc;
28   BOOL text_set;
29 } dnsbl_cache_block;
30
31
32 /* Anchor for DNSBL cache */
33
34 static tree_node *dnsbl_cache = NULL;
35
36
37 /* Bits for match_type in one_check_dnsbl() */
38
39 #define MT_NOT 1
40 #define MT_ALL 2
41
42 static uschar cutthrough_response(int, char, uschar **, int);
43
44
45
46 /*************************************************
47 *          Retrieve a callout cache record       *
48 *************************************************/
49
50 /* If a record exists, check whether it has expired.
51
52 Arguments:
53   dbm_file          an open hints file
54   key               the record key
55   type              "address" or "domain"
56   positive_expire   expire time for positive records
57   negative_expire   expire time for negative records
58
59 Returns:            the cache record if a non-expired one exists, else NULL
60 */
61
62 static dbdata_callout_cache *
63 get_callout_cache_record(open_db *dbm_file, const uschar *key, uschar *type,
64   int positive_expire, int negative_expire)
65 {
66 BOOL negative;
67 int length, expire;
68 time_t now;
69 dbdata_callout_cache *cache_record;
70
71 if (!(cache_record = dbfn_read_with_length(dbm_file, key, &length)))
72   {
73   HDEBUG(D_verify) debug_printf("callout cache: no %s record found for %s\n", type, key);
74   return NULL;
75   }
76
77 /* We treat a record as "negative" if its result field is not positive, or if
78 it is a domain record and the postmaster field is negative. */
79
80 negative = cache_record->result != ccache_accept ||
81   (type[0] == 'd' && cache_record->postmaster_result == ccache_reject);
82 expire = negative? negative_expire : positive_expire;
83 now = time(NULL);
84
85 if (now - cache_record->time_stamp > expire)
86   {
87   HDEBUG(D_verify) debug_printf("callout cache: %s record expired for %s\n", type, key);
88   return NULL;
89   }
90
91 /* If this is a non-reject domain record, check for the obsolete format version
92 that doesn't have the postmaster and random timestamps, by looking at the
93 length. If so, copy it to a new-style block, replicating the record's
94 timestamp. Then check the additional timestamps. (There's no point wasting
95 effort if connections are rejected.) */
96
97 if (type[0] == 'd' && cache_record->result != ccache_reject)
98   {
99   if (length == sizeof(dbdata_callout_cache_obs))
100     {
101     dbdata_callout_cache *new = store_get(sizeof(dbdata_callout_cache));
102     memcpy(new, cache_record, length);
103     new->postmaster_stamp = new->random_stamp = new->time_stamp;
104     cache_record = new;
105     }
106
107   if (now - cache_record->postmaster_stamp > expire)
108     cache_record->postmaster_result = ccache_unknown;
109
110   if (now - cache_record->random_stamp > expire)
111     cache_record->random_result = ccache_unknown;
112   }
113
114 HDEBUG(D_verify) debug_printf("callout cache: found %s record for %s\n", type, key);
115 return cache_record;
116 }
117
118
119
120 /* Check the callout cache.
121 Options * pm_mailfrom may be modified by cache partial results.
122
123 Return: TRUE if result found
124 */
125
126 static BOOL
127 cached_callout_lookup(address_item * addr, uschar * address_key,
128   uschar * from_address, int * opt_ptr, uschar ** pm_ptr,
129   int * yield, uschar ** failure_ptr,
130   dbdata_callout_cache * new_domain_record, int * old_domain_res)
131 {
132 int options = *opt_ptr;
133 open_db dbblock;
134 open_db *dbm_file = NULL;
135
136 /* Open the callout cache database, it it exists, for reading only at this
137 stage, unless caching has been disabled. */
138
139 if (options & vopt_callout_no_cache)
140   {
141   HDEBUG(D_verify) debug_printf("callout cache: disabled by no_cache\n");
142   }
143 else if (!(dbm_file = dbfn_open(US"callout", O_RDWR, &dbblock, FALSE)))
144   {
145   HDEBUG(D_verify) debug_printf("callout cache: not available\n");
146   }
147 else
148   {
149   /* If a cache database is available see if we can avoid the need to do an
150   actual callout by making use of previously-obtained data. */
151
152   dbdata_callout_cache_address * cache_address_record;
153   dbdata_callout_cache * cache_record = get_callout_cache_record(dbm_file,
154       addr->domain, US"domain",
155       callout_cache_domain_positive_expire, callout_cache_domain_negative_expire);
156
157   /* If an unexpired cache record was found for this domain, see if the callout
158   process can be short-circuited. */
159
160   if (cache_record)
161     {
162     /* In most cases, if an early command (up to and including MAIL FROM:<>)
163     was rejected, there is no point carrying on. The callout fails. However, if
164     we are doing a recipient verification with use_sender or use_postmaster
165     set, a previous failure of MAIL FROM:<> doesn't count, because this time we
166     will be using a non-empty sender. We have to remember this situation so as
167     not to disturb the cached domain value if this whole verification succeeds
168     (we don't want it turning into "accept"). */
169
170     *old_domain_res = cache_record->result;
171
172     if (  cache_record->result == ccache_reject
173        || *from_address == 0 && cache_record->result == ccache_reject_mfnull)
174       {
175       setflag(addr, af_verify_nsfail);
176       HDEBUG(D_verify)
177         debug_printf("callout cache: domain gave initial rejection, or "
178           "does not accept HELO or MAIL FROM:<>\n");
179       setflag(addr, af_verify_nsfail);
180       addr->user_message = US"(result of an earlier callout reused).";
181       *yield = FAIL;
182       *failure_ptr = US"mail";
183       dbfn_close(dbm_file);
184       return TRUE;
185       }
186
187     /* If a previous check on a "random" local part was accepted, we assume
188     that the server does not do any checking on local parts. There is therefore
189     no point in doing the callout, because it will always be successful. If a
190     random check previously failed, arrange not to do it again, but preserve
191     the data in the new record. If a random check is required but hasn't been
192     done, skip the remaining cache processing. */
193
194     if (options & vopt_callout_random) switch(cache_record->random_result)
195       {
196       case ccache_accept:
197         HDEBUG(D_verify)
198           debug_printf("callout cache: domain accepts random addresses\n");
199         dbfn_close(dbm_file);
200         return TRUE;     /* Default yield is OK */
201
202       case ccache_reject:
203         HDEBUG(D_verify)
204           debug_printf("callout cache: domain rejects random addresses\n");
205         *opt_ptr = options & ~vopt_callout_random;
206         new_domain_record->random_result = ccache_reject;
207         new_domain_record->random_stamp = cache_record->random_stamp;
208         break;
209
210       default:
211         HDEBUG(D_verify)
212           debug_printf("callout cache: need to check random address handling "
213             "(not cached or cache expired)\n");
214         dbfn_close(dbm_file);
215         return FALSE;
216       }
217
218     /* If a postmaster check is requested, but there was a previous failure,
219     there is again no point in carrying on. If a postmaster check is required,
220     but has not been done before, we are going to have to do a callout, so skip
221     remaining cache processing. */
222
223     if (*pm_ptr)
224       {
225       if (cache_record->postmaster_result == ccache_reject)
226         {
227         setflag(addr, af_verify_pmfail);
228         HDEBUG(D_verify)
229           debug_printf("callout cache: domain does not accept "
230             "RCPT TO:<postmaster@domain>\n");
231         *yield = FAIL;
232         *failure_ptr = US"postmaster";
233         setflag(addr, af_verify_pmfail);
234         addr->user_message = US"(result of earlier verification reused).";
235         dbfn_close(dbm_file);
236         return TRUE;
237         }
238       if (cache_record->postmaster_result == ccache_unknown)
239         {
240         HDEBUG(D_verify)
241           debug_printf("callout cache: need to check RCPT "
242             "TO:<postmaster@domain> (not cached or cache expired)\n");
243         dbfn_close(dbm_file);
244         return FALSE;
245         }
246
247       /* If cache says OK, set pm_mailfrom NULL to prevent a redundant
248       postmaster check if the address itself has to be checked. Also ensure
249       that the value in the cache record is preserved (with its old timestamp).
250       */
251
252       HDEBUG(D_verify) debug_printf("callout cache: domain accepts RCPT "
253         "TO:<postmaster@domain>\n");
254       *pm_ptr = NULL;
255       new_domain_record->postmaster_result = ccache_accept;
256       new_domain_record->postmaster_stamp = cache_record->postmaster_stamp;
257       }
258     }
259
260   /* We can't give a result based on information about the domain. See if there
261   is an unexpired cache record for this specific address (combined with the
262   sender address if we are doing a recipient callout with a non-empty sender).
263   */
264
265   if (!(cache_address_record = (dbdata_callout_cache_address *)
266     get_callout_cache_record(dbm_file, address_key, US"address",
267       callout_cache_positive_expire, callout_cache_negative_expire)))
268     {
269     dbfn_close(dbm_file);
270     return FALSE;
271     }
272
273   if (cache_address_record->result == ccache_accept)
274     {
275     HDEBUG(D_verify)
276       debug_printf("callout cache: address record is positive\n");
277     }
278   else
279     {
280     HDEBUG(D_verify)
281       debug_printf("callout cache: address record is negative\n");
282     addr->user_message = US"Previous (cached) callout verification failure";
283     *failure_ptr = US"recipient";
284     *yield = FAIL;
285     }
286
287   /* Close the cache database while we actually do the callout for real. */
288
289   dbfn_close(dbm_file);
290   return TRUE;
291   }
292 return FALSE;
293 }
294
295
296 /* Write results to callout cache
297 */
298 static void
299 cache_callout_write(dbdata_callout_cache * dom_rec, const uschar * domain,
300   int done, dbdata_callout_cache_address * addr_rec, uschar * address_key)
301 {
302 open_db dbblock;
303 open_db *dbm_file = NULL;
304
305 /* If we get here with done == TRUE, a successful callout happened, and yield
306 will be set OK or FAIL according to the response to the RCPT command.
307 Otherwise, we looped through the hosts but couldn't complete the business.
308 However, there may be domain-specific information to cache in both cases.
309
310 The value of the result field in the new_domain record is ccache_unknown if
311 there was an error before or with MAIL FROM:, and errno was not zero,
312 implying some kind of I/O error. We don't want to write the cache in that case.
313 Otherwise the value is ccache_accept, ccache_reject, or ccache_reject_mfnull. */
314
315 if (dom_rec->result != ccache_unknown)
316   if (!(dbm_file = dbfn_open(US"callout", O_RDWR|O_CREAT, &dbblock, FALSE)))
317     {
318     HDEBUG(D_verify) debug_printf("callout cache: not available\n");
319     }
320   else
321     {
322     (void)dbfn_write(dbm_file, domain, dom_rec,
323       (int)sizeof(dbdata_callout_cache));
324     HDEBUG(D_verify) debug_printf("wrote callout cache domain record for %s:\n"
325       "  result=%d postmaster=%d random=%d\n",
326       domain,
327       dom_rec->result,
328       dom_rec->postmaster_result,
329       dom_rec->random_result);
330     }
331
332 /* If a definite result was obtained for the callout, cache it unless caching
333 is disabled. */
334
335 if (done  &&  addr_rec->result != ccache_unknown)
336   {
337   if (!dbm_file)
338     dbm_file = dbfn_open(US"callout", O_RDWR|O_CREAT, &dbblock, FALSE);
339   if (!dbm_file)
340     {
341     HDEBUG(D_verify) debug_printf("no callout cache available\n");
342     }
343   else
344     {
345     (void)dbfn_write(dbm_file, address_key, addr_rec,
346       (int)sizeof(dbdata_callout_cache_address));
347     HDEBUG(D_verify) debug_printf("wrote %s callout cache address record for %s\n",
348       addr_rec->result == ccache_accept ? "positive" : "negative",
349       address_key);
350     }
351   }
352
353 if (dbm_file) dbfn_close(dbm_file);
354 }
355
356
357 /* Cutthrough-multi.  If the existing cached cutthrough connection matches
358 the one we would make for a subsequent recipient, use it.  Send the RCPT TO
359 and check the result, nonpipelined as it may be wanted immediately for
360 recipient-verification.
361
362 It seems simpler to deal with this case separately from the main callout loop.
363 We will need to remember it has sent, or not, so that rcpt-acl tail code
364 can do it there for the non-rcpt-verify case.  For this we keep an addresscount.
365
366 Return: TRUE for a definitive result for the recipient
367 */
368 static int
369 cutthrough_multi(address_item * addr, host_item * host_list,
370   transport_feedback * tf, int * yield)
371 {
372 BOOL done = FALSE;
373 host_item * host;
374
375 if (addr->transport == cutthrough.addr.transport)
376   for (host = host_list; host; host = host->next)
377     if (Ustrcmp(host->address, cutthrough.host.address) == 0)
378       {
379       int host_af;
380       uschar *interface = NULL;  /* Outgoing interface to use; NULL => any */
381       int port = 25;
382
383       deliver_host = host->name;
384       deliver_host_address = host->address;
385       deliver_host_port = host->port;
386       deliver_domain = addr->domain;
387       transport_name = addr->transport->name;
388
389       host_af = Ustrchr(host->address, ':') ? AF_INET6 : AF_INET;
390
391       if (!smtp_get_interface(tf->interface, host_af, addr, &interface,
392               US"callout") ||
393           !smtp_get_port(tf->port, addr, &port, US"callout"))
394         log_write(0, LOG_MAIN|LOG_PANIC, "<%s>: %s", addr->address,
395           addr->message);
396
397       if (  (  interface == cutthrough.interface
398             || (  interface
399                && cutthrough.interface
400                && Ustrcmp(interface, cutthrough.interface) == 0
401             )  )
402          && port == cutthrough.host.port
403          )
404         {
405         uschar * resp = NULL;
406
407         /* Match!  Send the RCPT TO, set done from the response */
408         done =
409           smtp_write_command(&ctblock, SCMD_FLUSH, "RCPT TO:<%.1000s>\r\n",
410             transport_rcpt_address(addr,
411                addr->transport->rcpt_include_affixes)) >= 0 &&
412           cutthrough_response(cutthrough.fd, '2', &resp, CUTTHROUGH_DATA_TIMEOUT) == '2';
413
414         /* This would go horribly wrong if a callout fail was ignored by ACL.
415         We punt by abandoning cutthrough on a reject, like the
416         first-rcpt does. */
417
418         if (done)
419           {
420           address_item * na = store_get(sizeof(address_item));
421           *na = cutthrough.addr;
422           cutthrough.addr = *addr;
423           cutthrough.addr.host_used = &cutthrough.host;
424           cutthrough.addr.next = na;
425
426           cutthrough.nrcpt++;
427           }
428         else
429           {
430           cancel_cutthrough_connection(TRUE, US"recipient rejected");
431           if (!resp || errno == ETIMEDOUT)
432             {
433             HDEBUG(D_verify) debug_printf("SMTP timeout\n");
434             }
435           else if (errno == 0)
436             {
437             if (*resp == 0)
438               Ustrcpy(resp, US"connection dropped");
439
440             addr->message =
441               string_sprintf("response to \"%s\" was: %s",
442                 big_buffer, string_printing(resp));
443
444             addr->user_message =
445               string_sprintf("Callout verification failed:\n%s", resp);
446
447             /* Hard rejection ends the process */
448
449             if (resp[0] == '5')   /* Address rejected */
450               {
451               *yield = FAIL;
452               done = TRUE;
453               }
454             }
455           }
456         }
457       break;    /* host_list */
458       }
459 if (!done)
460   cancel_cutthrough_connection(TRUE, US"incompatible connection");
461 return done;
462 }
463
464
465 /*************************************************
466 *      Do callout verification for an address    *
467 *************************************************/
468
469 /* This function is called from verify_address() when the address has routed to
470 a host list, and a callout has been requested. Callouts are expensive; that is
471 why a cache is used to improve the efficiency.
472
473 Arguments:
474   addr              the address that's been routed
475   host_list         the list of hosts to try
476   tf                the transport feedback block
477
478   ifstring          "interface" option from transport, or NULL
479   portstring        "port" option from transport, or NULL
480   protocolstring    "protocol" option from transport, or NULL
481   callout           the per-command callout timeout
482   callout_overall   the overall callout timeout (if < 0 use 4*callout)
483   callout_connect   the callout connection timeout (if < 0 use callout)
484   options           the verification options - these bits are used:
485                       vopt_is_recipient => this is a recipient address
486                       vopt_callout_no_cache => don't use callout cache
487                       vopt_callout_fullpm => if postmaster check, do full one
488                       vopt_callout_random => do the "random" thing
489                       vopt_callout_recipsender => use real sender for recipient
490                       vopt_callout_recippmaster => use postmaster for recipient
491                       vopt_callout_hold         => lazy close connection
492   se_mailfrom         MAIL FROM address for sender verify; NULL => ""
493   pm_mailfrom         if non-NULL, do the postmaster check with this sender
494
495 Returns:            OK/FAIL/DEFER
496 */
497
498 static int
499 do_callout(address_item *addr, host_item *host_list, transport_feedback *tf,
500   int callout, int callout_overall, int callout_connect, int options,
501   uschar *se_mailfrom, uschar *pm_mailfrom)
502 {
503 int yield = OK;
504 int old_domain_cache_result = ccache_accept;
505 BOOL done = FALSE;
506 uschar *address_key;
507 uschar *from_address;
508 uschar *random_local_part = NULL;
509 const uschar *save_deliver_domain = deliver_domain;
510 uschar **failure_ptr = options & vopt_is_recipient
511   ? &recipient_verify_failure : &sender_verify_failure;
512 dbdata_callout_cache new_domain_record;
513 dbdata_callout_cache_address new_address_record;
514 time_t callout_start_time;
515
516 new_domain_record.result = ccache_unknown;
517 new_domain_record.postmaster_result = ccache_unknown;
518 new_domain_record.random_result = ccache_unknown;
519
520 memset(&new_address_record, 0, sizeof(new_address_record));
521
522 /* For a recipient callout, the key used for the address cache record must
523 include the sender address if we are using the real sender in the callout,
524 because that may influence the result of the callout. */
525
526 if (options & vopt_is_recipient)
527   if (options & vopt_callout_recipsender)
528     {
529     from_address = sender_address;
530     address_key = string_sprintf("%s/<%s>", addr->address, sender_address);
531     if (cutthrough.delivery) options |= vopt_callout_no_cache;
532     }
533   else if (options & vopt_callout_recippmaster)
534     {
535     from_address = string_sprintf("postmaster@%s", qualify_domain_sender);
536     address_key = string_sprintf("%s/<postmaster@%s>", addr->address,
537       qualify_domain_sender);
538     }
539   else
540     {
541     from_address = US"";
542     address_key = addr->address;
543     }
544
545 /* For a sender callout, we must adjust the key if the mailfrom address is not
546 empty. */
547
548 else
549   {
550   from_address = se_mailfrom ? se_mailfrom : US"";
551   address_key = *from_address
552     ? string_sprintf("%s/<%s>", addr->address, from_address) : addr->address;
553   }
554
555 if (cached_callout_lookup(addr, address_key, from_address,
556       &options, &pm_mailfrom, &yield, failure_ptr,
557       &new_domain_record, &old_domain_cache_result))
558   {
559   cancel_cutthrough_connection(TRUE, US"cache-hit");
560   goto END_CALLOUT;
561   }
562
563 if (!addr->transport)
564   {
565   HDEBUG(D_verify) debug_printf("cannot callout via null transport\n");
566   }
567 else if (Ustrcmp(addr->transport->driver_name, "smtp") != 0)
568   log_write(0, LOG_MAIN|LOG_PANIC|LOG_CONFIG_FOR, "callout transport '%s': %s is non-smtp",
569     addr->transport->name, addr->transport->driver_name);
570 else
571   {
572   smtp_transport_options_block *ob =
573     (smtp_transport_options_block *)addr->transport->options_block;
574   host_item * host;
575
576   /* The information wasn't available in the cache, so we have to do a real
577   callout and save the result in the cache for next time, unless no_cache is set,
578   or unless we have a previously cached negative random result. If we are to test
579   with a random local part, ensure that such a local part is available. If not,
580   log the fact, but carry on without randomising. */
581
582   if (options & vopt_callout_random  &&  callout_random_local_part)
583     if (!(random_local_part = expand_string(callout_random_local_part)))
584       log_write(0, LOG_MAIN|LOG_PANIC, "failed to expand "
585         "callout_random_local_part: %s", expand_string_message);
586
587   /* Default the connect and overall callout timeouts if not set, and record the
588   time we are starting so that we can enforce it. */
589
590   if (callout_overall < 0) callout_overall = 4 * callout;
591   if (callout_connect < 0) callout_connect = callout;
592   callout_start_time = time(NULL);
593
594   /* Before doing a real callout, if this is an SMTP connection, flush the SMTP
595   output because a callout might take some time. When PIPELINING is active and
596   there are many recipients, the total time for doing lots of callouts can add up
597   and cause the client to time out. So in this case we forgo the PIPELINING
598   optimization. */
599
600   if (smtp_out && !disable_callout_flush) mac_smtp_fflush();
601
602   clearflag(addr, af_verify_pmfail);  /* postmaster callout flag */
603   clearflag(addr, af_verify_nsfail);  /* null sender callout flag */
604
605 /* cutthrough-multi: if a nonfirst rcpt has the same routing as the first,
606 and we are holding a cutthrough conn open, we can just append the rcpt to
607 that conn for verification purposes (and later delivery also).  Simplest
608 coding means skipping this whole loop and doing the append separately.  */
609
610   /* Can we re-use an open cutthrough connection? */
611   if (  cutthrough.fd >= 0
612      && (options & (vopt_callout_recipsender | vopt_callout_recippmaster))
613         == vopt_callout_recipsender
614      && !random_local_part
615      && !pm_mailfrom
616      )
617     done = cutthrough_multi(addr, host_list, tf, &yield);
618
619   /* If we did not use a cached connection, make connections to the hosts
620   and do real callouts. The list of hosts is passed in as an argument. */
621
622   for (host = host_list; host && !done; host = host->next)
623     {
624     int host_af;
625     int port = 25;
626     uschar *interface = NULL;  /* Outgoing interface to use; NULL => any */
627     smtp_context sx;
628
629     if (!host->address)
630       {
631       DEBUG(D_verify) debug_printf("no IP address for host name %s: skipping\n",
632         host->name);
633       continue;
634       }
635
636     /* Check the overall callout timeout */
637
638     if (time(NULL) - callout_start_time >= callout_overall)
639       {
640       HDEBUG(D_verify) debug_printf("overall timeout for callout exceeded\n");
641       break;
642       }
643
644     /* Set IPv4 or IPv6 */
645
646     host_af = Ustrchr(host->address, ':') ? AF_INET6 : AF_INET;
647
648     /* Expand and interpret the interface and port strings. The latter will not
649     be used if there is a host-specific port (e.g. from a manualroute router).
650     This has to be delayed till now, because they may expand differently for
651     different hosts. If there's a failure, log it, but carry on with the
652     defaults. */
653
654     deliver_host = host->name;
655     deliver_host_address = host->address;
656     deliver_host_port = host->port;
657     deliver_domain = addr->domain;
658     transport_name = addr->transport->name;
659
660     if (  !smtp_get_interface(tf->interface, host_af, addr, &interface,
661             US"callout")
662        || !smtp_get_port(tf->port, addr, &port, US"callout")
663        )
664       log_write(0, LOG_MAIN|LOG_PANIC, "<%s>: %s", addr->address,
665         addr->message);
666
667     sx.addrlist = addr;
668     sx.host = host;
669     sx.host_af = host_af,
670     sx.port = port;
671     sx.interface = interface;
672     sx.helo_data = tf->helo_data;
673     sx.tblock = addr->transport;
674     sx.verify = TRUE;
675
676 tls_retry_connection:
677     /* Set the address state so that errors are recorded in it */
678
679     addr->transport_return = PENDING_DEFER;
680     ob->connect_timeout = callout_connect;
681     ob->command_timeout = callout;
682
683     /* Get the channel set up ready for a message (MAIL FROM being the next
684     SMTP command to send.  If we tried TLS but it failed, try again without
685     if permitted */
686
687     yield = smtp_setup_conn(&sx, FALSE);
688 #ifdef SUPPORT_TLS
689     if (  yield == DEFER
690        && addr->basic_errno == ERRNO_TLSFAILURE
691        && ob->tls_tempfail_tryclear
692        && verify_check_given_host(&ob->hosts_require_tls, host) != OK
693        )
694       {
695       log_write(0, LOG_MAIN,
696         "%s: callout unencrypted to %s [%s] (not in hosts_require_tls)",
697         addr->message, host->name, host->address);
698       addr->transport_return = PENDING_DEFER;
699       yield = smtp_setup_conn(&sx, TRUE);
700       }
701 #endif
702     if (yield != OK)
703       {
704       errno = addr->basic_errno;
705       transport_name = NULL;
706       deliver_host = deliver_host_address = NULL;
707       deliver_domain = save_deliver_domain;
708
709       /* Failure to accept HELO is cached; this blocks the whole domain for all
710       senders. I/O errors and defer responses are not cached. */
711
712       if (yield == FAIL && (errno == 0 || errno == ERRNO_SMTPCLOSED))
713         {
714         setflag(addr, af_verify_nsfail);
715         new_domain_record.result = ccache_reject;
716         done = TRUE;
717         }
718       else
719         done = FALSE;
720       goto no_conn;
721       }
722
723     /* If we needed to authenticate, smtp_setup_conn() did that.  Copy
724     the AUTH info for logging */
725
726     addr->authenticator = client_authenticator;
727     addr->auth_id = client_authenticated_id;
728
729     sx.from_addr = from_address;
730     sx.first_addr = sx.sync_addr = addr;
731     sx.ok = FALSE;                      /*XXX these 3 last might not be needed for verify? */
732     sx.send_rset = TRUE;
733     sx.completed_addr = FALSE;
734
735     new_domain_record.result = old_domain_cache_result == ccache_reject_mfnull
736       ? ccache_reject_mfnull : ccache_accept;
737
738     /* Do the random local part check first. Temporarily replace the recipient
739     with the "random" value */
740
741     if (random_local_part)
742       {
743       uschar * main_address = addr->address;
744       const uschar * rcpt_domain = addr->domain;
745
746 #ifdef SUPPORT_I18N
747       uschar * errstr = NULL;
748       if (  testflag(addr, af_utf8_downcvt)
749          && (rcpt_domain = string_domain_utf8_to_alabel(rcpt_domain,
750                                     &errstr), errstr)
751          )
752         {
753         addr->message = errstr;
754         errno = ERRNO_EXPANDFAIL;
755         setflag(addr, af_verify_nsfail);
756         done = FALSE;
757         rcpt_domain = US"";  /*XXX errorhandling! */
758         }
759 #endif
760
761       /* This would be ok for 1st rcpt of a cutthrough (the case handled here;
762       subsequents are done in cutthrough_multi()), but no way to
763       handle a subsequent because of the RSET vaporising the MAIL FROM.
764       So refuse to support any.  Most cutthrough use will not involve
765       random_local_part, so no loss. */
766       cancel_cutthrough_connection(TRUE, US"random-recipient");
767
768       addr->address = string_sprintf("%s@%.1000s",
769                                     random_local_part, rcpt_domain);
770       done = FALSE;
771
772       /* If accepted, we aren't going to do any further tests below.
773       Otherwise, cache a real negative response, and get back to the right
774       state to send RCPT. Unless there's some problem such as a dropped
775       connection, we expect to succeed, because the commands succeeded above.
776       However, some servers drop the connection after responding to an
777       invalid recipient, so on (any) error we drop and remake the connection.
778       XXX We don't care about that for postmaster_full.  Should we?
779
780       XXX could we add another flag to the context, and have the common
781       code emit the RSET too?  Even pipelined after the RCPT...
782       Then the main-verify call could use it if there's to be a subsequent
783       postmaster-verify.
784       The sync_responses() would need to be taught about it and we'd
785       need another return code filtering out to here.
786
787       Avoid using a SIZE option on the MAIL for all randon-rcpt checks.
788       */
789
790       sx.avoid_option = OPTION_SIZE;
791
792       /* Remember when we last did a random test */
793       new_domain_record.random_stamp = time(NULL);
794
795       if (smtp_write_mail_and_rcpt_cmds(&sx, &yield) == 0)
796         switch(addr->transport_return)
797           {
798           case PENDING_OK:      /* random was accepted, unfortunately */
799             new_domain_record.random_result = ccache_accept;
800             yield = OK;         /* Only usable verify result we can return */
801             done = TRUE;
802             goto no_conn;
803           case FAIL:            /* rejected: the preferred result */
804             new_domain_record.random_result = ccache_reject;
805             sx.avoid_option = 0;
806
807             /* Between each check, issue RSET, because some servers accept only
808             one recipient after MAIL FROM:<>.
809             XXX We don't care about that for postmaster_full.  Should we? */
810
811             if ((done =
812               smtp_write_command(&sx.outblock, SCMD_FLUSH, "RSET\r\n") >= 0 &&
813               smtp_read_response(&sx.inblock, sx.buffer, sizeof(sx.buffer),
814                 '2', callout)))
815               break;
816
817             HDEBUG(D_acl|D_v)
818               debug_printf_indent("problem after random/rset/mfrom; reopen conn\n");
819             random_local_part = NULL;
820 #ifdef SUPPORT_TLS
821             tls_close(FALSE, TRUE);
822 #endif
823             HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP(close)>>\n");
824             (void)close(sx.inblock.sock);
825             sx.inblock.sock = sx.outblock.sock = -1;
826 #ifndef DISABLE_EVENT
827             (void) event_raise(addr->transport->event_action,
828                               US"tcp:close", NULL);
829 #endif
830             addr->address = main_address;
831             addr->transport_return = PENDING_DEFER;
832             sx.first_addr = sx.sync_addr = addr;
833             sx.ok = FALSE;
834             sx.send_rset = TRUE;
835             sx.completed_addr = FALSE;
836             goto tls_retry_connection;
837           case DEFER:           /* 4xx response to random */
838             break;              /* Just to be clear. ccache_unknown, !done. */
839           }
840
841       /* Re-setup for main verify, or for the error message when failing */
842       addr->address = main_address;
843       addr->transport_return = PENDING_DEFER;
844       sx.first_addr = sx.sync_addr = addr;
845       sx.ok = FALSE;
846       sx.send_rset = TRUE;
847       sx.completed_addr = FALSE;
848       }
849     else
850       done = TRUE;
851
852     /* Main verify.  For rcpt-verify use SIZE if we know it and we're not cacheing;
853     for sndr-verify never use it. */
854
855     if (done)
856       {
857       if (!(options & vopt_is_recipient  &&  options & vopt_callout_no_cache))
858         sx.avoid_option = OPTION_SIZE;
859
860       done = FALSE;
861       switch(smtp_write_mail_and_rcpt_cmds(&sx, &yield))
862         {
863         case 0:  switch(addr->transport_return) /* ok so far */
864                     {
865                     case PENDING_OK:  done = TRUE;
866                                       new_address_record.result = ccache_accept;
867                                       break;
868                     case FAIL:      done = TRUE;
869                                       yield = FAIL;
870                                       *failure_ptr = US"recipient";
871                                       new_address_record.result = ccache_reject;
872                                       break;
873                     default:        break;
874                     }
875                   break;
876
877         case -1:                                /* MAIL response error */
878                   *failure_ptr = US"mail";
879                   if (errno == 0 && sx.buffer[0] == '5')
880                     {
881                     setflag(addr, af_verify_nsfail);
882                     if (from_address[0] == 0)
883                       new_domain_record.result = ccache_reject_mfnull;
884                     }
885                   break;
886                                                 /* non-MAIL read i/o error */
887                                                 /* non-MAIL response timeout */
888                                                 /* internal error; channel still usable */
889         default:  break;                        /* transmit failed */
890         }
891       }
892
893     addr->auth_sndr = client_authenticated_sender;
894
895     deliver_host = deliver_host_address = NULL;
896     deliver_domain = save_deliver_domain;
897
898     /* Do postmaster check if requested; if a full check is required, we
899     check for RCPT TO:<postmaster> (no domain) in accordance with RFC 821. */
900
901     if (done && pm_mailfrom)
902       {
903       /* Could possibly shift before main verify, just above, and be ok
904       for cutthrough.  But no way to handle a subsequent rcpt, so just
905       refuse any */
906       cancel_cutthrough_connection(TRUE, US"postmaster verify");
907       HDEBUG(D_acl|D_v) debug_printf_indent("Cutthrough cancelled by presence of postmaster verify\n");
908
909       done = smtp_write_command(&sx.outblock, SCMD_FLUSH, "RSET\r\n") >= 0
910           && smtp_read_response(&sx.inblock, sx.buffer,
911                                 sizeof(sx.buffer), '2', callout);
912
913       if (done)
914         {
915         uschar * main_address = addr->address;
916
917         /*XXX oops, affixes */
918         addr->address = string_sprintf("postmaster@%.1000s", addr->domain);
919         addr->transport_return = PENDING_DEFER;
920
921         sx.from_addr = pm_mailfrom;
922         sx.first_addr = sx.sync_addr = addr;
923         sx.ok = FALSE;
924         sx.send_rset = TRUE;
925         sx.completed_addr = FALSE;
926         sx.avoid_option = OPTION_SIZE;
927
928         if(  smtp_write_mail_and_rcpt_cmds(&sx, &yield) == 0
929           && addr->transport_return == PENDING_OK
930           )
931           done = TRUE;
932         else
933           done = (options & vopt_callout_fullpm) != 0
934               && smtp_write_command(&sx.outblock, SCMD_FLUSH,
935                             "RCPT TO:<postmaster>\r\n") >= 0
936               && smtp_read_response(&sx.inblock, sx.buffer,
937                             sizeof(sx.buffer), '2', callout);
938
939         /* Sort out the cache record */
940
941         new_domain_record.postmaster_stamp = time(NULL);
942
943         if (done)
944           new_domain_record.postmaster_result = ccache_accept;
945         else if (errno == 0 && sx.buffer[0] == '5')
946           {
947           *failure_ptr = US"postmaster";
948           setflag(addr, af_verify_pmfail);
949           new_domain_record.postmaster_result = ccache_reject;
950           }
951
952         addr->address = main_address;
953         }
954       }
955     /* For any failure of the main check, other than a negative response, we just
956     close the connection and carry on. We can identify a negative response by the
957     fact that errno is zero. For I/O errors it will be non-zero
958
959     Set up different error texts for logging and for sending back to the caller
960     as an SMTP response. Log in all cases, using a one-line format. For sender
961     callouts, give a full response to the caller, but for recipient callouts,
962     don't give the IP address because this may be an internal host whose identity
963     is not to be widely broadcast. */
964
965 no_conn:
966     switch(errno)
967       {
968       case ETIMEDOUT:
969         HDEBUG(D_verify) debug_printf("SMTP timeout\n");
970         sx.send_quit = FALSE;
971         break;
972
973 #ifdef SUPPORT_I18N
974       case ERRNO_UTF8_FWD:
975         {
976         extern int acl_where;   /* src/acl.c */
977         errno = 0;
978         addr->message = string_sprintf(
979             "response to \"EHLO\" did not include SMTPUTF8");
980         addr->user_message = acl_where == ACL_WHERE_RCPT
981           ? US"533 no support for internationalised mailbox name"
982           : US"550 mailbox unavailable";
983         yield = FAIL;
984         done = TRUE;
985         }
986         break;
987 #endif
988       case ECONNREFUSED:
989         sx.send_quit = FALSE;
990         break;
991
992       case 0:
993         if (*sx.buffer == 0) Ustrcpy(sx.buffer, US"connection dropped");
994
995         /*XXX test here is ugly; seem to have a split of responsibility for
996         building this message.  Need to rationalise.  Where is it done
997         before here, and when not?
998         Not == 5xx resp to MAIL on main-verify
999         */
1000         if (!addr->message) addr->message =
1001           string_sprintf("response to \"%s\" was: %s",
1002                           big_buffer, string_printing(sx.buffer));
1003
1004         addr->user_message = options & vopt_is_recipient
1005           ? string_sprintf("Callout verification failed:\n%s", sx.buffer)
1006           : string_sprintf("Called:   %s\nSent:     %s\nResponse: %s",
1007             host->address, big_buffer, sx.buffer);
1008
1009         /* Hard rejection ends the process */
1010
1011         if (sx.buffer[0] == '5')   /* Address rejected */
1012           {
1013           yield = FAIL;
1014           done = TRUE;
1015           }
1016         break;
1017       }
1018
1019     /* End the SMTP conversation and close the connection. */
1020
1021     /* Cutthrough - on a successful connect and recipient-verify with
1022     use-sender and we are 1st rcpt and have no cutthrough conn so far
1023     here is where we want to leave the conn open.  Ditto for a lazy-close
1024     verify. */
1025
1026     if (  (cutthrough.delivery || options & vopt_callout_hold)
1027        && rcpt_count == 1
1028        && done
1029        && yield == OK
1030        &&    (options & (vopt_callout_recipsender|vopt_callout_recippmaster|vopt_success_on_redirect))
1031            == vopt_callout_recipsender
1032        && !random_local_part
1033        && !pm_mailfrom
1034        && cutthrough.fd < 0
1035        && !sx.lmtp
1036        )
1037       {
1038       HDEBUG(D_acl|D_v) debug_printf_indent("holding verify callout open for %s\n",
1039         cutthrough.delivery
1040         ? "cutthrough delivery" : "potential further verifies and delivery");
1041
1042       cutthrough.callout_hold_only = !cutthrough.delivery;
1043       cutthrough.is_tls =       tls_out.active >= 0;
1044       cutthrough.fd =   sx.outblock.sock;       /* We assume no buffer in use in the outblock */
1045       cutthrough.nrcpt =        1;
1046       cutthrough.transport =    addr->transport->name;
1047       cutthrough.interface =    interface;
1048       cutthrough.snd_port =     sending_port;
1049       cutthrough.peer_options = smtp_peer_options;
1050       cutthrough.host =         *host;
1051         {
1052         int oldpool = store_pool;
1053         store_pool = POOL_PERM;
1054         cutthrough.snd_ip = string_copy(sending_ip_address);
1055         cutthrough.host.name = string_copy(host->name);
1056         cutthrough.host.address = string_copy(host->address);
1057         store_pool = oldpool;
1058         }
1059       cutthrough.addr =         *addr;          /* Save the address_item for later logging */
1060       cutthrough.addr.next =    NULL;
1061       cutthrough.addr.host_used = &cutthrough.host;
1062       if (addr->parent)
1063         *(cutthrough.addr.parent = store_get(sizeof(address_item))) =
1064           *addr->parent;
1065       ctblock.buffer = ctbuffer;
1066       ctblock.buffersize = sizeof(ctbuffer);
1067       ctblock.ptr = ctbuffer;
1068       /* ctblock.cmd_count = 0; ctblock.authenticating = FALSE; */
1069       ctblock.sock = cutthrough.fd;
1070       }
1071     else
1072       {
1073       /* Ensure no cutthrough on multiple verifies that were incompatible */
1074       if (options & vopt_callout_recipsender)
1075         cancel_cutthrough_connection(TRUE, US"not usable for cutthrough");
1076       if (sx.send_quit)
1077         {
1078         (void) smtp_write_command(&sx.outblock, SCMD_FLUSH, "QUIT\r\n");
1079
1080         /* Wait a short time for response, and discard it */
1081         smtp_read_response(&sx.inblock, sx.buffer, sizeof(sx.buffer),
1082           '2', 1);
1083         }
1084
1085       if (sx.inblock.sock >= 0)
1086         {
1087 #ifdef SUPPORT_TLS
1088         tls_close(FALSE, TRUE);
1089 #endif
1090         HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP(close)>>\n");
1091         (void)close(sx.inblock.sock);
1092         sx.inblock.sock = sx.outblock.sock = -1;
1093 #ifndef DISABLE_EVENT
1094         (void) event_raise(addr->transport->event_action, US"tcp:close", NULL);
1095 #endif
1096         }
1097       }
1098
1099     if (!done || yield != OK)
1100       addr->message = string_sprintf("%s [%s] : %s", host->name, host->address,
1101                                     addr->message);
1102     }    /* Loop through all hosts, while !done */
1103   }
1104
1105 /* If we get here with done == TRUE, a successful callout happened, and yield
1106 will be set OK or FAIL according to the response to the RCPT command.
1107 Otherwise, we looped through the hosts but couldn't complete the business.
1108 However, there may be domain-specific information to cache in both cases. */
1109
1110 if (!(options & vopt_callout_no_cache))
1111   cache_callout_write(&new_domain_record, addr->domain,
1112     done, &new_address_record, address_key);
1113
1114 /* Failure to connect to any host, or any response other than 2xx or 5xx is a
1115 temporary error. If there was only one host, and a response was received, leave
1116 it alone if supplying details. Otherwise, give a generic response. */
1117
1118 if (!done)
1119   {
1120   uschar * dullmsg = string_sprintf("Could not complete %s verify callout",
1121     options & vopt_is_recipient ? "recipient" : "sender");
1122   yield = DEFER;
1123
1124   addr->message = host_list->next || !addr->message
1125     ? dullmsg : string_sprintf("%s: %s", dullmsg, addr->message);
1126
1127   addr->user_message = smtp_return_error_details
1128     ? string_sprintf("%s for <%s>.\n"
1129       "The mail server(s) for the domain may be temporarily unreachable, or\n"
1130       "they may be permanently unreachable from this server. In the latter case,\n%s",
1131       dullmsg, addr->address,
1132       options & vopt_is_recipient
1133         ? "the address will never be accepted."
1134         : "you need to change the address or create an MX record for its domain\n"
1135           "if it is supposed to be generally accessible from the Internet.\n"
1136           "Talk to your mail administrator for details.")
1137     : dullmsg;
1138
1139   /* Force a specific error code */
1140
1141   addr->basic_errno = ERRNO_CALLOUTDEFER;
1142   }
1143
1144 /* Come here from within the cache-reading code on fast-track exit. */
1145
1146 END_CALLOUT:
1147 tls_modify_variables(&tls_in);
1148 return yield;
1149 }
1150
1151
1152
1153 /* Called after recipient-acl to get a cutthrough connection open when
1154    one was requested and a recipient-verify wasn't subsequently done.
1155 */
1156 int
1157 open_cutthrough_connection( address_item * addr )
1158 {
1159 address_item addr2;
1160 int rc;
1161
1162 /* Use a recipient-verify-callout to set up the cutthrough connection. */
1163 /* We must use a copy of the address for verification, because it might
1164 get rewritten. */
1165
1166 addr2 = *addr;
1167 HDEBUG(D_acl) debug_printf_indent("----------- %s cutthrough setup ------------\n",
1168   rcpt_count > 1 ? "more" : "start");
1169 rc = verify_address(&addr2, NULL,
1170         vopt_is_recipient | vopt_callout_recipsender | vopt_callout_no_cache,
1171         CUTTHROUGH_CMD_TIMEOUT, -1, -1,
1172         NULL, NULL, NULL);
1173 addr->message = addr2.message;
1174 addr->user_message = addr2.user_message;
1175 HDEBUG(D_acl) debug_printf_indent("----------- end cutthrough setup ------------\n");
1176 return rc;
1177 }
1178
1179
1180
1181 /* Send given number of bytes from the buffer */
1182 static BOOL
1183 cutthrough_send(int n)
1184 {
1185 if(cutthrough.fd < 0)
1186   return TRUE;
1187
1188 if(
1189 #ifdef SUPPORT_TLS
1190    tls_out.active == cutthrough.fd ? tls_write(FALSE, ctblock.buffer, n, FALSE) :
1191 #endif
1192    send(cutthrough.fd, ctblock.buffer, n, 0) > 0
1193   )
1194 {
1195   transport_count += n;
1196   ctblock.ptr= ctblock.buffer;
1197   return TRUE;
1198 }
1199
1200 HDEBUG(D_transport|D_acl) debug_printf_indent("cutthrough_send failed: %s\n", strerror(errno));
1201 return FALSE;
1202 }
1203
1204
1205
1206 static BOOL
1207 _cutthrough_puts(uschar * cp, int n)
1208 {
1209 while(n--)
1210  {
1211  if(ctblock.ptr >= ctblock.buffer+ctblock.buffersize)
1212    if(!cutthrough_send(ctblock.buffersize))
1213      return FALSE;
1214
1215  *ctblock.ptr++ = *cp++;
1216  }
1217 return TRUE;
1218 }
1219
1220 /* Buffered output of counted data block.   Return boolean success */
1221 static BOOL
1222 cutthrough_puts(uschar * cp, int n)
1223 {
1224 if (cutthrough.fd < 0)       return TRUE;
1225 if (_cutthrough_puts(cp, n)) return TRUE;
1226 cancel_cutthrough_connection(TRUE, US"transmit failed");
1227 return FALSE;
1228 }
1229
1230 void
1231 cutthrough_data_puts(uschar * cp, int n)
1232 {
1233 if (cutthrough.delivery) (void) cutthrough_puts(cp, n);
1234 return;
1235 }
1236
1237
1238 static BOOL
1239 _cutthrough_flush_send(void)
1240 {
1241 int n = ctblock.ptr - ctblock.buffer;
1242
1243 if(n>0)
1244   if(!cutthrough_send(n))
1245     return FALSE;
1246 return TRUE;
1247 }
1248
1249
1250 /* Send out any bufferred output.  Return boolean success. */
1251 BOOL
1252 cutthrough_flush_send(void)
1253 {
1254 if (_cutthrough_flush_send()) return TRUE;
1255 cancel_cutthrough_connection(TRUE, US"transmit failed");
1256 return FALSE;
1257 }
1258
1259
1260 static BOOL
1261 cutthrough_put_nl(void)
1262 {
1263 return cutthrough_puts(US"\r\n", 2);
1264 }
1265
1266
1267 void
1268 cutthrough_data_put_nl(void)
1269 {
1270 cutthrough_data_puts(US"\r\n", 2);
1271 }
1272
1273
1274 /* Get and check response from cutthrough target */
1275 static uschar
1276 cutthrough_response(int fd, char expect, uschar ** copy, int timeout)
1277 {
1278 smtp_inblock inblock;
1279 uschar inbuffer[4096];
1280 uschar responsebuffer[4096];
1281
1282 inblock.buffer = inbuffer;
1283 inblock.buffersize = sizeof(inbuffer);
1284 inblock.ptr = inbuffer;
1285 inblock.ptrend = inbuffer;
1286 inblock.sock = fd;
1287 /* this relies on (inblock.sock == tls_out.active) */
1288 if(!smtp_read_response(&inblock, responsebuffer, sizeof(responsebuffer), expect, timeout))
1289   cancel_cutthrough_connection(TRUE, US"target timeout on read");
1290
1291 if(copy)
1292   {
1293   uschar * cp;
1294   *copy = cp = string_copy(responsebuffer);
1295   /* Trim the trailing end of line */
1296   cp += Ustrlen(responsebuffer);
1297   if(cp > *copy  &&  cp[-1] == '\n') *--cp = '\0';
1298   if(cp > *copy  &&  cp[-1] == '\r') *--cp = '\0';
1299   }
1300
1301 return responsebuffer[0];
1302 }
1303
1304
1305 /* Negotiate dataphase with the cutthrough target, returning success boolean */
1306 BOOL
1307 cutthrough_predata(void)
1308 {
1309 if(cutthrough.fd < 0 || cutthrough.callout_hold_only)
1310   return FALSE;
1311
1312 HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP>> DATA\n");
1313 cutthrough_puts(US"DATA\r\n", 6);
1314 cutthrough_flush_send();
1315
1316 /* Assume nothing buffered.  If it was it gets ignored. */
1317 return cutthrough_response(cutthrough.fd, '3', NULL, CUTTHROUGH_DATA_TIMEOUT) == '3';
1318 }
1319
1320
1321 /* tctx arg only to match write_chunk() */
1322 static BOOL
1323 cutthrough_write_chunk(transport_ctx * tctx, uschar * s, int len)
1324 {
1325 uschar * s2;
1326 while(s && (s2 = Ustrchr(s, '\n')))
1327  {
1328  if(!cutthrough_puts(s, s2-s) || !cutthrough_put_nl())
1329   return FALSE;
1330  s = s2+1;
1331  }
1332 return TRUE;
1333 }
1334
1335
1336 /* Buffered send of headers.  Return success boolean. */
1337 /* Expands newlines to wire format (CR,NL).           */
1338 /* Also sends header-terminating blank line.          */
1339 BOOL
1340 cutthrough_headers_send(void)
1341 {
1342 transport_ctx tctx;
1343
1344 if(cutthrough.fd < 0 || cutthrough.callout_hold_only)
1345   return FALSE;
1346
1347 /* We share a routine with the mainline transport to handle header add/remove/rewrites,
1348    but having a separate buffered-output function (for now)
1349 */
1350 HDEBUG(D_acl) debug_printf_indent("----------- start cutthrough headers send -----------\n");
1351
1352 tctx.u.fd = cutthrough.fd;
1353 tctx.tblock = cutthrough.addr.transport;
1354 tctx.addr = &cutthrough.addr;
1355 tctx.check_string = US".";
1356 tctx.escape_string = US"..";
1357 /*XXX check under spool_files_wireformat.  Might be irrelevant */
1358 tctx.options = topt_use_crlf;
1359
1360 if (!transport_headers_send(&tctx, &cutthrough_write_chunk))
1361   return FALSE;
1362
1363 HDEBUG(D_acl) debug_printf_indent("----------- done cutthrough headers send ------------\n");
1364 return TRUE;
1365 }
1366
1367
1368 static void
1369 close_cutthrough_connection(const uschar * why)
1370 {
1371 int fd = cutthrough.fd;
1372 if(fd >= 0)
1373   {
1374   /* We could be sending this after a bunch of data, but that is ok as
1375      the only way to cancel the transfer in dataphase is to drop the tcp
1376      conn before the final dot.
1377   */
1378   ctblock.ptr = ctbuffer;
1379   HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP>> QUIT\n");
1380   _cutthrough_puts(US"QUIT\r\n", 6);    /* avoid recursion */
1381   _cutthrough_flush_send();
1382   cutthrough.fd = -1;                   /* avoid recursion via read timeout */
1383   cutthrough.nrcpt = 0;                 /* permit re-cutthrough on subsequent message */
1384
1385   /* Wait a short time for response, and discard it */
1386   cutthrough_response(fd, '2', NULL, 1);
1387
1388 #ifdef SUPPORT_TLS
1389   tls_close(FALSE, TRUE);
1390 #endif
1391   HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP(close)>>\n");
1392   (void)close(fd);
1393   HDEBUG(D_acl) debug_printf_indent("----------- cutthrough shutdown (%s) ------------\n", why);
1394   }
1395 ctblock.ptr = ctbuffer;
1396 }
1397
1398 void
1399 cancel_cutthrough_connection(BOOL close_noncutthrough_verifies, const uschar * why)
1400 {
1401 if (cutthrough.delivery || close_noncutthrough_verifies)
1402   close_cutthrough_connection(why);
1403 cutthrough.delivery = cutthrough.callout_hold_only = FALSE;
1404 }
1405
1406
1407 void
1408 release_cutthrough_connection(const uschar * why)
1409 {
1410 if (cutthrough.fd < 0) return;
1411 HDEBUG(D_acl) debug_printf_indent("release cutthrough conn: %s\n", why);
1412 cutthrough.fd = -1;
1413 cutthrough.delivery = cutthrough.callout_hold_only = FALSE;
1414 }
1415
1416
1417
1418
1419 /* Have senders final-dot.  Send one to cutthrough target, and grab the response.
1420    Log an OK response as a transmission.
1421    Close the connection.
1422    Return smtp response-class digit.
1423 */
1424 uschar *
1425 cutthrough_finaldot(void)
1426 {
1427 uschar res;
1428 address_item * addr;
1429 HDEBUG(D_transport|D_acl|D_v) debug_printf_indent("  SMTP>> .\n");
1430
1431 /* Assume data finshed with new-line */
1432 if(  !cutthrough_puts(US".", 1)
1433   || !cutthrough_put_nl()
1434   || !cutthrough_flush_send()
1435   )
1436   return cutthrough.addr.message;
1437
1438 res = cutthrough_response(cutthrough.fd, '2', &cutthrough.addr.message, CUTTHROUGH_DATA_TIMEOUT);
1439 for (addr = &cutthrough.addr; addr; addr = addr->next)
1440   {
1441   addr->message = cutthrough.addr.message;
1442   switch(res)
1443     {
1444     case '2':
1445       delivery_log(LOG_MAIN, addr, (int)'>', NULL);
1446       close_cutthrough_connection(US"delivered");
1447       break;
1448
1449     case '4':
1450       delivery_log(LOG_MAIN, addr, 0,
1451         US"tmp-reject from cutthrough after DATA:");
1452       break;
1453
1454     case '5':
1455       delivery_log(LOG_MAIN|LOG_REJECT, addr, 0,
1456         US"rejected after DATA:");
1457       break;
1458
1459     default:
1460       break;
1461     }
1462   }
1463 return cutthrough.addr.message;
1464 }
1465
1466
1467
1468 /*************************************************
1469 *           Copy error to toplevel address       *
1470 *************************************************/
1471
1472 /* This function is used when a verify fails or defers, to ensure that the
1473 failure or defer information is in the original toplevel address. This applies
1474 when an address is redirected to a single new address, and the failure or
1475 deferral happens to the child address.
1476
1477 Arguments:
1478   vaddr       the verify address item
1479   addr        the final address item
1480   yield       FAIL or DEFER
1481
1482 Returns:      the value of YIELD
1483 */
1484
1485 static int
1486 copy_error(address_item *vaddr, address_item *addr, int yield)
1487 {
1488 if (addr != vaddr)
1489   {
1490   vaddr->message = addr->message;
1491   vaddr->user_message = addr->user_message;
1492   vaddr->basic_errno = addr->basic_errno;
1493   vaddr->more_errno = addr->more_errno;
1494   vaddr->prop.address_data = addr->prop.address_data;
1495   copyflag(vaddr, addr, af_pass_message);
1496   }
1497 return yield;
1498 }
1499
1500
1501
1502
1503 /**************************************************
1504 * printf that automatically handles TLS if needed *
1505 ***************************************************/
1506
1507 /* This function is used by verify_address() as a substitute for all fprintf()
1508 calls; a direct fprintf() will not produce output in a TLS SMTP session, such
1509 as a response to an EXPN command.  smtp_in.c makes smtp_printf available but
1510 that assumes that we always use the smtp_out FILE* when not using TLS or the
1511 ssl buffer when we are.  Instead we take a FILE* parameter and check to see if
1512 that is smtp_out; if so, smtp_printf() with TLS support, otherwise regular
1513 fprintf().
1514
1515 Arguments:
1516   f           the candidate FILE* to write to
1517   format      format string
1518   ...         optional arguments
1519
1520 Returns:
1521               nothing
1522 */
1523
1524 static void PRINTF_FUNCTION(2,3)
1525 respond_printf(FILE *f, const char *format, ...)
1526 {
1527 va_list ap;
1528
1529 va_start(ap, format);
1530 if (smtp_out && (f == smtp_out))
1531   smtp_vprintf(format, FALSE, ap);
1532 else
1533   vfprintf(f, format, ap);
1534 va_end(ap);
1535 }
1536
1537
1538
1539 /*************************************************
1540 *            Verify an email address             *
1541 *************************************************/
1542
1543 /* This function is used both for verification (-bv and at other times) and
1544 address testing (-bt), which is indicated by address_test_mode being set.
1545
1546 Arguments:
1547   vaddr            contains the address to verify; the next field in this block
1548                      must be NULL
1549   f                if not NULL, write the result to this file
1550   options          various option bits:
1551                      vopt_fake_sender => this sender verify is not for the real
1552                        sender (it was verify=sender=xxxx or an address from a
1553                        header line) - rewriting must not change sender_address
1554                      vopt_is_recipient => this is a recipient address, otherwise
1555                        it's a sender address - this affects qualification and
1556                        rewriting and messages from callouts
1557                      vopt_qualify => qualify an unqualified address; else error
1558                      vopt_expn => called from SMTP EXPN command
1559                      vopt_success_on_redirect => when a new address is generated
1560                        the verification instantly succeeds
1561
1562                      These ones are used by do_callout() -- the options variable
1563                        is passed to it.
1564
1565                      vopt_callout_fullpm => if postmaster check, do full one
1566                      vopt_callout_no_cache => don't use callout cache
1567                      vopt_callout_random => do the "random" thing
1568                      vopt_callout_recipsender => use real sender for recipient
1569                      vopt_callout_recippmaster => use postmaster for recipient
1570
1571   callout          if > 0, specifies that callout is required, and gives timeout
1572                      for individual commands
1573   callout_overall  if > 0, gives overall timeout for the callout function;
1574                    if < 0, a default is used (see do_callout())
1575   callout_connect  the connection timeout for callouts
1576   se_mailfrom      when callout is requested to verify a sender, use this
1577                      in MAIL FROM; NULL => ""
1578   pm_mailfrom      when callout is requested, if non-NULL, do the postmaster
1579                      thing and use this as the sender address (may be "")
1580
1581   routed           if not NULL, set TRUE if routing succeeded, so we can
1582                      distinguish between routing failed and callout failed
1583
1584 Returns:           OK      address verified
1585                    FAIL    address failed to verify
1586                    DEFER   can't tell at present
1587 */
1588
1589 int
1590 verify_address(address_item *vaddr, FILE *f, int options, int callout,
1591   int callout_overall, int callout_connect, uschar *se_mailfrom,
1592   uschar *pm_mailfrom, BOOL *routed)
1593 {
1594 BOOL allok = TRUE;
1595 BOOL full_info = (f == NULL)? FALSE : (debug_selector != 0);
1596 BOOL expn         = (options & vopt_expn) != 0;
1597 BOOL success_on_redirect = (options & vopt_success_on_redirect) != 0;
1598 int i;
1599 int yield = OK;
1600 int verify_type = expn? v_expn :
1601      address_test_mode? v_none :
1602           options & vopt_is_recipient? v_recipient : v_sender;
1603 address_item *addr_list;
1604 address_item *addr_new = NULL;
1605 address_item *addr_remote = NULL;
1606 address_item *addr_local = NULL;
1607 address_item *addr_succeed = NULL;
1608 uschar **failure_ptr = options & vopt_is_recipient
1609   ? &recipient_verify_failure : &sender_verify_failure;
1610 uschar *ko_prefix, *cr;
1611 uschar *address = vaddr->address;
1612 uschar *save_sender;
1613 uschar null_sender[] = { 0 };             /* Ensure writeable memory */
1614
1615 /* Clear, just in case */
1616
1617 *failure_ptr = NULL;
1618
1619 /* Set up a prefix and suffix for error message which allow us to use the same
1620 output statements both in EXPN mode (where an SMTP response is needed) and when
1621 debugging with an output file. */
1622
1623 if (expn)
1624   {
1625   ko_prefix = US"553 ";
1626   cr = US"\r";
1627   }
1628 else ko_prefix = cr = US"";
1629
1630 /* Add qualify domain if permitted; otherwise an unqualified address fails. */
1631
1632 if (parse_find_at(address) == NULL)
1633   {
1634   if ((options & vopt_qualify) == 0)
1635     {
1636     if (f != NULL)
1637       respond_printf(f, "%sA domain is required for \"%s\"%s\n",
1638         ko_prefix, address, cr);
1639     *failure_ptr = US"qualify";
1640     return FAIL;
1641     }
1642   address = rewrite_address_qualify(address, options & vopt_is_recipient);
1643   }
1644
1645 DEBUG(D_verify)
1646   {
1647   debug_printf(">>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>\n");
1648   debug_printf("%s %s\n", address_test_mode? "Testing" : "Verifying", address);
1649   }
1650
1651 /* Rewrite and report on it. Clear the domain and local part caches - these
1652 may have been set by domains and local part tests during an ACL. */
1653
1654 if (global_rewrite_rules != NULL)
1655   {
1656   uschar *old = address;
1657   address = rewrite_address(address, options & vopt_is_recipient, FALSE,
1658     global_rewrite_rules, rewrite_existflags);
1659   if (address != old)
1660     {
1661     for (i = 0; i < (MAX_NAMED_LIST * 2)/32; i++) vaddr->localpart_cache[i] = 0;
1662     for (i = 0; i < (MAX_NAMED_LIST * 2)/32; i++) vaddr->domain_cache[i] = 0;
1663     if (f != NULL && !expn) fprintf(f, "Address rewritten as: %s\n", address);
1664     }
1665   }
1666
1667 /* If this is the real sender address, we must update sender_address at
1668 this point, because it may be referred to in the routers. */
1669
1670 if ((options & (vopt_fake_sender|vopt_is_recipient)) == 0)
1671   sender_address = address;
1672
1673 /* If the address was rewritten to <> no verification can be done, and we have
1674 to return OK. This rewriting is permitted only for sender addresses; for other
1675 addresses, such rewriting fails. */
1676
1677 if (address[0] == 0) return OK;
1678
1679 /* Flip the legacy TLS-related variables over to the outbound set in case
1680 they're used in the context of a transport used by verification. Reset them
1681 at exit from this routine (so no returns allowed from here on). */
1682
1683 tls_modify_variables(&tls_out);
1684
1685 /* Save a copy of the sender address for re-instating if we change it to <>
1686 while verifying a sender address (a nice bit of self-reference there). */
1687
1688 save_sender = sender_address;
1689
1690 /* Observability variable for router/transport use */
1691
1692 verify_mode = options & vopt_is_recipient ? US"R" : US"S";
1693
1694 /* Update the address structure with the possibly qualified and rewritten
1695 address. Set it up as the starting address on the chain of new addresses. */
1696
1697 vaddr->address = address;
1698 addr_new = vaddr;
1699
1700 /* We need a loop, because an address can generate new addresses. We must also
1701 cope with generated pipes and files at the top level. (See also the code and
1702 comment in deliver.c.) However, it is usually the case that the router for
1703 user's .forward files has its verify flag turned off.
1704
1705 If an address generates more than one child, the loop is used only when
1706 full_info is set, and this can only be set locally. Remote enquiries just get
1707 information about the top level address, not anything that it generated. */
1708
1709 while (addr_new)
1710   {
1711   int rc;
1712   address_item *addr = addr_new;
1713
1714   addr_new = addr->next;
1715   addr->next = NULL;
1716
1717   DEBUG(D_verify)
1718     {
1719     debug_printf(">>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>>\n");
1720     debug_printf("Considering %s\n", addr->address);
1721     }
1722
1723   /* Handle generated pipe, file or reply addresses. We don't get these
1724   when handling EXPN, as it does only one level of expansion. */
1725
1726   if (testflag(addr, af_pfr))
1727     {
1728     allok = FALSE;
1729     if (f != NULL)
1730       {
1731       BOOL allow;
1732
1733       if (addr->address[0] == '>')
1734         {
1735         allow = testflag(addr, af_allow_reply);
1736         fprintf(f, "%s -> mail %s", addr->parent->address, addr->address + 1);
1737         }
1738       else
1739         {
1740         allow = (addr->address[0] == '|')?
1741           testflag(addr, af_allow_pipe) : testflag(addr, af_allow_file);
1742         fprintf(f, "%s -> %s", addr->parent->address, addr->address);
1743         }
1744
1745       if (addr->basic_errno == ERRNO_BADTRANSPORT)
1746         fprintf(f, "\n*** Error in setting up pipe, file, or autoreply:\n"
1747           "%s\n", addr->message);
1748       else if (allow)
1749         fprintf(f, "\n  transport = %s\n", addr->transport->name);
1750       else
1751         fprintf(f, " *** forbidden ***\n");
1752       }
1753     continue;
1754     }
1755
1756   /* Just in case some router parameter refers to it. */
1757
1758   return_path = addr->prop.errors_address
1759     ? addr->prop.errors_address : sender_address;
1760
1761   /* Split the address into domain and local part, handling the %-hack if
1762   necessary, and then route it. While routing a sender address, set
1763   $sender_address to <> because that is what it will be if we were trying to
1764   send a bounce to the sender. */
1765
1766   if (routed) *routed = FALSE;
1767   if ((rc = deliver_split_address(addr)) == OK)
1768     {
1769     if (!(options & vopt_is_recipient)) sender_address = null_sender;
1770     rc = route_address(addr, &addr_local, &addr_remote, &addr_new,
1771       &addr_succeed, verify_type);
1772     sender_address = save_sender;     /* Put back the real sender */
1773     }
1774
1775   /* If routing an address succeeded, set the flag that remembers, for use when
1776   an ACL cached a sender verify (in case a callout fails). Then if routing set
1777   up a list of hosts or the transport has a host list, and the callout option
1778   is set, and we aren't in a host checking run, do the callout verification,
1779   and set another flag that notes that a callout happened. */
1780
1781   if (rc == OK)
1782     {
1783     if (routed) *routed = TRUE;
1784     if (callout > 0)
1785       {
1786       transport_instance * tp;
1787       host_item * host_list = addr->host_list;
1788
1789       /* Make up some data for use in the case where there is no remote
1790       transport. */
1791
1792       transport_feedback tf = {
1793         .interface =            NULL,                       /* interface (=> any) */
1794         .port =                 US"smtp",
1795         .protocol =             US"smtp",
1796         .hosts =                NULL,
1797         .helo_data =            US"$smtp_active_hostname",
1798         .hosts_override =       FALSE,
1799         .hosts_randomize =      FALSE,
1800         .gethostbyname =        FALSE,
1801         .qualify_single =       TRUE,
1802         .search_parents =       FALSE
1803         };
1804
1805       /* If verification yielded a remote transport, we want to use that
1806       transport's options, so as to mimic what would happen if we were really
1807       sending a message to this address. */
1808
1809       if ((tp = addr->transport) && !tp->info->local)
1810         {
1811         (void)(tp->setup)(tp, addr, &tf, 0, 0, NULL);
1812
1813         /* If the transport has hosts and the router does not, or if the
1814         transport is configured to override the router's hosts, we must build a
1815         host list of the transport's hosts, and find the IP addresses */
1816
1817         if (tf.hosts && (!host_list || tf.hosts_override))
1818           {
1819           uschar *s;
1820           const uschar *save_deliver_domain = deliver_domain;
1821           uschar *save_deliver_localpart = deliver_localpart;
1822
1823           host_list = NULL;    /* Ignore the router's hosts */
1824
1825           deliver_domain = addr->domain;
1826           deliver_localpart = addr->local_part;
1827           s = expand_string(tf.hosts);
1828           deliver_domain = save_deliver_domain;
1829           deliver_localpart = save_deliver_localpart;
1830
1831           if (!s)
1832             {
1833             log_write(0, LOG_MAIN|LOG_PANIC, "failed to expand list of hosts "
1834               "\"%s\" in %s transport for callout: %s", tf.hosts,
1835               tp->name, expand_string_message);
1836             }
1837           else
1838             {
1839             int flags;
1840             host_item *host, *nexthost;
1841             host_build_hostlist(&host_list, s, tf.hosts_randomize);
1842
1843             /* Just ignore failures to find a host address. If we don't manage
1844             to find any addresses, the callout will defer. Note that more than
1845             one address may be found for a single host, which will result in
1846             additional host items being inserted into the chain. Hence we must
1847             save the next host first. */
1848
1849             flags = HOST_FIND_BY_A;
1850             if (tf.qualify_single) flags |= HOST_FIND_QUALIFY_SINGLE;
1851             if (tf.search_parents) flags |= HOST_FIND_SEARCH_PARENTS;
1852
1853             for (host = host_list; host; host = nexthost)
1854               {
1855               nexthost = host->next;
1856               if (tf.gethostbyname ||
1857                   string_is_ip_address(host->name, NULL) != 0)
1858                 (void)host_find_byname(host, NULL, flags, NULL, TRUE);
1859               else
1860                 {
1861                 dnssec_domains * dnssec_domains = NULL;
1862                 if (Ustrcmp(tp->driver_name, "smtp") == 0)
1863                   {
1864                   smtp_transport_options_block * ob =
1865                       (smtp_transport_options_block *) tp->options_block;
1866                   dnssec_domains = &ob->dnssec;
1867                   }
1868
1869                 (void) host_find_bydns(host, NULL, flags, NULL, NULL, NULL,
1870                   dnssec_domains, NULL, NULL);
1871                 }
1872               }
1873             }
1874           }
1875         }
1876
1877       /* Can only do a callout if we have at least one host! If the callout
1878       fails, it will have set ${sender,recipient}_verify_failure. */
1879
1880       if (host_list)
1881         {
1882         HDEBUG(D_verify) debug_printf("Attempting full verification using callout\n");
1883         if (host_checking && !host_checking_callout)
1884           {
1885           HDEBUG(D_verify)
1886             debug_printf("... callout omitted by default when host testing\n"
1887               "(Use -bhc if you want the callouts to happen.)\n");
1888           }
1889         else
1890           {
1891 #ifdef SUPPORT_TLS
1892           deliver_set_expansions(addr);
1893 #endif
1894           rc = do_callout(addr, host_list, &tf, callout, callout_overall,
1895             callout_connect, options, se_mailfrom, pm_mailfrom);
1896           }
1897         }
1898       else
1899         {
1900         HDEBUG(D_verify) debug_printf("Cannot do callout: neither router nor "
1901           "transport provided a host list\n");
1902         }
1903       }
1904     }
1905
1906   /* Otherwise, any failure is a routing failure */
1907
1908   else *failure_ptr = US"route";
1909
1910   /* A router may return REROUTED if it has set up a child address as a result
1911   of a change of domain name (typically from widening). In this case we always
1912   want to continue to verify the new child. */
1913
1914   if (rc == REROUTED) continue;
1915
1916   /* Handle hard failures */
1917
1918   if (rc == FAIL)
1919     {
1920     allok = FALSE;
1921     if (f)
1922       {
1923       address_item *p = addr->parent;
1924
1925       respond_printf(f, "%s%s %s", ko_prefix,
1926         full_info ? addr->address : address,
1927         address_test_mode ? "is undeliverable" : "failed to verify");
1928       if (!expn && admin_user)
1929         {
1930         if (addr->basic_errno > 0)
1931           respond_printf(f, ": %s", strerror(addr->basic_errno));
1932         if (addr->message)
1933           respond_printf(f, ": %s", addr->message);
1934         }
1935
1936       /* Show parents iff doing full info */
1937
1938       if (full_info) while (p)
1939         {
1940         respond_printf(f, "%s\n    <-- %s", cr, p->address);
1941         p = p->parent;
1942         }
1943       respond_printf(f, "%s\n", cr);
1944       }
1945     cancel_cutthrough_connection(TRUE, US"routing hard fail");
1946
1947     if (!full_info)
1948       {
1949       yield = copy_error(vaddr, addr, FAIL);
1950       goto out;
1951       }
1952     yield = FAIL;
1953     }
1954
1955   /* Soft failure */
1956
1957   else if (rc == DEFER)
1958     {
1959     allok = FALSE;
1960     if (f)
1961       {
1962       address_item *p = addr->parent;
1963       respond_printf(f, "%s%s cannot be resolved at this time", ko_prefix,
1964         full_info? addr->address : address);
1965       if (!expn && admin_user)
1966         {
1967         if (addr->basic_errno > 0)
1968           respond_printf(f, ": %s", strerror(addr->basic_errno));
1969         if (addr->message)
1970           respond_printf(f, ": %s", addr->message);
1971         else if (addr->basic_errno <= 0)
1972           respond_printf(f, ": unknown error");
1973         }
1974
1975       /* Show parents iff doing full info */
1976
1977       if (full_info) while (p)
1978         {
1979         respond_printf(f, "%s\n    <-- %s", cr, p->address);
1980         p = p->parent;
1981         }
1982       respond_printf(f, "%s\n", cr);
1983       }
1984     cancel_cutthrough_connection(TRUE, US"routing soft fail");
1985
1986     if (!full_info)
1987       {
1988       yield = copy_error(vaddr, addr, DEFER);
1989       goto out;
1990       }
1991     if (yield == OK) yield = DEFER;
1992     }
1993
1994   /* If we are handling EXPN, we do not want to continue to route beyond
1995   the top level (whose address is in "address"). */
1996
1997   else if (expn)
1998     {
1999     uschar *ok_prefix = US"250-";
2000
2001     if (!addr_new)
2002       if (!addr_local && !addr_remote)
2003         respond_printf(f, "250 mail to <%s> is discarded\r\n", address);
2004       else
2005         respond_printf(f, "250 <%s>\r\n", address);
2006
2007     else do
2008       {
2009       address_item *addr2 = addr_new;
2010       addr_new = addr2->next;
2011       if (!addr_new) ok_prefix = US"250 ";
2012       respond_printf(f, "%s<%s>\r\n", ok_prefix, addr2->address);
2013       } while (addr_new);
2014     yield = OK;
2015     goto out;
2016     }
2017
2018   /* Successful routing other than EXPN. */
2019
2020   else
2021     {
2022     /* Handle successful routing when short info wanted. Otherwise continue for
2023     other (generated) addresses. Short info is the operational case. Full info
2024     can be requested only when debug_selector != 0 and a file is supplied.
2025
2026     There is a conflict between the use of aliasing as an alternate email
2027     address, and as a sort of mailing list. If an alias turns the incoming
2028     address into just one address (e.g. J.Caesar->jc44) you may well want to
2029     carry on verifying the generated address to ensure it is valid when
2030     checking incoming mail. If aliasing generates multiple addresses, you
2031     probably don't want to do this. Exim therefore treats the generation of
2032     just a single new address as a special case, and continues on to verify the
2033     generated address. */
2034
2035     if (  !full_info                    /* Stop if short info wanted AND */
2036        && (  (  !addr_new               /* No new address OR */
2037              || addr_new->next          /* More than one new address OR */
2038              || testflag(addr_new, af_pfr)      /* New address is pfr */
2039              )
2040           ||                            /* OR */
2041              (  addr_new                /* At least one new address AND */
2042              && success_on_redirect     /* success_on_redirect is set */
2043           )  )
2044        )
2045       {
2046       if (f) fprintf(f, "%s %s\n",
2047         address, address_test_mode ? "is deliverable" : "verified");
2048
2049       /* If we have carried on to verify a child address, we want the value
2050       of $address_data to be that of the child */
2051
2052       vaddr->prop.address_data = addr->prop.address_data;
2053
2054       /* If stopped because more than one new address, cannot cutthrough */
2055
2056       if (addr_new && addr_new->next)
2057         cancel_cutthrough_connection(TRUE, US"multiple addresses from routing");
2058
2059       yield = OK;
2060       goto out;
2061       }
2062     }
2063   }     /* Loop for generated addresses */
2064
2065 /* Display the full results of the successful routing, including any generated
2066 addresses. Control gets here only when full_info is set, which requires f not
2067 to be NULL, and this occurs only when a top-level verify is called with the
2068 debugging switch on.
2069
2070 If there are no local and no remote addresses, and there were no pipes, files,
2071 or autoreplies, and there were no errors or deferments, the message is to be
2072 discarded, usually because of the use of :blackhole: in an alias file. */
2073
2074 if (allok && !addr_local && !addr_remote)
2075   {
2076   fprintf(f, "mail to %s is discarded\n", address);
2077   goto out;
2078   }
2079
2080 for (addr_list = addr_local, i = 0; i < 2; addr_list = addr_remote, i++)
2081   while (addr_list)
2082     {
2083     address_item *addr = addr_list;
2084     address_item *p = addr->parent;
2085     transport_instance * tp = addr->transport;
2086
2087     addr_list = addr->next;
2088
2089     fprintf(f, "%s", CS addr->address);
2090 #ifdef EXPERIMENTAL_SRS
2091     if(addr->prop.srs_sender)
2092       fprintf(f, "    [srs = %s]", addr->prop.srs_sender);
2093 #endif
2094
2095     /* If the address is a duplicate, show something about it. */
2096
2097     if (!testflag(addr, af_pfr))
2098       {
2099       tree_node *tnode;
2100       if ((tnode = tree_search(tree_duplicates, addr->unique)))
2101         fprintf(f, "   [duplicate, would not be delivered]");
2102       else tree_add_duplicate(addr->unique, addr);
2103       }
2104
2105     /* Now show its parents */
2106
2107     for (p = addr->parent; p; p = p->parent)
2108       fprintf(f, "\n    <-- %s", p->address);
2109     fprintf(f, "\n  ");
2110
2111     /* Show router, and transport */
2112
2113     fprintf(f, "router = %s, transport = %s\n",
2114       addr->router->name, tp ? tp->name : US"unset");
2115
2116     /* Show any hosts that are set up by a router unless the transport
2117     is going to override them; fiddle a bit to get a nice format. */
2118
2119     if (addr->host_list && tp && !tp->overrides_hosts)
2120       {
2121       host_item *h;
2122       int maxlen = 0;
2123       int maxaddlen = 0;
2124       for (h = addr->host_list; h; h = h->next)
2125         {                               /* get max lengths of host names, addrs */
2126         int len = Ustrlen(h->name);
2127         if (len > maxlen) maxlen = len;
2128         len = h->address ? Ustrlen(h->address) : 7;
2129         if (len > maxaddlen) maxaddlen = len;
2130         }
2131       for (h = addr->host_list; h; h = h->next)
2132         {
2133         fprintf(f, "  host %-*s ", maxlen, h->name);
2134
2135         if (h->address)
2136           fprintf(f, "[%s%-*c", h->address, maxaddlen+1 - Ustrlen(h->address), ']');
2137         else if (tp->info->local)
2138           fprintf(f, " %-*s ", maxaddlen, "");  /* Omit [unknown] for local */
2139         else
2140           fprintf(f, "[%s%-*c", "unknown", maxaddlen+1 - 7, ']');
2141
2142         if (h->mx >= 0) fprintf(f, " MX=%d", h->mx);
2143         if (h->port != PORT_NONE) fprintf(f, " port=%d", h->port);
2144         if (running_in_test_harness  &&  h->dnssec == DS_YES) fputs(" AD", f);
2145         if (h->status == hstatus_unusable) fputs(" ** unusable **", f);
2146         fputc('\n', f);
2147         }
2148       }
2149     }
2150
2151 /* Yield will be DEFER or FAIL if any one address has, only for full_info (which is
2152 the -bv or -bt case). */
2153
2154 out:
2155 verify_mode = NULL;
2156 tls_modify_variables(&tls_in);
2157
2158 return yield;
2159 }
2160
2161
2162
2163
2164 /*************************************************
2165 *      Check headers for syntax errors           *
2166 *************************************************/
2167
2168 /* This function checks those header lines that contain addresses, and verifies
2169 that all the addresses therein are 5322-syntactially correct.
2170
2171 Arguments:
2172   msgptr     where to put an error message
2173
2174 Returns:     OK
2175              FAIL
2176 */
2177
2178 int
2179 verify_check_headers(uschar **msgptr)
2180 {
2181 header_line *h;
2182 uschar *colon, *s;
2183 int yield = OK;
2184
2185 for (h = header_list; h && yield == OK; h = h->next)
2186   {
2187   if (h->type != htype_from &&
2188       h->type != htype_reply_to &&
2189       h->type != htype_sender &&
2190       h->type != htype_to &&
2191       h->type != htype_cc &&
2192       h->type != htype_bcc)
2193     continue;
2194
2195   colon = Ustrchr(h->text, ':');
2196   s = colon + 1;
2197   while (isspace(*s)) s++;
2198
2199   /* Loop for multiple addresses in the header, enabling group syntax. Note
2200   that we have to reset this after the header has been scanned. */
2201
2202   parse_allow_group = TRUE;
2203
2204   while (*s)
2205     {
2206     uschar *ss = parse_find_address_end(s, FALSE);
2207     uschar *recipient, *errmess;
2208     int terminator = *ss;
2209     int start, end, domain;
2210
2211     /* Temporarily terminate the string at this point, and extract the
2212     operative address within, allowing group syntax. */
2213
2214     *ss = 0;
2215     recipient = parse_extract_address(s,&errmess,&start,&end,&domain,FALSE);
2216     *ss = terminator;
2217
2218     /* Permit an unqualified address only if the message is local, or if the
2219     sending host is configured to be permitted to send them. */
2220
2221     if (recipient && !domain)
2222       {
2223       if (h->type == htype_from || h->type == htype_sender)
2224         {
2225         if (!allow_unqualified_sender) recipient = NULL;
2226         }
2227       else
2228         {
2229         if (!allow_unqualified_recipient) recipient = NULL;
2230         }
2231       if (recipient == NULL) errmess = US"unqualified address not permitted";
2232       }
2233
2234     /* It's an error if no address could be extracted, except for the special
2235     case of an empty address. */
2236
2237     if (!recipient && Ustrcmp(errmess, "empty address") != 0)
2238       {
2239       uschar *verb = US"is";
2240       uschar *t = ss;
2241       uschar *tt = colon;
2242       int len;
2243
2244       /* Arrange not to include any white space at the end in the
2245       error message or the header name. */
2246
2247       while (t > s && isspace(t[-1])) t--;
2248       while (tt > h->text && isspace(tt[-1])) tt--;
2249
2250       /* Add the address that failed to the error message, since in a
2251       header with very many addresses it is sometimes hard to spot
2252       which one is at fault. However, limit the amount of address to
2253       quote - cases have been seen where, for example, a missing double
2254       quote in a humungous To: header creates an "address" that is longer
2255       than string_sprintf can handle. */
2256
2257       len = t - s;
2258       if (len > 1024)
2259         {
2260         len = 1024;
2261         verb = US"begins";
2262         }
2263
2264       /* deconst cast ok as we're passing a non-const to string_printing() */
2265       *msgptr = US string_printing(
2266         string_sprintf("%s: failing address in \"%.*s:\" header %s: %.*s",
2267           errmess, (int)(tt - h->text), h->text, verb, len, s));
2268
2269       yield = FAIL;
2270       break;          /* Out of address loop */
2271       }
2272
2273     /* Advance to the next address */
2274
2275     s = ss + (terminator ? 1 : 0);
2276     while (isspace(*s)) s++;
2277     }   /* Next address */
2278
2279   parse_allow_group = FALSE;
2280   parse_found_group = FALSE;
2281   }     /* Next header unless yield has been set FALSE */
2282
2283 return yield;
2284 }
2285
2286
2287 /*************************************************
2288 *      Check header names for 8-bit characters   *
2289 *************************************************/
2290
2291 /* This function checks for invalid characters in header names. See
2292 RFC 5322, 2.2. and RFC 6532, 3.
2293
2294 Arguments:
2295   msgptr     where to put an error message
2296
2297 Returns:     OK
2298              FAIL
2299 */
2300
2301 int
2302 verify_check_header_names_ascii(uschar **msgptr)
2303 {
2304 header_line *h;
2305 uschar *colon, *s;
2306
2307 for (h = header_list; h; h = h->next)
2308   {
2309   colon = Ustrchr(h->text, ':');
2310   for(s = h->text; s < colon; s++)
2311     if ((*s < 33) || (*s > 126))
2312       {
2313       *msgptr = string_sprintf("Invalid character in header \"%.*s\" found",
2314                              colon - h->text, h->text);
2315       return FAIL;
2316       }
2317   }
2318 return OK;
2319 }
2320
2321 /*************************************************
2322 *          Check for blind recipients            *
2323 *************************************************/
2324
2325 /* This function checks that every (envelope) recipient is mentioned in either
2326 the To: or Cc: header lines, thus detecting blind carbon copies.
2327
2328 There are two ways of scanning that could be used: either scan the header lines
2329 and tick off the recipients, or scan the recipients and check the header lines.
2330 The original proposed patch did the former, but I have chosen to do the latter,
2331 because (a) it requires no memory and (b) will use fewer resources when there
2332 are many addresses in To: and/or Cc: and only one or two envelope recipients.
2333
2334 Arguments:   none
2335 Returns:     OK    if there are no blind recipients
2336              FAIL  if there is at least one blind recipient
2337 */
2338
2339 int
2340 verify_check_notblind(void)
2341 {
2342 int i;
2343 for (i = 0; i < recipients_count; i++)
2344   {
2345   header_line *h;
2346   BOOL found = FALSE;
2347   uschar *address = recipients_list[i].address;
2348
2349   for (h = header_list; !found && h != NULL; h = h->next)
2350     {
2351     uschar *colon, *s;
2352
2353     if (h->type != htype_to && h->type != htype_cc) continue;
2354
2355     colon = Ustrchr(h->text, ':');
2356     s = colon + 1;
2357     while (isspace(*s)) s++;
2358
2359     /* Loop for multiple addresses in the header, enabling group syntax. Note
2360     that we have to reset this after the header has been scanned. */
2361
2362     parse_allow_group = TRUE;
2363
2364     while (*s != 0)
2365       {
2366       uschar *ss = parse_find_address_end(s, FALSE);
2367       uschar *recipient,*errmess;
2368       int terminator = *ss;
2369       int start, end, domain;
2370
2371       /* Temporarily terminate the string at this point, and extract the
2372       operative address within, allowing group syntax. */
2373
2374       *ss = 0;
2375       recipient = parse_extract_address(s,&errmess,&start,&end,&domain,FALSE);
2376       *ss = terminator;
2377
2378       /* If we found a valid recipient that has a domain, compare it with the
2379       envelope recipient. Local parts are compared case-sensitively, domains
2380       case-insensitively. By comparing from the start with length "domain", we
2381       include the "@" at the end, which ensures that we are comparing the whole
2382       local part of each address. */
2383
2384       if (recipient != NULL && domain != 0)
2385         {
2386         found = Ustrncmp(recipient, address, domain) == 0 &&
2387                 strcmpic(recipient + domain, address + domain) == 0;
2388         if (found) break;
2389         }
2390
2391       /* Advance to the next address */
2392
2393       s = ss + (terminator? 1:0);
2394       while (isspace(*s)) s++;
2395       }   /* Next address */
2396
2397     parse_allow_group = FALSE;
2398     parse_found_group = FALSE;
2399     }     /* Next header (if found is false) */
2400
2401   if (!found) return FAIL;
2402   }       /* Next recipient */
2403
2404 return OK;
2405 }
2406
2407
2408
2409 /*************************************************
2410 *          Find if verified sender               *
2411 *************************************************/
2412
2413 /* Usually, just a single address is verified as the sender of the message.
2414 However, Exim can be made to verify other addresses as well (often related in
2415 some way), and this is useful in some environments. There may therefore be a
2416 chain of such addresses that have previously been tested. This function finds
2417 whether a given address is on the chain.
2418
2419 Arguments:   the address to be verified
2420 Returns:     pointer to an address item, or NULL
2421 */
2422
2423 address_item *
2424 verify_checked_sender(uschar *sender)
2425 {
2426 address_item *addr;
2427 for (addr = sender_verified_list; addr != NULL; addr = addr->next)
2428   if (Ustrcmp(sender, addr->address) == 0) break;
2429 return addr;
2430 }
2431
2432
2433
2434
2435
2436 /*************************************************
2437 *             Get valid header address           *
2438 *************************************************/
2439
2440 /* Scan the originator headers of the message, looking for an address that
2441 verifies successfully. RFC 822 says:
2442
2443     o   The "Sender" field mailbox should be sent  notices  of
2444         any  problems in transport or delivery of the original
2445         messages.  If there is no  "Sender"  field,  then  the
2446         "From" field mailbox should be used.
2447
2448     o   If the "Reply-To" field exists, then the reply  should
2449         go to the addresses indicated in that field and not to
2450         the address(es) indicated in the "From" field.
2451
2452 So we check a Sender field if there is one, else a Reply_to field, else a From
2453 field. As some strange messages may have more than one of these fields,
2454 especially if they are resent- fields, check all of them if there is more than
2455 one.
2456
2457 Arguments:
2458   user_msgptr      points to where to put a user error message
2459   log_msgptr       points to where to put a log error message
2460   callout          timeout for callout check (passed to verify_address())
2461   callout_overall  overall callout timeout (ditto)
2462   callout_connect  connect callout timeout (ditto)
2463   se_mailfrom      mailfrom for verify; NULL => ""
2464   pm_mailfrom      sender for pm callout check (passed to verify_address())
2465   options          callout options (passed to verify_address())
2466   verrno           where to put the address basic_errno
2467
2468 If log_msgptr is set to something without setting user_msgptr, the caller
2469 normally uses log_msgptr for both things.
2470
2471 Returns:           result of the verification attempt: OK, FAIL, or DEFER;
2472                    FAIL is given if no appropriate headers are found
2473 */
2474
2475 int
2476 verify_check_header_address(uschar **user_msgptr, uschar **log_msgptr,
2477   int callout, int callout_overall, int callout_connect, uschar *se_mailfrom,
2478   uschar *pm_mailfrom, int options, int *verrno)
2479 {
2480 static int header_types[] = { htype_sender, htype_reply_to, htype_from };
2481 BOOL done = FALSE;
2482 int yield = FAIL;
2483 int i;
2484
2485 for (i = 0; i < 3 && !done; i++)
2486   {
2487   header_line *h;
2488   for (h = header_list; h != NULL && !done; h = h->next)
2489     {
2490     int terminator, new_ok;
2491     uschar *s, *ss, *endname;
2492
2493     if (h->type != header_types[i]) continue;
2494     s = endname = Ustrchr(h->text, ':') + 1;
2495
2496     /* Scan the addresses in the header, enabling group syntax. Note that we
2497     have to reset this after the header has been scanned. */
2498
2499     parse_allow_group = TRUE;
2500
2501     while (*s != 0)
2502       {
2503       address_item *vaddr;
2504
2505       while (isspace(*s) || *s == ',') s++;
2506       if (*s == 0) break;        /* End of header */
2507
2508       ss = parse_find_address_end(s, FALSE);
2509
2510       /* The terminator is a comma or end of header, but there may be white
2511       space preceding it (including newline for the last address). Move back
2512       past any white space so we can check against any cached envelope sender
2513       address verifications. */
2514
2515       while (isspace(ss[-1])) ss--;
2516       terminator = *ss;
2517       *ss = 0;
2518
2519       HDEBUG(D_verify) debug_printf("verifying %.*s header address %s\n",
2520         (int)(endname - h->text), h->text, s);
2521
2522       /* See if we have already verified this address as an envelope sender,
2523       and if so, use the previous answer. */
2524
2525       vaddr = verify_checked_sender(s);
2526
2527       if (vaddr != NULL &&                   /* Previously checked */
2528            (callout <= 0 ||                  /* No callout needed; OR */
2529             vaddr->special_action > 256))    /* Callout was done */
2530         {
2531         new_ok = vaddr->special_action & 255;
2532         HDEBUG(D_verify) debug_printf("previously checked as envelope sender\n");
2533         *ss = terminator;  /* Restore shortened string */
2534         }
2535
2536       /* Otherwise we run the verification now. We must restore the shortened
2537       string before running the verification, so the headers are correct, in
2538       case there is any rewriting. */
2539
2540       else
2541         {
2542         int start, end, domain;
2543         uschar *address = parse_extract_address(s, log_msgptr, &start, &end,
2544           &domain, FALSE);
2545
2546         *ss = terminator;
2547
2548         /* If we found an empty address, just carry on with the next one, but
2549         kill the message. */
2550
2551         if (address == NULL && Ustrcmp(*log_msgptr, "empty address") == 0)
2552           {
2553           *log_msgptr = NULL;
2554           s = ss;
2555           continue;
2556           }
2557
2558         /* If verification failed because of a syntax error, fail this
2559         function, and ensure that the failing address gets added to the error
2560         message. */
2561
2562         if (address == NULL)
2563           {
2564           new_ok = FAIL;
2565           while (ss > s && isspace(ss[-1])) ss--;
2566           *log_msgptr = string_sprintf("syntax error in '%.*s' header when "
2567             "scanning for sender: %s in \"%.*s\"",
2568             (int)(endname - h->text), h->text, *log_msgptr, (int)(ss - s), s);
2569           yield = FAIL;
2570           done = TRUE;
2571           break;
2572           }
2573
2574         /* Else go ahead with the sender verification. But it isn't *the*
2575         sender of the message, so set vopt_fake_sender to stop sender_address
2576         being replaced after rewriting or qualification. */
2577
2578         else
2579           {
2580           vaddr = deliver_make_addr(address, FALSE);
2581           new_ok = verify_address(vaddr, NULL, options | vopt_fake_sender,
2582             callout, callout_overall, callout_connect, se_mailfrom,
2583             pm_mailfrom, NULL);
2584           }
2585         }
2586
2587       /* We now have the result, either newly found, or cached. If we are
2588       giving out error details, set a specific user error. This means that the
2589       last of these will be returned to the user if all three fail. We do not
2590       set a log message - the generic one below will be used. */
2591
2592       if (new_ok != OK)
2593         {
2594         *verrno = vaddr->basic_errno;
2595         if (smtp_return_error_details)
2596           *user_msgptr = string_sprintf("Rejected after DATA: "
2597             "could not verify \"%.*s\" header address\n%s: %s",
2598             (int)(endname - h->text), h->text, vaddr->address, vaddr->message);
2599         }
2600
2601       /* Success or defer */
2602
2603       if (new_ok == OK)
2604         {
2605         yield = OK;
2606         done = TRUE;
2607         break;
2608         }
2609
2610       if (new_ok == DEFER) yield = DEFER;
2611
2612       /* Move on to any more addresses in the header */
2613
2614       s = ss;
2615       }     /* Next address */
2616
2617     parse_allow_group = FALSE;
2618     parse_found_group = FALSE;
2619     }       /* Next header, unless done */
2620   }         /* Next header type unless done */
2621
2622 if (yield == FAIL && *log_msgptr == NULL)
2623   *log_msgptr = US"there is no valid sender in any header line";
2624
2625 if (yield == DEFER && *log_msgptr == NULL)
2626   *log_msgptr = US"all attempts to verify a sender in a header line deferred";
2627
2628 return yield;
2629 }
2630
2631
2632
2633
2634 /*************************************************
2635 *            Get RFC 1413 identification         *
2636 *************************************************/
2637
2638 /* Attempt to get an id from the sending machine via the RFC 1413 protocol. If
2639 the timeout is set to zero, then the query is not done. There may also be lists
2640 of hosts and nets which are exempt. To guard against malefactors sending
2641 non-printing characters which could, for example, disrupt a message's headers,
2642 make sure the string consists of printing characters only.
2643
2644 Argument:
2645   port    the port to connect to; usually this is IDENT_PORT (113), but when
2646           running in the test harness with -bh a different value is used.
2647
2648 Returns:  nothing
2649
2650 Side effect: any received ident value is put in sender_ident (NULL otherwise)
2651 */
2652
2653 void
2654 verify_get_ident(int port)
2655 {
2656 int sock, host_af, qlen;
2657 int received_sender_port, received_interface_port, n;
2658 uschar *p;
2659 blob early_data;
2660 uschar buffer[2048];
2661
2662 /* Default is no ident. Check whether we want to do an ident check for this
2663 host. */
2664
2665 sender_ident = NULL;
2666 if (rfc1413_query_timeout <= 0 || verify_check_host(&rfc1413_hosts) != OK)
2667   return;
2668
2669 DEBUG(D_ident) debug_printf("doing ident callback\n");
2670
2671 /* Set up a connection to the ident port of the remote host. Bind the local end
2672 to the incoming interface address. If the sender host address is an IPv6
2673 address, the incoming interface address will also be IPv6. */
2674
2675 host_af = Ustrchr(sender_host_address, ':') == NULL ? AF_INET : AF_INET6;
2676 if ((sock = ip_socket(SOCK_STREAM, host_af)) < 0) return;
2677
2678 if (ip_bind(sock, host_af, interface_address, 0) < 0)
2679   {
2680   DEBUG(D_ident) debug_printf("bind socket for ident failed: %s\n",
2681     strerror(errno));
2682   goto END_OFF;
2683   }
2684
2685 /* Construct and send the query. */
2686
2687 qlen = snprintf(CS buffer, sizeof(buffer), "%d , %d\r\n",
2688   sender_host_port, interface_port);
2689 early_data.data = buffer;
2690 early_data.len = qlen;
2691
2692 if (ip_connect(sock, host_af, sender_host_address, port,
2693                 rfc1413_query_timeout, &early_data) < 0)
2694   {
2695   if (errno == ETIMEDOUT && LOGGING(ident_timeout))
2696     log_write(0, LOG_MAIN, "ident connection to %s timed out",
2697       sender_host_address);
2698   else
2699     DEBUG(D_ident) debug_printf("ident connection to %s failed: %s\n",
2700       sender_host_address, strerror(errno));
2701   goto END_OFF;
2702   }
2703
2704 /* Read a response line. We put it into the rest of the buffer, using several
2705 recv() calls if necessary. */
2706
2707 p = buffer + qlen;
2708
2709 for (;;)
2710   {
2711   uschar *pp;
2712   int count;
2713   int size = sizeof(buffer) - (p - buffer);
2714
2715   if (size <= 0) goto END_OFF;   /* Buffer filled without seeing \n. */
2716   count = ip_recv(sock, p, size, rfc1413_query_timeout);
2717   if (count <= 0) goto END_OFF;  /* Read error or EOF */
2718
2719   /* Scan what we just read, to see if we have reached the terminating \r\n. Be
2720   generous, and accept a plain \n terminator as well. The only illegal
2721   character is 0. */
2722
2723   for (pp = p; pp < p + count; pp++)
2724     {
2725     if (*pp == 0) goto END_OFF;   /* Zero octet not allowed */
2726     if (*pp == '\n')
2727       {
2728       if (pp[-1] == '\r') pp--;
2729       *pp = 0;
2730       goto GOT_DATA;             /* Break out of both loops */
2731       }
2732     }
2733
2734   /* Reached the end of the data without finding \n. Let the loop continue to
2735   read some more, if there is room. */
2736
2737   p = pp;
2738   }
2739
2740 GOT_DATA:
2741
2742 /* We have received a line of data. Check it carefully. It must start with the
2743 same two port numbers that we sent, followed by data as defined by the RFC. For
2744 example,
2745
2746   12345 , 25 : USERID : UNIX :root
2747
2748 However, the amount of white space may be different to what we sent. In the
2749 "osname" field there may be several sub-fields, comma separated. The data we
2750 actually want to save follows the third colon. Some systems put leading spaces
2751 in it - we discard those. */
2752
2753 if (sscanf(CS buffer + qlen, "%d , %d%n", &received_sender_port,
2754       &received_interface_port, &n) != 2 ||
2755     received_sender_port != sender_host_port ||
2756     received_interface_port != interface_port)
2757   goto END_OFF;
2758
2759 p = buffer + qlen + n;
2760 while(isspace(*p)) p++;
2761 if (*p++ != ':') goto END_OFF;
2762 while(isspace(*p)) p++;
2763 if (Ustrncmp(p, "USERID", 6) != 0) goto END_OFF;
2764 p += 6;
2765 while(isspace(*p)) p++;
2766 if (*p++ != ':') goto END_OFF;
2767 while (*p != 0 && *p != ':') p++;
2768 if (*p++ == 0) goto END_OFF;
2769 while(isspace(*p)) p++;
2770 if (*p == 0) goto END_OFF;
2771
2772 /* The rest of the line is the data we want. We turn it into printing
2773 characters when we save it, so that it cannot mess up the format of any logging
2774 or Received: lines into which it gets inserted. We keep a maximum of 127
2775 characters. The deconst cast is ok as we fed a nonconst to string_printing() */
2776
2777 sender_ident = US string_printing(string_copyn(p, 127));
2778 DEBUG(D_ident) debug_printf("sender_ident = %s\n", sender_ident);
2779
2780 END_OFF:
2781 (void)close(sock);
2782 return;
2783 }
2784
2785
2786
2787
2788 /*************************************************
2789 *      Match host to a single host-list item     *
2790 *************************************************/
2791
2792 /* This function compares a host (name or address) against a single item
2793 from a host list. The host name gets looked up if it is needed and is not
2794 already known. The function is called from verify_check_this_host() via
2795 match_check_list(), which is why most of its arguments are in a single block.
2796
2797 Arguments:
2798   arg            the argument block (see below)
2799   ss             the host-list item
2800   valueptr       where to pass back looked up data, or NULL
2801   error          for error message when returning ERROR
2802
2803 The block contains:
2804   host_name      (a) the host name, or
2805                  (b) NULL, implying use sender_host_name and
2806                        sender_host_aliases, looking them up if required, or
2807                  (c) the empty string, meaning that only IP address matches
2808                        are permitted
2809   host_address   the host address
2810   host_ipv4      the IPv4 address taken from an IPv6 one
2811
2812 Returns:         OK      matched
2813                  FAIL    did not match
2814                  DEFER   lookup deferred
2815                  ERROR   (a) failed to find the host name or IP address, or
2816                          (b) unknown lookup type specified, or
2817                          (c) host name encountered when only IP addresses are
2818                                being matched
2819 */
2820
2821 int
2822 check_host(void *arg, const uschar *ss, const uschar **valueptr, uschar **error)
2823 {
2824 check_host_block *cb = (check_host_block *)arg;
2825 int mlen = -1;
2826 int maskoffset;
2827 BOOL iplookup = FALSE;
2828 BOOL isquery = FALSE;
2829 BOOL isiponly = cb->host_name != NULL && cb->host_name[0] == 0;
2830 const uschar *t;
2831 uschar *semicolon;
2832 uschar **aliases;
2833
2834 /* Optimize for the special case when the pattern is "*". */
2835
2836 if (*ss == '*' && ss[1] == 0) return OK;
2837
2838 /* If the pattern is empty, it matches only in the case when there is no host -
2839 this can occur in ACL checking for SMTP input using the -bs option. In this
2840 situation, the host address is the empty string. */
2841
2842 if (cb->host_address[0] == 0) return (*ss == 0)? OK : FAIL;
2843 if (*ss == 0) return FAIL;
2844
2845 /* If the pattern is precisely "@" then match against the primary host name,
2846 provided that host name matching is permitted; if it's "@[]" match against the
2847 local host's IP addresses. */
2848
2849 if (*ss == '@')
2850   {
2851   if (ss[1] == 0)
2852     {
2853     if (isiponly) return ERROR;
2854     ss = primary_hostname;
2855     }
2856   else if (Ustrcmp(ss, "@[]") == 0)
2857     {
2858     ip_address_item *ip;
2859     for (ip = host_find_interfaces(); ip != NULL; ip = ip->next)
2860       if (Ustrcmp(ip->address, cb->host_address) == 0) return OK;
2861     return FAIL;
2862     }
2863   }
2864
2865 /* If the pattern is an IP address, optionally followed by a bitmask count, do
2866 a (possibly masked) comparison with the current IP address. */
2867
2868 if (string_is_ip_address(ss, &maskoffset) != 0)
2869   return (host_is_in_net(cb->host_address, ss, maskoffset)? OK : FAIL);
2870
2871 /* The pattern is not an IP address. A common error that people make is to omit
2872 one component of an IPv4 address, either by accident, or believing that, for
2873 example, 1.2.3/24 is the same as 1.2.3.0/24, or 1.2.3 is the same as 1.2.3.0,
2874 which it isn't. (Those applications that do accept 1.2.3 as an IP address
2875 interpret it as 1.2.0.3 because the final component becomes 16-bit - this is an
2876 ancient specification.) To aid in debugging these cases, we give a specific
2877 error if the pattern contains only digits and dots or contains a slash preceded
2878 only by digits and dots (a slash at the start indicates a file name and of
2879 course slashes may be present in lookups, but not preceded only by digits and
2880 dots). */
2881
2882 for (t = ss; isdigit(*t) || *t == '.'; t++);
2883 if (*t == 0 || (*t == '/' && t != ss))
2884   {
2885   *error = US"malformed IPv4 address or address mask";
2886   return ERROR;
2887   }
2888
2889 /* See if there is a semicolon in the pattern */
2890
2891 semicolon = Ustrchr(ss, ';');
2892
2893 /* If we are doing an IP address only match, then all lookups must be IP
2894 address lookups, even if there is no "net-". */
2895
2896 if (isiponly)
2897   {
2898   iplookup = semicolon != NULL;
2899   }
2900
2901 /* Otherwise, if the item is of the form net[n]-lookup;<file|query> then it is
2902 a lookup on a masked IP network, in textual form. We obey this code even if we
2903 have already set iplookup, so as to skip over the "net-" prefix and to set the
2904 mask length. The net- stuff really only applies to single-key lookups where the
2905 key is implicit. For query-style lookups the key is specified in the query.
2906 From release 4.30, the use of net- for query style is no longer needed, but we
2907 retain it for backward compatibility. */
2908
2909 if (Ustrncmp(ss, "net", 3) == 0 && semicolon != NULL)
2910   {
2911   mlen = 0;
2912   for (t = ss + 3; isdigit(*t); t++) mlen = mlen * 10 + *t - '0';
2913   if (mlen == 0 && t == ss+3) mlen = -1;  /* No mask supplied */
2914   iplookup = (*t++ == '-');
2915   }
2916 else t = ss;
2917
2918 /* Do the IP address lookup if that is indeed what we have */
2919
2920 if (iplookup)
2921   {
2922   int insize;
2923   int search_type;
2924   int incoming[4];
2925   void *handle;
2926   uschar *filename, *key, *result;
2927   uschar buffer[64];
2928
2929   /* Find the search type */
2930
2931   search_type = search_findtype(t, semicolon - t);
2932
2933   if (search_type < 0) log_write(0, LOG_MAIN|LOG_PANIC_DIE, "%s",
2934     search_error_message);
2935
2936   /* Adjust parameters for the type of lookup. For a query-style lookup, there
2937   is no file name, and the "key" is just the query. For query-style with a file
2938   name, we have to fish the file off the start of the query. For a single-key
2939   lookup, the key is the current IP address, masked appropriately, and
2940   reconverted to text form, with the mask appended. For IPv6 addresses, specify
2941   dot separators instead of colons, except when the lookup type is "iplsearch".
2942   */
2943
2944   if (mac_islookup(search_type, lookup_absfilequery))
2945     {
2946     filename = semicolon + 1;
2947     key = filename;
2948     while (*key != 0 && !isspace(*key)) key++;
2949     filename = string_copyn(filename, key - filename);
2950     while (isspace(*key)) key++;
2951     }
2952   else if (mac_islookup(search_type, lookup_querystyle))
2953     {
2954     filename = NULL;
2955     key = semicolon + 1;
2956     }
2957   else   /* Single-key style */
2958     {
2959     int sep = (Ustrcmp(lookup_list[search_type]->name, "iplsearch") == 0)?
2960       ':' : '.';
2961     insize = host_aton(cb->host_address, incoming);
2962     host_mask(insize, incoming, mlen);
2963     (void)host_nmtoa(insize, incoming, mlen, buffer, sep);
2964     key = buffer;
2965     filename = semicolon + 1;
2966     }
2967
2968   /* Now do the actual lookup; note that there is no search_close() because
2969   of the caching arrangements. */
2970
2971   if (!(handle = search_open(filename, search_type, 0, NULL, NULL)))
2972     log_write(0, LOG_MAIN|LOG_PANIC_DIE, "%s", search_error_message);
2973
2974   result = search_find(handle, filename, key, -1, NULL, 0, 0, NULL);
2975   if (valueptr != NULL) *valueptr = result;
2976   return (result != NULL)? OK : search_find_defer? DEFER: FAIL;
2977   }
2978
2979 /* The pattern is not an IP address or network reference of any kind. That is,
2980 it is a host name pattern. If this is an IP only match, there's an error in the
2981 host list. */
2982
2983 if (isiponly)
2984   {
2985   *error = US"cannot match host name in match_ip list";
2986   return ERROR;
2987   }
2988
2989 /* Check the characters of the pattern to see if they comprise only letters,
2990 digits, full stops, and hyphens (the constituents of domain names). Allow
2991 underscores, as they are all too commonly found. Sigh. Also, if
2992 allow_utf8_domains is set, allow top-bit characters. */
2993
2994 for (t = ss; *t != 0; t++)
2995   if (!isalnum(*t) && *t != '.' && *t != '-' && *t != '_' &&
2996       (!allow_utf8_domains || *t < 128)) break;
2997
2998 /* If the pattern is a complete domain name, with no fancy characters, look up
2999 its IP address and match against that. Note that a multi-homed host will add
3000 items to the chain. */
3001
3002 if (*t == 0)
3003   {
3004   int rc;
3005   host_item h;
3006   h.next = NULL;
3007   h.name = ss;
3008   h.address = NULL;
3009   h.mx = MX_NONE;
3010
3011   /* Using byname rather than bydns here means we cannot determine dnssec
3012   status.  On the other hand it is unclear how that could be either
3013   propagated up or enforced. */
3014
3015   rc = host_find_byname(&h, NULL, HOST_FIND_QUALIFY_SINGLE, NULL, FALSE);
3016   if (rc == HOST_FOUND || rc == HOST_FOUND_LOCAL)
3017     {
3018     host_item *hh;
3019     for (hh = &h; hh != NULL; hh = hh->next)
3020       {
3021       if (host_is_in_net(hh->address, cb->host_address, 0)) return OK;
3022       }
3023     return FAIL;
3024     }
3025   if (rc == HOST_FIND_AGAIN) return DEFER;
3026   *error = string_sprintf("failed to find IP address for %s", ss);
3027   return ERROR;
3028   }
3029
3030 /* Almost all subsequent comparisons require the host name, and can be done
3031 using the general string matching function. When this function is called for
3032 outgoing hosts, the name is always given explicitly. If it is NULL, it means we
3033 must use sender_host_name and its aliases, looking them up if necessary. */
3034
3035 if (cb->host_name != NULL)   /* Explicit host name given */
3036   return match_check_string(cb->host_name, ss, -1, TRUE, TRUE, TRUE,
3037     valueptr);
3038
3039 /* Host name not given; in principle we need the sender host name and its
3040 aliases. However, for query-style lookups, we do not need the name if the
3041 query does not contain $sender_host_name. From release 4.23, a reference to
3042 $sender_host_name causes it to be looked up, so we don't need to do the lookup
3043 on spec. */
3044
3045 if ((semicolon = Ustrchr(ss, ';')) != NULL)
3046   {
3047   const uschar *affix;
3048   int partial, affixlen, starflags, id;
3049
3050   *semicolon = 0;
3051   id = search_findtype_partial(ss, &partial, &affix, &affixlen, &starflags);
3052   *semicolon=';';
3053
3054   if (id < 0)                           /* Unknown lookup type */
3055     {
3056     log_write(0, LOG_MAIN|LOG_PANIC, "%s in host list item \"%s\"",
3057       search_error_message, ss);
3058     return DEFER;
3059     }
3060   isquery = mac_islookup(id, lookup_querystyle|lookup_absfilequery);
3061   }
3062
3063 if (isquery)
3064   {
3065   switch(match_check_string(US"", ss, -1, TRUE, TRUE, TRUE, valueptr))
3066     {
3067     case OK:    return OK;
3068     case DEFER: return DEFER;
3069     default:    return FAIL;
3070     }
3071   }
3072
3073 /* Not a query-style lookup; must ensure the host name is present, and then we
3074 do a check on the name and all its aliases. */
3075
3076 if (sender_host_name == NULL)
3077   {
3078   HDEBUG(D_host_lookup)
3079     debug_printf("sender host name required, to match against %s\n", ss);
3080   if (host_lookup_failed || host_name_lookup() != OK)
3081     {
3082     *error = string_sprintf("failed to find host name for %s",
3083       sender_host_address);;
3084     return ERROR;
3085     }
3086   host_build_sender_fullhost();
3087   }
3088
3089 /* Match on the sender host name, using the general matching function */
3090
3091 switch(match_check_string(sender_host_name, ss, -1, TRUE, TRUE, TRUE,
3092        valueptr))
3093   {
3094   case OK:    return OK;
3095   case DEFER: return DEFER;
3096   }
3097
3098 /* If there are aliases, try matching on them. */
3099
3100 aliases = sender_host_aliases;
3101 while (*aliases != NULL)
3102   {
3103   switch(match_check_string(*aliases++, ss, -1, TRUE, TRUE, TRUE, valueptr))
3104     {
3105     case OK:    return OK;
3106     case DEFER: return DEFER;
3107     }
3108   }
3109 return FAIL;
3110 }
3111
3112
3113
3114
3115 /*************************************************
3116 *    Check a specific host matches a host list   *
3117 *************************************************/
3118
3119 /* This function is passed a host list containing items in a number of
3120 different formats and the identity of a host. Its job is to determine whether
3121 the given host is in the set of hosts defined by the list. The host name is
3122 passed as a pointer so that it can be looked up if needed and not already
3123 known. This is commonly the case when called from verify_check_host() to check
3124 an incoming connection. When called from elsewhere the host name should usually
3125 be set.
3126
3127 This function is now just a front end to match_check_list(), which runs common
3128 code for scanning a list. We pass it the check_host() function to perform a
3129 single test.
3130
3131 Arguments:
3132   listptr              pointer to the host list
3133   cache_bits           pointer to cache for named lists, or NULL
3134   host_name            the host name or NULL, implying use sender_host_name and
3135                          sender_host_aliases, looking them up if required
3136   host_address         the IP address
3137   valueptr             if not NULL, data from a lookup is passed back here
3138
3139 Returns:    OK    if the host is in the defined set
3140             FAIL  if the host is not in the defined set,
3141             DEFER if a data lookup deferred (not a host lookup)
3142
3143 If the host name was needed in order to make a comparison, and could not be
3144 determined from the IP address, the result is FAIL unless the item
3145 "+allow_unknown" was met earlier in the list, in which case OK is returned. */
3146
3147 int
3148 verify_check_this_host(const uschar **listptr, unsigned int *cache_bits,
3149   const uschar *host_name, const uschar *host_address, const uschar **valueptr)
3150 {
3151 int rc;
3152 unsigned int *local_cache_bits = cache_bits;
3153 const uschar *save_host_address = deliver_host_address;
3154 check_host_block cb = { .host_name = host_name, .host_address = host_address };
3155
3156 if (valueptr) *valueptr = NULL;
3157
3158 /* If the host address starts off ::ffff: it is an IPv6 address in
3159 IPv4-compatible mode. Find the IPv4 part for checking against IPv4
3160 addresses. */
3161
3162 cb.host_ipv4 = Ustrncmp(host_address, "::ffff:", 7) == 0
3163   ? host_address + 7 : host_address;
3164
3165 /* During the running of the check, put the IP address into $host_address. In
3166 the case of calls from the smtp transport, it will already be there. However,
3167 in other calls (e.g. when testing ignore_target_hosts), it won't. Just to be on
3168 the safe side, any existing setting is preserved, though as I write this
3169 (November 2004) I can't see any cases where it is actually needed. */
3170
3171 deliver_host_address = host_address;
3172 rc = match_check_list(
3173        listptr,                                /* the list */
3174        0,                                      /* separator character */
3175        &hostlist_anchor,                       /* anchor pointer */
3176        &local_cache_bits,                      /* cache pointer */
3177        check_host,                             /* function for testing */
3178        &cb,                                    /* argument for function */
3179        MCL_HOST,                               /* type of check */
3180        (host_address == sender_host_address)?
3181          US"host" : host_address,              /* text for debugging */
3182        valueptr);                              /* where to pass back data */
3183 deliver_host_address = save_host_address;
3184 return rc;
3185 }
3186
3187
3188
3189
3190 /*************************************************
3191 *      Check the given host item matches a list  *
3192 *************************************************/
3193 int
3194 verify_check_given_host(uschar **listptr, host_item *host)
3195 {
3196 return verify_check_this_host(CUSS listptr, NULL, host->name, host->address, NULL);
3197 }
3198
3199 /*************************************************
3200 *      Check the remote host matches a list      *
3201 *************************************************/
3202
3203 /* This is a front end to verify_check_this_host(), created because checking
3204 the remote host is a common occurrence. With luck, a good compiler will spot
3205 the tail recursion and optimize it. If there's no host address, this is
3206 command-line SMTP input - check against an empty string for the address.
3207
3208 Arguments:
3209   listptr              pointer to the host list
3210
3211 Returns:               the yield of verify_check_this_host(),
3212                        i.e. OK, FAIL, or DEFER
3213 */
3214
3215 int
3216 verify_check_host(uschar **listptr)
3217 {
3218 return verify_check_this_host(CUSS listptr, sender_host_cache, NULL,
3219   (sender_host_address == NULL)? US"" : sender_host_address, NULL);
3220 }
3221
3222
3223
3224
3225
3226 /*************************************************
3227 *              Invert an IP address              *
3228 *************************************************/
3229
3230 /* Originally just used for DNS xBL lists, now also used for the
3231 reverse_ip expansion operator.
3232
3233 Arguments:
3234   buffer         where to put the answer
3235   address        the address to invert
3236 */
3237
3238 void
3239 invert_address(uschar *buffer, uschar *address)
3240 {
3241 int bin[4];
3242 uschar *bptr = buffer;
3243
3244 /* If this is an IPv4 address mapped into IPv6 format, adjust the pointer
3245 to the IPv4 part only. */
3246
3247 if (Ustrncmp(address, "::ffff:", 7) == 0) address += 7;
3248
3249 /* Handle IPv4 address: when HAVE_IPV6 is false, the result of host_aton() is
3250 always 1. */
3251
3252 if (host_aton(address, bin) == 1)
3253   {
3254   int i;
3255   int x = bin[0];
3256   for (i = 0; i < 4; i++)
3257     {
3258     sprintf(CS bptr, "%d.", x & 255);
3259     while (*bptr) bptr++;
3260     x >>= 8;
3261     }
3262   }
3263
3264 /* Handle IPv6 address. Actually, as far as I know, there are no IPv6 addresses
3265 in any DNS black lists, and the format in which they will be looked up is
3266 unknown. This is just a guess. */
3267
3268 #if HAVE_IPV6
3269 else
3270   {
3271   int i, j;
3272   for (j = 3; j >= 0; j--)
3273     {
3274     int x = bin[j];
3275     for (i = 0; i < 8; i++)
3276       {
3277       sprintf(CS bptr, "%x.", x & 15);
3278       while (*bptr) bptr++;
3279       x >>= 4;
3280       }
3281     }
3282   }
3283 #endif
3284
3285 /* Remove trailing period -- this is needed so that both arbitrary
3286 dnsbl keydomains and inverted addresses may be combined with the
3287 same format string, "%s.%s" */
3288
3289 *(--bptr) = 0;
3290 }
3291
3292
3293
3294 /*************************************************
3295 *          Perform a single dnsbl lookup         *
3296 *************************************************/
3297
3298 /* This function is called from verify_check_dnsbl() below. It is also called
3299 recursively from within itself when domain and domain_txt are different
3300 pointers, in order to get the TXT record from the alternate domain.
3301
3302 Arguments:
3303   domain         the outer dnsbl domain
3304   domain_txt     alternate domain to lookup TXT record on success; when the
3305                    same domain is to be used, domain_txt == domain (that is,
3306                    the pointers must be identical, not just the text)
3307   keydomain      the current keydomain (for debug message)
3308   prepend        subdomain to lookup (like keydomain, but
3309                    reversed if IP address)
3310   iplist         the list of matching IP addresses, or NULL for "any"
3311   bitmask        true if bitmask matching is wanted
3312   match_type     condition for 'succeed' result
3313                    0 => Any RR in iplist     (=)
3314                    1 => No RR in iplist      (!=)
3315                    2 => All RRs in iplist    (==)
3316                    3 => Some RRs not in iplist (!==)
3317                    the two bits are defined as MT_NOT and MT_ALL
3318   defer_return   what to return for a defer
3319
3320 Returns:         OK if lookup succeeded
3321                  FAIL if not
3322 */
3323
3324 static int
3325 one_check_dnsbl(uschar *domain, uschar *domain_txt, uschar *keydomain,
3326   uschar *prepend, uschar *iplist, BOOL bitmask, int match_type,
3327   int defer_return)
3328 {
3329 dns_answer dnsa;
3330 dns_scan dnss;
3331 tree_node *t;
3332 dnsbl_cache_block *cb;
3333 int old_pool = store_pool;
3334 uschar query[256];         /* DNS domain max length */
3335
3336 /* Construct the specific query domainname */
3337
3338 if (!string_format(query, sizeof(query), "%s.%s", prepend, domain))
3339   {
3340   log_write(0, LOG_MAIN|LOG_PANIC, "dnslist query is too long "
3341     "(ignored): %s...", query);
3342   return FAIL;
3343   }
3344
3345 /* Look for this query in the cache. */
3346
3347 if (  (t = tree_search(dnsbl_cache, query))
3348    && (cb = t->data.ptr)->expiry > time(NULL)
3349    )
3350
3351 /* Previous lookup was cached */
3352
3353   {
3354   HDEBUG(D_dnsbl) debug_printf("using result of previous DNS lookup\n");
3355   }
3356
3357 /* If not cached from a previous lookup, we must do a DNS lookup, and
3358 cache the result in permanent memory. */
3359
3360 else
3361   {
3362   uint ttl = 3600;
3363
3364   store_pool = POOL_PERM;
3365
3366   if (t)
3367     {
3368     HDEBUG(D_dnsbl) debug_printf("cached data found but past valid time; ");
3369     }
3370
3371   else
3372     {   /* Set up a tree entry to cache the lookup */
3373     t = store_get(sizeof(tree_node) + Ustrlen(query));
3374     Ustrcpy(t->name, query);
3375     t->data.ptr = cb = store_get(sizeof(dnsbl_cache_block));
3376     (void)tree_insertnode(&dnsbl_cache, t);
3377     }
3378
3379   /* Do the DNS lookup . */
3380
3381   HDEBUG(D_dnsbl) debug_printf("new DNS lookup for %s\n", query);
3382   cb->rc = dns_basic_lookup(&dnsa, query, T_A);
3383   cb->text_set = FALSE;
3384   cb->text = NULL;
3385   cb->rhs = NULL;
3386
3387   /* If the lookup succeeded, cache the RHS address. The code allows for
3388   more than one address - this was for complete generality and the possible
3389   use of A6 records. However, A6 records have been reduced to experimental
3390   status (August 2001) and may die out. So they may never get used at all,
3391   let alone in dnsbl records. However, leave the code here, just in case.
3392
3393   Quite apart from one A6 RR generating multiple addresses, there are DNS
3394   lists that return more than one A record, so we must handle multiple
3395   addresses generated in that way as well.
3396
3397   Mark the cache entry with the "now" plus the minimum of the address TTLs,
3398   or some suitably far-future time if none were found. */
3399
3400   if (cb->rc == DNS_SUCCEED)
3401     {
3402     dns_record *rr;
3403     dns_address **addrp = &(cb->rhs);
3404     for (rr = dns_next_rr(&dnsa, &dnss, RESET_ANSWERS);
3405          rr;
3406          rr = dns_next_rr(&dnsa, &dnss, RESET_NEXT))
3407       {
3408       if (rr->type == T_A)
3409         {
3410         dns_address *da = dns_address_from_rr(&dnsa, rr);
3411         if (da)
3412           {
3413           *addrp = da;
3414           while (da->next != NULL) da = da->next;
3415           addrp = &(da->next);
3416           if (ttl > rr->ttl) ttl = rr->ttl;
3417           }
3418         }
3419       }
3420
3421     /* If we didn't find any A records, change the return code. This can
3422     happen when there is a CNAME record but there are no A records for what
3423     it points to. */
3424
3425     if (cb->rhs == NULL) cb->rc = DNS_NODATA;
3426     }
3427
3428   cb->expiry = time(NULL)+ttl;
3429   store_pool = old_pool;
3430   }
3431
3432 /* We now have the result of the DNS lookup, either newly done, or cached
3433 from a previous call. If the lookup succeeded, check against the address
3434 list if there is one. This may be a positive equality list (introduced by
3435 "="), a negative equality list (introduced by "!="), a positive bitmask
3436 list (introduced by "&"), or a negative bitmask list (introduced by "!&").*/
3437
3438 if (cb->rc == DNS_SUCCEED)
3439   {
3440   dns_address *da = NULL;
3441   uschar *addlist = cb->rhs->address;
3442
3443   /* For A and AAAA records, there may be multiple addresses from multiple
3444   records. For A6 records (currently not expected to be used) there may be
3445   multiple addresses from a single record. */
3446
3447   for (da = cb->rhs->next; da != NULL; da = da->next)
3448     addlist = string_sprintf("%s, %s", addlist, da->address);
3449
3450   HDEBUG(D_dnsbl) debug_printf("DNS lookup for %s succeeded (yielding %s)\n",
3451     query, addlist);
3452
3453   /* Address list check; this can be either for equality, or via a bitmask.
3454   In the latter case, all the bits must match. */
3455
3456   if (iplist != NULL)
3457     {
3458     for (da = cb->rhs; da != NULL; da = da->next)
3459       {
3460       int ipsep = ',';
3461       uschar ip[46];
3462       const uschar *ptr = iplist;
3463       uschar *res;
3464
3465       /* Handle exact matching */
3466
3467       if (!bitmask)
3468         {
3469         while ((res = string_nextinlist(&ptr, &ipsep, ip, sizeof(ip))) != NULL)
3470           {
3471           if (Ustrcmp(CS da->address, ip) == 0) break;
3472           }
3473         }
3474
3475       /* Handle bitmask matching */
3476
3477       else
3478         {
3479         int address[4];
3480         int mask = 0;
3481
3482         /* At present, all known DNS blocking lists use A records, with
3483         IPv4 addresses on the RHS encoding the information they return. I
3484         wonder if this will linger on as the last vestige of IPv4 when IPv6
3485         is ubiquitous? Anyway, for now we use paranoia code to completely
3486         ignore IPv6 addresses. The default mask is 0, which always matches.
3487         We change this only for IPv4 addresses in the list. */
3488
3489         if (host_aton(da->address, address) == 1) mask = address[0];
3490
3491         /* Scan the returned addresses, skipping any that are IPv6 */
3492
3493         while ((res = string_nextinlist(&ptr, &ipsep, ip, sizeof(ip))) != NULL)
3494           {
3495           if (host_aton(ip, address) != 1) continue;
3496           if ((address[0] & mask) == address[0]) break;
3497           }
3498         }
3499
3500       /* If either
3501
3502          (a) An IP address in an any ('=') list matched, or
3503          (b) No IP address in an all ('==') list matched
3504
3505       then we're done searching. */
3506
3507       if (((match_type & MT_ALL) != 0) == (res == NULL)) break;
3508       }
3509
3510     /* If da == NULL, either
3511
3512        (a) No IP address in an any ('=') list matched, or
3513        (b) An IP address in an all ('==') list didn't match
3514
3515     so behave as if the DNSBL lookup had not succeeded, i.e. the host is not on
3516     the list. */
3517
3518     if ((match_type == MT_NOT || match_type == MT_ALL) != (da == NULL))
3519       {
3520       HDEBUG(D_dnsbl)
3521         {
3522         uschar *res = NULL;
3523         switch(match_type)
3524           {
3525           case 0:
3526           res = US"was no match";
3527           break;
3528           case MT_NOT:
3529           res = US"was an exclude match";
3530           break;
3531           case MT_ALL:
3532           res = US"was an IP address that did not match";
3533           break;
3534           case MT_NOT|MT_ALL:
3535           res = US"were no IP addresses that did not match";
3536           break;
3537           }
3538         debug_printf("=> but we are not accepting this block class because\n");
3539         debug_printf("=> there %s for %s%c%s\n",
3540           res,
3541           ((match_type & MT_ALL) == 0)? "" : "=",
3542           bitmask? '&' : '=', iplist);
3543         }
3544       return FAIL;
3545       }
3546     }
3547
3548   /* Either there was no IP list, or the record matched, implying that the
3549   domain is on the list. We now want to find a corresponding TXT record. If an
3550   alternate domain is specified for the TXT record, call this function
3551   recursively to look that up; this has the side effect of re-checking that
3552   there is indeed an A record at the alternate domain. */
3553
3554   if (domain_txt != domain)
3555     return one_check_dnsbl(domain_txt, domain_txt, keydomain, prepend, NULL,
3556       FALSE, match_type, defer_return);
3557
3558   /* If there is no alternate domain, look up a TXT record in the main domain
3559   if it has not previously been cached. */
3560
3561   if (!cb->text_set)
3562     {
3563     cb->text_set = TRUE;
3564     if (dns_basic_lookup(&dnsa, query, T_TXT) == DNS_SUCCEED)
3565       {
3566       dns_record *rr;
3567       for (rr = dns_next_rr(&dnsa, &dnss, RESET_ANSWERS);
3568            rr != NULL;
3569            rr = dns_next_rr(&dnsa, &dnss, RESET_NEXT))
3570         if (rr->type == T_TXT) break;
3571       if (rr != NULL)
3572         {
3573         int len = (rr->data)[0];
3574         if (len > 511) len = 127;
3575         store_pool = POOL_PERM;
3576         cb->text = string_sprintf("%.*s", len, (const uschar *)(rr->data+1));
3577         store_pool = old_pool;
3578         }
3579       }
3580     }
3581
3582   dnslist_value = addlist;
3583   dnslist_text = cb->text;
3584   return OK;
3585   }
3586
3587 /* There was a problem with the DNS lookup */
3588
3589 if (cb->rc != DNS_NOMATCH && cb->rc != DNS_NODATA)
3590   {
3591   log_write(L_dnslist_defer, LOG_MAIN,
3592     "DNS list lookup defer (probably timeout) for %s: %s", query,
3593     (defer_return == OK)?   US"assumed in list" :
3594     (defer_return == FAIL)? US"assumed not in list" :
3595                             US"returned DEFER");
3596   return defer_return;
3597   }
3598
3599 /* No entry was found in the DNS; continue for next domain */
3600
3601 HDEBUG(D_dnsbl)
3602   {
3603   debug_printf("DNS lookup for %s failed\n", query);
3604   debug_printf("=> that means %s is not listed at %s\n",
3605      keydomain, domain);
3606   }
3607
3608 return FAIL;
3609 }
3610
3611
3612
3613
3614 /*************************************************
3615 *        Check host against DNS black lists      *
3616 *************************************************/
3617
3618 /* This function runs checks against a list of DNS black lists, until one
3619 matches. Each item on the list can be of the form
3620
3621   domain=ip-address/key
3622
3623 The domain is the right-most domain that is used for the query, for example,
3624 blackholes.mail-abuse.org. If the IP address is present, there is a match only
3625 if the DNS lookup returns a matching IP address. Several addresses may be
3626 given, comma-separated, for example: x.y.z=127.0.0.1,127.0.0.2.
3627
3628 If no key is given, what is looked up in the domain is the inverted IP address
3629 of the current client host. If a key is given, it is used to construct the
3630 domain for the lookup. For example:
3631
3632   dsn.rfc-ignorant.org/$sender_address_domain
3633
3634 After finding a match in the DNS, the domain is placed in $dnslist_domain, and
3635 then we check for a TXT record for an error message, and if found, save its
3636 value in $dnslist_text. We also cache everything in a tree, to optimize
3637 multiple lookups.
3638
3639 The TXT record is normally looked up in the same domain as the A record, but
3640 when many lists are combined in a single DNS domain, this will not be a very
3641 specific message. It is possible to specify a different domain for looking up
3642 TXT records; this is given before the main domain, comma-separated. For
3643 example:
3644
3645   dnslists = http.dnsbl.sorbs.net,dnsbl.sorbs.net=127.0.0.2 : \
3646              socks.dnsbl.sorbs.net,dnsbl.sorbs.net=127.0.0.3
3647
3648 The caching ensures that only one lookup in dnsbl.sorbs.net is done.
3649
3650 Note: an address for testing RBL is 192.203.178.39
3651 Note: an address for testing DUL is 192.203.178.4
3652 Note: a domain for testing RFCI is example.tld.dsn.rfc-ignorant.org
3653
3654 Arguments:
3655   where        the acl type
3656   listptr      the domain/address/data list
3657   log_msgptr   log message on error
3658
3659 Returns:    OK      successful lookup (i.e. the address is on the list), or
3660                       lookup deferred after +include_unknown
3661             FAIL    name not found, or no data found for the given type, or
3662                       lookup deferred after +exclude_unknown (default)
3663             DEFER   lookup failure, if +defer_unknown was set
3664 */
3665
3666 int
3667 verify_check_dnsbl(int where, const uschar ** listptr, uschar ** log_msgptr)
3668 {
3669 int sep = 0;
3670 int defer_return = FAIL;
3671 const uschar *list = *listptr;
3672 uschar *domain;
3673 uschar *s;
3674 uschar buffer[1024];
3675 uschar revadd[128];        /* Long enough for IPv6 address */
3676
3677 /* Indicate that the inverted IP address is not yet set up */
3678
3679 revadd[0] = 0;
3680
3681 /* In case this is the first time the DNS resolver is being used. */
3682
3683 dns_init(FALSE, FALSE, FALSE);  /*XXX dnssec? */
3684
3685 /* Loop through all the domains supplied, until something matches */
3686
3687 while ((domain = string_nextinlist(&list, &sep, buffer, sizeof(buffer))) != NULL)
3688   {
3689   int rc;
3690   BOOL bitmask = FALSE;
3691   int match_type = 0;
3692   uschar *domain_txt;
3693   uschar *comma;
3694   uschar *iplist;
3695   uschar *key;
3696
3697   HDEBUG(D_dnsbl) debug_printf("DNS list check: %s\n", domain);
3698
3699   /* Deal with special values that change the behaviour on defer */
3700
3701   if (domain[0] == '+')
3702     {
3703     if      (strcmpic(domain, US"+include_unknown") == 0) defer_return = OK;
3704     else if (strcmpic(domain, US"+exclude_unknown") == 0) defer_return = FAIL;
3705     else if (strcmpic(domain, US"+defer_unknown") == 0)   defer_return = DEFER;
3706     else
3707       log_write(0, LOG_MAIN|LOG_PANIC, "unknown item in dnslist (ignored): %s",
3708         domain);
3709     continue;
3710     }
3711
3712   /* See if there's explicit data to be looked up */
3713
3714   if ((key = Ustrchr(domain, '/'))) *key++ = 0;
3715
3716   /* See if there's a list of addresses supplied after the domain name. This is
3717   introduced by an = or a & character; if preceded by = we require all matches
3718   and if preceded by ! we invert the result. */
3719
3720   if (!(iplist = Ustrchr(domain, '=')))
3721     {
3722     bitmask = TRUE;
3723     iplist = Ustrchr(domain, '&');
3724     }
3725
3726   if (iplist)                                  /* Found either = or & */
3727     {
3728     if (iplist > domain && iplist[-1] == '!')  /* Handle preceding ! */
3729       {
3730       match_type |= MT_NOT;
3731       iplist[-1] = 0;
3732       }
3733
3734     *iplist++ = 0;                             /* Terminate domain, move on */
3735
3736     /* If we found = (bitmask == FALSE), check for == or =& */
3737
3738     if (!bitmask && (*iplist == '=' || *iplist == '&'))
3739       {
3740       bitmask = *iplist++ == '&';
3741       match_type |= MT_ALL;
3742       }
3743     }
3744
3745
3746   /* If there is a comma in the domain, it indicates that a second domain for
3747   looking up TXT records is provided, before the main domain. Otherwise we must
3748   set domain_txt == domain. */
3749
3750   domain_txt = domain;
3751   comma = Ustrchr(domain, ',');
3752   if (comma != NULL)
3753     {
3754     *comma++ = 0;
3755     domain = comma;
3756     }
3757
3758   /* Check that what we have left is a sensible domain name. There is no reason
3759   why these domains should in fact use the same syntax as hosts and email
3760   domains, but in practice they seem to. However, there is little point in
3761   actually causing an error here, because that would no doubt hold up incoming
3762   mail. Instead, I'll just log it. */
3763
3764   for (s = domain; *s != 0; s++)
3765     {
3766     if (!isalnum(*s) && *s != '-' && *s != '.' && *s != '_')
3767       {
3768       log_write(0, LOG_MAIN, "dnslists domain \"%s\" contains "
3769         "strange characters - is this right?", domain);
3770       break;
3771       }
3772     }
3773
3774   /* Check the alternate domain if present */
3775
3776   if (domain_txt != domain) for (s = domain_txt; *s != 0; s++)
3777     {
3778     if (!isalnum(*s) && *s != '-' && *s != '.' && *s != '_')
3779       {
3780       log_write(0, LOG_MAIN, "dnslists domain \"%s\" contains "
3781         "strange characters - is this right?", domain_txt);
3782       break;
3783       }
3784     }
3785
3786   /* If there is no key string, construct the query by adding the domain name
3787   onto the inverted host address, and perform a single DNS lookup. */
3788
3789   if (key == NULL)
3790     {
3791     if (where == ACL_WHERE_NOTSMTP_START || where == ACL_WHERE_NOTSMTP)
3792       {
3793       *log_msgptr = string_sprintf
3794         ("cannot test auto-keyed dnslists condition in %s ACL",
3795           acl_wherenames[where]);
3796       return ERROR;
3797       }
3798     if (sender_host_address == NULL) return FAIL;    /* can never match */
3799     if (revadd[0] == 0) invert_address(revadd, sender_host_address);
3800     rc = one_check_dnsbl(domain, domain_txt, sender_host_address, revadd,
3801       iplist, bitmask, match_type, defer_return);
3802     if (rc == OK)
3803       {
3804       dnslist_domain = string_copy(domain_txt);
3805       dnslist_matched = string_copy(sender_host_address);
3806       HDEBUG(D_dnsbl) debug_printf("=> that means %s is listed at %s\n",
3807         sender_host_address, dnslist_domain);
3808       }
3809     if (rc != FAIL) return rc;     /* OK or DEFER */
3810     }
3811
3812   /* If there is a key string, it can be a list of domains or IP addresses to
3813   be concatenated with the main domain. */
3814
3815   else
3816     {
3817     int keysep = 0;
3818     BOOL defer = FALSE;
3819     uschar *keydomain;
3820     uschar keybuffer[256];
3821     uschar keyrevadd[128];
3822
3823     while ((keydomain = string_nextinlist(CUSS &key, &keysep, keybuffer,
3824             sizeof(keybuffer))) != NULL)
3825       {
3826       uschar *prepend = keydomain;
3827
3828       if (string_is_ip_address(keydomain, NULL) != 0)
3829         {
3830         invert_address(keyrevadd, keydomain);
3831         prepend = keyrevadd;
3832         }
3833
3834       rc = one_check_dnsbl(domain, domain_txt, keydomain, prepend, iplist,
3835         bitmask, match_type, defer_return);
3836
3837       if (rc == OK)
3838         {
3839         dnslist_domain = string_copy(domain_txt);
3840         dnslist_matched = string_copy(keydomain);
3841         HDEBUG(D_dnsbl) debug_printf("=> that means %s is listed at %s\n",
3842           keydomain, dnslist_domain);
3843         return OK;
3844         }
3845
3846       /* If the lookup deferred, remember this fact. We keep trying the rest
3847       of the list to see if we get a useful result, and if we don't, we return
3848       DEFER at the end. */
3849
3850       if (rc == DEFER) defer = TRUE;
3851       }    /* continue with next keystring domain/address */
3852
3853     if (defer) return DEFER;
3854     }
3855   }        /* continue with next dnsdb outer domain */
3856
3857 return FAIL;
3858 }
3859
3860 /* vi: aw ai sw=2
3861 */
3862 /* End of verify.c */