src/src/spool_in.c

   1 /*************************************************
   2 *     Exim - an Internet mail transport agent    *
   3 *************************************************/
   4
   5 /* Copyright (c) University of Cambridge 1995 - 2018 */
   6 /* See the file NOTICE for conditions of use and distribution. */
   7
   8 /* Functions for reading spool files. When compiling for a utility (eximon),
   9 not all are needed, and some functionality can be cut out. */
  10
  11
  12 #include "exim.h"
  13
  14
  15
  16 #ifndef COMPILE_UTILITY
  17 /*************************************************
  18 *           Open and lock data file              *
  19 *************************************************/
  20
  21 /* The data file is the one that is used for locking, because the header file
  22 can get replaced during delivery because of header rewriting. The file has
  23 to opened with write access so that we can get an exclusive lock, but in
  24 fact it won't be written to. Just in case there's a major disaster (e.g.
  25 overwriting some other file descriptor with the value of this one), open it
  26 with append.
  27
  28 As called by deliver_message() (at least) we are operating as root.
  29
  30 Argument: the id of the message
  31 Returns:  fd if file successfully opened and locked, else -1
  32
  33 Side effect: message_subdir is set for the (possibly split) spool directory
  34 */
  35
  36 int
  37 spool_open_datafile(uschar *id)
  38 {
  39 int i;
  40 struct stat statbuf;
  41 flock_t lock_data;
  42 int fd;
  43
  44 /* If split_spool_directory is set, first look for the file in the appropriate
  45 sub-directory of the input directory. If it is not found there, try the input
  46 directory itself, to pick up leftovers from before the splitting. If split_
  47 spool_directory is not set, first look in the main input directory. If it is
  48 not found there, try the split sub-directory, in case it is left over from a
  49 splitting state. */
  50
  51 for (i = 0; i < 2; i++)
  52   {
  53   uschar * fname;
  54   int save_errno;
  55
  56   message_subdir[0] = split_spool_directory == i ? '\0' : id[5];
  57   fname = spool_fname(US"input", message_subdir, id, US"-D");
  58   DEBUG(D_deliver) debug_printf("Trying spool file %s\n", fname);
  59
  60   if ((fd = Uopen(fname,
  61 #ifdef O_CLOEXEC
  62                       O_CLOEXEC |
  63 #endif
  64                       O_RDWR | O_APPEND, 0)) >= 0)
  65     break;
  66   save_errno = errno;
  67   if (errno == ENOENT)
  68     {
  69     if (i == 0) continue;
  70     if (!queue_running)
  71       log_write(0, LOG_MAIN, "Spool%s%s file %s-D not found",
  72         *queue_name ? US" Q=" : US"",
  73         *queue_name ? queue_name : US"",
  74         id);
  75     }
  76   else
  77     log_write(0, LOG_MAIN, "Spool error for %s: %s", fname, strerror(errno));
  78   errno = save_errno;
  79   return -1;
  80   }
  81
  82 /* File is open and message_subdir is set. Set the close-on-exec flag, and lock
  83 the file. We lock only the first line of the file (containing the message ID)
  84 because this apparently is needed for running Exim under Cygwin. If the entire
  85 file is locked in one process, a sub-process cannot access it, even when passed
  86 an open file descriptor (at least, I think that's the Cygwin story). On real
  87 Unix systems it doesn't make any difference as long as Exim is consistent in
  88 what it locks. */
  89
  90 #ifndef O_CLOEXEC
  91 (void)fcntl(fd, F_SETFD, fcntl(fd, F_GETFD) | FD_CLOEXEC);
  92 #endif
  93
  94 lock_data.l_type = F_WRLCK;
  95 lock_data.l_whence = SEEK_SET;
  96 lock_data.l_start = 0;
  97 lock_data.l_len = SPOOL_DATA_START_OFFSET;
  98
  99 if (fcntl(fd, F_SETLK, &lock_data) < 0)
 100   {
 101   log_write(L_skip_delivery,
 102             LOG_MAIN,
 103             "Spool file is locked (another process is handling this message)");
 104   (void)close(fd);
 105   errno = 0;
 106   return -1;
 107   }
 108
 109 /* Get the size of the data; don't include the leading filename line
 110 in the count, but add one for the newline before the data. */
 111
 112 if (fstat(fd, &statbuf) == 0)
 113   {
 114   message_body_size = statbuf.st_size - SPOOL_DATA_START_OFFSET;
 115   message_size = message_body_size + 1;
 116   }
 117
 118 return fd;
 119 }
 120 #endif  /* COMPILE_UTILITY */
 121
 122
 123
 124 /*************************************************
 125 *    Read non-recipients tree from spool file    *
 126 *************************************************/
 127
 128 /* The tree of non-recipients is written to the spool file in a form that
 129 makes it easy to read back into a tree. The format is as follows:
 130
 131    . Each node is preceded by two letter(Y/N) indicating whether it has left
 132      or right children. There's one space after the two flags, before the name.
 133
 134    . The left subtree (if any) then follows, then the right subtree (if any).
 135
 136 This function is entered with the next input line in the buffer. Note we must
 137 save the right flag before recursing with the same buffer.
 138
 139 Once the tree is read, we re-construct the balance fields by scanning the tree.
 140 I forgot to write them out originally, and the compatible fix is to do it this
 141 way. This initial local recursing function does the necessary.
 142
 143 Arguments:
 144   node      tree node
 145
 146 Returns:    maximum depth below the node, including the node itself
 147 */
 148
 149 static int
 150 count_below(tree_node *node)
 151 {
 152 int nleft, nright;
 153 if (node == NULL) return 0;
 154 nleft = count_below(node->left);
 155 nright = count_below(node->right);
 156 node->balance = (nleft > nright)? 1 : ((nright > nleft)? 2 : 0);
 157 return 1 + ((nleft > nright)? nleft : nright);
 158 }
 159
 160 /* This is the real function...
 161
 162 Arguments:
 163   connect      pointer to the root of the tree
 164   f            FILE to read data from
 165   buffer       contains next input line; further lines read into it
 166   buffer_size  size of the buffer
 167
 168 Returns:       FALSE on format error
 169 */
 170
 171 static BOOL
 172 read_nonrecipients_tree(tree_node **connect, FILE *f, uschar *buffer,
 173   int buffer_size)
 174 {
 175 tree_node *node;
 176 int n = Ustrlen(buffer);
 177 BOOL right = buffer[1] == 'Y';
 178
 179 if (n < 5) return FALSE;    /* malformed line */
 180 buffer[n-1] = 0;            /* Remove \n */
 181 node = store_get(sizeof(tree_node) + n - 3);
 182 *connect = node;
 183 Ustrcpy(node->name, buffer + 3);
 184 node->data.ptr = NULL;
 185
 186 if (buffer[0] == 'Y')
 187   {
 188   if (Ufgets(buffer, buffer_size, f) == NULL ||
 189     !read_nonrecipients_tree(&node->left, f, buffer, buffer_size))
 190       return FALSE;
 191   }
 192 else node->left = NULL;
 193
 194 if (right)
 195   {
 196   if (Ufgets(buffer, buffer_size, f) == NULL ||
 197     !read_nonrecipients_tree(&node->right, f, buffer, buffer_size))
 198       return FALSE;
 199   }
 200 else node->right = NULL;
 201
 202 (void) count_below(*connect);
 203 return TRUE;
 204 }
 205
 206
 207
 208
 209 /* Reset all the global variables to their default values. However, there is
 210 one exception. DO NOT change the default value of dont_deliver, because it may
 211 be forced by an external setting. */
 212
 213 void
 214 spool_clear_header_globals(void)
 215 {
 216 acl_var_c = acl_var_m = NULL;
 217 authenticated_id = NULL;
 218 authenticated_sender = NULL;
 219 allow_unqualified_recipient = FALSE;
 220 allow_unqualified_sender = FALSE;
 221 body_linecount = 0;
 222 body_zerocount = 0;
 223 deliver_firsttime = FALSE;
 224 deliver_freeze = FALSE;
 225 deliver_frozen_at = 0;
 226 deliver_manual_thaw = FALSE;
 227 /* dont_deliver must NOT be reset */
 228 header_list = header_last = NULL;
 229 host_lookup_deferred = FALSE;
 230 host_lookup_failed = FALSE;
 231 interface_address = NULL;
 232 interface_port = 0;
 233 local_error_message = FALSE;
 234 #ifdef HAVE_LOCAL_SCAN
 235 local_scan_data = NULL;
 236 #endif
 237 max_received_linelength = 0;
 238 message_linecount = 0;
 239 received_protocol = NULL;
 240 received_count = 0;
 241 recipients_list = NULL;
 242 sender_address = NULL;
 243 sender_fullhost = NULL;
 244 sender_helo_name = NULL;
 245 sender_host_address = NULL;
 246 sender_host_name = NULL;
 247 sender_host_port = 0;
 248 sender_host_authenticated = NULL;
 249 sender_ident = NULL;
 250 sender_local = FALSE;
 251 sender_set_untrusted = FALSE;
 252 smtp_active_hostname = primary_hostname;
 253 #ifndef COMPILE_UTILITY
 254 spool_file_wireformat = FALSE;
 255 #endif
 256 tree_nonrecipients = NULL;
 257
 258 #ifdef EXPERIMENTAL_BRIGHTMAIL
 259 bmi_run = 0;
 260 bmi_verdicts = NULL;
 261 #endif
 262
 263 #ifndef DISABLE_DKIM
 264 dkim_signers = NULL;
 265 dkim_disable_verify = FALSE;
 266 dkim_collect_input = FALSE;
 267 #endif
 268
 269 #ifdef SUPPORT_TLS
 270 tls_in.certificate_verified = FALSE;
 271 # ifdef SUPPORT_DANE
 272 tls_in.dane_verified = FALSE;
 273 # endif
 274 tls_in.cipher = NULL;
 275 # ifndef COMPILE_UTILITY        /* tls support fns not built in */
 276 tls_free_cert(&tls_in.ourcert);
 277 tls_free_cert(&tls_in.peercert);
 278 # endif
 279 tls_in.peerdn = NULL;
 280 tls_in.sni = NULL;
 281 tls_in.ocsp = OCSP_NOT_REQ;
 282 #endif
 283
 284 #ifdef WITH_CONTENT_SCAN
 285 spam_bar = NULL;
 286 spam_score = NULL;
 287 spam_score_int = NULL;
 288 #endif
 289
 290 #if defined(SUPPORT_I18N) && !defined(COMPILE_UTILITY)
 291 message_smtputf8 = FALSE;
 292 message_utf8_downconvert = 0;
 293 #endif
 294
 295 dsn_ret = 0;
 296 dsn_envid = NULL;
 297 }
 298
 299
 300 /*************************************************
 301 *             Read spool header file             *
 302 *************************************************/
 303
 304 /* This function reads a spool header file and places the data into the
 305 appropriate global variables. The header portion is always read, but header
 306 structures are built only if read_headers is set true. It isn't, for example,
 307 while generating -bp output.
 308
 309 It may be possible for blocks of nulls (binary zeroes) to get written on the
 310 end of a file if there is a system crash during writing. It was observed on an
 311 earlier version of Exim that omitted to fsync() the files - this is thought to
 312 have been the cause of that incident, but in any case, this code must be robust
 313 against such an event, and if such a file is encountered, it must be treated as
 314 malformed.
 315
 316 As called from deliver_message() (at least) we are running as root.
 317
 318 Arguments:
 319   name          name of the header file, including the -H
 320   read_headers  TRUE if in-store header structures are to be built
 321   subdir_set    TRUE is message_subdir is already set
 322
 323 Returns:        spool_read_OK        success
 324                 spool_read_notopen   open failed
 325                 spool_read_enverror  error in the envelope portion
 326                 spool_read_hdrerror  error in the header portion
 327 */
 328
 329 int
 330 spool_read_header(uschar *name, BOOL read_headers, BOOL subdir_set)
 331 {
 332 FILE *f = NULL;
 333 int n;
 334 int rcount = 0;
 335 long int uid, gid;
 336 BOOL inheader = FALSE;
 337 uschar *p;
 338
 339 /* Reset all the global variables to their default values. However, there is
 340 one exception. DO NOT change the default value of dont_deliver, because it may
 341 be forced by an external setting. */
 342
 343 spool_clear_header_globals();
 344
 345 /* Generate the full name and open the file. If message_subdir is already
 346 set, just look in the given directory. Otherwise, look in both the split
 347 and unsplit directories, as for the data file above. */
 348
 349 for (n = 0; n < 2; n++)
 350   {
 351   if (!subdir_set)
 352     message_subdir[0] = split_spool_directory == (n == 0) ? name[5] : 0;
 353
 354   if ((f = Ufopen(spool_fname(US"input", message_subdir, name, US""), "rb")))
 355     break;
 356   if (n != 0 || subdir_set || errno != ENOENT)
 357     return spool_read_notopen;
 358   }
 359
 360 errno = 0;
 361
 362 #ifndef COMPILE_UTILITY
 363 DEBUG(D_deliver) debug_printf("reading spool file %s\n", name);
 364 #endif  /* COMPILE_UTILITY */
 365
 366 /* The first line of a spool file contains the message id followed by -H (i.e.
 367 the file name), in order to make the file self-identifying. */
 368
 369 if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 370 if (Ustrlen(big_buffer) != MESSAGE_ID_LENGTH + 3 ||
 371     Ustrncmp(big_buffer, name, MESSAGE_ID_LENGTH + 2) != 0)
 372   goto SPOOL_FORMAT_ERROR;
 373
 374 /* The next three lines in the header file are in a fixed format. The first
 375 contains the login, uid, and gid of the user who caused the file to be written.
 376 There are known cases where a negative gid is used, so we allow for both
 377 negative uids and gids. The second contains the mail address of the message's
 378 sender, enclosed in <>. The third contains the time the message was received,
 379 and the number of warning messages for delivery delays that have been sent. */
 380
 381 if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 382
 383 p = big_buffer + Ustrlen(big_buffer);
 384 while (p > big_buffer && isspace(p[-1])) p--;
 385 *p = 0;
 386 if (!isdigit(p[-1])) goto SPOOL_FORMAT_ERROR;
 387 while (p > big_buffer && (isdigit(p[-1]) || '-' == p[-1])) p--;
 388 gid = Uatoi(p);
 389 if (p <= big_buffer || *(--p) != ' ') goto SPOOL_FORMAT_ERROR;
 390 *p = 0;
 391 if (!isdigit(p[-1])) goto SPOOL_FORMAT_ERROR;
 392 while (p > big_buffer && (isdigit(p[-1]) || '-' == p[-1])) p--;
 393 uid = Uatoi(p);
 394 if (p <= big_buffer || *(--p) != ' ') goto SPOOL_FORMAT_ERROR;
 395 *p = 0;
 396
 397 originator_login = string_copy(big_buffer);
 398 originator_uid = (uid_t)uid;
 399 originator_gid = (gid_t)gid;
 400
 401 /* envelope from */
 402 if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 403 n = Ustrlen(big_buffer);
 404 if (n < 3 || big_buffer[0] != '<' || big_buffer[n-2] != '>')
 405   goto SPOOL_FORMAT_ERROR;
 406
 407 sender_address = store_get(n-2);
 408 Ustrncpy(sender_address, big_buffer+1, n-3);
 409 sender_address[n-3] = 0;
 410
 411 /* time */
 412 if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 413 if (sscanf(CS big_buffer, TIME_T_FMT " %d", &received_time.tv_sec, &warning_count) != 2)
 414   goto SPOOL_FORMAT_ERROR;
 415 received_time.tv_usec = 0;
 416
 417 message_age = time(NULL) - received_time.tv_sec;
 418
 419 #ifndef COMPILE_UTILITY
 420 DEBUG(D_deliver) debug_printf("user=%s uid=%ld gid=%ld sender=%s\n",
 421   originator_login, (long int)originator_uid, (long int)originator_gid,
 422   sender_address);
 423 #endif  /* COMPILE_UTILITY */
 424
 425 /* Now there may be a number of optional lines, each starting with "-". If you
 426 add a new setting here, make sure you set the default above.
 427
 428 Because there are now quite a number of different possibilities, we use a
 429 switch on the first character to avoid too many failing tests. Thanks to Nico
 430 Erfurth for the patch that implemented this. I have made it even more efficient
 431 by not re-scanning the first two characters.
 432
 433 To allow new versions of Exim that add additional flags to interwork with older
 434 versions that do not understand them, just ignore any lines starting with "-"
 435 that we don't recognize. Otherwise it wouldn't be possible to back off a new
 436 version that left new-style flags written on the spool. */
 437
 438 p = big_buffer + 2;
 439 for (;;)
 440   {
 441   int len;
 442   if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 443   if (big_buffer[0] != '-') break;
 444   while (  (len = Ustrlen(big_buffer)) == big_buffer_size-1
 445         && big_buffer[len-1] != '\n'
 446         )
 447     {   /* buffer not big enough for line; certs make this possible */
 448     uschar * buf;
 449     if (big_buffer_size >= BIG_BUFFER_SIZE*4) goto SPOOL_READ_ERROR;
 450     buf = store_get_perm(big_buffer_size *= 2);
 451     memcpy(buf, big_buffer, --len);
 452     big_buffer = buf;
 453     if (Ufgets(big_buffer+len, big_buffer_size-len, f) == NULL)
 454       goto SPOOL_READ_ERROR;
 455     }
 456   big_buffer[len-1] = 0;
 457
 458   switch(big_buffer[1])
 459     {
 460     case 'a':
 461
 462     /* Nowadays we use "-aclc" and "-aclm" for the different types of ACL
 463     variable, because Exim allows any number of them, with arbitrary names.
 464     The line in the spool file is "-acl[cm] <name> <length>". The name excludes
 465     the c or m. */
 466
 467     if (Ustrncmp(p, "clc ", 4) == 0 ||
 468         Ustrncmp(p, "clm ", 4) == 0)
 469       {
 470       uschar *name, *endptr;
 471       int count;
 472       tree_node *node;
 473       endptr = Ustrchr(big_buffer + 6, ' ');
 474       if (endptr == NULL) goto SPOOL_FORMAT_ERROR;
 475       name = string_sprintf("%c%.*s", big_buffer[4],
 476         (int)(endptr - big_buffer - 6), big_buffer + 6);
 477       if (sscanf(CS endptr, " %d", &count) != 1) goto SPOOL_FORMAT_ERROR;
 478       node = acl_var_create(name);
 479       node->data.ptr = store_get(count + 1);
 480       if (fread(node->data.ptr, 1, count+1, f) < count) goto SPOOL_READ_ERROR;
 481       ((uschar*)node->data.ptr)[count] = 0;
 482       }
 483
 484     else if (Ustrcmp(p, "llow_unqualified_recipient") == 0)
 485       allow_unqualified_recipient = TRUE;
 486     else if (Ustrcmp(p, "llow_unqualified_sender") == 0)
 487       allow_unqualified_sender = TRUE;
 488
 489     else if (Ustrncmp(p, "uth_id", 6) == 0)
 490       authenticated_id = string_copy(big_buffer + 9);
 491     else if (Ustrncmp(p, "uth_sender", 10) == 0)
 492       authenticated_sender = string_copy(big_buffer + 13);
 493     else if (Ustrncmp(p, "ctive_hostname", 14) == 0)
 494       smtp_active_hostname = string_copy(big_buffer + 17);
 495
 496     /* For long-term backward compatibility, we recognize "-acl", which was
 497     used before the number of ACL variables changed from 10 to 20. This was
 498     before the subsequent change to an arbitrary number of named variables.
 499     This code is retained so that upgrades from very old versions can still
 500     handle old-format spool files. The value given after "-acl" is a number
 501     that is 0-9 for connection variables, and 10-19 for message variables. */
 502
 503     else if (Ustrncmp(p, "cl ", 3) == 0)
 504       {
 505       unsigned index, count;
 506       uschar name[20];   /* Need plenty of space for %u format */
 507       tree_node * node;
 508       if (  sscanf(CS big_buffer + 5, "%u %u", &index, &count) != 2
 509          || index >= 20
 510          || count > 16384       /* arbitrary limit on variable size */
 511          )
 512         goto SPOOL_FORMAT_ERROR;
 513       if (index < 10)
 514         (void) string_format(name, sizeof(name), "%c%u", 'c', index);
 515       else
 516         (void) string_format(name, sizeof(name), "%c%u", 'm', index - 10);
 517       node = acl_var_create(name);
 518       node->data.ptr = store_get(count + 1);
 519       /* We sanity-checked the count, so disable the Coverity error */
 520       /* coverity[tainted_data] */
 521       if (fread(node->data.ptr, 1, count+1, f) < count) goto SPOOL_READ_ERROR;
 522       (US node->data.ptr)[count] = '\0';
 523       }
 524     break;
 525
 526     case 'b':
 527     if (Ustrncmp(p, "ody_linecount", 13) == 0)
 528       body_linecount = Uatoi(big_buffer + 15);
 529     else if (Ustrncmp(p, "ody_zerocount", 13) == 0)
 530       body_zerocount = Uatoi(big_buffer + 15);
 531 #ifdef EXPERIMENTAL_BRIGHTMAIL
 532     else if (Ustrncmp(p, "mi_verdicts ", 12) == 0)
 533       bmi_verdicts = string_copy(big_buffer + 14);
 534 #endif
 535     break;
 536
 537     case 'd':
 538     if (Ustrcmp(p, "eliver_firsttime") == 0)
 539       deliver_firsttime = TRUE;
 540     /* Check if the dsn flags have been set in the header file */
 541     else if (Ustrncmp(p, "sn_ret", 6) == 0)
 542       dsn_ret= atoi(CS big_buffer + 8);
 543     else if (Ustrncmp(p, "sn_envid", 8) == 0)
 544       dsn_envid = string_copy(big_buffer + 11);
 545     break;
 546
 547     case 'f':
 548     if (Ustrncmp(p, "rozen", 5) == 0)
 549       {
 550       deliver_freeze = TRUE;
 551       if (sscanf(CS big_buffer+7, TIME_T_FMT, &deliver_frozen_at) != 1)
 552         goto SPOOL_READ_ERROR;
 553       }
 554     break;
 555
 556     case 'h':
 557     if (Ustrcmp(p, "ost_lookup_deferred") == 0)
 558       host_lookup_deferred = TRUE;
 559     else if (Ustrcmp(p, "ost_lookup_failed") == 0)
 560       host_lookup_failed = TRUE;
 561     else if (Ustrncmp(p, "ost_auth", 8) == 0)
 562       sender_host_authenticated = string_copy(big_buffer + 11);
 563     else if (Ustrncmp(p, "ost_name", 8) == 0)
 564       sender_host_name = string_copy(big_buffer + 11);
 565     else if (Ustrncmp(p, "elo_name", 8) == 0)
 566       sender_helo_name = string_copy(big_buffer + 11);
 567
 568     /* We now record the port number after the address, separated by a
 569     dot. For compatibility during upgrading, do nothing if there
 570     isn't a value (it gets left at zero). */
 571
 572     else if (Ustrncmp(p, "ost_address", 11) == 0)
 573       {
 574       sender_host_port = host_address_extract_port(big_buffer + 14);
 575       sender_host_address = string_copy(big_buffer + 14);
 576       }
 577     break;
 578
 579     case 'i':
 580     if (Ustrncmp(p, "nterface_address", 16) == 0)
 581       {
 582       interface_port = host_address_extract_port(big_buffer + 19);
 583       interface_address = string_copy(big_buffer + 19);
 584       }
 585     else if (Ustrncmp(p, "dent", 4) == 0)
 586       sender_ident = string_copy(big_buffer + 7);
 587     break;
 588
 589     case 'l':
 590     if (Ustrcmp(p, "ocal") == 0)
 591       sender_local = TRUE;
 592     else if (Ustrcmp(big_buffer, "-localerror") == 0)
 593       local_error_message = TRUE;
 594 #ifdef HAVE_LOCAL_SCAN
 595     else if (Ustrncmp(p, "ocal_scan ", 10) == 0)
 596       local_scan_data = string_copy(big_buffer + 12);
 597 #endif
 598     break;
 599
 600     case 'm':
 601     if (Ustrcmp(p, "anual_thaw") == 0) deliver_manual_thaw = TRUE;
 602     else if (Ustrncmp(p, "ax_received_linelength", 22) == 0)
 603       max_received_linelength = Uatoi(big_buffer + 24);
 604     break;
 605
 606     case 'N':
 607     if (*p == 0) dont_deliver = TRUE;   /* -N */
 608     break;
 609
 610     case 'r':
 611     if (Ustrncmp(p, "eceived_protocol", 16) == 0)
 612       received_protocol = string_copy(big_buffer + 19);
 613     else if (Ustrncmp(p, "eceived_time_usec", 17) == 0)
 614       {
 615       unsigned usec;
 616       if (sscanf(CS big_buffer + 21, "%u", &usec) == 1)
 617         received_time.tv_usec = usec;
 618       }
 619     break;
 620
 621     case 's':
 622     if (Ustrncmp(p, "ender_set_untrusted", 19) == 0)
 623       sender_set_untrusted = TRUE;
 624 #ifdef WITH_CONTENT_SCAN
 625     else if (Ustrncmp(p, "pam_bar ", 8) == 0)
 626       spam_bar = string_copy(big_buffer + 10);
 627     else if (Ustrncmp(p, "pam_score ", 10) == 0)
 628       spam_score = string_copy(big_buffer + 12);
 629     else if (Ustrncmp(p, "pam_score_int ", 14) == 0)
 630       spam_score_int = string_copy(big_buffer + 16);
 631 #endif
 632 #ifndef COMPILE_UTILITY
 633     else if (Ustrncmp(p, "pool_file_wireformat", 20) == 0)
 634       spool_file_wireformat = TRUE;
 635 #endif
 636 #if defined(SUPPORT_I18N) && !defined(COMPILE_UTILITY)
 637     else if (Ustrncmp(p, "mtputf8", 7) == 0)
 638       message_smtputf8 = TRUE;
 639 #endif
 640     break;
 641
 642 #ifdef SUPPORT_TLS
 643     case 't':
 644     if (Ustrncmp(p, "ls_certificate_verified", 23) == 0)
 645       tls_in.certificate_verified = TRUE;
 646     else if (Ustrncmp(p, "ls_cipher", 9) == 0)
 647       tls_in.cipher = string_copy(big_buffer + 12);
 648 # ifndef COMPILE_UTILITY        /* tls support fns not built in */
 649     else if (Ustrncmp(p, "ls_ourcert", 10) == 0)
 650       (void) tls_import_cert(big_buffer + 13, &tls_in.ourcert);
 651     else if (Ustrncmp(p, "ls_peercert", 11) == 0)
 652       (void) tls_import_cert(big_buffer + 14, &tls_in.peercert);
 653 # endif
 654     else if (Ustrncmp(p, "ls_peerdn", 9) == 0)
 655       tls_in.peerdn = string_unprinting(string_copy(big_buffer + 12));
 656     else if (Ustrncmp(p, "ls_sni", 6) == 0)
 657       tls_in.sni = string_unprinting(string_copy(big_buffer + 9));
 658     else if (Ustrncmp(p, "ls_ocsp", 7) == 0)
 659       tls_in.ocsp = big_buffer[10] - '0';
 660     break;
 661 #endif
 662
 663 #if defined(SUPPORT_I18N) && !defined(COMPILE_UTILITY)
 664     case 'u':
 665     if (Ustrncmp(p, "tf8_downcvt", 11) == 0)
 666       message_utf8_downconvert = 1;
 667     else if (Ustrncmp(p, "tf8_optdowncvt", 15) == 0)
 668       message_utf8_downconvert = -1;
 669     break;
 670 #endif
 671
 672     default:    /* Present because some compilers complain if all */
 673     break;      /* possibilities are not covered. */
 674     }
 675   }
 676
 677 /* Build sender_fullhost if required */
 678
 679 #ifndef COMPILE_UTILITY
 680 host_build_sender_fullhost();
 681 #endif  /* COMPILE_UTILITY */
 682
 683 #ifndef COMPILE_UTILITY
 684 DEBUG(D_deliver)
 685   debug_printf("sender_local=%d ident=%s\n", sender_local,
 686     (sender_ident == NULL)? US"unset" : sender_ident);
 687 #endif  /* COMPILE_UTILITY */
 688
 689 /* We now have the tree of addresses NOT to deliver to, or a line
 690 containing "XX", indicating no tree. */
 691
 692 if (Ustrncmp(big_buffer, "XX\n", 3) != 0 &&
 693   !read_nonrecipients_tree(&tree_nonrecipients, f, big_buffer, big_buffer_size))
 694     goto SPOOL_FORMAT_ERROR;
 695
 696 #ifndef COMPILE_UTILITY
 697 DEBUG(D_deliver)
 698   {
 699   debug_printf("Non-recipients:\n");
 700   debug_print_tree(tree_nonrecipients);
 701   }
 702 #endif  /* COMPILE_UTILITY */
 703
 704 /* After reading the tree, the next line has not yet been read into the
 705 buffer. It contains the count of recipients which follow on separate lines.
 706 Apply an arbitrary sanity check.*/
 707
 708 if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 709 if (sscanf(CS big_buffer, "%d", &rcount) != 1 || rcount > 16384)
 710   goto SPOOL_FORMAT_ERROR;
 711
 712 #ifndef COMPILE_UTILITY
 713 DEBUG(D_deliver) debug_printf("recipients_count=%d\n", rcount);
 714 #endif  /* COMPILE_UTILITY */
 715
 716 recipients_list_max = rcount;
 717 recipients_list = store_get(rcount * sizeof(recipient_item));
 718
 719 /* We sanitised the count and know we have enough memory, so disable
 720 the Coverity error on recipients_count */
 721 /* coverity[tainted_data] */
 722
 723 for (recipients_count = 0; recipients_count < rcount; recipients_count++)
 724   {
 725   int nn;
 726   int pno = -1;
 727   int dsn_flags = 0;
 728   uschar *orcpt = NULL;
 729   uschar *errors_to = NULL;
 730   uschar *p;
 731
 732   if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 733   nn = Ustrlen(big_buffer);
 734   if (nn < 2) goto SPOOL_FORMAT_ERROR;
 735
 736   /* Remove the newline; this terminates the address if there is no additional
 737   data on the line. */
 738
 739   p = big_buffer + nn - 1;
 740   *p-- = 0;
 741
 742   /* Look back from the end of the line for digits and special terminators.
 743   Since an address must end with a domain, we can tell that extra data is
 744   present by the presence of the terminator, which is always some character
 745   that cannot exist in a domain. (If I'd thought of the need for additional
 746   data early on, I'd have put it at the start, with the address at the end. As
 747   it is, we have to operate backwards. Addresses are permitted to contain
 748   spaces, you see.)
 749
 750   This code has to cope with various versions of this data that have evolved
 751   over time. In all cases, the line might just contain an address, with no
 752   additional data. Otherwise, the possibilities are as follows:
 753
 754   Exim 3 type:       <address><space><digits>,<digits>,<digits>
 755
 756     The second set of digits is the parent number for one_time addresses. The
 757     other values were remnants of earlier experiments that were abandoned.
 758
 759   Exim 4 first type: <address><space><digits>
 760
 761     The digits are the parent number for one_time addresses.
 762
 763   Exim 4 new type:   <address><space><data>#<type bits>
 764
 765     The type bits indicate what the contents of the data are.
 766
 767     Bit 01 indicates that, reading from right to left, the data
 768       ends with <errors_to address><space><len>,<pno> where pno is
 769       the parent number for one_time addresses, and len is the length
 770       of the errors_to address (zero meaning none).
 771
 772     Bit 02 indicates that, again reading from right to left, the data continues
 773      with orcpt len(orcpt),dsn_flags
 774    */
 775
 776   while (isdigit(*p)) p--;
 777
 778   /* Handle Exim 3 spool files */
 779
 780   if (*p == ',')
 781     {
 782     int dummy;
 783     while (isdigit(*(--p)) || *p == ',');
 784     if (*p == ' ')
 785       {
 786       *p++ = 0;
 787       (void)sscanf(CS p, "%d,%d", &dummy, &pno);
 788       }
 789     }
 790
 791   /* Handle early Exim 4 spool files */
 792
 793   else if (*p == ' ')
 794     {
 795     *p++ = 0;
 796     (void)sscanf(CS p, "%d", &pno);
 797     }
 798
 799   /* Handle current format Exim 4 spool files */
 800
 801   else if (*p == '#')
 802     {
 803     int flags;
 804
 805 #if !defined (COMPILE_UTILITY)
 806     DEBUG(D_deliver) debug_printf("**** SPOOL_IN - Exim 4 standard format spoolfile\n");
 807 #endif
 808
 809     (void)sscanf(CS p+1, "%d", &flags);
 810
 811     if ((flags & 0x01) != 0)      /* one_time data exists */
 812       {
 813       int len;
 814       while (isdigit(*(--p)) || *p == ',' || *p == '-');
 815       (void)sscanf(CS p+1, "%d,%d", &len, &pno);
 816       *p = 0;
 817       if (len > 0)
 818         {
 819         p -= len;
 820         errors_to = string_copy(p);
 821         }
 822       }
 823
 824     *(--p) = 0;   /* Terminate address */
 825     if ((flags & 0x02) != 0)      /* one_time data exists */
 826       {
 827       int len;
 828       while (isdigit(*(--p)) || *p == ',' || *p == '-');
 829       (void)sscanf(CS p+1, "%d,%d", &len, &dsn_flags);
 830       *p = 0;
 831       if (len > 0)
 832         {
 833         p -= len;
 834         orcpt = string_copy(p);
 835         }
 836       }
 837
 838     *(--p) = 0;   /* Terminate address */
 839     }
 840 #if !defined(COMPILE_UTILITY)
 841   else
 842     { DEBUG(D_deliver) debug_printf("**** SPOOL_IN - No additional fields\n"); }
 843
 844   if ((orcpt != NULL) || (dsn_flags != 0))
 845     {
 846     DEBUG(D_deliver) debug_printf("**** SPOOL_IN - address: |%s| orcpt: |%s| dsn_flags: %d\n",
 847       big_buffer, orcpt, dsn_flags);
 848     }
 849   if (errors_to != NULL)
 850     {
 851     DEBUG(D_deliver) debug_printf("**** SPOOL_IN - address: |%s| errorsto: |%s|\n",
 852       big_buffer, errors_to);
 853     }
 854 #endif
 855
 856   recipients_list[recipients_count].address = string_copy(big_buffer);
 857   recipients_list[recipients_count].pno = pno;
 858   recipients_list[recipients_count].errors_to = errors_to;
 859   recipients_list[recipients_count].orcpt = orcpt;
 860   recipients_list[recipients_count].dsn_flags = dsn_flags;
 861   }
 862
 863 /* The remainder of the spool header file contains the headers for the message,
 864 separated off from the previous data by a blank line. Each header is preceded
 865 by a count of its length and either a certain letter (for various identified
 866 headers), space (for a miscellaneous live header) or an asterisk (for a header
 867 that has been rewritten). Count the Received: headers. We read the headers
 868 always, in order to check on the format of the file, but only create a header
 869 list if requested to do so. */
 870
 871 inheader = TRUE;
 872 if (Ufgets(big_buffer, big_buffer_size, f) == NULL) goto SPOOL_READ_ERROR;
 873 if (big_buffer[0] != '\n') goto SPOOL_FORMAT_ERROR;
 874
 875 while ((n = fgetc(f)) != EOF)
 876   {
 877   header_line *h;
 878   uschar flag[4];
 879   int i;
 880
 881   if (!isdigit(n)) goto SPOOL_FORMAT_ERROR;
 882   if(ungetc(n, f) == EOF  ||  fscanf(f, "%d%c ", &n, flag) == EOF)
 883     goto SPOOL_READ_ERROR;
 884   if (flag[0] != '*') message_size += n;  /* Omit non-transmitted headers */
 885
 886   if (read_headers)
 887     {
 888     h = store_get(sizeof(header_line));
 889     h->next = NULL;
 890     h->type = flag[0];
 891     h->slen = n;
 892     h->text = store_get(n+1);
 893
 894     if (h->type == htype_received) received_count++;
 895
 896     if (header_list == NULL) header_list = h;
 897       else header_last->next = h;
 898     header_last = h;
 899
 900     for (i = 0; i < n; i++)
 901       {
 902       int c = fgetc(f);
 903       if (c == 0 || c == EOF) goto SPOOL_FORMAT_ERROR;
 904       if (c == '\n' && h->type != htype_old) message_linecount++;
 905       h->text[i] = c;
 906       }
 907     h->text[i] = 0;
 908     }
 909
 910   /* Not requiring header data, just skip through the bytes */
 911
 912   else for (i = 0; i < n; i++)
 913     {
 914     int c = fgetc(f);
 915     if (c == 0 || c == EOF) goto SPOOL_FORMAT_ERROR;
 916     }
 917   }
 918
 919 /* We have successfully read the data in the header file. Update the message
 920 line count by adding the body linecount to the header linecount. Close the file
 921 and give a positive response. */
 922
 923 #ifndef COMPILE_UTILITY
 924 DEBUG(D_deliver) debug_printf("body_linecount=%d message_linecount=%d\n",
 925   body_linecount, message_linecount);
 926 #endif  /* COMPILE_UTILITY */
 927
 928 message_linecount += body_linecount;
 929
 930 fclose(f);
 931 return spool_read_OK;
 932
 933
 934 /* There was an error reading the spool or there was missing data,
 935 or there was a format error. A "read error" with no errno means an
 936 unexpected EOF, which we treat as a format error. */
 937
 938 SPOOL_READ_ERROR:
 939 if (errno != 0)
 940   {
 941   n = errno;
 942
 943 #ifndef COMPILE_UTILITY
 944   DEBUG(D_any) debug_printf("Error while reading spool file %s\n", name);
 945 #endif  /* COMPILE_UTILITY */
 946
 947   fclose(f);
 948   errno = n;
 949   return inheader? spool_read_hdrerror : spool_read_enverror;
 950   }
 951
 952 SPOOL_FORMAT_ERROR:
 953
 954 #ifndef COMPILE_UTILITY
 955 DEBUG(D_any) debug_printf("Format error in spool file %s\n", name);
 956 #endif  /* COMPILE_UTILITY */
 957
 958 fclose(f);
 959 errno = ERRNO_SPOOLFORMAT;
 960 return inheader? spool_read_hdrerror : spool_read_enverror;
 961 }
 962
 963 /* vi: aw ai sw=2
 964 */
 965 /* End of spool_in.c */