617c267a37386c735ba1737bfcff2faa8f4fd68d
[exim.git] / src / src / queue.c
1 /*************************************************
2 *     Exim - an Internet mail transport agent    *
3 *************************************************/
4
5 /* Copyright (c) University of Cambridge 1995 - 2018 */
6 /* See the file NOTICE for conditions of use and distribution. */
7
8 /* Functions that operate on the input queue. */
9
10
11 #include "exim.h"
12
13
14
15 /* Routines with knowledge of spool layout */
16
17 #ifndef COMPILE_UTILITY
18 static void
19 spool_pname_buf(uschar * buf, int len)
20 {
21 snprintf(CS buf, len, "%s/%s/input", spool_directory, queue_name);
22 }
23
24 uschar *
25 spool_dname(const uschar * purpose, uschar * subdir)
26 {
27 return string_sprintf("%s/%s/%s/%s",
28         spool_directory, queue_name, purpose, subdir);
29 }
30 #endif
31
32 uschar *
33 spool_sname(const uschar * purpose, uschar * subdir)
34 {
35 return string_sprintf("%s%s%s%s%s",
36                     queue_name, *queue_name ? "/" : "",
37                     purpose,
38                     *subdir ? "/" : "", subdir);
39 }
40
41 uschar *
42 spool_fname(const uschar * purpose, const uschar * subdir, const uschar * fname,
43         const uschar * suffix)
44 {
45 return string_sprintf("%s/%s/%s/%s/%s%s",
46         spool_directory, queue_name, purpose, subdir, fname, suffix);
47 }
48
49
50
51
52 #ifndef COMPILE_UTILITY
53
54 /* The number of nodes to use for the bottom-up merge sort when a list of queue
55 items is to be ordered. The code for this sort was contributed as a patch by
56 Michael Haardt. */
57
58 #define LOG2_MAXNODES 32
59
60
61
62 /*************************************************
63 *  Helper sort function for queue_get_spool_list *
64 *************************************************/
65
66 /* This function is used when sorting the queue list in the function
67 queue_get_spool_list() below.
68
69 Arguments:
70   a            points to an ordered list of queue_filename items
71   b            points to another ordered list
72
73 Returns:       a pointer to a merged ordered list
74 */
75
76 static queue_filename *
77 merge_queue_lists(queue_filename *a, queue_filename *b)
78 {
79 queue_filename *first = NULL;
80 queue_filename **append = &first;
81
82 while (a && b)
83   {
84   int d;
85   if ((d = Ustrncmp(a->text, b->text, 6)) == 0)
86     d = Ustrcmp(a->text + 14, b->text + 14);
87   if (d < 0)
88     {
89     *append = a;
90     append= &a->next;
91     a = a->next;
92     }
93   else
94     {
95     *append = b;
96     append= &b->next;
97     b = b->next;
98     }
99   }
100
101 *append = a ? a : b;
102 return first;
103 }
104
105
106
107
108
109 /*************************************************
110 *             Get list of spool files            *
111 *************************************************/
112
113 /* Scan the spool directory and return a list of the relevant file names
114 therein. Single-character sub-directories are handled as follows:
115
116   If the first argument is > 0, a sub-directory is scanned; the letter is
117   taken from the nth entry in subdirs.
118
119   If the first argument is 0, sub-directories are not scanned. However, a
120   list of them is returned.
121
122   If the first argument is < 0, sub-directories are scanned for messages,
123   and a single, unified list is created. The returned data blocks contain the
124   identifying character of the subdirectory, if any. The subdirs vector is
125   still required as an argument.
126
127 If the randomize argument is TRUE, messages are returned in "randomized" order.
128 Actually, the order is anything but random, but the algorithm is cheap, and the
129 point is simply to ensure that the same order doesn't occur every time, in case
130 a particular message is causing a remote MTA to barf - we would like to try
131 other messages to that MTA first.
132
133 If the randomize argument is FALSE, sort the list according to the file name.
134 This should give the order in which the messages arrived. It is normally used
135 only for presentation to humans, in which case the (possibly expensive) sort
136 that it does is not part of the normal operational code. However, if
137 queue_run_in_order is set, sorting has to take place for queue runs as well.
138 When randomize is FALSE, the first argument is normally -1, so all messages are
139 included.
140
141 Arguments:
142   subdiroffset   sub-directory character offset, or 0 or -1 (see above)
143   subdirs        vector to store list of subdirchars
144   subcount       pointer to int in which to store count of subdirs
145   randomize      TRUE if the order of the list is to be unpredictable
146
147 Returns:         pointer to a chain of queue name items
148 */
149
150 static queue_filename *
151 queue_get_spool_list(int subdiroffset, uschar *subdirs, int *subcount,
152   BOOL randomize)
153 {
154 int i;
155 int flags = 0;
156 int resetflags = -1;
157 int subptr;
158 queue_filename *yield = NULL;
159 queue_filename *last = NULL;
160 struct dirent *ent;
161 DIR *dd;
162 uschar buffer[256];
163 queue_filename *root[LOG2_MAXNODES];
164
165 /* When randomizing, the file names are added to the start or end of the list
166 according to the bits of the flags variable. Get a collection of bits from the
167 current time. Use the bottom 16 and just keep re-using them if necessary. When
168 not randomizing, initialize the sublists for the bottom-up merge sort. */
169
170 if (randomize)
171   resetflags = time(NULL) & 0xFFFF;
172 else
173    for (i = 0; i < LOG2_MAXNODES; i++)
174      root[i] = NULL;
175
176 /* If processing the full queue, or just the top-level, start at the base
177 directory, and initialize the first subdirectory name (as none). Otherwise,
178 start at the sub-directory offset. */
179
180 if (subdiroffset <= 0)
181   {
182   i = 0;
183   subdirs[0] = 0;
184   *subcount = 0;
185   }
186 else
187   i = subdiroffset;
188
189 /* Set up prototype for the directory name. */
190
191 spool_pname_buf(buffer, sizeof(buffer));
192 buffer[sizeof(buffer) - 3] = 0;
193 subptr = Ustrlen(buffer);
194 buffer[subptr+2] = 0;               /* terminator for lengthened name */
195
196 /* This loop runs at least once, for the main or given directory, and then as
197 many times as necessary to scan any subdirectories encountered in the main
198 directory, if they are to be scanned at this time. */
199
200 for (; i <= *subcount; i++)
201   {
202   int count = 0;
203   int subdirchar = subdirs[i];      /* 0 for main directory */
204
205   if (subdirchar != 0)
206     {
207     buffer[subptr] = '/';
208     buffer[subptr+1] = subdirchar;
209     }
210
211   DEBUG(D_queue_run) debug_printf("looking in %s\n", buffer);
212   if (!(dd = opendir(CS buffer)))
213     continue;
214
215   /* Now scan the directory. */
216
217   while ((ent = readdir(dd)))
218     {
219     uschar *name = US ent->d_name;
220     int len = Ustrlen(name);
221
222     /* Count entries */
223
224     count++;
225
226     /* If we find a single alphameric sub-directory in the base directory,
227     add it to the list for subsequent scans. */
228
229     if (i == 0 && len == 1 && isalnum(*name))
230       {
231       *subcount = *subcount + 1;
232       subdirs[*subcount] = *name;
233       continue;
234       }
235
236     /* Otherwise, if it is a header spool file, add it to the list */
237
238     if (len == SPOOL_NAME_LENGTH &&
239         Ustrcmp(name + SPOOL_NAME_LENGTH - 2, "-H") == 0)
240       {
241       queue_filename *next =
242         store_get(sizeof(queue_filename) + Ustrlen(name));
243       Ustrcpy(next->text, name);
244       next->dir_uschar = subdirchar;
245
246       /* Handle the creation of a randomized list. The first item becomes both
247       the top and bottom of the list. Subsequent items are inserted either at
248       the top or the bottom, randomly. This is, I argue, faster than doing a
249       sort by allocating a random number to each item, and it also saves having
250       to store the number with each item. */
251
252       if (randomize)
253         if (!yield)
254           {
255           next->next = NULL;
256           yield = last = next;
257           }
258         else
259           {
260           if (flags == 0)
261             flags = resetflags;
262           if ((flags & 1) == 0)
263             {
264             next->next = yield;
265             yield = next;
266             }
267           else
268             {
269             next->next = NULL;
270             last->next = next;
271             last = next;
272             }
273           flags = flags >> 1;
274           }
275
276       /* Otherwise do a bottom-up merge sort based on the name. */
277
278       else
279         {
280         next->next = NULL;
281         for (int j = 0; j < LOG2_MAXNODES; j++)
282           if (root[j])
283             {
284             next = merge_queue_lists(next, root[j]);
285             root[j] = j == LOG2_MAXNODES - 1 ? next : NULL;
286             }
287           else
288             {
289             root[j] = next;
290             break;
291             }
292         }
293       }
294     }
295
296   /* Finished with this directory */
297
298   closedir(dd);
299
300   /* If we have just scanned a sub-directory, and it was empty (count == 2
301   implies just "." and ".." entries), and Exim is no longer configured to
302   use sub-directories, attempt to get rid of it. At the same time, try to
303   get rid of any corresponding msglog subdirectory. These are just cosmetic
304   tidying actions, so just ignore failures. If we are scanning just a single
305   sub-directory, break the loop. */
306
307   if (i != 0)
308     {
309     if (!split_spool_directory && count <= 2)
310       {
311       uschar subdir[2];
312
313       rmdir(CS buffer);
314       subdir[0] = subdirchar; subdir[1] = 0;
315       rmdir(CS spool_dname(US"msglog", subdir));
316       }
317     if (subdiroffset > 0) break;    /* Single sub-directory */
318     }
319
320   /* If we have just scanned the base directory, and subdiroffset is 0,
321   we do not want to continue scanning the sub-directories. */
322
323   else if (subdiroffset == 0)
324     break;
325   }    /* Loop for multiple subdirectories */
326
327 /* When using a bottom-up merge sort, do the final merging of the sublists.
328 Then pass back the final list of file items. */
329
330 if (!randomize)
331   for (i = 0; i < LOG2_MAXNODES; ++i)
332     yield = merge_queue_lists(yield, root[i]);
333
334 return yield;
335 }
336
337
338
339
340 /*************************************************
341 *              Perform a queue run               *
342 *************************************************/
343
344 /* The arguments give the messages to start and stop at; NULL means start at
345 the beginning or stop at the end. If the given start message doesn't exist, we
346 start at the next lexically greater one, and likewise we stop at the after the
347 previous lexically lesser one if the given stop message doesn't exist. Because
348 a queue run can take some time, stat each file before forking, in case it has
349 been delivered in the meantime by some other means.
350
351 The global variables queue_run_force and queue_run_local may be set to cause
352 forced deliveries or local-only deliveries, respectively.
353
354 If deliver_selectstring[_sender] is not NULL, skip messages whose recipients do
355 not contain the string. As this option is typically used when a machine comes
356 back online, we want to ensure that at least one delivery attempt takes place,
357 so force the first one. The selecting string can optionally be a regex, or
358 refer to the sender instead of recipients.
359
360 If queue_2stage is set, the queue is scanned twice. The first time, queue_smtp
361 is set so that routing is done for all messages. Thus in the second run those
362 that are routed to the same host should go down the same SMTP connection.
363
364 Arguments:
365   start_id   message id to start at, or NULL for all
366   stop_id    message id to end at, or NULL for all
367   recurse    TRUE if recursing for 2-stage run
368
369 Returns:     nothing
370 */
371
372 void
373 queue_run(uschar *start_id, uschar *stop_id, BOOL recurse)
374 {
375 BOOL force_delivery = f.queue_run_force || deliver_selectstring != NULL ||
376   deliver_selectstring_sender != NULL;
377 const pcre *selectstring_regex = NULL;
378 const pcre *selectstring_regex_sender = NULL;
379 uschar *log_detail = NULL;
380 int subcount = 0;
381 uschar subdirs[64];
382
383 /* Cancel any specific queue domains. Turn off the flag that causes SMTP
384 deliveries not to happen, unless doing a 2-stage queue run, when the SMTP flag
385 gets set. Save the queue_runner's pid and the flag that indicates any
386 deliveries run directly from this process. Deliveries that are run by handing
387 on TCP/IP channels have queue_run_pid set, but not queue_running. */
388
389 queue_domains = NULL;
390 queue_smtp_domains = NULL;
391 f.queue_smtp = f.queue_2stage;
392
393 queue_run_pid = getpid();
394 f.queue_running = TRUE;
395
396 /* Log the true start of a queue run, and fancy options */
397
398 if (!recurse)
399   {
400   uschar extras[8];
401   uschar *p = extras;
402
403   if (f.queue_2stage) *p++ = 'q';
404   if (f.queue_run_first_delivery) *p++ = 'i';
405   if (f.queue_run_force) *p++ = 'f';
406   if (f.deliver_force_thaw) *p++ = 'f';
407   if (f.queue_run_local) *p++ = 'l';
408   *p = 0;
409
410   p = big_buffer;
411   p += sprintf(CS p, "pid=%d", (int)queue_run_pid);
412
413   if (extras[0] != 0)
414     p += sprintf(CS p, " -q%s", extras);
415
416   if (deliver_selectstring)
417     p += sprintf(CS p, " -R%s %s", f.deliver_selectstring_regex? "r" : "",
418       deliver_selectstring);
419
420   if (deliver_selectstring_sender)
421     p += sprintf(CS p, " -S%s %s", f.deliver_selectstring_sender_regex? "r" : "",
422       deliver_selectstring_sender);
423
424   log_detail = string_copy(big_buffer);
425   if (*queue_name)
426     log_write(L_queue_run, LOG_MAIN, "Start '%s' queue run: %s",
427       queue_name, log_detail);
428   else
429     log_write(L_queue_run, LOG_MAIN, "Start queue run: %s", log_detail);
430   }
431
432 /* If deliver_selectstring is a regex, compile it. */
433
434 if (deliver_selectstring && f.deliver_selectstring_regex)
435   selectstring_regex = regex_must_compile(deliver_selectstring, TRUE, FALSE);
436
437 if (deliver_selectstring_sender && f.deliver_selectstring_sender_regex)
438   selectstring_regex_sender =
439     regex_must_compile(deliver_selectstring_sender, TRUE, FALSE);
440
441 /* If the spool is split into subdirectories, we want to process it one
442 directory at a time, so as to spread out the directory scanning and the
443 delivering when there are lots of messages involved, except when
444 queue_run_in_order is set.
445
446 In the random order case, this loop runs once for the main directory (handling
447 any messages therein), and then repeats for any subdirectories that were found.
448 When the first argument of queue_get_spool_list() is 0, it scans the top
449 directory, fills in subdirs, and sets subcount. The order of the directories is
450 then randomized after the first time through, before they are scanned in
451 subsequent iterations.
452
453 When the first argument of queue_get_spool_list() is -1 (for queue_run_in_
454 order), it scans all directories and makes a single message list. */
455
456 for (int i = queue_run_in_order ? -1 : 0;
457      i <= (queue_run_in_order ? -1 : subcount);
458      i++)
459   {
460   void *reset_point1 = store_get(0);
461
462   DEBUG(D_queue_run)
463     {
464     if (i == 0)
465       debug_printf("queue running main directory\n");
466     else if (i == -1)
467       debug_printf("queue running combined directories\n");
468     else
469       debug_printf("queue running subdirectory '%c'\n", subdirs[i]);
470     }
471
472   for (queue_filename * fq = queue_get_spool_list(i, subdirs, &subcount,
473                                                !queue_run_in_order);
474        fq; fq = fq->next)
475     {
476     pid_t pid;
477     int status;
478     int pfd[2];
479     struct stat statbuf;
480     uschar buffer[256];
481
482     /* Unless deliveries are forced, if deliver_queue_load_max is non-negative,
483     check that the load average is low enough to permit deliveries. */
484
485     if (!f.queue_run_force && deliver_queue_load_max >= 0)
486       if ((load_average = os_getloadavg()) > deliver_queue_load_max)
487         {
488         log_write(L_queue_run, LOG_MAIN, "Abandon queue run: %s (load %.2f, max %.2f)",
489           log_detail,
490           (double)load_average/1000.0,
491           (double)deliver_queue_load_max/1000.0);
492         i = subcount;                 /* Don't process other directories */
493         break;
494         }
495       else
496         DEBUG(D_load) debug_printf("load average = %.2f max = %.2f\n",
497           (double)load_average/1000.0,
498           (double)deliver_queue_load_max/1000.0);
499
500     /* Skip this message unless it's within the ID limits */
501
502     if (stop_id && Ustrncmp(fq->text, stop_id, MESSAGE_ID_LENGTH) > 0)
503       continue;
504     if (start_id && Ustrncmp(fq->text, start_id, MESSAGE_ID_LENGTH) < 0)
505       continue;
506
507     /* Check that the message still exists */
508
509     message_subdir[0] = fq->dir_uschar;
510     if (Ustat(spool_fname(US"input", message_subdir, fq->text, US""), &statbuf) < 0)
511       continue;
512
513     /* There are some tests that require the reading of the header file. Ensure
514     the store used is scavenged afterwards so that this process doesn't keep
515     growing its store. We have to read the header file again when actually
516     delivering, but it's cheaper than forking a delivery process for each
517     message when many are not going to be delivered. */
518
519     if (deliver_selectstring || deliver_selectstring_sender ||
520         f.queue_run_first_delivery)
521       {
522       BOOL wanted = TRUE;
523       BOOL orig_dont_deliver = f.dont_deliver;
524       void *reset_point2 = store_get(0);
525
526       /* Restore the original setting of dont_deliver after reading the header,
527       so that a setting for a particular message doesn't force it for any that
528       follow. If the message is chosen for delivery, the header is read again
529       in the deliver_message() function, in a subprocess. */
530
531       if (spool_read_header(fq->text, FALSE, TRUE) != spool_read_OK) continue;
532       f.dont_deliver = orig_dont_deliver;
533
534       /* Now decide if we want to deliver this message. As we have read the
535       header file, we might as well do the freeze test now, and save forking
536       another process. */
537
538       if (f.deliver_freeze && !f.deliver_force_thaw)
539         {
540         log_write(L_skip_delivery, LOG_MAIN, "Message is frozen");
541         wanted = FALSE;
542         }
543
544       /* Check first_delivery in the case when there are no message logs. */
545
546       else if (f.queue_run_first_delivery && !f.deliver_firsttime)
547         {
548         DEBUG(D_queue_run) debug_printf("%s: not first delivery\n", fq->text);
549         wanted = FALSE;
550         }
551
552       /* Check for a matching address if deliver_selectstring[_sender] is set.
553       If so, we do a fully delivery - don't want to omit other addresses since
554       their routing might trigger re-writing etc. */
555
556       /* Sender matching */
557
558       else if (  deliver_selectstring_sender
559               && !(f.deliver_selectstring_sender_regex
560                   ? (pcre_exec(selectstring_regex_sender, NULL,
561                       CS sender_address, Ustrlen(sender_address), 0, PCRE_EOPT,
562                       NULL, 0) >= 0)
563                   : (strstric(sender_address, deliver_selectstring_sender, FALSE)
564                       != NULL)
565               )   )
566         {
567         DEBUG(D_queue_run) debug_printf("%s: sender address did not match %s\n",
568           fq->text, deliver_selectstring_sender);
569         wanted = FALSE;
570         }
571
572       /* Recipient matching */
573
574       else if (deliver_selectstring)
575         {
576         int i;
577         for (i = 0; i < recipients_count; i++)
578           {
579           uschar *address = recipients_list[i].address;
580           if (  (f.deliver_selectstring_regex
581                 ? (pcre_exec(selectstring_regex, NULL, CS address,
582                      Ustrlen(address), 0, PCRE_EOPT, NULL, 0) >= 0)
583                 : (strstric(address, deliver_selectstring, FALSE) != NULL)
584                 )
585              && tree_search(tree_nonrecipients, address) == NULL
586              )
587             break;
588           }
589
590         if (i >= recipients_count)
591           {
592           DEBUG(D_queue_run)
593             debug_printf("%s: no recipient address matched %s\n",
594               fq->text, deliver_selectstring);
595           wanted = FALSE;
596           }
597         }
598
599       /* Recover store used when reading the header */
600
601       spool_clear_header_globals();
602       store_reset(reset_point2);
603       if (!wanted) continue;      /* With next message */
604       }
605
606     /* OK, got a message we want to deliver. Create a pipe which will
607     serve as a means of detecting when all the processes created by the
608     delivery process are finished. This is relevant when the delivery
609     process passes one or more SMTP channels on to its own children. The
610     pipe gets passed down; by reading on it here we detect when the last
611     descendent dies by the unblocking of the read. It's a pity that for
612     most of the time the pipe isn't used, but creating a pipe should be
613     pretty cheap. */
614
615     if (pipe(pfd) < 0)
616       log_write(0, LOG_MAIN|LOG_PANIC_DIE, "failed to create pipe in queue "
617         "runner process %d: %s", queue_run_pid, strerror(errno));
618     queue_run_pipe = pfd[pipe_write];  /* To ensure it gets passed on. */
619
620     /* Make sure it isn't stdin. This seems unlikely, but just to be on the
621     safe side... */
622
623     if (queue_run_pipe == 0)
624       {
625       queue_run_pipe = dup(queue_run_pipe);
626       (void)close(0);
627       }
628
629     /* Before forking to deliver the message, ensure any open and cached
630     lookup files or databases are closed. Otherwise, closing in the subprocess
631     can make the next subprocess have problems. There won't often be anything
632     open here, but it is possible (e.g. if spool_directory is an expanded
633     string). A single call before this loop would probably suffice, but just in
634     case expansions get inserted at some point, I've taken the heavy-handed
635     approach. When nothing is open, the call should be cheap. */
636
637     search_tidyup();
638
639     /* Now deliver the message; get the id by cutting the -H off the file
640     name. The return of the process is zero if a delivery was attempted. */
641
642     set_process_info("running queue: %s", fq->text);
643     fq->text[SPOOL_NAME_LENGTH-2] = 0;
644     if ((pid = fork()) == 0)
645       {
646       int rc;
647       if (f.running_in_test_harness) millisleep(100);
648       (void)close(pfd[pipe_read]);
649       rc = deliver_message(fq->text, force_delivery, FALSE);
650       _exit(rc == DELIVER_NOT_ATTEMPTED);
651       }
652     if (pid < 0)
653       log_write(0, LOG_MAIN|LOG_PANIC_DIE, "fork of delivery process from "
654         "queue runner %d failed\n", queue_run_pid);
655
656     /* Close the writing end of the synchronizing pipe in this process,
657     then wait for the first level process to terminate. */
658
659     (void)close(pfd[pipe_write]);
660     set_process_info("running queue: waiting for %s (%d)", fq->text, pid);
661     while (wait(&status) != pid);
662
663     /* A zero return means a delivery was attempted; turn off the force flag
664     for any subsequent calls unless queue_force is set. */
665
666     if ((status & 0xffff) == 0) force_delivery = f.queue_run_force;
667
668     /* If the process crashed, tell somebody */
669
670     else if ((status & 0x00ff) != 0)
671       log_write(0, LOG_MAIN|LOG_PANIC,
672         "queue run: process %d crashed with signal %d while delivering %s",
673         (int)pid, status & 0x00ff, fq->text);
674
675     /* Before continuing, wait till the pipe gets closed at the far end. This
676     tells us that any children created by the delivery to re-use any SMTP
677     channels have all finished. Since no process actually writes to the pipe,
678     the mere fact that read() unblocks is enough. */
679
680     set_process_info("running queue: waiting for children of %d", pid);
681     if ((status = read(pfd[pipe_read], buffer, sizeof(buffer))) != 0)
682       log_write(0, LOG_MAIN|LOG_PANIC, "queue run: %s on pipe",
683                 status > 0 ? "unexpected data" : "error");
684     (void)close(pfd[pipe_read]);
685     set_process_info("running queue");
686
687     /* If we are in the test harness, and this is not the first of a 2-stage
688     queue run, update fudged queue times. */
689
690     if (f.running_in_test_harness && !f.queue_2stage)
691       {
692       uschar *fqtnext = Ustrchr(fudged_queue_times, '/');
693       if (fqtnext != NULL) fudged_queue_times = fqtnext + 1;
694       }
695     }                                  /* End loop for list of messages */
696
697   tree_nonrecipients = NULL;
698   store_reset(reset_point1);           /* Scavenge list of messages */
699
700   /* If this was the first time through for random order processing, and
701   sub-directories have been found, randomize their order if necessary. */
702
703   if (i == 0 && subcount > 1 && !queue_run_in_order)
704     for (int j = 1; j <= subcount; j++)
705       {
706       int r;
707       if ((r = random_number(100)) >= 50)
708         {
709         int k = (r % subcount) + 1;
710         int x = subdirs[j];
711         subdirs[j] = subdirs[k];
712         subdirs[k] = x;
713         }
714       }
715   }                                    /* End loop for multiple directories */
716
717 /* If queue_2stage is true, we do it all again, with the 2stage flag
718 turned off. */
719
720 if (f.queue_2stage)
721   {
722   f.queue_2stage = FALSE;
723   queue_run(start_id, stop_id, TRUE);
724   }
725
726 /* At top level, log the end of the run. */
727
728 if (!recurse)
729   if (*queue_name)
730     log_write(L_queue_run, LOG_MAIN, "End '%s' queue run: %s",
731       queue_name, log_detail);
732   else
733     log_write(L_queue_run, LOG_MAIN, "End queue run: %s", log_detail);
734 }
735
736
737
738
739 /************************************************
740 *         Count messages on the queue           *
741 ************************************************/
742
743 /* Called as a result of -bpc
744
745 Arguments:  none
746 Returns:    nothing
747 */
748
749 void
750 queue_count(void)
751 {
752 int subcount;
753 int count = 0;
754 uschar subdirs[64];
755
756 for (queue_filename *f = queue_get_spool_list(
757                                 -1,             /* entire queue */
758                                 subdirs,        /* for holding sub list */
759                                 &subcount,      /* for subcount */
760                                 FALSE);         /* not random */
761     f; f = f->next) count++;
762 fprintf(stdout, "%d\n", count);
763 }
764
765
766
767 /************************************************
768 *          List extra deliveries                *
769 ************************************************/
770
771 /* This is called from queue_list below to print out all addresses that
772 have received a message but which were not primary addresses. That is, all
773 the addresses in the tree of non-recipients that are not primary addresses.
774 The tree has been scanned and the data field filled in for those that are
775 primary addresses.
776
777 Argument:    points to the tree node
778 Returns:     nothing
779 */
780
781 static void queue_list_extras(tree_node *p)
782 {
783 if (p->left != NULL) queue_list_extras(p->left);
784 if (!p->data.val) printf("       +D %s\n", p->name);
785 if (p->right != NULL) queue_list_extras(p->right);
786 }
787
788
789
790 /************************************************
791 *          List messages on the queue           *
792 ************************************************/
793
794 /* Or a given list of messages. In the "all" case, we get a list of file names
795 as quickly as possible, then scan each one for information to output. If any
796 disappear while we are processing, just leave them out, but give an error if an
797 explicit list was given. This function is a top-level function that is obeyed
798 as a result of the -bp argument. As there may be a lot of messages on the
799 queue, we must tidy up the store after reading the headers for each one.
800
801 Arguments:
802    option     0 => list top-level recipients, with "D" for those delivered
803               1 => list only undelivered top-level recipients
804               2 => as 0, plus any generated delivered recipients
805               If 8 is added to any of these values, the queue is listed in
806                 random order.
807    list       => first of any message ids to list
808    count      count of message ids; 0 => all
809
810 Returns:      nothing
811 */
812
813 void
814 queue_list(int option, uschar **list, int count)
815 {
816 int subcount;
817 int now = (int)time(NULL);
818 void *reset_point;
819 queue_filename * qf = NULL;
820 uschar subdirs[64];
821
822 /* If given a list of messages, build a chain containing their ids. */
823
824 if (count > 0)
825   {
826   queue_filename *last = NULL;
827   for (int i = 0; i < count; i++)
828     {
829     queue_filename *next =
830       store_get(sizeof(queue_filename) + Ustrlen(list[i]) + 2);
831     sprintf(CS next->text, "%s-H", list[i]);
832     next->dir_uschar = '*';
833     next->next = NULL;
834     if (i == 0) qf = next; else last->next = next;
835     last = next;
836     }
837   }
838
839 /* Otherwise get a list of the entire queue, in order if necessary. */
840
841 else
842   qf = queue_get_spool_list(
843           -1,             /* entire queue */
844           subdirs,        /* for holding sub list */
845           &subcount,      /* for subcount */
846           option >= 8);   /* randomize if required */
847
848 if (option >= 8) option -= 8;
849
850 /* Now scan the chain and print information, resetting store used
851 each time. */
852
853 for (reset_point = store_get(0);
854     qf;
855     spool_clear_header_globals(), store_reset(reset_point), qf = qf->next
856     )
857   {
858   int rc, save_errno;
859   int size = 0;
860   BOOL env_read;
861
862   message_size = 0;
863   message_subdir[0] = qf->dir_uschar;
864   rc = spool_read_header(qf->text, FALSE, count <= 0);
865   if (rc == spool_read_notopen && errno == ENOENT && count <= 0)
866     continue;
867   save_errno = errno;
868
869   env_read = (rc == spool_read_OK || rc == spool_read_hdrerror);
870
871   if (env_read)
872     {
873     int i, ptr;
874     FILE *jread;
875     struct stat statbuf;
876     uschar * fname = spool_fname(US"input", message_subdir, qf->text, US"");
877
878     ptr = Ustrlen(fname)-1;
879     fname[ptr] = 'D';
880
881     /* Add the data size to the header size; don't count the file name
882     at the start of the data file, but add one for the notional blank line
883     that precedes the data. */
884
885     if (Ustat(fname, &statbuf) == 0)
886       size = message_size + statbuf.st_size - SPOOL_DATA_START_OFFSET + 1;
887     i = (now - received_time.tv_sec)/60;  /* minutes on queue */
888     if (i > 90)
889       {
890       i = (i + 30)/60;
891       if (i > 72) printf("%2dd ", (i + 12)/24); else printf("%2dh ", i);
892       }
893     else printf("%2dm ", i);
894
895     /* Collect delivered addresses from any J file */
896
897     fname[ptr] = 'J';
898     if ((jread = Ufopen(fname, "rb")))
899       {
900       while (Ufgets(big_buffer, big_buffer_size, jread) != NULL)
901         {
902         int n = Ustrlen(big_buffer);
903         big_buffer[n-1] = 0;
904         tree_add_nonrecipient(big_buffer);
905         }
906       (void)fclose(jread);
907       }
908     }
909
910   fprintf(stdout, "%s ", string_format_size(size, big_buffer));
911   for (int i = 0; i < 16; i++) fputc(qf->text[i], stdout);
912
913   if (env_read && sender_address)
914     {
915     printf(" <%s>", sender_address);
916     if (f.sender_set_untrusted) printf(" (%s)", originator_login);
917     }
918
919   if (rc != spool_read_OK)
920     {
921     printf("\n    ");
922     if (save_errno == ERRNO_SPOOLFORMAT)
923       {
924       struct stat statbuf;
925       uschar * fname = spool_fname(US"input", message_subdir, qf->text, US"");
926
927       if (Ustat(fname, &statbuf) == 0)
928         printf("*** spool format error: size=" OFF_T_FMT " ***",
929           statbuf.st_size);
930       else printf("*** spool format error ***");
931       }
932     else printf("*** spool read error: %s ***", strerror(save_errno));
933     if (rc != spool_read_hdrerror)
934       {
935       printf("\n\n");
936       continue;
937       }
938     }
939
940   if (f.deliver_freeze) printf(" *** frozen ***");
941
942   printf("\n");
943
944   if (recipients_list)
945     {
946     for (int i = 0; i < recipients_count; i++)
947       {
948       tree_node *delivered =
949         tree_search(tree_nonrecipients, recipients_list[i].address);
950       if (!delivered || option != 1)
951         printf("        %s %s\n",
952           delivered ? "D" : " ", recipients_list[i].address);
953       if (delivered) delivered->data.val = TRUE;
954       }
955     if (option == 2 && tree_nonrecipients)
956       queue_list_extras(tree_nonrecipients);
957     printf("\n");
958     }
959   }
960 }
961
962
963
964 /*************************************************
965 *             Act on a specific message          *
966 *************************************************/
967
968 /* Actions that require a list of addresses make use of argv/argc/
969 recipients_arg. Other actions do not. This function does its own
970 authority checking.
971
972 Arguments:
973   id              id of the message to work on
974   action          which action is required (MSG_xxx)
975   argv            the original argv for Exim
976   argc            the original argc for Exim
977   recipients_arg  offset to the list of recipients in argv
978
979 Returns:          FALSE if there was any problem
980 */
981
982 BOOL
983 queue_action(uschar *id, int action, uschar **argv, int argc, int recipients_arg)
984 {
985 BOOL yield = TRUE;
986 BOOL removed = FALSE;
987 struct passwd *pw;
988 uschar *doing = NULL;
989 uschar *username;
990 uschar *errmsg;
991 uschar spoolname[32];
992
993 /* Set the global message_id variable, used when re-writing spool files. This
994 also causes message ids to be added to log messages. */
995
996 Ustrcpy(message_id, id);
997
998 /* The "actions" that just list the files do not require any locking to be
999 done. Only admin users may read the spool files. */
1000
1001 if (action >= MSG_SHOW_BODY)
1002   {
1003   int fd, rc;
1004   uschar *subdirectory, *suffix;
1005
1006   if (!f.admin_user)
1007     {
1008     printf("Permission denied\n");
1009     return FALSE;
1010     }
1011
1012   if (recipients_arg < argc)
1013     {
1014     printf("*** Only one message can be listed at once\n");
1015     return FALSE;
1016     }
1017
1018   if (action == MSG_SHOW_BODY)
1019     {
1020     subdirectory = US"input";
1021     suffix = US"-D";
1022     }
1023   else if (action == MSG_SHOW_HEADER)
1024     {
1025     subdirectory = US"input";
1026     suffix = US"-H";
1027     }
1028   else
1029     {
1030     subdirectory = US"msglog";
1031     suffix = US"";
1032     }
1033
1034   for (int i = 0; i < 2; i++)
1035     {
1036     message_subdir[0] = split_spool_directory == (i == 0) ? id[5] : 0;
1037     if ((fd = Uopen(spool_fname(subdirectory, message_subdir, id, suffix),
1038                     O_RDONLY, 0)) >= 0)
1039       break;
1040     if (i == 0)
1041       continue;
1042
1043     printf("Failed to open %s file for %s%s: %s\n", subdirectory, id, suffix,
1044       strerror(errno));
1045     if (action == MSG_SHOW_LOG && !message_logs)
1046       printf("(No message logs are being created because the message_logs "
1047         "option is false.)\n");
1048     return FALSE;
1049     }
1050
1051   while((rc = read(fd, big_buffer, big_buffer_size)) > 0)
1052     rc = write(fileno(stdout), big_buffer, rc);
1053
1054   (void)close(fd);
1055   return TRUE;
1056   }
1057
1058 /* For actions that actually act, open and lock the data file to ensure that no
1059 other process is working on this message. If the file does not exist, continue
1060 only if the action is remove and the user is an admin user, to allow for
1061 tidying up broken states. */
1062
1063 if ((deliver_datafile = spool_open_datafile(id)) < 0)
1064   if (errno == ENOENT)
1065     {
1066     yield = FALSE;
1067     printf("Spool data file for %s does not exist\n", id);
1068     if (action != MSG_REMOVE || !f.admin_user) return FALSE;
1069     printf("Continuing, to ensure all files removed\n");
1070     }
1071   else
1072     {
1073     if (errno == 0) printf("Message %s is locked\n", id);
1074       else printf("Couldn't open spool file for %s: %s\n", id,
1075         strerror(errno));
1076     return FALSE;
1077     }
1078
1079 /* Read the spool header file for the message. Again, continue after an
1080 error only in the case of deleting by an administrator. Setting the third
1081 argument false causes it to look both in the main spool directory and in
1082 the appropriate subdirectory, and set message_subdir according to where it
1083 found the message. */
1084
1085 sprintf(CS spoolname, "%s-H", id);
1086 if (spool_read_header(spoolname, TRUE, FALSE) != spool_read_OK)
1087   {
1088   yield = FALSE;
1089   if (errno != ERRNO_SPOOLFORMAT)
1090     printf("Spool read error for %s: %s\n", spoolname, strerror(errno));
1091   else
1092     printf("Spool format error for %s\n", spoolname);
1093   if (action != MSG_REMOVE || !f.admin_user)
1094     {
1095     (void)close(deliver_datafile);
1096     deliver_datafile = -1;
1097     return FALSE;
1098     }
1099   printf("Continuing to ensure all files removed\n");
1100   }
1101
1102 /* Check that the user running this process is entitled to operate on this
1103 message. Only admin users may freeze/thaw, add/cancel recipients, or otherwise
1104 mess about, but the original sender is permitted to remove a message. That's
1105 why we leave this check until after the headers are read. */
1106
1107 if (!f.admin_user && (action != MSG_REMOVE || real_uid != originator_uid))
1108   {
1109   printf("Permission denied\n");
1110   (void)close(deliver_datafile);
1111   deliver_datafile = -1;
1112   return FALSE;
1113   }
1114
1115 /* Set up the user name for logging. */
1116
1117 pw = getpwuid(real_uid);
1118 username = (pw != NULL)?
1119   US pw->pw_name : string_sprintf("uid %ld", (long int)real_uid);
1120
1121 /* Take the necessary action. */
1122
1123 if (action != MSG_SHOW_COPY) printf("Message %s ", id);
1124
1125 switch(action)
1126   {
1127   case MSG_SHOW_COPY:
1128     {
1129     transport_ctx tctx = {{0}};
1130     deliver_in_buffer = store_malloc(DELIVER_IN_BUFFER_SIZE);
1131     deliver_out_buffer = store_malloc(DELIVER_OUT_BUFFER_SIZE);
1132     tctx.u.fd = 1;
1133     (void) transport_write_message(&tctx, 0);
1134     break;
1135     }
1136
1137
1138   case MSG_FREEZE:
1139   if (f.deliver_freeze)
1140     {
1141     yield = FALSE;
1142     printf("is already frozen\n");
1143     }
1144   else
1145     {
1146     f.deliver_freeze = TRUE;
1147     f.deliver_manual_thaw = FALSE;
1148     deliver_frozen_at = time(NULL);
1149     if (spool_write_header(id, SW_MODIFYING, &errmsg) >= 0)
1150       {
1151       printf("is now frozen\n");
1152       log_write(0, LOG_MAIN, "frozen by %s", username);
1153       }
1154     else
1155       {
1156       yield = FALSE;
1157       printf("could not be frozen: %s\n", errmsg);
1158       }
1159     }
1160   break;
1161
1162
1163   case MSG_THAW:
1164   if (!f.deliver_freeze)
1165     {
1166     yield = FALSE;
1167     printf("is not frozen\n");
1168     }
1169   else
1170     {
1171     f.deliver_freeze = FALSE;
1172     f.deliver_manual_thaw = TRUE;
1173     if (spool_write_header(id, SW_MODIFYING, &errmsg) >= 0)
1174       {
1175       printf("is no longer frozen\n");
1176       log_write(0, LOG_MAIN, "unfrozen by %s", username);
1177       }
1178     else
1179       {
1180       yield = FALSE;
1181       printf("could not be unfrozen: %s\n", errmsg);
1182       }
1183     }
1184   break;
1185
1186
1187   /* We must ensure all files are removed from both the input directory
1188   and the appropriate subdirectory, to clean up cases when there are odd
1189   files left lying around in odd places. In the normal case message_subdir
1190   will have been set correctly by spool_read_header, but as this is a rare
1191   operation, just run everything twice. */
1192
1193   case MSG_REMOVE:
1194     {
1195     uschar suffix[3];
1196
1197     suffix[0] = '-';
1198     suffix[2] = 0;
1199     message_subdir[0] = id[5];
1200
1201     for (int j = 0; j < 2; message_subdir[0] = 0, j++)
1202       {
1203       uschar * fname = spool_fname(US"msglog", message_subdir, id, US"");
1204
1205       DEBUG(D_any) debug_printf(" removing %s", fname);
1206       if (Uunlink(fname) < 0)
1207         {
1208         if (errno != ENOENT)
1209           {
1210           yield = FALSE;
1211           printf("Error while removing %s: %s\n", fname, strerror(errno));
1212           }
1213         else DEBUG(D_any) debug_printf(" (no file)\n");
1214         }
1215       else
1216         {
1217         removed = TRUE;
1218         DEBUG(D_any) debug_printf(" (ok)\n");
1219         }
1220
1221       for (int i = 0; i < 3; i++)
1222         {
1223         uschar * fname;
1224
1225         suffix[1] = (US"DHJ")[i];
1226         fname = spool_fname(US"input", message_subdir, id, suffix);
1227
1228         DEBUG(D_any) debug_printf(" removing %s", fname);
1229         if (Uunlink(fname) < 0)
1230           {
1231           if (errno != ENOENT)
1232             {
1233             yield = FALSE;
1234             printf("Error while removing %s: %s\n", fname, strerror(errno));
1235             }
1236           else DEBUG(D_any) debug_printf(" (no file)\n");
1237           }
1238         else
1239           {
1240           removed = TRUE;
1241           DEBUG(D_any) debug_printf(" (done)\n");
1242           }
1243         }
1244       }
1245
1246     /* In the common case, the datafile is open (and locked), so give the
1247     obvious message. Otherwise be more specific. */
1248
1249     if (deliver_datafile >= 0) printf("has been removed\n");
1250       else printf("has been removed or did not exist\n");
1251     if (removed)
1252       {
1253 #ifndef DISABLE_EVENT
1254       for (int i = 0; i < recipients_count; i++)
1255         {
1256         tree_node *delivered =
1257           tree_search(tree_nonrecipients, recipients_list[i].address);
1258         if (!delivered)
1259           {
1260           uschar * save_local = deliver_localpart;
1261           const uschar * save_domain = deliver_domain;
1262           uschar * addr = recipients_list[i].address, * errmsg = NULL;
1263           int start, end, dom;
1264
1265           if (!parse_extract_address(addr, &errmsg, &start, &end, &dom, TRUE))
1266             log_write(0, LOG_MAIN|LOG_PANIC,
1267               "failed to parse address '%.100s'\n: %s", addr, errmsg);
1268           else
1269             {
1270             deliver_localpart =
1271               string_copyn(addr+start, dom ? (dom-1) - start : end - start);
1272             deliver_domain = dom
1273               ? CUS string_copyn(addr+dom, end - dom) : CUS"";
1274
1275             event_raise(event_action, US"msg:fail:internal",
1276               string_sprintf("message removed by %s", username));
1277
1278             deliver_localpart = save_local;
1279             deliver_domain = save_domain;
1280             }
1281           }
1282         }
1283       (void) event_raise(event_action, US"msg:complete", NULL);
1284 #endif
1285       log_write(0, LOG_MAIN, "removed by %s", username);
1286       log_write(0, LOG_MAIN, "Completed");
1287       }
1288     break;
1289     }
1290
1291
1292   case MSG_MARK_ALL_DELIVERED:
1293   for (int i = 0; i < recipients_count; i++)
1294     tree_add_nonrecipient(recipients_list[i].address);
1295
1296   if (spool_write_header(id, SW_MODIFYING, &errmsg) >= 0)
1297     {
1298     printf("has been modified\n");
1299     for (int i = 0; i < recipients_count; i++)
1300       log_write(0, LOG_MAIN, "address <%s> marked delivered by %s",
1301         recipients_list[i].address, username);
1302     }
1303   else
1304     {
1305     yield = FALSE;
1306     printf("- could not mark all delivered: %s\n", errmsg);
1307     }
1308   break;
1309
1310
1311   case MSG_EDIT_SENDER:
1312   if (recipients_arg < argc - 1)
1313     {
1314     yield = FALSE;
1315     printf("- only one sender address can be specified\n");
1316     break;
1317     }
1318   doing = US"editing sender";
1319   /* Fall through */
1320
1321   case MSG_ADD_RECIPIENT:
1322   if (doing == NULL) doing = US"adding recipient";
1323   /* Fall through */
1324
1325   case MSG_MARK_DELIVERED:
1326   if (doing == NULL) doing = US"marking as delivered";
1327
1328   /* Common code for EDIT_SENDER, ADD_RECIPIENT, & MARK_DELIVERED */
1329
1330   if (recipients_arg >= argc)
1331     {
1332     yield = FALSE;
1333     printf("- error while %s: no address given\n", doing);
1334     break;
1335     }
1336
1337   for (; recipients_arg < argc; recipients_arg++)
1338     {
1339     int start, end, domain;
1340     uschar *errmess;
1341     uschar *recipient =
1342       parse_extract_address(argv[recipients_arg], &errmess, &start, &end,
1343         &domain, (action == MSG_EDIT_SENDER));
1344
1345     if (recipient == NULL)
1346       {
1347       yield = FALSE;
1348       printf("- error while %s:\n  bad address %s: %s\n",
1349         doing, argv[recipients_arg], errmess);
1350       }
1351     else if (recipient[0] != 0 && domain == 0)
1352       {
1353       yield = FALSE;
1354       printf("- error while %s:\n  bad address %s: "
1355         "domain missing\n", doing, argv[recipients_arg]);
1356       }
1357     else
1358       {
1359       if (action == MSG_ADD_RECIPIENT)
1360         {
1361 #ifdef SUPPORT_I18N
1362         if (string_is_utf8(recipient)) allow_utf8_domains = message_smtputf8 = TRUE;
1363 #endif
1364         receive_add_recipient(recipient, -1);
1365         log_write(0, LOG_MAIN, "recipient <%s> added by %s",
1366           recipient, username);
1367         }
1368       else if (action == MSG_MARK_DELIVERED)
1369         {
1370         int i;
1371         for (i = 0; i < recipients_count; i++)
1372           if (Ustrcmp(recipients_list[i].address, recipient) == 0) break;
1373         if (i >= recipients_count)
1374           {
1375           printf("- error while %s:\n  %s is not a recipient:"
1376             " message not updated\n", doing, recipient);
1377           yield = FALSE;
1378           }
1379         else
1380           {
1381           tree_add_nonrecipient(recipients_list[i].address);
1382           log_write(0, LOG_MAIN, "address <%s> marked delivered by %s",
1383             recipient, username);
1384           }
1385         }
1386       else  /* MSG_EDIT_SENDER */
1387         {
1388 #ifdef SUPPORT_I18N
1389         if (string_is_utf8(recipient)) allow_utf8_domains = message_smtputf8 = TRUE;
1390 #endif
1391         sender_address = recipient;
1392         log_write(0, LOG_MAIN, "sender address changed to <%s> by %s",
1393           recipient, username);
1394         }
1395       }
1396     }
1397
1398   if (yield)
1399     if (spool_write_header(id, SW_MODIFYING, &errmsg) >= 0)
1400       printf("has been modified\n");
1401     else
1402       {
1403       yield = FALSE;
1404       printf("- while %s: %s\n", doing, errmsg);
1405       }
1406
1407   break;
1408   }
1409
1410 /* Closing the datafile releases the lock and permits other processes
1411 to operate on the message (if it still exists). */
1412
1413 if (deliver_datafile >= 0)
1414   {
1415   (void)close(deliver_datafile);
1416   deliver_datafile = -1;
1417   }
1418 return yield;
1419 }
1420
1421
1422
1423 /*************************************************
1424 *       Check the queue_only_file condition      *
1425 *************************************************/
1426
1427 /* The queue_only_file option forces certain kinds of queueing if a given file
1428 exists.
1429
1430 Arguments:  none
1431 Returns:    nothing
1432 */
1433
1434 void
1435 queue_check_only(void)
1436 {
1437 int sep = 0;
1438 struct stat statbuf;
1439 const uschar *s;
1440 uschar *ss;
1441 uschar buffer[1024];
1442
1443 if (queue_only_file == NULL) return;
1444
1445 s = queue_only_file;
1446 while ((ss = string_nextinlist(&s, &sep, buffer, sizeof(buffer))) != NULL)
1447   {
1448   if (Ustrncmp(ss, "smtp", 4) == 0)
1449     {
1450     ss += 4;
1451     if (Ustat(ss, &statbuf) == 0)
1452       {
1453       f.queue_smtp = TRUE;
1454       DEBUG(D_receive) debug_printf("queue_smtp set because %s exists\n", ss);
1455       }
1456     }
1457   else
1458     {
1459     if (Ustat(ss, &statbuf) == 0)
1460       {
1461       queue_only = TRUE;
1462       DEBUG(D_receive) debug_printf("queue_only set because %s exists\n", ss);
1463       }
1464     }
1465   }
1466 }
1467
1468 #endif /*!COMPILE_UTILITY*/
1469
1470 /* End of queue.c */