Fix problem with smtp_max_per_host; test for completed processes before
[exim.git] / doc / doc-txt / ChangeLog
1 $Cambridge: exim/doc/doc-txt/ChangeLog,v 1.79 2005/02/16 15:24:21 ph10 Exp $
2
3 Change log file for Exim from version 4.21
4 -------------------------------------------
5
6
7 A note about Exim versions 4.44 and 4.50
8 ----------------------------------------
9
10 Exim 4.50 was meant to be the next release after 4.43. It contains a lot of
11 changes of various kinds. As a consequence, a big documentation update was
12 needed. This delayed the release for rather longer than seemed good, especially
13 in the light of a couple of (minor) security issues. Therefore, the changes
14 that fixed bugs were backported into 4.43, to create a 4.44 maintenance
15 release. So 4.44 and 4.50 are in effect two different branches that both start
16 from 4.43.
17
18 I have left the 4.50 change log unchanged; it contains all the changes since
19 4.43. The change log for 4.44 is below; many of its items are identical to
20 those for 4.50. This seems to be the most sensible way to preserve the
21 historical information.
22
23
24 Exim version 4.50
25 -----------------
26
27  1. Minor wording change to the doc/README.SIEVE file.
28
29  2. Change 4.43/35 introduced a bug: if quota_filecount was set, the
30     computation of the current number of files was incorrect.
31
32  3. Closing a stable door: arrange to panic-die if setitimer() ever fails. The
33     bug fixed in 4.43/37 would have been diagnosed quickly if this had been in
34     place.
35
36  4. Give more explanation in the error message when the command for a transport
37     filter fails to execute.
38
39  5. There are several places where Exim runs a non-Exim command in a
40     subprocess. The SIGUSR1 signal should be disabled for these processes. This
41     was being done only for the command run by the queryprogram router. It is
42     now done for all such subprocesses. The other cases are: ${run, transport
43     filters, and the commands run by the lmtp and pipe transports.
44
45  6. Added CONFIGURE_GROUP build-time option.
46
47  7. Some older OS have a limit of 256 on the maximum number of file
48     descriptors. Exim was using setrlimit() to set 1000 as a large value
49     unlikely to be exceeded. Change 4.43/17 caused a lot of logging on these
50     systems. I've change it so that if it can't get 1000, it tries for 256.
51
52  8. "control=submission" was allowed, but had no effect, in a DATA ACL. This
53     was an oversight, and furthermore, ever since the addition of extra
54     controls (e.g. 4.43/32), the checks on when to allow different forms of
55     "control" were broken. There should now be diagnostics for all cases when a
56     control that does not make sense is encountered.
57
58  9. Added the /retain_sender option to "control=submission".
59
60 10. $recipients is now available in the predata ACL (oversight).
61
62 11. Tidy the search cache before the fork to do a delivery from a message
63     received from the command line. Otherwise the child will trigger a lookup
64     failure and thereby defer the delivery if it tries to use (for example) a
65     cached ldap connection that the parent has called unbind on.
66
67 12. If verify=recipient was followed by verify=sender in a RCPT ACL, the value
68     of $address_data from the recipient verification was clobbered by the
69     sender verification.
70
71 13. The value of address_data from a sender verification is now available in
72     $sender_address_data in subsequent conditions in the ACL statement.
73
74 14. Added forbid_sieve_filter and forbid_exim_filter to the redirect router.
75
76 15. Added a new option "connect=<time>" to callout options, to set a different
77     connection timeout.
78
79 16. If FIXED_NEVER_USERS was defined, but empty, Exim was assuming the uid 0
80     was its contents. (It was OK if the option was not defined at all.)
81
82 17. A "Completed" log line is now written for messages that are removed from
83     the spool by the -Mrm option.
84
85 18. New variables $sender_verify_failure and $recipient_verify_failure contain
86     information about exactly what failed.
87
88 19. Added -dd to debug only the daemon process.
89
90 20. Incorporated Michael Haardt's patch to ldap.c for improving the way it
91     handles timeouts, both on the server side and network timeouts. Renamed the
92     CONNECT parameter as NETTIMEOUT (but kept the old name for compatibility).
93
94 21. The rare case of EHLO->STARTTLS->HELO was setting the protocol to "smtp".
95     It is now set to "smtps".
96
97 22. $host_address is now set to the target address during the checking of
98     ignore_target_hosts.
99
100 23. When checking ignore_target_hosts for an ipliteral router, no host name was
101     being passed; this would have caused $sender_host_name to have been used if
102     matching the list had actually called for a host name (not very likely,
103     since this list is usually IP addresses). A host name is now passed as
104     "[x.x.x.x]".
105
106 24. Changed the calls that set up the SIGCHLD handler in the daemon to use the
107     code that specifies a non-restarting handler (typically sigaction() in
108     modern systems) in an attempt to fix a rare and obscure crash bug.
109
110 25. Narrowed the window for a race in the daemon that could cause it to ignore
111     SIGCHLD signals. This is not a major problem, because they are used only to
112     wake it up if nothing else does.
113
114 26. A malformed maildirsize file could cause Exim to calculate negative values
115     for the mailbox size or file count. Odd effects could occur as a result.
116     The maildirsize information is now recalculated if the size or filecount
117     end up negative.
118
119 27. Added HAVE_SYS_STATVFS_H to the os.h file for Linux, as it has had this
120     support for a long time. Removed HAVE_SYS_VFS_H.
121
122 28. Installed the latest version of exipick from John Jetmore.
123
124 29. In an address list, if the pattern was not a regular expression, an empty
125     subject address (from a bounce message) matched only if the pattern was an
126     empty string. Non-empty patterns were not even tested. This was the wrong
127     because it is perfectly reasonable to use an empty address as part of a
128     database query. An empty address is now tested by patterns that are
129     lookups. However, all the other forms of pattern expect the subject to
130     contain a local part and a domain, and therefore, for them, an empty
131     address still always fails if the pattern is not itself empty.
132
133 30. Exim went into a mad DNS loop when attempting to do a callout where the
134     host was specified on an smtp transport, and looking it up yielded more
135     than one IP address.
136
137 31. Re-factored the code for checking spool and log partition space into a
138     function that finds that data and another that does the check. The former
139     is then used to implement four new variables: $spool_space, $log_space,
140     $spool_inodes, and $log_inodes.
141
142 32. The RFC2047 encoding function was originally intended for short strings
143     such as real names; it was not keeping to the 75-character limit for
144     encoded words that the RFC imposes. It now respects the limit, and
145     generates multiple encoded words if necessary. To be on the safe side, I
146     have increased the buffer size for the ${rfc2047: expansion operator from
147     1024 to 2048 bytes.
148
149 33. It is now permitted to omit both strings after an "if" condition; if the
150     condition is true, the result is "true". As before, when the second string
151     is omitted, a false condition yields an empty string. This makes it less
152     cumbersome to write custom ACL and router conditions.
153
154 34. Failure to deliver a bounce message always caused it to be frozen, even if
155     there was an errors_to setting on the router. The errors_to setting is now
156     respected.
157
158 35. If an IPv6 address is given for -bh or -bhc, it is now converted to the
159     canonical form (fully expanded) before being placed in
160     $sender_host_address.
161
162 36. The table in the code that translates DNS record types into text (T_A to
163     "A" for instance) was missing entries for NS and CNAME. It is just possible
164     that this could have caused confusion if both these types were looked up
165     for the same domain, because the text type is used as part of Exim's
166     per-process caching. But the chance of anyone hitting this buglet seems
167     very small.
168
169 37. The dnsdb lookup has been extended in a number of ways.
170
171     (1) There is a new type, "zns", which walks up the domain tree until it
172         finds some nameserver records. It should be used with care.
173
174     (2) There is a new type, "mxh", which is like "mx" except that it returns
175         just the host names, not the priorities.
176
177     (3) It is now possible to give a list of domains (or IP addresses) to be
178         looked up. The behaviour when one of the lookups defers can be
179         controlled by a keyword.
180
181     (4) It is now possible to specify the separator character for use when
182         multiple records are returned.
183
184 38. The dnslists ACL condition has been extended: it is now possible to supply
185     a list of IP addresses and/or domains to be looked up in a particular DNS
186     domain.
187
188 39. Added log_selector=+queue_time_overall.
189
190 40. When running the queue in the test harness, wait just a tad after forking a
191     delivery process, to get repeatability of debugging output.
192
193 41. Include certificate and key file names in error message when GnuTLS fails
194     to set them up, because the GnuTLS error message doesn't include the name
195     of the failing file when there is a problem reading it.
196
197 42. Allow both -bf and -bF in the same test run.
198
199 43. Did the same fix as 41 above for OpenSSL, which had the same infelicity.
200
201 44. The "Exiscan patch" is now merged into the mainline Exim source.
202
203 45. Sometimes the final signoff response after QUIT could fail to get
204     transmitted in the non-TLS case. Testing !tls_active instead of tls_active
205     < 0 before doing a fflush(). This bug looks as though it goes back to the
206     introduction of TLS in release 3.20, but "sometimes" must have been rare
207     because the tests only now provoked it.
208
209 46. Reset the locale to "C" after calling embedded Perl, in case it was changed
210     (this can affect the format of dates).
211
212 47. exim_tidydb, when checking for the continued existence of a message for
213     which it has found a message-specific retry record, was not finding
214     messages that were in split spool directories. Consequently, it was
215     deleting retry records that should have stayed in existence.
216
217 48. Steve fixed some bugs in eximstats.
218
219 49. The SPA authentication driver was not abandoning authentication and moving
220     on to the next authenticator when an expansion was forced to fail,
221     contradicting the general specification for all authenticators. Instead it
222     was generating a temporary error. It now behaves as specified.
223
224 50. The default ordering of permitted cipher suites for GnuTLS was pessimal
225     (the order specifies the preference for clients). The order is now AES256,
226     AES128, 3DES, ARCFOUR128.
227
228 51. Small patch to Sieve code - explicitly set From: when generating an
229     autoreply.
230
231 52. Exim crashed if a remote delivery caused a very long error message to be
232     recorded - for instance if somebody sent an entire SpamAssassin report back
233     as a large number of 550 error lines. This bug was coincidentally fixed by
234     increasing the size of one of Exim's internal buffers (big_buffer) that
235     happened as part of the Exiscan merge. However, to be on the safe side, I
236     have made the code more robust (and fixed the comments that describe what
237     is going on).
238
239 53. Now that there can be additional text after "Completed" in log lines (if
240     the queue_time_overall log selector is set), a one-byte patch to exigrep
241     was needed to allow it to recognize "Completed" as not the last thing in
242     the line.
243
244 54. The LDAP lookup was not handling a return of LDAP_RES_SEARCH_REFERENCE. A
245     patch that reportedly fixes this has been added. I am not expert enough to
246     create a test for it. This is what the patch creator wrote:
247
248       "I found a little strange behaviour of ldap code when working with
249       Windows 2003 AD Domain, where users was placed in more than one
250       Organization Units. When I tried to give exim partial DN, the exit code
251       of ldap_search was unknown to exim because of LDAP_RES_SEARCH_REFERENCE.
252       But simultaneously result of request was absolutely normal ldap result,
253       so I produce this patch..."
254
255     Later: it seems that not all versions of LDAP support LDAP_RES_SEARCH_
256     REFERENCE, so I have modified the code to exclude the patch when that macro
257     is not defined.
258
259 55. Some experimental protocols are using DNS PTR records for new purposes. The
260     keys for these records are domain names, not reversed IP addresses. The
261     dnsdb PTR lookup now tests whether its key is an IP address. If not, it
262     leaves it alone. Component reversal etc. now happens only for IP addresses.
263     CAN-2005-0021
264
265 56. Improve error message when ldap_search() fails in OpenLDAP or Solaris LDAP.
266
267 57. Double the size of the debug message buffer (to 2048) so that more of very
268     long debug lines gets shown.
269
270 58. The exicyclog utility now does better if the number of log files to keep
271     exceeds 99. In this case, it numbers them 001, 002 ... instead of 01, 02...
272
273 59. Two changes related to the smtp_active_hostname option:
274
275       (1) $smtp_active_hostname is now available as a variable.
276       (2) The default for smtp_banner uses $smtp_active_hostname instead
277           of $primary_hostname.
278
279 60. The host_aton() function is supposed to be passed a string that is known
280     to be a valid IP address. However, in the case of IPv6 addresses, it was
281     not checking this. This is a hostage to fortune. Exim now panics and dies
282     if the condition is not met. A case was found where this could be provoked
283     from a dnsdb PTR lookup with an IPv6 address that had more than 8
284     components; fortuitously, this particular loophole had already been fixed
285     by change 4.50/55 above.
286
287     If there are any other similar loopholes, the new check in host_aton()
288     itself should stop them being exploited. The report I received stated that
289     data on the command line could provoke the exploit when Exim was running as
290     exim, but did not say which command line option was involved. All I could
291     find was the use of -be with a bad dnsdb PTR lookup, and in that case it is
292     running as the user.
293     CAN-2005-0021
294
295 61. There was a buffer overflow vulnerability in the SPA authentication code
296     (which came originally from the Samba project). I have added a test to the
297     spa_base64_to_bits() function which I hope fixes it.
298     CAN-2005-0022
299
300 62. Configuration update for GNU/Hurd and variations. Updated Makefile-GNU and
301     os.h-GNU, and added configuration files for GNUkFreeBSD and GNUkNetBSD.
302
303 63. The daemon start-up calls getloadavg() while still root for those OS that
304     need the first call to be done as root, but it missed one case: when
305     deliver_queue_load_max is set with deliver_drop_privilege. This is
306     necessary for the benefit of the queue runner, because there is no re-exec
307     when deliver_drop_privilege is set.
308
309 64. A call to exiwhat cut short delays set up by "delay" modifiers in ACLs.
310     This has been fixed.
311
312 65. Caching of lookup data for "hosts =" ACL conditions, when a named host list
313     was in use, was not putting the data itself into the right store pool;
314     consequently, it could be overwritten for a subsequent message in the same
315     SMTP connection. (Fix 4.40/11 dealt with the non-cache case, but overlooked
316     the caching.)
317
318 66. Added hosts_max_try_hardlimit to the smtp transport, default 50.
319
320 67. The string_is_ip_address() function returns 0, 4, or 6, for "no an IP
321     address", "IPv4 address", and "IPv6 address", respectively. Some calls of
322     the function were treating the return as a boolean value, which happened to
323     work because 0=false and not-0=true, but is not correct code.
324
325 68. The host_aton() function was not handling scoped IPv6 addresses (those
326     with, for example, "%eth0" on the end) correctly.
327
328 69. Fixed some compiler warnings in acl.c for the bitmaps specified with
329     negated items (that is, ~something) in unsigned ints. Some compilers
330     apparently mutter when there is no cast.
331
332 70. If an address verification called from an ACL failed, and did not produce a
333     user-specific message (i.e. there was only a "system" message), nothing was
334     put in $acl_verify_message. In this situation, it now puts the system
335     message there.
336
337 71. Change 4.23/11 added synchronization checking at the start of an SMTP
338     session; change 4.31/43 added the unwanted input to the log line - except
339     that it did not do this in the start of session case. It now does.
340
341 72. After a timeout in a callout SMTP session, Exim still sent a QUIT command.
342     This is wrong and can cause the other end to generate a synchronization
343     error if it is another Exim or anything else that does the synchronization
344     check. A QUIT command is no longer sent after a timeout.
345
346 73. $host_lookup_deferred has been added, to make it easier to detect DEFERs
347     during host lookups.
348
349 74. The defer_ok option of callout verification was not working if it was used
350     when verifying addresses in header lines, that is, for this case:
351
352       verify = header_sender/callout=defer_ok
353
354 75. A backgrounded daemon closed stdin/stdout/stderr on entry; this meant that
355     those file descriptors could be used for SMTP connections. If anything
356     wrote to stderr (the example that came up was "warn" in embedded Perl), it
357     could be sent to the SMTP client, causing chaos. The daemon now opens
358     stdin, stdout, and stderr to /dev/null when it puts itself into the
359     background.
360
361 76. Arrange for output from Perl's "warn" command to be written to Exim's main
362     log by default. The user can override this with suitable Perl magic.
363
364 77. The use of log_message on a "discard" ACL verb, which is supposed to add to
365     the log message when discard triggers, was not working for the DATA ACL or
366     for the non-SMTP ACL.
367
368 78. Error message wording change in sieve.c.
369
370 79. If smtp_accept_max_per_host was set, the number of connections could be
371     restricted to fewer than expected, because the daemon was trying to set up
372     a new connection before checking whether the processes handling previous
373     connections had finished. The check for completed processes is now done
374     earlier. On busy systems, this bug wouldn't be noticed because something
375     else would have woken the daemon, and it would have reaped the completed
376     process earlier.
377
378
379 ----------------------------------------------------
380 See the note above about the 4.44 and 4.50 releases.
381 ----------------------------------------------------
382
383
384 Exim version 4.44
385 -----------------
386
387  1. Change 4.43/35 introduced a bug that caused file counts to be
388     incorrectly computed when quota_filecount was set in an appendfile
389     transport
390
391  2. Closing a stable door: arrange to panic-die if setitimer() ever fails. The
392     bug fixed in 4.43/37 would have been diagnosed quickly if this had been in
393     place.
394
395  3. Give more explanation in the error message when the command for a transport
396     filter fails to execute.
397
398  4. There are several places where Exim runs a non-Exim command in a
399     subprocess. The SIGUSR1 signal should be disabled for these processes. This
400     was being done only for the command run by the queryprogram router. It is
401     now done for all such subprocesses. The other cases are: ${run, transport
402     filters, and the commands run by the lmtp and pipe transports.
403
404  5. Some older OS have a limit of 256 on the maximum number of file
405     descriptors. Exim was using setrlimit() to set 1000 as a large value
406     unlikely to be exceeded. Change 4.43/17 caused a lot of logging on these
407     systems. I've change it so that if it can't get 1000, it tries for 256.
408
409  6. "control=submission" was allowed, but had no effect, in a DATA ACL. This
410     was an oversight, and furthermore, ever since the addition of extra
411     controls (e.g. 4.43/32), the checks on when to allow different forms of
412     "control" were broken. There should now be diagnostics for all cases when a
413     control that does not make sense is encountered.
414
415  7. $recipients is now available in the predata ACL (oversight).
416
417  8. Tidy the search cache before the fork to do a delivery from a message
418     received from the command line. Otherwise the child will trigger a lookup
419     failure and thereby defer the delivery if it tries to use (for example) a
420     cached ldap connection that the parent has called unbind on.
421
422  9. If verify=recipient was followed by verify=sender in a RCPT ACL, the value
423     of $address_data from the recipient verification was clobbered by the
424     sender verification.
425
426 10. If FIXED_NEVER_USERS was defined, but empty, Exim was assuming the uid 0
427     was its contents. (It was OK if the option was not defined at all.)
428
429 11. A "Completed" log line is now written for messages that are removed from
430     the spool by the -Mrm option.
431
432 12. $host_address is now set to the target address during the checking of
433     ignore_target_hosts.
434
435 13. When checking ignore_target_hosts for an ipliteral router, no host name was
436     being passed; this would have caused $sender_host_name to have been used if
437     matching the list had actually called for a host name (not very likely,
438     since this list is usually IP addresses). A host name is now passed as
439     "[x.x.x.x]".
440
441 14. Changed the calls that set up the SIGCHLD handler in the daemon to use the
442     code that specifies a non-restarting handler (typically sigaction() in
443     modern systems) in an attempt to fix a rare and obscure crash bug.
444
445 15. Narrowed the window for a race in the daemon that could cause it to ignore
446     SIGCHLD signals. This is not a major problem, because they are used only to
447     wake it up if nothing else does.
448
449 16. A malformed maildirsize file could cause Exim to calculate negative values
450     for the mailbox size or file count. Odd effects could occur as a result.
451     The maildirsize information is now recalculated if the size or filecount
452     end up negative.
453
454 17. Added HAVE_SYS_STATVFS_H to the os.h file for Linux, as it has had this
455     support for a long time. Removed HAVE_SYS_VFS_H.
456
457 18. Updated exipick to current release from John Jetmore.
458
459 19. Allow an empty sender to be matched against a lookup in an address list.
460     Previously the only cases considered were a regular expression, or an
461     empty pattern.
462
463 20. Exim went into a mad DNS lookup loop when doing a callout where the
464     host was specified on the transport, if the DNS lookup yielded more than
465     one IP address.
466
467 21. The RFC2047 encoding function was originally intended for short strings
468     such as real names; it was not keeping to the 75-character limit for
469     encoded words that the RFC imposes. It now respects the limit, and
470     generates multiple encoded words if necessary. To be on the safe side, I
471     have increased the buffer size for the ${rfc2047: expansion operator from
472     1024 to 2048 bytes.
473
474 22. Failure to deliver a bounce message always caused it to be frozen, even if
475     there was an errors_to setting on the router. The errors_to setting is now
476     respected.
477
478 23. If an IPv6 address is given for -bh or -bhc, it is now converted to the
479     canonical form (fully expanded) before being placed in
480     $sender_host_address.
481
482 24. Updated eximstats to version 1.33
483
484 25. Include certificate and key file names in error message when GnuTLS fails
485     to set them up, because the GnuTLS error message doesn't include the name
486     of the failing file when there is a problem reading it.
487
488 26. Expand error message when OpenSSL has problems setting up cert/key files.
489     As per change 25.
490
491 27. Reset the locale to "C" after calling embedded Perl, in case it was changed
492     (this can affect the format of dates).
493
494 28. exim_tidydb, when checking for the continued existence of a message for
495     which it has found a message-specific retry record, was not finding
496     messages that were in split spool directories. Consequently, it was
497     deleting retry records that should have stayed in existence.
498
499 29. eximstats updated to version 1.35
500     1.34 - allow eximstats to parse syslog lines as well as mainlog lines
501     1.35 - bugfix such that pie charts by volume are generated correctly
502
503 30. The SPA authentication driver was not abandoning authentication and moving
504     on to the next authenticator when an expansion was forced to fail,
505     contradicting the general specification for all authenticators. Instead it
506     was generating a temporary error. It now behaves as specified.
507
508 31. The default ordering of permitted cipher suites for GnuTLS was pessimal
509     (the order specifies the preference for clients). The order is now AES256,
510     AES128, 3DES, ARCFOUR128.
511
512 31. Small patch to Sieve code - explicitly set From: when generating an
513     autoreply.
514
515 32. Exim crashed if a remote delivery caused a very long error message to be
516     recorded - for instance if somebody sent an entire SpamAssassin report back
517     as a large number of 550 error lines. This bug was coincidentally fixed by
518     increasing the size of one of Exim's internal buffers (big_buffer) that
519     happened as part of the Exiscan merge. However, to be on the safe side, I
520     have made the code more robust (and fixed the comments that describe what
521     is going on).
522
523 33. Some experimental protocols are using DNS PTR records for new purposes. The
524     keys for these records are domain names, not reversed IP addresses. The
525     dnsdb PTR lookup now tests whether its key is an IP address. If not, it
526     leaves it alone. Component reversal etc. now happens only for IP addresses.
527     CAN-2005-0021
528
529 34. The host_aton() function is supposed to be passed a string that is known
530     to be a valid IP address. However, in the case of IPv6 addresses, it was
531     not checking this. This is a hostage to fortune. Exim now panics and dies
532     if the condition is not met. A case was found where this could be provoked
533     from a dnsdb PTR lookup with an IPv6 address that had more than 8
534     components; fortuitously, this particular loophole had already been fixed
535     by change 4.50/55 or 4.44/33 above.
536
537     If there are any other similar loopholes, the new check in host_aton()
538     itself should stop them being exploited. The report I received stated that
539     data on the command line could provoke the exploit when Exim was running as
540     exim, but did not say which command line option was involved. All I could
541     find was the use of -be with a bad dnsdb PTR lookup, and in that case it is
542     running as the user.
543     CAN-2005-0021
544
545 35. There was a buffer overflow vulnerability in the SPA authentication code
546     (which came originally from the Samba project). I have added a test to the
547     spa_base64_to_bits() function which I hope fixes it.
548     CAN-2005-0022
549
550 36. The daemon start-up calls getloadavg() while still root for those OS that
551     need the first call to be done as root, but it missed one case: when
552     deliver_queue_load_max is set with deliver_drop_privilege. This is
553     necessary for the benefit of the queue runner, because there is no re-exec
554     when deliver_drop_privilege is set.
555
556 37. Caching of lookup data for "hosts =" ACL conditions, when a named host list
557     was in use, was not putting the data itself into the right store pool;
558     consequently, it could be overwritten for a subsequent message in the same
559     SMTP connection. (Fix 4.40/11 dealt with the non-cache case, but overlooked
560     the caching.)
561
562 38. Sometimes the final signoff response after QUIT could fail to get
563     transmitted in the non-TLS case. Testing !tls_active instead of tls_active
564     < 0 before doing a fflush(). This bug looks as though it goes back to the
565     introduction of TLS in release 3.20, but "sometimes" must have been rare
566     because the tests only now provoked it.
567
568
569 Exim version 4.43
570 -----------------
571
572  1. Fixed a longstanding but relatively impotent bug: a long time ago, before
573     PIPELINING, the function smtp_write_command() used to return TRUE or FALSE.
574     Now it returns an integer. A number of calls were still expecting a T/F
575     return. Fortuitously, in all cases, the tests worked in OK situations,
576     which is the norm. However, things would have gone wrong on any write
577     failures on the smtp file descriptor. This function is used when sending
578     messages over SMTP and also when doing verify callouts.
579
580  2. When Exim is called to do synchronous delivery of a locally submitted
581     message (the -odf or -odi options), it no longer closes stderr before doing
582     the delivery.
583
584  3. Implemented the mua_wrapper option.
585
586  4. Implemented mx_fail_domains and srv_fail_domains for the dnslookup router.
587
588  5. Implemented the functions header_remove(), header_testname(),
589     header_add_at_position(), and receive_remove_recipient(), and exported them
590     to local_scan().
591
592  6. If an ACL "warn" statement specified the addition of headers, Exim already
593     inserted X-ACL-Warn: at the start if there was no header name. However, it
594     was not making this test for the second and subsequent header lines if
595     there were newlines in the string. This meant that an invalid header could
596     be inserted if Exim was badly configured.
597
598  7. Allow an ACL "warn" statement to add header lines at the start or after all
599     the Received: headers, as well as at the end.
600
601  8. Added the rcpt_4xx retry error code.
602
603  9. Added postmaster_mailfrom=xxx to callout verification option.
604
605 10. Added mailfrom=xxxx to the callout verification option, for verify=
606     header_sender only.
607
608 11. ${substr_1_:xxxx} and ${substr__3:xxxx} are now diagnosed as syntax errors
609     (they previously behaved as ${substr_1_0:xxxx} and ${substr:_0_3:xxxx}).
610
611 12. Inserted some casts to stop certain compilers warning when using pointer
612     differences as field lengths or precisions in printf-type calls (mostly
613     affecting debugging statements).
614
615 13. Added optional readline() support for -be (dynamically loaded).
616
617 14. Obscure bug fix: if a message error (e.g. 4xx to MAIL) happened within the
618     same clock tick as a message's arrival, so that its received time was the
619     same as the "first fail" time on the retry record, and that message
620     remained on the queue past the ultimate address timeout, every queue runner
621     would try a delivery (because it was past the ultimate address timeout) but
622     after another failure, the ultimate address timeout, which should have then
623     bounced the address, did not kick in. This was a "< instead of <=" error;
624     in most cases the first failure would have been in the next clock tick
625     after the received time, and all would be well.
626
627 15. The special items beginning with @ in domain lists (e.g. @mx_any) were not
628     being recognized when the domain list was tested by the match_domain
629     condition in an expansion string.
630
631 16. Added the ${str2b64: operator.
632
633 17. Exim was always calling setrlimit() to set a large limit for the number of
634     processes, without checking whether the existing limit was already
635     adequate. (It did check for the limit on file descriptors.) Furthermore,
636     errors from getrlimit() and setrlimit() were being ignored. Now they are
637     logged to the main and panic logs, but Exim does carry on, to try to do its
638     job under whatever limits there are.
639
640 18. Imported PCRE 5.0.
641
642 19. Trivial typo in log message " temporarily refused connection" (the leading
643     space).
644
645 20. If the log selector return_path_on_delivery was set and an address was
646     redirected to /dev/null, the delivery process crashed because it assumed
647     that a return path would always be set for a "successful" delivery. In this
648     case, the whole delivery is bypassed as an optimization, and therefore no
649     return path is set.
650
651 21. Internal re-arrangement: the function for sending a challenge and reading
652     a response while authentication was assuming a zero-terminated challenge
653     string. It's now changed to take a pointer and a length, to allow for
654     binary data in such strings.
655
656 22. Added the cyrus_sasl authenticator (code supplied by MBM).
657
658 23. Exim was not respecting finduser_retries when seeking the login of the
659     uid under which it was called; it was always trying 10 times. (The default
660     setting of finduser_retries is zero.) Also, it was sleeping after the final
661     failure, which is pointless.
662
663 24. Implemented tls_on_connect_ports.
664
665 25. Implemented acl_smtp_predata.
666
667 26. If the domain in control=submission is set empty, Exim assumes that the
668     authenticated id is a complete email address when it generates From: or
669     Sender: header lines.
670
671 27. Added "#define SOCKLEN_T int" to OS/os.h-SCO and OS/os.h-SCO_SV. Also added
672     definitions to OS/Makefile-SCO and OS/Makefile-SCO_SV that put basename,
673     chown and chgrp in /bin and hostname in /usr/bin.
674
675 28. Exim was keeping the "process log" file open after each use, just as it
676     does for the main log. This opens the possibility of it remaining open for
677     long periods when the USR1 signal hits a daemon. Occasional processlog
678     errors were reported, that could have been caused by this. Anyway, it seems
679     much more sensible not to leave this file open at all, so that is what now
680     happens.
681
682 29. The long-running daemon process does not normally write to the log once it
683     has entered its main loop, and it closes the log before doing so. This is
684     so that log files can straightforwardly be renamed and moved. However,
685     there are a couple of unusual error situations where the daemon does write
686     log entries, and I had neglected to close the log afterwards.
687
688 30. The text of an SMTP error response that was received during a remote
689     delivery was being truncated at 512 bytes. This is too short for some of
690     the long messages that one sometimes sees. I've increased the limit to
691     1024.
692
693 31. It is now possible to make retry rules that apply only when a message has a
694     specific sender, in particular, an empty sender.
695
696 32. Added "control = enforce_sync" and "control = no_enforce_sync". This makes
697     it possible to be selective about when SMTP synchronization is enforced.
698
699 33. Added "control = caseful_local_part" and "control = "caselower_local_part".
700
701 32. Implemented hosts_connection_nolog.
702
703 33. Added an ACL for QUIT.
704
705 34. Setting "delay_warning=" to disable warnings was not working; it gave a
706     syntax error.
707
708 35. Added mailbox_size and mailbox_filecount to appendfile.
709
710 36. Added control = no_multiline_responses to ACLs.
711
712 37. There was a bug in the logic of the code that waits for the clock to tick
713     in the case where the clock went backwards by a substantial amount such
714     that the microsecond fraction of "now" was more than the microsecond
715     fraction of "then" (but the whole seconds number was less).
716
717 38. Added support for the libradius Radius client library this is found on
718     FreeBSD (previously only the radiusclient library was supported).
719
720
721 Exim version 4.42
722 -----------------
723
724  1. When certain lookups returned multiple values in the form name=value, the
725     quoting of the values was not always being done properly. Specifically:
726     (a) If the value started with a double quote, but contained no whitespace,
727         it was not quoted.
728     (b) If the value contained whitespace other than a space character (i.e.
729         tabs or newlines or carriage returns) it was not quoted.
730     This fix has been applied to the mysql and pgsql lookups by writing a
731     separate quoting function and calling it from the lookup code. The fix
732     should probably also be applied to nisplus, ibase and oracle lookups, but
733     since I cannot test any of those, I have not disturbed their existing code.
734
735  2. A hit in the callout cache for a specific address caused a log line with no
736     reason for rejecting RCPT. Now it says "Previous (cached) callout
737     verification failure".
738
739  3. There was an off-by-one bug in the queryprogram router. An over-long
740     return line was truncated at 256 instead of 255 characters, thereby
741     overflowing its buffer with the terminating zero. As well as fixing this, I
742     have increased the buffer size to 1024 (and made a note to document this).
743
744  4. If an interrupt, such as the USR1 signal that is send by exiwhat, arrives
745     when Exim is waiting for an SMTP response from a remote server, Exim
746     restarts its select() call on the socket, thereby resetting its timeout.
747     This is not a problem when such interrupts are rare. Somebody set up a cron
748     job to run exiwhat every 2 minutes, which is less than the normal select()
749     timeout (5 or 10 minutes). This meant that the select() timeout never
750     kicked in because it was always reset. I have fixed this by comparing the
751     time when an interrupt arrives with the time at the start of the first call
752     to select(). If more time than the timeout has elapsed, the interrupt is
753     treated as a timeout.
754
755  5. Some internal re-factoring in preparation for the addition of Sieve
756     extensions (by MH). In particular, the "personal" test is moved to a
757     separate function, and given an option for scanning Cc: and Bcc: (which is
758     not set for Exim filters).
759
760  6. When Exim created an email address using the login of the caller as the
761     local part (e.g. when creating a From: or Sender: header line), it was not
762     quoting the local part when it contained special characters such as @.
763
764  7. Installed new OpenBSD configuration files.
765
766  8. Reworded some messages for syntax errors in "and" and "or" conditions to
767     try to make them clearer.
768
769  9. Callout options, other than the timeout value, were being ignored when
770     verifying sender addresses in header lines. For example, when using
771
772       verify = header_sender/callout=no_cache
773
774     the cache was (incorrectly) being used.
775
776 10. Added a missing instance of ${EXE} to the exim_install script; this affects
777     only the Cygwin environment.
778
779 11. When return_path_on_delivery was set as a log selector, if different remote
780     addresses in the same message used different return paths and parallel
781     remote delivery occurred, the wrong values would sometimes be logged.
782     (Whenever a remote delivery process finished, the return path value from
783     the most recently started remote delivery process was logged.)
784
785 12. RFC 3848 specifies standard names for the "with" phrase in Received: header
786     lines when AUTH and/or TLS are in use. This is the "received protocol"
787     field. Exim used to use "asmtp" for authenticated SMTP, without any
788     indication (in the protocol name) for TLS use. Now it follows the RFC and
789     uses "esmtpa" if the connection is authenticated, "esmtps" if it is
790     encrypted, and "esmtpsa" if it is both encrypted and authenticated. These
791     names appear in log lines as well as in Received: header lines.
792
793 13. Installed MH's patches for Sieve to add the "copy" and "vacation"
794     extensions, and comparison tests, and to fix some bugs.
795
796 14. Changes to the "personal" filter test:
797
798     (1) The test was buggy in that it was just doing the equivalent of
799     "contains" tests on header lines. For example, if a user's address was
800     anne@some.where, the "personal" test would incorrectly be true for
801
802       To: susanne@some.where
803
804     This test is now done by extracting each address from the header in turn,
805     and checking the entire address. Other tests that are part of "personal"
806     are now done using regular expressions (for example, to check local parts
807     of addresses in From: header lines).
808
809     (2) The list of non-personal local parts in From: addresses has been
810     extended to include "listserv", "majordomo", "*-request", and "owner-*",
811     taken from the Sieve specification recommendations.
812
813     (3) If the message contains any header line starting with "List-" it is
814     treated as non-personal.
815
816     (4) The test for "circular" in the Subject: header line has been removed
817     because it now seems ill-conceived.
818
819 15. Minor typos in src/EDITME comments corrected.
820
821 16. Installed latest exipick from John Jetmore.
822
823 17. If headers_add on a router specified a text string that was too long for
824     string_sprintf() - that is, longer than 8192 bytes - Exim panicked. The use
825     of string_sprintf() is now avoided.
826
827 18. $message_body_size was not set (it was always zero) when running the DATA
828     ACL and the local_scan() function.
829
830 19. For the "mail" command in an Exim filter, no default was being set for
831     the once_repeat time, causing a random time value to be used if "once" was
832     specified. (If the value happened to be <= 0, no repeat happened.) The
833     default is now 0s, meaning "never repeat". The "vacation" command was OK
834     (its default is 7d). It's somewhat surprising nobody ever noticed this bug
835     (I found it when inspecting the code).
836
837 20. There is now an overall timeout for performing a callout verification. It
838     defaults to 4 times the callout timeout, which applies to individual SMTP
839     commands during the callout. The overall timeout applies when there is more
840     than one host that can be tried. The timeout is checked before trying the
841     next host. This prevents very long delays if there are a large number of
842     hosts and all are timing out (e.g. when the network connections are timing
843     out). The value of the overall timeout can be changed by specifying an
844     additional sub-option for "callout", called "maxwait". For example:
845
846       verify = sender/callout=5s,maxwait=20s
847
848 21. Add O_APPEND to the open() call for maildirsize files (Exim already seeks
849     to the end before writing, but this should make it even safer).
850
851 22. Exim was forgetting that it had advertised PIPELINING for the second and
852     subsequent messages on an SMTP connection. It was also not resetting its
853     memory on STARTTLS and an internal HELO.
854
855 23. When Exim logs an SMTP synchronization error within a session, it now
856     records whether PIPELINING has been advertised or not.
857
858 24. Added 3 instances of "(long int)" casts to time_t variables that were being
859     formatted using %ld, because on OpenBSD (and perhaps others), time_t is int
860     rather than long int.
861
862 25. Installed the latest Cygwin configuration files from the Cygwin maintainer.
863
864 26. Added the never_mail option to autoreply.
865
866
867 Exim version 4.41
868 -----------------
869
870  1. A reorganization of the code in order to implement 4.40/8 caused a daemon
871     crash if the getsockname() call failed; this can happen if a connection is
872     closed very soon after it is established. The problem was simply in the
873     order in which certain operations were done, causing Exim to try to write
874     to the SMTP stream before it had set up the file descriptor. The bug has
875     been fixed by making things happen in the correct order.
876
877
878 Exim version 4.40
879 -----------------
880
881  1. If "drop" was used in a DATA ACL, the SMTP output buffer was not flushed
882     before the connection was closed, thus losing the rejection response.
883
884  2. Commented out the definition of SOCKLEN_T in os.h-SunOS5. It is needed for
885     some early Solaris releases, but causes trouble in current releases where
886     socklen_t is defined.
887
888  3. When std{in,out,err} are closed, re-open them to /dev/null so that they
889     always exist.
890
891  4. Minor refactoring of os.c-Linux to avoid compiler warning when IPv6 is not
892     configured.
893
894  5. Refactoring in expand.c to improve memory usage. Pre-allocate a block so
895     that releasing the top of it at the end releases what was used for sub-
896     expansions (unless the block got too big). However, discard this block if
897     the first thing is a variable or header, so that we can use its block when
898     it is dynamic (useful for very large $message_headers, for example).
899
900  6. Lookups now cache *every* query, not just the most recent. A new, separate
901     store pool is used for this. It can be recovered when all lookup caches are
902     flushed. Lookups now release memory at the end of their result strings.
903     This has involved some general refactoring of the lookup sources.
904
905  7. Some code has been added to the store_xxx() functions to reduce the amount
906     of flapping under certain conditions.
907
908  8. log_incoming_interface used to affect only the <= reception log lines. Now
909     it causes the local interface and port to be added to several more SMTP log
910     lines, for example "SMTP connection from", and rejection lines.
911
912  9. The Sieve author supplied some patches for the doc/README.SIEVE file.
913
914 10. Added a conditional definition of _BSD_SOCKLEN_T to os.h-Darwin.
915
916 11. If $host_data was set by virtue of a hosts lookup in an ACL, its value
917     could be overwritten at the end of the current message (or the start of a
918     new message if it was set in a HELO ACL). The value is now preserved for
919     the duration of the SMTP connection.
920
921 12. If a transport had a headers_rewrite setting, and a matching header line
922     contained an unqualified address, that address was qualified, even if it
923     did not match any rewriting rules. The underlying bug was that the values
924     of the flags that permit the existence of unqualified sender and recipient
925     addresses in header lines (set by {sender,recipient}_unqualified_hosts for
926     non-local messages, and by -bnq for local messages) were not being
927     preserved with the message after it was received.
928
929 13. When Exim was logging an SMTP synchronization error, it could sometimes log
930     "next input=" as part of the text comprising the host identity instead of
931     the correct text. The code was using the same buffer for two different
932     strings. However, depending on which order the printing function evaluated
933     its arguments, the bug did not always show up. Under Linux, for example, my
934     test suite worked just fine.
935
936 14. Exigrep contained a use of Perl's "our" scoping after change 4.31/70. This
937     doesn't work with some older versions of Perl. It has been changed to "my",
938     which in any case is probably the better facility to use.
939
940 15. A really picky compiler found some instances of statements for creating
941     error messages that either had too many or two few arguments for the format
942     string.
943
944 16. The size of the buffer for calls to the DNS resolver has been increased
945     from 1024 to 2048. A larger buffer is needed when performing PTR lookups
946     for addresses that have a lot of PTR records. This alleviates a problem; it
947     does not fully solve it.
948
949 17. A dnsdb lookup for PTR records that receives more data than will fit in the
950     buffer now truncates the list and logs the incident, which is the same
951     action as happens when Exim is looking up a host name and its aliases.
952     Previously in this situation something unpredictable would happen;
953     sometimes it was "internal error: store_reset failed".
954
955 18. If a server dropped the connection unexpectedly when an Exim client was
956     using GnuTLS and trying to read a response, the client delivery process
957     crashed while trying to generate an error log message.
958
959 19. If a "warn" verb in an ACL added multiple headers to a message in a single
960     string, for example:
961
962       warn message = H1: something\nH2: something
963
964     the text was added as a single header line from Exim's point of view
965     though it ended up OK in the delivered message. However, searching for the
966     second and subsequent header lines using $h_h2: did not work. This has been
967     fixed. Similarly, if a system filter added multiple headers in this way,
968     the routers could not see them.
969
970 20. Expanded the error message when iplsearch is called with an invalid key to
971     suggest using net-iplsearch in a host list.
972
973 21. When running tests using -bh, any delays imposed by "delay" modifiers in
974     ACLs are no longer actually imposed (and a message to that effect is
975     output).
976
977 22. If a "gecos" field in a passwd entry contained escaped characters, in
978     particular, if it contained a \" sequence, Exim got it wrong when building
979     a From: or a Sender: header from that name. A second bug also caused
980     incorrect handling when an unquoted " was present following a character
981     that needed quoting.
982
983 23. "{crypt}" as a password encryption mechanism for a "crypteq" expansion item
984     was not being matched caselessly.
985
986 24. Arranged for all hyphens in the exim.8 source to be escaped with
987     backslashes.
988
989 25. Change 16 of 4.32, which reversed 71 or 4.31 didn't quite do the job
990     properly. Recipient callout cache records were still being keyed to include
991     the sender, even when use_sender was set false. This led to far more
992     callouts that were necessary. The sender is no longer included in the key
993     when use_sender is false.
994
995 26. Added "control = submission" modifier to ACLs.
996
997 27. Added the ${base62d: operator to decode base 62 numbers.
998
999 28. dnsdb lookups can now access SRV records.
1000
1001 29. CONFIGURE_OWNER can be set at build time to define an alternative owner for
1002     the configuration file.
1003
1004 30. The debug message "delivering xxxxxx-xxxxxx-xx" is now output in verbose
1005     (-v) mode. This makes the output for a verbose queue run more intelligible.
1006
1007 31. Added a use_postmaster feature to recipient callouts.
1008
1009 32. Added the $body_zerocount variable, containing the number of binary zero
1010     bytes in the message body.
1011
1012 33. The time of last modification of the "new" subdirectory is now used as the
1013     "mailbox time last read" when there is a quota error for a maildir
1014     delivery.
1015
1016 34. Added string comparison operators lt, lti, le, lei, gt, gti, ge, gei.
1017
1018 35. Added +ignore_unknown as a special item in host lists.
1019
1020 36. Code for decoding IPv6 addresses in host lists is now included, even if
1021     IPv6 support is not being compiled. This fixes a bug in which an IPv6
1022     address was recognized as an IP address, but was then not correctly decoded
1023     into binary, causing unexpected and incorrect effects when compared with
1024     another IP address.
1025
1026
1027 Exim version 4.34
1028 -----------------
1029
1030  1. Very minor rewording of debugging text in manualroute to say "list of
1031     hosts" instead of "hostlist".
1032
1033  2. If verify=header_syntax was set, and a header line with an unqualified
1034     address (no domain) and a large number of spaces between the end of the
1035     name and the colon was received, the reception process suffered a buffer
1036     overflow, and (when I tested it) crashed. This was caused by some obsolete
1037     code that should have been removed. The fix is to remove it!
1038
1039  3. When running in the test harness, delay a bit after writing a bounce
1040     message to get a bit more predictability in the log output.
1041
1042  4. Added a call to search_tidyup() just before forking a reception process. In
1043     theory, someone could use a lookup in the expansion of smtp_accept_max_
1044     per_host which, without the tidyup, could leave open a database connection.
1045
1046  5. Added the variables $recipient_data and $sender_data which get set from a
1047     lookup success in an ACL "recipients" or "senders" condition, or a router
1048     "senders" option, similar to $domain_data and $local_part_data.
1049
1050  6. Moved the writing of debug_print from before to after the "senders" test
1051     for routers.
1052
1053  7. Change 4.31/66 (moving the time when the Received: is generated) caused
1054     problems for message scanning, either using a data ACL, or using
1055     local_scan() because the Received: header was not generated till after they
1056     were called (in order to set the time as the time of reception completion).
1057     I have revised the way this works. The header is now generated after the
1058     body is received, but before the ACL or local_scan() are called. After they
1059     are run, the timestamp in the header is updated.
1060
1061
1062 Exim version 4.33
1063 -----------------
1064
1065  1. Change 4.24/6 introduced a bug because the SIGALRM handler was disabled
1066     before starting a queue runner without re-exec. This happened only when
1067     deliver_drop_privilege was set or when the Exim user was set to root. The
1068     effect of the bug was that timeouts during subsequent deliveries caused
1069     crashes instead of being properly handled. The handler is now left at its
1070     default (and expected) setting.
1071
1072  2. The other case in which a daemon avoids a re-exec is to deliver an incoming
1073     message, again when deliver_drop_privilege is set or Exim is run as root.
1074     The bug described in (1) was not present in this case, but the tidying up
1075     of the other signals was missing. I have made the two cases consistent.
1076
1077  3. The ignore_target_hosts setting on a manualroute router was being ignored
1078     for hosts that were looked up using the /MX notation.
1079
1080  4. Added /ignore=<ip list> feature to @mx_any, @mx_primary, and @mx_secondary
1081     in domain lists.
1082
1083  5. Change 4.31/55 was buggy, and broke when there was a rewriting rule that
1084     operated on the sender address. After changing the $sender_address to <>
1085     for the sender address verify, Exim was re-instated it as the original
1086     (before rewriting) address, but remembering that it had rewritten it, so it
1087     wasn't rewriting it again. This bug also had the effect of breaking the
1088     sender address verification caching when the sender address was rewritten.
1089
1090  6. The ignore_target_hosts option was being ignored by the ipliteral router.
1091     This has been changed so that if the ip literal address matches
1092     ignore_target_hosts, the router declines.
1093
1094  7. Added expansion conditions match_domain, match_address, and match_local_
1095     part (NOT match_host).
1096
1097  8. The placeholder for the Received: header didn't have a length field set.
1098
1099  9. Added code to Exim itself and to exim_lock to test for a specific race
1100     condition that could lead to file corruption when using MBX delivery. The
1101     issue is with the lockfile that is created in /tmp. If this file is removed
1102     after a process has opened it but before that process has acquired a lock,
1103     there is the potential for a second process to recreate the file and also
1104     acquire a lock. This could lead to two Exim processes writing to the file
1105     at the same time. The added code performs the same test as UW imapd; it
1106     checks after acquiring the lock that its file descriptor still refers to
1107     the same named file.
1108
1109 10. The buffer for building added header lines was of fixed size, 8192 bytes.
1110     It is now parameterized by HEADER_ADD_BUFFER_SIZE and this can be adjusted
1111     when Exim is built.
1112
1113 11. Added the smtp_active_hostname option. If used, this will typically be made
1114     to depend on the incoming interface address. Because $interface_address is
1115     not set up until the daemon has forked a reception process, error responses
1116     that can happen earlier (such as "too many connections") no longer contain
1117     a host name.
1118
1119 12. If an expansion in a condition on a "warn" statement fails because a lookup
1120     defers, the "warn" statement is abandoned, and the next ACL statement is
1121     processed. Previously this caused the whole ACL to be aborted.
1122
1123 13. Added the iplsearch lookup type.
1124
1125 14. Added ident_timeout as a log selector.
1126
1127 15. Added tls_certificate_verified as a log selector.
1128
1129 16. Added a global option tls_require_ciphers (compare the smtp transport
1130     option of the same name). This controls incoming TLS connections.
1131
1132 17. I finally figured out how to make tls_require_ciphers do a similar thing
1133     in GNUtls to what it does in OpenSSL, that is, set up an appropriate list
1134     before starting the TLS session.
1135
1136 18. Tabs are now shown as \t in -bP output.
1137
1138 19. If the log selector return_path_on_delivery was set, Exim crashed when
1139     bouncing a message because it had too many Received: header lines.
1140
1141 20. If two routers both had headers_remove settings, and the first one included
1142     a superfluous trailing colon, the final name in the first list and the
1143     first name in the second list were incorrectly joined into one item (with a
1144     colon in the middle).
1145
1146
1147 Exim version 4.32
1148 -----------------
1149
1150  1. Added -C and -D options to the exinext utility, mainly to make it easier
1151     to include in the automated testing, but these could be helpful when
1152     multiple configurations are in use.
1153
1154  2. The exinext utility was not formatting the output nicely when there was
1155     an alternate port involved in the retry record key, nor when there was a
1156     message id as well (for retries that were specific to a specific message
1157     and a specific host). It was also confused by IPv6 addresses, because of
1158     the additional colons they contain. I have fixed the IPv4 problem, and
1159     patched it up to do a reasonable job for IPv6.
1160
1161  3. When there is an error after a MAIL, RCPT, or DATA SMTP command during
1162     delivery, the log line now contains "pipelined" if PIPELINING was used.
1163
1164  4. An SMTP transport process used to panic and die if the bind() call to set
1165     an explicit outgoing interface failed. This has been changed; it is now
1166     treated in the same way as a connect() failure.
1167
1168  5. A reference to $sender_host_name in the part of a conditional expansion
1169     that was being skipped was still causing a DNS lookup. This no longer
1170     occurs.
1171
1172  6. The def: expansion condition was not recognizing references to header lines
1173     that used bh_ and bheader_.
1174
1175  7. Added the _cache feature to named lists.
1176
1177  8. The code for checking quota_filecount in the appendfile transport was
1178     allowing one more file than it should have been.
1179
1180  9. For compatibility with Sendmail, the command line option
1181
1182       -prval:sval
1183
1184     is equivalent to
1185
1186       -oMr rval -oMs sval
1187
1188     and sets the incoming protocol and host name (for trusted callers). The
1189     host name and its colon can be omitted when only the protocol is to be set.
1190     Note the Exim already has two private options, -pd and -ps, that refer to
1191     embedded Perl. It is therefore impossible to set a protocol value of "d" or
1192     "s", but I don't think that's a major issue.
1193
1194 10. A number of refactoring changes to the code, none of which should affect
1195     Exim's behaviour:
1196
1197     (a) The number of logging options was getting close to filling up the
1198     32-bit word that was used as a bit map. I have split them into two classes:
1199     those that are passed in the argument to log_write(), and those that are
1200     only ever tested independently outside of that function. These are now in
1201     separate 32-bit words, so there is plenty of room for expansion again.
1202     There is no change in the user interface or the logging behaviour.
1203
1204     (b) When building, for example, log lines, the code previously used a
1205     macro that called string_cat() twice, in order to add two strings. This is
1206     not really sufficiently general. Furthermore, there was one instance where
1207     it was actually wrong because one of the argument was used twice, and in
1208     one call a function was used. (As it happened, calling the function twice
1209     did not affect the overall behaviour.) The macro has been replaced by a
1210     function that can join an arbitrary number of extra strings onto a growing
1211     string.
1212
1213     (c) The code for expansion conditions now uses a table and a binary chop
1214     instead of a serial search (which was left over from when there were very
1215     few conditions). Also, it now recognizes conditions like "pam" even when
1216     the relevant support is not compiled in: a suitably worded error message is
1217     given if an attempt is made to use such a condition.
1218
1219 11. Added ${time_interval:xxxxx}.
1220
1221 12. A bug was causing one of the ddress fields not to be passed back correctly
1222     from remote delivery subprocesses. The field in question was not being
1223     subsequently used, so this caused to problems in practice.
1224
1225 13. Added new log selectors queue_time and deliver_time.
1226
1227 14. Might have fixed a bug in maildirsizefile handling that threw up
1228     "unexpected character" debug warnings, and recalculated the data
1229     unnecessarily. In any case, I expanded the warning message to give more
1230     information.
1231
1232 15. Added the message "Restricted characters in address" to the statements in
1233     the default ACL that block characters like @ and % in local parts.
1234
1235 16. Change 71 for release 4.31 proved to be much less benign that I imagined.
1236     Three changes have been made:
1237
1238     (a) There was a serious bug; a negative response to MAIL caused the whole
1239         recipient domain to be cached as invalid, thereby blocking all messages
1240         to all local parts at the same domain, from all senders. This bug has
1241         been fixed. The domain is no longer cached after a negative response to
1242         MAIL if the sender used is not empty.
1243
1244     (b) The default behaviour of using MAIL FROM:<> for recipient callouts has
1245         been restored.
1246
1247     (c) A new callout option, "use_sender" has been added for people who want
1248         the modified behaviour.
1249
1250
1251 Exim version 4.31
1252 -----------------
1253
1254  1. Removed "EXTRALIBS=-lwrap" from OS/Makefile-Unixware7 on the advice of
1255     Larry Rosenman.
1256
1257  2. Removed "LIBS = -lresolv" from OS/Makefile-Darwin as it is not needed, and
1258     indeed breaks things for older releases.
1259
1260  3. Added additional logging to the case where there is a problem reading data
1261     from a filter that is running in a subprocess using a pipe, in order to
1262     try to track down a specific problem.
1263
1264  4. Testing facility fudge: when running in the test harness and attempting
1265     to connect to 10.x.x.x (expecting a connection timeout) I'm now sometimes
1266     getting "No route to host". Convert this to a timeout.
1267
1268  5. Define ICONV_ARG2_TYPE as "char **" for Unixware7 to avoid compiler
1269     warning.
1270
1271  6. Some OS don't have socklen_t but use size_t instead. This affects the
1272     fifth argument of getsockopt() amongst other things. This is now
1273     configurable by a macro called SOCKLEN_T which defaults to socklen_t, but
1274     can be set for individual OS. I have set it for SunOS5, OSF1, and
1275     Unixware7. Current versions of SunOS5 (aka Solaris) do have socklen_t, but
1276     some earlier ones do not.
1277
1278  7. Change 4.30/15 was not doing the test caselessly.
1279
1280  8. The standard form for an IPv6 address literal was being rejected by address
1281     parsing in, for example, MAIL and RCPT commands. An example of this kind of
1282     address is [IPv6:2002:c1ed:8229:10:202:2dff:fe07:a42a]. Exim now accepts
1283     this, as well as the form without the "IPv6" on the front (but only when
1284     address literals are enabled, of course).
1285
1286  9. Added some casts to avoid compiler warnings in OS/os.c-Linux.
1287
1288 10. Exim crashed if a message with an empty sender address specified by -f
1289     encountered a router with an errors_to setting. This could be provoked only
1290     by a command such as
1291
1292       exim -f "" ...
1293
1294     where an empty string was supplied; "<>" did not hit this bug.
1295
1296 11. Installed PCRE release 4.5.
1297
1298 12. If EHLO/HELO was rejected by an ACL, the value of $sender_helo_name
1299     remained set. It is now erased.
1300
1301 13. exiqgrep wasn't working on MacOS X because it didn't correctly compute
1302     times from message ids (which are base 36 rather than the normal 62).
1303
1304 14. "Expected" SMTP protocol errors that can arise when PIPELINING is in use
1305     were being counted as actual protocol errors, and logged if the log
1306     selector +smtp_protocol_error was set. One cannot be perfect in this test,
1307     but now, if PIPELINING has been advertised, RCPT following a rejected MAIL,
1308     and DATA following a set of rejected RCPTs do not count as protocol errors.
1309     In other words, Exim assumes they were pipelined, though this may not
1310     actually be the case. Of course, in all cases the client gets an
1311     appropriate error code.
1312
1313 15. If a lookup fails in an ACL condition, a message about the failure may
1314     be available; it is used if testing the ACL cannot continue, because most
1315     such messages specify what the cause of the deferral is. However, some
1316     messages (e.g. "MYSQL: no data found") do not cause a defer. There was bug
1317     that caused an old message to be retained and used if a later statement
1318     caused a defer, replacing the real cause of the deferral.
1319
1320 16. If an IP address had so many PTR records that the DNS lookup buffer
1321     was not large enough to hold them, Exim could crash while trying to process
1322     the truncated data. It now detects and logs this case.
1323
1324 17. Further to 4.21/58, another change has been made: if (and only if) the
1325     first line of a message (the first header line) ends with CRLF, a bare LF
1326     in a subsequent header line has a space inserted after it, so as not to
1327     terminate the header.
1328
1329 18. Refactoring: tidied an ugly bit of code in appendfile that copied data
1330     unnecessarily, used atoi() instead of strtol(), and didn't check the
1331     termination when getting file sizes from file names by regex.
1332
1333 19. Completely re-implemented the support for maildirsize files, in the light
1334     of a number of problems with the previous contributed implementation
1335     (4.30/29). In particular:
1336
1337     . If the quota is zero, the maildirsize file is maintained, but no quota is
1338       imposed.
1339
1340     . If the maildir directory does not exist, it is created before any attempt
1341       to write a maildirsize file.
1342
1343     . The quota value in the file is just a cache; if the quota is changed in
1344       the transport, the new value overrides.
1345
1346     . A regular expression is available for excluding directories from the
1347       count.
1348
1349 20. The autoreply transport checks the characters in options that define the
1350     message's headers; it allows continued headers, but it was checking with
1351     isspace() after an embedded newline instead of explicitly looking for a
1352     space or a tab.
1353
1354 21. If all the "regular" hosts to which an address was routed had passed their
1355     expiry times, and had not reached their retry times, the address was
1356     bounced, even if fallback hosts were defined. Now Exim should go on to try
1357     the fallback hosts.
1358
1359 22. Increased buffer sizes in the callout code from 1024 to 4096 to match the
1360     equivalent code in the SMTP transport. Some hosts send humungous responses
1361     to HELO/EHLO, more than 1024 it seems.
1362
1363 23. Refactoring: code in filter.c used (void *) for "any old type" but this
1364     gives compiler warnings in some environments. I've now done it "properly",
1365     using a union.
1366
1367 24. The replacement for inet_ntoa() that is used with gcc on IRIX systems
1368     (because of problems with the built-in one) was declared to return uschar *
1369     instead of char *, causing compiler failure.
1370
1371 25. Fixed a file descriptor leak when processing alias/forward files.
1372
1373 26. Fixed a minor format string issue in dbfn.c.
1374
1375 27. Typo in exim.c: ("dmbnz" for "dbmnz").
1376
1377 28. If a filter file refered to $h_xxx or $message_headers, and the headers
1378     contained RFC 2047 "words", Exim's memory could, under certain conditions,
1379     become corrupted.
1380
1381 29. When a sender address is verified, it is cached, to save repeating the test
1382     when there is more than one recipient in a message. However, when the
1383     verification involves a callout, it is possible for different callout
1384     options to be set for different recipients. It is too complicated to keep
1385     track of this in the cache, so now Exim always runs a verification when a
1386     callout is required, relying on the callout cache for the optimization.
1387     The overhead is duplication of the address routing, but this should not be
1388     too great.
1389
1390 30. Fixed a bug in callout caching. If a RCPT command caused the sender address
1391     to be verified with callout=postmaster, and the main callout worked but the
1392     postmaster check failed, the verification correctly failed. However, if a
1393     subsequent RCPT command asked for sender verification *without* the
1394     postmaster check, incorrect caching caused this verification also to fail,
1395     incorrectly.
1396
1397 31. Exim caches DNS lookup failures so as to avoid multiple timeouts; however,
1398     it was not caching the DNS options (qualify_single, search_parents) that
1399     were used when the lookup failed. A subsequent lookup with different
1400     options therefore always gave the same answer, though there were cases
1401     where it should not have. (Example: a "domains = !$mx_any" option on a
1402     dnslookup router: the "domains" option is always processed without any
1403     widening, but the router might have qualify_single set.) Now Exim uses the
1404     cached value only when the same options are set.
1405
1406 32. Added John Jetmore's "exipick" utility to the distribution.
1407
1408 33. GnuTLS: When an attempt to start a TLS session fails for any reason other
1409     than a timeout (e.g. a certificate is required, and is not provided), an
1410     Exim server now closes the connection immediately. Previously it waited for
1411     the client to close - but if the client is SSL, it seems that they each
1412     wait for each other, leading to a delay before one of them times out.
1413
1414 34: GnuTLS: Updated the code to use the new GnuTLS 1.0.0 API. I have not
1415     maintained 0.8.x compatibility because I don't think many are using it, and
1416     it is clearly obsolete.
1417
1418 35. Added TLS support for CRLs: a tls_crl global option and one for the smtp
1419     transport.
1420
1421 36. OpenSSL: $tls_certificate_verified was being set to 1 even if the
1422     client certificate was expired. A simple patch fixes this, though I don't
1423     understand the full logic of why the verify callback is called multiple
1424     times.
1425
1426 37. OpenSSL: a patch from Robert Roselius: "Enable client-bug workaround.
1427     Versions of OpenSSL as of 0.9.6d include a 'CBC countermeasure' feature,
1428     which causes problems with some clients (such as the Certicom SSL Plus
1429     library used by Eudora). This option, SSL_OP_DONT_INSERT_EMPTY_FRAGMENTS,
1430     disables the coutermeasure allowing Eudora to connect."
1431
1432 38. Exim was not checking that a write() to a log file succeeded. This could
1433     lead to Bad Things if a log got too big, in particular if it hit a file
1434     size limit. Exim now panics and dies if it cannot write to a log file, just
1435     as it does if it cannot open a log file.
1436
1437 39. Modified OS/Makefile-Linux so that it now contains
1438
1439       CFLAGS=-O -D_FILE_OFFSET_BITS=64 -D_LARGEFILE_SOURCE
1440
1441     The two -D definitions ensure that Exim is compiled with large file
1442     support, which makes it possible to handle log files that are bigger than
1443     2^31.
1444
1445 40. Fixed a subtle caching bug: if (in an ACL or a set of routers, for
1446     instance) a domain was checked against a named list that involved a lookup,
1447     causing $domain_data to be set, then another domain was checked against the
1448     same list, then the first domain was re-checked, the value of $domain_data
1449     after the final check could be wrong. In particular, if the second check
1450     failed, it could be set empty. This bug probably also applied to
1451     $localpart_data.
1452
1453 41. The strip_trailing_dot option was not being applied to the address given
1454     with the -f command-line option.
1455
1456 42. The code for reading a message's header from the spool was incrementing
1457     $received_count, but never initializing it. This meant that the value was
1458     incorrect (doubled) while delivering a message in the same process in which
1459     it was received. In the most common configuration of Exim, this never
1460     happens - a fresh exec is done - but it can happen when
1461     deliver_drop_privilege is set.
1462
1463 43. When Exim logs an SMTP synchronization error - client data sent too soon -
1464     it now includes up to 150 characters of the unexpected data in the log
1465     line.
1466
1467 44. The exim_dbmbuild utility uses fixed size buffers for reading input lines
1468     and building data strings. The size of both of these buffers was 10 000
1469     bytes - far larger than anybody would *ever* want, thought I. Needless to
1470     say, somebody hit the limit. I have increased the maximum line length to
1471     20 000 and the maximum data length of concatenated lines to 100 000. I have
1472     also fixed two bugs, because there was no checking on these buffers. Tsk,
1473     tsk. Now exim_dbmbuild gives a message and exits with an error code if a
1474     buffer is too small.
1475
1476 45. The exim_dbmbuild utility did not support quoted keys, as Exim does in
1477     lsearch lookups. Now it does.
1478
1479 46. When parsing a route_list item in a manualroute router, a fixed-length
1480     buffer was used for the list of hosts. I made this 1024 bytes long,
1481     thinking that nobody would ever have a list of hosts that long. Wrong.
1482     Somebody had a whole pile of complicated expansion conditions, and the
1483     string was silently truncated, leading to an expansion error. It turns out
1484     that it is easier to change to an unlimited length (owing to other changes
1485     that have happened since this code was originally written) than to build
1486     structure for giving a limitation error. The length of the item that
1487     expands into the list of hosts is now unlimited.
1488
1489 47. The lsearch lookup could not handle data where the length of text line was
1490     more than 4095 characters. Such lines were truncated, leading to shortened
1491     data being returned. It should now handle lines of any length.
1492
1493 48. Minor wording revision: "cannot test xxx in yyy ACL" becomes "cannot test
1494     xxx condition in yyy ACL" (e.g. "cannot test domains condition in DATA
1495     ACL").
1496
1497 49. Cosmetic tidy to scripts like exicyclog that are generated by globally
1498     replacing strings such as BIN_DIRECTORY in a source file: the replacement
1499     no longer happens in comment lines. A list of replacements is now placed
1500     at the head of all of the source files, except those whose only change is
1501     to replace PERL_COMMAND in the very first #! line.
1502
1503 50. Replaced the slow insertion sort in queue.c, for sorting the list of
1504     messages on the queue, with a bottom-up merge sort, using code contributed
1505     by Michael Haardt. This should make operations like -bp somewhat faster on
1506     large queues. It won't affect queue runners, except when queue_run_in_order
1507     is set.
1508
1509 51. Installed eximstats 1.31 in the distribution.
1510
1511 52. Added support for SRV lookups to the dnslookup router.
1512
1513 53. If an ACL referred to $message_body or $message_body_end, the value was not
1514     reset for any messages that followed in the same SMTP session.
1515
1516 54. The store-handling optimization for building very long strings was not
1517     differentiating between the different store pools. I don't think this
1518     actually made any difference in practice, but I've tidied it.
1519
1520 55. While running the routers to verify a sender address, $sender_address
1521     was still set to the sender address. This is wrong, because when routing to
1522     send a bounce to the sender, it would be empty. Therefore, I have changed
1523     it so that, while verifying a sender address, $sender_address is set to <>.
1524     (There is no change to what happens when verifying a recipient address.)
1525
1526 56. After finding MX (or SRV) records, Exim was doing a DNS lookup for the
1527     target A or AAAA records (if not already returned) without resetting the
1528     qualify_single or search_parents options of the DNS resolver. These are
1529     inappropriate in this case because the targets of MX and SRV records must
1530     be FQDNs. A broken DNS record could cause trouble if it happened to have a
1531     target that, when qualified, matched something in the local domain. These
1532     two options are now turned off when doing these lookups.
1533
1534 57. It seems that at least some releases of Reiserfs (which does not have the
1535     concept of a fixed number of inodes) returns zero and not -1 for the
1536     number of available inodes. This interacted badly with check_spool_inodes,
1537     which assumed that -1 was the "no such thing" setting. What I have done is
1538     to check that the total number of inodes is greater than zero before doing
1539     the test of how many are available.
1540
1541 58. When a "warn" ACL statement has a log_message modifier, the message is
1542     remembered, and not repeated. This is to avoid a lot of repetition when a
1543     message has many recipients that cause the same warning to be written.
1544     Howewer, Exim was preserving the list of already written lines for an
1545     entire SMTP session, which doesn't seem right. The memory is now reset if a
1546     new message is started.
1547
1548 59. The "rewrite" debugging flag was not showing the result of rewriting in the
1549     debugging output unless log_rewrite was also set.
1550
1551 60. Avoid a compiler warning on 64-bit systems in dsearch.c by avoiding the use
1552     of (int)(handle) when we know that handle contains (void *)(-1).
1553
1554 61. The Exim daemon panic-logs an error return when it closes the incoming
1555     connection. However "connection reset by peer" seems to be common, and
1556     isn't really an error worthy of noting specially, so that particular error
1557     is no long logged.
1558
1559 62. When Exim is trying to find all the local interfaces, it used to panic and
1560     die if the ioctl to get the interface flags failed. However, it seems that
1561     on at least one OS (Solaris 9) it is possible to have an interface that is
1562     included in the list of interfaces, but for which you get a failure error
1563     for this call. This happens when the interface is not "plumbed" into a
1564     protocol (i.e. neither IPv4 nor IPv6). I've changed the code so that a
1565     failure of the "get flags" call assumes that the interface is down.
1566
1567 63. Added a ${eval10: operator, which assumes all numbers are decimal. This
1568     makes life easier for people who are doing arithmetic on fields extracted
1569     from dates, where you often get leading zeros that should not be
1570     interpreted as octal.
1571
1572 64. Added qualify_domain to the redirect router, to override the global
1573     setting.
1574
1575 65. If a pathologically long header line contained very many addresses (the
1576     report of this problem mentioned 10 000) and each of them was rewritten,
1577     Exim could use up a very large amount of memory. (It kept on making new
1578     copies of the header line as it rewrote, and never released the old ones.)
1579     At the expense of a bit more processing, the header rewriting function has
1580     been changed so that it no longer eats memory in this way.
1581
1582 66. The generation of the Received: header has been moved from the time that a
1583     message starts to be received, to the time that it finishes. The timestamp
1584     in the Received: header should now be very close to that of the <= log
1585     line. There are two side-effects of this change:
1586
1587     (a) If a message is rejected by a DATA or non-SMTP ACL or local_scan(), the
1588         logged header lines no longer include the local Received: line, because
1589         it has not yet been created. The same applies to a copy of the message
1590         that is returned to a non-SMTP sender when a message is rejected.
1591
1592     (b) When a filter file is tested using -bf, no additional Received: header
1593         is added to the test message. After some thought, I decided that this
1594         is a bug fix.
1595
1596     This change does not affect the value of $received_for. It is still set
1597     after address rewriting, but before local_scan() is called.
1598
1599 67. Installed the latest Cygwin-specific files from the Cygwin maintainer.
1600
1601 68. GnuTLS: If an empty file is specified for tls_verify_certificates, GnuTLS
1602     gave an unhelpful panic error message, and a defer error. I have managed to
1603     change this behaviour so that it now rejects any supplied certificate,
1604     which seems right, as the list of acceptable certificates is empty.
1605
1606 69. OpenSSL: If an empty file is specified for tls_verify_certificates, OpenSSL
1607     gave an unhelpful defer error. I have not managed to make this reject any
1608     supplied certificates, but the error message it gives is "no certificate
1609     supplied", which is not helpful.
1610
1611 70. exigrep's output now also includes lines that are not associated with any
1612     message, but which match the given pattern. Implemented by a patch from
1613     Martin Sluka, which also tidied up the Perl a bit.
1614
1615 71. Recipient callout verification, like sender verification, was using <> in
1616     the MAIL FROM command. This isn't really the right thing, since the actual
1617     sender may affect whether the remote host accepts the recipient or not. I
1618     have changed it to use the actual sender in the callout; this means that
1619     the cache record is now keyed on a recipient/sender pair, not just the
1620     recipient address. There doesn't seem to be a real danger of callout loops,
1621     since a callout by the remote host to check the sender would use <>.
1622     [SEE ABOVE: changed after hitting problems.]
1623
1624 72. Exim treats illegal SMTP error codes that do not begin with 4 or 5 as
1625     temporary errors. However, in the case of such a code being given after
1626     the end of a data transmission (i.e. after ".") Exim was failing to write
1627     a retry record for the message. (Yes, there was some broken host that was
1628     actually sending 8xx at this point.)
1629
1630 73. An unknown lookup type in a host list could cause Exim to panic-die when
1631     the list was checked. (An example that provoked this was putting <; in the
1632     middle of a list instead of at the start.) If this happened during a DATA
1633     ACL check, a -D file could be left lying around. This kind of configuration
1634     error no longer causes Exim to die; instead it causes a defer errror. The
1635     incident is still logged to the main and panic logs.
1636
1637 74. Buglet left over from Exim 3 conversion. The message "too many messages
1638     in one connection" was written to the rejectlog but not the mainlog, except
1639     when address rewriting (yes!) was being logged.
1640
1641 75. Added write_rejectlog option.
1642
1643 76. When a system filter was run not as root (that is, when system_filter_user
1644     was set), the values of the $n variables were not being returned to the
1645     main process; thus, they were not subsequently available in the $sn
1646     variables.
1647
1648 77. Added +return_path_on_delivery log selector.
1649
1650 78. A connection timeout was being treated differently from recipients deferred
1651     when testing hosts_max_try with a message that was older than the host's
1652     retry timeout. (The host should not be counted, thus allowing all hosts to
1653     be tried at least once before bouncing.) This may have been the cause of an
1654     occasionally reported bug whereby a message would remain on the queue
1655     longer than the retry timeout, but would be bounced if a delivery was
1656     forced. I say "may" because I never totally pinned down the problem;
1657     setting up timeout/retry tests is difficult. See also the next item.
1658
1659 79. The ultimate address timeout was not being applied to errors that involved
1660     a combination of host plus message (for example, a timeout on a MAIL
1661     command). When an address resolved to a number of possible hosts, and they
1662     were not all tried for each delivery (e.g. because of hosts_max_try), a
1663     message could remain on the queue longer than the retry timeout.
1664
1665 80. Sieve bug: "stop" inside "elsif" was broken. Applied a patch from Michael
1666     Haardt.
1667
1668 81. Fixed an obscure SMTP outgoing bug which required at least the following
1669     conditions: (a) there was another message waiting for the same server;
1670     (b) the server returned 5xx to all RCPT commands in the first message so
1671     that the message was not completed; (c) the server dropped the connection
1672     or gave a negative response to the RSET that Exim sends to abort the
1673     transaction. The observed case was a dropped connection after DATA that had
1674     been sent in pipelining mode. That is, the server had advertised PIPELINING
1675     but was not implementing it correctly. The effect of the bug was incorrect
1676     behaviour, such as trying another host, and this could lead to a crash.
1677
1678
1679 Exim version 4.30
1680 -----------------
1681
1682  1. The 3rd arguments to getsockname(), getpeername(), and accept() in exim.c
1683     and daemon.c were passed as pointers to ints; they should have been
1684     pointers to socklen_t variables (which are typically unsigned ints).
1685
1686  2. Some signed/unsigned type warnings in the os.c file for Linux have been
1687     fixed.
1688
1689  3. Fixed a really odd bug that affected only the testing scheme; patching a
1690     certain fixed string in the binary changed the value of another string that
1691     happened to be identical to the end of the original first string.
1692
1693  4. When gethostbyname() (or equivalent) is passed an IP address as a "host
1694     name", it returns that address as the IP address. On some operating
1695     systems (e.g. Solaris), it also passes back the IP address string as the
1696     "host name". However, on others (e.g. Linux), it passes back an empty
1697     string. Exim wasn't checking for this, and was changing the host name to an
1698     empty string, assuming it had been canonicized.
1699
1700  5. Although rare, it is permitted to have more than one PTR record for a given
1701     IP address. I thought that gethostbyaddr() or getipnodebyaddr() always gave
1702     all the names associated with an address, because they do in Solaris.
1703     However, it seems that they do not in Linux for data that comes from the
1704     DNS. If an address in /etc/hosts has multiple names, they _are_ all given.
1705     I found this out when I moved to a new Linux workstation and tried to run
1706     the Exim test suite.
1707
1708     To get round this problem I have changed the code so that it now does its
1709     own call to the DNS to look up PTR records when searching for a host name.
1710     If nothing can be found in the DNS, it tries gethostbyaddr(), so that
1711     addresses that are only in /etc/hosts are still found.
1712
1713     This behaviour is, however, controlled by an option called host_lookup_
1714     order, which defaults to "bydns:byaddr". If people want to use the other
1715     order, or indeed, just use one or the other means of lookup, they can
1716     specify it in this variable.
1717
1718  6. If a PTR record yields an empty name, Exim treats it as non-existent. In
1719     some operating systems, this comes back from gethostbyaddr() as an empty
1720     string, and this is what Exim used to test for. However, it seems that in
1721     other systems, "." is yielded. Exim now tests for this case too.
1722
1723  7. The values of check_spool_space and check_log_space are now held internally
1724     as a number of kilobytes instead of an absolute number of bytes. If a
1725     numbers is specified without 'K' or 'M', it is rounded up to the nearest
1726     kilobyte. This means that much larger values can be stored.
1727
1728  8. Exim monitor: an attempt to get the action menu when not actually pointing
1729     at a message produces an empty menu entitled "No message selected". This
1730     works on Solaris (OpenWindows). However, XFree86 does not like a menu with
1731     no entries in it ("Shell widget menu has zero width and/or height"). So I
1732     have added a single, blank menu entry in this case.
1733
1734  9. Added ${quote_local_part.
1735
1736 10. MIME decoding is now applied to the contents of Subject: header lines when
1737     they are logged.
1738
1739 11. Now that a reference to $sender_host_address automatically causes a reverse
1740     lookup to occur if necessary (4.13/18), there is no need to arrange for a
1741     host lookup before query-style lookups in lists that might use this
1742     variable. This has therefore been abolished, and the "net-" prefix is no
1743     longer necessary for query-style lookups.
1744
1745 12. The Makefile for SCO_SV contained a setting of LDFLAGS. This appears to
1746     have been a typo for LFLAGS, so it has been changed.
1747
1748 13. The install script calls Exim with "-C /dev/null" in order to find the
1749     version number. If ALT_CONFIG_PREFIX was set, this caused an error message
1750     to be output. Howeve, since Exim outputs its version number before the
1751     error, it didn't break the script. It just looked ugly. I fixed this by
1752     always allowing "-C /dev/null" if the caller is root.
1753
1754 14. Ignore overlarge ACL variable number when reading spool file - insurance
1755     against a later release with more variables having written the file.
1756
1757 15. The standard form for an IPv6 address literal was being rejected by EHLO.
1758     Example: [IPv6:2002:c1ed:8229:10:202:2dff:fe07:a42a]. Exim now accepts
1759     this, as well as the form without the "IPv6" on the front.
1760
1761 16. Added CHOWN_COMMAND=/usr/sbin/chown and LIBS=-lresolv to the
1762     OS/Makefile-Darwin file.
1763
1764 17. Fixed typo in lookups/ldap.c: D_LOOKUP should be D_lookup. This applied
1765     only to LDAP libraries that do not have LDAP_OPT_DEREF.
1766
1767 18. After change 4.21/52, "%ld" was used to format the contents of the $inode
1768     variable. However, some OS use ints for inodes. I've added cast to long int
1769     to get rid of the compiler warning.
1770
1771 19. I had forgotten to lock out "/../" in configuration file names when
1772     ALT_CONFIG_PREFIX was set.
1773
1774 20. Routers used for verification do not need to specify transports. However,
1775     if such a router generated a host list, and callout was configured, Exim
1776     crashed, because it could not find a port number from the (non-existent)
1777     transport. It now assumes port 25 in this circumstance.
1778
1779 21. Added the -t option to exigrep.
1780
1781 22. If LOOKUP_LSEARCH is defined, all three linear search methods (lsearch,
1782     wildlsearch, nwildlsearch) are compiled. LOOKUP_WILDLSEARCH and LOOKUP_
1783     NWILDLSEARCH are now obsolete, but retained for compatibility. If either of
1784     them is set, LOOKUP_LSEARCH is forced.
1785
1786 23. "exim -bV" now outputs a list of lookups that are included in the binary.
1787
1788 24. Added sender and host information to the "rejected by local_scan()" log
1789     line; previously there was no indication of these.
1790
1791 25. Added .include_if_exists.
1792
1793 26. Change 3.952/11 added an explicit directory sync on top of a file sync for
1794     Linux. It turns out that not all file systems support this. Apparently some
1795     versions of NFS do not. (It's rare to put Exim's spool on NFS, but people
1796     do it.) To cope with this, the error EINVAL, which means that sync-ing is
1797     not supported on the file descriptor, is now ignored when Exim is trying to
1798     sync a directory. This applies only to Linux.
1799
1800 27. Added -DBIND_8_COMPAT to the CLFAGS setting for Darwin.
1801
1802 28. In Darwin (MacOS X), the PAM headers are in /usr/include/pam and not in
1803     /usr/include/security. There's now a flag in OS/os.h-Darwin to cope with
1804     this.
1805
1806 29. Added support for maildirsize files from supplied patch (modified a bit).
1807
1808 30. The use of :fail: followed by an empty string could lead Exim to respond to
1809     sender verification failures with (e.g.):
1810
1811       550 Verification failed for <xxx>
1812       550 Sender verify failed
1813
1814     where the first response line was missing the '-' that indicates it is not
1815     the final line of the response.
1816
1817 31. The loop for finding the name of the user that called Exim had a hardwired
1818     limit of 10; it now uses the value of finduser_retries, which is used for
1819     all other user lookups.
1820
1821 32. Added $received_count variable, available in data and not_smtp ACLs, and at
1822     delivery time.
1823
1824 33. Exim was neglecting to zero errno before one call of strtol() when
1825     expanding a string and expecting an integer value. On some systems this
1826     resulted in spurious "integer overflow" errors. Also, it was casting the
1827     result into an int without checking.
1828
1829 34. Testing for a connection timeout using "timeout_connect" in the retry rules
1830     did not work. The code looks as if it has *never* worked, though it appears
1831     to have been documented since at least releast 1.62. I have made it work.
1832
1833 35. The "timeout_DNS" error in retry rules, also documented since at least
1834     1.62, also never worked. As it isn't clear exactly what this means, and
1835     clearly it isn't a major issue, I have abolished the feature by treating it
1836     as "timeout", and writing a warning to the main and panic logs.
1837
1838 36. The display of retry rules for -brt wasn't always showing the error code
1839     correctly.
1840
1841 37. Added new error conditions to retry rules: timeout_A, timeout_MX,
1842     timeout_connect_A, timeout_connect_MX.
1843
1844 38. Rewriting the envelope sender at SMTP time did not allow it to be rewritten
1845     to the empty sender.
1846
1847 39. The daemon was not analysing the content of -oX till after it had closed
1848     stderr and disconnected from the controlling terminal. This meant that any
1849     syntax errors were only noted on the panic log, and the return code from
1850     the command was 0. By re-arranging the code a little, I've made the
1851     decoding happen first, so such errors now appear on stderr, and the return
1852     code is 1. However, the actual setting up of the sockets still happens in
1853     the disconnected process, so errors there are still only recorded on the
1854     panic log.
1855
1856 40. A daemon listener on a wildcard IPv6 socket that also accepts IPv4
1857     connections (as happens on some IP stacks) was logged at start up time as
1858     just listening for IPv6. It now logs "IPv6 with IPv4". This differentiates
1859     it from "IPv6 and IPv4", which means that two separate sockets are being
1860     used.
1861
1862 41. The debug output for gethostbyname2() or getipnodebyname() failures now
1863     says whether AF_INET or AF_INET6 was passed as an argument.
1864
1865 42. Exiwhat output was messed up when time zones were included in log
1866     timestamps.
1867
1868 43. Exiwhat now gives more information about the daemon's listening ports,
1869     and whether -tls-on-connect was used.
1870
1871 44. The "port" option of the smtp transport is now expanded.
1872
1873 45. A "message" modifier in a "warn" statement in a non-message ACL was being
1874     silently ignored. Now an error message is written to the main and panic
1875     logs.
1876
1877 46. There's a new ACL modifier called "logwrite" which writes to a log file
1878     as soon as it is encountered.
1879
1880 47. Added $local_user_uid and $local_user_gid at routing time.
1881
1882 48. Exim crashed when trying to verify a sender address that was being
1883     rewritten to "<>".
1884
1885 49. Exim was recognizing only a space character after ".include". It now also
1886     recognizes a tab character.
1887
1888 50. Fixed several bugs in the Perl script that creates the exim.8 man page by
1889     extracting the relevant information from the specification. The man page no
1890     longer contains scrambled data for the -d option, and I've added a section
1891     at the front about calling Exim under different names.
1892
1893 51. Added "extra_headers" argument to the "mail" command in filter files.
1894
1895 52. Redirecting mail to an unqualified address in a Sieve filter caused Exim to
1896     crash.
1897
1898 53. Installed eximstats 1.29.
1899
1900 54. Added transport_filter_timeout as a generic transport option.
1901
1902 55. Exim no longer adds an empty Bcc: header to messages that have no To: or
1903     Cc: header lines. This was required by RFC 822, but it not required by RFC
1904     2822.
1905
1906 56. Exim used to add From:, Date:, and Message-Id: header lines to any
1907     incoming messages that did not have them. Now it does so only if the
1908     message originates locally, that is, if there is no associated remote host
1909     address. When Resent- header lines are present, this applies to the Resent-
1910     lines rather than the non-Resent- lines.
1911
1912 57. Drop incoming SMTP connection after too many syntax or protocol errors. The
1913     limit is controlled by smtp_max_synprot_errors, defaulting to 3.
1914
1915 58. Messages for configuration errors now include the name of the main
1916     configuration file - useful now that there may be more than one file in a
1917     list (.included file names were always shown).
1918
1919 59. Change 4.21/82 (run initgroups() when starting the daemon) causes problems
1920     for those rare installations that do not start the daemon as root or run it
1921     setuid root. I've cut out the call to initgroups() if the daemon is not
1922     root at that time.
1923
1924 60. The Exim user and group can now be bound into the binary as text strings
1925     that are looked up at the start of Exim's processing.
1926
1927 61. Applied a small patch for the Interbase code, supplied by Ard Biesheuvel.
1928
1929 62. Added $mailstore_basename variable.
1930
1931 63. Installed patch to sieve.c from Michael Haardt.
1932
1933 64. When Exim failed to open the panic log after failing to open the main log,
1934     the original message it was trying to log was written to stderr and debug
1935     output, but if they were not available (the usual case in production), it
1936     was lost. Now it is written to syslog before the two lines that record the
1937     failures to open the logs.
1938
1939 65. Users' Exim filters run in subprocesses under the user's uid. It is
1940     possible for a "deliver" command or an alias in a "personal" command to
1941     provoke an address rewrite. If logging of address rewriting is configured,
1942     this fails because the process is not running as root or exim. There may be
1943     a better way of dealing with this, but for the moment (because 4.30 needs
1944     to be released), I have disabled address rewrite logging when running a
1945     filter in a non-root, non-exim process.
1946
1947
1948 Exim version 4.24
1949 -----------------
1950
1951  1. The buildconfig auxiliary program wasn't quoting the value set for
1952     HEADERS_CHARSET. This caused a compilation error complaining that 'ISO' was
1953     not defined. This bug was masked in 4.22 by the effect that was fixed in
1954     change 4.23/1.
1955
1956  2. Some messages that were rejected after a message id was allocated were
1957     shown as "incomplete" by exigrep. It no longer does this for messages that
1958     are rejected by local_scan() or the DATA or non-SMTP ACLs.
1959
1960  3. If a Message-ID: header used a domain literal in the ID, and Exim did not
1961     have allow_domain_literals set, the ID did not get logged in the <= line.
1962     Domain literals are now always recognized in Message-ID: header lines.
1963
1964  4. The first argument for a ${extract expansion item is the key name or field
1965     number. Leading and trailing spaces in this item were not being ignored,
1966     causing some misleading effects.
1967
1968  5. When deliver_drop_privilege was set, single queue runner processes started
1969     manually (i.e. by the command "exim -q") or by the daemon (which uses the
1970     same command in the process it spins off) were not dropping privilege.
1971
1972  6. When the daemon running as "exim" started a queue runner, it always
1973     re-executed Exim in the spun-off process. This is a waste of effort when
1974     deliver_drop_privilege is set. The new process now just calls the
1975     queue-runner function directly.
1976
1977
1978 Exim version 4.23
1979 -----------------
1980
1981  1. Typo in the src/EDITME file: it referred to HEADERS_DECODE_TO instead of
1982     HEADERS_CHARSET.
1983
1984  2. Change 4.21/73 introduced a bug. The pid file path set by -oP was being
1985     ignored. Though the use of -oP was forcing the writing of a pid file, it
1986     was always written to the default place.
1987
1988  3. If the message "no IP address found for host xxxx" is generated during
1989     incoming verification, it is now followed by identification of the incoming
1990     connection (so you can more easily find what provoked it).
1991
1992  4. Bug fix for Sieve filters: "stop" inside a block was not working properly.
1993
1994  5. Added some features to "harden" Exim a bit more against certain attacks:
1995
1996     (a) There is now a build-time option called FIXED_NEVER_USERS that can
1997         be put in Local/Makefile. This is like the never_users runtime option,
1998         but it cannot be overridden. The default setting is "root".
1999
2000     (b) If ALT_CONFIG_PREFIX is defined in Local/Makefile, it specifies a
2001         prefix string with which any file named in a -C command line option
2002         must start.
2003
2004     (c) If ALT_CONFIG_ROOT_ONLY is defined in Local/Makefile, root privilege
2005         is retained for -C and -D only if the caller of Exim is root. Without
2006         it, the exim user may also use -C and -D and retain privilege.
2007
2008     (d) If DISABLE_D_OPTION is defined in Local/Makefile, the use of the -D
2009         command line option is disabled.
2010
2011  6. Macro names set by the -D option must start with an upper case letter, just
2012     like macro names defined in the configuration file.
2013
2014  7. Added "dereference=" facility to LDAP.
2015
2016  8. Two instances of the typo "uknown" in the source files are fixed.
2017
2018  9. If a PERL_COMMAND setting in Local/Makefile was not at the start of a line,
2019     the Configure-Makefile script screwed up while processing it.
2020
2021 10. Incorporated PCRE 4.4.
2022
2023 11. The SMTP synchronization check was not operating right at the start of an
2024     SMTP session. For example, it could not catch a HELO sent before the client
2025     waited for the greeting. There is now a check for outstanding input at the
2026     point when the greeting is written. Because of the duplex, asynchronous
2027     nature of TCP/IP, it cannot be perfect - the incorrect input may be on its
2028     way, but not yet received, when the check is performed.
2029
2030 12. Added tcp_nodelay to make it possible to turn of the setting of TCP_NODELAY
2031     on TCP/IP sockets, because this apparently causes some broken clients to
2032     timeout.
2033
2034 13. Installed revised OS/Makefile-CYGWIN and OS/os.c-cygwin (the .h file was
2035     unchanged) from the Cygwin maintainer.
2036
2037 14. The code for -bV that shows what is in the binary showed "mbx" when maildir
2038     was supported instead of testing for mbx. Effectively a typo.
2039
2040 15. The spa authenticator server code was not checking that the input it
2041     received was valid base64.
2042
2043 16. The debug output line for the "set" modifier in ACLs was not showing the
2044     name of the variable that was being set.
2045
2046 17. Code tidy: the variable type "vtype_string" was never used. Removed it.
2047
2048 18. Previously, a reference to $sender_host_name did not cause a DNS reverse
2049     lookup on its own. Something else was needed to trigger the lookup. For
2050     example, a match in host_lookup or the need for a host name in a host list.
2051     Now, if $sender_host_name is referenced and the host name has not yet been
2052     looked up, a lookup is performed. If the lookup fails, the variable remains
2053     empty, and $host_lookup_failed is set to "1".
2054
2055 19. Added "eqi" as a case-independent comparison operator.
2056
2057 20. The saslauthd authentication condition could segfault if neither service
2058     nor realm was specified.
2059
2060 21. If an overflowing value such as "2048M" was set for message_size_limit, the
2061     error message that was logged was misleading, and incoming SMTP
2062     connections were dropped. The message is now more accurate, and temporary
2063     errors are given to SMTP connections.
2064
2065 22. In some error situations (such as 21 above) Exim rejects all SMTP commands
2066     (except RSET) with a 421 error, until QUIT is received. However, it was
2067     failing to send a response to QUIT.
2068
2069 23. The HELO ACL was being run before the code for helo_try_verify_hosts,
2070     which made it impossible to use "verify = helo" in the HELO ACL. The HELO
2071     ACL is now run after the helo_try_verify_hosts code.
2072
2073 24. "{MD5}" and "{SHA1}" are now recognized as equivalent to "{md5"} and
2074     "{sha1}" in the "crypteq" expansion condition (in fact the comparison is
2075     case-independent, so other case variants are also recognized). Apparently
2076     some systems use these upper case variants.
2077
2078 25. If more than two messages were waiting for the same host, and a transport
2079     filter was specified for the transport, Exim sent two messages over the
2080     same TCP/IP connection, and then failed with "socket operation on non-
2081     socket" when it tried to send the third.
2082
2083 26. Added Exim::debug_write and Exim::log_write for embedded Perl use.
2084
2085 27. The extern definition of crypt16() in expand.c was not being excluded when
2086     the OS had its own crypt16() function.
2087
2088 28. Added bounce_return_body as a new option, and bounce_return_size_limit
2089     as a preferred synonym for return_size_limit, both as an option and as an
2090     expansion variable.
2091
2092 29. Added LIBS=-liconv to OS/Makefile-OSF1.
2093
2094 30. Changed the default configuration ACL to relax the local part checking rule
2095     for addresses that are not in any local domains. For these addresses,
2096     slashes and pipe symbols are allowed within local parts, but the sequence
2097     /../ is explicitly forbidden.
2098
2099 31. SPA server authentication was not clearing the challenge buffer before
2100     using it.
2101
2102 32. log_message in a "warn" ACL statement was writing to the reject log as
2103     well as to the main log, which contradicts the documentation and doesn't
2104     seem right (because no rejection is happening). So I have stopped it.
2105
2106 33. Added Ard Biesheuvel's lookup code for accessing an Interbase database.
2107     However, I am unable to do any testing of this.
2108
2109 34. Fixed an infelicity in the appendfile transport. When checking directories
2110     for a mailbox, to see if any needed to be created, it was accidentally
2111     using path names with one or more superfluous leading slashes; tracing
2112     would show up entries such as stat("///home/ph10", 0xFFBEEA48).
2113
2114 35. If log_message is set on a "discard" verb in a MAIL or RCPT ACL, its
2115     contents are added to the log line that is written for every discarded
2116     recipient. (Previously a log_message setting was ignored.)
2117
2118 36. The ${quote: operator now quotes the string if it is empty.
2119
2120 37. The install script runs exim in order to find its version number. If for
2121     some reason other than non-existence or emptiness, which it checks, it
2122     could not run './exim', it was installing it with an empty version number,
2123     i.e. as "exim-". This error state is now caught, and the installation is
2124     aborted.
2125
2126 38. An argument was missing from the function that creates an error message
2127     when Exim fails to connect to the socket for saslauthd authentication.
2128     This could cause Exim to crash, or give a corrupted message.
2129
2130 39. Added isip, isip4, and isip6 to ${if conditions.
2131
2132 40. The ACL variables $acl_xx are now saved with the message, and can be
2133     accessed later in routers, transports, and filters.
2134
2135 41. The new lookup type nwildlsearch is like wildlsearch, except that the key
2136     strings in the file are not string-expanded.
2137
2138 42. If a MAIL command specified a SIZE value that was too large to fit into an
2139     int variable, the check against message_size_limit failed. Such values are
2140     now forced to INT_MAX, which is around 2Gb for a 32-bit variable. Maybe one
2141     day this will have to be increased, but I don't think I want to be around
2142     when emails are that large.
2143
2144
2145
2146 Exim version 4.22
2147 -----------------
2148
2149  1. Removed HAVE_ICONV=yes from OS/Makefile-FreeBSD, since it seems that
2150     iconv() is not standard in FreeBSD.
2151
2152  2. Change 4.21/17 was buggy and could cause stack overwriting on a system with
2153     IPv6 enabled. The observed symptom was a segmentation fault on return from
2154     the function os_common_find_running_interfaces() in src/os.c.
2155
2156  3. In the check_special_case() function in daemon.c I had used "errno" as an
2157     argument name, which causes warnings on some systems. This was basically a
2158     typo, since it was named "eno" in the comments!
2159
2160  4. The code that waits for the clock to tick (at a resolution of some fraction
2161     of a second) so as to ensure message-id uniqueness was always waiting for
2162     at least one whole tick, when it could have waited for less. [This is
2163     almost certainly not relevant at current processor speeds, where it is
2164     unlikely to ever wait at all. But we try to future-proof.]
2165
2166  5. The function that sleeps for a time interval that includes fractions of a
2167     second contained a race. It did not block SIGALRM between setting the
2168     timer, and suspending (a couple of lines later). If the interval was short
2169     and the sigsuspend() was delayed until after it had expired, the suspension
2170     never ended. On busy systems this could lead to processes getting stuck for
2171     ever.
2172
2173  6. Some uncommon configurations may cause a lookup to happen in a queue runner
2174     process, before it forks any delivery processes. The open lookup caching
2175     mechanism meant that the open file or database connection was passed into
2176     the delivery process. The problem was that delivery processes always tidy
2177     up cached lookup data. This could cause a problem for the next delivery
2178     process started by the queue runner, because the external queue runner
2179     process does not know about the closure. So the next delivery process
2180     still has data in the lookup cache. In the case of a file lookup, there was
2181     no problem because closing a file descriptor in a subprocess doesn't affect
2182     the parent. However, if the lookup was caching a connection to a database,
2183     the connection was closed, and the second delivery process was likely to
2184     see errors such as "PGSQL: query failed: server closed the connection
2185     unexpectedly". The problem has been fixed by closing all cached lookups
2186     in a queue runner before running a delivery process.
2187
2188  7. Compiler warning on Linux for the second argument of iconv(), which doesn't
2189     seem to have the "const" qualifier which it has on other OS. I've
2190     parameterised it.
2191
2192  8. Change 4.21/2 was too strict. It is only if there are two authenticators
2193     *of the same type* (client or server) with the same public name that an
2194     error should be diagnosed.
2195
2196  9. When Exim looked up a host name for an IP address, but failed to find the
2197     original IP address when looking up the host name (a safety check), it
2198     output the message "<ip address> does not match any IP for NULL", which was
2199     confusing, to say the least. The bug was that the host name should have
2200     appeared instead of "NULL".
2201
2202 10. Since release 3.03, if Exim is called by a uid other than root or the Exim
2203     user that is built into the binary, and the -C or -D options is used, root
2204     privilege is dropped before the configuration file is read. In addition,
2205     logging is switched to stderr instead of the normal log files. If the
2206     configuration then re-defines the Exim user, the unprivileged environment
2207     is probably not what is expected, so Exim logs a panic warning message (but
2208     proceeds).
2209
2210     However, if deliver_drop_privilege is set, the unprivileged state may well
2211     be exactly what is intended, so the warning has been cut out in that case,
2212     and Exim is allowed to try to write to its normal log files.
2213
2214
2215 Exim version 4.21
2216 -----------------
2217
2218  1. smtp_return_error_details was not giving details for temporary sender
2219     or receiver verification errors.
2220
2221  2. Diagnose a configuration error if two authenticators have the same public
2222     name.
2223
2224  3. Exim used not to create the message log file for a message until the first
2225     delivery attempt. This could be confusing when incoming messages were held
2226     for policy or load reasons. The message log file is now created at the time
2227     the message is received, and an initial "Received" line is written to it.
2228
2229  4. The automatically generated man page for command line options had a minor
2230     bug that caused no ill effects; however, a more serious problem was that
2231     the procedure for building the man page automatically didn't always
2232     operate. Consequently, release 4.20 contains an out-of-date version. This
2233     shouldn't happen again.
2234
2235  5. When building Exim with embedded Perl support, the script that builds the
2236     Makefile was calling 'perl' to find its compile-time parameters, ignoring
2237     any setting of PERL_COMMAND in Local/Makefile. This is now fixed.
2238
2239  6. The freeze_tell option was not being used for messages that were frozen on
2240     arrival, either by an ACL or by local_scan().
2241
2242  7. Added the smtp_incomplete_transaction log selector.
2243
2244  8. After STARTTLS, Exim was not forgetting that it had advertised AUTH, so it
2245     was accepting AUTH without a new EHLO.
2246
2247  9. Added tls_remember_esmtp to cope with YAEB. This allows AUTH and other
2248     ESMTP extensions after STARTTLS without a new EHLO, in contravention of the
2249     RFC.
2250
2251 10. Logging of TCP/IP connections (when configured) now happens in the main
2252     daemon process instead of the child process, so that the TCP/IP connection
2253     count is more accurate (but it can never be perfect).
2254
2255 11. The use of "drop" in a nested ACL was not being handled correctly in the
2256     outer ACL. Now, if condition failure induced by the nested "drop" causes
2257     the outer ACL verb to deny access ("accept" or "discard" after "endpass",
2258     or "require"), the connection is dropped.
2259
2260 12. Similarly, "discard" in a nested ACL wasn't being handled. A nested ACL
2261     that yield "discard" can now be used with an "accept" or a "discard" verb,
2262     but an error is generated for any others (because I can't see a useful way
2263     to define what should happen).
2264
2265 13. When an ACL is read dynamically from a file (or anywhere else), the lines
2266     are now processed in the same way as lines in the Exim configuration file.
2267     In particular, continuation lines are supported.
2268
2269 14. Added the "dnslists = a.b.c!=n.n.n.n" feature.
2270
2271 15. Added -ti meaning -t -i.
2272
2273 16. Check for letters, digits, hyphens, and dots in the names of dnslist
2274     domains, and warn by logging if others are found.
2275
2276 17. At least on BSD, alignment is not guarenteed for the array of ifreq's
2277     returned from GIFCONF when Exim is trying to find the list of interfaces on
2278     a host. The code in os.c has been modified to copy each ifreq to an aligned
2279     structure in all cases.
2280
2281     Also, in some cases, the returned ifreq's were being copied to a 'struct
2282     ifreq' on the stack, which was subsequently passed to host_ntoa(). That
2283     means the last couple of bytes of an IPv6 address could be chopped if the
2284     ifreq contained only a normal sockaddr (14 bytes storage).
2285
2286 18. Named domain lists were not supported in the hosts_treat_as_local option.
2287     An entry such as +xxxx was not recognized, and was treated as a literal
2288     domain name.
2289
2290 19. Ensure that header lines added by a DATA ACL are included in the reject log
2291     if the ACL subsequently rejects the message.
2292
2293 20. Upgrade the cramtest.pl utility script to use Digest::MD5 instead of just
2294     MD5 (which is deprecated).
2295
2296 21. When testing a filter file using -bf, Exim was writing a message when it
2297     took the sender from a "From " line in the message, but it was not doing so
2298     when it took $return_path from a Return-Path: header line. It now does.
2299
2300 22. If the contents of a "message" modifier for a "warn" ACL verb do not begin
2301     with a valid header line field name (a series of printing characters
2302     terminated by a colon, Exim now inserts X-ACL-Warn: at the beginning.
2303
2304 23. Changed "disc" in the source to "disk" to conform to the documentation and
2305     the book and for uniformity.
2306
2307 24. Ignore Sendmail's -Ooption=value command line item.
2308
2309 25. When execve() failed while trying to run a command in a pipe transport,
2310     Exim was returning EX_UNAVAILBLE (69) from the subprocess. However, this
2311     could be confused with a return value of 69 from the command itself. This
2312     has been changed to 127, the value the shell returns if it is asked to run
2313     a non-existent command. The wording for the related log line suggests a
2314     non-existent command as the problem.
2315
2316 26. If received_header_text expands to an empty string, do not add a Received:
2317     header line to the message. (Well, it adds a token one on the spool, but
2318     marks it "old" so that it doesn't get used or transmitted.)
2319
2320 27. Installed eximstats 1.28 (addition of -nt option).
2321
2322 28. There was no check for failure on the call to getsockname() in the daemon
2323     code. This can fail if there is a shortage of resources on the system, with
2324     ENOMEM, for example. A temporary error is now given on failure.
2325
2326 29. Contrary to the C standard, it seems that in some environments, the
2327     equivalent of setlocale(LC_ALL, "C") is not obeyed at the start of a C
2328     program. Exim now does this explicitly; it affects the formatting of
2329     timestamps using strftime().
2330
2331 30. If exiqsumm was given junk data, it threw up some uninitialized variable
2332     complaints. I've now initialized all the variables, to avoid this.
2333
2334 32. Header lines added by a system filter were not being "seen" during
2335     transport-time rewrites.
2336
2337 33. The info_callback() function passed to OpenSSL is set up with type void
2338     (*)(SSL *, int, int), as described somewhere. However, when calling the
2339     function (actually a macro) that sets it up, the type void(*)() is
2340     expected. I've put in a cast to prevent warnings from picky compilers.
2341
2342 34. If a DNS black list lookup found a CNAME record, but there were no A
2343     records associated with the domain it pointed at, Exim crashed.
2344
2345 35. If a DNS black list lookup returned more than one A record, Exim ignored
2346     all but the first. It now scans all returned addresses if a particular IP
2347     value is being sought. In this situation, the contents of the
2348     $dnslist_value variable are a list of all the addresses, separated by a
2349     comma and a space.
2350
2351 36. Tightened up the rules for host name lookups using reverse DNS. Exim used
2352     to accept a host name and all its aliases if the forward lookup for any of
2353     them yielded the IP address of the incoming connection. Now it accepts only
2354     those names whose forward lookup yields the correct IP address. Any other
2355     names are discarded. This closes a loophole whereby a rogue DNS
2356     administrator could create reverse DNS records to break through a
2357     wildcarded host restriction in an ACL.
2358
2359 37. If a user filter or a system filter that ran in a subprocess used any of
2360     the numerical variables ($1, $2 etc), or $thisaddress, in a pipe command,
2361     the wrong values were passed to the pipe command ($thisaddress had the
2362     value of $0, $0 had the value of $1, etc). This bug was introduced by
2363     change 4.11/101, and not discovered because I wrote an inadequate test. :-(
2364
2365 38. Improved the line breaking for long SMTP error messages from ACLs.
2366     Previously, if there was no break point between 40 and 75 characters, Exim
2367     left the rest of the message alone. Two changes have been made: (a) I've
2368     reduced the minimum length to 35 characters; (b) if it can't find a break
2369     point between 35 and 75 characters, it looks ahead and uses the first one
2370     that it finds. This may give the occasional overlong line, but at least the
2371     remaining text gets split now.
2372
2373 39. Change 82 of 4.11 was unimaginative. It assumed the limit on the number of
2374     file descriptors might be low, and that setting 1000 would always raise it.
2375     It turns out that in some environments, the limit is already over 1000 and
2376     that lowering it causes trouble. So now Exim takes care not to decrease it.
2377
2378 40. When delivering a message, the value of $return_path is set to $sender_
2379     address at the start of routing (routers may change the value). By an
2380     oversight, this default was not being set up when an address was tested by
2381     -bt or -bv, which affected the outcome if any router or filter referred to
2382     $return_path.
2383
2384 41. The idea of the "warn" ACL verb is that it adds a header or writes to the
2385     log only when "message" or "log_message" are set. However, if one of the
2386     conditions was an address verification, or a call to a nested ACL, the
2387     messages generated by the underlying test were being passed through. This
2388     no longer happens. The underlying message is available in $acl_verify_
2389     message for both "message" and "log_message" expansions, so it can be
2390     passed through if needed.
2391
2392 42. Added RFC 2047 interpretation of header lines for $h_ expansions, with a
2393     new expansion $bh_ to give the encoded byte string without charset
2394     translation. Translation happens only if iconv() is available; HAVE_ICONV
2395     indicates this at build time. HEADERS_CHARSET gives the charset to
2396     translate to; headers_charset can change it in the configuration, and
2397     "headers charset" can change it in an individual filter file.
2398
2399 43. Now that we have a default RFC 2047 charset (see above), the code in Exim
2400     that creates RFC 2047 encoded "words" labels them as that charset instead
2401     of always using iso-8859-1. The cases are (i) the explicit ${rfc2047:
2402     expansion operator; (ii) when Exim creates a From: line for a local
2403     message; (iii) when a header line is rewritten to include a "phrase" part.
2404
2405 44. Nasty bug in exiqsumm: the regex to skip already-delivered addresses was
2406     buggy, causing it to skip the first lines of messages whose message ID
2407     ended in 'D'. This would not have bitten before Exim release 4.14, because
2408     message IDs were unlikely to end in 'D' before then. The effect was to have
2409     incorrect size information for certain domains.
2410
2411 45. #include "config.h" was missing at the start of the crypt16.c module. This
2412     caused trouble on Tru64 (aka OSF1) systems, because HAVE_CRYPT16 was not
2413     noticed.
2414
2415 46. If there was a timeout during a "random" callout check, Exim treated it as
2416     a failure of the random address, and carried on sending RSET and the real
2417     address. If the delay was just some slowness somewhere, the response to the
2418     original RCPT would be taken as a response to RSET and so on, causing
2419     mayhem of various kinds.
2420
2421 47. Change 50 for 4.20 was a heap of junk. I don't know what I was thinking
2422     when I implemented it. It didn't allow for the fact that some option values
2423     may legitimatetly be negative (e.g. size_addition), and it didn't even do
2424     the right test for positive values.
2425
2426 48. Domain names in DNS records are case-independent. Exim always looks them up
2427     in lower case. Some resolvers return domain names in exactly the case they
2428     appear in the zone file, that is, they may contain uppercase letters. Not
2429     all resolvers do this - some return always lower case. Exim was treating a
2430     change of case by a resolver as a change of domain, similar to a widening
2431     of a domain abbreviation. This triggered its re-routing code and so it was
2432     trying to route what was effectively the same domain again. This normally
2433     caused routing to fail (because the router wouldn't handle the domain
2434     twice). Now Exim checks for this case specially, and just changes the
2435     casing of the domain that it ultimately uses when it transmits the message
2436     envelope.
2437
2438 49. Added Sieve (RFC 3028) support, courtesy of Michael Haardt's contributed
2439     module.
2440
2441 50. If a filter generated a file delivery with a non-absolute name (possible if
2442     no home directory exists for the router), the forbid_file option was not
2443     forbidding it.
2444
2445 51. Added '&' feature to dnslists, to provide bit mask matching in addition to
2446     the existing equality matching.
2447
2448 52. Exim was using ints instead of ino_t variables in some places where it was
2449     dealing with inode numbers.
2450
2451 53. If TMPDIR is defined in Local/Makefile (default in src/EDITME is
2452     TMPDIR="/tmp"), Exim checks for the presence of an environment variable
2453     called TMPDIR, and if it finds it is different, it changes its value.
2454
2455 54. The smtp_printf() function is now made available to local_scan() so
2456     additional output lines can be written before returning. There is also an
2457     smtp_fflush() function to enable the detection of a dropped connection.
2458     The variables smtp_input and smtp_batched_input are exported to
2459     local_scan().
2460
2461 55. Changed the default runtime configuration: the message "Unknown user"
2462     has been removed from the ACL, and instead placed on the localuser router,
2463     using the cannot_route_message feature. This means that any verification
2464     failures that generate their own messages won't get overridden. Similarly,
2465     the "Unrouteable address" message that was in the ACL for unverifiable
2466     relay addresses has also been removed.
2467
2468 56. Added hosts_avoid_esmtp to the smtp transport.
2469
2470 57. The exicyclog script was not checking for the esoteric option
2471     CONFIGURE_FILE_USE_EUID in the Local/Makefile. It now does this, but it
2472     will work only if exicyclog is run under the appropriate euid.
2473
2474 58. Following a discussion on the list, the rules by which Exim recognises line
2475     endings on incoming messages have been changed. The -dropcr and drop_cr
2476     options are now no-ops, retained only for backwards compatibility. The
2477     following line terminators are recognized: LF CRLF CR. However, special
2478     processing applies to CR:
2479
2480     (i)  The sequence CR . CR does *not* terminate an incoming SMTP message,
2481          nor a local message in the state where . is a terminator.
2482
2483     (ii) If a bare CR is encountered in a header line, an extra space is added
2484          after the line terminator so as not to end the header. The reasoning
2485          behind this is that bare CRs in header lines are most likely either
2486          to be mistakes, or people trying to play silly games.
2487
2488 59. The size of a message, as listed by "-bp" or in the Exim monitor window,
2489     was being incorrectly given as 18 bytes larger than it should have been.
2490     This is a VOB (very old bug).
2491
2492 60. This may never have affected anything current, but just in case it has:
2493     When the local host is found other than at the start of a list of hosts,
2494     the local host, those with the same MX, and any that follow, are discarded.
2495     When the list in question was part of a longer list of hosts, the following
2496     hosts (not currently being processed) were also being discarded. This no
2497     longer happens. I'm not sure if this situation could ever has previously
2498     arisen.
2499
2500 61. Added the "/MX" feature to lists of hosts in the manualroute and query
2501     program routers.
2502
2503 62. Whenever Exim generates a new message, it now adds an Auto-Submitted:
2504     header. This is something that is recommended in a new Internet Draft, and
2505     is something that is documented as being done by Sendmail. There are two
2506     possible values. For messages generated by the autoreply transport, Exim
2507     adds:
2508
2509       Auto-Submitted: auto-replied
2510
2511     whereas for all other generated messages (e.g. bounces) it adds
2512
2513       Auto-Submitted: auto-generated
2514
2515 63. The "personal" condition in filters now includes a test for the
2516     Auto-Submitted: header. If it contains the string "auto-" the message it
2517     not considered personal.
2518
2519 64. Added rcpt_include_affixes as a generic transport option.
2520
2521 65. Added queue_only_override (default true).
2522
2523 66. Added the syslog_duplication option.
2524
2525 67. If what should have been the first header line of a message consisted of
2526     a space followed by a colon, Exim was mis-interpreting it as a header line.
2527     It isn't of course - it is syntactically invalid and should therefore be
2528     treated as the start of the message body. The misbehaviour could have
2529     caused a number of strange effects, including loss of data in subsequent
2530     header lines, and spool format errors.
2531
2532 68. Formerly, the AUTH parameter on a MAIL command was trusted only if the
2533     client host had authenticated. This control can now be exercised by an ACL
2534     for more flexibility.
2535
2536 69. By default, callouts do not happen when testing with -bh. There is now a
2537     variant, -bhc, which does actually run the callout code, including
2538     consulting and updating the callout cache.
2539
2540 70. Added support for saslauthd authentication, courtesy of Alexander
2541     Sabourenkov.
2542
2543 71. If statvfs() failed on the spool or log directories while checking their
2544     size for availability, Exim confusingly gave the error "space shortage".
2545     Furthermore, in debugging mode it crashed with a floating point exception.
2546     These checks are done if check_{spool,log}_{space,inodes} are set, and when
2547     an SMTP message arrives with SIZE= on the MAIL command. As this is a really
2548     serious problem, Exim now writes to the main and panic logs when this
2549     happens, with details of the failure. It then refuses to accept the
2550     incoming message, giving the message "spool directory problem" or "log
2551     directory problem" with a 421 code for SMTP messages.
2552
2553 72. When Exim is about to re-exec itself, it ensures that the file descriptors
2554     0, 1, and 2 exist, because some OS complain for execs without them (see
2555     ChangeLog 4.05/30). If necessary, Exim opens /dev/null to use for these
2556     descriptors. However, the code omitted to check that the open succeeded,
2557     causing mysterious errors if for some reason the permissions on /dev/null
2558     got screwed. Now Exim writes a message to the main and panic logs, and
2559     bombs out if it can't open /dev/null.
2560
2561 73. Re-vamped the way daemon_smtp_port, local_interfaces, and -oX work and
2562     interact so that it is all more flexible. It is supposed to remain
2563     backwards compatible. Also added extra_local_interfaces.
2564
2565 74. Invalid data sent to a SPA (NTLM) server authenticator could cause the code
2566     to bomb out with an assertion failure - to the client this appears as a
2567     connection drop. This problem occurs in the part of the code that was taken
2568     from the Samba project. Fortunately, the assertion is in a very simple
2569     function, so I have fixed this by reproducing the function inline in the
2570     one place where it is called, and arranging for authentication to fail
2571     instead of killing the process with assert().
2572
2573 75. The SPA client code was not working when the server requested OEM rather
2574     than Unicode encoding.
2575
2576 76. Added code to make require_files with a specific uid setting more usable in
2577     the case where statting the file as root fails - usually a non-root-mounted
2578     NFS file system. When this happens and the failure is EACCES, Exim now
2579     forks a subprocess and does the per-uid checking as the relevant uid.
2580
2581 77. Added process_log_path.
2582
2583 78. If log_file_path was not explicitly set, a setting of check_log_space or
2584     check_log_inodes was ignored.
2585
2586 79. If a space check for the spool or log partitions fails, the incident is now
2587     logged. Of course, in the latter case the data may get lost...
2588
2589 80. Added the %p formatting code to string_format() so that it can be used to
2590     print addresses in debug_print(). Adjusted all the address printing in the
2591     debugging in store.c to use %p rather than %d.
2592
2593 81. There was a concern that a line of code in smtp_in.c could overflow a
2594     buffer if a HELO/EHLO command was given followed by 500 or so spaces. As
2595     initially expressed, the concern was not well-founded, because trailing
2596     spaces are removed early. However, if the trailing spaces were followed by
2597     a NULL, they did not get removed, so the overflow was possible. Two fixes
2598     were applied:
2599
2600     (a) I re-wrote the offending code in a cleaner fashion.
2601     (b) If an incoming SMTP command contains a NULL character, it is rejected
2602         as invalid.
2603
2604 82. When Exim changes uid/gid to the Exim user at daemon start time, it now
2605     runs initgroups(), so that if the Exim user is in any additional groups,
2606     they will be used during message reception.
2607
2608
2609 Exim version 4.20
2610 -----------------
2611
2612 The change log for 4.20 and earlier releases has been archived.
2613
2614 ****