Fix sieve QP regression from Coverity cleanups
[users/jgh/exim.git] / doc / doc-txt / NewStuff
1 New Features in Exim
2 --------------------
3
4 This file contains descriptions of new features that have been added to Exim.
5 Before a formal release, there may be quite a lot of detail so that people can
6 test from the snapshots or the Git before the documentation is updated. Once
7 the documentation is updated, this file is reduced to a short list.
8
9 Version 4.90
10 ------------
11
12  1. PKG_CONFIG_PATH can now be set in Local/Makefile;
13     wildcards will be expanded, values are collapsed.
14
15  2. The ${readsocket } expansion now takes an option to not shutdown the
16     connection after sending the query string.  The default remains to do so.
17
18  3. An smtp transport option "hosts_noproxy_tls" to control whether multiple
19     deliveries on a single TCP connection can maintain a TLS connection
20     open.  By default disabled for all hosts, doing so saves the cost of
21     making new TLS sessions, at the cost of having to proxy the data via
22     another process.  Logging is also affected.
23
24  4. A malware connection type for the FPSCAND protocol.
25
26  5. An option for recipient verify callouts to hold the connection open for
27     further recipients and for delivery.
28
29  6. The reproducible build $SOURCE_DATE_EPOCH environment variable is now
30     supported.
31
32  7. Optionally, an alternate format for spool data-files which matches the
33     wire format - meaning more efficient reception and transmission (at the
34     cost of difficulty with standard Unix tools).  Only used for messages
35     received using the ESMTP CHUNKING option, and when a new main-section
36     option "spool_wireformat" (false by default) is set.
37
38  8. New main configuration option "commandline_checks_require_admin" to
39     restrict who can use various introspection options.
40
41  9. New option modifier "no_check" for quota and quota_filecount
42     appendfile transport.
43
44 10. Variable $smtp_command_history returning a comma-sep list of recent
45     SMTP commands.
46
47 11. Millisecond timetamps in logs, on log_selector "millisec".  Also affects
48     log elements QT, DT and D, and timstamps in debug output.
49
50 12. TCP Fast Open logging.  As a server, logs when the SMTP banner was sent
51     while still in SYN_RECV state; as a client logs when the connection
52     is opened with a TFO cookie.  Support varies between platforms
53     (Linux does both. FreeBSD server only, others unknown).
54
55
56 Version 4.89
57 ------------
58
59  1. Allow relative config file names for ".include"
60
61  2. A main-section config option "debug_store" to control the checks on
62     variable locations during store-reset.  Normally false but can be enabled
63     when a memory corrution issue is suspected on a production system.
64
65
66 Version 4.88
67 ------------
68
69  1. The new perl_taintmode option allows to run the embedded perl
70     interpreter in taint mode.
71
72  2. New log_selector: dnssec, adds a "DS" tag to acceptance and delivery lines.
73
74  3. Speculative debugging, via a "kill" option to the "control=debug" ACL
75     modifier.
76
77  4. New expansion item ${sha3:<string>} / ${sha3_<N>:<string>}.
78     N can be 224, 256 (default), 384, 512.
79     With GnuTLS 3.5.0 or later, only.
80
81  5. Facility for named queues:  A command-line argument can specify
82     the queue name for a queue operation, and an ACL modifier can set
83     the queue to be used for a message.  A $queue_name variable gives
84     visibility.
85
86  6. New expansion operators base32/base32d.
87
88  7. The CHUNKING ESMTP extension from RFC 3030.  May give some slight
89     performance increase and network load decrease.  Main config option
90     chunking_advertise_hosts, and smtp transport option hosts_try_chunking
91     for control.
92
93  8. LMDB lookup support, as Experimental. Patch supplied by Andrew Colin Kissa.
94
95  9. Expansion operator escape8bit, like escape but not touching newline etc..
96
97 10. Feature macros, generated from compile options.  All start with "_HAVE_"
98     and go on with some roughly recognisable name.  Driver macros, for
99     router, transport and authentication drivers; names starting with "_DRIVER_".
100     Option macros, for each configuration-file option; all start with "_OPT_".
101     Use the "-bP macros" command-line option to see what is present.
102
103 11. Integer values for options can take a "G" multiplier.
104
105 12. defer=pass option for the ACL control cutthrough_delivery, to reflect 4xx
106     returns from the target back to the initiator, rather than spooling the
107     message.
108
109 13. New built-in constants available for tls_dhparam and default changed.
110
111 14. If built with EXPERIMENTAL_QUEUEFILE, a queuefile transport, for writing
112     out copies of the message spool files for use by 3rd-party scanners.
113
114 15. A new option on the smtp transport, hosts_try_fastopen.  If the system
115     supports it (on Linux it must be enabled in the kernel by the sysadmin)
116     try to use RFC 7413 "TCP Fast Open".  No data is sent on the SYN segment
117     but it permits a peer that also supports the facility to send its SMTP
118     banner immediately after the SYN,ACK segment rather then waiting for
119     another ACK - so saving up to one roundtrip time.  Because it requires
120     previous communication with the peer (we save a cookie from it) this
121     will only become active on frequently-contacted destinations.
122
123 16. A new syslog_pid option to suppress PID duplication in syslog lines.
124
125
126 Version 4.87
127 ------------
128
129  1. The ACL conditions regex and mime_regex now capture substrings
130     into numeric variables $regex1 to 9, like the "match" expansion condition.
131
132  2. New $callout_address variable records the address used for a spam=,
133     malware= or verify= callout.
134
135  3. Transports now take a "max_parallel" option, to limit concurrency.
136
137  4. Expansion operators ${ipv6norm:<string>} and ${ipv6denorm:<string>}.
138     The latter expands to a 8-element colon-sep set of hex digits including
139     leading zeroes. A trailing ipv4-style dotted-decimal set is converted
140     to hex.  Pure ipv4 addresses are converted to IPv4-mapped IPv6.
141     The former operator strips leading zeroes and collapses the longest
142     set of 0-groups to a double-colon.
143
144  5. New "-bP config" support, to dump the effective configuration.
145
146  6. New $dkim_key_length variable.
147
148  7. New base64d and base64 expansion items (the existing str2b64 being a
149     synonym of the latter).  Add support in base64 for certificates.
150
151  8. New main configuration option "bounce_return_linesize_limit" to
152     avoid oversize bodies in bounces. The default value matches RFC
153     limits.
154
155  9. New $initial_cwd expansion variable.
156
157
158 Version 4.86
159 ------------
160
161  1. Support for using the system standard CA bundle.
162
163  2. New expansion items $config_file, $config_dir, containing the file
164     and directory name of the main configuration file. Also $exim_version.
165
166  3. New "malware=" support for Avast.
167
168  4. New "spam=" variant option for Rspamd.
169
170  5. Assorted options on malware= and spam= scanners.
171
172  6. A command-line option to write a comment into the logfile.
173
174  7. If built with EXPERIMENTAL_SOCKS feature enabled, the smtp transport can
175     be configured to make connections via socks5 proxies.
176
177  8. If built with EXPERIMENTAL_INTERNATIONAL, support is included for
178     the transmission of UTF-8 envelope addresses.
179
180  9. If built with EXPERIMENTAL_INTERNATIONAL, an expansion item for a commonly
181     used encoding of Maildir folder names.
182
183 10. A logging option for slow DNS lookups.
184
185 11. New ${env {<variable>}} expansion.
186
187 12. A non-SMTP authenticator using information from TLS client certificates.
188
189 13. Main option "tls_eccurve" for selecting an Elliptic Curve for TLS.
190     Patch originally by Wolfgang Breyha.
191
192 14. Main option "dns_trust_aa" for trusting your local nameserver at the
193     same level as DNSSEC.
194
195
196 Version 4.85
197 ------------
198
199  1. If built with EXPERIMENTAL_DANE feature enabled, Exim will follow the
200     DANE SMTP draft to assess a secure chain of trust of the certificate
201     used to establish the TLS connection based on a TLSA record in the
202     domain of the sender.
203
204  2. The EXPERIMENTAL_TPDA feature has been renamed to EXPERIMENTAL_EVENT
205     and several new events have been created. The reason is because it has
206     been expanded beyond just firing events during the transport phase. Any
207     existing TPDA transport options will have to be rewritten to use a new
208     $event_name expansion variable in a condition. Refer to the
209     experimental-spec.txt for details and examples.
210
211  3. The EXPERIMENTAL_CERTNAMES features is an enhancement to verify that
212     server certs used for TLS match the result of the MX lookup. It does
213     not use the same mechanism as DANE.
214
215
216 Version 4.84
217 ------------
218
219
220 Version 4.83
221 ------------
222
223  1. If built with the EXPERIMENTAL_PROXY feature enabled, Exim can be
224     configured to expect an initial header from a proxy that will make the
225     actual external source IP:host be used in exim instead of the IP of the
226     proxy that is connecting to it.
227
228  2. New verify option header_names_ascii, which will check to make sure
229     there are no non-ASCII characters in header names.  Exim itself handles
230     those non-ASCII characters, but downstream apps may not, so Exim can
231     detect and reject if those characters are present.
232
233  3. New expansion operator ${utf8clean:string} to replace malformed UTF8
234     codepoints with valid ones.
235
236  4. New malware type "sock".  Talks over a Unix or TCP socket, sending one
237     command line and matching a regex against the return data for trigger
238     and a second regex to extract malware_name.  The mail spoolfile name can
239     be included in the command line.
240
241  5. The smtp transport now supports options "tls_verify_hosts" and
242     "tls_try_verify_hosts".  If either is set the certificate verification
243     is split from the encryption operation. The default remains that a failed
244     verification cancels the encryption.
245
246  6. New SERVERS override of default ldap server list.  In the ACLs, an ldap
247     lookup can now set a list of servers to use that is different from the
248     default list.
249
250  7. New command-line option -C for exiqgrep to specify alternate exim.conf
251     file when searching the queue.
252
253  8. OCSP now supports GnuTLS also, if you have version 3.1.3 or later of that.
254
255  9. Support for DNSSEC on outbound connections.
256
257 10. New variables "tls_(in,out)_(our,peer)cert" and expansion item
258     "certextract" to extract fields from them. Hash operators md5 and sha1
259     work over them for generating fingerprints, and a new sha256 operator
260     for them added.
261
262 11. PRDR is now supported dy default.
263
264 12. OCSP stapling is now supported by default.
265
266 13. If built with the EXPERIMENTAL_DSN feature enabled, Exim will output
267     Delivery Status Notification messages in MIME format, and negotiate
268     DSN features per RFC 3461.
269
270
271 Version 4.82
272 ------------
273
274  1. New command-line option -bI:sieve will list all supported sieve extensions
275     of this Exim build on standard output, one per line.
276     ManageSieve (RFC 5804) providers managing scripts for use by Exim should
277     query this to establish the correct list to include in the protocol's
278     SIEVE capability line.
279
280  2. If the -n option is combined with the -bP option, then the name of an
281     emitted option is not output, only the value (if visible to you).
282     For instance, "exim -n -bP pid_file_path" should just emit a pathname
283     followed by a newline, and no other text.
284
285  3. When built with SUPPORT_TLS and USE_GNUTLS, the SMTP transport driver now
286     has a "tls_dh_min_bits" option, to set the minimum acceptable number of
287     bits in the Diffie-Hellman prime offered by a server (in DH ciphersuites)
288     acceptable for security.  (Option accepted but ignored if using OpenSSL).
289     Defaults to 1024, the old value.  May be lowered only to 512, or raised as
290     far as you like.  Raising this may hinder TLS interoperability with other
291     sites and is not currently recommended.  Lowering this will permit you to
292     establish a TLS session which is not as secure as you might like.
293
294     Unless you really know what you are doing, leave it alone.
295
296  4. If not built with DISABLE_DNSSEC, Exim now has the main option
297     dns_dnssec_ok; if set to 1 then Exim will initialise the resolver library
298     to send the DO flag to your recursive resolver.  If you have a recursive
299     resolver, which can set the Authenticated Data (AD) flag in results, Exim
300     can now detect this.  Exim does not perform validation itself, instead
301     relying upon a trusted path to the resolver.
302
303     Current status: work-in-progress; $sender_host_dnssec variable added.
304
305  5. DSCP support for outbound connections: on a transport using the smtp driver,
306     set "dscp = ef", for instance, to cause the connections to have the relevant
307     DSCP (IPv4 TOS or IPv6 TCLASS) value in the header.
308
309     Similarly for inbound connections, there is a new control modifier, dscp,
310     so "warn control = dscp/ef" in the connect ACL, or after authentication.
311
312     Supported values depend upon system libraries.  "exim -bI:dscp" to list the
313     ones Exim knows of.  You can also set a raw number 0..0x3F.
314
315  6. The -G command-line flag is no longer ignored; it is now equivalent to an
316     ACL setting "control = suppress_local_fixups".  The -L command-line flag
317     is now accepted and forces use of syslog, with the provided tag as the
318     process name.  A few other flags used by Sendmail are now accepted and
319     ignored.
320
321  7. New cutthrough routing feature.  Requested by a "control = cutthrough_delivery"
322     ACL modifier; works for single-recipient mails which are received on and
323     deliverable via SMTP.  Using the connection made for a recipient verify,
324     if requested before the verify, or a new one made for the purpose while
325     the inbound connection is still active.  The bulk of the mail item is copied
326     direct from the inbound socket to the outbound (as well as the spool file).
327     When the source notifies the end of data, the data acceptance by the destination
328     is negotiated before the acceptance is sent to the source.  If the destination
329     does not accept the mail item, for example due to content-scanning, the item
330     is not accepted from the source and therefore there is no need to generate
331     a bounce mail.  This is of benefit when providing a secondary-MX service.
332     The downside is that delays are under the control of the ultimate destination
333     system not your own.
334
335     The Received-by: header on items delivered by cutthrough is generated
336     early in reception rather than at the end; this will affect any timestamp
337     included.  The log line showing delivery is recorded before that showing
338     reception; it uses a new ">>" tag instead of "=>".
339
340     To support the feature, verify-callout connections can now use ESMTP and TLS.
341     The usual smtp transport options are honoured, plus a (new, default everything)
342     hosts_verify_avoid_tls.
343
344     New variable families named tls_in_cipher, tls_out_cipher etc. are introduced
345     for specific access to the information for each connection.  The old names
346     are present for now but deprecated.
347
348     Not yet supported: IGNOREQUOTA, SIZE, PIPELINING.
349
350  8. New expansion operators ${listnamed:name} to get the content of a named list
351     and ${listcount:string} to count the items in a list.
352
353  9. New global option "gnutls_allow_auto_pkcs11", defaults false.  The GnuTLS
354     rewrite in 4.80 combines with GnuTLS 2.12.0 or later, to autoload PKCS11
355     modules.  For some situations this is desirable, but we expect admin in
356     those situations to know they want the feature.  More commonly, it means
357     that GUI user modules get loaded and are broken by the setuid Exim being
358     unable to access files specified in environment variables and passed
359     through, thus breakage.  So we explicitly inhibit the PKCS11 initialisation
360     unless this new option is set.
361
362     Some older OS's with earlier versions of GnuTLS might not have pkcs11 ability,
363     so have also added a build option which can be used to build Exim with GnuTLS
364     but without trying to use any kind of PKCS11 support.  Uncomment this in the
365     Local/Makefile:
366
367     AVOID_GNUTLS_PKCS11=yes
368
369 10. The "acl = name" condition on an ACL now supports optional arguments.
370     New expansion item "${acl {name}{arg}...}" and expansion condition
371     "acl {{name}{arg}...}" are added.  In all cases up to nine arguments
372     can be used, appearing in $acl_arg1 to $acl_arg9 for the called ACL.
373     Variable $acl_narg contains the number of arguments.  If the ACL sets
374     a "message =" value this becomes the result of the expansion item,
375     or the value of $value for the expansion condition.  If the ACL returns
376     accept the expansion condition is true; if reject, false.  A defer
377     return results in a forced fail.
378
379 11. Routers and transports can now have multiple headers_add and headers_remove
380     option lines.  The concatenated list is used.
381
382 12. New ACL modifier "remove_header" can remove headers before message gets
383     handled by routers/transports.
384
385 13. New dnsdb lookup pseudo-type "a+".  A sequence of "a6" (if configured),
386     "aaaa" and "a" lookups is done and the full set of results returned.
387
388 14. New expansion variable $headers_added with content from ACL add_header
389     modifier (but not yet added to message).
390
391 15. New 8bitmime status logging option for received messages.  Log field "M8S".
392
393 16. New authenticated_sender logging option, adding to log field "A".
394
395 17. New expansion variables $router_name and $transport_name.  Useful
396     particularly for debug_print as -bt command-line option does not
397     require privilege whereas -d does.
398
399 18. If built with EXPERIMENTAL_PRDR, per-recipient data responses per a
400     proposed extension to SMTP from Eric Hall.
401
402 19. The pipe transport has gained the force_command option, to allow
403     decorating commands from user .forward pipe aliases with prefix
404     wrappers, for instance.
405
406 20. Callout connections can now AUTH; the same controls as normal delivery
407     connections apply.
408
409 21. Support for DMARC, using opendmarc libs, can be enabled. It adds new
410     options: dmarc_forensic_sender, dmarc_history_file, and dmarc_tld_file.
411     It adds new expansion variables $dmarc_ar_header, $dmarc_status,
412     $dmarc_status_text, and $dmarc_used_domain.  It adds a new acl modifier
413     dmarc_status.  It adds new control flags dmarc_disable_verify and
414     dmarc_enable_forensic. The default for the dmarc_tld_file option is
415     "/etc/exim/opendmarc.tlds" and can be changed via EDITME.
416
417 22. Add expansion variable $authenticated_fail_id, which is the username
418     provided to the authentication method which failed.  It is available
419     for use in subsequent ACL processing (typically quit or notquit ACLs).
420
421 23. New ACL modifier "udpsend" can construct a UDP packet to send to a given
422     UDP host and port.
423
424 24. New ${hexquote:..string..} expansion operator converts non-printable
425     characters in the string to \xNN form.
426
427 25. Experimental TPDA (Transport Post Delivery Action) function added.
428     Patch provided by Axel Rau.
429
430 26. Experimental Redis lookup added. Patch provided by Warren Baker.
431
432
433 Version 4.80
434 ------------
435
436  1. New authenticator driver, "gsasl".  Server-only (at present).
437     This is a SASL interface, licensed under GPL, which can be found at
438     http://www.gnu.org/software/gsasl/.
439     This system does not provide sources of data for authentication, so
440     careful use needs to be made of the conditions in Exim.
441
442  2. New authenticator driver, "heimdal_gssapi".  Server-only.
443     A replacement for using cyrus_sasl with Heimdal, now that $KRB5_KTNAME
444     is no longer honoured for setuid programs by Heimdal.  Use the
445     "server_keytab" option to point to the keytab.
446
447  3. The "pkg-config" system can now be used when building Exim to reference
448     cflags and library information for lookups and authenticators, rather
449     than having to update "CFLAGS", "AUTH_LIBS", "LOOKUP_INCLUDE" and
450     "LOOKUP_LIBS" directly.  Similarly for handling the TLS library support
451     without adjusting "TLS_INCLUDE" and "TLS_LIBS".
452
453     In addition, setting PCRE_CONFIG=yes will query the pcre-config tool to
454     find the headers and libraries for PCRE.
455
456  4. New expansion variable $tls_bits.
457
458  5. New lookup type, "dbmjz".  Key is an Exim list, the elements of which will
459     be joined together with ASCII NUL characters to construct the key to pass
460     into the DBM library.  Can be used with gsasl to access sasldb2 files as
461     used by Cyrus SASL.
462
463  6. OpenSSL now supports TLS1.1 and TLS1.2 with OpenSSL 1.0.1.
464
465     Avoid release 1.0.1a if you can.  Note that the default value of
466     "openssl_options" is no longer "+dont_insert_empty_fragments", as that
467     increased susceptibility to attack.  This may still have interoperability
468     implications for very old clients (see version 4.31 change 37) but
469     administrators can choose to make the trade-off themselves and restore
470     compatibility at the cost of session security.
471
472  7. Use of the new expansion variable $tls_sni in the main configuration option
473     tls_certificate will cause Exim to re-expand the option, if the client
474     sends the TLS Server Name Indication extension, to permit choosing a
475     different certificate; tls_privatekey will also be re-expanded.  You must
476     still set these options to expand to valid files when $tls_sni is not set.
477
478     The SMTP Transport has gained the option tls_sni, which will set a hostname
479     for outbound TLS sessions, and set $tls_sni too.
480
481     A new log_selector, +tls_sni, has been added, to log received SNI values
482     for Exim as a server.
483
484  8. The existing "accept_8bitmime" option now defaults to true.  This means
485     that Exim is deliberately not strictly RFC compliant.  We're following
486     Dan Bernstein's advice in http://cr.yp.to/smtp/8bitmime.html by default.
487     Those who disagree, or know that they are talking to mail servers that,
488     even today, are not 8-bit clean, need to turn off this option.
489
490  9. Exim can now be started with -bw (with an optional timeout, given as
491     -bw<timespec>).  With this, stdin at startup is a socket that is
492     already listening for connections.  This has a more modern name of
493     "socket activation", but forcing the activated socket to fd 0.  We're
494     interested in adding more support for modern variants.
495
496 10. ${eval } now uses 64-bit values on supporting platforms.  A new "G" suffix
497     for numbers indicates multiplication by 1024^3.
498
499 11. The GnuTLS support has been revamped; the three options gnutls_require_kx,
500     gnutls_require_mac & gnutls_require_protocols are no longer supported.
501     tls_require_ciphers is now parsed by gnutls_priority_init(3) as a priority
502     string, documentation for which is at:
503     http://www.gnutls.org/manual/html_node/Priority-Strings.html
504
505     SNI support has been added to Exim's GnuTLS integration too.
506
507     For sufficiently recent GnuTLS libraries, ${randint:..} will now use
508     gnutls_rnd(), asking for GNUTLS_RND_NONCE level randomness.
509
510 12. With OpenSSL, if built with EXPERIMENTAL_OCSP, a new option tls_ocsp_file
511     is now available.  If the contents of the file are valid, then Exim will
512     send that back in response to a TLS status request; this is OCSP Stapling.
513     Exim will not maintain the contents of the file in any way: administrators
514     are responsible for ensuring that it is up-to-date.
515
516     See "experimental-spec.txt" for more details.
517
518 13. ${lookup dnsdb{ }} supports now SPF record types. They are handled
519     identically to TXT record lookups.
520
521 14. New expansion variable $tod_epoch_l for higher-precision time.
522
523 15. New global option tls_dh_max_bits, defaulting to current value of NSS
524     hard-coded limit of DH ephemeral bits, to fix interop problems caused by
525     GnuTLS 2.12 library recommending a bit count higher than NSS supports.
526
527 16. tls_dhparam now used by both OpenSSL and GnuTLS, can be path or identifier.
528     Option can now be a path or an identifier for a standard prime.
529     If unset, we use the DH prime from section 2.2 of RFC 5114, "ike23".
530     Set to "historic" to get the old GnuTLS behaviour of auto-generated DH
531     primes.
532
533 17. SSLv2 now disabled by default in OpenSSL.  (Never supported by GnuTLS).
534     Use "openssl_options -no_sslv2" to re-enable support, if your OpenSSL
535     install was not built with OPENSSL_NO_SSL2 ("no-ssl2").
536
537
538 Version 4.77
539 ------------
540
541  1. New options for the ratelimit ACL condition: /count= and /unique=.
542     The /noupdate option has been replaced by a /readonly option.
543
544  2. The SMTP transport's protocol option may now be set to "smtps", to
545     use SSL-on-connect outbound.
546
547  3. New variable $av_failed, set true if the AV scanner deferred; ie, when
548     there is a problem talking to the AV scanner, or the AV scanner running.
549
550  4. New expansion conditions, "inlist" and "inlisti", which take simple lists
551     and check if the search item is a member of the list.  This does not
552     support named lists, but does subject the list part to string expansion.
553
554  5. Unless the new EXPAND_LISTMATCH_RHS build option is set when Exim was
555     built, Exim no longer performs string expansion on the second string of
556     the match_* expansion conditions: "match_address", "match_domain",
557     "match_ip" & "match_local_part".  Named lists can still be used.
558
559
560 Version 4.76
561 ------------
562
563  1. The global option "dns_use_edns0" may be set to coerce EDNS0 usage on
564     or off in the resolver library.
565
566
567 Version 4.75
568 ------------
569
570  1. In addition to the existing LDAP and LDAP/SSL ("ldaps") support, there
571     is now LDAP/TLS support, given sufficiently modern OpenLDAP client
572     libraries.  The following global options have been added in support of
573     this: ldap_ca_cert_dir, ldap_ca_cert_file, ldap_cert_file, ldap_cert_key,
574     ldap_cipher_suite, ldap_require_cert, ldap_start_tls.
575
576  2. The pipe transport now takes a boolean option, "freeze_signal", default
577     false.  When true, if the external delivery command exits on a signal then
578     Exim will freeze the message in the queue, instead of generating a bounce.
579
580  3. Log filenames may now use %M as an escape, instead of %D (still available).
581     The %M pattern expands to yyyymm, providing month-level resolution.
582
583  4. The $message_linecount variable is now updated for the maildir_tag option,
584     in the same way as $message_size, to reflect the real number of lines,
585     including any header additions or removals from transport.
586
587  5. When contacting a pool of SpamAssassin servers configured in spamd_address,
588     Exim now selects entries randomly, to better scale in a cluster setup.
589
590
591 Version 4.74
592 ------------
593
594  1. SECURITY FIX: privilege escalation flaw fixed. On Linux (and only Linux)
595     the flaw permitted the Exim run-time user to cause root to append to
596     arbitrary files of the attacker's choosing, with the content based
597     on content supplied by the attacker.
598
599  2. Exim now supports loading some lookup types at run-time, using your
600     platform's dlopen() functionality.  This has limited platform support
601     and the intention is not to support every variant, it's limited to
602     dlopen().  This permits the main Exim binary to not be linked against
603     all the libraries needed for all the lookup types.
604
605
606 Version 4.73
607 ------------
608
609  NOTE: this version is not guaranteed backwards-compatible, please read the
610        items below carefully
611
612  1. A new main configuration option, "openssl_options", is available if Exim
613     is built with SSL support provided by OpenSSL.  The option allows
614     administrators to specify OpenSSL options to be used on connections;
615     typically this is to set bug compatibility features which the OpenSSL
616     developers have not enabled by default.  There may be security
617     consequences for certain options, so these should not be changed
618     frivolously.
619
620  2. A new pipe transport option, "permit_coredumps", may help with problem
621     diagnosis in some scenarios.  Note that Exim is typically installed as
622     a setuid binary, which on most OSes will inhibit coredumps by default,
623     so that safety mechanism would have to be overridden for this option to
624     be able to take effect.
625
626  3. ClamAV 0.95 is now required for ClamAV support in Exim, unless
627     Local/Makefile sets: WITH_OLD_CLAMAV_STREAM=yes
628     Note that this switches Exim to use a new API ("INSTREAM") and a future
629     release of ClamAV will remove support for the old API ("STREAM").
630
631     The av_scanner option, when set to "clamd", now takes an optional third
632     part, "local", which causes Exim to pass a filename to ClamAV instead of
633     the file content.  This is the same behaviour as when clamd is pointed at
634     a Unix-domain socket.  For example:
635
636       av_scanner = clamd:192.0.2.3 1234:local
637
638     ClamAV's ExtendedDetectionInfo response format is now handled.
639
640  4. There is now a -bmalware option, restricted to admin users.  This option
641     takes one parameter, a filename, and scans that file with Exim's
642     malware-scanning framework.  This is intended purely as a debugging aid
643     to ensure that Exim's scanning is working, not to replace other tools.
644     Note that the ACL framework is not invoked, so if av_scanner references
645     ACL variables without a fallback then this will fail.
646
647  5. There is a new expansion operator, "reverse_ip", which will reverse IP
648     addresses; IPv4 into dotted quad, IPv6 into dotted nibble.  Examples:
649
650       ${reverse_ip:192.0.2.4}
651        -> 4.2.0.192
652       ${reverse_ip:2001:0db8:c42:9:1:abcd:192.0.2.3}
653        -> 3.0.2.0.0.0.0.c.d.c.b.a.1.0.0.0.9.0.0.0.2.4.c.0.8.b.d.0.1.0.0.2
654
655  6. There is a new ACL control called "debug", to enable debug logging.
656     This allows selective logging of certain incoming transactions within
657     production environments, with some care.  It takes two options, "tag"
658     and "opts"; "tag" is included in the filename of the log and "opts"
659     is used as per the -d<options> command-line option.  Examples, which
660     don't all make sense in all contexts:
661
662       control = debug
663       control = debug/tag=.$sender_host_address
664       control = debug/opts=+expand+acl
665       control = debug/tag=.$message_exim_id/opts=+expand
666
667  7. It has always been implicit in the design and the documentation that
668     "the Exim user" is not root.  src/EDITME said that using root was
669     "very strongly discouraged".  This is not enough to keep people from
670     shooting themselves in the foot in days when many don't configure Exim
671     themselves but via package build managers.  The security consequences of
672     running various bits of network code are severe if there should be bugs in
673     them.  As such, the Exim user may no longer be root.  If configured
674     statically, Exim will refuse to build.  If configured as ref:user then Exim
675     will exit shortly after start-up.  If you must shoot yourself in the foot,
676     then henceforth you will have to maintain your own local patches to strip
677     the safeties off.
678
679  8. There is a new expansion condition, bool_lax{}.  Where bool{} uses the ACL
680     condition logic to determine truth/failure and will fail to expand many
681     strings, bool_lax{} uses the router condition logic, where most strings
682     do evaluate true.
683     Note: bool{00} is false, bool_lax{00} is true.
684
685  9. Routers now support multiple "condition" tests.
686
687 10. There is now a runtime configuration option "tcp_wrappers_daemon_name".
688     Setting this allows an admin to define which entry in the tcpwrappers
689     config file will be used to control access to the daemon.  This option
690     is only available when Exim is built with USE_TCP_WRAPPERS.  The
691     default value is set at build time using the TCP_WRAPPERS_DAEMON_NAME
692     build option.
693
694 11. [POSSIBLE CONFIG BREAKAGE] The default value for system_filter_user is now
695     the Exim run-time user, instead of root.
696
697 12. [POSSIBLE CONFIG BREAKAGE] ALT_CONFIG_ROOT_ONLY is no longer optional and
698     is forced on.  This is mitigated by the new build option
699     TRUSTED_CONFIG_LIST which defines a list of configuration files which
700     are trusted; one per line. If a config file is owned by root and matches
701     a pathname in the list, then it may be invoked by the Exim build-time
702     user without Exim relinquishing root privileges.
703
704 13. [POSSIBLE CONFIG BREAKAGE] The Exim user is no longer automatically
705     trusted to supply -D<Macro[=Value]> overrides on the command-line.  Going
706     forward, we recommend using TRUSTED_CONFIG_LIST with shim configs that
707     include the main config.  As a transition mechanism, we are temporarily
708     providing a work-around: the new build option WHITELIST_D_MACROS provides
709     a colon-separated list of macro names which may be overridden by the Exim
710     run-time user.  The values of these macros are constrained to the regex
711     ^[A-Za-z0-9_/.-]*$ (which explicitly does allow for empty values).
712
713
714 Version 4.72
715 ------------
716
717  1. TWO SECURITY FIXES: one relating to mail-spools which are globally
718     writable, the other to locking of MBX folders (not mbox).
719
720  2. MySQL stored procedures are now supported.
721
722  3. The dkim_domain transport option is now a list, not a single string, and
723     messages will be signed for each element in the list (discarding
724     duplicates).
725
726  4. The 4.70 release unexpectedly changed the behaviour of dnsdb TXT lookups
727     in the presence of multiple character strings within the RR. Prior to 4.70,
728     only the first string would be returned.  The dnsdb lookup now, by default,
729     preserves the pre-4.70 semantics, but also now takes an extended output
730     separator specification.  The separator can be followed by a semicolon, to
731     concatenate the individual text strings together with no join character,
732     or by a comma and a second separator character, in which case the text
733     strings within a TXT record are joined on that second character.
734     Administrators are reminded that DNS provides no ordering guarantees
735     between multiple records in an RRset.  For example:
736
737       foo.example.  IN TXT "a" "b" "c"
738       foo.example.  IN TXT "d" "e" "f"
739
740       ${lookup dnsdb{>/ txt=foo.example}}   -> "a/d"
741       ${lookup dnsdb{>/; txt=foo.example}}  -> "def/abc"
742       ${lookup dnsdb{>/,+ txt=foo.example}} -> "a+b+c/d+e+f"
743
744
745 Version 4.70 / 4.71
746 -------------------
747
748  1. Native DKIM support without an external library.
749     (Note that if no action to prevent it is taken, a straight upgrade will
750     result in DKIM verification of all signed incoming emails.  See spec
751     for details on conditionally disabling)
752
753  2. Experimental DCC support via dccifd (contributed by Wolfgang Breyha).
754
755  3. There is now a bool{} expansion condition which maps certain strings to
756     true/false condition values (most likely of use in conjunction with the
757     and{} expansion operator).
758
759  4. The $spam_score, $spam_bar and $spam_report variables are now available
760     at delivery time.
761
762  5. exim -bP now supports "macros", "macro_list" or "macro MACRO_NAME" as
763     options, provided that Exim is invoked by an admin_user.
764
765  6. There is a new option gnutls_compat_mode, when linked against GnuTLS,
766     which increases compatibility with older clients at the cost of decreased
767     security.  Don't set this unless you need to support such clients.
768
769  7. There is a new expansion operator, ${randint:...} which will produce a
770     "random" number less than the supplied integer.  This randomness is
771     not guaranteed to be cryptographically strong, but depending upon how
772     Exim was built may be better than the most naive schemes.
773
774  8. Exim now explicitly ensures that SHA256 is available when linked against
775     OpenSSL.
776
777  9. The transport_filter_timeout option now applies to SMTP transports too.
778
779
780 Version 4.69
781 ------------
782
783  1. Preliminary DKIM support in Experimental.
784
785
786 Version 4.68
787 ------------
788
789  1. The body_linecount and body_zerocount C variables are now exported in the
790     local_scan API.
791
792  2. When a dnslists lookup succeeds, the key that was looked up is now placed
793     in $dnslist_matched. When the key is an IP address, it is not reversed in
794     this variable (though it is, of course, in the actual lookup). In simple
795     cases, for example:
796
797       deny dnslists = spamhaus.example
798
799     the key is also available in another variable (in this case,
800     $sender_host_address). In more complicated cases, however, this is not
801     true. For example, using a data lookup might generate a dnslists lookup
802     like this:
803
804       deny dnslists = spamhaus.example/<|192.168.1.2|192.168.6.7|...
805
806     If this condition succeeds, the value in $dnslist_matched might be
807     192.168.6.7 (for example).
808
809  3. Authenticators now have a client_condition option. When Exim is running as
810     a client, it skips an authenticator whose client_condition expansion yields
811     "0", "no", or "false". This can be used, for example, to skip plain text
812     authenticators when the connection is not encrypted by a setting such as:
813
814       client_condition = ${if !eq{$tls_cipher}{}}
815
816     Note that the 4.67 documentation states that $tls_cipher contains the
817     cipher used for incoming messages. In fact, during SMTP delivery, it
818     contains the cipher used for the delivery. The same is true for
819     $tls_peerdn.
820
821  4. There is now a -Mvc <message-id> option, which outputs a copy of the
822     message to the standard output, in RFC 2822 format. The option can be used
823     only by an admin user.
824
825  5. There is now a /noupdate option for the ratelimit ACL condition. It
826     computes the rate and checks the limit as normal, but it does not update
827     the saved data. This means that, in relevant ACLs, it is possible to lookup
828     the existence of a specified (or auto-generated) ratelimit key without
829     incrementing the ratelimit counter for that key.
830
831     In order for this to be useful, another ACL entry must set the rate
832     for the same key somewhere (otherwise it will always be zero).
833
834     Example:
835
836     acl_check_connect:
837       # Read the rate; if it doesn't exist or is below the maximum
838       # we update it below
839       deny ratelimit = 100 / 5m / strict / noupdate
840            log_message = RATE: $sender_rate / $sender_rate_period \
841                          (max $sender_rate_limit)
842
843       [... some other logic and tests...]
844
845       warn ratelimit = 100 / 5m / strict / per_cmd
846            log_message = RATE UPDATE: $sender_rate / $sender_rate_period \
847                          (max $sender_rate_limit)
848            condition = ${if le{$sender_rate}{$sender_rate_limit}}
849
850       accept
851
852  6. The variable $max_received_linelength contains the number of bytes in the
853     longest line that was received as part of the message, not counting the
854     line termination character(s).
855
856  7. Host lists can now include +ignore_defer and +include_defer, analagous to
857     +ignore_unknown and +include_unknown. These options should be used with
858     care, probably only in non-critical host lists such as whitelists.
859
860  8. There's a new option called queue_only_load_latch, which defaults true.
861     If set false when queue_only_load is greater than zero, Exim re-evaluates
862     the load for each incoming message in an SMTP session. Otherwise, once one
863     message is queued, the remainder are also.
864
865  9. There is a new ACL, specified by acl_smtp_notquit, which is run in most
866     cases when an SMTP session ends without sending QUIT. However, when Exim
867     itself is is bad trouble, such as being unable to write to its log files,
868     this ACL is not run, because it might try to do things (such as write to
869     log files) that make the situation even worse.
870
871     Like the QUIT ACL, this new ACL is provided to make it possible to gather
872     statistics. Whatever it returns (accept or deny) is immaterial. The "delay"
873     modifier is forbidden in this ACL.
874
875     When the NOTQUIT ACL is running, the variable $smtp_notquit_reason is set
876     to a string that indicates the reason for the termination of the SMTP
877     connection. The possible values are:
878
879       acl-drop                 Another ACL issued a "drop" command
880       bad-commands             Too many unknown or non-mail commands
881       command-timeout          Timeout while reading SMTP commands
882       connection-lost          The SMTP connection has been lost
883       data-timeout             Timeout while reading message data
884       local-scan-error         The local_scan() function crashed
885       local-scan-timeout       The local_scan() function timed out
886       signal-exit              SIGTERM or SIGINT
887       synchronization-error    SMTP synchronization error
888       tls-failed               TLS failed to start
889
890     In most cases when an SMTP connection is closed without having received
891     QUIT, Exim sends an SMTP response message before actually closing the
892     connection. With the exception of acl-drop, the default message can be
893     overridden by the "message" modifier in the NOTQUIT ACL. In the case of a
894     "drop" verb in another ACL, it is the message from the other ACL that is
895     used.
896
897 10. For MySQL and PostgreSQL lookups, it is now possible to specify a list of
898     servers with individual queries. This is done by starting the query with
899     "servers=x:y:z;", where each item in the list may take one of two forms:
900
901     (1) If it is just a host name, the appropriate global option (mysql_servers
902         or pgsql_servers) is searched for a host of the same name, and the
903         remaining parameters (database, user, password) are taken from there.
904
905     (2) If it contains any slashes, it is taken as a complete parameter set.
906
907     The list of servers is used in exactly the same was as the global list.
908     Once a connection to a server has happened and a query has been
909     successfully executed, processing of the lookup ceases.
910
911     This feature is intended for use in master/slave situations where updates
912     are occurring, and one wants to update a master rather than a slave. If the
913     masters are in the list for reading, you might have:
914
915       mysql_servers = slave1/db/name/pw:slave2/db/name/pw:master/db/name/pw
916
917     In an updating lookup, you could then write
918
919       ${lookup mysql{servers=master; UPDATE ...}
920
921     If, on the other hand, the master is not to be used for reading lookups:
922
923       pgsql_servers = slave1/db/name/pw:slave2/db/name/pw
924
925     you can still update the master by
926
927       ${lookup pgsql{servers=master/db/name/pw; UPDATE ...}
928
929 11. The message_body_newlines option (default FALSE, for backwards
930     compatibility) can be used to control whether newlines are present in
931     $message_body and $message_body_end. If it is FALSE, they are replaced by
932     spaces.
933
934
935 Version 4.67
936 ------------
937
938  1. There is a new log selector called smtp_no_mail, which is not included in
939     the default setting. When it is set, a line is written to the main log
940     whenever an accepted SMTP connection terminates without having issued a
941     MAIL command.
942
943  2. When an item in a dnslists list is followed by = and & and a list of IP
944     addresses, the behaviour was not clear when the lookup returned more than
945     one IP address. This has been solved by the addition of == and =& for "all"
946     rather than the default "any" matching.
947
948  3. Up till now, the only control over which cipher suites GnuTLS uses has been
949     for the cipher algorithms. New options have been added to allow some of the
950     other parameters to be varied.
951
952  4. There is a new compile-time option called ENABLE_DISABLE_FSYNC. When it is
953     set, Exim compiles a runtime option called disable_fsync.
954
955  5. There is a new variable called $smtp_count_at_connection_start.
956
957  6. There's a new control called no_pipelining.
958
959  7. There are two new variables called $sending_ip_address and $sending_port.
960     These are set whenever an SMTP connection to another host has been set up.
961
962  8. The expansion of the helo_data option in the smtp transport now happens
963     after the connection to the server has been made.
964
965  9. There is a new expansion operator ${rfc2047d: that decodes strings that
966     are encoded as per RFC 2047.
967
968 10. There is a new log selector called "pid", which causes the current process
969     id to be added to every log line, in square brackets, immediately after the
970     time and date.
971
972 11. Exim has been modified so that it flushes SMTP output before implementing
973     a delay in an ACL. It also flushes the output before performing a callout,
974     as this can take a substantial time. These behaviours can be disabled by
975     obeying control = no_delay_flush or control = no_callout_flush,
976     respectively, at some earlier stage of the connection.
977
978 12. There are two new expansion conditions that iterate over a list. They are
979     called forany and forall.
980
981 13. There's a new global option called dsn_from that can be used to vary the
982     contents of From: lines in bounces and other automatically generated
983     messages ("delivery status notifications" - hence the name of the option).
984
985 14. The smtp transport has a new option called hosts_avoid_pipelining.
986
987 15. By default, exigrep does case-insensitive matches. There is now a -I option
988     that makes it case-sensitive.
989
990 16. A number of new features ("addresses", "map", "filter", and "reduce") have
991     been added to string expansions to make it easier to process lists of
992     items, typically addresses.
993
994 17. There's a new ACL modifier called "continue". It does nothing of itself,
995     and processing of the ACL always continues with the next condition or
996     modifier. It is provided so that the side effects of expanding its argument
997     can be used.
998
999 18. It is now possible to use newline and other control characters (those with
1000     values less than 32, plus DEL) as separators in lists.
1001
1002 19. The exigrep utility now has a -v option, which inverts the matching
1003     condition.
1004
1005 20. The host_find_failed option in the manualroute router can now be set to
1006     "ignore".
1007
1008
1009 Version 4.66
1010 ------------
1011
1012 No new features were added to 4.66.
1013
1014
1015 Version 4.65
1016 ------------
1017
1018 No new features were added to 4.65.
1019
1020
1021 Version 4.64
1022 ------------
1023
1024  1. ACL variables can now be given arbitrary names, as long as they start with
1025     "acl_c" or "acl_m" (for connection variables and message variables), are at
1026     least six characters long, with the sixth character being either a digit or
1027     an underscore.
1028
1029  2. There is a new ACL modifier called log_reject_target. It makes it possible
1030     to specify which logs are used for messages about ACL rejections.
1031
1032  3. There is a new authenticator called "dovecot". This is an interface to the
1033     authentication facility of the Dovecot POP/IMAP server, which can support a
1034     number of authentication methods.
1035
1036  4. The variable $message_headers_raw provides a concatenation of all the
1037     messages's headers without any decoding. This is in contrast to
1038     $message_headers, which does RFC2047 decoding on the header contents.
1039
1040  5. In a DNS black list, if two domain names, comma-separated, are given, the
1041     second is used first to do an initial check, making use of any IP value
1042     restrictions that are set. If there is a match, the first domain is used,
1043     without any IP value restrictions, to get the TXT record.
1044
1045  6. All authenticators now have a server_condition option.
1046
1047  7. There is a new command-line option called -Mset. It is useful only in
1048     conjunction with -be (that is, when testing string expansions). It must be
1049     followed by a message id; Exim loads the given message from its spool
1050     before doing the expansions.
1051
1052  8. Another similar new command-line option is called -bem. It operates like
1053     -be except that it must be followed by the name of a file that contains a
1054     message.
1055
1056  9. When an address is delayed because of a 4xx response to a RCPT command, it
1057     is now the combination of sender and recipient that is delayed in
1058     subsequent queue runs until its retry time is reached.
1059
1060 10. Unary negation and the bitwise logical operators and, or, xor, not, and
1061     shift, have been added to the eval: and eval10: expansion items.
1062
1063 11. The variables $interface_address and $interface_port have been renamed
1064     as $received_ip_address and $received_port, to make it clear that they
1065     relate to message reception rather than delivery. (The old names remain
1066     available for compatibility.)
1067
1068 12. The "message" modifier can now be used on "accept" and "discard" acl verbs
1069     to vary the message that is sent when an SMTP command is accepted.
1070
1071
1072 Version 4.63
1073 ------------
1074
1075 1. There is a new Boolean option called filter_prepend_home for the redirect
1076    router.
1077
1078 2. There is a new acl, set by acl_not_smtp_start, which is run right at the
1079    start of receiving a non-SMTP message, before any of the message has been
1080    read.
1081
1082 3. When an SMTP error message is specified in a "message" modifier in an ACL,
1083    or in a :fail: or :defer: message in a redirect router, Exim now checks the
1084    start of the message for an SMTP error code.
1085
1086 4. There is a new parameter for LDAP lookups called "referrals", which takes
1087    one of the settings "follow" (the default) or "nofollow".
1088
1089 5. Version 20070721.2 of exipick now included, offering these new options:
1090     --reverse
1091         After all other sorting options have bee processed, reverse order
1092         before displaying messages (-R is synonym).
1093     --random
1094         Randomize order of matching messages before displaying.
1095     --size
1096         Instead of displaying the matching messages, display the sum
1097         of their sizes.
1098     --sort <variable>[,<variable>...]
1099         Before displaying matching messages, sort the messages according to
1100         each messages value for each variable.
1101     --not
1102         Negate the value for every test (returns inverse output from the
1103         same criteria without --not).
1104
1105
1106 Version 4.62
1107 ------------
1108
1109 1. The ${readsocket expansion item now supports Internet domain sockets as well
1110    as Unix domain sockets. If the first argument begins "inet:", it must be of
1111    the form "inet:host:port". The port is mandatory; it may be a number or the
1112    name of a TCP port in /etc/services. The host may be a name, or it may be an
1113    IP address. An ip address may optionally be enclosed in square brackets.
1114    This is best for IPv6 addresses. For example:
1115
1116      ${readsocket{inet:[::1]:1234}{<request data>}...
1117
1118    Only a single host name may be given, but if looking it up yield more than
1119    one IP address, they are each tried in turn until a connection is made. Once
1120    a connection has been made, the behaviour is as for ${readsocket with a Unix
1121    domain socket.
1122
1123 2. If a redirect router sets up file or pipe deliveries for more than one
1124    incoming address, and the relevant transport has batch_max set greater than
1125    one, a batch delivery now occurs.
1126
1127 3. The appendfile transport has a new option called maildirfolder_create_regex.
1128    Its value is a regular expression. For a maildir delivery, this is matched
1129    against the maildir directory; if it matches, Exim ensures that a
1130    maildirfolder file is created alongside the new, cur, and tmp directories.
1131
1132
1133 Version 4.61
1134 ------------
1135
1136 The documentation is up-to-date for the 4.61 release. Major new features since
1137 the 4.60 release are:
1138
1139 . An option called disable_ipv6, to disable the use of IPv6 completely.
1140
1141 . An increase in the number of ACL variables to 20 of each type.
1142
1143 . A change to use $auth1, $auth2, and $auth3 in authenticators instead of $1,
1144   $2, $3, (though those are still set) because the numeric variables get used
1145   for other things in complicated expansions.
1146
1147 . The default for rfc1413_query_timeout has been changed from 30s to 5s.
1148
1149 . It is possible to use setclassresources() on some BSD OS to control the
1150   resources used in pipe deliveries.
1151
1152 . A new ACL modifier called add_header, which can be used with any verb.
1153
1154 . More errors are detectable in retry rules.
1155
1156 There are a number of other additions too.
1157
1158
1159 Version 4.60
1160 ------------
1161
1162 The documentation is up-to-date for the 4.60 release. Major new features since
1163 the 4.50 release are:
1164
1165 . Support for SQLite.
1166
1167 . Support for IGNOREQUOTA in LMTP.
1168
1169 . Extensions to the "submission mode" features.
1170
1171 . Support for Client SMTP Authorization (CSA).
1172
1173 . Support for ratelimiting hosts and users.
1174
1175 . New expansion items to help with the BATV "prvs" scheme.
1176
1177 . A "match_ip" condition, that matches an IP address against a list.
1178
1179 There are many more minor changes.
1180
1181 ****