d5e3937b738bde82a655722a0d77b9b336ef6590
[exim.git] / doc / doc-docbook / filter.xfpt
1 . $Cambridge: exim/doc/doc-docbook/filter.xfpt,v 1.6 2007/04/17 13:06:09 ph10 Exp $
2
3 . /////////////////////////////////////////////////////////////////////////////
4 . This is the primary source of the document that describes Exim's filtering
5 . facilities. It is an xfpt document that is converted into DocBook XML for
6 . subsequent conversion into printing and online formats. The markup used
7 . herein is "standard" xfpt markup, with some extras. The markup is summarized
8 . in a file called Markup.txt.
9 . /////////////////////////////////////////////////////////////////////////////
10
11 .include stdflags
12 .include stdmacs
13 .docbook
14
15 . /////////////////////////////////////////////////////////////////////////////
16 . These lines are processing instructions for the Simple DocBook Processor that
17 . Philip Hazel has developed as a less cumbersome way of making PostScript and
18 . PDFs than using xmlto and fop. They will be ignored by all other XML
19 . processors.
20 . /////////////////////////////////////////////////////////////////////////////
21
22 .literal xml
23 <?sdop
24   foot_right_recto="&chaptertitle;"
25   foot_right_verso="&chaptertitle;"
26   table_warn_soft_overflow="no"
27   toc_chapter_blanks="yes,yes"
28   toc_title="Exim's interfaces to mail filtering"
29 ?>
30 .literal off
31
32 .book
33
34 . ===========================================================================
35 . Additional xfpt markup used by this document, over and above the default
36 . provided in the xfpt library.
37
38 . Override the &$ flag to automatically insert a $ with the variable name
39
40 .flag &$  $&   "<varname>$"  "</varname>"
41
42 . A macro for the common 2-column tables
43
44 .macro table2 100pt 300pt
45 .itable none 0 0 2 $1 left $2 left
46 .endmacro
47 . ===========================================================================
48
49
50 . /////////////////////////////////////////////////////////////////////////////
51 . /////////////////////////////////////////////////////////////////////////////
52
53 . This preliminary stuff creates a <bookinfo> entry in the XML. This is removed
54 . when creating the PostScript/PDF output, because we do not want a full-blown
55 . title page created for those versions. When fop is being used to create
56 . PS/PDF, the stylesheet fudges up a title line to replace the text "Table of
57 . contents". When SDoP is being used, a processing instruction does this job.
58 . For the other forms of output, the <bookinfo> element is retained and used.
59
60 .literal xml
61 <bookinfo>
62 <title>Exim's interfaces to mail filtering</title>
63 <titleabbrev>Exim filtering</titleabbrev>
64 <date>17 April 2007</date>
65 <author><firstname>Philip</firstname><surname>Hazel</surname></author>
66 <authorinitials>PH</authorinitials>
67 <revhistory><revision>
68   <revnumber>4.67</revnumber>
69   <date>17 April 2007</date>
70   <authorinitials>PH</authorinitials>
71 </revision></revhistory>
72 <copyright><year>2007</year><holder>University of Cambridge</holder></copyright>
73 </bookinfo>
74 .literal off
75
76 . /////////////////////////////////////////////////////////////////////////////
77 . /////////////////////////////////////////////////////////////////////////////
78
79
80 .chapter "Forwarding and filtering in Exim" "CHAPforandfilt"
81 This document describes the user interfaces to Exim's in-built mail filtering
82 facilities, and is copyright &copy; University of Cambridge 2007. It
83 corresponds to Exim version 4.67.
84
85
86
87 .section "Introduction" "SEC00"
88 Most Unix mail transfer agents (programs that deliver mail) permit individual
89 users to specify automatic forwarding of their mail, usually by placing a list
90 of forwarding addresses in a file called &_.forward_& in their home
91 directories. Exim extends this facility by allowing the forwarding instructions
92 to be a set of rules rather than just a list of addresses, in effect providing
93 &"&_.forward_& with conditions"&. Operating the set of rules is called
94 &'filtering'&, and the file that contains them is called a &'filter file'&.
95
96 Exim supports two different kinds of filter file. An &'Exim filter'& contains
97 instructions in a format that is unique to Exim. A &'Sieve filter'& contains
98 instructions in the Sieve format that is defined by RFC 3028. As this is a
99 standard format, Sieve filter files may already be familiar to some users.
100 Sieve files should also be portable between different environments. However,
101 the Exim filtering facility contains more features (such as variable
102 expansion), and better integration with the host environment (such as the use
103 of external processes and pipes).
104
105 The choice of which kind of filter to use can be left to the end-user, provided
106 that the system administrator has configured Exim appropriately for both kinds
107 of filter. However, if interoperability is important, Sieve is the only
108 choice.
109
110 The ability to use filtering or traditional forwarding has to be enabled by the
111 system administrator, and some of the individual facilities can be separately
112 enabled or disabled. A local document should be provided to describe exactly
113 what has been enabled. In the absence of this, consult your system
114 administrator.
115
116 This document describes how to use a filter file and the format of its
117 contents. It is intended for use by end-users. Both Sieve filters and Exim
118 filters are covered. However, for Sieve filters, only issues that relate to the
119 Exim implementation are discussed, since Sieve itself is described elsewhere.
120
121 The contents of traditional &_.forward_& files are not described here. They
122 normally contain just a list of addresses, file names, or pipe commands,
123 separated by commas or newlines, but other types of item are also available.
124 The full details can be found in the chapter on the &(redirect)& router in the
125 Exim specification, which also describes how the system administrator can set
126 up and control the use of filtering.
127
128
129
130 .section "Filter operation" "SEC01"
131 It is important to realize that, in Exim, no deliveries are actually made while
132 a filter or traditional &_.forward_& file is being processed. Running a filter
133 or processing a traditional &_.forward_& file sets up future delivery
134 operations, but does not carry them out.
135
136 The result of filter or &_.forward_& file processing is a list of destinations
137 to which a message should be delivered. The deliveries themselves take place
138 later, along with all other deliveries for the message. This means that it is
139 not possible to test for successful deliveries while filtering. It also means
140 that any duplicate addresses that are generated are dropped, because Exim never
141 delivers the same message to the same address more than once.
142
143
144
145
146 .section "Testing a new filter file" "SECTtesting"
147 Filter files, especially the more complicated ones, should always be tested, as
148 it is easy to make mistakes. Exim provides a facility for preliminary testing
149 of a filter file before installing it. This tests the syntax of the file and
150 its basic operation, and can also be used with traditional &_.forward_& files.
151
152 Because a filter can do tests on the content of messages, a test message is
153 required. Suppose you have a new filter file called &_myfilter_& and a test
154 message in a file called &_test-message_&. Assuming that Exim is installed with
155 the conventional path name &_/usr/sbin/sendmail_& (some operating systems use
156 &_/usr/lib/sendmail_&), the following command can be used:
157 .code
158 /usr/sbin/sendmail -bf myfilter <test-message
159 .endd
160 The &%-bf%& option tells Exim that the following item on the command line is
161 the name of a filter file that is to be tested. There is also a &%-bF%& option,
162 which is similar, but which is used for testing system filter files, as opposed
163 to user filter files, and which is therefore of use only to the system
164 administrator.
165
166 The test message is supplied on the standard input. If there are no
167 message-dependent tests in the filter, an empty file (&_/dev/null_&) can be
168 used. A supplied message must start with header lines or the &"From&~"& message
169 separator line that is found in many multi-message folder files. Note that
170 blank lines at the start terminate the header lines. A warning is given if no
171 header lines are read.
172
173 The result of running this command, provided no errors are detected in the
174 filter file, is a list of the actions that Exim would try to take if presented
175 with the message for real. For example, for an Exim filter, the output
176 .code
177 Deliver message to: gulliver@lilliput.fict.example
178 Save message to: /home/lemuel/mail/archive
179 .endd
180 means that one copy of the message would be sent to
181 &'gulliver@lilliput.fict.example'&, and another would be added to the file
182 &_/home/lemuel/mail/archive_&, if all went well.
183
184 The actions themselves are not attempted while testing a filter file in this
185 way; there is no check, for example, that any forwarding addresses are valid.
186 For an Exim filter, if you want to know why a particular action is being taken,
187 add the &%-v%& option to the command. This causes Exim to output the results of
188 any conditional tests and to indent its output according to the depth of
189 nesting of &(if)& commands. Further additional output from a filter test can be
190 generated by the &(testprint)& command, which is described below.
191
192 When Exim is outputting a list of the actions it would take, if any text
193 strings are included in the output, non-printing characters therein are
194 converted to escape sequences. In particular, if any text string contains a
195 newline character, this is shown as &"\n"& in the testing output.
196
197 When testing a filter in this way, Exim makes up an &"envelope"& for the
198 message. The recipient is by default the user running the command, and so is
199 the sender, but the command can be run with the &%-f%& option to supply a
200 different sender. For example,
201 .code
202 /usr/sbin/sendmail -bf myfilter \
203    -f islington@never.where <test-message
204 .endd
205 Alternatively, if the &%-f%& option is not used, but the first line of the
206 supplied message is a &"From&~"& separator from a message folder file (not the
207 same thing as a &'From:'& header line), the sender is taken from there. If
208 &%-f%& is present, the contents of any &"From&~"& line are ignored.
209
210 The &"return path"& is the same as the envelope sender, unless the message
211 contains a &'Return-path:'& header, in which case it is taken from there. You
212 need not worry about any of this unless you want to test out features of a
213 filter file that rely on the sender address or the return path.
214
215 It is possible to change the envelope recipient by specifying further options.
216 The &%-bfd%& option changes the domain of the recipient address, while the
217 &%-bfl%& option changes the &"local part"&, that is, the part before the @
218 sign. An adviser could make use of these to test someone else's filter file.
219
220 The &%-bfp%& and &%-bfs%& options specify the prefix or suffix for the local
221 part. These are relevant only when support for multiple personal mailboxes is
222 implemented; see the description in section &<<SECTmbox>>& below.
223
224
225 .section "Installing a filter file" "SEC02"
226 A filter file is normally installed under the name &_.forward_& in your home
227 directory &-- it is distinguished from a conventional &_.forward_& file by its
228 first line (described below). However, the file name is configurable, and some
229 system administrators may choose to use some different name or location for
230 filter files.
231
232
233 .section "Testing an installed filter file" "SEC03"
234 Testing a filter file before installation cannot find every potential problem;
235 for example, it does not actually run commands to which messages are piped.
236 Some &"live"& tests should therefore also be done once a filter is installed.
237
238 If at all possible, test your filter file by sending messages from some other
239 account. If you send a message to yourself from the filtered account, and
240 delivery fails, the error message will be sent back to the same account, which
241 may cause another delivery failure. It won't cause an infinite sequence of such
242 messages, because delivery failure messages do not themselves generate further
243 messages. However, it does mean that the failure won't be returned to you, and
244 also that the postmaster will have to investigate the stuck message.
245
246 If you have to test an Exim filter from the same account, a sensible precaution
247 is to include the line
248 .code
249 if error_message then finish endif
250 .endd
251 as the first filter command, at least while testing. This causes filtering to
252 be abandoned for a delivery failure message, and since no destinations are
253 generated, the message goes on to be delivered to the original address. Unless
254 there is a good reason for not doing so, it is recommended that the above test
255 be left in all Exim filter files. (This does not apply to Sieve files.)
256
257
258
259 .section "Details of filtering commands" "SEC04"
260 The filtering commands for Sieve and Exim filters are completely different in
261 syntax and semantics. The Sieve mechanism is defined in RFC 3028; in the next
262 chapter we describe how it is integrated into Exim. The subsequent chapter
263 covers Exim filtering commands in detail.
264
265
266
267 .chapter "Sieve filter files" "CHAPsievefilter"
268 The code for Sieve filtering in Exim was contributed by Michael Haardt, and
269 most of the content of this chapter is taken from the notes he provided. Since
270 Sieve is an extensible language, it is important to understand &"Sieve"& in
271 this context as &"the specific implementation of Sieve for Exim"&.
272
273 This chapter does not contain a description of Sieve, since that can be found
274 in RFC 3028, which should be read in conjunction with these notes.
275
276 .new
277 The Exim Sieve implementation offers the core as defined by RFC 3028,
278 comparison tests, the subaddress parameter, the &*copy*&, &*envelope*&,
279 &*fileinto*&, &*notify*&, and &*vacation*& extensions, but not the &*reject*&
280 extension. Exim does not support message delivery notifications (MDNs), so
281 adding it just to the Sieve filter (as required for &*reject*&) makes little
282 sense.
283 .wen
284
285 In order for Sieve to work properly in Exim, the system administrator needs to
286 make some adjustments to the Exim configuration. These are described in the
287 chapter on the &(redirect)& router in the full Exim specification.
288
289
290 .section "Recognition of Sieve filters" "SEC05"
291 A filter file is interpreted as a Sieve filter if its first line is
292 .code
293 # Sieve filter
294 .endd
295 This is what distinguishes it from a conventional &_.forward_& file or an Exim
296 filter file.
297
298
299
300 .section "Saving to specified folders" "SEC06"
301 If the system administrator has set things up as suggested in the Exim
302 specification, and you use &(keep)& or &(fileinto)& to save a mail into a
303 folder, absolute files are stored where specified, relative files are stored
304 relative to &$home$&, and &_inbox_& goes to the standard mailbox location.
305
306
307
308 .section "Strings containing header names" "SEC07"
309 RFC 3028 does not specify what happens if a string denoting a header field does
310 not contain a valid header name, for example, it contains a colon. This
311 implementation generates an error instead of ignoring the header field in order
312 to ease script debugging, which fits in with the common picture of Sieve.
313
314
315
316 .section "Exists test with empty list of headers" "SEC08"
317 The &*exists*& test succeeds only if all the specified headers exist. RFC 3028
318 does not explicitly specify what happens on an empty list of headers. This
319 implementation evaluates that condition as true, interpreting the RFC in a
320 strict sense.
321
322
323
324 .section "Header test with invalid MIME encoding in header" "SEC09"
325 Some MUAs process invalid base64 encoded data, generating junk. Others ignore
326 junk after seeing an equal sign in base64 encoded data. RFC 2047 does not
327 specify how to react in this case, other than stating that a client must not
328 forbid to process a message for that reason. RFC 2045 specifies that invalid
329 data should be ignored (apparently looking at end of line characters). It also
330 specifies that invalid data may lead to rejecting messages containing them (and
331 there it appears to talk about true encoding violations), which is a clear
332 contradiction to ignoring them.
333
334 RFC 3028 does not specify how to process incorrect MIME words. This
335 implementation treats them literally, as it does if the word is correct but its
336 character set cannot be converted to UTF-8.
337
338
339
340 .section "Address test for multiple addresses per header" "SEC10"
341 A header may contain multiple addresses. RFC 3028 does not explicitly specify
342 how to deal with them, but since the address test checks if anything matches
343 anything else, matching one address suffices to satisfy the condition. That
344 makes it impossible to test if a header contains a certain set of addresses and
345 no more, but it is more logical than letting the test fail if the header
346 contains an additional address besides the one the test checks for.
347
348
349
350 .section "Semantics of keep" "SEC11"
351 The &(keep)& command is equivalent to
352 .code
353 fileinto "inbox";
354 .endd
355 It saves the message and resets the implicit keep flag. It does not set the
356 implicit keep flag; there is no command to set it once it has been reset.
357
358
359
360 .section "Semantics of fileinto" "SEC12"
361 RFC 3028 does not specify whether &(fileinto)& should try to create a mail
362 folder if it does not exist. This implementation allows the sysadmin to
363 configure that aspect using the &(appendfile)& transport options
364 &%create_directory%&, &%create_file%&, and &%file_must_exist%&. See the
365 &(appendfile)& transport in the Exim specification for details.
366
367
368
369 .section "Semantics of redirect" "SEC13"
370 Sieve scripts are supposed to be interoperable between servers, so this
371 implementation does not allow mail to be redirected to unqualified addresses,
372 because the domain would depend on the system being used. On systems with
373 virtual mail domains, the default domain is probably not what the user expects
374 it to be.
375
376
377
378 .section "String arguments" "SEC14"
379 There has been confusion if the string arguments to &(require)& are to be
380 matched case-sensitively or not. This implementation matches them with the
381 match type &(:is)& (default, see section 2.7.1 of the RFC) and the comparator
382 &(i;ascii-casemap)& (default, see section 2.7.3 of the RFC). The RFC defines
383 the command defaults clearly, so any different implementations violate RFC
384 3028. The same is valid for comparator names, also specified as strings.
385
386
387
388 .section "Number units" "SEC15"
389 There is a mistake in RFC 3028: the suffix G denotes gibi-, not tebibyte.
390 The mistake is obvious, because RFC 3028 specifies G to denote 2^30
391 (which is gibi, not tebi), and that is what this implementation uses as
392 the scaling factor for the suffix G.
393
394
395
396 .section "RFC compliance" "SEC16"
397 Exim requires the first line of a Sieve filter to be
398 .code
399 # Sieve filter
400 .endd
401 Of course the RFC does not specify that line. Do not expect examples to work
402 without adding it, though.
403
404 RFC 3028 requires the use of CRLF to terminate a line. The rationale was that
405 CRLF is universally used in network protocols to mark the end of the line. This
406 implementation does not embed Sieve in a network protocol, but uses Sieve
407 scripts as part of the Exim MTA. Since all parts of Exim use LF as the newline
408 character, this implementation does, too, by default, though the system
409 administrator may choose (at Exim compile time) to use CRLF instead.
410
411 Exim violates RFC 2822, section 3.6.8, by accepting 8-bit header names, so this
412 implementation repeats this violation to stay consistent with Exim. This is in
413 preparation for UTF-8 data.
414
415 Sieve scripts cannot contain NUL characters in strings, but mail headers could
416 contain MIME encoded NUL characters, which could never be matched by Sieve
417 scripts using exact comparisons. For that reason, this implementation extends
418 the Sieve quoted string syntax with \0 to describe a NUL character, violating
419 \0 being the same as 0 in RFC 3028. Even without using \0, the following tests
420 are all true in this implementation. Implementations that use C-style strings
421 will only evaluate the first test as true.
422 .code
423 Subject: =?iso-8859-1?q?abc=00def
424
425 header :contains "Subject" ["abc"]
426 header :contains "Subject" ["def"]
427 header :matches "Subject" ["abc?def"]
428 .endd
429 Note that by considering Sieve to be an MUA, RFC 2047 can be interpreted in a
430 way that NUL characters truncating strings is allowed for Sieve
431 implementations, although not recommended. It is further allowed to use encoded
432 NUL characters in headers, but that's not recommended either. The above example
433 shows why.
434
435 RFC 3028 states that if an implementation fails to convert a character set to
436 UTF-8, two strings cannot be equal if one contains octets greater than 127.
437 Assuming that all unknown character sets are one-byte character sets with the
438 lower 128 octets being US-ASCII is not sound, so this implementation violates
439 RFC 3028 and treats such MIME words literally. That way at least something
440 could be matched.
441
442 The folder specified by &(fileinto)& must not contain the character sequence
443 &".."& to avoid security problems. RFC 3028 does not specify the syntax of
444 folders apart from &(keep)& being equivalent to
445 .code
446 fileinto "INBOX";
447 .endd
448 This implementation uses &_inbox_& instead.
449
450 Sieve script errors currently cause messages to be silently filed into
451 &_inbox_&.  RFC 3028 requires that the user is notified of that condition.
452 This may be implemented in the future by adding a header line to mails that
453 are filed into &_inbox_& due to an error in the filter.
454
455
456
457 .chapter "Exim filter files" "CHAPeximfilter"
458 This chapter contains a full description of the contents of Exim filter files.
459
460
461 .section "Format of Exim filter files" "SEC17"
462 Apart from leading white space, the first text in an Exim filter file must be
463 .code
464 # Exim filter
465 .endd
466 This is what distinguishes it from a conventional &_.forward_& file or a Sieve
467 filter file. If the file does not have this initial line (or the equivalent for
468 a Sieve filter), it is treated as a conventional &_.forward_& file, both when
469 delivering mail and when using the &%-bf%& testing mechanism. The white space
470 in the line is optional, and any capitalization may be used. Further text on
471 the same line is treated as a comment. For example, you could have
472 .code
473 #   Exim filter   <<== do not edit or remove this line!
474 .endd
475 The remainder of the file is a sequence of filtering commands, which consist of
476 keywords and data values. For example, in the command
477 .code
478 deliver gulliver@lilliput.fict.example
479 .endd
480 the keyword is &`deliver`& and the data value is
481 &`gulliver@lilliput.fict.example`&. White space or line breaks separate the
482 components of a command, except in the case of conditions for the &(if)&
483 command, where round brackets (parentheses) also act as separators. Complete
484 commands are separated from each other by white space or line breaks; there are
485 no special terminators. Thus, several commands may appear on one line, or one
486 command may be spread over a number of lines.
487
488 If the character # follows a separator anywhere in a command, everything from
489 # up to the next newline is ignored. This provides a way of including comments
490 in a filter file.
491
492
493 .section "Data values in filter commands" "SEC18"
494 There are two ways in which a data value can be input:
495
496 .ilist
497 If the text contains no white space, it can be typed verbatim. However, if it
498 is part of a condition, it must also be free of round brackets (parentheses),
499 as these are used for grouping in conditions.
500 .next
501 Otherwise, text must be enclosed in double quotation marks. In this case, the
502 character \ (backslash) is treated as an &"escape character"& within the
503 string, causing the following character or characters to be treated specially:
504 .display
505 &`\n`&   is replaced by a newline
506 &`\r`&   is replaced by a carriage return
507 &`\t`&   is replaced by a tab
508 .endd
509 .endlist
510
511 Backslash followed by up to three octal digits is replaced by the character
512 specified by those digits, and &`\x`& followed by up to two hexadecimal digits
513 is treated similarly. Backslash followed by any other character is replaced by
514 the second character, so that in particular, &`\"`& becomes &`"`& and &`\\`&
515 becomes &`\`&. A data item enclosed in double quotes can be continued onto the
516 next line by ending the first line with a backslash. Any leading white space at
517 the start of the continuation line is ignored.
518
519 In addition to the escape character processing that occurs when strings are
520 enclosed in quotes, most data values are also subject to &'string expansion'&
521 (as described in the next section), in which case the characters &`$`& and
522 &`\`& are also significant. This means that if a single backslash is actually
523 required in such a string, and the string is also quoted, &`\\\\`& has to be
524 entered.
525
526 The maximum permitted length of a data string, before expansion, is 1024
527 characters.
528
529
530 .section "String expansion" "SECTfilterstringexpansion"
531 Most data values are expanded before use. Expansion consists of replacing
532 substrings beginning with &`$`& with other text. The full expansion facilities
533 available in Exim are extensive. If you want to know everything that Exim can
534 do with strings, you should consult the chapter on string expansion in the Exim
535 documentation.
536
537 In filter files, by far the most common use of string expansion is the
538 substitution of the contents of a variable. For example, the substring
539 .code
540 $reply_address
541 .endd
542 is replaced by the address to which replies to the message should be sent. If
543 such a variable name is followed by a letter or digit or underscore, it must be
544 enclosed in curly brackets (braces), for example,
545 .code
546 ${reply_address}
547 .endd
548 If a &`$`& character is actually required in an expanded string, it must be
549 escaped with a backslash, and because backslash is also an escape character in
550 quoted input strings, it must be doubled in that case. The following two
551 examples illustrate two different ways of testing for a &`$`& character in a
552 message:
553 .code
554 if $message_body contains \$ then ...
555 if $message_body contains "\\$" then ...
556 .endd
557 You can prevent part of a string from being expanded by enclosing it between
558 two occurrences of &`\N`&. For example,
559 .code
560 if $message_body contains \N$$$$\N then ...
561 .endd
562 tests for a run of four dollar characters.
563
564
565 .section "Some useful general variables" "SEC19"
566 A complete list of the available variables is given in the Exim documentation.
567 This shortened list contains the ones that are most likely to be useful in
568 personal filter files:
569
570 &$body_linecount$&: The number of lines in the body of the message.
571
572 &$body_zerocount$&: The number of binary zero characters in the body of the
573 message.
574
575 &$home$&: In conventional configurations, this variable normally contains the
576 user's home directory. The system administrator can, however, change this.
577
578 &$local_part$&: The part of the email address that precedes the @ sign &--
579 normally the user's login name. If support for multiple personal mailboxes is
580 enabled (see section &<<SECTmbox>>& below) and a prefix or suffix for the local
581 part was recognized, it is removed from the string in this variable.
582
583 &$local_part_prefix$&: If support for multiple personal mailboxes is enabled
584 (see section &<<SECTmbox>>& below), and a local part prefix was recognized,
585 this variable contains the prefix. Otherwise it contains an empty string.
586
587 &$local_part_suffix$&: If support for multiple personal mailboxes is enabled
588 (see section &<<SECTmbox>>& below), and a local part suffix was recognized,
589 this variable contains the suffix. Otherwise it contains an empty string.
590
591 &$message_body$&: The initial portion of the body of the message. By default,
592 up to 500 characters are read into this variable, but the system administrator
593 can configure this to some other value. Newlines in the body are converted into
594 single spaces.
595
596 &$message_body_end$&: The final portion of the body of the message, formatted
597 and limited in the same way as &$message_body$&.
598
599 &$message_body_size$&: The size of the body of the message, in bytes.
600
601 &$message_exim_id$&: The message's local identification string, which is unique
602 for each message handled by a single host.
603
604 &$message_headers$&: The header lines of the message, concatenated into a
605 single string, with newline characters between them.
606
607 &$message_size$&: The size of the entire message, in bytes.
608
609 &$original_local_part$&: When an address that arrived with the message is
610 being processed, this contains the same value as the variable &$local_part$&.
611 However, if an address generated by an alias, forward, or filter file is being
612 processed, this variable contains the local part of the original address.
613
614 &$reply_address$&: The contents of the &'Reply-to:'& header, if the message
615 has one; otherwise the contents of the &'From:'& header. It is the address to
616 which normal replies to the message should be sent.
617
618 &$return_path$&: The return path &-- that is, the sender field that will be
619 transmitted as part of the message's envelope if the message is sent to another
620 host. This is the address to which delivery errors are sent. In many cases,
621 this variable has the same value as &$sender_address$&, but if, for example,
622 an incoming message to a mailing list has been expanded, &$return_path$& may
623 have been changed to contain the address of the list maintainer.
624
625 &$sender_address$&: The sender address that was received in the envelope of
626 the message. This is not necessarily the same as the contents of the &'From:'&
627 or &'Sender:'& header lines. For delivery error messages (&"bounce messages"&)
628 there is no sender address, and this variable is empty.
629
630 &$tod_full$&: A full version of the time and date, for example: Wed, 18 Oct
631 1995 09:51:40 +0100. The timezone is always given as a numerical offset from
632 GMT.
633
634 &$tod_log$&: The time and date in the format used for writing Exim's log files,
635 without the timezone, for example: 1995-10-12 15:32:29.
636
637 &$tod_zone$&: The local timezone offset, for example: +0100.
638
639
640
641 .section "Header variables" "SECTheadervariables"
642 There is a special set of expansion variables containing the header lines of
643 the message being processed. These variables have names beginning with
644 &$header_$& followed by the name of the header line, terminated by a colon.
645 For example,
646 .code
647 $header_from:
648 $header_subject:
649 .endd
650 The whole item, including the terminating colon, is replaced by the contents of
651 the message header line. If there is more than one header line with the same
652 name, their contents are concatenated. For header lines whose data consists of
653 a list of addresses (for example, &'From:'& and &'To:'&), a comma and newline
654 is inserted between each set of data. For all other header lines, just a
655 newline is used.
656
657 Leading and trailing white space is removed from header line data, and if there
658 are any MIME &"words"& that are encoded as defined by RFC 2047 (because they
659 contain non-ASCII characters), they are decoded and translated, if possible, to
660 a local character set. Translation is attempted only on operating systems that
661 have the &[iconv()]& function. This makes the header line look the same as it
662 would when displayed by an MUA. The default character set is ISO-8859-1, but
663 this can be changed by means of the &(headers)& command (see below).
664
665 If you want to see the actual characters that make up a header line, you can
666 specify &$rheader_$& instead of &$header_$&. This inserts the &"raw"&
667 header line, unmodified.
668
669 There is also an intermediate form, requested by &$bheader_$&, which removes
670 leading and trailing space and decodes MIME &"words"&, but does not do any
671 character translation. If an attempt to decode what looks superficially like a
672 MIME &"word"& fails, the raw string is returned. If decoding produces a binary
673 zero character, it is replaced by a question mark.
674
675 The capitalization of the name following &$header_$& is not significant.
676 Because any printing character except colon may appear in the name of a
677 message's header (this is a requirement of RFC 2822, the document that
678 describes the format of a mail message) curly brackets must &'not'& be used in
679 this case, as they will be taken as part of the header name. Two shortcuts are
680 allowed in naming header variables:
681
682 .ilist
683 The initiating &$header_$&, &$rheader_$&, or &$bheader_$& can be
684 abbreviated to &$h_$&, &$rh_$&, or &$bh_$&, respectively.
685 .next
686 The terminating colon can be omitted if the next character is white space. The
687 white space character is retained in the expanded string. However, this is not
688 recommended, because it makes it easy to forget the colon when it really is
689 needed.
690 .endlist
691
692 If the message does not contain a header of the given name, an empty string is
693 substituted. Thus it is important to spell the names of headers correctly. Do
694 not use &$header_Reply_to$& when you really mean &$header_Reply-to$&.
695
696
697 .section "User variables" "SEC20"
698 There are ten user variables with names &$n0$& &-- &$n9$& that can be
699 incremented by the &(add)& command (see section &<<SECTadd>>&). These can be
700 used for &"scoring"& messages in various ways. If Exim is configured to run a
701 &"system filter"& on every message, the values left in these variables are
702 copied into the variables &$sn0$& &-- &$sn9$& at the end of the system filter,
703 thus making them available to users' filter files. How these values are used is
704 entirely up to the individual installation.
705
706
707 .section "Current directory" "SEC21"
708 The contents of your filter file should not make any assumptions about the
709 current directory. It is best to use absolute paths for file names; you can
710 normally make use of the &$home$& variable to refer to your home directory. The
711 &(save)& command automatically inserts &$home$& at the start of non-absolute
712 paths.
713
714
715
716
717 .section "Significant deliveries" "SECTsigdel"
718 When in the course of delivery a message is processed by a filter file, what
719 happens next, that is, after the filter file has been processed, depends on
720 whether or not the filter sets up any &'significant deliveries'&. If at least
721 one significant delivery is set up, the filter is considered to have handled
722 the entire delivery arrangements for the current address, and no further
723 processing of the address takes place. If, however, no significant deliveries
724 are set up, Exim continues processing the current address as if there were no
725 filter file, and typically sets up a delivery of a copy of the message into a
726 local mailbox. In particular, this happens in the special case of a filter file
727 containing only comments.
728
729 The delivery commands &(deliver)&, &(save)&, and &(pipe)& are by default
730 significant. However, if such a command is preceded by the word &"unseen"&, its
731 delivery is not considered to be significant. In contrast, other commands such
732 as &(mail)& and &(vacation)& do not set up significant deliveries unless
733 preceded by the word &"seen"&. The following example commands set up
734 significant deliveries:
735 .code
736 deliver jack@beanstalk.example
737 pipe $home/bin/mymailscript
738 seen mail subject "message discarded"
739 seen finish
740 .endd
741 The following example commands do not set up significant deliveries:
742 .code
743 unseen deliver jack@beanstalk.example
744 unseen pipe $home/bin/mymailscript
745 mail subject "message discarded"
746 finish
747 .endd
748
749
750
751 .section "Filter commands" "SEC222"
752 The filter commands that are described in subsequent sections are listed
753 below, with the section in which they are described in brackets:
754
755 .table2
756 .row &(add)&        "&~&~increment a user variable (section &<<SECTadd>>&)"
757 .row &(deliver)&    "&~&~deliver to an email address (section &<<SECTdeliver>>&)"
758 .row &(fail)&       "&~&~force delivery failure (sysadmin use) (section &<<SECTfail>>&)"
759 .row &(finish)&     "&~&~end processing (section &<<SECTfinish>>&)"
760 .row &(freeze)&     "&~&~freeze message (sysadmin use) (section &<<SECTfreeze>>&)"
761 .row &(headers)&    "&~&~set the header character set (section &<<SECTheaders>>&)"
762 .row &(if)&         "&~&~test condition(s) (section &<<SECTif>>&)"
763 .row &(logfile)&    "&~&~define log file (section &<<SECTlog>>&)"
764 .row &(logwrite)&   "&~&~write to log file (section &<<SECTlog>>&)"
765 .row &(mail)&       "&~&~send a reply message (section &<<SECTmail>>&)"
766 .row &(pipe)&       "&~&~pipe to a command (section &<<SECTpipe>>&)"
767 .row &(save)&       "&~&~save to a file (section &<<SECTsave>>&)"
768 .row &(testprint)&  "&~&~print while testing (section &<<SECTtestprint>>&)"
769 .row &(vacation)&   "&~&~tailored form of &(mail)& (section &<<SECTmail>>&)"
770 .endtable
771
772 The &(headers)& command has additional parameters that can be used only in a
773 system filter. The &(fail)& and &(freeze)& commands are available only when
774 Exim's filtering facilities are being used as a system filter, and are
775 therefore usable only by the system administrator and not by ordinary users.
776 They are mentioned only briefly in this document; for more information, see the
777 main Exim specification.
778
779
780
781 .section "The add command" "SECTadd"
782 .display
783 &`     add `&<&'number'&>&` to `&<&'user variable'&>
784 &`e.g. add 2 to n3`&
785 .endd
786
787 There are 10 user variables of this type, with names &$n0$& &-- &$n9$&. Their
788 values can be obtained by the normal expansion syntax (for example &$n3$&) in
789 other commands. At the start of filtering, these variables all contain zero.
790 Both arguments of the &(add)& command are expanded before use, making it
791 possible to add variables to each other. Subtraction can be obtained by adding
792 negative numbers.
793
794
795
796 .section "The deliver command" "SECTdeliver"
797 .display
798 &`     deliver`& <&'mail address'&>
799 &`e.g. deliver "Dr Livingstone <David@somewhere.africa.example>"`&
800 .endd
801
802 This command provides a forwarding operation. The delivery that it sets up is
803 significant unless the command is preceded by &"unseen"& (see section
804 &<<SECTsigdel>>&). The message is sent on to the given address, exactly as
805 happens if the address had appeared in a traditional &_.forward_& file. If you
806 want to deliver the message to a number of different addresses, you can use
807 more than one &(deliver)& command (each one may have only one address).
808 However, duplicate addresses are discarded.
809
810 To deliver a copy of the message to your normal mailbox, your login name can be
811 given as the address. Once an address has been processed by the filtering
812 mechanism, an identical generated address will not be so processed again, so
813 doing this does not cause a loop.
814
815 However, if you have a mail alias, you should &'not'& refer to it here. For
816 example, if the mail address &'L.Gulliver'& is aliased to &'lg303'& then all
817 references in Gulliver's &_.forward_& file should be to &'lg303'&. A reference
818 to the alias will not work for messages that are addressed to that alias,
819 since, like &_.forward_& file processing, aliasing is performed only once on an
820 address, in order to avoid looping.
821
822 Following the new address, an optional second address, preceded by
823 &"errors_to"& may appear. This changes the address to which delivery errors on
824 the forwarded message will be sent. Instead of going to the message's original
825 sender, they go to this new address. For ordinary users, the only value that is
826 permitted for this address is the user whose filter file is being processed.
827 For example, the user &'lg303'& whose mailbox is in the domain
828 &'lilliput.example'& could have a filter file that contains
829 .code
830 deliver jon@elsewhere.example errors_to lg303@lilliput.example
831 .endd
832 Clearly, using this feature makes sense only in situations where not all
833 messages are being forwarded. In particular, bounce messages must not be
834 forwarded in this way, as this is likely to create a mail loop if something
835 goes wrong.
836
837
838
839 .section "The save command" "SECTsave"
840 .display
841 &`     save `&<&'file name'&>
842 &`e.g. save $home/mail/bookfolder`&
843 .endd
844
845 This command specifies that a copy of the message is to be appended to the
846 given file (that is, the file is to be used as a mail folder). The delivery
847 that &(save)& sets up is significant unless the command is preceded by
848 &"unseen"& (see section &<<SECTsigdel>>&).
849
850 More than one &(save)& command may be obeyed; each one causes a copy of the
851 message to be written to its argument file, provided they are different
852 (duplicate &(save)& commands are ignored).
853
854 If the file name does not start with a / character, the contents of the
855 &$home$& variable are prepended, unless it is empty, or the system
856 administrator has disabled this feature. In conventional configurations, this
857 variable is normally set in a user filter to the user's home directory, but the
858 system administrator may set it to some other path. In some configurations,
859 &$home$& may be unset, or prepending may be disabled, in which case a
860 non-absolute path name may be generated. Such configurations convert this to an
861 absolute path when the delivery takes place. In a system filter, &$home$& is
862 never set.
863
864 The user must of course have permission to write to the file, and the writing
865 of the file takes place in a process that is running as the user, under the
866 user's primary group. Any secondary groups to which the user may belong are not
867 normally taken into account, though the system administrator can configure Exim
868 to set them up. In addition, the ability to use this command at all is
869 controlled by the system administrator &-- it may be forbidden on some systems.
870
871 An optional mode value may be given after the file name. The value for the mode
872 is interpreted as an octal number, even if it does not begin with a zero. For
873 example:
874 .code
875 save /some/folder 640
876 .endd
877 This makes it possible for users to override the system-wide mode setting for
878 file deliveries, which is normally 600. If an existing file does not have the
879 correct mode, it is changed.
880
881 An alternative form of delivery may be enabled on your system, in which each
882 message is delivered into a new file in a given directory. If this is the case,
883 this functionality can be requested by giving the directory name terminated by
884 a slash after the &(save)& command, for example
885 .code
886 save separated/messages/
887 .endd
888 There are several different formats for such deliveries; check with your system
889 administrator or local documentation to find out which (if any) are available
890 on your system. If this functionality is not enabled, the use of a path name
891 ending in a slash causes an error.
892
893
894
895 .section "The pipe command" "SECTpipe"
896 .display
897 &`     pipe `&<&'command'&>
898 &`e.g. pipe "$home/bin/countmail $sender_address"`&
899 .endd
900
901 This command specifies that the message is to be delivered to the specified
902 command using a pipe. The delivery that it sets up is significant unless the
903 command is preceded by &"unseen"& (see section &<<SECTsigdel>>&). Remember,
904 however, that no deliveries are done while the filter is being processed. All
905 deliveries happen later on. Therefore, the result of running the pipe is not
906 available to the filter.
907
908 When the deliveries are done, a separate process is run, and a copy of the
909 message is passed on its standard input. The process runs as the user, under
910 the user's primary group. Any secondary groups to which the user may belong are
911 not normally taken into account, though the system administrator can configure
912 Exim to set them up. More than one &(pipe)& command may appear; each one causes
913 a copy of the message to be written to its argument pipe, provided they are
914 different (duplicate &(pipe)& commands are ignored).
915
916 When the time comes to transport the message, the command supplied to &(pipe)&
917 is split up by Exim into a command name and a number of arguments. These are
918 delimited by white space except for arguments enclosed in double quotes, in
919 which case backslash is interpreted as an escape, or in single quotes, in which
920 case no escaping is recognized. Note that as the whole command is normally
921 supplied in double quotes, a second level of quoting is required for internal
922 double quotes. For example:
923 .code
924 pipe "$home/myscript \"size is $message_size\""
925 .endd
926 String expansion is performed on the separate components after the line has
927 been split up, and the command is then run directly by Exim; it is not run
928 under a shell. Therefore, substitution cannot change the number of arguments,
929 nor can quotes, backslashes or other shell metacharacters in variables cause
930 confusion.
931
932 Documentation for some programs that are normally run via this kind of pipe
933 often suggest that the command should start with
934 .code
935 IFS=" "
936 .endd
937 This is a shell command, and should &'not'& be present in Exim filter files,
938 since it does not normally run the command under a shell.
939
940 However, there is an option that the administrator can set to cause a shell to
941 be used. In this case, the entire command is expanded as a single string and
942 passed to the shell for interpretation. It is recommended that this be avoided
943 if at all possible, since it can lead to problems when inserted variables
944 contain shell metacharacters.
945
946 The default PATH set up for the command is determined by the system
947 administrator, usually containing at least &_/bin_& and &_/usr/bin_& so that
948 common commands are available without having to specify an absolute file name.
949 However, it is possible for the system administrator to restrict the pipe
950 facility so that the command name must not contain any / characters, and must
951 be found in one of the directories in the configured PATH. It is also possible
952 for the system administrator to lock out the use of the &(pipe)& command
953 altogether.
954
955 When the command is run, a number of environment variables are set up. The
956 complete list for pipe deliveries may be found in the Exim reference manual.
957 Those that may be useful for pipe deliveries from user filter files are:
958
959 .display
960 &`DOMAIN            `&   the domain of the address
961 &`HOME              `&   your home directory
962 &`LOCAL_PART        `&   see below
963 &`LOCAL_PART_PREFIX `&   see below
964 &`LOCAL_PART_SUFFIX `&   see below
965 &`LOGNAME           `&   your login name
966 &`MESSAGE_ID        `&   the unique id of the message
967 &`PATH              `&   the command search path
968 &`RECIPIENT         `&   the complete recipient address
969 &`SENDER            `&   the sender of the message
970 &`SHELL             `&   &`/bin/sh`&
971 &`USER              `&   see below
972 .endd
973
974 LOCAL_PART, LOGNAME, and USER are all set to the same value, namely, your login
975 id. LOCAL_PART_PREFIX and LOCAL_PART_SUFFIX may be set if Exim is configured to
976 recognize prefixes or suffixes in the local parts of addresses. For example, a
977 message addressed to &'pat-suf2@domain.example'& may cause the filter for user
978 &'pat'& to be run. If this sets up a pipe delivery, LOCAL_PART_SUFFIX is
979 &`-suf2`& when the pipe command runs. The system administrator has to configure
980 Exim specially for this feature to be available.
981
982 If you run a command that is a shell script, be very careful in your use of
983 data from the incoming message in the commands in your script. RFC 2822 is very
984 generous in the characters that are permitted to appear in mail addresses, and
985 in particular, an address may begin with a vertical bar or a slash. For this
986 reason you should always use quotes round any arguments that involve data from
987 the message, like this:
988 .code
989 /some/command '$SENDER'
990 .endd
991 so that inserted shell meta-characters do not cause unwanted effects.
992
993 Remember that, as was explained earlier, the pipe command is not run at the
994 time the filter file is interpreted. The filter just defines what deliveries
995 are required for one particular addressee of a message. The deliveries
996 themselves happen later, once Exim has decided everything that needs to be done
997 for the message.
998
999 A consequence of this is that you cannot inspect the return code from the pipe
1000 command from within the filter. Nevertheless, the code returned by the command
1001 is important, because Exim uses it to decide whether the delivery has succeeded
1002 or failed.
1003
1004 The command should return a zero completion code if all has gone well. Most
1005 non-zero codes are treated by Exim as indicating a failure of the pipe. This is
1006 treated as a delivery failure, causing the message to be returned to its
1007 sender. However, there are some completion codes that are treated as temporary
1008 errors. The message remains on Exim's spool disk, and the delivery is tried
1009 again later, though it will ultimately time out if the delivery failures go on
1010 too long. The completion codes to which this applies can be specified by the
1011 system administrator; the default values are 73 and 75.
1012
1013 The pipe command should not normally write anything to its standard output or
1014 standard error file descriptors. If it does, whatever is written is normally
1015 returned to the sender of the message as a delivery error, though this action
1016 can be varied by the system administrator.
1017
1018
1019
1020 .section "Mail commands" "SECTmail"
1021 There are two commands that cause the creation of a new mail message, neither
1022 of which count as a significant delivery unless the command is preceded by the
1023 word &"seen"& (see section &<<SECTsigdel>>&). This is a powerful facility, but
1024 it should be used with care, because of the danger of creating infinite
1025 sequences of messages. The system administrator can forbid the use of these
1026 commands altogether.
1027
1028 To help prevent runaway message sequences, these commands have no effect when
1029 the incoming message is a bounce (delivery error) message, and messages sent by
1030 this means are treated as if they were reporting delivery errors. Thus, they
1031 should never themselves cause a bounce message to be returned. The basic
1032 mail-sending command is
1033 .display
1034 &`mail [to `&<&'address-list'&>&`]`&
1035 &`     [cc `&<&'address-list'&>&`]`&
1036 &`     [bcc `&<&'address-list'&>&`]`&
1037 &`     [from `&<&'address'&>&`]`&
1038 &`     [reply_to `&<&'address'&>&`]`&
1039 &`     [subject `&<&'text'&>&`]`&
1040 &`     [extra_headers `&<&'text'&>&`]`&
1041 &`     [text `&<&'text'&>&`]`&
1042 &`     [[expand] file `&<&'filename'&>&`]`&
1043 &`     [return message]`&
1044 &`     [log `&<&'log file name'&>&`]`&
1045 &`     [once `&<&'note file name'&>&`]`&
1046 &`     [once_repeat `&<&'time interval'&>&`]`&
1047
1048 &`e.g. mail text "Your message about $h_subject: has been received"`&
1049 .endd
1050 Each <&'address-list'&> can contain a number of addresses, separated by commas,
1051 in the format of a &'To:'& or &'Cc:'& header line. In fact, the text you supply
1052 here is copied exactly into the appropriate header line. It may contain
1053 additional information as well as email addresses. For example:
1054 .code
1055 mail to "Julius Caesar <jc@rome.example>, \
1056          <ma@rome.example> (Mark A.)"
1057 .endd
1058 Similarly, the texts supplied for &%from%& and &%reply_to%& are copied into
1059 their respective header lines.
1060
1061 As a convenience for use in one common case, there is also a command called
1062 &(vacation)&. It behaves in the same way as &(mail)&, except that the defaults
1063 for the &%subject%&, &%file%&, &%log%&, &%once%&, and &%once_repeat%& options
1064 are
1065 .code
1066 subject "On vacation"
1067 expand file .vacation.msg
1068 log  .vacation.log
1069 once .vacation
1070 once_repeat 7d
1071 .endd
1072 respectively. These are the same file names and repeat period used by the
1073 traditional Unix &(vacation)& command. The defaults can be overridden by
1074 explicit settings, but if a file name is given its contents are expanded only
1075 if explicitly requested.
1076
1077 &*Warning*&: The &(vacation)& command should always be used conditionally,
1078 subject to at least the &(personal)& condition (see section &<<SECTpersonal>>&
1079 below) so as not to send automatic replies to non-personal messages from
1080 mailing lists or elsewhere. Sending an automatic response to a mailing list or
1081 a mailing list manager is an Internet Sin.
1082
1083 For both commands, the key/value argument pairs can appear in any order. At
1084 least one of &%text%& or &%file%& must appear (except with &(vacation)&, where
1085 there is a default for &%file%&); if both are present, the text string appears
1086 first in the message. If &%expand%& precedes &%file%&, each line of the file is
1087 subject to string expansion before it is included in the message.
1088
1089 Several lines of text can be supplied to &%text%& by including the escape
1090 sequence &"\n"& in the string wherever a newline is required. If the command is
1091 output during filter file testing, newlines in the text are shown as &"\n"&.
1092
1093 Note that the keyword for creating a &'Reply-To:'& header is &%reply_to%&,
1094 because Exim keywords may contain underscores, but not hyphens. If the &%from%&
1095 keyword is present and the given address does not match the user who owns the
1096 forward file, Exim normally adds a &'Sender:'& header to the message, though it
1097 can be configured not to do this.
1098
1099 The &%extra_headers%& keyword allows you to add custom header lines to the
1100 message. The text supplied must be one or more syntactically valid RFC 2822
1101 header lines. You can use &"\n"& within quoted text to specify newlines between
1102 headers, and also to define continued header lines. For example:
1103 .code
1104 extra_headers "h1: first\nh2: second\n continued\nh3: third"
1105 .endd
1106 No newline should appear at the end of the final header line.
1107
1108 If no &%to%& argument appears, the message is sent to the address in the
1109 &$reply_address$& variable (see section &<<SECTfilterstringexpansion>>& above).
1110 An &'In-Reply-To:'& header is automatically included in the created message,
1111 giving a reference to the message identification of the incoming message.
1112
1113 If &%return message%& is specified, the incoming message that caused the filter
1114 file to be run is added to the end of the message, subject to a maximum size
1115 limitation.
1116
1117 If a log file is specified, a line is added to it for each message sent.
1118
1119 If a &%once%& file is specified, it is used to hold a database for remembering
1120 who has received a message, and no more than one message is ever sent to any
1121 particular address, unless &%once_repeat%& is set. This specifies a time
1122 interval after which another copy of the message is sent. The interval is
1123 specified as a sequence of numbers, each followed by the initial letter of one
1124 of &"seconds"&, &"minutes"&, &"hours"&, &"days"&, or &"weeks"&. For example,
1125 .code
1126 once_repeat 5d4h
1127 .endd
1128 causes a new message to be sent if at least 5 days and 4 hours have elapsed
1129 since the last one was sent. There must be no white space in a time interval.
1130
1131 Commonly, the file name specified for &%once%& is used as the base name for
1132 direct-access (DBM) file operations. There are a number of different DBM
1133 libraries in existence. Some operating systems provide one as a default, but
1134 even in this case a different one may have been used when building Exim. With
1135 some DBM libraries, specifying &%once%& results in two files being created,
1136 with the suffixes &_.dir_& and &_.pag_& being added to the given name. With
1137 some others a single file with the suffix &_.db_& is used, or the name is used
1138 unchanged.
1139
1140 Using a DBM file for implementing the &%once%& feature means that the file
1141 grows as large as necessary. This is not usually a problem, but some system
1142 administrators want to put a limit on it. The facility can be configured not to
1143 use a DBM file, but instead, to use a regular file with a maximum size. The
1144 data in such a file is searched sequentially, and if the file fills up, the
1145 oldest entry is deleted to make way for a new one. This means that some
1146 correspondents may receive a second copy of the message after an unpredictable
1147 interval. Consult your local information to see if your system is configured
1148 this way.
1149
1150 More than one &(mail)& or &(vacation)& command may be obeyed in a single filter
1151 run; they are all honoured, even when they are to the same recipient.
1152
1153
1154
1155 .section "Logging commands" "SECTlog"
1156 A log can be kept of actions taken by a filter file. This facility is normally
1157 available in conventional configurations, but there are some situations where
1158 it might not be. Also, the system administrator may choose to disable it. Check
1159 your local information if in doubt.
1160
1161 Logging takes place while the filter file is being interpreted. It does not
1162 queue up for later like the delivery commands. The reason for this is so that a
1163 log file need be opened only once for several write operations. There are two
1164 commands, neither of which constitutes a significant delivery. The first
1165 defines a file to which logging output is subsequently written:
1166 .display
1167 &`     logfile `&<&'file name'&>
1168 &`e.g. logfile $home/filter.log`&
1169 .endd
1170 The file name must be fully qualified. You can use &$home$&, as in this
1171 example, to refer to your home directory. The file name may optionally be
1172 followed by a mode for the file, which is used if the file has to be created.
1173 For example,
1174 .code
1175 logfile $home/filter.log 0644
1176 .endd
1177 The number is interpreted as octal, even if it does not begin with a zero.
1178 The default for the mode is 600. It is suggested that the &(logfile)& command
1179 normally appear as the first command in a filter file. Once a log file has
1180 been obeyed, the &(logwrite)& command can be used to write to it:
1181 .display
1182 &`     logwrite "`&<&'some text string'&>&`"`&
1183 &`e.g. logwrite "$tod_log $message_id processed"`&
1184 .endd
1185 It is possible to have more than one &(logfile)& command, to specify writing to
1186 different log files in different circumstances. Writing takes place at the end
1187 of the file, and a newline character is added to the end of each string if
1188 there isn't one already there. Newlines can be put in the middle of the string
1189 by using the &"\n"& escape sequence. Lines from simultaneous deliveries may get
1190 interleaved in the file, as there is no interlocking, so you should plan your
1191 logging with this in mind. However, data should not get lost.
1192
1193
1194
1195 .section "The finish command" "SECTfinish"
1196 The command &(finish)&, which has no arguments, causes Exim to stop
1197 interpreting the filter file. This is not a significant action unless preceded
1198 by &"seen"&. A filter file containing only &"seen finish"& is a black hole.
1199
1200
1201 .section "The testprint command" "SECTtestprint"
1202 It is sometimes helpful to be able to print out the values of variables when
1203 testing filter files. The command
1204 .display
1205 &`     testprint `&<&'text'&>
1206 &`e.g. testprint "home=$home reply_address=$reply_address"`&
1207 .endd
1208 does nothing when mail is being delivered. However, when the filtering code is
1209 being tested by means of the &%-bf%& option (see section &<<SECTtesting>>&
1210 above), the value of the string is written to the standard output.
1211
1212
1213 .section "The fail command" "SECTfail"
1214 When Exim's filtering facilities are being used as a system filter, the
1215 &(fail)& command is available, to force delivery failure. Because this command
1216 is normally usable only by the system administrator, and not enabled for use by
1217 ordinary users, it is described in more detail in the main Exim specification
1218 rather than in this document.
1219
1220
1221 .section "The freeze command" "SECTfreeze"
1222 When Exim's filtering facilities are being used as a system filter, the
1223 &(freeze)& command is available, to freeze a message on the queue. Because this
1224 command is normally usable only by the system administrator, and not enabled
1225 for use by ordinary users, it is described in more detail in the main Exim
1226 specification rather than in this document.
1227
1228
1229
1230 .section "The headers command" "SECTheaders"
1231 The &(headers)& command can be used to change the target character set that is
1232 used when translating the contents of encoded header lines for insertion by the
1233 &$header_$& mechanism (see section &<<SECTheadervariables>>& above). The
1234 default can be set in the Exim configuration; if not specified, ISO-8859-1 is
1235 used. The only currently supported format for the &(headers)& command in user
1236 filters is as in this example:
1237 .code
1238 headers charset "UTF-8"
1239 .endd
1240 That is, &(headers)& is followed by the word &"charset"& and then the name of a
1241 character set. This particular example would be useful if you wanted to compare
1242 the contents of a header to a UTF-8 string.
1243
1244 In system filter files, the &(headers)& command can be used to add or remove
1245 header lines from the message. These features are described in the main Exim
1246 specification.
1247
1248
1249
1250 .section "Obeying commands conditionally" "SECTif"
1251 Most of the power of filtering comes from the ability to test conditions and
1252 obey different commands depending on the outcome. The &(if)& command is used to
1253 specify conditional execution, and its general form is
1254 .display
1255 &`if    `&<&'condition'&>
1256 &`then  `&<&'commands'&>
1257 &`elif  `&<&'condition'&>
1258 &`then  `&<&'commands'&>
1259 &`else  `&<&'commands'&>
1260 &`endif`&
1261 .endd
1262 There may be any number of &(elif)& and &(then)& sections (including none) and
1263 the &(else)& section is also optional. Any number of commands, including nested
1264 &(if)& commands, may appear in any of the <&'commands'&> sections.
1265
1266 Conditions can be combined by using the words &(and)& and &(or)&, and round
1267 brackets (parentheses) can be used to specify how several conditions are to
1268 combine. Without brackets, &(and)& is more binding than &(or)&. For example:
1269 .code
1270 if
1271 $h_subject: contains "Make money" or
1272 $h_precedence: is "junk" or
1273 ($h_sender: matches ^\\d{8}@ and not personal) or
1274 $message_body contains "this is not spam"
1275 then
1276 seen finish
1277 endif
1278 .endd
1279 A condition can be preceded by &(not)& to negate it, and there are also some
1280 negative forms of condition that are more English-like.
1281
1282
1283
1284 .section "String testing conditions" "SEC23"
1285 There are a number of conditions that operate on text strings, using the words
1286 &"begins"&, &"ends"&, &"is"&, &"contains"& and &"matches"&. If you want to
1287 apply the same test to more than one header line, you can easily concatenate
1288 them into a single string for testing, as in this example:
1289 .code
1290 if "$h_to:, $h_cc:" contains me@domain.example then ...
1291 .endd
1292 If a string-testing condition name is written in lower case, the testing
1293 of letters is done without regard to case; if it is written in upper case
1294 (for example, &"CONTAINS"&), the case of letters is taken into account.
1295
1296 .display
1297 &`     `&<&'text1'&>&` begins `&<&'text2'&>
1298 &`     `&<&'text1'&>&` does not begin `&<&'text2'&>
1299 &`e.g. $header_from: begins "Friend@"`&
1300 .endd
1301
1302 A &"begins"& test checks for the presence of the second string at the start of
1303 the first, both strings having been expanded.
1304
1305 .display
1306 &`     `&<&'text1'&>&` ends `&<&'text2'&>
1307 &`     `&<&'text1'&>&` does not end `&<&'text2'&>
1308 &`e.g. $header_from: ends "public.com.example"`&
1309 .endd
1310
1311 An &"ends"& test checks for the presence of the second string at the end of
1312 the first, both strings having been expanded.
1313
1314 .display
1315 &`     `&<&'text1'&>&` is `&<&'text2'&>
1316 &`     `&<&'text1'&>&` is not `&<&'text2'&>
1317 &`e.g. $local_part_suffix is "-foo"`&
1318 .endd
1319
1320 An &"is"& test does an exact match between the strings, having first expanded
1321 both strings.
1322
1323 .display
1324 &`     `&<&'text1'&>&` contains `&<&'text2'&>
1325 &`     `&<&'text1'&>&` does not contain `&<&'text2'&>
1326 &`e.g. $header_subject: contains "evolution"`&
1327 .endd
1328
1329 A &"contains"& test does a partial string match, having expanded both strings.
1330
1331 .display
1332 &`     `&<&'text1'&>&` matches `&<&'text2'&>
1333 &`     `&<&'text1'&>&` does not match `&<&'text2'&>
1334 &`e.g. $sender_address matches "(bill|john)@"`&
1335 .endd
1336
1337 For a &"matches"& test, after expansion of both strings, the second one is
1338 interpreted as a regular expression. Exim uses the PCRE regular expression
1339 library, which provides regular expressions that are compatible with Perl.
1340
1341 The match succeeds if the regular expression matches any part of the first
1342 string. If you want a regular expression to match only at the start or end of
1343 the subject string, you must encode that requirement explicitly, using the
1344 &`^`& or &`$`& metacharacters. The above example, which is not so constrained,
1345 matches all these addresses:
1346 .code
1347 bill@test.example
1348 john@some.example
1349 spoonbill@example.com
1350 littlejohn@example.com
1351 .endd
1352 To match only the first two, you could use this:
1353 .code
1354 if $sender_address matches "^(bill|john)@" then ...
1355 .endd
1356 Care must be taken if you need a backslash in a regular expression, because
1357 backslashes are interpreted as escape characters both by the string expansion
1358 code and by Exim's normal processing of strings in quotes. For example, if you
1359 want to test the sender address for a domain ending in &'.com'& the regular
1360 expression is
1361 .code
1362 \.com$
1363 .endd
1364 The backslash and dollar sign in that expression have to be escaped when used
1365 in a filter command, as otherwise they would be interpreted by the expansion
1366 code. Thus, what you actually write is
1367 .code
1368 if $sender_address matches \\.com\$
1369 .endd
1370 An alternative way of handling this is to make use of the &`\N`& expansion
1371 flag for suppressing expansion:
1372 .code
1373 if $sender_address matches \N\.com$\N
1374 .endd
1375 Everything between the two occurrences of &`\N`& is copied without change by
1376 the string expander (and in fact you do not need the final one, because it is
1377 at the end of the string). If the regular expression is given in quotes
1378 (mandatory only if it contains white space) you have to write either
1379 .code
1380 if $sender_address matches "\\\\.com\\$"
1381 .endd
1382 or
1383 .code
1384 if $sender_address matches "\\N\\.com$\\N"
1385 .endd
1386
1387 If the regular expression contains bracketed sub-expressions, numeric
1388 variable substitutions such as &$1$& can be used in the subsequent actions
1389 after a successful match. If the match fails, the values of the numeric
1390 variables remain unchanged. Previous values are not restored after &(endif)&.
1391 In other words, only one set of values is ever available. If the condition
1392 contains several sub-conditions connected by &(and)& or &(or)&, it is the
1393 strings extracted from the last successful match that are available in
1394 subsequent actions. Numeric variables from any one sub-condition are also
1395 available for use in subsequent sub-conditions, because string expansion of a
1396 condition occurs just before it is tested.
1397
1398
1399 .section "Numeric testing conditions" "SEC24"
1400 The following conditions are available for performing numerical tests:
1401
1402 .display
1403 &`     `&<&'number1'&>&` is above `&<&'number2'&>
1404 &`     `&<&'number1'&>&` is not above `&<&'number2'&>
1405 &`     `&<&'number1'&>&` is below `&<&'number2'&>
1406 &`     `&<&'number1'&>&` is not below `&<&'number2'&>
1407 &`e.g. $message_size is not above 10k`&
1408 .endd
1409
1410 The <&'number'&> arguments must expand to strings of digits, optionally
1411 followed by one of the letters K or M (upper case or lower case) which cause
1412 multiplication by 1024 and 1024x1024 respectively.
1413
1414
1415 .section "Testing for significant deliveries" "SEC25"
1416 You can use the &(delivered)& condition to test whether or not any previously
1417 obeyed filter commands have set up a significant delivery. For example:
1418 .code
1419 if not delivered then save mail/anomalous endif
1420 .endd
1421 &"Delivered"& is perhaps a poor choice of name for this condition, because the
1422 message has not actually been delivered; rather, a delivery has been set up for
1423 later processing.
1424
1425
1426 .section "Testing for error messages" "SEC26"
1427 The condition &(error_message)& is true if the incoming message is a bounce
1428 (mail delivery error) message. Putting the command
1429 .code
1430 if error_message then finish endif
1431 .endd
1432 at the head of your filter file is a useful insurance against things going
1433 wrong in such a way that you cannot receive delivery error reports. &*Note*&:
1434 &(error_message)& is a condition, not an expansion variable, and therefore is
1435 not preceded by &`$`&.
1436
1437
1438 .section "Testing a list of addresses" "SEC27"
1439 There is a facility for looping through a list of addresses and applying a
1440 condition to each of them. It takes the form
1441 .display
1442 &`foranyaddress `&<&'string'&>&` (`&<&'condition'&>&`)`&
1443 .endd
1444 where <&'string'&> is interpreted as a list of RFC 2822 addresses, as in a
1445 typical header line, and <&'condition'&> is any valid filter condition or
1446 combination of conditions. The &"group"& syntax that is defined for certain
1447 header lines that contain addresses is supported.
1448
1449 The parentheses surrounding the condition are mandatory, to delimit it from
1450 possible further sub-conditions of the enclosing &(if)& command. Within the
1451 condition, the expansion variable &$thisaddress$& is set to the non-comment
1452 portion of each of the addresses in the string in turn. For example, if the
1453 string is
1454 .code
1455 B.Simpson <bart@sfld.example>, lisa@sfld.example (his sister)
1456 .endd
1457 then &$thisaddress$& would take on the values &`bart@sfld.example`& and
1458 &`lisa@sfld.example`& in turn.
1459
1460 If there are no valid addresses in the list, the whole condition is false. If
1461 the internal condition is true for any one address, the overall condition is
1462 true and the loop ends. If the internal condition is false for all addresses in
1463 the list, the overall condition is false. This example tests for the presence
1464 of an eight-digit local part in any address in a &'To:'& header:
1465 .code
1466 if foranyaddress $h_to: ( $thisaddress matches ^\\d{8}@ ) then ...
1467 .endd
1468 When the overall condition is true, the value of &$thisaddress$& in the
1469 commands that follow &(then)& is the last value it took on inside the loop. At
1470 the end of the &(if)& command, the value of &$thisaddress$& is reset to what it
1471 was before. It is best to avoid the use of multiple occurrences of
1472 &(foranyaddress)&, nested or otherwise, in a single &(if)& command, if the
1473 value of &$thisaddress$& is to be used afterwards, because it isn't always
1474 clear what the value will be. Nested &(if)& commands should be used instead.
1475
1476 Header lines can be joined together if a check is to be applied to more than
1477 one of them. For example:
1478 .code
1479 if foranyaddress $h_to:,$h_cc: ....
1480 .endd
1481 This scans through the addresses in both the &'To:'& and the &'Cc:'& headers.
1482
1483
1484 .section "Testing for personal mail" "SECTpersonal"
1485 A common requirement is to distinguish between incoming personal mail and mail
1486 from a mailing list, or from a robot or other automatic process (for example, a
1487 bounce message). In particular, this test is normally required for &"vacation
1488 messages"&.
1489
1490 The &(personal)& condition checks that the message is not a bounce message and
1491 that the current user's email address appears in the &'To:'& header. It also
1492 checks that the sender is not the current user or one of a number of common
1493 daemons, and that there are no header lines starting &'List-'& in the message.
1494 Finally, it checks the content of the &'Precedence:'& header line, if there is
1495 one.
1496
1497 You should always use the &(personal)& condition when generating automatic
1498 responses. This example shows the use of &(personal)& in a filter file that is
1499 sending out vacation messages:
1500 .code
1501 if personal then
1502 mail to $reply_address
1503 subject "I am on holiday"
1504 file $home/vacation/message
1505 once $home/vacation/once
1506 once_repeat 10d
1507 endif
1508 .endd
1509 It is tempting, when writing commands like the above, to quote the original
1510 subject in the reply. For example:
1511 .code
1512 subject "Re: $h_subject:"
1513 .endd
1514 There is a danger in doing this, however. It may allow a third party to
1515 subscribe you to an opt-in mailing list, provided that the list accepts bounce
1516 messages as subscription confirmations. (Messages sent from filters are always
1517 sent as bounce messages.) Well-managed lists require a non-bounce message to
1518 confirm a subscription, so the danger is relatively small.
1519
1520 If prefixes or suffixes are in use for local parts &-- something which depends
1521 on the configuration of Exim (see section &<<SECTmbox>>& below) &-- the tests
1522 for the current user are done with the full address (including the prefix and
1523 suffix, if any) as well as with the prefix and suffix removed. If the system is
1524 configured to rewrite local parts of mail addresses, for example, to rewrite
1525 &`dag46`& as &`Dirk.Gently`&, the rewritten form of the address is also used in
1526 the tests.
1527
1528
1529
1530 .section "Alias addresses for the personal condition" "SEC28"
1531 It is quite common for people who have mail accounts on a number of different
1532 systems to forward all their mail to one system, and in this case a check for
1533 personal mail should test all their various mail addresses. To allow for this,
1534 the &(personal)& condition keyword can be followed by
1535 .display
1536 &`alias `&<&'address'&>
1537 .endd
1538 any number of times, for example:
1539 .code
1540 if personal alias smith@else.where.example
1541             alias jones@other.place.example
1542 then ...
1543 .endd
1544 The alias addresses are treated as alternatives to the current user's email
1545 address when testing the contents of header lines.
1546
1547
1548 .section "Details of the personal condition" "SEC29"
1549 The basic &(personal)& test is roughly equivalent to the following:
1550 .code
1551 not error_message and
1552 $message_headers does not contain "\nList-Id:" and
1553 $message_headers does not contain "\nList-Help:" and
1554 $message_headers does not contain "\nList-Subscribe:" and
1555 $message_headers does not contain "\nList-Unsubscribe:" and
1556 $message_headers does not contain "\nList-Post:" and
1557 $message_headers does not contain "\nList-Owner:" and
1558 $message_headers does not contain "\nList-Archive:" and
1559 (
1560 "${if def h_auto-submitted:{present}{absent}}" is "absent" or
1561 $header_auto-submitted: is "no"
1562 ) and
1563 $header_precedence: does not contain "bulk" and
1564 $header_precedence: does not contain "list" and
1565 $header_precedence: does not contain "junk" and
1566 foranyaddress $header_to:
1567 ( $thisaddress contains "$local_part$domain" ) and
1568 not foranyaddress $header_from:
1569 (
1570 $thisaddress contains "$local_part@$domain" or
1571 $thisaddress contains "server@" or
1572 $thisaddress contains "daemon@" or
1573 $thisaddress contains "root@" or
1574 $thisaddress contains "listserv@" or
1575 $thisaddress contains "majordomo@" or
1576 $thisaddress contains "-request@" or
1577 $thisaddress matches  "^owner-[^@]+@"
1578 )
1579 .endd
1580 The variable &$local_part$& contains the local part of the mail address of
1581 the user whose filter file is being run &-- it is normally your login id. The
1582 &$domain$& variable contains the mail domain. As explained above, if aliases
1583 or rewriting are defined, or if prefixes or suffixes are in use, the tests for
1584 the current user are also done with alternative addresses.
1585
1586
1587
1588
1589 .section "Testing delivery status" "SEC30"
1590 There are two conditions that are intended mainly for use in system filter
1591 files, but which are available in users' filter files as well. The condition
1592 &(first_delivery)& is true if this is the first process that is attempting to
1593 deliver the message, and false otherwise. This indicator is not reset until the
1594 first delivery process successfully terminates; if there is a crash or a power
1595 failure (for example), the next delivery attempt is also a &"first delivery"&.
1596
1597 In a user filter file &(first_delivery)& will be false if there was previously
1598 an error in the filter, or if a delivery for the user failed owing to, for
1599 example, a quota error, or if forwarding to a remote address was deferred for
1600 some reason.
1601
1602 The condition &(manually_thawed)& is true if the message was &"frozen"& for
1603 some reason, and was subsequently released by the system administrator. It is
1604 unlikely to be of use in users' filter files.
1605
1606
1607 .section "Multiple personal mailboxes" "SECTmbox" "SEC31"
1608 The system administrator can configure Exim so that users can set up variants
1609 on their email addresses and handle them separately. Consult your system
1610 administrator or local documentation to see if this facility is enabled on your
1611 system, and if so, what the details are.
1612
1613 The facility involves the use of a prefix or a suffix on an email address. For
1614 example, all mail addressed to &'lg303-'&<&'something'&> would be the property
1615 of user &'lg303'&, who could determine how it was to be handled, depending on
1616 the value of <&'something'&>.
1617
1618 There are two possible ways in which this can be set up. The first possibility
1619 is the use of multiple &_.forward_& files. In this case, mail to &'lg303-foo'&,
1620 for example, is handled by looking for a file called &_.forward-foo_& in
1621 &'lg303'&'s home directory. If such a file does not exist, delivery fails
1622 and the message is returned to its sender.
1623
1624 The alternative approach is to pass all messages through a single &_.forward_&
1625 file, which must be a filter file so that it can distinguish between the
1626 different cases by referencing the variables &$local_part_prefix$& or
1627 &$local_part_suffix$&, as in the final example in section &<<SECTex>>& below.
1628
1629 It is possible to configure Exim to support both schemes at once. In this case,
1630 a specific &_.forward-foo_& file is first sought; if it is not found, the basic
1631 &_.forward_& file is used.
1632
1633 The &(personal)& test (see section &<<SECTpersonal>>&) includes prefixes and
1634 suffixes in its checking.
1635
1636
1637
1638 .section "Ignoring delivery errors" "SEC43"
1639 As was explained above, filtering just sets up addresses for delivery &-- no
1640 deliveries are actually done while a filter file is active. If any of the
1641 generated addresses subsequently suffers a delivery failure, an error message
1642 is generated in the normal way. However, if a filter command that sets up a
1643 delivery is preceded by the word &"noerror"&, errors for that delivery,
1644 and any deliveries consequent on it (that is, from alias, forwarding, or
1645 filter files it invokes) are ignored.
1646
1647
1648
1649 .section "Examples of Exim filter commands" "SECTex"
1650 Simple forwarding:
1651
1652 .code
1653 # Exim filter
1654 deliver baggins@rivendell.middle-earth.example
1655 .endd
1656
1657 Vacation handling using traditional means, assuming that the &_.vacation.msg_&
1658 and other files have been set up in your home directory:
1659
1660 .code
1661 # Exim filter
1662 unseen pipe "/usr/ucb/vacation \"$local_part\""
1663 .endd
1664
1665 Vacation handling inside Exim, having first created a file called
1666 &_.vacation.msg_& in your home directory:
1667
1668 .code
1669 # Exim filter
1670 if personal then vacation endif
1671 .endd
1672
1673 File some messages by subject:
1674
1675 .code
1676 # Exim filter
1677 if $header_subject: contains "empire" or
1678 $header_subject: contains "foundation"
1679 then
1680 save $home/mail/f+e
1681 endif
1682 .endd
1683
1684 Save all non-urgent messages by weekday:
1685
1686 .code
1687 # Exim filter
1688 if $header_subject: does not contain "urgent" and
1689 $tod_full matches "^(...),"
1690 then
1691 save $home/mail/$1
1692 endif
1693 .endd
1694
1695 Throw away all mail from one site, except from postmaster:
1696
1697 .code
1698 # Exim filter
1699 if $reply_address contains "@spam.site.example" and
1700 $reply_address does not contain "postmaster@"
1701 then
1702 seen finish
1703 endif
1704 .endd
1705
1706 Handle multiple personal mailboxes:
1707
1708 .code
1709 # Exim filter
1710 if $local_part_suffix is "-foo"
1711 then
1712 save $home/mail/foo
1713 elif $local_part_suffix is "-bar"
1714 then
1715 save $home/mail/bar
1716 endif
1717 .endd
1718