Added the -n option to set the maximum number of mails to extract.
[mymail.git] / mymail.c
1
2 /*
3  *  Copyright (c) 2013 Francois Fleuret
4  *  Written by Francois Fleuret <francois@fleuret.org>
5  *
6  *  This file is part of mymail.
7  *
8  *  mymail is free software: you can redistribute it and/or modify
9  *  it under the terms of the GNU General Public License version 3 as
10  *  published by the Free Software Foundation.
11  *
12  *  mymail is distributed in the hope that it will be useful, but
13  *  WITHOUT ANY WARRANTY; without even the implied warranty of
14  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
15  *  General Public License for more details.
16  *
17  *  You should have received a copy of the GNU General Public License
18  *  along with mymail.  If not, see <http://www.gnu.org/licenses/>.
19  *
20  */
21
22 /*
23
24   This command is a dumb mail indexer. It can either (1) scan
25   directories containing mbox files, and create a db file containing
26   for each mail a list of fields computed from the header, or (2)
27   read such a db file and get all the mails matching regexp-defined
28   conditions on the fields, to create a resulting mbox file.
29
30   It is low-tech, simple, light and fast.
31
32 */
33
34 #define _GNU_SOURCE
35
36 #include <stdio.h>
37 #include <stdlib.h>
38 #include <string.h>
39 #include <errno.h>
40 #include <fcntl.h>
41 #include <locale.h>
42 #include <getopt.h>
43 #include <limits.h>
44 #include <dirent.h>
45 #include <regex.h>
46 #include <time.h>
47
48 #define MYMAIL_DB_MAGIC_TOKEN "mymail_index_file"
49 #define MYMAIL_VERSION "0.9.9"
50
51 #define MYMAIL_DB_FORMAT_VERSION 1
52
53 #define MAX_NB_SEARCH_CONDITIONS 32
54
55 #define BUFFER_SIZE 65536
56 #define TOKEN_BUFFER_SIZE 1024
57
58 #define LEADING_FROM_LINE_REGEXP_STRING "^From .*\\(Mon\\|Tue\\|Wed\\|Thu\\|Fri\\|Sat\\|Sun\\) \\(Jan\\|Feb\\|Mar\\|Apr\\|May\\|Jun\\|Jul\\|Aug\\|Sep\\|Oct\\|Nov\\|Dec\\) [ 0123][0-9] [0-9][0-9]:[0-9][0-9]:[0-9][0-9] [0-9][0-9][0-9][0-9]\n$"
59
60 /********************************************************************/
61
62 struct alias_node {
63   char *alias, *value;
64   struct alias_node *next;
65 };
66
67 /* Global variables! */
68
69 int global_quiet;
70 int global_use_leading_time;
71 int global_nb_mails_max;
72 regex_t global_leading_from_line_regexp;
73 struct alias_node *global_alias_list;
74
75 /********************************************************************/
76
77 enum {
78   ID_MAIL = 0,
79   ID_LEADING_LINE,
80   ID_FROM,
81   ID_TO,
82   ID_SUBJECT,
83   ID_DATE,
84   ID_PARTICIPANT,
85   ID_BODY,
86   ID_TIME_INTERVAL,
87   MAX_ID
88 };
89
90 static char *field_keys[] = {
91   "mail",
92   "lead",
93   "from",
94   "to",
95   "subject",
96   "date",
97   "part",
98   "body",
99   "interval"
100 };
101
102 /********************************************************************/
103
104 struct search_condition {
105   int db_key;
106   regex_t db_value_regexp;
107   int negation;
108   time_t time_start, time_stop;
109 };
110
111 /********************************************************************/
112
113 struct parsable_field {
114   int id;
115   int cflags;
116   char *regexp_string;
117   regex_t regexp;
118 };
119
120 static struct parsable_field fields_to_parse[] = {
121   {
122     ID_LEADING_LINE,
123     0,
124     "^From ",
125     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
126   },
127
128   {
129     ID_FROM,
130     REG_ICASE,
131     "^\\(from\\|reply-to\\|sender\\|return-path\\): ",
132     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
133   },
134
135   {
136     ID_TO,
137     REG_ICASE,
138     "^\\(to\\|cc\\|bcc\\): ",
139     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
140   },
141
142   {
143     ID_SUBJECT,
144     REG_ICASE,
145     "^subject: ",
146     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
147   },
148
149   {
150     ID_DATE,
151     REG_ICASE,
152     "^date: ",
153     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
154   },
155
156 };
157
158 /********************************************************************/
159
160 int xor(int a, int b) {
161   return (a && !b) || (!a && b);
162 }
163
164 const char *parse_token(char *token_buffer, size_t token_buffer_size,
165                         char separator, const char *string) {
166   char *u = token_buffer;
167
168   while(*string == separator) { string++; }
169
170   while(u < token_buffer + token_buffer_size - 1 && *string && *string != separator) {
171     *(u++) = *(string++);
172   }
173
174   while(*string == separator) { string++; }
175
176   *u = '\0';
177   return string;
178 }
179
180 char *default_value(char *current_value,
181                     const char *env_variable,
182                     const char *hard_default_value) {
183   if(current_value) {
184     return current_value;
185   } else {
186     char *env_value = getenv(env_variable);
187     if(env_value) {
188       return strdup(env_value);
189     } else if(hard_default_value) {
190       return strdup(hard_default_value);
191     } else {
192       return 0;
193     }
194   }
195 }
196
197 /********************************************************************/
198
199 void *safe_malloc(size_t n) {
200   void *p = malloc(n);
201   if(!p && n != 0) {
202     fprintf(stderr,
203             "selector: cannot allocate memory: %s\n", strerror(errno));
204     exit(EXIT_FAILURE);
205   }
206   return p;
207 }
208
209 FILE *safe_fopen(const char *path, const char *mode, const char *comment) {
210   FILE *result = fopen(path, mode);
211   if(result) {
212     return result;
213   } else {
214     fprintf(stderr,
215             "mymail: Cannot open file '%s' (%s) with mode \"%s\".\n",
216             path, comment, mode);
217     exit(EXIT_FAILURE);
218   }
219 }
220
221 /*********************************************************************/
222
223 void print_version(FILE *out) {
224   fprintf(out, "mymail version %s (%s)\n", MYMAIL_VERSION, UNAME);
225 }
226
227 void print_usage(FILE *out) {
228   print_version(out);
229   fprintf(out, "Written by Francois Fleuret <francois@fleuret.org>.\n");
230   fprintf(out, "\n");
231   fprintf(out, "Usage: mymail [options] [<mbox dir1> [<mbox dir2> ...]|<db file1> [<db file2> ...]]\n");
232   fprintf(out, "\n");
233   fprintf(out, " -h, --help\n");
234   fprintf(out, "         show this help\n");
235   fprintf(out, " -v, --version\n");
236   fprintf(out, "         print the version number\n");
237   fprintf(out, " -q, --quiet\n");
238   fprintf(out, "         do not print information during search\n");
239   fprintf(out, " -t, --use-leading-time\n");
240   fprintf(out, "         use the time stamp from the leading line of each mail and not the Date:\n");
241   fprintf(out, "         field\n");
242   fprintf(out, " -p <db filename pattern>, --db-pattern <db filename pattern>\n");
243   fprintf(out, "         set the db filename pattern for recursive search\n");
244   fprintf(out, " -r <db root path>, --db-root <db root path>\n");
245   fprintf(out, "         set the db root path for recursive search\n");
246   fprintf(out, " -l <db filename list>, --db-list <db filename list>\n");
247   fprintf(out, "         set the semicolon-separated list of db files for search\n");
248   fprintf(out, " -m <mbox filename pattern>, --mbox-pattern <mbox filename pattern>\n");
249   fprintf(out, "         set the mbox filename pattern for recursive search\n");
250   fprintf(out, " -s <search pattern>, --search <search pattern>\n");
251   fprintf(out, "         search for matching mails in the db file\n");
252   fprintf(out, " -d <db filename>, --db-file-output <db filename>\n");
253   fprintf(out, "         set the db filename for indexing\n");
254   fprintf(out, " -i, --index\n");
255   fprintf(out, "         index mails\n");
256   fprintf(out, " -o <output filename>, --output <output filename>\n");
257   fprintf(out, "         set the result file, use stdout if unset\n");
258   fprintf(out, " -n <max number of mails>, --nb-mails-max <max number of mails>\n");
259   fprintf(out, "         set the maximum number of mails to extract\n");
260   fprintf(out, " -a <search field>, --default-search <search field>\n");
261   fprintf(out, "         set the default search field\n");
262 }
263
264 /*********************************************************************/
265
266 int ignore_entry(const char *name) {
267   return
268     strcmp(name, ".") == 0 ||
269     strcmp(name, "..") == 0 ||
270     (name[0] == '.' && name[1] != '/');
271 }
272
273 int is_a_leading_from_line(char *mbox_line) {
274   return
275     strncmp(mbox_line, "From ", 5) == 0 &&
276     regexec(&global_leading_from_line_regexp, mbox_line, 0, 0, 0) == 0;
277 }
278
279 int db_line_match_search(struct search_condition *condition,
280                          int db_key, const char *db_value) {
281
282   return
283     (
284      (condition->db_key == db_key)
285
286      ||
287
288      (condition->db_key == ID_PARTICIPANT && (db_key == ID_LEADING_LINE ||
289                                               db_key == ID_FROM ||
290                                               db_key == ID_TO))
291      ||
292
293      (condition->db_key == ID_FROM && db_key == ID_LEADING_LINE)
294
295      )
296
297     &&
298
299     regexec(&condition->db_value_regexp, db_value, 0, 0, 0) == 0;
300 }
301
302 void update_body_hits(char *mail_filename, int position_in_mail,
303                       int nb_search_conditions, struct search_condition *search_conditions,
304                       int nb_body_conditions,
305                       int *hits) {
306   FILE *mail_file;
307   int header, n;
308   char raw_mbox_line[BUFFER_SIZE];
309   int nb_body_hits;
310
311   nb_body_hits = 0;
312
313   header = 1;
314   mail_file = safe_fopen(mail_filename, "r", "mbox for body scan");
315
316   fseek(mail_file, position_in_mail, SEEK_SET);
317
318   if(fgets(raw_mbox_line, BUFFER_SIZE, mail_file)) {
319     while(nb_body_hits < nb_body_conditions) {
320       if(raw_mbox_line[0] == '\n') { header = 0; }
321
322       if(!header) {
323         for(n = 0; n < nb_search_conditions; n++) {
324           if(search_conditions[n].db_key == ID_BODY && !hits[n]) {
325             hits[n] =
326               (regexec(&search_conditions[n].db_value_regexp, raw_mbox_line, 0, 0, 0) == 0);
327             if(hits[n]) {
328               nb_body_hits++;
329             }
330           }
331         }
332       }
333
334       if(!fgets(raw_mbox_line, BUFFER_SIZE, mail_file) ||
335          (is_a_leading_from_line(raw_mbox_line)))
336         break;
337     }
338   }
339
340   fclose(mail_file);
341 }
342
343 void extract_mail(const char *mail_filename, unsigned long int position_in_mail,
344                   FILE *output_file) {
345   char raw_mbox_line[BUFFER_SIZE];
346   FILE *mail_file;
347
348   /* printf("Extract\n"); */
349
350   mail_file = safe_fopen(mail_filename, "r", "mbox for mail extraction");
351   fseek(mail_file, position_in_mail, SEEK_SET);
352
353   if(fgets(raw_mbox_line, BUFFER_SIZE, mail_file)) {
354     fprintf(output_file, "%s", raw_mbox_line);
355     while(1) {
356       if(!fgets(raw_mbox_line, BUFFER_SIZE, mail_file) ||
357          is_a_leading_from_line(raw_mbox_line))
358         break;
359       fprintf(output_file, "%s", raw_mbox_line);
360     }
361   }
362
363   fclose(mail_file);
364 }
365
366 int check_full_mail_match(char *current_mail_filename,
367                           time_t mail_time,
368                           int nb_search_conditions,
369                           struct search_condition *search_conditions,
370                           int nb_body_conditions,
371                           int *hits,
372                           int current_position_in_mail) {
373   int n, nb_fulfilled_body_conditions;
374
375   for(n = 0; n < nb_search_conditions; n++) {
376     if(search_conditions[n].db_key == ID_TIME_INTERVAL) {
377       hits[n] = (mail_time >= search_conditions[n].time_start &&
378                  (search_conditions[n].time_stop == 0 ||
379                   mail_time <= search_conditions[n].time_stop));
380     }
381   }
382
383   /* We first check all conditions but the body ones */
384
385   for(n = 0; n < nb_search_conditions &&
386         ((search_conditions[n].db_key == ID_BODY) ||
387          xor(hits[n], search_conditions[n].negation)); n++);
388
389   if(n == nb_search_conditions) {
390
391     /* Now check the body ones */
392
393     nb_fulfilled_body_conditions = 0;
394
395     if(nb_body_conditions > 0) {
396       update_body_hits(current_mail_filename, current_position_in_mail,
397                        nb_search_conditions, search_conditions,
398                        nb_body_conditions,
399                        hits);
400
401       for(n = 0; n < nb_search_conditions; n++) {
402         if(search_conditions[n].db_key == ID_BODY &&
403            xor(hits[n], search_conditions[n].negation)) {
404           nb_fulfilled_body_conditions++;
405         }
406       }
407     }
408     return nb_body_conditions == nb_fulfilled_body_conditions;
409   } else {
410     return 0;
411   }
412 }
413
414 /* We use the mail leading line time by default, and if we should and
415    can, we update with the Date: field */
416
417 void update_time(int db_key, const char *db_value, time_t *t) {
418   const char *c;
419   struct tm tm;
420
421   memset(&tm, 0, sizeof(struct tm));
422
423   if(db_key == ID_LEADING_LINE) {
424     c = db_value;
425     while(*c && *c != ' ') c++; while(*c && *c == ' ') c++;
426     /* printf("From %s", db_value); */
427     strptime(c, "%a %b %e %k:%M:%S %Y", &tm);
428     *t = mktime(&tm);
429   } else {
430     if(!global_use_leading_time) {
431       if(db_key == ID_DATE) {
432         if(strptime(db_value, "%a, %d %b %Y %k:%M:%S", &tm) ||
433            strptime(db_value, "%d %b %Y %k:%M:%S", &tm)) {
434           /* printf("Date: %s", db_value); */
435           *t = mktime(&tm);
436         }
437       }
438     }
439   }
440 }
441
442 int search_in_db(const char *db_filename,
443                  int nb_extracted_mails,
444                  int nb_search_conditions,
445                  struct search_condition *search_conditions,
446                  FILE *output_file) {
447
448   FILE *db_file;
449   char raw_db_line[BUFFER_SIZE];
450   char current_mail_filename[PATH_MAX + 1];
451   char db_key_string[TOKEN_BUFFER_SIZE];
452   char position_in_file_string[TOKEN_BUFFER_SIZE];
453   unsigned long int current_position_in_mail;
454   const char *db_value;
455   int db_key;
456   int hits[MAX_NB_SEARCH_CONDITIONS];
457   int nb_body_conditions, need_time;
458   time_t mail_time;
459
460   int m, n;
461
462   if(!global_quiet) {
463     printf("Searching in '%s' ... ", db_filename);
464     fflush(stdout);
465   }
466
467   db_file = safe_fopen(db_filename, "r", "index file for search");
468
469   /* First, check the db file leading line integrity */
470
471   if(fgets(raw_db_line, BUFFER_SIZE, db_file)) {
472     if(strncmp(raw_db_line, MYMAIL_DB_MAGIC_TOKEN, strlen(MYMAIL_DB_MAGIC_TOKEN))) {
473       fprintf(stderr,
474               "mymail: Header line in '%s' does not match the mymail db format.\n",
475               db_filename);
476       exit(EXIT_FAILURE);
477     }
478   } else {
479     fprintf(stderr,
480             "mymail: Cannot read the header line in '%s'.\n",
481             db_filename);
482     exit(EXIT_FAILURE);
483   }
484
485   /* Then parse the said db file */
486
487   current_position_in_mail = 0;
488
489   for(n = 0; n < nb_search_conditions; n++) { hits[n] = 0; }
490
491   nb_body_conditions = 0;
492   need_time = 0;
493   mail_time = 0;
494
495   for(n = 0; n < nb_search_conditions; n++) {
496     if(search_conditions[n].db_key == ID_BODY) {
497       nb_body_conditions++;
498     }
499     else if(search_conditions[n].db_key == ID_TIME_INTERVAL) {
500       need_time = 1;
501     }
502   }
503
504   strcpy(current_mail_filename, "");
505
506   while(nb_extracted_mails < global_nb_mails_max &&
507         fgets(raw_db_line, BUFFER_SIZE, db_file)) {
508     db_value = parse_token(db_key_string, TOKEN_BUFFER_SIZE, ' ', raw_db_line);
509
510     if(strcmp("mail", db_key_string) == 0) {
511       if(current_mail_filename[0]) {
512         if(check_full_mail_match(current_mail_filename,
513                                  mail_time,
514                                  nb_search_conditions, search_conditions,
515                                  nb_body_conditions, hits, current_position_in_mail)) {
516           extract_mail(current_mail_filename, current_position_in_mail, output_file);
517           nb_extracted_mails++;
518         }
519       }
520
521       for(n = 0; n < nb_search_conditions; n++) { hits[n] = 0; }
522       db_value = parse_token(position_in_file_string, TOKEN_BUFFER_SIZE, ' ', db_value);
523       db_value = parse_token(current_mail_filename, PATH_MAX+1, '\n', db_value);
524       current_position_in_mail = atol(position_in_file_string);
525     }
526
527     else {
528       db_key = -1;
529       for(m = 0; (m < MAX_ID) && db_key == -1; m++) {
530         if(strncmp(field_keys[m], db_key_string, strlen(db_key_string)) == 0) {
531           db_key = m;
532         }
533       }
534
535       for(n = 0; n < nb_search_conditions; n++) {
536         hits[n] |= db_line_match_search(&search_conditions[n],
537                                         db_key, db_value);
538       }
539
540       if(need_time) {
541         update_time(db_key, db_value, &mail_time);
542       }
543     }
544   }
545
546   if(nb_extracted_mails < global_nb_mails_max &&
547      current_mail_filename[0] &&
548      check_full_mail_match(current_mail_filename,
549                            mail_time,
550                            nb_search_conditions, search_conditions,
551                            nb_body_conditions, hits, current_position_in_mail)) {
552     extract_mail(current_mail_filename, current_position_in_mail, output_file);
553     nb_extracted_mails++;
554   }
555
556   fclose(db_file);
557
558   if(!global_quiet) {
559     printf("done.\n");
560     fflush(stdout);
561   }
562
563   return nb_extracted_mails;
564 }
565
566 int recursive_search_in_db(const char *entry_name, regex_t *db_filename_regexp,
567                            int nb_extracted_mails,
568                            int nb_search_conditions,
569                            struct search_condition *search_conditions,
570                            FILE *output_file) {
571   DIR *dir;
572   struct dirent *dir_e;
573   struct stat sb;
574   char subname[PATH_MAX + 1];
575
576   if(lstat(entry_name, &sb) != 0) {
577     fprintf(stderr,
578             "mymail: Cannot stat \"%s\": %s\n",
579             entry_name,
580             strerror(errno));
581     exit(EXIT_FAILURE);
582   }
583
584   /* printf("recursive_search_in_db %s\n", entry_name); */
585
586   dir = opendir(entry_name);
587
588   if(dir) {
589     while((dir_e = readdir(dir)) &&
590           nb_extracted_mails < global_nb_mails_max) {
591       if(!ignore_entry(dir_e->d_name)) {
592         snprintf(subname, PATH_MAX, "%s/%s", entry_name, dir_e->d_name);
593         nb_extracted_mails = recursive_search_in_db(subname, db_filename_regexp,
594                                                     nb_extracted_mails,
595                                                     nb_search_conditions, search_conditions,
596                                                     output_file);
597       }
598     }
599     closedir(dir);
600   }
601
602   else {
603     const char *s = entry_name, *filename = entry_name;
604     while(*s) { if(*s == '/') { filename = s+1; } s++; }
605
606     if(regexec(db_filename_regexp, filename, 0, 0, 0) == 0) {
607       nb_extracted_mails =
608         search_in_db(entry_name,
609                      nb_extracted_mails,
610                      nb_search_conditions, search_conditions, output_file);
611     }
612   }
613
614   return nb_extracted_mails;
615 }
616
617 /*********************************************************************/
618
619 void index_one_mbox_line(unsigned int nb_fields_to_parse,
620                          struct parsable_field *fields_to_parse,
621                          char *raw_mbox_line, FILE *db_file) {
622   regmatch_t matches;
623   unsigned int f;
624   for(f = 0; f < nb_fields_to_parse; f++) {
625     if(regexec(&fields_to_parse[f].regexp, raw_mbox_line, 1, &matches, 0) == 0) {
626       fprintf(db_file, "%s %s\n",
627               field_keys[fields_to_parse[f].id],
628               raw_mbox_line + matches.rm_eo);
629     }
630   }
631 }
632
633 void index_mbox(const char *mbox_filename,
634                 int nb_fields_to_parse, struct parsable_field *fields_to_parse,
635                 FILE *db_file) {
636   char raw_mbox_line[BUFFER_SIZE], full_line[BUFFER_SIZE];
637   char *end_of_full_line;
638   FILE *file;
639   int in_header, new_header;
640   unsigned long int position_in_file;
641
642   file = safe_fopen(mbox_filename, "r", "mbox for indexing");
643
644   in_header = 0;
645   new_header = 0;
646
647   position_in_file = 0;
648   end_of_full_line = 0;
649   full_line[0] = '\0';
650
651   while(fgets(raw_mbox_line, BUFFER_SIZE, file)) {
652     if(is_a_leading_from_line(raw_mbox_line)) {
653       /* This starts a new mail */
654       if(in_header) {
655         fprintf(stderr,
656                 "Got a ^\"From \" in the header in %s:%lu.\n",
657                 mbox_filename, position_in_file);
658         fprintf(stderr, "%s", raw_mbox_line);
659       }
660
661       /* printf("LEADING_LINE %s", raw_mbox_line); */
662
663       in_header = 1;
664       new_header = 1;
665     } else if(raw_mbox_line[0] == '\n') {
666       if(in_header) {
667         in_header = 0;
668         /* We leave the header, index the current line */
669         if(full_line[0]) {
670           /* printf("INDEX %s\n", full_line); */
671           index_one_mbox_line(nb_fields_to_parse, fields_to_parse, full_line, db_file);
672         }
673         end_of_full_line = full_line;
674         *end_of_full_line = '\0';
675       }
676     }
677
678     if(in_header) {
679       if(new_header) {
680         fprintf(db_file, "mail %lu %s\n", position_in_file, mbox_filename);
681         new_header = 0;
682       }
683
684       if(raw_mbox_line[0] == ' ' || raw_mbox_line[0] == '\t') {
685         /* Continuation of a line */
686         char *start = raw_mbox_line;
687         while(*start == ' ' || *start == '\t') start++;
688         *(end_of_full_line++) = ' ';
689         strcpy(end_of_full_line, start);
690         while(*end_of_full_line && *end_of_full_line != '\n') {
691           end_of_full_line++;
692         }
693         *end_of_full_line = '\0';
694       }
695
696       else {
697         /* Start a new header line, not a continuation */
698
699         if(full_line[0]) {
700           /* printf("INDEX %s\n", full_line); */
701           index_one_mbox_line(nb_fields_to_parse, fields_to_parse, full_line, db_file);
702         }
703
704         end_of_full_line = full_line;
705         strcpy(end_of_full_line, raw_mbox_line);
706         while(*end_of_full_line && *end_of_full_line != '\n') {
707           end_of_full_line++;
708         }
709         *end_of_full_line = '\0';
710       }
711
712     }
713
714     position_in_file += strlen(raw_mbox_line);
715   }
716
717   fclose(file);
718 }
719
720 void recursive_index_mbox(FILE *db_file,
721                           const char *entry_name, regex_t *mbox_filename_regexp,
722                           int nb_fields_to_parse, struct parsable_field *fields_to_parse) {
723   DIR *dir;
724   struct dirent *dir_e;
725   struct stat sb;
726   char subname[PATH_MAX + 1];
727
728   if(lstat(entry_name, &sb) != 0) {
729     fprintf(stderr,
730             "mymail: Cannot stat \"%s\": %s\n",
731             entry_name,
732             strerror(errno));
733     exit(EXIT_FAILURE);
734   }
735
736   dir = opendir(entry_name);
737
738   if(dir) {
739     while((dir_e = readdir(dir))) {
740       if(!ignore_entry(dir_e->d_name)) {
741         snprintf(subname, PATH_MAX, "%s/%s", entry_name, dir_e->d_name);
742         recursive_index_mbox(db_file, subname, mbox_filename_regexp,
743                              nb_fields_to_parse, fields_to_parse);
744       }
745     }
746     closedir(dir);
747   } else {
748     const char *s = entry_name, *filename = s;
749     while(*s) { if(*s == '/') { filename = s+1; }; s++; }
750     if(!mbox_filename_regexp || regexec(mbox_filename_regexp, filename, 0, 0, 0) == 0) {
751       index_mbox(entry_name, nb_fields_to_parse, fields_to_parse, db_file);
752     }
753   }
754 }
755
756 /*********************************************************************/
757
758 /* For long options that have no equivalent short option, use a
759    non-character as a pseudo short option, starting with CHAR_MAX + 1.  */
760 enum {
761   OPT_BASH_MODE = CHAR_MAX + 1
762 };
763
764 static struct option long_options[] = {
765   { "help", no_argument, 0, 'h' },
766   { "version", no_argument, 0, 'v' },
767   { "quiet", no_argument, 0, 'q' },
768   { "use-leading-time", no_argument, 0, 't' },
769   { "db-file-output", 1, 0, 'd' },
770   { "db-pattern", 1, 0, 'p' },
771   { "db-root", 1, 0, 'r' },
772   { "db-list", 1, 0, 'l' },
773   { "mbox-pattern", 1, 0, 'm' },
774   { "search", 1, 0, 's' },
775   { "index", 0, 0, 'i' },
776   { "output", 1, 0, 'o' },
777   { "default-search", 1, 0, 'a' },
778   { "nb-mails-max", 1, 0, 'n' },
779   { 0, 0, 0, 0 }
780 };
781
782 struct time_criterion {
783   char *label;
784   int day_criterion;
785   int start_hour, end_hour;
786   int past_week_day;
787 };
788
789 /*********************************************************************/
790
791 static struct time_criterion time_criteria[] = {
792
793   { "8h",        0,  8,       -1, -1 },
794   { "24h",       0, 24,       -1, -1 },
795   { "48h",       0, 48,       -1, -1 },
796   { "week",      0, 24 *   7, -1, -1 },
797   { "month",     0, 24 *  31, -1, -1 },
798   { "trimester", 0, 24 *  92, -1, -1 },
799   { "year",      0, 24 * 365, -1, -1 },
800
801   { "yesterday", 1, -1,       -1, -1 },
802   { "today",     1, -1,       -1,  0 },
803
804   { "monday",    1, -1,       -1,  1 },
805   { "tuesday",   1, -1,       -1,  2 },
806   { "wednesday", 1, -1,       -1,  3 },
807   { "thursday",  1, -1,       -1,  4 },
808   { "friday",    1, -1,       -1,  5 },
809   { "saturday",  1, -1,       -1,  6 },
810   { "sunday",    1, -1,       -1,  7 },
811
812 };
813
814 /*********************************************************************/
815
816 time_t time_for_past_day(int day) {
817   time_t t;
818   struct tm *tm;
819   int delta_day;
820   t = time(0);
821   tm = localtime(&t);
822   if(day > 0) {
823     delta_day = (7 + tm->tm_wday - day) % 7;
824   } else {
825     delta_day = - day;
826   }
827   return t - (delta_day * 3600 * 24 + tm->tm_sec + 60 * tm->tm_min + 3600 * tm->tm_hour);
828 }
829
830 void init_condition(struct search_condition *condition, const char *full_string,
831                     const char *default_search_field) {
832   char full_search_field[TOKEN_BUFFER_SIZE], *search_field;
833   unsigned int k, m;
834   const char *string;
835   struct alias_node *a;
836
837   for(a = global_alias_list; a; a = a->next) {
838     if(strcmp(full_string, a->alias) == 0) {
839       full_string = a->value;
840       break;
841     }
842   }
843
844   string = parse_token(full_search_field, TOKEN_BUFFER_SIZE, ' ', full_string);
845   search_field = full_search_field;
846
847   if(search_field[0] == '!') {
848     search_field++;
849     condition->negation = 1;
850   } else {
851     condition->negation = 0;
852   }
853
854   condition->db_key = -1;
855
856   /* Time condition */
857
858   for(k = 0; k < sizeof(time_criteria) / sizeof(struct time_criterion); k++) {
859     if(strcmp(time_criteria[k].label, search_field) == 0) {
860       condition->db_key = ID_TIME_INTERVAL;
861       if(time_criteria[k].day_criterion) {
862         condition->time_start = time_for_past_day(time_criteria[k].past_week_day);
863         condition->time_stop = condition->time_start + 3600 * 24;
864       } else {
865         condition->time_start = time(0) - 3600 * time_criteria[k].start_hour;
866         if(time_criteria[k].end_hour >= 0) {
867           condition->time_stop = time(0) - 3600 * time_criteria[k].end_hour;
868         } else {
869           condition->time_stop = 0;
870         }
871       }
872
873       break;
874     }
875   }
876
877   if(condition->db_key == -1) {
878
879     /* No time condition matched, look for the search fields */
880
881     for(m = 0; (m < MAX_ID) && condition->db_key == -1; m++) {
882       if(strncmp(field_keys[m], search_field, strlen(search_field)) == 0) {
883         condition->db_key = m;
884       }
885     }
886
887     /* None match, if there is a default search field, re-run the search with it */
888
889     if(condition->db_key == -1) {
890       if(default_search_field) {
891         for(m = 0; (m < MAX_ID) && condition->db_key == -1; m++) {
892           if(strncmp(field_keys[m],
893                      default_search_field, strlen(default_search_field)) == 0) {
894             condition->db_key = m;
895           }
896         }
897         string = full_string;
898         if(string[0] == '!') { string++; }
899       }
900     }
901
902     if(condition->db_key == -1) {
903       fprintf(stderr,
904               "mymail: Syntax error in field key \"%s\".\n",
905               search_field);
906       exit(EXIT_FAILURE);
907     }
908
909     if(regcomp(&condition->db_value_regexp,
910                string,
911                REG_ICASE)) {
912       fprintf(stderr,
913               "mymail: Syntax error in regexp \"%s\" for field \"%s\".\n",
914               string,
915               field_keys[condition->db_key]);
916       exit(EXIT_FAILURE);
917     }
918   }
919 }
920
921 void free_condition(struct search_condition *condition) {
922   if(condition->db_key != ID_TIME_INTERVAL) {
923     regfree(&condition->db_value_regexp);
924   }
925 }
926
927 const char *eat_space(const char *s) {
928   while(*s == ' ' || *s == '\t') { s++; }
929   return s;
930 }
931
932 void read_rc_file(const char *rc_filename) {
933   char raw_line[BUFFER_SIZE];
934   char command[TOKEN_BUFFER_SIZE], tmp_token[TOKEN_BUFFER_SIZE];
935
936   FILE *rc_file;
937   int line_number;
938   const char *s;
939   char *t;
940
941   rc_file = fopen(rc_filename, "r");
942
943   if(rc_file) {
944     line_number = 1;
945     while(fgets(raw_line, BUFFER_SIZE, rc_file)) {
946       t = raw_line;
947       while(*t) { if(*t == '\n') { *t = '\0'; }; t++; }
948
949       s = raw_line;
950       s = eat_space(s);
951
952       if(*s && *s != '#') {
953         s = parse_token(command, TOKEN_BUFFER_SIZE, ' ', s);
954
955         if(strcmp(command, "alias") == 0) {
956           struct alias_node *a = safe_malloc(sizeof(struct alias_node));
957           a->next = global_alias_list;
958           global_alias_list = a;
959           if(s) {
960             s = eat_space(s);
961             s = parse_token(tmp_token, TOKEN_BUFFER_SIZE, '=', s);
962             a->alias = strdup(tmp_token);
963             if(s) {
964               s = eat_space(s);
965               a->value = strdup(s);
966             } else {
967               fprintf(stderr, "%s:%d syntax error, missing alias value.\n",
968                       rc_filename,
969                       line_number);
970               exit(EXIT_FAILURE);
971             }
972           } else {
973             fprintf(stderr, "%s:%d syntax error, missing alias key.\n",
974                     rc_filename,
975                     line_number);
976             exit(EXIT_FAILURE);
977           }
978         } else {
979           fprintf(stderr, "%s:%d syntax error, unknown command '%s'.\n",
980                   rc_filename,
981                   line_number,
982                   command);
983           exit(EXIT_FAILURE);
984         }
985       }
986
987       line_number++;
988     }
989     fclose(rc_file);
990   }
991 }
992
993 /*********************************************************************/
994 /*********************************************************************/
995 /*********************************************************************/
996
997 int main(int argc, char **argv) {
998   char *db_filename = 0;
999   char *db_filename_regexp_string = 0;
1000   char *db_root_path = 0;
1001   char *db_filename_list = 0;
1002   char *mbox_filename_regexp_string = 0;
1003   char *default_search_field;
1004   char output_filename[PATH_MAX + 1];
1005   char rc_filename[PATH_MAX + 1];
1006   int action_index = 0;
1007   int error = 0, show_help = 0;
1008   const unsigned int nb_fields_to_parse =
1009     sizeof(fields_to_parse) / sizeof(struct parsable_field);
1010   char c;
1011   unsigned int f, n;
1012   unsigned int nb_search_conditions;
1013   struct search_condition search_conditions[MAX_NB_SEARCH_CONDITIONS];
1014   struct alias_node *a, *b;
1015
1016   if(regcomp(&global_leading_from_line_regexp, LEADING_FROM_LINE_REGEXP_STRING, 0)) {
1017     fprintf(stderr,
1018             "mymail: Cannot compile leading \"from\" line regexp. That is strange.\n");
1019     exit(EXIT_FAILURE);
1020   }
1021
1022   if(getenv("MYMAILRC")) {
1023     sprintf(rc_filename, "%s", getenv("MYMAILRC"));
1024   } else if(getenv("HOME")) {
1025     sprintf(rc_filename, "%s/.mymailrc", getenv("HOME"));
1026   } else {
1027     rc_filename[0] = '\0';
1028   }
1029
1030   global_alias_list = 0;
1031   global_quiet = 0;
1032   global_use_leading_time = 0;
1033   global_nb_mails_max = 250;
1034
1035   default_search_field = 0;
1036   strncpy(output_filename, "", PATH_MAX);
1037
1038   if(rc_filename[0]) {
1039     read_rc_file(rc_filename);
1040   }
1041
1042   /*
1043     {
1044     #warning Test code added on 2013 May 02 11:17:01
1045     struct alias_node *a;
1046     for(a = global_alias_list; a; a = a->next) {
1047     printf ("ALIAS [%s] [%s]\n", a->alias, a->value);
1048     }
1049     }
1050   */
1051
1052   setlocale(LC_ALL, "");
1053
1054   nb_search_conditions = 0;
1055
1056   while ((c = getopt_long(argc, argv, "hvqip:s:d:r:l:o:a:m:",
1057                           long_options, NULL)) != -1) {
1058
1059     switch(c) {
1060
1061     case 'h':
1062       show_help = 1;
1063       break;
1064
1065     case 'v':
1066       print_version(stdout);
1067       break;
1068
1069     case 'q':
1070       global_quiet = 1;
1071       break;
1072
1073     case 't':
1074       global_use_leading_time = 1;
1075       break;
1076
1077     case 'i':
1078       action_index = 1;
1079       break;
1080
1081     case 'd':
1082       if(db_filename) {
1083         fprintf(stderr, "mymail: Can not set the db filename twice.\n");
1084         exit(EXIT_FAILURE);
1085       }
1086       db_filename = strdup(optarg);
1087       break;
1088
1089     case 'p':
1090       if(db_filename_regexp_string) {
1091         fprintf(stderr, "mymail: Can not set the db filename pattern twice.\n");
1092         exit(EXIT_FAILURE);
1093       }
1094       db_filename_regexp_string = strdup(optarg);
1095       break;
1096
1097     case 'm':
1098       if(mbox_filename_regexp_string) {
1099         fprintf(stderr, "mymail: Can not set the mbox filename pattern twice.\n");
1100         exit(EXIT_FAILURE);
1101       }
1102       mbox_filename_regexp_string = strdup(optarg);
1103       break;
1104
1105     case 'o':
1106       strncpy(output_filename, optarg, PATH_MAX);
1107       break;
1108
1109     case 'r':
1110       if(db_root_path) {
1111         fprintf(stderr, "mymail: Can not set the db root path twice.\n");
1112         exit(EXIT_FAILURE);
1113       }
1114       db_root_path = strdup(optarg);
1115       break;
1116
1117     case 'l':
1118       if(db_filename_list) {
1119         fprintf(stderr, "mymail: Can not set the db filename list twice.\n");
1120         exit(EXIT_FAILURE);
1121       }
1122       db_filename_list = strdup(optarg);
1123       break;
1124
1125     case 's':
1126       if(nb_search_conditions == MAX_NB_SEARCH_CONDITIONS) {
1127         fprintf(stderr, "mymail: Too many search patterns.\n");
1128         exit(EXIT_FAILURE);
1129       }
1130       init_condition(&search_conditions[nb_search_conditions], optarg, default_search_field);
1131       nb_search_conditions++;
1132       break;
1133
1134     case 'a':
1135       default_search_field = optarg;
1136       break;
1137
1138     case 'n':
1139       global_nb_mails_max = atoi(optarg);
1140       break;
1141
1142     default:
1143       error = 1;
1144       break;
1145     }
1146   }
1147
1148   /* Set all the values that may defined in the arguments, through
1149      environment variables, or hard-coded */
1150
1151   db_filename = default_value(db_filename,
1152                               "MYMAIL_DB_FILE",
1153                               "mymail.db");
1154
1155   db_filename_regexp_string = default_value(db_filename_regexp_string,
1156                                             "MYMAIL_DB_FILE",
1157                                             "\\.db$");
1158
1159   db_root_path = default_value(db_root_path,
1160                                "MYMAIL_DB_ROOT",
1161                                0);
1162
1163   db_filename_list = default_value(db_filename_list,
1164                                    "MYMAIL_DB_LIST",
1165                                    0);
1166
1167   mbox_filename_regexp_string = default_value(mbox_filename_regexp_string,
1168                                               "MYMAIL_MBOX_PATTERN",
1169                                               0);
1170
1171   /* Start the processing */
1172
1173   if(error) {
1174     print_usage(stderr);
1175     exit(EXIT_FAILURE);
1176   }
1177
1178   if(show_help) {
1179     print_usage(stdout);
1180     exit(EXIT_SUCCESS);
1181   }
1182
1183   /* mbox indexing */
1184
1185   if(action_index) {
1186     FILE *db_file;
1187     regex_t mbox_filename_regexp_static;
1188     regex_t *mbox_filename_regexp;
1189
1190     if(mbox_filename_regexp_string) {
1191       if(regcomp(&mbox_filename_regexp_static,
1192                  mbox_filename_regexp_string,
1193                  0)) {
1194         fprintf(stderr,
1195                 "mymail: Syntax error in regexp \"%s\".\n",
1196                 mbox_filename_regexp_string);
1197         exit(EXIT_FAILURE);
1198       }
1199       mbox_filename_regexp = &mbox_filename_regexp_static;
1200     } else {
1201       mbox_filename_regexp = 0;
1202     }
1203
1204     db_file = safe_fopen(db_filename, "w", "index file for indexing");
1205
1206     for(f = 0; f < nb_fields_to_parse; f++) {
1207       if(regcomp(&fields_to_parse[f].regexp,
1208                  fields_to_parse[f].regexp_string,
1209                  fields_to_parse[f].cflags)) {
1210         fprintf(stderr,
1211                 "mymail: Syntax error in regexp \"%s\" for field \"%s\".\n",
1212                 fields_to_parse[f].regexp_string,
1213                 field_keys[fields_to_parse[f].id]);
1214         exit(EXIT_FAILURE);
1215       }
1216     }
1217
1218     fprintf(db_file,
1219             "%s version_%s format_%d raw\n",
1220             MYMAIL_DB_MAGIC_TOKEN,
1221             MYMAIL_VERSION,
1222             MYMAIL_DB_FORMAT_VERSION);
1223
1224     while(optind < argc) {
1225       recursive_index_mbox(db_file,
1226                            argv[optind], mbox_filename_regexp,
1227                            nb_fields_to_parse, fields_to_parse);
1228       optind++;
1229     }
1230
1231     fflush(db_file);
1232     fclose(db_file);
1233
1234     if(mbox_filename_regexp) {
1235       regfree(mbox_filename_regexp);
1236     }
1237
1238     for(f = 0; f < nb_fields_to_parse; f++) {
1239       regfree(&fields_to_parse[f].regexp);
1240     }
1241   }
1242
1243   /* Mail search */
1244
1245   else {
1246
1247     FILE *output_file;
1248     int nb_extracted_mails = 0;
1249
1250     if(output_filename[0]) {
1251       output_file = safe_fopen(output_filename, "w", "result mbox");
1252     } else {
1253       output_file = stdout;
1254       global_quiet = 1;
1255     }
1256
1257     if(nb_search_conditions > 0) {
1258
1259       /* Recursive search if db_root_path is set */
1260
1261       if(db_root_path) {
1262         regex_t db_filename_regexp;
1263         if(regcomp(&db_filename_regexp,
1264                    db_filename_regexp_string,
1265                    0)) {
1266           fprintf(stderr,
1267                   "mymail: Syntax error in regexp \"%s\".\n",
1268                   db_filename_regexp_string);
1269           exit(EXIT_FAILURE);
1270         }
1271
1272         nb_extracted_mails = recursive_search_in_db(db_root_path, &db_filename_regexp,
1273                                                     nb_extracted_mails,
1274                                                     nb_search_conditions, search_conditions,
1275                                                     output_file);
1276
1277         regfree(&db_filename_regexp);
1278       }
1279
1280       /* Search in all db files listed in db_filename_list */
1281
1282       if(db_filename_list) {
1283         char db_filename[PATH_MAX + 1];
1284         const char *s;
1285
1286         s = db_filename_list;
1287
1288         while(*s) {
1289           s = parse_token(db_filename, PATH_MAX + 1, ';', s);
1290
1291           if(db_filename[0]) {
1292             nb_extracted_mails =
1293               search_in_db(db_filename,
1294                            nb_extracted_mails,
1295                            nb_search_conditions, search_conditions, output_file);
1296           }
1297         }
1298       }
1299
1300       /* Search in all db files listed in the command arguments */
1301
1302       while(optind < argc) {
1303         nb_extracted_mails =
1304           search_in_db(argv[optind],
1305                        nb_extracted_mails,
1306                        nb_search_conditions, search_conditions, output_file);
1307         optind++;
1308       }
1309     }
1310
1311     if(!global_quiet) {
1312       if(nb_extracted_mails > 0) {
1313         printf("Found %d matching mails.\n", nb_extracted_mails);
1314       } else {
1315         printf("No matching mail found.\n");
1316       }
1317     }
1318
1319     fflush(output_file);
1320
1321     if(output_file != stdout) {
1322       fclose(output_file);
1323     }
1324   }
1325
1326   for(n = 0; n < nb_search_conditions; n++) {
1327     free_condition(&search_conditions[n]);
1328   }
1329
1330   a = global_alias_list;
1331   while(a) {
1332     b = a->next;
1333     free(a->alias);
1334     free(a->value);
1335     free(a);
1336     a = b;
1337   }
1338
1339   free(db_filename);
1340   free(db_filename_regexp_string);
1341   free(db_root_path);
1342   free(db_filename_list);
1343   free(mbox_filename_regexp_string);
1344
1345   regfree(&global_leading_from_line_regexp);
1346
1347   exit(EXIT_SUCCESS);
1348 }