mymail.c

   1
   2 /*
   3  *  Copyright (c) 2013 Francois Fleuret
   4  *  Written by Francois Fleuret <francois@fleuret.org>
   5  *
   6  *  This file is part of mymail.
   7  *
   8  *  mymail is free software: you can redistribute it and/or modify
   9  *  it under the terms of the GNU General Public License version 3 as
  10  *  published by the Free Software Foundation.
  11  *
  12  *  mymail is distributed in the hope that it will be useful, but
  13  *  WITHOUT ANY WARRANTY; without even the implied warranty of
  14  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  *  General Public License for more details.
  16  *
  17  *  You should have received a copy of the GNU General Public License
  18  *  along with mymail.  If not, see <http://www.gnu.org/licenses/>.
  19  *
  20  */
  21
  22 /*
  23
  24   This command is a dumb mail indexer. It can either (1) scan
  25   directories containing mbox files, and create a db file containing
  26   for each mail a list of fields computed from the header, or (2)
  27   read such a db file and get all the mails matching regexp-defined
  28   conditions on the fields, to create a resulting mbox file.
  29
  30   It is low-tech, simple, light and fast.
  31
  32 */
  33
  34 #define _GNU_SOURCE
  35
  36 #include <stdio.h>
  37 #include <stdlib.h>
  38 #include <string.h>
  39 #include <errno.h>
  40 #include <fcntl.h>
  41 #include <locale.h>
  42 #include <getopt.h>
  43 #include <limits.h>
  44 #include <dirent.h>
  45 #include <regex.h>
  46 #include <time.h>
  47
  48 #define MYMAIL_DB_MAGIC_TOKEN "mymail_index_file"
  49 #define MYMAIL_VERSION "0.9.9"
  50
  51 #define MYMAIL_DB_FORMAT_VERSION 1
  52
  53 #define MAX_NB_SEARCH_CONDITIONS 32
  54
  55 #define BUFFER_SIZE 65536
  56 #define TOKEN_BUFFER_SIZE 1024
  57
  58 #define LEADING_FROM_LINE_REGEXP_STRING "^From .*\\(Mon\\|Tue\\|Wed\\|Thu\\|Fri\\|Sat\\|Sun\\) \\(Jan\\|Feb\\|Mar\\|Apr\\|May\\|Jun\\|Jul\\|Aug\\|Sep\\|Oct\\|Nov\\|Dec\\) [ 0123][0-9] [0-9][0-9]:[0-9][0-9]:[0-9][0-9] [0-9][0-9][0-9][0-9]\n$"
  59
  60 /********************************************************************/
  61
  62 struct alias_node {
  63   char *alias, *value;
  64   struct alias_node *next;
  65 };
  66
  67 /* Global variables! */
  68
  69 int global_quiet;
  70 int global_use_leading_time;
  71 int global_nb_mails_max;
  72 regex_t global_leading_from_line_regexp;
  73 struct alias_node *global_alias_list;
  74
  75 /********************************************************************/
  76
  77 enum {
  78   ID_MAIL = 0,
  79   ID_LEADING_LINE,
  80   ID_FROM,
  81   ID_TO,
  82   ID_SUBJECT,
  83   ID_DATE,
  84   ID_PARTICIPANT,
  85   ID_BODY,
  86   ID_TIME_INTERVAL,
  87   /*
  88   ID_MAIL_ID,
  89   ID_REFERENCES,
  90   */
  91   MAX_ID
  92 };
  93
  94 static char *field_keys[] = {
  95   "mail",
  96   "lead",
  97   "from",
  98   "to",
  99   "subject",
 100   "date",
 101   "part",
 102   "body",
 103   "interval",
 104   /*
 105   "mailid",
 106   "references"
 107   */
 108 };
 109
 110 /********************************************************************/
 111
 112 struct search_condition {
 113   int db_key;
 114   regex_t db_value_regexp;
 115   int negation;
 116   time_t time_start, time_stop;
 117 };
 118
 119 /********************************************************************/
 120
 121 struct parsable_field {
 122   int id;
 123   int cflags;
 124   char *regexp_string;
 125   regex_t regexp;
 126 };
 127
 128 static struct parsable_field fields_to_parse[] = {
 129   {
 130     ID_LEADING_LINE,
 131     0,
 132     "^From ",
 133     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 134   },
 135
 136   {
 137     ID_FROM,
 138     REG_ICASE,
 139     "^\\(from\\|reply-to\\|sender\\|return-path\\): ",
 140     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 141   },
 142
 143   {
 144     ID_TO,
 145     REG_ICASE,
 146     "^\\(to\\|cc\\|bcc\\): ",
 147     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 148   },
 149
 150   {
 151     ID_SUBJECT,
 152     REG_ICASE,
 153     "^subject: ",
 154     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 155   },
 156
 157   {
 158     ID_DATE,
 159     REG_ICASE,
 160     "^date: ",
 161     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 162   },
 163
 164   /*
 165   {
 166     ID_MAIL_ID,
 167     REG_ICASE,
 168     "^message-id: ",
 169     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 170   },
 171
 172   {
 173     ID_REFERENCES,
 174     REG_ICASE,
 175     "^\\(in-reply-to\\|references\\): ",
 176     { 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0 }
 177   },
 178   */
 179
 180 };
 181
 182 /********************************************************************/
 183
 184 int xor(int a, int b) {
 185   return (a && !b) || (!a && b);
 186 }
 187
 188 const char *parse_token(char *token_buffer, size_t token_buffer_size,
 189                         char separator, const char *string) {
 190   char *u = token_buffer;
 191
 192   while(*string == separator) { string++; }
 193
 194   while(u < token_buffer + token_buffer_size - 1 && *string && *string != separator) {
 195     *(u++) = *(string++);
 196   }
 197
 198   while(*string == separator) { string++; }
 199
 200   *u = '\0';
 201   return string;
 202 }
 203
 204 char *default_value(char *current_value,
 205                     const char *env_variable,
 206                     const char *hard_default_value) {
 207   if(current_value) {
 208     return current_value;
 209   } else {
 210     char *env_value = getenv(env_variable);
 211     if(env_value) {
 212       return strdup(env_value);
 213     } else if(hard_default_value) {
 214       return strdup(hard_default_value);
 215     } else {
 216       return 0;
 217     }
 218   }
 219 }
 220
 221 /********************************************************************/
 222
 223 void *safe_malloc(size_t n) {
 224   void *p = malloc(n);
 225   if(!p && n != 0) {
 226     fprintf(stderr,
 227             "mymail: cannot allocate memory: %s\n", strerror(errno));
 228     exit(EXIT_FAILURE);
 229   }
 230   return p;
 231 }
 232
 233 FILE *safe_fopen(const char *path, const char *mode, const char *comment) {
 234   FILE *result = fopen(path, mode);
 235   if(result) {
 236     return result;
 237   } else {
 238     fprintf(stderr,
 239             "mymail: Cannot open file '%s' (%s) with mode \"%s\": %s\n",
 240             path, comment, mode,
 241             strerror(errno));
 242     exit(EXIT_FAILURE);
 243   }
 244 }
 245
 246 /*********************************************************************/
 247
 248 void print_version(FILE *out) {
 249   fprintf(out, "mymail version %s (%s)\n", MYMAIL_VERSION, UNAME);
 250 }
 251
 252 void print_usage(FILE *out) {
 253   print_version(out);
 254   fprintf(out, "Written by Francois Fleuret <francois@fleuret.org>.\n");
 255   fprintf(out, "\n");
 256   fprintf(out, "Usage: mymail [options] [<mbox dir1> [<mbox dir2> ...]|<db file1> [<db file2> ...]]\n");
 257   fprintf(out, "\n");
 258   fprintf(out, " -h, --help\n");
 259   fprintf(out, "         show this help\n");
 260   fprintf(out, " -v, --version\n");
 261   fprintf(out, "         print the version number\n");
 262   fprintf(out, " -q, --quiet\n");
 263   fprintf(out, "         do not print information during search\n");
 264   fprintf(out, " -t, --use-leading-time\n");
 265   fprintf(out, "         use the time stamp from the leading line of each mail and not the Date:\n");
 266   fprintf(out, "         field\n");
 267   fprintf(out, " -p <db filename pattern>, --db-pattern <db filename pattern>\n");
 268   fprintf(out, "         set the db filename pattern for recursive search\n");
 269   fprintf(out, " -r <db root path>, --db-root <db root path>\n");
 270   fprintf(out, "         set the db root path for recursive search\n");
 271   fprintf(out, " -l <db filename list>, --db-list <db filename list>\n");
 272   fprintf(out, "         set the semicolon-separated list of db files for search\n");
 273   fprintf(out, " -m <mbox filename pattern>, --mbox-pattern <mbox filename pattern>\n");
 274   fprintf(out, "         set the mbox filename pattern for recursive search\n");
 275   fprintf(out, " -s <search pattern>, --search <search pattern>\n");
 276   fprintf(out, "         search for matching mails in the db file\n");
 277   fprintf(out, " -d <db filename>, --db-file-output <db filename>\n");
 278   fprintf(out, "         set the db filename for indexing\n");
 279   fprintf(out, " -i, --index\n");
 280   fprintf(out, "         index mails\n");
 281   fprintf(out, " -o <output filename>, --output <output filename>\n");
 282   fprintf(out, "         set the result file, use stdout if unset\n");
 283   fprintf(out, " -n <max number of mails>, --nb-mails-max <max number of mails>\n");
 284   fprintf(out, "         set the maximum number of mails to extract\n");
 285   fprintf(out, " -a <search field>, --default-search <search field>\n");
 286   fprintf(out, "         set the default search field\n");
 287 }
 288
 289 /*********************************************************************/
 290
 291 int ignore_entry(const char *name) {
 292   return
 293     strcmp(name, ".") == 0 ||
 294     strcmp(name, "..") == 0 ||
 295     (name[0] == '.' && name[1] != '/');
 296 }
 297
 298 int is_a_leading_from_line(char *mbox_line) {
 299   return
 300     strncmp(mbox_line, "From ", 5) == 0 &&
 301     regexec(&global_leading_from_line_regexp, mbox_line, 0, 0, 0) == 0;
 302 }
 303
 304 int db_line_match_search(struct search_condition *condition,
 305                          int db_key, const char *db_value) {
 306
 307   return
 308     (
 309      (condition->db_key == db_key)
 310
 311      ||
 312
 313      (condition->db_key == ID_PARTICIPANT && (db_key == ID_LEADING_LINE ||
 314                                               db_key == ID_FROM ||
 315                                               db_key == ID_TO))
 316      ||
 317
 318      (condition->db_key == ID_FROM && db_key == ID_LEADING_LINE)
 319
 320      )
 321
 322     &&
 323
 324     regexec(&condition->db_value_regexp, db_value, 0, 0, 0) == 0;
 325 }
 326
 327 void update_body_hits(char *mail_filename, int position_in_mail,
 328                       int nb_search_conditions, struct search_condition *search_conditions,
 329                       int nb_body_conditions,
 330                       int *hits) {
 331   FILE *mail_file;
 332   int header, n;
 333   char raw_mbox_line[BUFFER_SIZE];
 334   int nb_body_hits;
 335
 336   nb_body_hits = 0;
 337
 338   header = 1;
 339   mail_file = safe_fopen(mail_filename, "r", "mbox for body scan");
 340
 341   fseek(mail_file, position_in_mail, SEEK_SET);
 342
 343   if(fgets(raw_mbox_line, BUFFER_SIZE, mail_file)) {
 344     while(nb_body_hits < nb_body_conditions) {
 345       if(raw_mbox_line[0] == '\n') { header = 0; }
 346
 347       if(!header) {
 348         for(n = 0; n < nb_search_conditions; n++) {
 349           if(search_conditions[n].db_key == ID_BODY && !hits[n]) {
 350             hits[n] =
 351               (regexec(&search_conditions[n].db_value_regexp, raw_mbox_line, 0, 0, 0) == 0);
 352             if(hits[n]) {
 353               nb_body_hits++;
 354             }
 355           }
 356         }
 357       }
 358
 359       if(!fgets(raw_mbox_line, BUFFER_SIZE, mail_file) ||
 360          (is_a_leading_from_line(raw_mbox_line)))
 361         break;
 362     }
 363   }
 364
 365   fclose(mail_file);
 366 }
 367
 368 void extract_mail(const char *mail_filename, unsigned long int position_in_mail,
 369                   FILE *output_file) {
 370   char raw_mbox_line[BUFFER_SIZE];
 371   FILE *mail_file;
 372
 373   /* printf("Extract\n"); */
 374
 375   mail_file = safe_fopen(mail_filename, "r", "mbox for mail extraction");
 376   fseek(mail_file, position_in_mail, SEEK_SET);
 377
 378   if(fgets(raw_mbox_line, BUFFER_SIZE, mail_file)) {
 379     fprintf(output_file, "%s", raw_mbox_line);
 380     while(1) {
 381       if(!fgets(raw_mbox_line, BUFFER_SIZE, mail_file) ||
 382          is_a_leading_from_line(raw_mbox_line))
 383         break;
 384       fprintf(output_file, "%s", raw_mbox_line);
 385     }
 386   }
 387
 388   fclose(mail_file);
 389 }
 390
 391 int check_full_mail_match(char *current_mail_filename,
 392                           time_t mail_time,
 393                           int nb_search_conditions,
 394                           struct search_condition *search_conditions,
 395                           int nb_body_conditions,
 396                           int *hits,
 397                           int current_position_in_mail) {
 398   int n, nb_fulfilled_body_conditions;
 399
 400   for(n = 0; n < nb_search_conditions; n++) {
 401     if(search_conditions[n].db_key == ID_TIME_INTERVAL) {
 402       hits[n] = (mail_time >= search_conditions[n].time_start &&
 403                  (search_conditions[n].time_stop == 0 ||
 404                   mail_time <= search_conditions[n].time_stop));
 405     }
 406   }
 407
 408   /* We first check all conditions but the body ones */
 409
 410   for(n = 0; n < nb_search_conditions &&
 411         ((search_conditions[n].db_key == ID_BODY) ||
 412          xor(hits[n], search_conditions[n].negation)); n++);
 413
 414   if(n == nb_search_conditions) {
 415
 416     /* Now check the body ones */
 417
 418     nb_fulfilled_body_conditions = 0;
 419
 420     if(nb_body_conditions > 0) {
 421       update_body_hits(current_mail_filename, current_position_in_mail,
 422                        nb_search_conditions, search_conditions,
 423                        nb_body_conditions,
 424                        hits);
 425
 426       for(n = 0; n < nb_search_conditions; n++) {
 427         if(search_conditions[n].db_key == ID_BODY &&
 428            xor(hits[n], search_conditions[n].negation)) {
 429           nb_fulfilled_body_conditions++;
 430         }
 431       }
 432     }
 433     return nb_body_conditions == nb_fulfilled_body_conditions;
 434   } else {
 435     return 0;
 436   }
 437 }
 438
 439 /* We use the mail leading line time by default, and if we should and
 440    can, we update with the Date: field */
 441
 442 void update_time(int db_key, const char *db_value, time_t *t) {
 443   const char *c;
 444   struct tm tm;
 445
 446   memset(&tm, 0, sizeof(struct tm));
 447
 448   if(db_key == ID_LEADING_LINE) {
 449     c = db_value;
 450     while(*c && *c != ' ') c++; while(*c && *c == ' ') c++;
 451     /* printf("From %s", db_value); */
 452     strptime(c, "%a %b %e %k:%M:%S %Y", &tm);
 453     *t = mktime(&tm);
 454   } else {
 455     if(!global_use_leading_time) {
 456       if(db_key == ID_DATE) {
 457         if(strptime(db_value, "%a, %d %b %Y %k:%M:%S", &tm) ||
 458            strptime(db_value, "%d %b %Y %k:%M:%S", &tm)) {
 459           /* printf("Date: %s", db_value); */
 460           *t = mktime(&tm);
 461         }
 462       }
 463     }
 464   }
 465 }
 466
 467 int search_in_db(const char *db_filename,
 468                  int nb_extracted_mails,
 469                  int nb_search_conditions,
 470                  struct search_condition *search_conditions,
 471                  FILE *output_file) {
 472
 473   FILE *db_file;
 474   char raw_db_line[BUFFER_SIZE];
 475   char current_mail_filename[PATH_MAX + 1];
 476   char db_key_string[TOKEN_BUFFER_SIZE];
 477   char position_in_file_string[TOKEN_BUFFER_SIZE];
 478   unsigned long int current_position_in_mail;
 479   const char *db_value;
 480   int db_key;
 481   int hits[MAX_NB_SEARCH_CONDITIONS];
 482   int nb_body_conditions, need_time;
 483   time_t mail_time;
 484
 485   int m, n;
 486
 487   if(!global_quiet) {
 488     printf("Searching in '%s' ... ", db_filename);
 489     fflush(stdout);
 490   }
 491
 492   db_file = safe_fopen(db_filename, "r", "index file for search");
 493
 494   /* First, check the db file leading line integrity */
 495
 496   if(fgets(raw_db_line, BUFFER_SIZE, db_file)) {
 497     if(strncmp(raw_db_line, MYMAIL_DB_MAGIC_TOKEN, strlen(MYMAIL_DB_MAGIC_TOKEN))) {
 498       fprintf(stderr,
 499               "mymail: Header line in '%s' does not match the mymail db format.\n",
 500               db_filename);
 501       exit(EXIT_FAILURE);
 502     }
 503   } else {
 504     fprintf(stderr,
 505             "mymail: Cannot read the header line in '%s'.\n",
 506             db_filename);
 507     exit(EXIT_FAILURE);
 508   }
 509
 510   /* Then parse the said db file */
 511
 512   current_position_in_mail = 0;
 513
 514   for(n = 0; n < nb_search_conditions; n++) { hits[n] = 0; }
 515
 516   nb_body_conditions = 0;
 517   need_time = 0;
 518   mail_time = 0;
 519
 520   for(n = 0; n < nb_search_conditions; n++) {
 521     if(search_conditions[n].db_key == ID_BODY) {
 522       nb_body_conditions++;
 523     }
 524     else if(search_conditions[n].db_key == ID_TIME_INTERVAL) {
 525       need_time = 1;
 526     }
 527   }
 528
 529   strcpy(current_mail_filename, "");
 530
 531   while(nb_extracted_mails < global_nb_mails_max &&
 532         fgets(raw_db_line, BUFFER_SIZE, db_file)) {
 533
 534     /* Removes the CR */
 535     char *s = raw_db_line;
 536     while(*s && *s != '\n') { s++; }
 537     *s = '\0';
 538
 539     db_value = parse_token(db_key_string, TOKEN_BUFFER_SIZE, ' ', raw_db_line);
 540
 541     if(strcmp("mail", db_key_string) == 0) {
 542       if(current_mail_filename[0]) {
 543         if(check_full_mail_match(current_mail_filename,
 544                                  mail_time,
 545                                  nb_search_conditions, search_conditions,
 546                                  nb_body_conditions, hits, current_position_in_mail)) {
 547           extract_mail(current_mail_filename, current_position_in_mail, output_file);
 548           nb_extracted_mails++;
 549         }
 550       }
 551
 552       for(n = 0; n < nb_search_conditions; n++) { hits[n] = 0; }
 553       db_value = parse_token(position_in_file_string, TOKEN_BUFFER_SIZE, ' ', db_value);
 554       strncpy(current_mail_filename, db_value, PATH_MAX + 1);
 555       current_position_in_mail = atol(position_in_file_string);
 556     }
 557
 558     else {
 559       db_key = -1;
 560       for(m = 0; (m < MAX_ID) && db_key == -1; m++) {
 561         if(strncmp(field_keys[m], db_key_string, strlen(db_key_string)) == 0) {
 562           db_key = m;
 563         }
 564       }
 565
 566       for(n = 0; n < nb_search_conditions; n++) {
 567         hits[n] |= db_line_match_search(&search_conditions[n],
 568                                         db_key, db_value);
 569       }
 570
 571       if(need_time) {
 572         update_time(db_key, db_value, &mail_time);
 573       }
 574     }
 575   }
 576
 577   if(nb_extracted_mails < global_nb_mails_max &&
 578      current_mail_filename[0] &&
 579      check_full_mail_match(current_mail_filename,
 580                            mail_time,
 581                            nb_search_conditions, search_conditions,
 582                            nb_body_conditions, hits, current_position_in_mail)) {
 583     extract_mail(current_mail_filename, current_position_in_mail, output_file);
 584     nb_extracted_mails++;
 585   }
 586
 587   fclose(db_file);
 588
 589   if(!global_quiet) {
 590     printf("done.\n");
 591     fflush(stdout);
 592   }
 593
 594   return nb_extracted_mails;
 595 }
 596
 597 int recursive_search_in_db(const char *entry_name, regex_t *db_filename_regexp,
 598                            int nb_extracted_mails,
 599                            int nb_search_conditions,
 600                            struct search_condition *search_conditions,
 601                            FILE *output_file) {
 602   DIR *dir;
 603   struct dirent *dir_e;
 604   struct stat sb;
 605   char subname[PATH_MAX + 1];
 606
 607   if(lstat(entry_name, &sb) != 0) {
 608     fprintf(stderr,
 609             "mymail: Cannot stat \"%s\": %s\n",
 610             entry_name,
 611             strerror(errno));
 612     exit(EXIT_FAILURE);
 613   }
 614
 615   /* printf("recursive_search_in_db %s\n", entry_name); */
 616
 617   dir = opendir(entry_name);
 618
 619   if(dir) {
 620     while((dir_e = readdir(dir)) &&
 621           nb_extracted_mails < global_nb_mails_max) {
 622       if(!ignore_entry(dir_e->d_name)) {
 623         snprintf(subname, PATH_MAX, "%s/%s", entry_name, dir_e->d_name);
 624         nb_extracted_mails = recursive_search_in_db(subname, db_filename_regexp,
 625                                                     nb_extracted_mails,
 626                                                     nb_search_conditions, search_conditions,
 627                                                     output_file);
 628       }
 629     }
 630     closedir(dir);
 631   }
 632
 633   else {
 634     const char *s = entry_name, *filename = entry_name;
 635     while(*s) { if(*s == '/') { filename = s+1; } s++; }
 636
 637     if(regexec(db_filename_regexp, filename, 0, 0, 0) == 0) {
 638       nb_extracted_mails =
 639         search_in_db(entry_name,
 640                      nb_extracted_mails,
 641                      nb_search_conditions, search_conditions, output_file);
 642     }
 643   }
 644
 645   return nb_extracted_mails;
 646 }
 647
 648 /*********************************************************************/
 649
 650 void index_one_mbox_line(unsigned int nb_fields_to_parse,
 651                          struct parsable_field *fields_to_parse,
 652                          char *raw_mbox_line, FILE *db_file) {
 653   regmatch_t matches;
 654   unsigned int f;
 655   for(f = 0; f < nb_fields_to_parse; f++) {
 656     if(regexec(&fields_to_parse[f].regexp, raw_mbox_line, 1, &matches, 0) == 0) {
 657       fprintf(db_file, "%s %s\n",
 658               field_keys[fields_to_parse[f].id],
 659               raw_mbox_line + matches.rm_eo);
 660     }
 661   }
 662 }
 663
 664 void index_mbox(const char *mbox_filename,
 665                 int nb_fields_to_parse, struct parsable_field *fields_to_parse,
 666                 FILE *db_file) {
 667   char raw_mbox_line[BUFFER_SIZE], full_line[BUFFER_SIZE];
 668   char *end_of_full_line;
 669   FILE *file;
 670   int in_header, new_header;
 671   unsigned long int position_in_file;
 672
 673   file = safe_fopen(mbox_filename, "r", "mbox for indexing");
 674
 675   in_header = 0;
 676   new_header = 0;
 677
 678   position_in_file = 0;
 679   end_of_full_line = 0;
 680   full_line[0] = '\0';
 681
 682   while(fgets(raw_mbox_line, BUFFER_SIZE, file)) {
 683     if(is_a_leading_from_line(raw_mbox_line)) {
 684       /* This starts a new mail */
 685       if(in_header) {
 686         fprintf(stderr,
 687                 "Got a ^\"From \" in the header in %s:%lu.\n",
 688                 mbox_filename, position_in_file);
 689         fprintf(stderr, "%s", raw_mbox_line);
 690       }
 691
 692       /* printf("LEADING_LINE %s", raw_mbox_line); */
 693
 694       in_header = 1;
 695       new_header = 1;
 696     } else if(raw_mbox_line[0] == '\n') {
 697       if(in_header) {
 698         in_header = 0;
 699         /* We leave the header, index the current line */
 700         if(full_line[0]) {
 701           /* printf("INDEX %s\n", full_line); */
 702           index_one_mbox_line(nb_fields_to_parse, fields_to_parse, full_line, db_file);
 703         }
 704         end_of_full_line = full_line;
 705         *end_of_full_line = '\0';
 706       }
 707     }
 708
 709     if(in_header) {
 710       if(new_header) {
 711         fprintf(db_file, "mail %lu %s\n", position_in_file, mbox_filename);
 712         new_header = 0;
 713       }
 714
 715       if(raw_mbox_line[0] == ' ' || raw_mbox_line[0] == '\t') {
 716         /* Continuation of a line */
 717         char *start = raw_mbox_line;
 718         while(*start == ' ' || *start == '\t') start++;
 719         *(end_of_full_line++) = ' ';
 720         strcpy(end_of_full_line, start);
 721         while(*end_of_full_line && *end_of_full_line != '\n') {
 722           end_of_full_line++;
 723         }
 724         *end_of_full_line = '\0';
 725       }
 726
 727       else {
 728         /* Start a new header line, not a continuation */
 729
 730         if(full_line[0]) {
 731           /* printf("INDEX %s\n", full_line); */
 732           index_one_mbox_line(nb_fields_to_parse, fields_to_parse, full_line, db_file);
 733         }
 734
 735         end_of_full_line = full_line;
 736         strcpy(end_of_full_line, raw_mbox_line);
 737         while(*end_of_full_line && *end_of_full_line != '\n') {
 738           end_of_full_line++;
 739         }
 740         *end_of_full_line = '\0';
 741       }
 742
 743     }
 744
 745     position_in_file += strlen(raw_mbox_line);
 746   }
 747
 748   fclose(file);
 749 }
 750
 751 void recursive_index_mbox(FILE *db_file,
 752                           const char *entry_name, regex_t *mbox_filename_regexp,
 753                           int nb_fields_to_parse, struct parsable_field *fields_to_parse) {
 754   DIR *dir;
 755   struct dirent *dir_e;
 756   struct stat sb;
 757   char subname[PATH_MAX + 1];
 758
 759   if(lstat(entry_name, &sb) != 0) {
 760     fprintf(stderr,
 761             "mymail: Cannot stat \"%s\": %s\n",
 762             entry_name,
 763             strerror(errno));
 764     exit(EXIT_FAILURE);
 765   }
 766
 767   dir = opendir(entry_name);
 768
 769   if(dir) {
 770     while((dir_e = readdir(dir))) {
 771       if(!ignore_entry(dir_e->d_name)) {
 772         snprintf(subname, PATH_MAX, "%s/%s", entry_name, dir_e->d_name);
 773         recursive_index_mbox(db_file, subname, mbox_filename_regexp,
 774                              nb_fields_to_parse, fields_to_parse);
 775       }
 776     }
 777     closedir(dir);
 778   } else {
 779     const char *s = entry_name, *filename = s;
 780     while(*s) { if(*s == '/') { filename = s+1; }; s++; }
 781     if(!mbox_filename_regexp || regexec(mbox_filename_regexp, filename, 0, 0, 0) == 0) {
 782       index_mbox(entry_name, nb_fields_to_parse, fields_to_parse, db_file);
 783     }
 784   }
 785 }
 786
 787 /*********************************************************************/
 788
 789 /* For long options that have no equivalent short option, use a
 790    non-character as a pseudo short option, starting with CHAR_MAX + 1.  */
 791 enum {
 792   OPT_BASH_MODE = CHAR_MAX + 1
 793 };
 794
 795 static struct option long_options[] = {
 796   { "help", no_argument, 0, 'h' },
 797   { "version", no_argument, 0, 'v' },
 798   { "quiet", no_argument, 0, 'q' },
 799   { "use-leading-time", no_argument, 0, 't' },
 800   { "db-file-output", 1, 0, 'd' },
 801   { "db-pattern", 1, 0, 'p' },
 802   { "db-root", 1, 0, 'r' },
 803   { "db-list", 1, 0, 'l' },
 804   { "mbox-pattern", 1, 0, 'm' },
 805   { "search", 1, 0, 's' },
 806   { "index", 0, 0, 'i' },
 807   { "output", 1, 0, 'o' },
 808   { "default-search", 1, 0, 'a' },
 809   { "nb-mails-max", 1, 0, 'n' },
 810   { 0, 0, 0, 0 }
 811 };
 812
 813 struct time_criterion {
 814   char *label;
 815   int day_criterion;
 816   int start_hour, end_hour;
 817   int past_week_day;
 818 };
 819
 820 /*********************************************************************/
 821
 822 static struct time_criterion time_criteria[] = {
 823
 824   { "8h",        0,  8,       -1, -1 },
 825   { "24h",       0, 24,       -1, -1 },
 826   { "48h",       0, 48,       -1, -1 },
 827   { "week",      0, 24 *   7, -1, -1 },
 828   { "month",     0, 24 *  31, -1, -1 },
 829   { "trimester", 0, 24 *  92, -1, -1 },
 830   { "year",      0, 24 * 365, -1, -1 },
 831
 832   { "yesterday", 1, -1,       -1, -1 },
 833   { "today",     1, -1,       -1,  0 },
 834
 835   { "monday",    1, -1,       -1,  1 },
 836   { "tuesday",   1, -1,       -1,  2 },
 837   { "wednesday", 1, -1,       -1,  3 },
 838   { "thursday",  1, -1,       -1,  4 },
 839   { "friday",    1, -1,       -1,  5 },
 840   { "saturday",  1, -1,       -1,  6 },
 841   { "sunday",    1, -1,       -1,  7 },
 842
 843 };
 844
 845 /*********************************************************************/
 846
 847 time_t time_for_past_day(int day) {
 848   time_t t;
 849   struct tm *tm;
 850   int delta_day;
 851   t = time(0);
 852   tm = localtime(&t);
 853   if(day > 0) {
 854     delta_day = (7 + tm->tm_wday - day) % 7;
 855   } else {
 856     delta_day = - day;
 857   }
 858   return t - (delta_day * 3600 * 24 + tm->tm_sec + 60 * tm->tm_min + 3600 * tm->tm_hour);
 859 }
 860
 861 void init_condition(struct search_condition *condition, const char *full_string,
 862                     const char *default_search_field) {
 863   char full_search_field[TOKEN_BUFFER_SIZE], *search_field;
 864   unsigned int k, m;
 865   const char *string;
 866   struct alias_node *a;
 867
 868   for(a = global_alias_list; a; a = a->next) {
 869     if(strcmp(full_string, a->alias) == 0) {
 870       full_string = a->value;
 871       break;
 872     }
 873   }
 874
 875   string = parse_token(full_search_field, TOKEN_BUFFER_SIZE, ' ', full_string);
 876   search_field = full_search_field;
 877
 878   if(search_field[0] == '!') {
 879     search_field++;
 880     condition->negation = 1;
 881   } else {
 882     condition->negation = 0;
 883   }
 884
 885   condition->db_key = -1;
 886
 887   /* Time condition */
 888
 889   for(k = 0; k < sizeof(time_criteria) / sizeof(struct time_criterion); k++) {
 890     if(strcmp(time_criteria[k].label, search_field) == 0) {
 891       condition->db_key = ID_TIME_INTERVAL;
 892       if(time_criteria[k].day_criterion) {
 893         condition->time_start = time_for_past_day(time_criteria[k].past_week_day);
 894         condition->time_stop = condition->time_start + 3600 * 24;
 895       } else {
 896         condition->time_start = time(0) - 3600 * time_criteria[k].start_hour;
 897         if(time_criteria[k].end_hour >= 0) {
 898           condition->time_stop = time(0) - 3600 * time_criteria[k].end_hour;
 899         } else {
 900           condition->time_stop = 0;
 901         }
 902       }
 903
 904       break;
 905     }
 906   }
 907
 908   if(condition->db_key == -1) {
 909
 910     /* No time condition matched, look for the search fields */
 911
 912     for(m = 0; (m < MAX_ID) && condition->db_key == -1; m++) {
 913       if(strncmp(field_keys[m], search_field, strlen(search_field)) == 0) {
 914         condition->db_key = m;
 915       }
 916     }
 917
 918     /* None match, if there is a default search field, re-run the search with it */
 919
 920     if(condition->db_key == -1) {
 921       if(default_search_field) {
 922         for(m = 0; (m < MAX_ID) && condition->db_key == -1; m++) {
 923           if(strncmp(field_keys[m],
 924                      default_search_field, strlen(default_search_field)) == 0) {
 925             condition->db_key = m;
 926           }
 927         }
 928         string = full_string;
 929         if(string[0] == '!') { string++; }
 930       }
 931     }
 932
 933     if(condition->db_key == -1) {
 934       fprintf(stderr,
 935               "mymail: Syntax error in field key \"%s\".\n",
 936               search_field);
 937       exit(EXIT_FAILURE);
 938     }
 939
 940     if(regcomp(&condition->db_value_regexp,
 941                string,
 942                REG_ICASE)) {
 943       fprintf(stderr,
 944               "mymail: Syntax error in regexp \"%s\" for field \"%s\".\n",
 945               string,
 946               field_keys[condition->db_key]);
 947       exit(EXIT_FAILURE);
 948     }
 949   }
 950 }
 951
 952 void free_condition(struct search_condition *condition) {
 953   if(condition->db_key != ID_TIME_INTERVAL) {
 954     regfree(&condition->db_value_regexp);
 955   }
 956 }
 957
 958 const char *eat_space(const char *s) {
 959   while(*s == ' ' || *s == '\t') { s++; }
 960   return s;
 961 }
 962
 963 void read_rc_file(const char *rc_filename) {
 964   char raw_line[BUFFER_SIZE];
 965   char command[TOKEN_BUFFER_SIZE], tmp_token[TOKEN_BUFFER_SIZE];
 966
 967   FILE *rc_file;
 968   int line_number;
 969   const char *s;
 970   char *t;
 971
 972   rc_file = fopen(rc_filename, "r");
 973
 974   if(rc_file) {
 975     line_number = 1;
 976     while(fgets(raw_line, BUFFER_SIZE, rc_file)) {
 977       t = raw_line;
 978       while(*t) { if(*t == '\n') { *t = '\0'; }; t++; }
 979
 980       s = raw_line;
 981       s = eat_space(s);
 982
 983       if(*s && *s != '#') {
 984         s = parse_token(command, TOKEN_BUFFER_SIZE, ' ', s);
 985
 986         if(strcmp(command, "alias") == 0) {
 987           struct alias_node *a = safe_malloc(sizeof(struct alias_node));
 988           a->next = global_alias_list;
 989           global_alias_list = a;
 990           if(s) {
 991             s = eat_space(s);
 992             s = parse_token(tmp_token, TOKEN_BUFFER_SIZE, '=', s);
 993             a->alias = strdup(tmp_token);
 994             if(s) {
 995               s = eat_space(s);
 996               a->value = strdup(s);
 997             } else {
 998               fprintf(stderr, "%s:%d syntax error, missing alias value.\n",
 999                       rc_filename,
1000                       line_number);
1001               exit(EXIT_FAILURE);
1002             }
1003           } else {
1004             fprintf(stderr, "%s:%d syntax error, missing alias key.\n",
1005                     rc_filename,
1006                     line_number);
1007             exit(EXIT_FAILURE);
1008           }
1009         } else {
1010           fprintf(stderr, "%s:%d syntax error, unknown command '%s'.\n",
1011                   rc_filename,
1012                   line_number,
1013                   command);
1014           exit(EXIT_FAILURE);
1015         }
1016       }
1017
1018       line_number++;
1019     }
1020     fclose(rc_file);
1021   }
1022 }
1023
1024 /*********************************************************************/
1025 /*********************************************************************/
1026 /*********************************************************************/
1027
1028 int main(int argc, char **argv) {
1029   char *db_filename = 0;
1030   char *db_filename_regexp_string = 0;
1031   char *db_root_path = 0;
1032   char *db_filename_list = 0;
1033   char *mbox_filename_regexp_string = 0;
1034   char *default_search_field;
1035   char output_filename[PATH_MAX + 1];
1036   char rc_filename[PATH_MAX + 1];
1037   int action_index = 0;
1038   int error = 0, show_help = 0;
1039   const unsigned int nb_fields_to_parse =
1040     sizeof(fields_to_parse) / sizeof(struct parsable_field);
1041   char c;
1042   unsigned int f, n;
1043   unsigned int nb_search_conditions;
1044   struct search_condition search_conditions[MAX_NB_SEARCH_CONDITIONS];
1045   struct alias_node *a, *b;
1046
1047   if(regcomp(&global_leading_from_line_regexp, LEADING_FROM_LINE_REGEXP_STRING, 0)) {
1048     fprintf(stderr,
1049             "mymail: Cannot compile leading \"from\" line regexp. That is strange.\n");
1050     exit(EXIT_FAILURE);
1051   }
1052
1053   if(getenv("MYMAILRC")) {
1054     sprintf(rc_filename, "%s", getenv("MYMAILRC"));
1055   } else if(getenv("HOME")) {
1056     sprintf(rc_filename, "%s/.mymailrc", getenv("HOME"));
1057   } else {
1058     rc_filename[0] = '\0';
1059   }
1060
1061   global_alias_list = 0;
1062   global_quiet = 0;
1063   global_use_leading_time = 0;
1064   global_nb_mails_max = 250;
1065
1066   default_search_field = 0;
1067   strncpy(output_filename, "", PATH_MAX);
1068
1069   if(rc_filename[0]) {
1070     read_rc_file(rc_filename);
1071   }
1072
1073   /*
1074     {
1075     #warning Test code added on 2013 May 02 11:17:01
1076     struct alias_node *a;
1077     for(a = global_alias_list; a; a = a->next) {
1078     printf ("ALIAS [%s] [%s]\n", a->alias, a->value);
1079     }
1080     }
1081   */
1082
1083   setlocale(LC_ALL, "");
1084
1085   nb_search_conditions = 0;
1086
1087   while ((c = getopt_long(argc, argv, "hvqip:s:d:r:l:o:a:m:",
1088                           long_options, NULL)) != -1) {
1089
1090     switch(c) {
1091
1092     case 'h':
1093       show_help = 1;
1094       break;
1095
1096     case 'v':
1097       print_version(stdout);
1098       break;
1099
1100     case 'q':
1101       global_quiet = 1;
1102       break;
1103
1104     case 't':
1105       global_use_leading_time = 1;
1106       break;
1107
1108     case 'i':
1109       action_index = 1;
1110       break;
1111
1112     case 'd':
1113       if(db_filename) {
1114         fprintf(stderr, "mymail: Can not set the db filename twice.\n");
1115         exit(EXIT_FAILURE);
1116       }
1117       db_filename = strdup(optarg);
1118       break;
1119
1120     case 'p':
1121       if(db_filename_regexp_string) {
1122         fprintf(stderr, "mymail: Can not set the db filename pattern twice.\n");
1123         exit(EXIT_FAILURE);
1124       }
1125       db_filename_regexp_string = strdup(optarg);
1126       break;
1127
1128     case 'm':
1129       if(mbox_filename_regexp_string) {
1130         fprintf(stderr, "mymail: Can not set the mbox filename pattern twice.\n");
1131         exit(EXIT_FAILURE);
1132       }
1133       mbox_filename_regexp_string = strdup(optarg);
1134       break;
1135
1136     case 'o':
1137       strncpy(output_filename, optarg, PATH_MAX);
1138       break;
1139
1140     case 'r':
1141       if(db_root_path) {
1142         fprintf(stderr, "mymail: Can not set the db root path twice.\n");
1143         exit(EXIT_FAILURE);
1144       }
1145       db_root_path = strdup(optarg);
1146       break;
1147
1148     case 'l':
1149       if(db_filename_list) {
1150         fprintf(stderr, "mymail: Can not set the db filename list twice.\n");
1151         exit(EXIT_FAILURE);
1152       }
1153       db_filename_list = strdup(optarg);
1154       break;
1155
1156     case 's':
1157       if(nb_search_conditions == MAX_NB_SEARCH_CONDITIONS) {
1158         fprintf(stderr, "mymail: Too many search patterns.\n");
1159         exit(EXIT_FAILURE);
1160       }
1161       init_condition(&search_conditions[nb_search_conditions], optarg, default_search_field);
1162       nb_search_conditions++;
1163       break;
1164
1165     case 'a':
1166       default_search_field = optarg;
1167       break;
1168
1169     case 'n':
1170       global_nb_mails_max = atoi(optarg);
1171       break;
1172
1173     default:
1174       error = 1;
1175       break;
1176     }
1177   }
1178
1179   if(error) {
1180     print_usage(stderr);
1181     exit(EXIT_FAILURE);
1182   }
1183
1184   if(show_help) {
1185     print_usage(stdout);
1186     exit(EXIT_SUCCESS);
1187   }
1188
1189   /* Set all the values that may defined in the arguments, through
1190      environment variables, or hard-coded */
1191
1192   db_filename = default_value(db_filename,
1193                               "MYMAIL_DB_FILE",
1194                               "mymail.db");
1195
1196   db_filename_regexp_string = default_value(db_filename_regexp_string,
1197                                             "MYMAIL_DB_FILE",
1198                                             "\\.db$");
1199
1200   db_root_path = default_value(db_root_path,
1201                                "MYMAIL_DB_ROOT",
1202                                0);
1203
1204   db_filename_list = default_value(db_filename_list,
1205                                    "MYMAIL_DB_LIST",
1206                                    0);
1207
1208   mbox_filename_regexp_string = default_value(mbox_filename_regexp_string,
1209                                               "MYMAIL_MBOX_PATTERN",
1210                                               0);
1211
1212   /* mbox indexing */
1213
1214   if(action_index) {
1215     FILE *db_file;
1216     regex_t mbox_filename_regexp_static;
1217     regex_t *mbox_filename_regexp;
1218
1219     if(mbox_filename_regexp_string) {
1220       if(regcomp(&mbox_filename_regexp_static,
1221                  mbox_filename_regexp_string,
1222                  0)) {
1223         fprintf(stderr,
1224                 "mymail: Syntax error in regexp \"%s\".\n",
1225                 mbox_filename_regexp_string);
1226         exit(EXIT_FAILURE);
1227       }
1228       mbox_filename_regexp = &mbox_filename_regexp_static;
1229     } else {
1230       mbox_filename_regexp = 0;
1231     }
1232
1233     db_file = safe_fopen(db_filename, "w", "index file for indexing");
1234
1235     for(f = 0; f < nb_fields_to_parse; f++) {
1236       if(regcomp(&fields_to_parse[f].regexp,
1237                  fields_to_parse[f].regexp_string,
1238                  fields_to_parse[f].cflags)) {
1239         fprintf(stderr,
1240                 "mymail: Syntax error in regexp \"%s\" for field \"%s\".\n",
1241                 fields_to_parse[f].regexp_string,
1242                 field_keys[fields_to_parse[f].id]);
1243         exit(EXIT_FAILURE);
1244       }
1245     }
1246
1247     fprintf(db_file,
1248             "%s version_%s format_%d raw\n",
1249             MYMAIL_DB_MAGIC_TOKEN,
1250             MYMAIL_VERSION,
1251             MYMAIL_DB_FORMAT_VERSION);
1252
1253     while(optind < argc) {
1254       recursive_index_mbox(db_file,
1255                            argv[optind], mbox_filename_regexp,
1256                            nb_fields_to_parse, fields_to_parse);
1257       optind++;
1258     }
1259
1260     fflush(db_file);
1261     fclose(db_file);
1262
1263     if(mbox_filename_regexp) {
1264       regfree(mbox_filename_regexp);
1265     }
1266
1267     for(f = 0; f < nb_fields_to_parse; f++) {
1268       regfree(&fields_to_parse[f].regexp);
1269     }
1270   }
1271
1272   /* Mail search */
1273
1274   else {
1275
1276     FILE *output_file;
1277     int nb_extracted_mails = 0;
1278
1279     if(output_filename[0]) {
1280       output_file = safe_fopen(output_filename, "w", "result mbox");
1281     } else {
1282       output_file = stdout;
1283       global_quiet = 1;
1284     }
1285
1286     if(nb_search_conditions > 0) {
1287
1288       /* Recursive search if db_root_path is set */
1289
1290       if(db_root_path) {
1291         regex_t db_filename_regexp;
1292         if(regcomp(&db_filename_regexp,
1293                    db_filename_regexp_string,
1294                    0)) {
1295           fprintf(stderr,
1296                   "mymail: Syntax error in regexp \"%s\".\n",
1297                   db_filename_regexp_string);
1298           exit(EXIT_FAILURE);
1299         }
1300
1301         nb_extracted_mails = recursive_search_in_db(db_root_path, &db_filename_regexp,
1302                                                     nb_extracted_mails,
1303                                                     nb_search_conditions, search_conditions,
1304                                                     output_file);
1305
1306         regfree(&db_filename_regexp);
1307       }
1308
1309       /* Search in all db files listed in db_filename_list */
1310
1311       if(db_filename_list) {
1312         char db_filename[PATH_MAX + 1];
1313         const char *s;
1314
1315         s = db_filename_list;
1316
1317         while(*s) {
1318           s = parse_token(db_filename, PATH_MAX + 1, ';', s);
1319
1320           if(db_filename[0]) {
1321             nb_extracted_mails =
1322               search_in_db(db_filename,
1323                            nb_extracted_mails,
1324                            nb_search_conditions, search_conditions, output_file);
1325           }
1326         }
1327       }
1328
1329       /* Search in all db files listed in the command arguments */
1330
1331       while(optind < argc) {
1332         nb_extracted_mails =
1333           search_in_db(argv[optind],
1334                        nb_extracted_mails,
1335                        nb_search_conditions, search_conditions, output_file);
1336         optind++;
1337       }
1338     }
1339
1340     if(!global_quiet) {
1341       if(nb_extracted_mails > 0) {
1342         printf("Found %d matching mails.\n", nb_extracted_mails);
1343       } else {
1344         printf("No matching mail found.\n");
1345       }
1346     }
1347
1348     fflush(output_file);
1349
1350     if(output_file != stdout) {
1351       fclose(output_file);
1352     }
1353   }
1354
1355   for(n = 0; n < nb_search_conditions; n++) {
1356     free_condition(&search_conditions[n]);
1357   }
1358
1359   a = global_alias_list;
1360   while(a) {
1361     b = a->next;
1362     free(a->alias);
1363     free(a->value);
1364     free(a);
1365     a = b;
1366   }
1367
1368   free(db_filename);
1369   free(db_filename_regexp_string);
1370   free(db_root_path);
1371   free(db_filename_list);
1372   free(mbox_filename_regexp_string);
1373
1374   regfree(&global_leading_from_line_regexp);
1375
1376   exit(EXIT_SUCCESS);
1377 }