git.notmuchmail.org Git - notmuch/blob - lib/open.cc

   1 #include <unistd.h>
   2 #include "database-private.h"
   3 #include "parse-time-vrp.h"
   4
   5 #if HAVE_XAPIAN_DB_RETRY_LOCK
   6 #define DB_ACTION (Xapian::DB_CREATE_OR_OPEN | Xapian::DB_RETRY_LOCK)
   7 #else
   8 #define DB_ACTION Xapian::DB_CREATE_OR_OPEN
   9 #endif
  10
  11 notmuch_status_t
  12 notmuch_database_open (const char *path,
  13                        notmuch_database_mode_t mode,
  14                        notmuch_database_t **database)
  15 {
  16     char *status_string = NULL;
  17     notmuch_status_t status;
  18
  19     status = notmuch_database_open_verbose (path, mode, database,
  20                                             &status_string);
  21
  22     if (status_string) {
  23         fputs (status_string, stderr);
  24         free (status_string);
  25     }
  26
  27     return status;
  28 }
  29
  30 notmuch_status_t
  31 notmuch_database_open_verbose (const char *path,
  32                                notmuch_database_mode_t mode,
  33                                notmuch_database_t **database,
  34                                char **status_string)
  35 {
  36     return notmuch_database_open_with_config (path, mode, "", NULL,
  37                                               database, status_string);
  38 }
  39
  40 static const char *
  41 _xdg_dir (void *ctx,
  42           const char *xdg_root_variable,
  43           const char *xdg_prefix,
  44           const char *profile_name)
  45 {
  46     const char *xdg_root = getenv (xdg_root_variable);
  47
  48     if (! xdg_root) {
  49         const char *home = getenv ("HOME");
  50
  51         if (! home) return NULL;
  52
  53         xdg_root = talloc_asprintf (ctx,
  54                                     "%s/%s",
  55                                     home,
  56                                     xdg_prefix);
  57     }
  58
  59     if (! profile_name)
  60         profile_name = getenv ("NOTMUCH_PROFILE");
  61
  62     if (! profile_name)
  63         profile_name = "default";
  64
  65     return talloc_asprintf (ctx,
  66                             "%s/notmuch/%s",
  67                             xdg_root,
  68                             profile_name);
  69 }
  70
  71 static notmuch_status_t
  72 _choose_hook_dir (notmuch_database_t *notmuch,
  73                   const char *profile,
  74                   char **message)
  75 {
  76     const char *config;
  77     const char *hook_dir;
  78     struct stat st;
  79     int err;
  80
  81     hook_dir = notmuch_config_get (notmuch, NOTMUCH_CONFIG_HOOK_DIR);
  82
  83     if (hook_dir)
  84         return NOTMUCH_STATUS_SUCCESS;
  85
  86     config = _xdg_dir (notmuch, "XDG_CONFIG_HOME", ".config", profile);
  87     if (! config)
  88         return NOTMUCH_STATUS_PATH_ERROR;
  89
  90     hook_dir = talloc_asprintf (notmuch, "%s/hooks", config);
  91
  92     err = stat (hook_dir, &st);
  93     if (err) {
  94         if (errno == ENOENT) {
  95             const char *database_path = notmuch_database_get_path (notmuch);
  96             hook_dir = talloc_asprintf (notmuch, "%s/.notmuch/hooks", database_path);
  97         } else {
  98             IGNORE_RESULT (asprintf (message, "Error: Cannot stat %s: %s.\n",
  99                                      hook_dir, strerror (errno)));
 100             return NOTMUCH_STATUS_FILE_ERROR;
 101         }
 102     }
 103
 104     _notmuch_config_cache (notmuch, NOTMUCH_CONFIG_HOOK_DIR, hook_dir);
 105
 106     return NOTMUCH_STATUS_SUCCESS;
 107 }
 108
 109 static notmuch_status_t
 110 _load_key_file (const char *path,
 111                 const char *profile,
 112                 GKeyFile **key_file)
 113 {
 114     notmuch_status_t status = NOTMUCH_STATUS_SUCCESS;
 115     void *local = talloc_new (NULL);
 116
 117     if (path && EMPTY_STRING (path))
 118         goto DONE;
 119
 120     if (! path)
 121         path = getenv ("NOTMUCH_CONFIG");
 122
 123     if (! path) {
 124         const char *dir = _xdg_dir (local, "XDG_CONFIG_HOME", ".config", profile);
 125
 126         if (dir) {
 127             path = talloc_asprintf (local, "%s/config", dir);
 128             if (access (path, R_OK) != 0)
 129                 path = NULL;
 130         }
 131     }
 132
 133     if (! path) {
 134         const char *home = getenv ("HOME");
 135
 136         path = talloc_asprintf (local, "%s/.notmuch-config", home);
 137
 138         if (! profile)
 139             profile = getenv ("NOTMUCH_PROFILE");
 140
 141         if (profile)
 142             path = talloc_asprintf (local, "%s.%s", path, profile);
 143     }
 144
 145     *key_file = g_key_file_new ();
 146     if (! g_key_file_load_from_file (*key_file, path, G_KEY_FILE_NONE, NULL)) {
 147         status = NOTMUCH_STATUS_NO_CONFIG;
 148     }
 149
 150   DONE:
 151     talloc_free (local);
 152     return status;
 153 }
 154
 155 static notmuch_status_t
 156 _db_dir_exists (const char *database_path, char **message)
 157 {
 158     struct stat st;
 159     int err;
 160
 161     err = stat (database_path, &st);
 162     if (err) {
 163         IGNORE_RESULT (asprintf (message, "Error: Cannot open database at %s: %s.\n",
 164                                  database_path, strerror (errno)));
 165         return NOTMUCH_STATUS_FILE_ERROR;
 166     }
 167
 168     if (! S_ISDIR (st.st_mode)) {
 169         IGNORE_RESULT (asprintf (message, "Error: Cannot open database at %s: "
 170                                  "Not a directory.\n",
 171                                  database_path));
 172         return NOTMUCH_STATUS_FILE_ERROR;
 173     }
 174
 175     return NOTMUCH_STATUS_SUCCESS;
 176 }
 177
 178 static notmuch_status_t
 179 _choose_database_path (void *ctx,
 180                        const char *config_path,
 181                        const char *profile,
 182                        GKeyFile **key_file,
 183                        const char **database_path,
 184                        char **message)
 185 {
 186     notmuch_status_t status;
 187
 188     status = _load_key_file (config_path, profile, key_file);
 189     if (status) {
 190         *message = strdup ("Error: cannot load config file.\n");
 191         return status;
 192     }
 193
 194     if (! *database_path) {
 195         *database_path = getenv ("NOTMUCH_DATABASE");
 196     }
 197
 198     if (! *database_path && *key_file) {
 199         char *path = g_key_file_get_value (*key_file, "database", "path", NULL);
 200         if (path) {
 201             *database_path = talloc_strdup (ctx, path);
 202             g_free (path);
 203         }
 204     }
 205
 206     if (*database_path == NULL) {
 207         *message = strdup ("Error: Cannot open a database for a NULL path.\n");
 208         return NOTMUCH_STATUS_NULL_POINTER;
 209     }
 210
 211     if (*database_path[0] != '/') {
 212         *message = strdup ("Error: Database path must be absolute.\n");
 213         return NOTMUCH_STATUS_PATH_ERROR;
 214     }
 215     return NOTMUCH_STATUS_SUCCESS;
 216 }
 217
 218 notmuch_database_t *
 219 _alloc_notmuch ()
 220 {
 221     notmuch_database_t *notmuch;
 222
 223     notmuch = talloc_zero (NULL, notmuch_database_t);
 224     if (! notmuch)
 225         return NULL;
 226
 227     notmuch->exception_reported = false;
 228     notmuch->status_string = NULL;
 229     notmuch->writable_xapian_db = NULL;
 230     notmuch->atomic_nesting = 0;
 231     notmuch->view = 1;
 232     return notmuch;
 233 }
 234
 235 static void
 236 _set_database_path (notmuch_database_t *notmuch,
 237                     const char *database_path)
 238 {
 239     char *path = talloc_strdup (notmuch, database_path);
 240
 241     strip_trailing (path, '/');
 242
 243     _notmuch_config_cache (notmuch, NOTMUCH_CONFIG_DATABASE_PATH, path);
 244 }
 245
 246 static void
 247 _init_libs ()
 248 {
 249
 250     static int initialized = 0;
 251
 252     /* Initialize the GLib type system and threads */
 253 #if ! GLIB_CHECK_VERSION (2, 35, 1)
 254     g_type_init ();
 255 #endif
 256
 257     /* Initialize gmime */
 258     if (! initialized) {
 259         g_mime_init ();
 260         initialized = 1;
 261     }
 262 }
 263
 264 notmuch_status_t
 265 notmuch_database_open_with_config (const char *database_path,
 266                                    notmuch_database_mode_t mode,
 267                                    const char *config_path,
 268                                    const char *profile,
 269                                    notmuch_database_t **database,
 270                                    char **status_string)
 271 {
 272     notmuch_status_t status = NOTMUCH_STATUS_SUCCESS;
 273     void *local = talloc_new (NULL);
 274     notmuch_database_t *notmuch = NULL;
 275     char *notmuch_path, *incompat_features;
 276     char *message = NULL;
 277     unsigned int version;
 278     GKeyFile *key_file = NULL;
 279
 280     _init_libs ();
 281
 282     notmuch = _alloc_notmuch ();
 283     if (! notmuch) {
 284         status = NOTMUCH_STATUS_OUT_OF_MEMORY;
 285         goto DONE;
 286     }
 287
 288     if ((status = _choose_database_path (local, config_path, profile,
 289                                          &key_file, &database_path, &message)))
 290         goto DONE;
 291
 292     _set_database_path (notmuch, database_path);
 293
 294     status = _db_dir_exists (database_path, &message);
 295     if (status)
 296         goto DONE;
 297
 298     if (! (notmuch_path = talloc_asprintf (local, "%s/%s", database_path, ".notmuch"))) {
 299         message = strdup ("Out of memory\n");
 300         status = NOTMUCH_STATUS_OUT_OF_MEMORY;
 301         goto DONE;
 302     }
 303
 304     status = _db_dir_exists (notmuch_path, &message);
 305     if (status)
 306         goto DONE;
 307
 308     if (! (notmuch->xapian_path = talloc_asprintf (notmuch, "%s/%s", notmuch_path, "xapian"))) {
 309         message = strdup ("Out of memory\n");
 310         status = NOTMUCH_STATUS_OUT_OF_MEMORY;
 311         goto DONE;
 312     }
 313
 314     try {
 315         std::string last_thread_id;
 316         std::string last_mod;
 317
 318         if (mode == NOTMUCH_DATABASE_MODE_READ_WRITE) {
 319             notmuch->writable_xapian_db = new Xapian::WritableDatabase (notmuch->xapian_path,
 320                                                                         DB_ACTION);
 321             notmuch->xapian_db = notmuch->writable_xapian_db;
 322         } else {
 323             notmuch->xapian_db = new Xapian::Database (notmuch->xapian_path);
 324         }
 325
 326         /* Check version.  As of database version 3, we represent
 327          * changes in terms of features, so assume a version bump
 328          * means a dramatically incompatible change. */
 329         version = notmuch_database_get_version (notmuch);
 330         if (version > NOTMUCH_DATABASE_VERSION) {
 331             IGNORE_RESULT (asprintf (&message,
 332                                      "Error: Notmuch database at %s\n"
 333                                      "       has a newer database format version (%u) than supported by this\n"
 334                                      "       version of notmuch (%u).\n",
 335                                      notmuch_path, version, NOTMUCH_DATABASE_VERSION));
 336             notmuch_database_destroy (notmuch);
 337             notmuch = NULL;
 338             status = NOTMUCH_STATUS_FILE_ERROR;
 339             goto DONE;
 340         }
 341
 342         /* Check features. */
 343         incompat_features = NULL;
 344         notmuch->features = _notmuch_database_parse_features (
 345             local, notmuch->xapian_db->get_metadata ("features").c_str (),
 346             version, mode == NOTMUCH_DATABASE_MODE_READ_WRITE ? 'w' : 'r',
 347             &incompat_features);
 348         if (incompat_features) {
 349             IGNORE_RESULT (asprintf (&message,
 350                                      "Error: Notmuch database at %s\n"
 351                                      "       requires features (%s)\n"
 352                                      "       not supported by this version of notmuch.\n",
 353                                      notmuch_path, incompat_features));
 354             notmuch_database_destroy (notmuch);
 355             notmuch = NULL;
 356             status = NOTMUCH_STATUS_FILE_ERROR;
 357             goto DONE;
 358         }
 359
 360         notmuch->last_doc_id = notmuch->xapian_db->get_lastdocid ();
 361         last_thread_id = notmuch->xapian_db->get_metadata ("last_thread_id");
 362         if (last_thread_id.empty ()) {
 363             notmuch->last_thread_id = 0;
 364         } else {
 365             const char *str;
 366             char *end;
 367
 368             str = last_thread_id.c_str ();
 369             notmuch->last_thread_id = strtoull (str, &end, 16);
 370             if (*end != '\0')
 371                 INTERNAL_ERROR ("Malformed database last_thread_id: %s", str);
 372         }
 373
 374         /* Get current highest revision number. */
 375         last_mod = notmuch->xapian_db->get_value_upper_bound (
 376             NOTMUCH_VALUE_LAST_MOD);
 377         if (last_mod.empty ())
 378             notmuch->revision = 0;
 379         else
 380             notmuch->revision = Xapian::sortable_unserialise (last_mod);
 381         notmuch->uuid = talloc_strdup (
 382             notmuch, notmuch->xapian_db->get_uuid ().c_str ());
 383
 384         notmuch->query_parser = new Xapian::QueryParser;
 385         notmuch->term_gen = new Xapian::TermGenerator;
 386         notmuch->term_gen->set_stemmer (Xapian::Stem ("english"));
 387         notmuch->value_range_processor = new Xapian::NumberRangeProcessor (NOTMUCH_VALUE_TIMESTAMP);
 388         notmuch->date_range_processor = new ParseTimeRangeProcessor (NOTMUCH_VALUE_TIMESTAMP,
 389                                                                      "date:");
 390         notmuch->last_mod_range_processor = new Xapian::NumberRangeProcessor (NOTMUCH_VALUE_LAST_MOD,
 391                                                                               "lastmod:");
 392         notmuch->query_parser->set_default_op (Xapian::Query::OP_AND);
 393         notmuch->query_parser->set_database (*notmuch->xapian_db);
 394         notmuch->query_parser->set_stemmer (Xapian::Stem ("english"));
 395         notmuch->query_parser->set_stemming_strategy (Xapian::QueryParser::STEM_SOME);
 396         notmuch->query_parser->add_rangeprocessor (notmuch->value_range_processor);
 397         notmuch->query_parser->add_rangeprocessor (notmuch->date_range_processor);
 398         notmuch->query_parser->add_rangeprocessor (notmuch->last_mod_range_processor);
 399
 400         /* Configuration information is needed to set up query parser */
 401         status = _notmuch_config_load_from_database (notmuch);
 402         if (status)
 403             goto DONE;
 404
 405         if (key_file)
 406             status = _notmuch_config_load_from_file (notmuch, key_file);
 407         if (status)
 408             goto DONE;
 409
 410         status = _choose_hook_dir (notmuch, profile, &message);
 411         if (status)
 412             goto DONE;
 413
 414         status = _notmuch_config_load_defaults (notmuch);
 415         if (status)
 416             goto DONE;
 417
 418         status = _notmuch_database_setup_standard_query_fields (notmuch);
 419         if (status)
 420             goto DONE;
 421
 422         status = _notmuch_database_setup_user_query_fields (notmuch);
 423         if (status)
 424             goto DONE;
 425
 426     } catch (const Xapian::Error &error) {
 427         IGNORE_RESULT (asprintf (&message, "A Xapian exception occurred opening database: %s\n",
 428                                  error.get_msg ().c_str ()));
 429         notmuch_database_destroy (notmuch);
 430         notmuch = NULL;
 431         status = NOTMUCH_STATUS_XAPIAN_EXCEPTION;
 432     }
 433
 434   DONE:
 435     talloc_free (local);
 436
 437     if (key_file)
 438         g_key_file_free (key_file);
 439
 440     if (message) {
 441         if (status_string)
 442             *status_string = message;
 443         else
 444             free (message);
 445     }
 446
 447     if (database)
 448         *database = notmuch;
 449     else
 450         talloc_free (notmuch);
 451
 452     if (notmuch)
 453         notmuch->open = true;
 454
 455     return status;
 456 }
 457
 458 notmuch_status_t
 459 notmuch_database_create (const char *path, notmuch_database_t **database)
 460 {
 461     char *status_string = NULL;
 462     notmuch_status_t status;
 463
 464     status = notmuch_database_create_verbose (path, database,
 465                                               &status_string);
 466
 467     if (status_string) {
 468         fputs (status_string, stderr);
 469         free (status_string);
 470     }
 471
 472     return status;
 473 }
 474
 475 notmuch_status_t
 476 notmuch_database_create_verbose (const char *path,
 477                                  notmuch_database_t **database,
 478                                  char **status_string)
 479 {
 480     return notmuch_database_create_with_config (path, "", NULL, database, status_string);
 481 }
 482
 483 notmuch_status_t
 484 notmuch_database_create_with_config (const char *database_path,
 485                                      const char *config_path,
 486                                      const char *profile,
 487                                      notmuch_database_t **database,
 488                                      char **status_string)
 489 {
 490     notmuch_status_t status = NOTMUCH_STATUS_SUCCESS;
 491     notmuch_database_t *notmuch = NULL;
 492     char *notmuch_path = NULL;
 493     char *message = NULL;
 494     GKeyFile *key_file = NULL;
 495     void *local = talloc_new (NULL);
 496     int err;
 497
 498     _init_libs ();
 499
 500     notmuch = _alloc_notmuch ();
 501     if (! notmuch) {
 502         status = NOTMUCH_STATUS_OUT_OF_MEMORY;
 503         goto DONE;
 504     }
 505
 506     _init_libs ();
 507
 508     if ((status = _choose_database_path (local, config_path, profile,
 509                                          &key_file, &database_path, &message)))
 510         goto DONE;
 511
 512     status = _db_dir_exists (database_path, &message);
 513     if (status)
 514         goto DONE;
 515
 516     _set_database_path (notmuch, database_path);
 517
 518     notmuch_path = talloc_asprintf (local, "%s/%s", database_path, ".notmuch");
 519
 520     err = mkdir (notmuch_path, 0755);
 521     if (err) {
 522         if (errno == EEXIST) {
 523             status = NOTMUCH_STATUS_DATABASE_EXISTS;
 524             talloc_free (notmuch);
 525             notmuch = NULL;
 526         } else {
 527             IGNORE_RESULT (asprintf (&message, "Error: Cannot create directory %s: %s.\n",
 528                                      notmuch_path, strerror (errno)));
 529             status = NOTMUCH_STATUS_FILE_ERROR;
 530         }
 531         goto DONE;
 532     }
 533
 534     /* XXX this reads the config file twice, which is a bit wasteful */
 535     status = notmuch_database_open_with_config (database_path,
 536                                                 NOTMUCH_DATABASE_MODE_READ_WRITE,
 537                                                 config_path,
 538                                                 profile,
 539                                                 &notmuch, &message);
 540     if (status)
 541         goto DONE;
 542
 543     /* Upgrade doesn't add these feature to existing databases, but
 544      * new databases have them. */
 545     notmuch->features |= NOTMUCH_FEATURE_FROM_SUBJECT_ID_VALUES;
 546     notmuch->features |= NOTMUCH_FEATURE_INDEXED_MIMETYPES;
 547     notmuch->features |= NOTMUCH_FEATURE_UNPREFIX_BODY_ONLY;
 548
 549     status = notmuch_database_upgrade (notmuch, NULL, NULL);
 550     if (status) {
 551         notmuch_database_close (notmuch);
 552         notmuch = NULL;
 553     }
 554
 555   DONE:
 556     talloc_free (local);
 557
 558     if (key_file)
 559         g_key_file_free (key_file);
 560
 561     if (message) {
 562         if (status_string)
 563             *status_string = message;
 564         else
 565             free (message);
 566     }
 567     if (database)
 568         *database = notmuch;
 569     else
 570         talloc_free (notmuch);
 571     return status;
 572 }
 573
 574 notmuch_status_t
 575 notmuch_database_reopen (notmuch_database_t *notmuch,
 576                          notmuch_database_mode_t new_mode)
 577 {
 578     notmuch_database_mode_t cur_mode = _notmuch_database_mode (notmuch);
 579
 580     if (notmuch->xapian_db == NULL) {
 581         _notmuch_database_log (notmuch, "Cannot reopen closed or nonexistent database\n");
 582         return NOTMUCH_STATUS_ILLEGAL_ARGUMENT;
 583     }
 584
 585     try {
 586         if (cur_mode == new_mode &&
 587             new_mode == NOTMUCH_DATABASE_MODE_READ_ONLY) {
 588             notmuch->xapian_db->reopen ();
 589         } else {
 590             notmuch->xapian_db->close ();
 591
 592             delete notmuch->xapian_db;
 593             notmuch->xapian_db = NULL;
 594             /* no need to free the same object twice */
 595             notmuch->writable_xapian_db = NULL;
 596
 597             if (new_mode == NOTMUCH_DATABASE_MODE_READ_WRITE) {
 598                 notmuch->writable_xapian_db = new Xapian::WritableDatabase (notmuch->xapian_path,
 599                                                                             DB_ACTION);
 600                 notmuch->xapian_db = notmuch->writable_xapian_db;
 601             } else {
 602                 notmuch->xapian_db = new Xapian::Database (notmuch->xapian_path,
 603                                                            DB_ACTION);
 604             }
 605         }
 606     } catch (const Xapian::Error &error) {
 607         if (! notmuch->exception_reported) {
 608             _notmuch_database_log (notmuch, "Error: A Xapian exception reopening database: %s\n",
 609                                    error.get_msg ().c_str ());
 610             notmuch->exception_reported = true;
 611         }
 612         return NOTMUCH_STATUS_XAPIAN_EXCEPTION;
 613     }
 614
 615     notmuch->view++;
 616     notmuch->open = true;
 617     return NOTMUCH_STATUS_SUCCESS;
 618 }