]> git.notmuchmail.org Git - notmuch/blob - notmuch-restore.c
lib/open: canonicalize relative path read from config file
[notmuch] / notmuch-restore.c
1 /* notmuch - Not much of an email program, (just index and search)
2  *
3  * Copyright © 2009 Carl Worth
4  *
5  * This program is free software: you can redistribute it and/or modify
6  * it under the terms of the GNU General Public License as published by
7  * the Free Software Foundation, either version 3 of the License, or
8  * (at your option) any later version.
9  *
10  * This program is distributed in the hope that it will be useful,
11  * but WITHOUT ANY WARRANTY; without even the implied warranty of
12  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
13  * GNU General Public License for more details.
14  *
15  * You should have received a copy of the GNU General Public License
16  * along with this program.  If not, see https://www.gnu.org/licenses/ .
17  *
18  * Author: Carl Worth <cworth@cworth.org>
19  */
20
21 #include "notmuch-client.h"
22 #include "hex-escape.h"
23 #include "tag-util.h"
24 #include "string-util.h"
25 #include "zlib-extra.h"
26
27 static int
28 process_config_line (notmuch_database_t *notmuch, const char *line)
29 {
30     const char *key_p, *val_p;
31     char *key, *val;
32     size_t key_len, val_len;
33     const char *delim = " \t\n";
34     int ret = EXIT_FAILURE;
35
36     void *local = talloc_new (NULL);
37
38     key_p = strtok_len_c (line, delim, &key_len);
39     val_p = strtok_len_c (key_p + key_len, delim, &val_len);
40
41     key = talloc_strndup (local, key_p, key_len);
42     val = talloc_strndup (local, val_p, val_len);
43     if (hex_decode_inplace (key) != HEX_SUCCESS ||
44         hex_decode_inplace (val) != HEX_SUCCESS ) {
45         fprintf (stderr, "hex decoding failure on line %s\n", line);
46         goto DONE;
47     }
48
49     if (print_status_database ("notmuch restore", notmuch,
50                                notmuch_database_set_config (notmuch, key, val)))
51         goto DONE;
52
53     ret = EXIT_SUCCESS;
54
55   DONE:
56     talloc_free (local);
57     return ret;
58 }
59
60 static int
61 process_properties_line (notmuch_database_t *notmuch, const char *line)
62 {
63     const char *id_p, *tok;
64     size_t id_len = 0, tok_len = 0;
65     char *id;
66
67     notmuch_message_t *message = NULL;
68     const char *delim = " \t\n";
69     int ret = EXIT_FAILURE;
70
71     void *local = talloc_new (NULL);
72
73     id_p = strtok_len_c (line, delim, &id_len);
74     id = talloc_strndup (local, id_p, id_len);
75     if (hex_decode_inplace (id) != HEX_SUCCESS) {
76         fprintf (stderr, "hex decoding failure on line %s\n", line);
77         goto DONE;
78     }
79
80     if (print_status_database ("notmuch restore", notmuch,
81                                notmuch_database_find_message (notmuch, id, &message)))
82         goto DONE;
83
84     if (print_status_database ("notmuch restore", notmuch,
85                                notmuch_message_remove_all_properties (message, NULL)))
86         goto DONE;
87
88     tok = id_p + id_len;
89
90     while ((tok = strtok_len_c (tok + tok_len, delim, &tok_len)) != NULL) {
91         char *key, *value;
92         size_t off = strcspn (tok, "=");
93         if (off > tok_len) {
94             fprintf (stderr, "unparsable token %s\n", tok);
95             goto DONE;
96         }
97
98         key = talloc_strndup (local, tok, off);
99         value = talloc_strndup (local, tok + off + 1, tok_len - off - 1);
100
101         if (hex_decode_inplace (key) != HEX_SUCCESS) {
102             fprintf (stderr, "hex decoding failure on key %s\n", key);
103             goto DONE;
104         }
105
106         if (hex_decode_inplace (value) != HEX_SUCCESS) {
107             fprintf (stderr, "hex decoding failure on value %s\n", value);
108             goto DONE;
109         }
110
111         if (print_status_database ("notmuch restore", notmuch,
112                                    notmuch_message_add_property (message, key, value)))
113             goto DONE;
114
115     }
116
117     ret = EXIT_SUCCESS;
118
119   DONE:
120     talloc_free (local);
121     return ret;
122 }
123
124
125 static regex_t regex;
126
127 /* Non-zero return indicates an error in retrieving the message,
128  * or in applying the tags.  Missing messages are reported, but not
129  * considered errors.
130  */
131 static int
132 tag_message (unused (void *ctx),
133              notmuch_database_t *notmuch,
134              const char *message_id,
135              tag_op_list_t *tag_ops,
136              tag_op_flag_t flags)
137 {
138     notmuch_status_t status;
139     notmuch_message_t *message = NULL;
140     int ret = 0;
141
142     status = notmuch_database_find_message (notmuch, message_id, &message);
143     if (status) {
144         fprintf (stderr, "Error applying tags to message %s: %s\n",
145                  message_id, notmuch_status_to_string (status));
146         return 1;
147     }
148     if (message == NULL) {
149         fprintf (stderr, "Warning: cannot apply tags to missing message: %s\n",
150                  message_id);
151         /* We consider this a non-fatal error. */
152         return 0;
153     }
154
155     /* In order to detect missing messages, this check/optimization is
156      * intentionally done *after* first finding the message. */
157     if ((flags & TAG_FLAG_REMOVE_ALL) || tag_op_list_size (tag_ops))
158         ret = tag_op_list_apply (message, tag_ops, flags);
159
160     notmuch_message_destroy (message);
161
162     return ret;
163 }
164
165 /* Sup dump output is one line per message. We match a sequence of
166  * non-space characters for the message-id, then one or more
167  * spaces, then a list of space-separated tags as a sequence of
168  * characters within literal '(' and ')'. */
169
170 static int
171 parse_sup_line (void *ctx, char *line,
172                 char **query_str, tag_op_list_t *tag_ops)
173 {
174
175     regmatch_t match[3];
176     char *file_tags;
177     int rerr;
178
179     tag_op_list_reset (tag_ops);
180
181     chomp_newline (line);
182
183     /* Silently ignore blank lines */
184     if (line[0] == '\0') {
185         return 1;
186     }
187
188     rerr = xregexec (&regex, line, 3, match, 0);
189     if (rerr == REG_NOMATCH) {
190         fprintf (stderr, "Warning: Ignoring invalid sup format line: %s\n",
191                  line);
192         return 1;
193     }
194
195     *query_str = talloc_strndup_debug (ctx, line + match[1].rm_so,
196                                        match[1].rm_eo - match[1].rm_so);
197
198     file_tags = talloc_strndup_debug (ctx, line + match[2].rm_so,
199                                       match[2].rm_eo - match[2].rm_so);
200
201     char *tok = file_tags;
202     size_t tok_len = 0;
203
204     tag_op_list_reset (tag_ops);
205
206     while ((tok = strtok_len (tok + tok_len, " ", &tok_len)) != NULL) {
207
208         if (*(tok + tok_len) != '\0') {
209             *(tok + tok_len) = '\0';
210             tok_len++;
211         }
212
213         if (tag_op_list_append (tag_ops, tok, false))
214             return -1;
215     }
216
217     return 0;
218
219 }
220
221 int
222 notmuch_restore_command (unused(notmuch_config_t *config), notmuch_database_t *notmuch,
223                          int argc, char *argv[])
224 {
225     bool accumulate = false;
226     tag_op_flag_t flags = 0;
227     tag_op_list_t *tag_ops;
228
229     const char *input_file_name = NULL;
230     const char *name_for_error = NULL;
231     gzFile input = NULL;
232     char *line = NULL;
233     void *line_ctx = NULL;
234     ssize_t line_len;
235
236     int ret = 0;
237     int opt_index;
238     int include = 0;
239     int input_format = DUMP_FORMAT_AUTO;
240     int errnum;
241     notmuch_bool_t synchronize_flags;
242
243     if (print_status_database (
244             "notmuch restore",
245             notmuch,
246             notmuch_config_get_bool (notmuch, NOTMUCH_CONFIG_SYNC_MAILDIR_FLAGS,
247                                      &synchronize_flags)))
248         return EXIT_FAILURE;
249
250     if (synchronize_flags)
251         flags |= TAG_FLAG_MAILDIR_SYNC;
252
253     notmuch_opt_desc_t options[] = {
254         { .opt_keyword = &input_format, .name = "format", .keywords =
255               (notmuch_keyword_t []){ { "auto", DUMP_FORMAT_AUTO },
256                                       { "batch-tag", DUMP_FORMAT_BATCH_TAG },
257                                       { "sup", DUMP_FORMAT_SUP },
258                                       { 0, 0 } } },
259         { .opt_flags = &include, .name = "include", .keywords =
260               (notmuch_keyword_t []){ { "config", DUMP_INCLUDE_CONFIG },
261                                       { "properties", DUMP_INCLUDE_PROPERTIES },
262                                       { "tags", DUMP_INCLUDE_TAGS } } },
263
264         { .opt_string = &input_file_name, .name = "input" },
265         { .opt_bool = &accumulate, .name = "accumulate" },
266         { .opt_inherit = notmuch_shared_options },
267         { }
268     };
269
270     opt_index = parse_arguments (argc, argv, options, 1);
271     if (opt_index < 0) {
272         ret = EXIT_FAILURE;
273         goto DONE;
274     }
275
276     notmuch_process_shared_options (argv[0]);
277     notmuch_exit_if_unmatched_db_uuid (notmuch);
278
279     if (include == 0) {
280         include = DUMP_INCLUDE_CONFIG | DUMP_INCLUDE_PROPERTIES | DUMP_INCLUDE_TAGS;
281     }
282
283     name_for_error = input_file_name ? input_file_name : "stdin";
284
285     if (! accumulate)
286         flags |= TAG_FLAG_REMOVE_ALL;
287
288     errno = 0;
289     if (input_file_name)
290         input = gzopen (input_file_name, "r");
291     else {
292         int infd = dup (STDIN_FILENO);
293         if (infd < 0) {
294             fprintf (stderr, "Error duping stdin: %s\n",
295                      strerror (errno));
296             ret = EXIT_FAILURE;
297             goto DONE;
298         }
299         input = gzdopen (infd, "r");
300         if (! input)
301             close (infd);
302     }
303
304     if (input == NULL) {
305         fprintf (stderr, "Error opening %s for (gzip) reading: %s\n",
306                  name_for_error, strerror (errno));
307         ret = EXIT_FAILURE;
308         goto DONE;
309     }
310
311     if (opt_index < argc) {
312         fprintf (stderr, "Unused positional parameter: %s\n", argv[opt_index]);
313         ret = EXIT_FAILURE;
314         goto DONE;
315     }
316
317     tag_ops = tag_op_list_create (notmuch);
318     if (tag_ops == NULL) {
319         fprintf (stderr, "Out of memory.\n");
320         ret = EXIT_FAILURE;
321         goto DONE;
322     }
323
324     do {
325         util_status_t status;
326
327         status = gz_getline (line_ctx, &line, &line_len, input);
328
329         /* empty input file not considered an error */
330         if (status == UTIL_EOF) {
331             ret = EXIT_SUCCESS;
332             goto DONE;
333         }
334
335         if (status) {
336             fprintf (stderr, "Error reading (gzipped) input: %s\n",
337                      gz_error_string (status, input));
338             ret = EXIT_FAILURE;
339             goto DONE;
340         }
341
342         if ((include & DUMP_INCLUDE_CONFIG) && line_len >= 2 && line[0] == '#' && line[1] == '@') {
343             ret = process_config_line (notmuch, line + 2);
344             if (ret)
345                 goto DONE;
346         }
347         if ((include & DUMP_INCLUDE_PROPERTIES) && line_len >= 2 && line[0] == '#' && line[1] ==
348             '=') {
349             ret = process_properties_line (notmuch, line + 2);
350             if (ret)
351                 goto DONE;
352         }
353
354     } while ((line_len == 0) ||
355              (line[0] == '#') ||
356              /* the cast is safe because we checked about for line_len < 0 */
357              (strspn (line, " \t\n") == (unsigned) line_len));
358
359     if (! ((include & DUMP_INCLUDE_TAGS) || (include & DUMP_INCLUDE_PROPERTIES))) {
360         ret = EXIT_SUCCESS;
361         goto DONE;
362     }
363
364     char *p;
365
366     for (p = line; (input_format == DUMP_FORMAT_AUTO) && *p; p++) {
367         if (*p == '(')
368             input_format = DUMP_FORMAT_SUP;
369     }
370
371     if (input_format == DUMP_FORMAT_AUTO)
372         input_format = DUMP_FORMAT_BATCH_TAG;
373
374     if (input_format == DUMP_FORMAT_SUP)
375         if ( xregcomp (&regex,
376                        "^([^ ]+) \\(([^)]*)\\)$",
377                        REG_EXTENDED) )
378             INTERNAL_ERROR ("compile time constant regex failed.");
379
380     do {
381         char *query_string, *prefix, *term;
382
383         if (line_ctx != NULL)
384             talloc_free (line_ctx);
385
386         line_ctx = talloc_new (notmuch);
387
388         if ((include & DUMP_INCLUDE_PROPERTIES) && line_len >= 2 && line[0] == '#' && line[1] ==
389             '=') {
390             ret = process_properties_line (notmuch, line + 2);
391             if (ret)
392                 goto DONE;
393         }
394
395         if (input_format == DUMP_FORMAT_SUP) {
396             ret = parse_sup_line (line_ctx, line, &query_string, tag_ops);
397         } else {
398             ret = parse_tag_line (line_ctx, line, TAG_FLAG_BE_GENEROUS,
399                                   &query_string, tag_ops);
400
401             if (ret == 0) {
402                 ret = parse_boolean_term (line_ctx, query_string,
403                                           &prefix, &term);
404                 if (ret && errno == EINVAL) {
405                     fprintf (stderr, "Warning: cannot parse query: %s (skipping)\n", query_string);
406                     continue;
407                 } else if (ret) {
408                     /* This is more fatal (e.g., out of memory) */
409                     fprintf (stderr, "Error parsing query: %s\n",
410                              strerror (errno));
411                     ret = 1;
412                     break;
413                 } else if (strcmp ("id", prefix) != 0) {
414                     fprintf (stderr, "Warning: not an id query: %s (skipping)\n", query_string);
415                     continue;
416                 }
417                 query_string = term;
418             }
419         }
420
421         if (ret > 0)
422             continue;
423
424         if (ret < 0)
425             break;
426
427         ret = tag_message (line_ctx, notmuch, query_string,
428                            tag_ops, flags);
429         if (ret)
430             break;
431
432     }  while (! (ret = gz_getline (line_ctx, &line, &line_len, input)));
433
434
435     /* EOF is normal loop termination condition, UTIL_SUCCESS is
436      * impossible here */
437     if (ret == UTIL_EOF) {
438         ret = EXIT_SUCCESS;
439     } else {
440         fprintf (stderr, "Error reading (gzipped) input: %s\n",
441                  gz_error_string (ret, input));
442         ret = EXIT_FAILURE;
443     }
444
445     /* currently this should not be after DONE: since we don't
446      * know if the xregcomp was reached
447      */
448
449     if (input_format == DUMP_FORMAT_SUP)
450         regfree (&regex);
451
452   DONE:
453     if (line_ctx != NULL)
454         talloc_free (line_ctx);
455
456     if (notmuch)
457         notmuch_database_destroy (notmuch);
458
459     if (input) {
460         errnum = gzclose_r (input);
461         if (errnum) {
462             fprintf (stderr, "Error closing %s: %d\n",
463                      name_for_error, errnum);
464             ret = EXIT_FAILURE;
465         }
466     }
467
468     return ret ? EXIT_FAILURE : EXIT_SUCCESS;
469 }