Merge branch 'master' into next

fix garbaged text in textfield when using ncursesw

Apparently, field_buffer content is not initialized to blanks when using
the wide-character version of ncurses. Forcing a call to
set_field_buffer fix the problem.

Merge branch 'master' into next

fix a thread merging bug introduced by refactoring in 59f8fc2

Signed-off-by: Alex Vandiver <alex@chmrr.net>

Merge branch 'logging' into next

switch non-error imap messages to info from debug

minor logging output tweak

Merge branch 'xapian-updates' into next

xapian index format versioning

move all GDBM data into Xapian

Keeping everything in Xapian means much better consistency in case of a crash.
Thread killing is now supported.

Merge branch 'various-api-refactors' into next

minor misc code tweaks

have mbox, maildir and imap sources (de)serialize labels nicely

At output time, rather than emitting a YAML Set (which is nasty), emit an array
of strings. At input time, normalize into a Set of labels.

add hooks for before- and after- yaml marshalling

Merge branch 'console-mode' into next

Conflicts:
lib/sup/modes/console-mode.rb

add intro help text and 'e' command to console mode

'e' restarts evaluation once you've stopped it with ctrl-g.

Merge branch 'console-mode' into next

Conflicts:
bin/sup

console: clear_hooks

console: reload

console: index internals accessor

console: add/remove labels

console mode

Merge branch 'master' into next

add 'I' keybinding to raise Inbox buffer

Merge branch 'buffer-rolling' into next

skip system buffers when rolling

Merge branch 'master' into next

maildir: allow ', ' in the unique-name portion of a maildir filename

The maildir specification says the following about unique names:

    A unique name can be anything that doesn't contain a colon (or
    slash) and doesn't start with a dot.

    [http://cr.yp.to/proto/maildir.html]

So disallowing a unique name to have a comma breaks maildir import on
systems where there is a comma in the names.

Merge branch 'ncurses-fixes' into next

ncurses cursor pops on after refresh. disable that.

Yet more shotgun programming.

Merge branch 'logging' into next

bugfix:relay event when new message is added to index

made this fancy method, and then i forgot to use it!

clean up some minor conflict mis-resolutions

Merge branch 'logging' into next

Conflicts:
bin/sup
bin/sup-sync-back
bin/sup-tweak-labels
lib/sup.rb
lib/sup/buffer.rb
lib/sup/message-chunks.rb
lib/sup/suicide.rb

rewrite logging to have multiple levels: debug, info, etc.

Level is now set by SUP_LOG_LEVEL environment variable.

Big patch here, but most of it is replacing the old Redwood::log calls.

Some work on poll-mode, which subclasses log-mode. Remind me never to use
inheritance again.

rewrite Singleton to not require i_am_the_instance

The flip side is that you have to use .init instead of .new.

minor code style tweaks and whitespace removals

refactor index access into three methods and rewrite PollManager#each_message_from

Couple big changes in this commit, but they're all tied together.

Index.sync_message is refactored into three separate methods: add_message,
update_message and update_message_state. The intention is that add_message is
called for new messages only, update_message is called for changing the method
body on disk (e.g. when we see multiple copies of the same message, or by
DraftManager when the text of a draft is changes), and update_message_state is
called when the labels on a message change. So indexes that differentiate those
operations can exhibit more natural performance characteristics.

Also, PollManager.add_messages_from has been renamed to each_message_from and
changed significantly. It now *only* yields successive messages; it does not
load the index version of the message, and it does not auto-add the message to
the index.  (In fact, it ignores the result of the block.) There's also a new
method called add_new_message that calls Index.add_message and then relays the
update to other GUI elements.

There was a lot of refactoring of sup-sync that was part of this. Probably
not strictly necessary but it was too hard to untangle the changes.

maintain labels as Sets rather than arrays

Merge branch 'ncurses-fixes' into next

restore keypad mode after we force ncurses to refresh the whole screen

This also happen to fix a regression after a call to run-mailcap, since
for some reason a screen resize event is triggered when we get control
back...

Merge branch 'master' into next

when writing mbox files, output From_ line date as utc

Otherwise, parsing the From_ lines later will fail!

Merge branch 'run-mailcap-fixes' into next

use BufferManager.shell_out to call run-mailcap instead of system

This ensure ncurses state is correctly restored upon command completion.

don't redirect stderr to /dev/null when calling run-mailcap

Some programs will fail to work correctly if this is done, like for
example: w3m --dump, to view HTML files.

Merge branch 'master' into next

move xapian index loading into load_index

Merge branch 'master' into next

allow sup-sync to use --start-at with --restored

Merge branch 'locking-refactor' into next

Merge branch 'ncurses-fixes' into next

refactor index locking interaction and replace suicidemanager

Since SIGTERM now works, we have a better way of killing a remote
process than SuicideManager. So replace that with a $die global.
Also refactor the interactive locking code into a separate module
so as not to pollute index.rb with such trivial concerns.

die gracefully upon SIGKILL

Merge branch 'ncurses-fixes' into next

Conflicts:
bin/sup
lib/sup/buffer.rb

rewrap getch in select, handle sigwinch manually

This is necessary to operate with many versions of the ruby ncurses library,
all of which block threads when getch is being called. But this means we can't
use getch to determine a sigwich, since we won't see it until an actual key is
pressed. so we handle sigwinch ourselves.

Revert "Merge branch 'ncurses-fixes' into next"

This reverts commit 96b55e2fd39105679dcbb2aa1449a2a09ed5a8c8.

Merge branch 'ncurses-fixes' into next

Merge branch 'master' into next

trap term

improve ncurses key handling for sigwinch and sigint

see comments. adding a nodelay call before each getch means we don't need a
select() call, which means that we can get sigwinch and sigint signals from
ncurses.

port ezyang@mit.edu's chattyness patch over to xapian/ferret split

xapian: drop excessively long terms

Merge branch 'xapian'

Conflicts:
lib/sup/index.rb

Merge branch 'xapian' into next

Merge branch 'master' into next

xapian: fix issue with empty ferret query

xapian: fix MAX_DATE

explicitly load messages in testcase

Merge branch 'master' into next

Conflicts:
lib/sup/index.rb

make logging less chatty

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

Merge branch 'master' into next

fix broken arrow keypresses after shelling out

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

Merge branch 'custom-search-hook' into next

Conflicts:

lib/sup/index.rb

add custom-search hook, for shortcuts for custom search queries

Signed-off-by: Edward Z. Yang <ezyang@mit.edu>

Merge branch 'master' into next

Use /etc/mailname if present to determine the hostname for Message-Id

Signed-off-by: Adeodato Simó <dato@net.com.org.es>

Merge branch 'master' into next

easy_decode now also catches InvalidCharacter

Merge branch 'master' into next

Unbreak "bounce-command" hook (was referencing an nonexistent variable)

Signed-off-by: Adeodato Simó <dato@net.com.org.es>

Merge branch 'xapian' into next

xapian: dont exclude spam/etc in some internal searches

xapian: initialize sources in sup-dump

xapian: fix mk_addrs args in build_message

Merge branch 'xapian' into next

Conflicts:

lib/sup/poll.rb

bugfix: dates need to be truncated for xapian to index

If dates are way out of range, the current indexing process both dies
and generates bad doc ids. This patch forces dates to be within a
reasonable range (current between 1969 and 2038.) Not necessarily the
best solution.

explicitly load index version, for better error messages

Catching the LoadError was masking errors from not having dependent
library like xapian and gdbm. This change makes the error messages
reflect what's actually missing. Since we're adding index types at
roughly once every 3 years, an explicit list like this shouldn't be too
difficult to maintain.

dont using SavingHash#[] for membership test

add limit argument to author_names_and_newness_for_thread

fix String#ord monkeypatch

index: add xapian implementation

index: choose index implementation with config entry or environment variable

add Message.indexable_{body, chunks, subject}

remove last external uses of ferret docid

index: move Ferret-specific code to ferret_index.rb

index: make wrap_subj methods private

index: revert overeager opts->query rename in each_message_in_thread_for

index: remove unused method fresh_thread_id

move source-related methods to SourceManager