key_generator: service related cleanups, incorporation into system test

this cleans up KeyGenerator to be a service (a subservice of the
KeyGeneratorService as instantiated by the key-generator.tac app)
this means that the timer which replenishes the keypool will be
shutdown cleanly when the service is stopped.

adds checks on the key_generator service and client into the system
test 'test_mutable' such that one of the nodes (clients[3]) uses
the key_generator service, and checks that mutable file creation
in that node, via a variety of means, are all consuming keys from
the key_generator.

key_generator: added a unit test

implemented a unit test of basic KeyGenService functionality,
fixed a bug in the timing of pool refreshes

native client - MikeB's updates to do delayed caching (introduces write delays if cache gets big), status indicator if uploading files on Windows (flashing system tray icon)

trial_figleaf.py: make our figleaf code compatible with both Twisted-8.x and Twisted-2.5.x

added offloaded key generation

this adds a new service to pre-generate RSA key pairs.  This allows
the expensive (i.e. slow) key generation to be placed into a process
outside the node, so that the node's reactor will not block when it
needs a key pair, but instead can retrieve them from a pool of already
generated key pairs in the key-generator service.

it adds a tahoe create-key-generator command which initialises an
empty dir with a tahoe-key-generator.tac file which can then be run
via twistd.  it stashes its .pem and portnum for furl stability and
writes the furl of the key gen service to key_generator.furl, also
printing it to stdout.

by placing a key_generator.furl file into the nodes config directory
(e.g. ~/.tahoe) a node will attempt to connect to such a service, and
will use that when creating mutable files (i.e. directories) whenever
possible.  if the keygen service is unavailable, it will perform the
key generation locally instead, as before.

setup: rename GNUmakefile to Makefile
It's evil and wrong to call something a "Makefile" when it contains code that can't be interpreted by POSIX make and requires GNU make.
But everyone else is doing it.  ;-)

introducer.py: accelerate reconnection after being offline. Closes #374.

When we establish any new connection, reset the delays on all the other
Reconnectors. This will trigger a new batch of connection attempts. The idea
is to detect when we (the client) have been offline for a while, and to
connect to all servers when we get back online. By accelerating the timers
inside the Reconnectors, we try to avoid spending a long time in a
partially-connected state (which increases the chances of causing problems
with mutable files, by not updating all the shares that we ought to).

munin plugins: add 'graph_category tahoe'

add munin/tahoe-rootdir-space

munin/tahoe-introstats.py: put this graph in the 'tahoe' category

native client - removed unused file (used to be for elevating privileges) and changed installer to start up the AllmydataTray executable directly

native client - changing way the executables ask for elevated privileges

storage: emit log messages on bucket allocate/read and mutable writev

docs: fix anchor text of hyperlink to tarball

helper: add another munin plugin

helper: add more stats to webapi, at /helper_status

helper: add stats for the gatherer, show some on the webish welcome page

add GET /uri/URI/?t=deep-size, to compute the total size of immutable files reachable from a given directory

native client - updated to auto mount drive at start as well as when the drive is opened

native client - updated to automatically create a Backup directory, temp directory cleanup, automatic mounting and unmounting of the drive when starting and stopping the service, lots of Vista backup error fixes

node.py: make twistd.pid world-readable, so stats-gathering tools (specifically memory-measuring munin plugins) can see it

boodlegrid.tac: update sound samples

web-status: client methods like list_all_uploads() return Upload instances,
not status instances. Fix this. The symptom was that following a link like
'up-123' that referred to an old operation (no longer in memory) while an
upload was active would get an ugly traceback instead of a "no such resource"
message.

misc/boodlegrid.tac: tool to monitor a grid through its flogports

setup: remove bundled setuptools-0.6c7

setup: require setuptools >= v0.6c8

setup: bundle setuptools-0.6c8, we need a bugfix in it

setup: merge in changes to ez_setup.py from the upstream setuptools project

setup: simplify makefile's path manipulation now that we rely on setup.py develop

tahoe-nodememory.py: change category to Tahoe

docs: link to the 1.0.0 tarball in docs/install.html

TAG allmydata-tahoe-1.0.0

docs: update relnotes.txt for Tahoe v1.0!

Copy amd-nodememory munin plugin over to tahoe and point at correct pidfile

native client - updated to fix windows vista backup rproblems, edit word documents directly on the drive, requeue files that failed to upload from the node to the helper

add a munin plugin to display introducer stats

introweb.py: add ?t=json, to provide machine-readable subscriber counts

encode.py: also record the size, along with plaintext_hash and SI

encode: log a plaintext hash and SI for each upload. This will allow the log gatherer to correlate the two, to better measure the benefits of convergence

confwiz: set a convergence domain based on root_dir upon config

when the confwiz configures a node (i.e. typically once on mac, once per
install on windows) in addition to writing the root_dir.cap retrieved from
the native_client backend into a config file, it additionally writes a hash
thereof into the 'convergence' config file.

this causes uploads from this node to use a consistent 'convergence' hashing
value matching any other nodes with the same configured root_dir, i.e. for
the most part other systems installed and configured on the same account.

mutable: revise a couple of error messages

at brian and zooko's suggestion, reword an error message encountered when
multiple writers are racing to make overlapping changes to a directory

upload.py: remove spurious trailing quotes that confuse syntax-highlighting

disable plaintext hashes in shares, but leave a switch to turn it back on

UNDO: upload: stop putting plaintext and ciphertext hashes in shares.
This removes the guess-partial-information attack vector, and reduces
the amount of overhead that we consume with each file. It also introduces
a forwards-compability break: older versions of the code (before the
previous download-time "make hashes optional" patch) will be unable
to read files uploaded by this version, as they will complain about the
missing hashes. This patch is experimental, and is being pushed into
trunk to obtain test coverage. We may undo it before releasing 1.0.

CREDITS: add Paul Gerhardt, who submitted a small patch for make check-deps to be more newbie-friendly

setup: don't echo "signal-error" to stdout when testing for errors
This patch is thanks to Paul Gerhardt.

docs: document the private/convergence configuration file

fix check-memory to use new upload API (which requires a "convergence" argument), and change it to measure convergence instead of random-key, since convergence is the use case we care about more

use added secret to protect convergent encryption

Now upload or encode methods take a required argument named "convergence" which can be either None, indicating no convergent encryption at all, or a string, which is the "added secret" to be mixed in to the content hash key.  If you want traditional convergent encryption behavior, set the added secret to be the empty string.

This patch also renames "content hash key" to "convergent encryption" in a argument names and variable names.  (A different and larger renaming is needed in order to clarify that Tahoe supports immutable files which are not encrypted content-hash-key a.k.a. convergent encryption.)

This patch also changes a few unit tests to use non-convergent encryption, because it doesn't matter for what they are testing and non-convergent encryption is slightly faster.

upload: stop putting plaintext and ciphertext hashes in shares.
This removes the guess-partial-information attack vector, and reduces
the amount of overhead that we consume with each file. It also introduces
a forwards-compability break: older versions of the code (before the
previous download-time "make hashes optional" patch) will be unable
to read files uploaded by this version, as they will complain about the
missing hashes. This patch is experimental, and is being pushed into
trunk to obtain test coverage. We may undo it before releasing 1.0.

download: make plaintext and ciphertext hashes in the UEB optional.
Removing the plaintext hashes can help with the guess-partial-information
attack. This does not affect compatibility, but if and when we actually
remove any hashes from the share, that will introduce a
forwards-compatibility break: tahoe-0.9 will not be able to read such files.

native client - adding support for special icons for shared and recycling directories

docs: add some accounting proposals

resolve conflict in windows installer conf

confwiz: refine the descriptive text on the conf wiz pages

windows installer: use an allmydata logo in setup wizard

confwiz: reworked confwiz look and feel

this changes the confwiz to have a look and feel much more consistent
with that of the innosetup installer it is launched within the context
of.  this applies, naturally, primarily to windows.

macapp: updated icon for mac build

native client - adding checks for elevating and managing privileges on Vista

webish mkdir-p: added unit test

added a test for the simple mkdir-p hack I added yesterday

checks that mkdir-p can create a directory hierarchy, and that resubmitting
a request for the same path yields the existing dir's uri

windows installer - changed to reflect the new StartAllmydata.exe executable that is used to launch the various pieces of the native client. Also verified that the SMB service was stopped when uninstalling.

native client - added StartAllmydata.exe so that we can start/stop processes in Vista

add a mkdir-p POST handler

this adds a t=mkdir-p call to directories (accessed by their uri as
/uri/<URI>?t=mkdir=p&path=/some/path) which returns the uri for a
directory at a specified path before the given uri, regardless of
whether the directory exists or whether intermediate directories
need to be created to satisfy the request.

this is used by the migration code in MV to optimise the work of
path traversal which was other wise done on every file PUT

native client - fixes for drive size (now 1TB), running service as adminstrator to allow client stopping and starting in Vista, large number of files fix

web/status.py: guard against file_size=None, closes #354

refactor one of the dispatch routines in webish.py
The behavior is intended to be unchanged by this refactoring.  Unit tests show no change in behavior.

docs: link from install.html to the (imminent) location of allmydata-tahoe-0.9.0.tar.gz

TAG allmydata-tahoe-0.9.0

native client - fixed icon for system tray, improved link batching

docs: small edit to relnotes.txt

docs: link to the current CREDITS file from relnotes.txt

docs: fix typo in relnotes.txt

docs: small edit to relnotes.txt

docs: update relnotes.txt for allmydata.org "Tahoe" v0.9.0 !
Whee!

mutable.py: split replace() into update() and overwrite(). Addresses #328.

storage servers announce that they will support clients as old as v0.8.0
Not that anyone pays attention to what storage servers claim about what versions they will support.

CREDITS

introducer: record a timestamp with each announcement, and display it on the introducer's web page

introducer: record a timestamp with each subscriber, and display it on the introducer's web page

introweb: combine announcement and subscriber information to show version+nickname for each client

client: publish a 'stub client' announcement to the introducer, to provide version/nickname information for each client

webish: put a trailing slash in the node.url file, since our unit tests use it, and some versions of twisted or nevow don't automatically add one

introweb.py: tolerate non-setLocationed client tubs

oops, add introducer.xhtml

add a webserver for the Introducer, showing service announcements and subscriber lists

native client - updated executables and dll's to have green icon, preference for log levels, and force a link every 100 files when uploading large amounts of files

makefile - unreverted Zooko's change to setup.py, this originally was to see if it was causing the build to create a non-running installer on windows, but it wasn't the problem.

increase remote-interface size limits to 16EiB by not casually using 'int' as a constraint

mutable: tolerate multiple encodings, using whichever version is recoverable first. Closes #312

test_mutable: improve multiple-encodings test coverage

test_mutable: make test-multiple-encodings work

test_mutable: more test coverage, building up a framework to cause reads to occur in a specific order

native client - updated .exe's and .dll's with better caching, using new multi-child upload call, preferences dialog

makefile: clean up pyutil.egg too

mutable: increase max segsize to 3.5MB, to allow dirnodes with about 10k entries

.darcs-boringfile: add pyutil, since it is in setup_requires now

make the nodeurl start with '127.0.0.1' instead of with 'localhost'
This is because there exist in the wild computers that are misconfigured so that 'localhost' doesn't resolve to 127.0.0.1.  On those computers, using 'localhost' for the nodeurl is a security problem, because the user commonly sends valuable caps to the nodeurl.

setup: use "-rNN" with NN the "revision number" instead of "-NN" with NN the "build number" in the Windows builds

setup_require pyutil >= 1.3.16, as the Windows installer builder's misc/sub-ver.py relies on it

setup: remove old bundled pyutil-1.3.12