make current upload/download status objects available from the client

add download-status objects, to track download progress

add upload-status objects, to track upload progress

misc/find-share-anomalies.py: tool to analyze 'tahoe catalog-shares' output and look for problems

webish: add edge metadata to t=json output, including timestamps

catalog-shares: add expiration time to output

add 'tahoe catalog-shares' tool, to make a one-line summary of each share file. This can help do cross-server correlation of sharefiles, looking for anomalies

test_dirnode.py: improve error messages in case timestamp tests fail

test_dirnode.py: simplejson-1.7.1 incorrectly rounds floats to two decimal places. Don't let this bug flunk the timestamp test.

test_system.py: refactor bounce_client, probably make it stop failing on cygwin

webish: display timestamps

test_dirnode.py: assert that we update mtime and preserve ctime

dirnode.py: add metadata= to add_file(), add tests

test_dirnode.py: add diag output to test-ctime/mtime tests

dirnode: add ctime/mtime to metadata, update metadata-modifying APIs. Needs more testing and sanity checking.

docs/install-details.html: wrap to 80 cols, no content changes

test_system: remove the hackish debug_interrupt= attribute magic used to exercise interrupted-upload resumption, instead just make the Uploadable bounce the helper halfway through the upload

dirnodes.txt: update docs a bit, we don't yet do choose-latest-version, just choose-any-version

webapi.txt: document POST /uri?t=mkdir

test_system.py: remove that ugly debug_stash_RemoteencryptedUploadable hack, now that UploadResults give us a better approach

upload: if we lose the helper, go back to doing direct-to-server uploads instead of causing all subsequent uploads to fail

upload.EncryptAnUploadable: use 50KiB read chunks (instead of 50KB), to match the chunksize requested by the upload helper

test_upload.py: hush pyflakes

test_upload.py: add test to exercise CHK hashing variations

test_cli: oops, need to update this when the CHK hash changes

change encryption-key hash to include encoding parameters. This is a minor compatibility break: CHK files encoded (with convergence) before and after this will have different keys and ciphertexts. Also switched to SHA-256d for both the data-to-key hash and the key-to-storageindex hash

hashutil: add tagged_hash_256d and tagged_hasher_256d

upload: rework passing of default encoding parameters: move more responsibility into BaseUploadable

offloaded: oops, need more tricks to make the unit tests pass

helper: return full uri-extension data to the client, so it can compare encoding parameters

interfaces: remove spurious line that counted against the figleaf coverage

test_util: add full coverage for allmydata.util.deferredutil

windows: track uninstalls

the confwiz and the native_client backend both gained hooks to track
uninstall events.  however that somehow didn't make it to the uninstaller :-)

tahoe dump-share: remove --filename option, just take it from argv

test_system: deferred-handling logic in test_upload_and_download was broken

dump-share: tweak formatting a little bit, to make dumping multiple shares in a row easier to read

add 'tahoe find-shares' command, to locate share files on a local node's disk

dump-cap: include UEB_hash in output

download.py: make logging safe in ValidatedBucket

webish: more upload stats: total encode-and-push rate, already-in-grid existence check time

webish: add when_done= to POST /uri?t=upload . I did not add a 'recent uploads' section to the welcome page, but I think the new upload-results page provides the desired data

UploadResults: add more helper timing stats (ciphertext fetch times)

add upload-results timing info for helper uploads. This changes the Helper protocol, and introduces a compatibility break

add upload timings and rates to the POST /uri?t=upload results page

webish: make POST /uri?t=upload deposit you on an 'Upload Results' page

webish.py: refactor /uri handlers, one rend.Page class per operation

test_web.py: hush pyflakes

webish: add PUT /uri?mutable=true

webish: add POST /uri?t=upload&mutable=true

webish: add upload/view-uri forms (not associated with any particular directory) to the welcome page. Document POST /uri?t=upload .

upload: return an UploadResults instance (with .uri) instead of just a URI

webish: add storage-consumed estimate on welcome page

storage: change service name from 'storageserver' to 'storage'

webish: display tahoe import path on the welcome page, to help figure out where the code is coming from

refactor node startup, remove tub_ready()

setup: fix the md5sum of the bundled setuptools egg

docs/testgrid/introducer.furl: update to new introducer

webish: condense display of nickname a little bit

webish: show nickname too

webish: add extra introducer data (version, timestamps) to Welcome page

test_introducer.py: increase timeouts on poll() calls

bundle foolscap-0.2.4 instead of 0.2.3

bump foolscap dependency to 0.2.4, since we now use log.err

docs/configuration.txt: wrap to 80 cols

docs/configuration.txt: document nickname, no_storage, readonly_storage

introducer: remove remaining bits of 'push-to-myself' flags. The uploading/downloading node is no longer special.

introducer: remove PeerCountObserver, tests are managing with purely poll-for-connected approachers

big introducer refactoring: separate publish+subscribe. Addresses #271.

PollMixin: add timeout= argument, rewrite to avoid tail-recursion problems

windows: include latest windown build, winfuse and tray.exe

stats: fix service issues

having moved inititalisation into startService to handle tub init cleanly,
I neglected the up-call to startService, which wound up not starting the
load_monitor.

also I changed the 'running' attribute to 'started' since 'running' is
the name used internally by MultiService itself.

munin stats: don't suppress series with no current data

having changed tahoe-stats to not report data series if there was no recent
data recorded for a node, I wound up making it hide the data series.  this
change causes it to report all data series for which stats exist in the
'config' phase, so that they show up, but only report actual data if the
stats are recent, so that they show up as missing if the node is not
reporting stats currently

tahoe_fuse: system test: Verify file contents can be properly read.

tahoe_fuse: system test: Populate a testdir with files and empty children directories, then test the fuse interface for proper listings and size metadata.

tahoe_fuse: system test: Create a separate directory for each test and pass the cap and local path to each test.  Add two basic sanity tests for empty directories.

tahoe_fuse: system test: Replace repeated attempts at webapi calls with single calls, abstract webapi calls into a single function.

tahoe_fuse: system test: Remove some needless comments.

tahoe_fuse: system test: Move test summary to end of output.

tahoe_fuse: system tests: Update comments.

tahoe_fuse: system test: Make output checking into non-fatal warnings, and make patterns looser.

docs: webapi: Add concise shorthand for options, input, output, and statuses to the operation descriptions...

I'm not convinced if this is the best way to do this, but I find it
handy to have a conscise "quick reference" for the webapi operations
which summarize all related I/O.

Another possibility is to reject this patch, but create a separate
"webapi_quickref.html" with a concise table.

tahoe_fuse.py: system test: Distinguish between TestFailures and unexpected exceptions during testing (and fix a typo).

tahoe_fuse.py: system test: setup: lexically sort test names, create a TestFailure class, implement an empty directory listing test.

tahoe_fuse.py: system test: setup: fixed a bug in which the mointpoint was not created before mounting.

tahoe_fuse.py: system test: Many changes to framework...

The flow control has been de-obfuscated a bit.

Some output changes.

The test framework has quite a few race conditions, but it does a reasonable job of setting up and cleaning up.

Individual tests run after all the setup layers are in place.

client.py: hush pyflakes

client.py: touch BASEDIR/no_storage to not publish a storage server. Addresses #271

introducer: allow nodes to refrain from publishing themselves, by passing furl=None. This would be useful for clients who do not run storage servers.

docs: architecture.txt: some edits with Amber

rename storage_index_chk_hash() to storage_index_hash() and add TODO about how our use of it now includes keys that are not CHKs

docs: update docs/about.html with Amber

stats: added IStatsProducer interface, fixed stats provider startup

this adds an interface, IStatsProducer, defining the get_stats() method
which the stats provider calls upon and registered producer, and made the
register_producer() method check that interface is implemented.

also refine the startup logic, so that the stats provider doesn't try and
connect out to the stats gatherer until after the node declares the tub
'ready'.  this is to address an issue whereby providers would attach to
the gatherer without providing a valid furl, and hence the gatherer would
be unable to determine the tubid of the connected client, leading to lost
samples.

munin stats: suppress output of data more that 5min old

if a node fails to report stats, the natural thing to do in re munin is to
supress the data for that data series.  the previous tahoe-stats would output
whatever data was present in the stats_gatherer's stats.pickle, regardless of
how old.

this change means that if the gatherer hasn't received data within the last
5 min, then no data is reported to munin for that node.

munin stats: change truncated nodeid to 4 char (not 8)

stats_gatherer: reject "<unauth>" as a tubid, to avoid screwing up the data.

Makefile: add 'upload-tarballs' target, using a foolscap-based file-transfer tool

storage: clean up use of si_s vs si_dir, add test for BadWriterEnabler message, add some logging

remove unused import (thanks, pyflakes)

storage: make two levels of share directories so as not to exceed certain filesystems's limitations on directory size
The filesystem which gets my vote for most undeservedly popular is ext3, and it has a hard limit of 32,000 entries in a directory.  Many other filesystems (even ones that I like more than I like ext3) have either hard limits or bad performance consequences or weird edge cases when you get too many entries in a single directory.

This patch makes it so that there is a layer of intermediate directories between the "shares" directory and the actual storage-index directory (the one whose name contains the entire storage index (z-base-32 encoded) and which contains one or more share files named by their share number).

The intermediate directories are named by the first 14 bits of the storage index, which means there are at most 16384 of them.  (This also means that the intermediate directory names are not a leading prefix of the storage-index directory names -- to do that would have required us to have intermediate directories limited to either 1024 (2-char), which is too few, or 32768 (3-chars of a full 5 bits each), which would overrun ext3's funny hard limit of 32,000.))

This closes #150, and please see the "convertshares.py" script attached to #150 to convert your old tahoe-0.7.0 storage/shares directory into a new tahoe-0.8.0 storage/shares directory.