logtool: add 'gather' and 'dump' modes

logtool: rename get-logs.py to logtool.py

logpublisher: hush pyflakes warning

logpublisher: implement subscribe/publish for log, add a sample client

mutable: fix control flow to allow good+bad shares from a peer. Fixes #211.

node.py: try to fix rlimit-setting again

node.py: try rlimit fix again

node.py: try to fix RLIMIT_NOFILE on solaris too

node.py: raise RLIMIT_NOFILE on bsd/cygwin to more than 256

test_mutable: workaround: use more peers to avoid random test failures.

The underlying issue is recorded in #211: one corrupt share in a query
response will cause us to ignore the remaining shares in that response, even
if they are good. In our tests (with N=10 but only 5 peers), this can leave
us with too few shares to recover the file.

The temporary workaround is to use 10 peers, to make sure we never get
multiple shares per response. The real fix will be to fix the control flow.

This fixes #209.

mutable: add more logging to retrieval process

provisioning: add more options for num-servers and server-dBA

mutable: validate share_hash_chain for each inbound share

merge patch to integrate decentralized directories with patch to handle bad hashes

mutable: handle bad hashes, improve test coverage, rearrange slightly to facilitate these

README: advise 'make clean' before 'make build-deps' (after update), otherwise old versions of the dependent libaries can be used in preference to the newer one

docs/subtree1.svg: make the page smaller

decentralized directories: integration and testing
 * use new decentralized directories everywhere instead of old centralized directories
 * provide UI to them through the web server
 * provide UI to them through the CLI
 * update unit tests to simulate decentralized mutable directories in order to test other components that rely on them
 * remove the notion of a "vdrive server" and a client thereof
 * remove the notion of a "public vdrive", which was a directory that was centrally published/subscribed automatically by the tahoe node (you can accomplish this manually by making a directory and posting the URL to it on your web site, for example)
 * add a notion of "wait_for_numpeers" when you need to publish data to peers, which is how many peers should be attached before you start.  The default is 1.
 * add __repr__ for filesystem nodes (note: these reprs contain a few bits of the secret key!)
 * fix a few bugs where we used to equate "mutable" with "not read-only".  Nowadays all directories are mutable, but some might be read-only (to you).
 * fix a few bugs where code wasn't aware of the new general-purpose metadata dict the comes with each filesystem edge
 * sundry fixes to unit tests to adjust to the new directories, e.g. don't assume that every share on disk belongs to a chk file.

unit tests: bump up a timeout which I encountered when running on a very slow machine

setup: README: warn against Python 2.4.1, recommend easy_install, link to easy_install download page, edit for clarity

setup: make dependency failures more helpful (thanks to Priyanka)

setup: README: a few clarifications thanks to Priyanka

setup: pycryptopp: upgrade from v0.2.7 to v0.2.8

setup: pycryptopp: upgrade from v0.2.6 to v0.2.7 (adds AES)

remove tahoe_put-web2ish.py
It isn't currently used, and I don't remember what part of its behavior was so much better than tahoe_put.py, and Brian has subsequently improved tahoe_put.py.

setup: pass INCLUDE_DIRS and LIBRARY_DIRS variables, if any to setup.py from Makefile

IMutableFileNode is a subtype of IFileNode
I'm not 100% sure that this is correct, but it looks reasonable, it passes unit
tests (although note that unit tests are currently not covering the new mutable
files very well), and it makes the "view JSON" link on a directory work instead
of raising an assertion error.

don't provide the "overwrite" button if the file is readonly to you

WUI: hook up an "overwrite" button on mutable files

remove parts of pycrypto that we are no longer going to use: SHA256 and RSA

setup: require pycryptopp >= 0.2.6

setup: upgrade bundled pycryptopp from v0.2.5 to v0.2.6

mutable.py: fix padding/shape-of-input-data to zfec

setup: automatically discover files to include in packages
(Because they are python packages or because they are registered under darcs revision control.)

setup: continue running setup.py even if ez_setup.py can't be imported

hashutil.py: switch from pycrypto to pycryptopp SHA256

setup: fix formatting of error messages from makefile

docs/webapi.txt: document the POST t=upload&mutable=on command used to create mutable files

webish: add preliminary mutable file support: upload, download, listings, JSON, URI, RO-URI. No replace yet.

consolidate dirnode/filenode-creation code into Client

mutable: cheap padding hack to make zfec tolerate short files

setup: require pycryptopp >= v0.2.5

setup: upgrade the bundled pycryptopp tarball from pycryptopp v0.2.3 to pycryptopp v0.2.5

mutable: verify incoming share signatures during Publish, it's not that expensive and it's a good idea

test_system: RSA keys are even more variable than I thought, 2044..2049

mutable: add basic test coverage of new-dirnodes-using-mutable-files

mutable: fix multiple-versions-interfering-with-each-other bug. replace() tests now pass.

test_system: RSA keys vary in size, expand valid ranges in test

mutable: grab encprivkey when necessary during publish, fix test_mutable

docs/configuration.txt: expand the 'sizelimit' docs

mutable: rearrange order of Publish to allow replace() to work. Doesn't work yet. Also test_mutable is disabled for a while.

Makefile: check-deps: check for pycryptopp

mutable: fix usage of NeedMoreDataError

mutable: wire in RSA for real, using pycryptopp

mutable: make error handling more robust

UNDO: hashutil: replace pycrypto's SHA256 with pycryptopp's SHA256

hashutil: replace pycrypto's SHA256 with pycryptopp's SHA256

setup: tell setuptools that we depend on pycryptopp >= 0.2.3

setup: upgrade to pycryptopp v0.2.3

mutable: test roundtrip, make it work

storage.py: add a little logging (disabled)

setup: print out the version number of pycryptopp in "tahoe --version"

CREDITS: more credit to nejucomo since we accepted a doc patch

README: fix whitespace

setup: add Crypto++ and pycryptopp to dependencies
Crypto++ is a new manual dependency (boo hoo), and pycryptopp is a new automatic dependency.

setup: add misc/dependencies/pycryptopp-0.2.1.tar.gz

Add "sizelimit" to configuration doc.

test_system.mutable: make sure we exercise FEC padding

dump-share: emit SDMF information too

add container_size to mutable dump-share output

mutable: stub out pubkey creation until we wire in pycryptopp properly

test_system.mutable: add test coverage for the 'dump-share' debug command

test_system: add early test for mutable slots, currently publish-only

test_mutable: remove dead code

debug: add mutable-slot support to 'dump-share' command

mutable: storage_index is always 16 bytes

mutable: fix use of storage API

stabilize on 20-byte nodeids everywhere, printed with foolscap's base32

mutable: rearrange classes, putting MutableFileNode at the bottom

mutable: parameterize Publish/Retrieve classes in MutableFileNode, for tests

mutable: move IV into signed prefix, add more retrieval code

mutable: get most of the retrieve-side code written. no tests yet.

test_mutable.py: hush pyflakes

mutable.Publish: rearrange create() to use more of it in unit tests

mutable.Publish: more tests

mutable.Publish: create a dispatch_map for the benefit of recovery code, and pull pack/unpack methods out into functions

mutable: use proper enable/renew/cancel secrets

Makefile: add 'find-trailing-spaces' tool and target

mutable: added send-messages-to-peers code, about 70% done. No recovery code yet.

storage: rewrite slot API, now use testv_and_readv_and_writev or readv

test_mutable: hush pyflakes warning

mutable: add peer-selection to Publish, and some basic unit tests

storage: add readv_slots: get data from all shares

mutable.py: start writing share-mapping code

Makefile: add simple 'repl' target to start a python interpreter with a useful PYTHONPATH

mutable.py: add share-unpacking code, use it for more tests

mutable.txt: need offset of EOF too

mutable.txt: more notes

mutable: implement filenode share-packing, still pretty rough

mutable.py: sketch out data-structure packing/unpacking methods