put all private state in $BASEDIR/private
fixes #219

The only part of #219 that this doesn't include is the part about
logpublisher, which has been moved out of tahoe into foolscap.

we no longer need to replace "/" with "!" in urls

tidy-up some comments and logging messages

fix the overwrite button and add unit test for it

test_system.py: oops, match change in RIControl

test_web.py: cosmetic, remove leftover trailing space

check-speed: test SSK upload/download speed too. SDMF imposes a limit on the file sizes, no 10MB or 100MB test

Makefile check-speed: force-quit any leftover client before starting a new test

remove logpublisher, use the Foolscap version now that this functionality has been moved into Foolscap-0.2.2

remove tests of logging functionality that's been subsumed by foolscap logging

move to foolscap-0.2.2

remove unimplemented and skipped test for feature that we don't plan to implement any time soon (XML-RPC interface)

remove unused import: thanks, pyflakes

refactor the feature of getting versions of packages, include the version numbers of more of the packages that we use

a few documentation and naming convention updates
Notable: the argument to make REPORTER has been renamed to TRIALARGS.

editing: change names like "MyThing" to "FakeThing" for fake objects in unit tests

fix unit test to pass forward-slashes to the CLI since it demands that the CLI emit forward-slashes

test_web.py: survive localdir/localfile= names with spaces. Should close #223

test_system: write test data in 'b' verbatim mode, since on windows the default text-mode is different. Addresses one of the failures in #223

webish: append save=true to a GET URL to save-to-disk. Closes #222.

README.win32: add note showing MikeB where this file is making false statements :-)

README.win32: clarify layout a bit

fix import error, detected thanks to "make test"

fix missing import, thanks to pyflakes

fix test_introducer to wait for the right things in order to avoid intermittent test failures

setup.py: arg, another stupid paste error, affecting cygwin

upgrade to foolscap-0.2.1, with a new logging framework

fix IntroducerClient.when_enough_peers()
add IntroducerClient.when_few_enough_peers(), fix and improve test_introducer

setup.py: fix stupid cut-and-paste error

build-deps: require setuptools 0.6c4 or later, because older ones don't allow foolscap to use os.random at import time

control.py: hush pyflakes warning

the wait_for_numpeers= argument to client.upload() is optional: make both the code and the Interface reflect this

move increase_rlimits() into iputil and make it a no-op on Windows

make check-memory use the new POST /uri?t=upload

make control.get_memory_usage() return all zeroes if reading /proc/mem/whatsit raises an exception

add POST /uri?t=upload and tests thereof
Hm...  I refactored processing of segments in a way that I marked as "XXX HELP
I AM YUCKY", and then I ran out of time for rerefactoring it before I
committed.  At least all the tests pass.

storage.py: factor out a common compare() routine

webish: fix overwrite form display

test_web.py: add coverage for directory listings that include mutable files

test_web.py: add coverage for POST t=check

webish: add POST t=mutable, make it replace files in-place, add t=overwrite

test_web.py: remove last use of fake_* methods, remove dead code

refactor web tests, and interfaces.IFileNode

checker: improve test coverage a little bit

uri.py: improve test coverage

remove most (maybe all?) traces of old Dirnode class. Yay for negative code days.

improve test coverage on FileNode.check

test_dirnode.py: obtain full coverage of dirnode.py

rename dirnode2.py to dirnode.py

test_mutable: improve test coverage a bit, add test_filenode.py

remove PyCrypto, now we only use pycrypto++

use AES from pycryptopp instead of pycrypto, also truncate the keys slightly differently

remove leftover defer.setDebugging(), to speed up tests from 200s to 83s

fix several bugs and warnings -- thanks, pyflakes

A hastily written single-threaded read-only fuse client.

merge patch to integrate decentralized directories with "introducer_and_vdrive.py: use logpublisher too"

introducer_and_vdrive.py: use logpublisher too

encode.py: trivial whitespace change

merge patch to integrate decentralized directories with patch "download: use hierarchical logging"

more hierarchical logging: download/upload/encode

download: use hierarchical logging

logging: only test log.err when Twisted is new enough to let us ignore the generated errors

merge patch to integrate decentralized directories with patch to "only test log.err when Twisted is new enough to let us ignore the generated errors"

hierarchical logging: add numbered messages and parent= args

debian: add Depends: on python-pycryptopp, now that it's been packaged

test_client: stall 2.0s between shutdown and restart, trying to fix cygwin

logtool: add 'gather' and 'dump' modes

logtool: rename get-logs.py to logtool.py

logpublisher: hush pyflakes warning

logpublisher: implement subscribe/publish for log, add a sample client

mutable: fix control flow to allow good+bad shares from a peer. Fixes #211.

node.py: try to fix rlimit-setting again

node.py: try rlimit fix again

node.py: try to fix RLIMIT_NOFILE on solaris too

node.py: raise RLIMIT_NOFILE on bsd/cygwin to more than 256

test_mutable: workaround: use more peers to avoid random test failures.

The underlying issue is recorded in #211: one corrupt share in a query
response will cause us to ignore the remaining shares in that response, even
if they are good. In our tests (with N=10 but only 5 peers), this can leave
us with too few shares to recover the file.

The temporary workaround is to use 10 peers, to make sure we never get
multiple shares per response. The real fix will be to fix the control flow.

This fixes #209.

mutable: add more logging to retrieval process

provisioning: add more options for num-servers and server-dBA

mutable: validate share_hash_chain for each inbound share

merge patch to integrate decentralized directories with patch to handle bad hashes

mutable: handle bad hashes, improve test coverage, rearrange slightly to facilitate these

README: advise 'make clean' before 'make build-deps' (after update), otherwise old versions of the dependent libaries can be used in preference to the newer one

docs/subtree1.svg: make the page smaller

decentralized directories: integration and testing
 * use new decentralized directories everywhere instead of old centralized directories
 * provide UI to them through the web server
 * provide UI to them through the CLI
 * update unit tests to simulate decentralized mutable directories in order to test other components that rely on them
 * remove the notion of a "vdrive server" and a client thereof
 * remove the notion of a "public vdrive", which was a directory that was centrally published/subscribed automatically by the tahoe node (you can accomplish this manually by making a directory and posting the URL to it on your web site, for example)
 * add a notion of "wait_for_numpeers" when you need to publish data to peers, which is how many peers should be attached before you start.  The default is 1.
 * add __repr__ for filesystem nodes (note: these reprs contain a few bits of the secret key!)
 * fix a few bugs where we used to equate "mutable" with "not read-only".  Nowadays all directories are mutable, but some might be read-only (to you).
 * fix a few bugs where code wasn't aware of the new general-purpose metadata dict the comes with each filesystem edge
 * sundry fixes to unit tests to adjust to the new directories, e.g. don't assume that every share on disk belongs to a chk file.

unit tests: bump up a timeout which I encountered when running on a very slow machine

setup: README: warn against Python 2.4.1, recommend easy_install, link to easy_install download page, edit for clarity

setup: make dependency failures more helpful (thanks to Priyanka)

setup: README: a few clarifications thanks to Priyanka

setup: pycryptopp: upgrade from v0.2.7 to v0.2.8

setup: pycryptopp: upgrade from v0.2.6 to v0.2.7 (adds AES)

remove tahoe_put-web2ish.py
It isn't currently used, and I don't remember what part of its behavior was so much better than tahoe_put.py, and Brian has subsequently improved tahoe_put.py.

setup: pass INCLUDE_DIRS and LIBRARY_DIRS variables, if any to setup.py from Makefile

IMutableFileNode is a subtype of IFileNode
I'm not 100% sure that this is correct, but it looks reasonable, it passes unit
tests (although note that unit tests are currently not covering the new mutable
files very well), and it makes the "view JSON" link on a directory work instead
of raising an assertion error.

don't provide the "overwrite" button if the file is readonly to you

WUI: hook up an "overwrite" button on mutable files

remove parts of pycrypto that we are no longer going to use: SHA256 and RSA

setup: require pycryptopp >= 0.2.6

setup: upgrade bundled pycryptopp from v0.2.5 to v0.2.6

mutable.py: fix padding/shape-of-input-data to zfec

setup: automatically discover files to include in packages
(Because they are python packages or because they are registered under darcs revision control.)