more new-pyflakes warnings fixed

the new pyflakes is stricter, complaining about function definitions that overshadow earlier definitions or imports. Fix some of its complaints.

hush pyflakes

create_node.py: need to create private/ dir in create-client so we can touch the my_private_dir.cap file

oops, touch private/my_private_dir.cap when creating the client

check_load: add stats-gathering

add a simple load-generating tool to do random reads and writes

move my_private_dir.cap into private/

my_private_dir.cap: add newline for readability, open with mode 'w' not 'w+' since we don't need to read from this filehandle

remove the slash-to-bang conversion from CLI tools and webapi.txt

unit test that POST /uri/?t=mkdir works

remove the DirnodeURI foolscap schema and mv those regexes into uri.py
We currently do not pass dirnode uris over foolscap.

make more precise regexp for WriteableSSKFileURI and DirnodeURI and use it in unit tests
Also allow an optional leading "http://127.0.0.1:8123/uri/".
Also fix a few unit tests to generate bogus Dirnode URIs of the modern form instead of the former form.

fix unit tests to assert that we do *not* link to start.html when there is no private dir, instead of asserting that we *do*

do not put a link from the welcoXme page to the start.html if there is not a private directory

rename "my_private_dir.uri" to "my_private_dir.cap"

rename "secret" to "lease_secret" and change its size from 16 to 32 bytes

put all private state in $BASEDIR/private
fixes #219

The only part of #219 that this doesn't include is the part about
logpublisher, which has been moved out of tahoe into foolscap.

we no longer need to replace "/" with "!" in urls

tidy-up some comments and logging messages

fix the overwrite button and add unit test for it

test_system.py: oops, match change in RIControl

test_web.py: cosmetic, remove leftover trailing space

check-speed: test SSK upload/download speed too. SDMF imposes a limit on the file sizes, no 10MB or 100MB test

Makefile check-speed: force-quit any leftover client before starting a new test

remove logpublisher, use the Foolscap version now that this functionality has been moved into Foolscap-0.2.2

remove tests of logging functionality that's been subsumed by foolscap logging

move to foolscap-0.2.2

remove unimplemented and skipped test for feature that we don't plan to implement any time soon (XML-RPC interface)

remove unused import: thanks, pyflakes

refactor the feature of getting versions of packages, include the version numbers of more of the packages that we use

a few documentation and naming convention updates
Notable: the argument to make REPORTER has been renamed to TRIALARGS.

editing: change names like "MyThing" to "FakeThing" for fake objects in unit tests

fix unit test to pass forward-slashes to the CLI since it demands that the CLI emit forward-slashes

test_web.py: survive localdir/localfile= names with spaces. Should close #223

test_system: write test data in 'b' verbatim mode, since on windows the default text-mode is different. Addresses one of the failures in #223

webish: append save=true to a GET URL to save-to-disk. Closes #222.

README.win32: add note showing MikeB where this file is making false statements :-)

README.win32: clarify layout a bit

fix import error, detected thanks to "make test"

fix missing import, thanks to pyflakes

fix test_introducer to wait for the right things in order to avoid intermittent test failures

setup.py: arg, another stupid paste error, affecting cygwin

upgrade to foolscap-0.2.1, with a new logging framework

fix IntroducerClient.when_enough_peers()
add IntroducerClient.when_few_enough_peers(), fix and improve test_introducer

setup.py: fix stupid cut-and-paste error

build-deps: require setuptools 0.6c4 or later, because older ones don't allow foolscap to use os.random at import time

control.py: hush pyflakes warning

the wait_for_numpeers= argument to client.upload() is optional: make both the code and the Interface reflect this

move increase_rlimits() into iputil and make it a no-op on Windows

make check-memory use the new POST /uri?t=upload

make control.get_memory_usage() return all zeroes if reading /proc/mem/whatsit raises an exception

add POST /uri?t=upload and tests thereof
Hm...  I refactored processing of segments in a way that I marked as "XXX HELP
I AM YUCKY", and then I ran out of time for rerefactoring it before I
committed.  At least all the tests pass.

storage.py: factor out a common compare() routine

webish: fix overwrite form display

test_web.py: add coverage for directory listings that include mutable files

test_web.py: add coverage for POST t=check

webish: add POST t=mutable, make it replace files in-place, add t=overwrite

test_web.py: remove last use of fake_* methods, remove dead code

refactor web tests, and interfaces.IFileNode

checker: improve test coverage a little bit

uri.py: improve test coverage

remove most (maybe all?) traces of old Dirnode class. Yay for negative code days.

improve test coverage on FileNode.check

test_dirnode.py: obtain full coverage of dirnode.py

rename dirnode2.py to dirnode.py

test_mutable: improve test coverage a bit, add test_filenode.py

remove PyCrypto, now we only use pycrypto++

use AES from pycryptopp instead of pycrypto, also truncate the keys slightly differently

remove leftover defer.setDebugging(), to speed up tests from 200s to 83s

fix several bugs and warnings -- thanks, pyflakes

A hastily written single-threaded read-only fuse client.

merge patch to integrate decentralized directories with "introducer_and_vdrive.py: use logpublisher too"

introducer_and_vdrive.py: use logpublisher too

encode.py: trivial whitespace change

merge patch to integrate decentralized directories with patch "download: use hierarchical logging"

more hierarchical logging: download/upload/encode

download: use hierarchical logging

logging: only test log.err when Twisted is new enough to let us ignore the generated errors

merge patch to integrate decentralized directories with patch to "only test log.err when Twisted is new enough to let us ignore the generated errors"

hierarchical logging: add numbered messages and parent= args

debian: add Depends: on python-pycryptopp, now that it's been packaged

test_client: stall 2.0s between shutdown and restart, trying to fix cygwin

logtool: add 'gather' and 'dump' modes

logtool: rename get-logs.py to logtool.py

logpublisher: hush pyflakes warning

logpublisher: implement subscribe/publish for log, add a sample client

mutable: fix control flow to allow good+bad shares from a peer. Fixes #211.

node.py: try to fix rlimit-setting again

node.py: try rlimit fix again

node.py: try to fix RLIMIT_NOFILE on solaris too

node.py: raise RLIMIT_NOFILE on bsd/cygwin to more than 256

test_mutable: workaround: use more peers to avoid random test failures.

The underlying issue is recorded in #211: one corrupt share in a query
response will cause us to ignore the remaining shares in that response, even
if they are good. In our tests (with N=10 but only 5 peers), this can leave
us with too few shares to recover the file.

The temporary workaround is to use 10 peers, to make sure we never get
multiple shares per response. The real fix will be to fix the control flow.

This fixes #209.

mutable: add more logging to retrieval process

provisioning: add more options for num-servers and server-dBA

mutable: validate share_hash_chain for each inbound share

merge patch to integrate decentralized directories with patch to handle bad hashes

mutable: handle bad hashes, improve test coverage, rearrange slightly to facilitate these

README: advise 'make clean' before 'make build-deps' (after update), otherwise old versions of the dependent libaries can be used in preference to the newer one

docs/subtree1.svg: make the page smaller