offloaded: fix failure in unit test on windows

in trying to test my fix for the failure of the offloaded unit test on windows
(by closing the reader before unlinking the encoding file - which, perhaps
disturbingly doesn't actually make a difference in my windows environment)
I was unable too because the unit test failed every time with a connection lost
error.

after much more time than I'd like to admit it took, I eventually managed to
track that down to a part of the unit test which is supposed to be be dropping
a connection.   it looks like the exceptions that get thrown on unix, or at
least all the specific environments brian tested in, for that dropped
connection are different from what is thrown on my box (which is running py2.4
and twisted 2.4.0, for reference)  adding ConnectionLost to the list of
expected exceptions makes the test pass.

though curiously still my test logs a NotEnoughWritersError error, and I'm not
currently able to fathom why that exception isn't leading to any overall
failure of the unit test itself.

for general interest, a large part of the time spent trying to track this down
was lost to the state of logging.  I added a whole bunch of logging to try
and track down where the tests were failing, but then spent a bunch of time
searching in vain for that log output.  as far as I can tell at this point
the unit tests are themselves logging to foolscap's log module, but that isn't
being directed anywhere, so all the test's logging is being black holed.

offloaded: close reader before removing its file

unlinking a file before closing it is not portable. it works on unix, but fails
since an open file holds a lock on windows.

this closes the reader before trying to unlink the encoding file within the
CHKUploadHelper.

offloaded: close the local filehandle after encoding is done, otherwise windows fails

offloaded: update unit tests: assert that interrupt/resume works, and that the helper deletes tempfiles

upload.py: make it easier to have an IUploadable that overrides encoding parameters: just set an attribute instead of subclassing

offloaded: upload.py: handle forward skips, to allow resumed uploads to send less than all the data. We still read all the data (to hash it, 'paranoid mode'), but we don't send it over the wire

offloaded.py: delete encoding tempfile when upload is complete

offloaded.py: when resuming, append new data to incoming file, rather than overwrite it.

offloaded.py: remove dead/redundant code

offloaded: improve logging across the board

megapatch: overhaul encoding_parameters handling: now it comes from the Uploadable, or the Client. Removed options= too. Also move helper towards resumability.

node.py: when calling os.abort(), announce it to stdout as well as the log

simplify buildbot upload of windows installer

since the installer upload got more complex (needing to chmod files before
rsyncing) I promoted it to a makefile target, simplifying the buildbot steps
involved

add winfuse plugin to installer

this adds the latest build of mike's winfuse plugins, now also running as
a windows service (and using the node.url, private/root_dir.cap files from
the noderoot specified by the registry) into the install process.

Wouldn't it be nice to reuse the allmydata library?

Support url-encoding in caps.

Make my contrib/README look like the allmydata.org version.

The start of unit tests for tahoe_fuse.py.

Formatting changes and a few FIXMEs for tahoe_fuse.py

Remove redundant docs from tahoe_fuse.py docstrings which are in the README.  Add implementation-specific notes in the doc strings.

Change the name of tahoe_fuse.py to something importable.

A patch to make tahoe-fuse.py work with 0.7.0 plus a howto README.

Use "my_vdrive.uri" for the root.  The old "fuse-bookmarks.uri" served exactly the same purpose.

Add extensions/README and more doc strings to the fuse extension.

cli scripts: remove the for-educational-purposes standalone clauses. Closes #261.

more minor build tweaks for windows

tweaking version number display, and fixing a couple of small bugs

tweak py2exe setup.py to link in xmlplus iff present

so in the build slave's environment, everything builds and runs fine without
'_xmlplus'.  In my existing local environment everything builds and runs only
if I tell py2exe to explicitly link in '_xmlplus'.

the _xmlplus module, tested for by the python standard library, comes from
PyXML ( http://pyxml.sf.net ) a project which is no longer maintained and,
for instance, hasn't released a build for windows past python 2.4

hence something about the way nevow and the std lib import xml dependencies
causes build environment incompatabilities between my box (which is running
py24 currently) and the buildslave (which is on py25, and doesn't have PyXML)
(if I remove _xmlplus from my environment, then a different set of nevow/xml
import problems emerge, which do not occur in the buildslave's py25 env)

this change tests the environment the build is happening in, and if the
_xmlplus package is importable, then py2exe is directed to link it into the
build. otherwise the package is left out.   as far as I comprehend the issue
this should make both of these environments work.  if other people have
problems around this issue, obviously I'm interested in learning more.

offloaded: cleanup to handle multiple simultaneous uploaders gracefully

encode: actually define the UploadAborted exception

test_storage: fix pyflakes warnings

test_system: fix pyflakes warnings

offloaded: improve logging, pass through options, get ready for testing interrupted uploads. test_system: add (disabled) interrupted-upload test

upload: add Encoder.abort(), to abandon the upload in progress. Add some debug hooks to enable unit tests.

upload: improve logging

upload: pass options through to the encoder

logging: enable flogging in more places, replace Node.log with flogging

testutil.py: hush the new (more strict) pyflakes

iputil.py: hush the new (more strict) pyflakes

Makefile: move use of 'cygpath' into win32-conditionalized section

windows installer build refinements

this resolves problems of py2exe's modulefinder collection of sources from
.zipped egg files, not by using easy_install to reach the --always-unzip
option, but rather with a small tool which unpacks any zipped egg files found
in misc/dependencies.  this fixes the py2exe build given rollback of the
easy_install stuff which had broken the unix builds.  misc/hatch-eggs.py
performs the honours.

this also includes a misc/sub-ver.py tool which substitutes elements of the
verion number for the current code base (by importing allmydata.__version__
hence make-version should be run first, and the python path carefully managed)
into template files using python's string interpolation of named args from a
dict as the templating syntax.  i.e. %(major)d %(minor)d %(point)d %(nano)d
each expand to the individual components of the version number as codified
by the pyutil.version_class.Version class.  there is also a %(build)s tag
which expands to the string form of the whole version number.  This tool is
used to interpolate the automatically generated version information into the
innosetup source file in a form consistent with innosetup/windows' restrictions

add windows installer target to build

add 'windows-installer' target to top level makefile to build a windows setup.exe package
using innosetup.  this assumes innosetup 5 is installed in program files as normal.

this doesn't include any logic to manage version numbers at this point, it's just a
simple experiment to test out building an installer as yet.

add confwiz to py2exe build

including setting up the windows xp look and feel stuff.

implement a very simple, wxpython based, config wizard

This implements a very small app using a wx ui to log a user in.

it takes a username and password, and submits them to a backend on the web site
(currently the allmydata test net webserver) to authenticate them.  It returns
the 'root_cap' uri of the user's virtual drive. Also the introducer.furl is
retrieved.  These are then written into the default noderoot basedir in their
usual files (private/root_dir.cap and introducer.furl)

a button is provided which will direct the user to the web site in the event
that they need to register in order to have an account to use.

once the user is successfully authenticated and the files are written, then
on win32 the tahoe service will be started.

added is_uri() function to allmydata.uri

added a small script as a stub for a config wizard

this doesn't implement any config wizard ui, but does a simple http fetch of
root_cap and introducer.furl from a php backend stub.

remove wait_for_numpeers and the when_enough_peers call in mutable.Publish

test_GET_DIRURL_large: reduce from 400 to 200 children: the test fails to
fail anyways, and 200 ought to be enough to trigger the problem, so 400 is
overkill, and just wastes CPU.

'tahoe dump-cap': accept http:// -prefixed URLs too

add 'tahoe dump-cap' command, to show storage index, lease secrets, etc

storage: improve logging a bit

setup: add darcsver-1.0.1.tar to misc/dependencies/

tests: put back skipped and todo tests
closes #258 -- "put back skipped and todo tests"

setup: fix name of setup script again

setup: fix name of setup script

setup: switch back from using "misc/dependencies/setup.py easy_install --always-unzip misc/dependencies" to using "misc/dependencies/setup.py install"
because I don't fully understand the former, I suspect it of being implicated in the current buildslave redness, and we require --always-unzip solely for py2exe.

setup: if the build fails, make returns a failure exit code

offloaded: add a system test, make it pass. files are now being uploaded through the helper.

offloaded.py: hush pyflakes

offloaded: more test coverage on client side, change interfaces a bit

docs/mutable-DSA.txt: update mutable.txt to reflect our proposed DSA-based mutable file scheme (#217)

test_mutable.py: accomodate changes to mutable.py logging

mutable.py: log more information during publish, specifically the sharemap, and the reason for an UncoordinatedWriteError

Makefile: add new misc/dependencies/ litter to the 'clean' target

.darcs-boringfile: update to match misc/dependencies setup.py changes

build-deps-setup.py: import twisted early, to make setuptools on dapper use the right version

fix dumb typo in tahoe run

change default node-directory on windows to do registry lookup, not ~/.tahoe

move registry module into allmydata.windows package

remove some vestigial cruft from tahoesvc

add files from allmydata/web to py2exe distribution

when building the py2exe package, glob src/allmydata/web/* into web/ within the dist

fix a couple of typos in tahoesvc startup

fix nevow build prob for py2exe

nevow attempts to use pkg_resources to find the formless css file upon
import, if pkg_resources is available.  unfortunately using pkg_resources
to find files is not supported if the files are being loaded from a zip
archive (i.e. only source and egg), and further py2exe uses a zip bundle
for all the code and dependent libraries.  hence having both pkg_resources
and nevow built into an exe causes nevow to explode upon import.

this tells py2exe not to link pkg_resources into the target, so that
this behaviour isn't stimulated.  the side effect being that pkg_resources
isn't available.

added tweaked sibpath implementation

use of twisted.python.util.sibpath to find files relative to modules doesn't
work when those modules are bundled into a library by py2exe.  this provides
an alternative implementation (in allmydata.util.sibpath) which checks for
the existence of the file, and if it is not found, attempts to find it relative
to sys.executable instead.

resolve makefile conflicts

and surpress echo of echoes

add 'run' command to tahoe

adds a 'run' commands to bin/tahoe / tahoe.exe
it loads a client node into the tahoe process itself,
running in the base dir specified by --basedir/-C and
defaulting to the current working dir.

it runs synchronously, and the tahoe process blocks until
the reactor is stopped.

add build dependencies to support py2exe's modulefinder

adds windows/depends.py as a container for modules which are needed at runtime
but which py2exe's modulefinder dependency analysis fails to find as requisites.

added a 'repl' command to tahoe.exe

this is probably not of very high utility in the unix case of bin/tahoe
but is useful when working with native builds, e.g. py2exe's tahoe.exe,
to examine and debug the runtime environment, linking problems etc.

add windows-exe target to makefile

tweaks to build process to support py2exe

py2exe is unable to handle .eggs which are packaged as zip files
in preference it will pull in other versions of libraries if they
can be found in the environment.

this changes causes .eggs to be built as .egg directories, which
py2exe can handle.

first stab at windows build details.

there are many and various fiddly details that were involved in this process
on mountain view.  This is a stripped down version of the build process used
there.  there's hence a good chance that one or two necessary details got
stripped down through the cracks.

this provides a py2exe setup.py to build a tahoe.exe and a tahoesvc.exe
the former is equivalent to bin/tahoe, but without the start/stop commands.
the latter is a windows service that instantiates a client whose basedir
is found in the registry.

tweak running to make node start/stop code optional

add a 'install_node_control' flag to runner.run(), default True
this enables the start/stop node commands
which are not too useful on windows

tests: increase the timeout on a test which failed on the overloaded virtual buildslaves

docs: mention some tips of how to resolve a certain dependency on Dapper

docs: start updating install-details.html to reflect current auto-dependency and setuptools requirements, and to be better written

setup: require setuptools >= v0.6c6 on all platforms
Technically, we could get away with v0.6c5 or v0.6c4 on non-cygwin platforms, but if someone currently doesn't have setuptools >= v0.6c6 installed then our setup process will just use our bundled setuptools v0.6c7 anyway, so it will still work, and this makes the setup.py and the accompanying documentation simpler.

setup: remove hard import of ez_setup -- we can proceed even if ez_setup can't be imported

setup: shebang usr bin env python

setup: remove the hack to determine if we can avoid the explicit setuptools-managed dependency on nevow (which was useful for building on dapper)
For simplicity, and to avoid weird failure modes that result from importing nevow during the build process, we now simply require nevow >= 0.6.0.  We currently bundle in misc/dependencies nevow v0.9.18, which will not work on Dapper, since it requires Twisted >= 2.4.0, and Dapper comes with Twisted 2.2.0.  Dapper users can (a) install a newer Twisted, (b) install nevow 0.6.0 in egg form so that setuptools can tell that it is installed (without importing it), (c) beg us to start shipping nevow 0.6.0 instead of nevow 0.9.18 in our bundle.

setup: update the version numbers of packages that we require, add zope.interface to our requirements, make nevow >= 0.6.0 always be a requirement

docs: add require version numbers of deps to install.html, move pywin32 from install.html to install-details.html, change ref to install-details.html in install.html

offloaded: move interfaces to interfaces.py, start implementing backend

upload.py: start removing wait_for_numpeers code

offloaded: basic test for client-side of AssistedUploader

offloaded: create a Helper if 'run_helper' is non-empty

test_system: slight refactoring to eventually make it easier to configure some nodes with the output of others

Makefile: pyflakes: the newest pyflakes is more picky, more verbose, and prints the same message multiple times

offloaded: more code, fix pyflakes problems, change IEncryptedUploader a bit

offloaded: early code: most of client-side, defined the RemoteInterfaces

check_speed.py: re-enable 100x200B and 1x100MB CHK tests

docs/mutable-DSA.svg: fix background color, resolution for export-to-png