storage_client.py: clean up test_add_server/test_add_descriptor, remove .test_servers

test_client.py, upload.py:: remove KiB/MiB/etc constants, and other dead code

test: increase timeout on a network test because Francois's ARM machine hit that timeout
I'm skeptical that the test was proceeding correctly but ran out of time. It seems more likely that it had gotten hung. But if we raise the timeout to an even more extravagant number then we can be even more certain that the test was never going to finish.

docs/configuration.rst: add a "Frontend Configuration" section

this points to docs/frontends/*.rst, which were previously underlinked

web/filenode.py: avoid calling req.finish() on closed HTTP connections. Closes #1366

Add unit tests for cross_check_pkg_resources_versus_import, and a regression test for ref #1355. This requires a little refactoring to make it testable.

allmydata/__init__.py: .name was used in place of the correct .__name__ when printing an exception. Also, robustify string formatting by using %r instead of %s in some places. fixes #1355.

Refactor StorageFarmBroker handling of servers

Pass around IServer instance instead of (peerid, rref) tuple. Replace
"descriptor" with "server". Other replacements:

 get_all_servers -> get_connected_servers/get_known_servers
 get_servers_for_index -> get_servers_for_psi (now returns IServers)

This change still needs to be pushed further down: lots of code is now
getting the IServer and then distributing (peerid, rref) internally.
Instead, it ought to distribute the IServer internally and delay
extracting a serverid or rref until the last moment.

no_network.py was updated to retain parallelism.

TAG allmydata-tahoe-1.8.2

update docs for the 1.8.2 release

SFTP: report unknown sizes as "0" instead of "?", to satisfy some clients. fixes #1337

Change tests for check_requirement to ensure that it accepts None in the comment field of a (version, location, comment) triple, and add a test that it raises ImportError when a module couldn't be imported. Also fix typo in a comment. refs #1339

setup: comment out the setup_requires on setuptools_darcs in order to work-around distribute bug 55
Note that we still inject the setuptools_darcs egg at the beginning of setup.py, which makes the setuptools_darcs plugin work when building dists from tahoe-lafs source so those dists have all of the needed files.
http://bitbucket.org/tarek/distribute/issue/55/revision-control-plugin-automatically-installed-as-a-build-dependency-is-not-present-when-another-build-dependency-is-being

docs: edit running.html, change "http://allmydata.org" to "http://tahoe-lafs.org" in NEWS and README.txt, add Josh Wilcox to CREDITS for his contribution of doc patches

setup: adjust tests to use the new interface of check_requirement which has a 3-tuples instead of a 2-tuple
fixes #1339

src/allmydata/__init__.py: fix #1339, give an indication in the --version[-and-path] output of when the imported setuptools is distribute, and use a separate element in _vers_and_locs_list tuples for information other than the package name and location. This also changes slightly how the sqlite version is reported.

TAG allmydata-tahoe-1.8.2b1

update NEWS with all significant user-visible changes since last release

docs/configuration.rst: fix a typo in the previous correction, and correct another error ('[storage]readonly_storage' should be '[storage]readonly').

docs/configuration.rst: correct an error in the Example section ('[helper]run_helper' should be '[helper]enabled').

docs/configuration.rst: correct the name of 'tahoe-client.tac' and document other .tac files. Also make the capitalization consistent in that section.

CLI: improve help synopsis for 'tahoe create-key-generator'.

Don't put debugging information in 'My versions' section of the Welcome page. Also remove the extra blank line between version and command output when --version[-and-path] is used. refs #1306

NEWS, docs/quickstart.html: pywin32 is no longer required on Windows. refs #1274

Makefile, setup.py: add more source files to pyflakes target and fix their warnings.

Remove obsolete and bit-rotted 'setup.py check-auto-deps' command. Building and running bin/tahoe is a more thorough check.

Makefile: remove stale commented-out targets for figleaf.

misc/build_helpers/run-with-pythonpath.py: fix pyflakes unused import warning.

Makefile: remove a stale comment about a bug fixed in Tahoe v1.3.0. refs #455

tests: use verlib to compare versions, and get the versions of Twisted and Nevow from get_package_versions() instead of pkg_resources. refs #1287

src/allmydata/web/common.py: ensure that filenames in 'humanized failures' are quoted.

twisted/allmydata_trial.py: fix stale comment that referred to trial_figleaf.py (replaced with trial_coverage.py).

CLI: improve help synopses for some commands.

src/allmydata/_auto_deps.py: setuptools is still an install requirement even in frozen builds, because .tac files import pkg_resources. refs #585

Make bb-freeze (and probably other static packaging tools) work. This updates various places where we assumed that the tahoe process was executed via the Python interpreter. It also allows tests to recursively invoke the same tahoe.exe, rather than bin/tahoe. refs #585

Make 'setup.py trial' and 'setup.py test' pass --version-and-path to bin/tahoe by default.

Change --version and --version-and-path to not exit immediately, if a command is given.

src/allmydata/_auto_deps.py: 'pysqlite.dbapi2' module should have been 'pysqlite2.dbapi2'. refs #1306

src/allmydata/util/iputil.py: correct an error in the address-matching regexps introduced by the previous patch to iputil. refs #1274

setup: increase version number requirement on darcsver from >= 1.7.1 to >= 1.7.2

setup: upgrade bundled version of darcsver from 1.7.1 to 1.7.2 to support the new bbfreeze feature (by, strangely, having darcsver write out unix newlines regardless of what the underlying platform prefers)

Add src/allmydata/util/verlib.py, which is a copy of verlib from https://bitbucket.org/tarek/distutilsversion/src/17df9a7d96ef . It is used to normalize and compare versions of dependencies. refs #1258

Refactor _auto_deps.py and __init__.py, adding more robust checking of dependency versions, and not trusting pkg_resources to get the versions right. refs #1258, #1287

Apply pyflakes to more files and fix the resulting warnings.

src/allmydata/util/iputil.py: loosen regexps and ensure that 'LANG=en_US.UTF-8' is set in the environment, to minimize problems with localized output of IP-address-finding tools. refs #1274

Eliminate dependencies on pywin32, even via Twisted. refs #1274

Makefile: consistently use TAHOE macro to run bin/tahoe. Use '$(TAHOE) debug repl' instead of $(RUNPP) -p. refs #1296

Makefile: consistently use 'tahoe debug trial' to run tests. refs #1296

setup.py: add descriptions for some of the setup commands. ref #1306

setup.py: create bin/tahoe.pyscript on Unix as well as Windows for consistency, and to reduce conditional code. ref #1306

src/allmydata/test/test_runner.py: add test_import_from_repl, which checks that we are running the right code in a bin/tahoe subprocess. refs #1258

docs/frontends/CLI.rst, src/allmydata/test/trialtest.py: add trailing newlines. refs #1296

Eliminate direct dependencies of Tahoe-LAFS on pywin32 (rebased to trunk). refs #1274

Add support to bin/tahoe for invoking a runner command prefixed with @, with the Tahoe libraries on the PYTHONPATH. This is documented in 'tahoe debug --help'.

trivial: add comment in scripts/debug.py about trial option parsing. refs #1296

Update foolscap requirement to >= 0.6.1. fixes #1329

bin/tahoe-script.template, src/windows/fixups.py: simplify the method of stripping initial arguments in sys.argv on Windows. This helps with bb-freeze and running tahoe via 'coverage'. Also includes some wording changes and minor refactoring of bin/tahoe-script.template. refs #585, #1303

Change misc/build_helpers/test-with-fake-pkg to use 'setup.py trial'. refs #1296

Makefile: update 'make clean' to delete the setuptools_trial egg(s).

Change 'setup.py trial' and 'setup.py test' to use 'bin/tahoe debug trial'. refs #1296

src/allmydata/test/test_cli.py: add test for 'tahoe debug trial' options help. refs #1296

Makefile: update 'make clean' to avoid deleting the setuptools_darcs egg.

Add src/allmydata/test/trialtest.py needed by tests for 'tahoe debug trial'. refs #1296

Remove setuptools_trial egg.

Tests for 'tahoe debug trial' (rebased and fixed to work with Twisted 10.2). refs #1296

Documentation for 'tahoe debug trial' (rebased for trunk). refs #1296

Make 'mock' a run-time rather than setup-time dependency. This is necessary in order for 'tahoe debug trial' to work. refs #1296

src/allmydata/scripts/debug.py: add 'tahoe debug trial' command (rebased for trunk). refs #1296

src/allmydata/webish.py: clean-ups and correction to a comment. Also change an open and write to use fileutil.write. See ref #1286 comment 13.

setup: load the setuptools_darcs-1.2.12.egg that is bundled in the root of the source tree at setup.py time, and setup_require it. This is in order to make sure that its 'find all package data' plugin works to inform setuptools of all files which are under revision control, so that setuptools can include them in a distribution. By the way, this is ugly and horrible. refs #1054

setup: bundle a copy of setuptools_darcs-1.2.12
This is to work-around https://bitbucket.org/tarek/distribute/issue/55/revision-control-plugin-automatically-installed-as-a-build-dependency-is-not-present-when-another-build-dependency-is-being . refs #1054.

NEWS: default reserved_space for new storage nodes is 1 GiB. refs #1208

'tahoe debug catalog-shares': sort SIs and shnums

Without this, SIs or shnums could be emitted in random order, depending upon
what the filesystem happens to return.

CLI: tests for ref #1305 (v2, remove spurious extra arg to create-alias in test)

CLI: make 'tahoe create-alias' and 'tahoe add-alias' accept a trailing colon on the new alias name (v2, minor change not to rely on implicit Unicode conversion). Includes doc changes and news; tests in a separate patch. fixes #1305

Improve 'tahoe ln' help text. Patch by David-Sarah. Closes #1230.

Tolerate Twisted-10.2's endpoints, patch by David-Sarah. Closes #1286.

The service generated by strports.service() changed in 10.2, and the ugly
private-attribute-reading hack we used to glean a kernel-allocated port
number (e.g. when using "tcp:0", especially during unit tests) broke, causing
Tahoe to be completely unusable with Twisted-10.2 . The new ugly
private-attribute-reading hack starts by figuring out what sort of service
was generated, then reads different attributes accordingly.

This also hushes a warning when using schemeless strports strings like "0" or
"3456", by quietly prepending a "tcp:" scheme, since 10.2 complains about
those. It also adds getURL() and getPortnum() accessors to the "webish"
service, rather than having unit tests dig through _url and _portnum and such
to find out what they are.

debian/control: add python-twisted-conch to dependencies. Closes #1095.

Test changes to take account of ref #1311.

create_node.py: add comments to default tahoe.cfg to clarify the meaning of each section. fixes #1311

Undo the temporary hack to check the foolscap version. refs #1246

misc/build_helpers/run_trial.py: fix pyflakes warning.

Set "reserved_space=1G" in newly-created storage nodes. Closes #1208.

Temporary hack to investigate whether we are getting the right version of foolscap on trunk. refs #1258

Makefile: allow tarball upload when either BB_BRANCH=='trunk' or BB_BRANCH==''.

misc/build_helpers/test-with-fake-dists.py: clean up directories and files only if they exist.

misc/build_helpers/test-with-fake-dists.py: wrong arguments in comment.

Attempt to fix test-with-fake-dist build step.

bin/tahoe-script.template: improve the error message if we end up running under Python 3. refs #1302

Makefile: Fix uploading of tarballs on trunk builds.

docs/frontends/CLI.rst: fix the rst syntax to be as actually intended :-)

docs/frontends/CLI.rst: really fix rst syntax error this time.

docs/frontends/CLI.rst: fix rst syntax error.

docs/frontends/CLI.rst: discuss commandline/output quoting issues and wildcards. refs #1135

setup.py: add Python 2.7 trove classifier.

docs/FTP-and-SFTP.rst: document issue in ref #1297. Remove known issue #1045 which is fixed. Also some cosmetic changes.

misc/build_helpers/show-tool-versions.py: remove attempts to show stdout.encoding and stderr.encoding that always printed None due to redirection. Also remove code to show os.path.supports_unicode_filenames which is not useful. refs #1251

NEWS: 'top' for node processes, WUI formatting, removal of GUI apps, documentation updates, foolscap dependency. refs #174, #1219, #1225

Makefile: update 'clean' target for files in bin/

docs: update performance.rst to describe the difference between already-uploaded and not-already-uploaded, to parameterize segment size, and to use "~A" to mean "approximately A"