allmydata/__init__.py: preserve the message and last traceback entry (file, line number, function, and source line) of ImportErrors in the package versions string. fixes #1389

remove unused variable detected by pyflakes

allmydata/__init__.py: Nicer reporting of unparseable version numbers in dependencies. fixes #1388

update FTP-and-SFTP.rst: the necessary patch is included in Twisted-10.1

control.py: remove all uses of s.get_serverid()

web: remove some uses of s.get_serverid(), not all

immutable/downloader/fetcher.py: remove all get_serverid() calls

immutable/downloader/fetcher.py: fix diversity bug in server-response handling

When blocks terminate (either COMPLETE or CORRUPT/DEAD/BADSEGNUM), the
_shares_from_server dict was being popped incorrectly (using shnum as the
index instead of serverid). I'm still thinking through the consequences of
this bug. It was probably benign and really hard to detect. I think it would
cause us to incorrectly believe that we're pulling too many shares from a
server, and thus prefer a different server rather than asking for a second
share from the first server. The diversity code is intended to spread out the
number of shares simultaneously being requested from each server, but with
this bug, it might be spreading out the total number of shares requested at
all, not just simultaneously. (note that SegmentFetcher is scoped to a single
segment, so the effect doesn't last very long).

immutable/downloader/share.py: reduce get_serverid(), one left, update ext deps

test_download.py: create+check MyShare instances better, make sure they share
Server objects, now that finder.py cares

immutable/downloader/finder.py: reduce use of get_serverid(), one left

immutable/offloaded.py: reduce use of get_serverid() a bit more

immutable/upload.py: reduce use of get_serverid()

immutable/checker.py: remove some uses of s.get_serverid(), not all

add remaining get_* methods to storage_client.Server, NoNetworkServer, and
MockIServer stubs

upload.py: rearrange _make_trackers a bit, no behavior changes

happinessutil.py: finally rename merge_peers to merge_servers

test_upload.py: factor out FakeServerTracker

test_upload.py: server-vs-tracker cleanup

happinessutil.py: server-vs-tracker cleanup

upload.py: more tracker-vs-server cleanup

upload.py: fix var names to avoid confusion between 'trackers' and 'servers'

refactor: s/peer/server/ in immutable/upload, happinessutil.py, test_upload

No behavioral changes, just updating variable/method names and log messages.
The effects outside these three files should be minimal: some exception
messages changed (to say "server" instead of "peer"), and some internal class
names were changed. A few things still use "peer" to minimize external
changes, like UploadResults.timings["peer_selection"] and
happinessutil.merge_peers, which can be changed later.

storage_client.py: clean up test_add_server/test_add_descriptor, remove .test_servers

test_client.py, upload.py:: remove KiB/MiB/etc constants, and other dead code

test: increase timeout on a network test because Francois's ARM machine hit that timeout
I'm skeptical that the test was proceeding correctly but ran out of time. It seems more likely that it had gotten hung. But if we raise the timeout to an even more extravagant number then we can be even more certain that the test was never going to finish.

docs/configuration.rst: add a "Frontend Configuration" section

this points to docs/frontends/*.rst, which were previously underlinked

web/filenode.py: avoid calling req.finish() on closed HTTP connections. Closes #1366

Add unit tests for cross_check_pkg_resources_versus_import, and a regression test for ref #1355. This requires a little refactoring to make it testable.

allmydata/__init__.py: .name was used in place of the correct .__name__ when printing an exception. Also, robustify string formatting by using %r instead of %s in some places. fixes #1355.

Refactor StorageFarmBroker handling of servers

Pass around IServer instance instead of (peerid, rref) tuple. Replace
"descriptor" with "server". Other replacements:

 get_all_servers -> get_connected_servers/get_known_servers
 get_servers_for_index -> get_servers_for_psi (now returns IServers)

This change still needs to be pushed further down: lots of code is now
getting the IServer and then distributing (peerid, rref) internally.
Instead, it ought to distribute the IServer internally and delay
extracting a serverid or rref until the last moment.

no_network.py was updated to retain parallelism.

TAG allmydata-tahoe-1.8.2

update docs for the 1.8.2 release

SFTP: report unknown sizes as "0" instead of "?", to satisfy some clients. fixes #1337

Change tests for check_requirement to ensure that it accepts None in the comment field of a (version, location, comment) triple, and add a test that it raises ImportError when a module couldn't be imported. Also fix typo in a comment. refs #1339

setup: comment out the setup_requires on setuptools_darcs in order to work-around distribute bug 55
Note that we still inject the setuptools_darcs egg at the beginning of setup.py, which makes the setuptools_darcs plugin work when building dists from tahoe-lafs source so those dists have all of the needed files.
http://bitbucket.org/tarek/distribute/issue/55/revision-control-plugin-automatically-installed-as-a-build-dependency-is-not-present-when-another-build-dependency-is-being

docs: edit running.html, change "http://allmydata.org" to "http://tahoe-lafs.org" in NEWS and README.txt, add Josh Wilcox to CREDITS for his contribution of doc patches

setup: adjust tests to use the new interface of check_requirement which has a 3-tuples instead of a 2-tuple
fixes #1339

src/allmydata/__init__.py: fix #1339, give an indication in the --version[-and-path] output of when the imported setuptools is distribute, and use a separate element in _vers_and_locs_list tuples for information other than the package name and location. This also changes slightly how the sqlite version is reported.

TAG allmydata-tahoe-1.8.2b1

update NEWS with all significant user-visible changes since last release

docs/configuration.rst: fix a typo in the previous correction, and correct another error ('[storage]readonly_storage' should be '[storage]readonly').

docs/configuration.rst: correct an error in the Example section ('[helper]run_helper' should be '[helper]enabled').

docs/configuration.rst: correct the name of 'tahoe-client.tac' and document other .tac files. Also make the capitalization consistent in that section.

CLI: improve help synopsis for 'tahoe create-key-generator'.

Don't put debugging information in 'My versions' section of the Welcome page. Also remove the extra blank line between version and command output when --version[-and-path] is used. refs #1306

NEWS, docs/quickstart.html: pywin32 is no longer required on Windows. refs #1274

Makefile, setup.py: add more source files to pyflakes target and fix their warnings.

Remove obsolete and bit-rotted 'setup.py check-auto-deps' command. Building and running bin/tahoe is a more thorough check.

Makefile: remove stale commented-out targets for figleaf.

misc/build_helpers/run-with-pythonpath.py: fix pyflakes unused import warning.

Makefile: remove a stale comment about a bug fixed in Tahoe v1.3.0. refs #455

tests: use verlib to compare versions, and get the versions of Twisted and Nevow from get_package_versions() instead of pkg_resources. refs #1287

src/allmydata/web/common.py: ensure that filenames in 'humanized failures' are quoted.

twisted/allmydata_trial.py: fix stale comment that referred to trial_figleaf.py (replaced with trial_coverage.py).

CLI: improve help synopses for some commands.

src/allmydata/_auto_deps.py: setuptools is still an install requirement even in frozen builds, because .tac files import pkg_resources. refs #585

Make bb-freeze (and probably other static packaging tools) work. This updates various places where we assumed that the tahoe process was executed via the Python interpreter. It also allows tests to recursively invoke the same tahoe.exe, rather than bin/tahoe. refs #585

Make 'setup.py trial' and 'setup.py test' pass --version-and-path to bin/tahoe by default.

Change --version and --version-and-path to not exit immediately, if a command is given.

src/allmydata/_auto_deps.py: 'pysqlite.dbapi2' module should have been 'pysqlite2.dbapi2'. refs #1306

src/allmydata/util/iputil.py: correct an error in the address-matching regexps introduced by the previous patch to iputil. refs #1274

setup: increase version number requirement on darcsver from >= 1.7.1 to >= 1.7.2

setup: upgrade bundled version of darcsver from 1.7.1 to 1.7.2 to support the new bbfreeze feature (by, strangely, having darcsver write out unix newlines regardless of what the underlying platform prefers)

Add src/allmydata/util/verlib.py, which is a copy of verlib from https://bitbucket.org/tarek/distutilsversion/src/17df9a7d96ef . It is used to normalize and compare versions of dependencies. refs #1258

Refactor _auto_deps.py and __init__.py, adding more robust checking of dependency versions, and not trusting pkg_resources to get the versions right. refs #1258, #1287

Apply pyflakes to more files and fix the resulting warnings.

src/allmydata/util/iputil.py: loosen regexps and ensure that 'LANG=en_US.UTF-8' is set in the environment, to minimize problems with localized output of IP-address-finding tools. refs #1274

Eliminate dependencies on pywin32, even via Twisted. refs #1274

Makefile: consistently use TAHOE macro to run bin/tahoe. Use '$(TAHOE) debug repl' instead of $(RUNPP) -p. refs #1296

Makefile: consistently use 'tahoe debug trial' to run tests. refs #1296

setup.py: add descriptions for some of the setup commands. ref #1306

setup.py: create bin/tahoe.pyscript on Unix as well as Windows for consistency, and to reduce conditional code. ref #1306

src/allmydata/test/test_runner.py: add test_import_from_repl, which checks that we are running the right code in a bin/tahoe subprocess. refs #1258

docs/frontends/CLI.rst, src/allmydata/test/trialtest.py: add trailing newlines. refs #1296

Eliminate direct dependencies of Tahoe-LAFS on pywin32 (rebased to trunk). refs #1274

Add support to bin/tahoe for invoking a runner command prefixed with @, with the Tahoe libraries on the PYTHONPATH. This is documented in 'tahoe debug --help'.

trivial: add comment in scripts/debug.py about trial option parsing. refs #1296

Update foolscap requirement to >= 0.6.1. fixes #1329

bin/tahoe-script.template, src/windows/fixups.py: simplify the method of stripping initial arguments in sys.argv on Windows. This helps with bb-freeze and running tahoe via 'coverage'. Also includes some wording changes and minor refactoring of bin/tahoe-script.template. refs #585, #1303

Change misc/build_helpers/test-with-fake-pkg to use 'setup.py trial'. refs #1296

Makefile: update 'make clean' to delete the setuptools_trial egg(s).

Change 'setup.py trial' and 'setup.py test' to use 'bin/tahoe debug trial'. refs #1296

src/allmydata/test/test_cli.py: add test for 'tahoe debug trial' options help. refs #1296

Makefile: update 'make clean' to avoid deleting the setuptools_darcs egg.

Add src/allmydata/test/trialtest.py needed by tests for 'tahoe debug trial'. refs #1296

Remove setuptools_trial egg.

Tests for 'tahoe debug trial' (rebased and fixed to work with Twisted 10.2). refs #1296

Documentation for 'tahoe debug trial' (rebased for trunk). refs #1296

Make 'mock' a run-time rather than setup-time dependency. This is necessary in order for 'tahoe debug trial' to work. refs #1296

src/allmydata/scripts/debug.py: add 'tahoe debug trial' command (rebased for trunk). refs #1296

src/allmydata/webish.py: clean-ups and correction to a comment. Also change an open and write to use fileutil.write. See ref #1286 comment 13.

setup: load the setuptools_darcs-1.2.12.egg that is bundled in the root of the source tree at setup.py time, and setup_require it. This is in order to make sure that its 'find all package data' plugin works to inform setuptools of all files which are under revision control, so that setuptools can include them in a distribution. By the way, this is ugly and horrible. refs #1054

setup: bundle a copy of setuptools_darcs-1.2.12
This is to work-around https://bitbucket.org/tarek/distribute/issue/55/revision-control-plugin-automatically-installed-as-a-build-dependency-is-not-present-when-another-build-dependency-is-being . refs #1054.

NEWS: default reserved_space for new storage nodes is 1 GiB. refs #1208

'tahoe debug catalog-shares': sort SIs and shnums

Without this, SIs or shnums could be emitted in random order, depending upon
what the filesystem happens to return.

CLI: tests for ref #1305 (v2, remove spurious extra arg to create-alias in test)

CLI: make 'tahoe create-alias' and 'tahoe add-alias' accept a trailing colon on the new alias name (v2, minor change not to rely on implicit Unicode conversion). Includes doc changes and news; tests in a separate patch. fixes #1305

Improve 'tahoe ln' help text. Patch by David-Sarah. Closes #1230.

Tolerate Twisted-10.2's endpoints, patch by David-Sarah. Closes #1286.

The service generated by strports.service() changed in 10.2, and the ugly
private-attribute-reading hack we used to glean a kernel-allocated port
number (e.g. when using "tcp:0", especially during unit tests) broke, causing
Tahoe to be completely unusable with Twisted-10.2 . The new ugly
private-attribute-reading hack starts by figuring out what sort of service
was generated, then reads different attributes accordingly.

This also hushes a warning when using schemeless strports strings like "0" or
"3456", by quietly prepending a "tcp:" scheme, since 10.2 complains about
those. It also adds getURL() and getPortnum() accessors to the "webish"
service, rather than having unit tests dig through _url and _portnum and such
to find out what they are.

debian/control: add python-twisted-conch to dependencies. Closes #1095.