setup.py: wrap to 80 cols, no functional changes

crawler: use fileutil.move_info_place in preference to our own version

fileutil: add move_into_place(), to perform the standard unix trick of atomically replacing a file, with a fallback for windows

crawler: fix problems on windows and our slow cygwin slave

#633: first version of a rate-limited interruptable share-crawler

change StorageServer to take nodeid in the constructor, instead of assigning it later, since it's cleaner and because the original problem (Tubs not being ready until later) went away

test_system: split off checker tests to test_deepcheck.py, this file is too big

break storage.py into smaller pieces in storage/*.py . No behavioral changes.

immutable/layout: minor change to repr name

docs: add lease-tradeoffs diagram

interfaces.py: allow add/renew/cancel-lease to return Any, so that 1.3.1 clients (the first to use these calls) can tolerate future storage servers which might return something other than None

docs/debian.txt: minor edit

add --add-lease to 'tahoe check', 'tahoe deep-check', and webapi.

change RIStorageServer.remote_add_lease to exit silently in case of no-such-bucket, instead of raising IndexError, because that makes the upcoming --add-lease feature faster and less noisy

CLI #590: convert 'tahoe deep-check' to streaming form, improve display, add tests

interfaces.py: document behavior of add_lease/renew_lease/cancel_lease, before I change it

test_backupdb: improve error messages if the test fails

webapi #590: add streaming deep-check. Still need a CLI tool to use it.

test_web.Grid: change the CHECK() function to make it easier to test t= values with hyphens in them

test_web: improve checker-results coverage with a no-network -based test, enhance no-network harness to assist, fix some bugs in web/check_results.py that were exposed

web: fix handling of reliability page when Numeric is not available

test/no_network: update comments with setup timing: no_network takes 50ms, SystemTestMixin takes 2s (on my laptop)

test_upload: rewrite in terms of no-network GridTestMixin, improve no_network.py as necessary

test_download: rewrite in terms of no-network GridTestMixin, improve no_network.py as necessary

test_dirnode.py: convert Deleter to new no-network gridtest

test_cli.py: modify to use the new 'no-network' gridtest instead of SystemTestMixin, which speeds it up from 73s to 43s on my system

tests: fix no_network framework to work with upload/download and checker

client.py: improve docstring

test_cli: add test coverage for help strings

test/no_network: new test harness, like system-test but doesn't use the network so it's faster

interfaces.py: minor docstring edit

setup: if you sdist_dsc (to produce the input files for dpkg-buildpackage) then run darcsver first

doc: a few edits to docs made after the 1.3.0 release

test_cli: improve test coverage slightly

test_util: get almost full test coverage of dictutil, starting with the original pyutil tests as a base. The remaining three uncovered lines involve funny cases of ValueOrderedDict that I can't figure out how to get at

provisioning/reliability: add tests, hush pyflakes, remove dead code, fix web links

util/statistics: add tests, fix mean_repair_cost

test_repairer: hush pyflakes

lossmodel.lyx: move draft paper into docs/proposed/, since it's unfinished

build a 'reliability' web page, with a simulation of file decay and repair over time

More lossmodel work, on repair.

Loss model work (temp1)

Statistics module

Added a statistics module for calculating various facets of
share survival statistics.

docs: relnotes-short.txt
linkedin.com imposed a strict limit on the number of characters I could post.  This forced me to prune and prune and edit and edit until relnotes.txt was a quarter of its former size.  Here's the short version.

TAG allmydata-tahoe-1.3.0

docs: a few last-minute edits to the docs for 1.3.0 (also this patch will accompany the tag and conveniently trigger the buildbots to build a 1.3.0 version)

setup: remove attempt to automatically satisfy dependency on pywin32

NEWS: mention #625 (deep-repair breaks when it tries to repair a read-only directory)

test_dirnode: #625 run deep-check on a readonly dirnode too

docs: CREDITS

figleaf_htmlizer: fix order of summary counters

Makefile: minor, add .PHONY declarations

figleaf_htmlizer: oops, re-ignore files that aren't under root, like code in auto-built eggs

setup: relnotes.txt mention the iPhone app and CIFS/SMB (tahoe-w32-client)

setup: make the "full version string" be "allmydata-tahoe/1.3.0" instead of "allmydata-tahoe-1.3.0" and the UserAgent string of the cli be "allmydata-tahoe/1.3.0 (tahoe-client)"
This is webbish.  Thanks to kpreid for suggesting it.

docs: relnotes.txt final (!?) update for 1.3.0!

docs: known_issues.txt: my version of #615, remove "issue numbers", edits, move tahoe-1.1.0 issues to historical

docs: CREDITS

Makefile: add figleaf-delta-output, to render figleaf coverage differences with a previous run

figleaf_htmlizer: emit stats to stdout, so buildbot can see it

figleaf_htmlizer: render changes in coverage relative to a previous test run using --old-coverage

immutable repairer: fix DownUpConnector so that it satisfies short reads the were requested after the last write and before the close
This is probably the cause of the very rare "loss of progress" bug.  This is tested by unit tests.  A recent patch changed this to errback instead of losing progress, and now this patch is changing it again to return a short read instead of errbacking.  Returning a short read is what the uploader (in encode.py) is expecting, when it is reading the last block of the ciphertext, which might be shorter than the other blocks.

immutable repairer: add an assertion that a certain value in this tricky function is always what I think it is

immutable repairer: add tests of how it handles short reads

nodeadmin: node stops itself if a hotline file hasn't been touched in 60 seconds now, instead of in 40 seconds
A test failed on draco (MacPPC) because it took 49 seconds to get around to running the test, and the node had already stopped itself when the hotline file was 40 seconds old.

immutable repairer: errback any pending readers of DownUpConnectorwhen it runs out of bytes, and test that fact

figleaf_htmlizer: more rearranging, behavior should still be unchanged

figleaf_htmlizer: break it up into subfunctions, behavior should still be unchanged

figleaf_htmlizer: rewrite in class form, behavior should be the same as before

figleaf_htmlizer: rewrite with twisted.python.usage, remove logging: should behave the same as before

figleaf_htmlizer: expand tabs, fix to 4-space indents. No functional changes.

Makefile: include the figleaf pickle in the uploaded coverage data, for later differential analysis

Makefile: fix test-clean, by ignoring _appname.py and removing src/allmydata_tahoe.egg-info

setup: from the perspective of darcs, src/allmydata/_appname.py is a very boring file, indeed

versioning: include an "appname" in the application version string in the versioning protocol, and make that appname be controlled by setup.py
It is currently hardcoded in setup.py to be 'allmydata-tahoe'.  Ticket #556 is to make it configurable by a runtime command-line argument to setup.py: "--appname=foo", but I suddenly wondered if we really wanted that and at the same time realized that we don't need that for tahoe-1.3.0 release, so this patch just hardcodes it in setup.py.
setup.py inspects a file named 'src/allmydata/_appname.py' and assert that it contains the string "__appname__ = 'allmydata-tahoe'", and creates it if it isn't already present.  src/allmydata/__init__.py import _appname and reads __appname__ from it.  The rest of the Python code imports allmydata and inspects "allmydata.__appname__", although actually every use it uses "allmydata.__full_version__" instead, where "allmydata.__full_version__" is created in src/allmydata/__init__.py to be:

__full_version__ = __appname + '-' + str(__version__).

All the code that emits an "application version string" when describing what version of a protocol it supports (introducer server, storage server, upload helper), or when describing itself in general (introducer client), usese allmydata.__full_version__.

This fixes ticket #556 at least well enough for tahoe-1.3.0 release.

setup: add new darcsver-1.2.1 which includes Brian's and Nils Durner's patch to ignore non-ascii chars in XML output

backupdb: cosmetic: capitalize the no-pysqlite instructions properly. Thanks to Terrell Russell for the catch.

test_repairer: disable repair-from-corruption tests until other things are improved well enough to make it useful

NEWS: explain limitations of the new repairer

setup: removed bundled darcsver-1.2.0
(I'm about to add a new bundled darcsver-1.2.1, but I want to see what the buildbots will do when there is no bundled darcsver present.)

trivial: whitespace

docs/known_issues: mention #615 javascript-vs-frames, for zooko to improve/rewrite

storage: make add-lease work, change default ownernum=1 since 0 is reserved to mean 'no lease here'

#620: storage: allow mutable shares to be deleted, with a writev where new_length=0

test_cli.Backup: insert some stalls to make sure two successive backups get distinct timestamps, avoiding intermittent failures

#619: make 'tahoe backup' complain and refuse to run if sqlite is unavailable and --no-backupdb is not passed

NEWS: point out that 'tahoe backup' requires a 1.3.0-or-later client node

tests: increase the default timeout for SystemTestMixin -based tests to 300 seconds, since our slower buildslaves sometimes take longer than the default 120s

immutable: repairer: add a simple test to exercise the "leftover" code path, fix the bug (and rename the variable "leftover" to "extra")

docs: not-quite-final version of relnotes.txt for tahoe-1.3.0

docs: small edit to about.html

docs: NEWS: move the most exciting items to the top, break them out of less exciting categories, update a couple of stale bits, and a touch of editing

docs: edit about.html

immutable: tighten preconditions -- you can write empty strings or read zero bytes, and add the first simple unit test of DownUpConnector

immutable: tests: the real WRITE_LEEWAY is 35 (it was a mistake to move it from 10 to 35 earlier -- I had seen a failure in which it took 35 times as many writes as I thought were optimal, but I misread and thought it took only 20 times as many)

immutable: defensive programming: assert that the encrypted readable gave you no more than the number of bytes you asked for
(There is a bug in the current DownUpConnector which can cause it to give more bytes than you asked for on one request, and then less on the next, effectively shifting some of the bytes to an earlier request, but I think this bug never gets triggered in practice.)

docs: suggest Python 2.5 -- Python 2.6 is not as well tested yet

immutable: tests: sigh, raise, again the limit of how many extra writes you can do and still pass this test
Obviously requiring the code under test to perform within some limit isn't very meaningful if we raise the limit whenever the test goes outside of it.
But I still don't want to remove the test code which measures how many writes (and, elsewhere, how many reads) a client does in order to fulfill these duties.
Let this number -- now 20 -- stand as an approximation of the inefficiency of our code divided by my mental model of how many operations are actually optimal for these duties.

immutable: tests: assert that verifier gives a clean bill of health after corruption and repair (the previous patch mistakenly did this only after deletion and repair), and also test whether deleting seven other shares and then downloading works.  Also count the number of shares stored in the local filesystem.

immutable: test: add a test after attempting to repair from corruption: does a full verify run give the file a clean bill of health?  If not, the you haven't successfully repaired it.
This will make the repairer tests more consistent -- less accidentally passing due to getting lucky.