immutable: when downloading an immutable file, use primary shares if they are available
Primary shares require no erasure decoding so the more primary shares you have, the less CPU is used.

trivial: remove unused import (thanks, pyflakes)

try to tidy up uri-as-string vs. uri-as-object
I get confused about whether a given argument or return value is a uri-as-string or uri-as-object.  This patch adds a lot of assertions that it is one or the other, and also changes CheckerResults to take objects not strings.
In the future, I hope that we generally use Python objects except when importing into or exporting from the Python interpreter e.g. over the wire, the UI, or a stored file.

immutable: remove the last bits of code (only test code or unused code) which did something with plaintext hashes or plaintext hash trees

immutable: use new logging mixins to simplify logging

immutable: refactor ReadBucketProxy a little

debug: pass empty optional arguments to ReadBucketProxy
because those arguments are about to become non-optional (for other code than test/debug code)

uri: generalize regexp that recognizes tahoe URLs to work for any host and port

util: logging: refactor some common logging behavior into mixins

pyutil: assertutil: copy in simplified assertutil from pyutil

pyutil: assertutil: simplify handling of exception during formatting of precondition message, and reduce dependency to just the Python Standard Library's logging module

client: add get_servers()

mutable publish: if we are surprised by shares that match what we would have written anyways, don't be surprised. This should fix one of the two #546 problems, in which we re-use a server and forget that we already sent them a share.

NEWS: updated to most recent user-visible changes, including the 8123-to-3456 change

immutable: remove unused code to produce plaintext hashes

finish renaming 'subshare' to 'block' in immutable/encode.py and in docs/

introducer: fix bug in recent simplification caught by Brian's sharp code-reviewing eye

introducer: simplify get_permuted_peers() implementation and add get_peers()

webapi.txt: minor edits

rename "get_verifier()" to "get_verify_cap()"

setup: try depending on setuptools >= 0.6c6 instead of >= 0.6c7 at run-time, to be able to use the setuptools that came with Ubuntu Gutsy

setup: loosen requirement on simplejson to >= 1.4
That's the version of simplejson that comes with ubuntu feisty, and the one that we've required for most of our history.  Currently the Ubuntu dapper buildslave fails (see issue #534), and setting the simplejson requirement to be >= 2.0 would fix that failure, but I don't understand why.

setup: require simplejson >= 1.7.1
That's the version that comes with gutsy, and we don't really understand why increasing the required version number helped with issue #553.

mutable: merge renaming with test patches

mutable: rename mutable/node.py to mutable/filenode.py and mutable/repair.py to mutable/repairer.py
To be more consistent with the immutable layout that I am working on.

web/directory.py: really really fix #553. Unfortunately it's tricky to simulate the behavior of a brower's relative-url handling in a unit test.

filenode.py: Fix partial HTTP Range header handling according to RFC2616

Tahoe webapi was failing on HTTP request containing a partial Range header.
This change allows movies players like mplayer to seek in movie files stored in
tahoe.

Associated tests for GET and HEAD methods are also included

mutable.modify(): after UCWE, publish even if the second invocation of the modifier didn't modify anything. For #551.

dirnode.py: dirnode.delete which hits UCWE should not fail with NoSuchChildError. Fixes #550.

MutableFileNode.modify: pass first_time= and servermap= to the modifier callback

misc/cpu-watcher.tac: tolerate disk-full errors when writing the pickle, and pickle corruption from earlier disk-full errors

web: fix more info links again
Really, *really* closes #553.

web: fix moreinfo link

web: "More Info" link describes the same file that the "file" link points to, rather than to the file under the same name in this directory
It's a subtle but real difference.
Fixes #553 -- "More Info" link should point to a file/dir, not a dir+childname .

minor: fix unused imports -- thanks, pyflakes

download: refactor handling of URI Extension Block and crypttext hash tree, simplify things

Refactor into a class the logic of asking each server in turn until one of them gives an answer
that validates.  It is called ValidatedThingObtainer.

Refactor the downloading and verification of the URI Extension Block into a class named
ValidatedExtendedURIProxy.

The new logic of validating UEBs is minimalist: it doesn't require the UEB to contain any
unncessary information, but of course it still accepts such information for backwards
compatibility (so that this new download code is able to download files uploaded with old, and
for that matter with current, upload code).

The new logic of validating UEBs follows the practice of doing all validation up front.  This
practice advises one to isolate the validation of incoming data into one place, so that all of
the rest of the code can assume only valid data.

If any redundant information is present in the UEB+URI, the new code cross-checks and asserts
that it is all fully consistent.  This closes some issues where the uploader could have
uploaded inconsistent redundant data, which would probably have caused the old downloader to
simply reject that download after getting a Python exception, but perhaps could have caused
greater harm to the old downloader.

I removed the notion of selecting an erasure codec from codec.py based on the string that was
passed in the UEB.  Currently "crs" is the only such string that works, so
"_assert(codec_name == 'crs')" is simpler and more explicit.  This is also in keeping with the
"validate up front" strategy -- now if someone sets a different string than "crs" in their UEB,
the downloader will reject the download in the "validate this UEB" function instead of in a
separate "select the codec instance" function.

I removed the code to check plaintext hashes and plaintext Merkle Trees.  Uploaders do not
produce this information any more (since it potentially exposes confidential information about
the file), and the unit tests for it were disabled.  The downloader before this patch would
check that plaintext hash or plaintext merkle tree if they were present, but not complain if
they were absent.  The new downloader in this patch complains if they are present and doesn't
check them.  (We might in the future re-introduce such hashes over the plaintext, but encrypt
the hashes which are stored in the UEB to preserve confidentiality.  This would be a double-
check on the correctness of our own source code -- the current Merkle Tree over the ciphertext
is already sufficient to guarantee the integrity of the download unless there is a bug in our
Merkle Tree or AES implementation.)

This patch increases the lines-of-code count by 8 (from 17,770 to 17,778), and reduces the
uncovered-by-tests lines-of-code count by 24 (from 1408 to 1384).  Those numbers would be more
meaningful if we omitted src/allmydata/util/ from the test-coverage statistics.

test_web: add get_permuted_peers, to unbreak recent checker_results change

web checker_results: include a table of servers in permuted order, so you can see the places where new servers have been inserted

test_system.py: assert less about the stats we get, since shares (and thus allocate() calls) are distributed randomly

stats: don't return booleans: it violates the schema. Add a test.

test_system.py: don't ask the stats-gatherer to poll: it tolerates failures, so it isn't really giving us enough test coverage. Removing the call will make it more clear that we need to improve the tests later

confwiz.py - removing hardcoded version number

CLI: check for pre-existing aliases in 'tahoe create-alias' and 'tahoe add-alias'

test_cli: pass rc out of do_cli() too

setup: one more address to send release announcements to

setup: another note about the process of making a tahoe release: mail to duplicity-talk@nongnu.org

test_storage.py: more windows-vs-readonly-storage fixes

docs/webapi.txt: update helper section to discuss tahoe.cfg

docs/webapi.txt: update to discuss tahoe.cfg, not BASEDIR/webport

storage.py: oops, fix windows again, readonly_storage wasn't getting picked up properly

test_download.py: remove extra base32 import

test_download: test both mutable and immutable pre-generated shares

test_download.py: added 'known-answer-tests', to make sure current code can download a file that was created by earlier code

docs/configuration.txt: fix minor typo

storage.py: unbreak readonly_storage=True on windows

#542 'tahoe create-key-generator': fix the .tac file this creates to be compatible with modern code, add a test

storage.py: fix minor typo in comment

storage: replace sizelimit with reserved_space, make the stats 'disk_avail' number incorporate this reservation

util/abbreviate: add abbreviated-size parser

wui/wapi: change the default port number from 8123 to 3456 to avoid conflict with TorButton
See ticket #536 for details.

setup: move the requirement on simplejson from setup.py to _auto_deps.py, and loosen it from >= 2.0.5 to > 1.8.1
We'll see if this fixes the tests on all of our current buildslaves, and if it does then I'll be happy to leave it at "> 1.8.1" for now, even though I don't know exactly what versions of simplejson changed exactly what behavior that interacts with exactly what environment.  See http://allmydata.org/trac/tahoe/ticket/534 for uncertainties.

setup.py: Require simplejson version >= 2.0.5

mutable publish: reinstate the foolscap-reference-token-bug workaround, both for the original reasons and because of an apparent new foolscap bug that's triggered by reference tokens. See #541 for details.

setup: fix missing import -- thanks, pyflakes

setup: correctly detect Arch Linux in platform description

dirnode manifest: add verifycaps, both to internal API and to webapi. This will give the manual-GC tools more to work with, so they can estimate how much space will be freed.

control.py: use get_buckets() instead of get_version() to measure ping time, because the latter changed recently

upload: when using a Helper, insist that it provide protocols/helper/v1 . Related to #538.

upload: don't use servers which can't support the share size we need. This ought to avoid #439 problems. Some day we'll have a storage server which advertises support for a larger share size. No tests yet.

#538: fetch version and attach to the rref. Make IntroducerClient demand v1 support.

#538: add remote_get_version() to four main Referenceable objects: Introducer Service, Storage Server, Helper, CHK Upload Helper. Remove unused storage-server get_versions().

setup: turn off --multi-version until I can figure out why it breaks test_runner

setup: require setuptools >= 0.6c7 to run

setup: use "setup.py develop --multi-version" so that if there is a too-old version of a dependency installed this doesn't prevent Tahoe's "develop" and run-in-place from working

setup: we require setuptools > 0.6a9 in order to parse requirements that have a dot in them such as "zope.interface"
In the near future we might start actually relying on setuptools's pkg_resources's "require()" function to make modules importable, so we can't just skip zope.interface.

test_dirnode: add an explainError call

manifest: add storage-index strings to the json results

manifest: include stats in results. webapi is unchanged.

misc/spacetime/diskwatcher.tac: remove dead code

mutable: respect the new tahoe.cfg 'shares.needed' and 'shares.total' settings

oops, update tests to match 'tahoe stats' change

cli: tahoe stats: abbreviate total sizes too

cli: 'tahoe stats': add abbreviated size to the histogram. Not sure this actually improves things.

util/abbreviate: little utility to abbreviate seconds and bytes

cli: add 'tahoe check' and 'tahoe deep-check' commands, with primitive reporting code

cli: factor out slow-http-operation to a separate module

cli: tahoe stats/manifest: change --verbose to --raw, since I want -v for --verify for check/deep-check/repair

test_system: make 'where' strings more helpful, to track down test failures better

webapi: add 'summary' string to checker results JSON

munin/tahoe_disktotal: add a 'disk used' line, since it will always be less than disktotal

munin/tahoe_introstats: add line for distinct-storage-hosts (which counts machines instead of nodes)

webapi: introducer stats: add 'announcement_distinct_hosts' to the t=json form, to show how many distinct hosts are providing e.g. storage services

'tahoe create-key-generator': fix help text

#330: convert stats-gatherer into a .tac file service, add 'tahoe create-stats-gatherer'

munin/tahoe_diskused: new plugin to show total disk space used across the grid

munin/tahoe_disktotal: new plugin to show total disk space (used and unused) in the grid

tahoe.cfg: add controls for k and N (and shares-of-happiness)

cli: add tests for 'tahoe stats --verbose'

cli: add --verbose to 'tahoe manifest', to show the raw JSON data

diskwatcher: record total-space (the size of the disk as reported by df) in the db, report it to HTTP clients. This will involve a 50-item-per-second upgrade process when it is first used on old data