TAG allmydata-tahoe-1.9.0b1

NEWS: mention --format, bring up-to-date

CLI: don't deprecate --mutable, small docs fixes. refs #1561

Also don't accept 'tahoe mkdir --format=chk'.

add --format= to 'tahoe put'/'mkdir', remove --mutable-type. Closes #1561

web/filenode.py: rely on Request.notifyFinish. Closes #1366.

This is safe now that tahoe depends upon Twisted>=10.1, since notifyFinish
first appeared in Twisted-9.0

docs: fix several imprecise or inaccurate values in performance.rst
add cpu values for each operation
sort the list of values into the same order in each operation
refs #1398

util/happinessutil.py: suppress a warning from check-miscaptures. (It is not a bug because the capturing function is only used by a 'map' in the same iteration.) refs #1556

misc/coding_tools/make-canary-files.py: fix a suspicious capture reported by check-miscaptures (although it happens not to be a bug because the callback will be processed synchronously). refs #1556

Fix some more potential bugs in test code exposed by check-miscaptures.py. refs #1556

Fix some potential bugs (in non-test code) exposed by check-miscaptures.py. refs #1556

Fix some potential bugs in test code exposed by check-miscaptures.py. refs #1556

oops, missed a test failure

misc mutable-type fixes:

* fix tahoe.cfg control of default mutable type
* tolerate arbitrary case in [client]mutable.format value
* small docs improvements
* use get_mutable_type() as a format-is-mutable predicate
* tighten up error message

webapi: use all-caps "SDMF"/"MDMF" acronyms in t=json response

docs: upcase examples of t=json output and format= input

webapi.rst: fix whitespace (detabify) t=json examples

webapi: handle format=, remove mutable-type=

* fix CLI commands (put, mkdir) to send format=, not mutable-type=
* fix tests
* test_cli: fix tests that observe t=json output, don't ignore failures in
  'tahoe put'
* fix handling of version= to make it easier to use the default
* interpret ?mutable=true&format=MDMF as MDMF, not SDMF

docs/frontends/webapi.rst: document the format argument

Tests for ref #1547

Change the file upload forms on directory and welcome pages to use a 3-way radio button to select immutable, SDMF, or MDMF. Add '(experimental)' to the label for creating an MDMF directory. Also improve the spacing of form elements. refs #1547

test_web.py: minor cleanups, mainly to make the first argument to shouldFail tests consistent

Tests for ref #1552

misc/check-interfaces.py: print a warning if a .pyc or .pyo file exists without a corresponding .py file.

test/common.py: in shouldFail and shouldHTTPError, when the raised exception does not include the expected substring (or, for shouldHTTPError, when the status code is wrong), mention which test that happened in.

interfaces.py: remove get_extension_params and set_extension_params methods from IMutableFileURI. refs #393, #1526

interfaces.py: fix a typo in the name of IMutableSlotWriter.put_encprivkey. refs #393

misc/simulators/hashbasedsig.py: simplify by removing unnecessary local function that captured a variable declared in a for loop (this was not a bug, but the code was unclear). Also fix a pyflakes warning about an import. refs #1556

immutable/literal.py: add pauseProducing method to LiteralProducer. refs #1537

no_network.py: Clean up whitespace around code changed by previous patch.

no_network.py: Fix potential bugs in some tests due to capture of slots in for loops.

docs: fix the rst formatting of COPYING.TGPPL.rst
Now it renders correctly both on trac and with rst2html --verbose from docutils v0.8.1.

MDMF: remove extension fields from caps, tolerate arbitrary ones. Fixes #1526

The filecaps used to be produced with hints for 'k' and segsize, but they
weren't actually used, and doing so had the potential to limit how we change
those filecaps in the future. Also the parsing code had some problems dealing
with other numbers of extensions. Removing the existing fields and making the
parser tolerate (and ignore) extra ones makes MDMF more future-proof.

test/test_runner.py: BinTahoe.test_path has rare nondeterministic failures; this patch probably fixes a problem where the actual cause of failure is masked by a string conversion error.

docs/configuration.rst: add section about the types of node, and clarify when setting web.port enables web-API service. fixes #1444

TAG allmydata-tahoe-1.9.0a2

NEWS: tidy up a little bit, reprioritize some items, hide some non-user-visible items

docs: fix some broken .rst links. refs #1542

mutable/publish.py: fix an unused import. refs #1542

NEWS: fix .rst formatting.

NEWS: updates for 1.9alpha2.

mutable/layout.py: make unpack_sdmf_checkstring and unpack_mdmf_checkstring more similar, and change an assert to give a more useful message if it fails. refs #1540

mutable/publish: handle unknown mutable share formats when handling errors

mutable/layout: break unpack_checkstring into unpack_mdmf_checkstring and unpack_sdmf_checkstring, add distinguisher function for checkstrings

test/test_mutable: reenable mdmf publish surprise test

mutable/publish: use unpack_mdmf_checkstring and unpack_sdmf_checkstring instead of unpack_checkstring. fixes #1540

misc/coding_tools/check_interfaces.py: report all violations rather than only one for a given class, by including a forked version of verifyClass. refs #1474

misc/coding_tools/check_interfaces.py: use os.walk instead of FilePath, since this script shouldn't really depend on Twisted. refs #1474

misc/coding_tools/check-interfaces.py: reduce false-positives by adding Dummy* to the set of excluded classnames, and bench-* to the set of excluded basenames. refs #1474

Add a script 'misc/coding_tools/check-interfaces.py' that checks whether zope interfaces are enforced. Also add 'check-interfaces', 'version-and-path', and 'code-checks' targets to the Makefile. fixes #1474

mutable/publish.py: copy the self.writers dict before iterating over it, since we remove elements from it during the iteration. refs #393

mutable/publish.py: simplify by refactoring self.outstanding to self.num_outstanding. refs #393

test_mutable.py: update SkipTest message for test_publish_surprise_mdmf to reference the right ticket number. refs #1540.

control.py: unbreak speed-test: overwrite() wants a MutableData, not str

Really, all the upload/modify APIs should take a string or a filehandle, and
internally wrap it as needed. Callers should not need to be aware of
Uploadable() or MutableData() classes.

test_mutable.py: skip test_publish_surprise_mdmf, which is causing an error. refs #1534, #393

test/test_mutable: write publish surprise test for MDMF, rename existing test_publish_surprise to clarify that it is for SDMF

test/test_mutable: refactor publish surprise test into common test fixture, rewrite test_publish_surprise to use test fixture

mutable/publish: add errback immediately after write, don't consume errors from other parts of the publisher

.darcs-boringfile: minor cleanups.

uri.py: fix two interface violations in verifier URI classes. refs #1474

Make platform-detection code tolerate linux-3.0, patch by zooko.

Otherwise address-autodetection can't find ifconfig. refs #1536

test_web.py: fix a bug in _count_leases that was causing us to check only the lease count of one share file, not of all share files as intended.

docs: insert a newline at the beginning of known_issues.rst to see if this makes it render more nicely in trac

docs: remove the coding: utf-8 declaration at the to of known_issues.rst, since the trac rendering doesn't hide it

docs: more cleanup of known_issues.rst -- now it passes "rst2html --verbose" without comment

docs: more formatting improvements to known_issues.rst

docs: reformatting of known_issues.rst

docs: fix formatting error in docs/known_issues.rst

merge Tahoe-LAFS v1.8.3 release announcement with trunk

docs: release notes for Tahoe-LAFS v1.8.3

tests: bump up the timeout in this test that fails on FreeStorm's CentOS in order to see if it is just very slow

interfaces: document that the 'fills-holes-with-zero-bytes' key should be used to detect whether a storage server has that behavior. refs #1528

CREDITS: more CREDITS for Kevan and David-Sarah

merge NEWS about the mutable file bounds fixes with NEWS about work-in-progress

doc: add NEWS item about fixes to potential palimpsest issues in mutable files
ref. #1528

merge the NEWS about the security fix (#1528) with the work-in-progress NEWS

doc: add NEWS entry about the issue which allows unauthorized deletion of shares
ref. #1528

doc: add entry in known_issues.rst about the issue which allows unauthorized deletion of shares
ref. #1528

storage: more paranoid handling of bounds and palimpsests in mutable share files
* storage server ignores requests to extend shares by sending a new_length
* storage server fills exposed holes (created by sending a write vector whose offset begins after the end of the current data) with 0 to avoid "palimpsest" exposure of previous contents
* storage server zeroes out lease info at the old location when moving it to a new location
ref. #1528

storage: test that the storage server ignores requests to extend shares by sending a new_length, and that the storage server fills exposed holes with 0 to avoid "palimpsest" exposure of previous contents
ref. #1528

immutable: prevent clients from reading past the end of share data, which would allow them to learn the cancellation secret
Declare explicitly that we prevent this problem in the server's version dict.
fixes #1528 (there are two patches that are each a sufficient fix to #1528 and this is one of them)

storage: remove the storage server's "remote_cancel_lease" function
We're removing this function because it is currently unused, because it is dangerous, and because the bug described in #1528 leaks the cancellation secret, which allows anyone who knows a file's storage index to abuse this function to delete shares of that file.
fixes #1528 (there are two patches that are each a sufficient fix to #1528 and this is one of them)

storage: test that the storage server does *not* have a "remote_cancel_lease" function
We're removing this function because it is currently unused, because it is dangerous, and because the bug described in #1528 leaks the cancellation secret, which allows anyone who knows a file's storage index to abuse this function to delete shares of that file.
ref. #1528

immutable: test whether the server allows clients to read past the end of share data, which would allow them to learn the cancellation secret
Also test whether the server explicitly declares that it prevents this problem.
ref #1528

Retrieve._activate_enough_peers: rewrite Verify logic

Retrieve: implement/test stopProducing

move DownloadStopped from download.common to interfaces

retrieve.py: remove vestigal self._validated_readers

Retrieve: rewrite flow-control: use a top-level loop() to catch all errors

This ought to close the potential for dropped errors and hanging downloads.
Verify needs to be examined, I may have broken it, although all tests pass.

Retrieve: merge _validate_active_prefixes into _add_active_peers

Retrieve: remove the initial prefix-is-still-good check

This check needs to be done with each fetch from the storage server, to
detect when someone has changed the share (i.e. our servermap goes stale).
Doing it just once at the beginning of retrieve isn't enough: a write might
occur after the first segment but before the second, etc.

_try_to_validate_prefix() was not removed: it will be used by the future
check-with-each-fetch code.

test_mutable.Roundtrip.test_corrupt_all_seqnum_late was disabled, since it
fails until this check is brought back. (the corruption it applies only
touches the prefix, not the block data, so the check-less retrieve actually
tolerates it). Don't forget to re-enable it once the check is brought back.

MDMFSlotReadProxy: remove the queue

This is a neat trick to reduce Foolscap overhead, but the need for an
explicit flush() complicates the Retrieve path and makes it prone to
lost-progress bugs.

Also change test_mutable.FakeStorageServer to tolerate multiple reads of the
same share in a row, a limitation exposed by turning off the queue.

rearrange Retrieve: first step, shouldn't change order of execution

CLI: test_cli.py -- remove an unnecessary call in test_mkdir_mutable_type. refs #1527

CLI: improve test for 'tahoe mkdir --mutable-type='. refs #1527

CLI: make the --mutable-type option value for 'tahoe put' and 'tahoe mkdir' case-insensitive, and change --help for these commands accordingly. fixes #1527

cli: make --mutable-type imply --mutable in 'tahoe put'

SFTP: add a comment about a subtle interaction between OverwriteableFileConsumer and GeneralSFTPFile, and test the case it is commenting on.

improve the storage/mutable.py asserts even more

storage/mutable.py: special characters in struct.foo arguments indicate standard as opposed to native sizes, we should be using these characters in these asserts

docs/write_coordination.rst: fix formatting and add more specific warning about access via sshfs.

test_mutable.Version: consolidate some tests, reduce runtime from 19s to 15s