Add boiler plate for magic-folder subcommand

here we also:
- add the synopsis for the create command
- add the argument parser for the create command

Use Daira's fix to unblock CLI progress

WIP

Change behavior upon finding missing files

- Fix test test_magic_folder
- Do not throw exception for missing files...
- Check for entry in magic folder db; only write tahoe metadata
deleted=true if magic folder db entry for file exists.

Add check_file_db_exists to backupdb api

- this backupdb utility function checks to if a file's entry
exists in the db but does not stat the file on disk or otherwise
talk to the filesystem

handle local file deletion events

Rename drop-upload to Magic Folder. fixes ticket:2405

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Remove a debug print.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Remove unused code.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Fix test errors.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Minor code cleanup

Add private config magic_folder_parent_dircap

- this commit also updates the tests

Add parent_dircap stub argument to DropUploader. refs ticket:2441

Author: David Stainton <david@leastauthority.com>
Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Add IN_MOVED_FROM to inotify mask.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Explicitly pass overwrite=True to add_file. (It is the default, but this is clearer.)

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

More fixes to drop-upload tests.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Fix drop-upload tests. refs ticket:2427

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Fix an incorrect addCallback.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

fileutil: make the error behaviour of replace_file on Unix more similar to Windows.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

fileutil.py: add rename_no_overwrite and replace_file.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

WIP debugging.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Cosmetics.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

WIP

fix more inotify test calls

Clean up test at end

this gets rid of the dirty reactor

Copy all daira code from other branch...

Test inotify with event agnostic notify

def notify(self, path, mask)
instead of
def notify_close_write(self, path)

Add sleep to test

WIP

Disable use of Unicode-mode FilePaths on non-Windows platorms. fixes ticket:2444

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Teach uploader to use flat hierarchy. refs ticket:2442

Author: David Stainton <david@leastauthority.com>
Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Add Magic Folder path encoding. refs ticket:2442

Move backupdb out of scripts. fixes ticket:2408

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Process directories unconditionally.
Also pass overwrite=False and suppress ExistingChildError when creating a
subdirectory, to avoid orphaning any existing directory.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

autoAdd isn't needed now that we add watches for subdirectories manually.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

WIP

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Teach uploader to keep object stats, not file stats.

We keep track of objects instead of files so that we are
not forced to determine the object type (file, directory,
symlink, special file etc.)

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Add ignore count to uploaded callback.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Teach StorageFarmBroker to fire a deferred when a connection threshold is reached. refs #1449

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Enable Windows inotify support.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

New code for Windows drop-upload support. refs #1431

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Docs for drop-upload on Windows.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Add magic folder db.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Unicode path fixes for drop-upload.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Merge branch '2510-new-foolscap'

introweb: fix connection hints for server announcements

A long time ago, the introducer's status web page would show the
advertised IP addresses for all published services, by parsing their
FURL's connection hints. This hasn't worked since about 12-Aug-2014 when
foolscap-0.6.5 changed the internal format of these hints (the column
has been empty this whole time).

This removes the "Advertised IPs" column from the Service Announcements
table. Instead, the service's full connection hints (not just the IP
address) is displayed in a tooltip/popup on the "Announced" timestamp
column.

The code that pulls these connection hints is now tolerant of all three
foolscap styles:

* foolscap<=0.6.4 : tuples of ("ipv4",host,port)
* 0.6.5 .. 0.8.0  : tuples of ("tcp",host,port)
* foolscap>=0.9.0 : strings

fixes ticket:2510

remove "announcement_distinct_hosts" from introweb JSON

The machine-parseable JSON output for the introducer status web page
used to include a key named "announcement_distinct_hosts", which counted
the number of distinct IP addresses advertised by all connected storage
servers. This hasn't worked since Aug-2014 when foolscap-0.6.5 change
the internal hints format.

This removes that field.

introducer: stop tracking hints for subscribed clients

A long time ago, the introducer's status web page would show the
advertised IP addresses for all subscribers, by parsing their
RemoteReference's FURL's connection hints. This hasn't worked since
about 12-Aug-2014 when foolscap-0.6.5 changed the internal format of
these hints.

This removes the feature: we no longer attempt to show advertised IP
addresses of subscribed clients. It also removes the code that looked
inside foolscap internals for this information.

travis: use 'git fetch' to deepen, not 'git pull'

Travis builds of branches (i.e. pull-requests) were testing the wrong
thing, because the 'git pull' was causing current trunk to be
auto-merged. At least that's what seemed to break
https://travis-ci.org/tahoe-lafs/tahoe-lafs/jobs/81517826 : it hung
forever waiting for a commit message to be entered.

Also add "sudo: false" to use travis containers (faster) instead of new
VMs. We only use pip to install dependencies, not apt, so we don't need
root.

Avoid spurious errors when an imported version is consistent with pkg_resources
but not parseable; also improve related error reporting. fixes ticket:2499

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Merge pull request #187 from tahoe-lafs/2493.cleanup-osx-packaging.1

2493.cleanup osx packaging.1

Move manpage into a heirarchical man1 path.

Author: Ramakrishnan Muthukrishnan <ram@leastauthority.com>

OS-X package: add a preinstall script and copy the manpage into /etc/manpaths.d.

The preinstall script detects previous installation and removes it.

Author: Ramakrishnan Muthukrishnan <ram@leastauthority.com>

Change some instances of "filesystem" that were missed to "file store".

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

update docs for 1.10.2 release

add a pypy that is allowed to fail

update NEWS with recent changes

quickstart: Mention python-dev package for Python.h

Closes ticket:2328.

Merge branch '2447-cp-overwrite'

test_cli_cp: minor cleanup

cp: error on target-filename collisions, rather than overwrite

Closes ticket:2447

unit test for my desired behavior

Merge branch '2436.less-scary.3'

This reverts and improves the earlier fix for ticket:2436

test_version.py: minor cleanup.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Don't show scary diagnostic warnings from --version[-and-path] (corrected). refs ticket:2436

The previous version would incorrectly add to the output of
get_package_versions_string each time it was called.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Revert "Don't show scary diagnostic warnings from --version[-and-path]"

This reverts commit 431728f8f854e02d9ab2f731675f12ce18cda122.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

mutable/retrieve.py: remove all bare assert()s

Replace them with _assert() or precondition(). Closes ticket:2462.

improve HTTP byte-range docs

webapi.rst: document Range: header on GET requests

closes ticket#2460

IReadable.read(): document out-of-range errors

closes ticket#2461

Merge branch 'sdmf-partial-2'

This cleans up the mutable-retrieve code a bit, and should fix some
corner cases where an offset/size combinations that reads the last byte
of the file (but not the first) could cause an assert to fire, making
the download hang. Should address ticket:2459 and ticket:2462.

test_mutable: more enhancements

mutable/retrieve.py: rewrite partial-read handling

This should tolerate offset/size combinations that read the last byte of
the file, something which was broken before. It quits early in the case
of zero-byte reads, to simplify the resulting "which segments do I need"
logic. Probably addresses ticket:2459.

enhance SDMF/MDMF tests: zero-length files, size=None

Add tests for SDMF partial reads. refs #2459

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Remove some bare asserts in retrieve.py (there are still quite a few left). refs #2462

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Merge pull request #176 from tahoe-lafs/2436.less-scary.0

Don't show scary diagnostic warnings from --version[-and-path] if the only problem is that extra packages are found by pkg_resources.

Minor code cleanup in __init__.py.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Don't show scary diagnostic warnings from --version[-and-path]
if the only problem is that extra packages are found by pkg_resources.
fixes ticket:2436

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Change the separator character in the Magic Folder user interface design doc from '|' to '+'.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Eliminate mock dependency.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Add Namespace utility class. (This is already used in the leasedb/cloud backend branch.)

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Makefile upload-osx-pkg: mention where the packages go

Bump pyasn1 requirement to >= 0.1.8.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Blacklist mock > 1.0.1.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

test/check_load: hush (newer) pyflakes

pyflakes-0.9.2 gets confused about list comprehensions, so rename the
loop variable even though we'd deleted that name already.

test_web: avoid IP autodetection, was causing dirty reactor

docs/how-to-release: add more wiki pages to update

add test-pip-install

release checklist: use signed git tag next time

README: update copyright date

update docs for 1.10.1 release

Dockerfile: git-pull more history, to get a version string

The Docker build process seems to use 'git pull --depth=1', which
doesn't fetch enough history to see a tag, which means tahoe's setup.py
can't compute a version (then 'tahoe --version' reports "unknown").
Pulling a hundred commits should be enough to see a tag without making
the resulting image unnecessarily large. If we go more than 100 commits
between tags, we'll need to increase this, or come up with something
smarter.

Finish user-interface.rst. fixes ticket:2443

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

Make a start on the Magic Folder Objective 5 (user interface design) doc. refs ticket:2443

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

NEWS.rst: fix missing link.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

NEWS.rst for 1.10.1: links, formatting and nitpicks.

Signed-off-by: Daira Hopwood <daira@jacaranda.org>

NEWS: finish 1.10.1 edits. Good enough for beta1.

NEWS: rearrange

NEWS: remove many non-user-visible items