src/allmydata/web/directory.py

   1
   2 import simplejson
   3 import urllib
   4
   5 from zope.interface import implements
   6 from twisted.internet import defer
   7 from twisted.internet.interfaces import IPushProducer
   8 from twisted.python.failure import Failure
   9 from twisted.web import http, html
  10 from nevow import url, rend, inevow, tags as T
  11 from nevow.inevow import IRequest
  12
  13 from foolscap.api import fireEventually
  14
  15 from allmydata.util import base32, time_format
  16 from allmydata.uri import from_string_dirnode
  17 from allmydata.interfaces import IDirectoryNode, IFileNode, IMutableFileNode, \
  18      ExistingChildError, NoSuchChildError
  19 from allmydata.monitor import Monitor, OperationCancelledError
  20 from allmydata import dirnode
  21 from allmydata.web.common import text_plain, WebError, \
  22      IOpHandleTable, NeedOperationHandleError, \
  23      boolean_of_arg, get_arg, get_root, \
  24      should_create_intermediate_directories, \
  25      getxmlfile, RenderMixin, humanize_failure
  26 from allmydata.web.filenode import ReplaceMeMixin, \
  27      FileNodeHandler, PlaceHolderNodeHandler
  28 from allmydata.web.check_results import CheckResults, \
  29      CheckAndRepairResults, DeepCheckResults, DeepCheckAndRepairResults
  30 from allmydata.web.info import MoreInfo
  31 from allmydata.web.operations import ReloadMixin
  32 from allmydata.web.check_results import json_check_results, \
  33      json_check_and_repair_results
  34
  35 class BlockingFileError(Exception):
  36     # TODO: catch and transform
  37     """We cannot auto-create a parent directory, because there is a file in
  38     the way"""
  39
  40 def make_handler_for(node, client, parentnode=None, name=None):
  41     if parentnode:
  42         assert IDirectoryNode.providedBy(parentnode)
  43     if IMutableFileNode.providedBy(node):
  44         return FileNodeHandler(client, node, parentnode, name)
  45     if IFileNode.providedBy(node):
  46         return FileNodeHandler(client, node, parentnode, name)
  47     if IDirectoryNode.providedBy(node):
  48         return DirectoryNodeHandler(client, node, parentnode, name)
  49     raise WebError("Cannot provide handler for '%s'" % node)
  50
  51 class DirectoryNodeHandler(RenderMixin, rend.Page, ReplaceMeMixin):
  52     addSlash = True
  53
  54     def __init__(self, client, node, parentnode=None, name=None):
  55         rend.Page.__init__(self)
  56         self.client = client
  57         assert node
  58         self.node = node
  59         self.parentnode = parentnode
  60         self.name = name
  61
  62     def childFactory(self, ctx, name):
  63         req = IRequest(ctx)
  64         name = name.decode("utf-8")
  65         d = self.node.get(name)
  66         d.addBoth(self.got_child, ctx, name)
  67         # got_child returns a handler resource: FileNodeHandler or
  68         # DirectoryNodeHandler
  69         return d
  70
  71     def got_child(self, node_or_failure, ctx, name):
  72         DEBUG = False
  73         if DEBUG: print "GOT_CHILD", name, node_or_failure
  74         req = IRequest(ctx)
  75         method = req.method
  76         nonterminal = len(req.postpath) > 1
  77         t = get_arg(req, "t", "").strip()
  78         if isinstance(node_or_failure, Failure):
  79             f = node_or_failure
  80             f.trap(NoSuchChildError)
  81             # No child by this name. What should we do about it?
  82             if DEBUG: print "no child", name
  83             if DEBUG: print "postpath", req.postpath
  84             if nonterminal:
  85                 if DEBUG: print " intermediate"
  86                 if should_create_intermediate_directories(req):
  87                     # create intermediate directories
  88                     if DEBUG: print " making intermediate directory"
  89                     d = self.node.create_empty_directory(name)
  90                     d.addCallback(make_handler_for,
  91                                   self.client, self.node, name)
  92                     return d
  93             else:
  94                 if DEBUG: print " terminal"
  95                 # terminal node
  96                 if (method,t) in [ ("POST","mkdir"), ("PUT","mkdir") ]:
  97                     if DEBUG: print " making final directory"
  98                     # final directory
  99                     d = self.node.create_empty_directory(name)
 100                     d.addCallback(make_handler_for,
 101                                   self.client, self.node, name)
 102                     return d
 103                 if (method,t) in ( ("PUT",""), ("PUT","uri"), ):
 104                     if DEBUG: print " PUT, making leaf placeholder"
 105                     # we were trying to find the leaf filenode (to put a new
 106                     # file in its place), and it didn't exist. That's ok,
 107                     # since that's the leaf node that we're about to create.
 108                     # We make a dummy one, which will respond to the PUT
 109                     # request by replacing itself.
 110                     return PlaceHolderNodeHandler(self.client, self.node, name)
 111             if DEBUG: print " 404"
 112             # otherwise, we just return a no-such-child error
 113             return f
 114
 115         node = node_or_failure
 116         if nonterminal and should_create_intermediate_directories(req):
 117             if not IDirectoryNode.providedBy(node):
 118                 # we would have put a new directory here, but there was a
 119                 # file in the way.
 120                 if DEBUG: print "blocking"
 121                 raise WebError("Unable to create directory '%s': "
 122                                "a file was in the way" % name,
 123                                http.CONFLICT)
 124         if DEBUG: print "good child"
 125         return make_handler_for(node, self.client, self.node, name)
 126
 127     def render_DELETE(self, ctx):
 128         assert self.parentnode and self.name
 129         d = self.parentnode.delete(self.name)
 130         d.addCallback(lambda res: self.node.get_uri())
 131         return d
 132
 133     def render_GET(self, ctx):
 134         req = IRequest(ctx)
 135         # This is where all of the directory-related ?t=* code goes.
 136         t = get_arg(req, "t", "").strip()
 137         if not t:
 138             # render the directory as HTML, using the docFactory and Nevow's
 139             # whole templating thing.
 140             return DirectoryAsHTML(self.node)
 141
 142         if t == "json":
 143             return DirectoryJSONMetadata(ctx, self.node)
 144         if t == "info":
 145             return MoreInfo(self.node)
 146         if t == "uri":
 147             return DirectoryURI(ctx, self.node)
 148         if t == "readonly-uri":
 149             return DirectoryReadonlyURI(ctx, self.node)
 150         if t == 'rename-form':
 151             return RenameForm(self.node)
 152
 153         raise WebError("GET directory: bad t=%s" % t)
 154
 155     def render_PUT(self, ctx):
 156         req = IRequest(ctx)
 157         t = get_arg(req, "t", "").strip()
 158         replace = boolean_of_arg(get_arg(req, "replace", "true"))
 159         if t == "mkdir":
 160             # our job was done by the traversal/create-intermediate-directory
 161             # process that got us here.
 162             return text_plain(self.node.get_uri(), ctx) # TODO: urlencode
 163         if t == "uri":
 164             if not replace:
 165                 # they're trying to set_uri and that name is already occupied
 166                 # (by us).
 167                 raise ExistingChildError()
 168             d = self.replace_me_with_a_childcap(req, self.client, replace)
 169             # TODO: results
 170             return d
 171
 172         raise WebError("PUT to a directory")
 173
 174     def render_POST(self, ctx):
 175         req = IRequest(ctx)
 176         t = get_arg(req, "t", "").strip()
 177
 178         if t == "mkdir":
 179             d = self._POST_mkdir(req)
 180         elif t == "mkdir-p":
 181             # TODO: docs, tests
 182             d = self._POST_mkdir_p(req)
 183         elif t == "upload":
 184             d = self._POST_upload(ctx) # this one needs the context
 185         elif t == "uri":
 186             d = self._POST_uri(req)
 187         elif t == "delete":
 188             d = self._POST_delete(req)
 189         elif t == "rename":
 190             d = self._POST_rename(req)
 191         elif t == "check":
 192             d = self._POST_check(req)
 193         elif t == "start-deep-check":
 194             d = self._POST_start_deep_check(ctx)
 195         elif t == "stream-deep-check":
 196             d = self._POST_stream_deep_check(ctx)
 197         elif t == "start-manifest":
 198             d = self._POST_start_manifest(ctx)
 199         elif t == "start-deep-size":
 200             d = self._POST_start_deep_size(ctx)
 201         elif t == "start-deep-stats":
 202             d = self._POST_start_deep_stats(ctx)
 203         elif t == "stream-manifest":
 204             d = self._POST_stream_manifest(ctx)
 205         elif t == "set_children":
 206             # TODO: docs
 207             d = self._POST_set_children(req)
 208         else:
 209             raise WebError("POST to a directory with bad t=%s" % t)
 210
 211         when_done = get_arg(req, "when_done", None)
 212         if when_done:
 213             d.addCallback(lambda res: url.URL.fromString(when_done))
 214         return d
 215
 216     def _POST_mkdir(self, req):
 217         name = get_arg(req, "name", "")
 218         if not name:
 219             # our job is done, it was handled by the code in got_child
 220             # which created the final directory (i.e. us)
 221             return defer.succeed(self.node.get_uri()) # TODO: urlencode
 222         name = name.decode("utf-8")
 223         replace = boolean_of_arg(get_arg(req, "replace", "true"))
 224         d = self.node.create_empty_directory(name, overwrite=replace)
 225         d.addCallback(lambda child: child.get_uri()) # TODO: urlencode
 226         return d
 227
 228     def _POST_mkdir_p(self, req):
 229         path = get_arg(req, "path")
 230         if not path:
 231             raise WebError("mkdir-p requires a path")
 232         path_ = tuple([seg.decode("utf-8") for seg in path.split('/') if seg ])
 233         # TODO: replace
 234         d = self._get_or_create_directories(self.node, path_)
 235         d.addCallback(lambda node: node.get_uri())
 236         return d
 237
 238     def _get_or_create_directories(self, node, path):
 239         if not IDirectoryNode.providedBy(node):
 240             # unfortunately it is too late to provide the name of the
 241             # blocking directory in the error message.
 242             raise BlockingFileError("cannot create directory because there "
 243                                     "is a file in the way")
 244         if not path:
 245             return defer.succeed(node)
 246         d = node.get(path[0])
 247         def _maybe_create(f):
 248             f.trap(NoSuchChildError)
 249             return node.create_empty_directory(path[0])
 250         d.addErrback(_maybe_create)
 251         d.addCallback(self._get_or_create_directories, path[1:])
 252         return d
 253
 254     def _POST_upload(self, ctx):
 255         req = IRequest(ctx)
 256         charset = get_arg(req, "_charset", "utf-8")
 257         contents = req.fields["file"]
 258         assert contents.filename is None or isinstance(contents.filename, str)
 259         name = get_arg(req, "name")
 260         name = name or contents.filename
 261         if name is not None:
 262             name = name.strip()
 263         if not name:
 264             # this prohibts empty, missing, and all-whitespace filenames
 265             raise WebError("upload requires a name")
 266         assert isinstance(name, str)
 267         name = name.decode(charset)
 268         if "/" in name:
 269             raise WebError("name= may not contain a slash", http.BAD_REQUEST)
 270         assert isinstance(name, unicode)
 271
 272         # since POST /uri/path/file?t=upload is equivalent to
 273         # POST /uri/path/dir?t=upload&name=foo, just do the same thing that
 274         # childFactory would do. Things are cleaner if we only do a subset of
 275         # them, though, so we don't do: d = self.childFactory(ctx, name)
 276
 277         d = self.node.get(name)
 278         def _maybe_got_node(node_or_failure):
 279             if isinstance(node_or_failure, Failure):
 280                 f = node_or_failure
 281                 f.trap(NoSuchChildError)
 282                 # create a placeholder which will see POST t=upload
 283                 return PlaceHolderNodeHandler(self.client, self.node, name)
 284             else:
 285                 node = node_or_failure
 286                 return make_handler_for(node, self.client, self.node, name)
 287         d.addBoth(_maybe_got_node)
 288         # now we have a placeholder or a filenodehandler, and we can just
 289         # delegate to it. We could return the resource back out of
 290         # DirectoryNodeHandler.renderHTTP, and nevow would recurse into it,
 291         # but the addCallback() that handles when_done= would break.
 292         d.addCallback(lambda child: child.renderHTTP(ctx))
 293         return d
 294
 295     def _POST_uri(self, req):
 296         childcap = get_arg(req, "uri")
 297         if not childcap:
 298             raise WebError("set-uri requires a uri")
 299         name = get_arg(req, "name")
 300         if not name:
 301             raise WebError("set-uri requires a name")
 302         charset = get_arg(req, "_charset", "utf-8")
 303         name = name.decode(charset)
 304         replace = boolean_of_arg(get_arg(req, "replace", "true"))
 305         d = self.node.set_uri(name, childcap, overwrite=replace)
 306         d.addCallback(lambda res: childcap)
 307         return d
 308
 309     def _POST_delete(self, req):
 310         name = get_arg(req, "name")
 311         if name is None:
 312             # apparently an <input type="hidden" name="name" value="">
 313             # won't show up in the resulting encoded form.. the 'name'
 314             # field is completely missing. So to allow deletion of an
 315             # empty file, we have to pretend that None means ''. The only
 316             # downide of this is a slightly confusing error message if
 317             # someone does a POST without a name= field. For our own HTML
 318             # thisn't a big deal, because we create the 'delete' POST
 319             # buttons ourselves.
 320             name = ''
 321         charset = get_arg(req, "_charset", "utf-8")
 322         name = name.decode(charset)
 323         d = self.node.delete(name)
 324         d.addCallback(lambda res: "thing deleted")
 325         return d
 326
 327     def _POST_rename(self, req):
 328         charset = get_arg(req, "_charset", "utf-8")
 329         from_name = get_arg(req, "from_name")
 330         if from_name is not None:
 331             from_name = from_name.strip()
 332             from_name = from_name.decode(charset)
 333             assert isinstance(from_name, unicode)
 334         to_name = get_arg(req, "to_name")
 335         if to_name is not None:
 336             to_name = to_name.strip()
 337             to_name = to_name.decode(charset)
 338             assert isinstance(to_name, unicode)
 339         if not from_name or not to_name:
 340             raise WebError("rename requires from_name and to_name")
 341         if from_name == to_name:
 342             return defer.succeed("redundant rename")
 343
 344         # allow from_name to contain slashes, so they can fix names that were
 345         # accidentally created with them. But disallow them in to_name, to
 346         # discourage the practice.
 347         if "/" in to_name:
 348             raise WebError("to_name= may not contain a slash", http.BAD_REQUEST)
 349
 350         replace = boolean_of_arg(get_arg(req, "replace", "true"))
 351         d = self.node.move_child_to(from_name, self.node, to_name, replace)
 352         d.addCallback(lambda res: "thing renamed")
 353         return d
 354
 355     def _POST_check(self, req):
 356         # check this directory
 357         verify = boolean_of_arg(get_arg(req, "verify", "false"))
 358         repair = boolean_of_arg(get_arg(req, "repair", "false"))
 359         add_lease = boolean_of_arg(get_arg(req, "add-lease", "false"))
 360         if repair:
 361             d = self.node.check_and_repair(Monitor(), verify, add_lease)
 362             d.addCallback(lambda res: CheckAndRepairResults(self.client, res))
 363         else:
 364             d = self.node.check(Monitor(), verify, add_lease)
 365             d.addCallback(lambda res: CheckResults(self.client, res))
 366         return d
 367
 368     def _start_operation(self, monitor, renderer, ctx):
 369         table = IOpHandleTable(ctx)
 370         table.add_monitor(ctx, monitor, renderer)
 371         return table.redirect_to(ctx)
 372
 373     def _POST_start_deep_check(self, ctx):
 374         # check this directory and everything reachable from it
 375         if not get_arg(ctx, "ophandle"):
 376             raise NeedOperationHandleError("slow operation requires ophandle=")
 377         verify = boolean_of_arg(get_arg(ctx, "verify", "false"))
 378         repair = boolean_of_arg(get_arg(ctx, "repair", "false"))
 379         add_lease = boolean_of_arg(get_arg(ctx, "add-lease", "false"))
 380         if repair:
 381             monitor = self.node.start_deep_check_and_repair(verify, add_lease)
 382             renderer = DeepCheckAndRepairResults(self.client, monitor)
 383         else:
 384             monitor = self.node.start_deep_check(verify, add_lease)
 385             renderer = DeepCheckResults(self.client, monitor)
 386         return self._start_operation(monitor, renderer, ctx)
 387
 388     def _POST_stream_deep_check(self, ctx):
 389         verify = boolean_of_arg(get_arg(ctx, "verify", "false"))
 390         repair = boolean_of_arg(get_arg(ctx, "repair", "false"))
 391         add_lease = boolean_of_arg(get_arg(ctx, "add-lease", "false"))
 392         walker = DeepCheckStreamer(ctx, self.node, verify, repair, add_lease)
 393         monitor = self.node.deep_traverse(walker)
 394         walker.setMonitor(monitor)
 395         # register to hear stopProducing. The walker ignores pauseProducing.
 396         IRequest(ctx).registerProducer(walker, True)
 397         d = monitor.when_done()
 398         def _done(res):
 399             IRequest(ctx).unregisterProducer()
 400             return res
 401         d.addBoth(_done)
 402         def _cancelled(f):
 403             f.trap(OperationCancelledError)
 404             return "Operation Cancelled"
 405         d.addErrback(_cancelled)
 406         def _error(f):
 407             # signal the error as a non-JSON "ERROR:" line, plus exception
 408             msg = "ERROR: %s(%s)\n" % (f.value.__class__.__name__,
 409                                        ", ".join([str(a) for a in f.value.args]))
 410             msg += str(f)
 411             return msg
 412         d.addErrback(_error)
 413         return d
 414
 415     def _POST_start_manifest(self, ctx):
 416         if not get_arg(ctx, "ophandle"):
 417             raise NeedOperationHandleError("slow operation requires ophandle=")
 418         monitor = self.node.build_manifest()
 419         renderer = ManifestResults(self.client, monitor)
 420         return self._start_operation(monitor, renderer, ctx)
 421
 422     def _POST_start_deep_size(self, ctx):
 423         if not get_arg(ctx, "ophandle"):
 424             raise NeedOperationHandleError("slow operation requires ophandle=")
 425         monitor = self.node.start_deep_stats()
 426         renderer = DeepSizeResults(self.client, monitor)
 427         return self._start_operation(monitor, renderer, ctx)
 428
 429     def _POST_start_deep_stats(self, ctx):
 430         if not get_arg(ctx, "ophandle"):
 431             raise NeedOperationHandleError("slow operation requires ophandle=")
 432         monitor = self.node.start_deep_stats()
 433         renderer = DeepStatsResults(self.client, monitor)
 434         return self._start_operation(monitor, renderer, ctx)
 435
 436     def _POST_stream_manifest(self, ctx):
 437         walker = ManifestStreamer(ctx, self.node)
 438         monitor = self.node.deep_traverse(walker)
 439         walker.setMonitor(monitor)
 440         # register to hear stopProducing. The walker ignores pauseProducing.
 441         IRequest(ctx).registerProducer(walker, True)
 442         d = monitor.when_done()
 443         def _done(res):
 444             IRequest(ctx).unregisterProducer()
 445             return res
 446         d.addBoth(_done)
 447         def _cancelled(f):
 448             f.trap(OperationCancelledError)
 449             return "Operation Cancelled"
 450         d.addErrback(_cancelled)
 451         def _error(f):
 452             # signal the error as a non-JSON "ERROR:" line, plus exception
 453             msg = "ERROR: %s(%s)\n" % (f.value.__class__.__name__,
 454                                        ", ".join([str(a) for a in f.value.args]))
 455             msg += str(f)
 456             return msg
 457         d.addErrback(_error)
 458         return d
 459
 460     def _POST_set_children(self, req):
 461         replace = boolean_of_arg(get_arg(req, "replace", "true"))
 462         req.content.seek(0)
 463         body = req.content.read()
 464         try:
 465             children = simplejson.loads(body)
 466         except ValueError, le:
 467             le.args = tuple(le.args + (body,))
 468             # TODO test handling of bad JSON
 469             raise
 470         cs = []
 471         for name, (file_or_dir, mddict) in children.iteritems():
 472             name = unicode(name) # simplejson-2.0.1 returns str *or* unicode
 473             cap = str(mddict.get('rw_uri') or mddict.get('ro_uri'))
 474             cs.append((name, cap, mddict.get('metadata')))
 475         d = self.node.set_children(cs, replace)
 476         d.addCallback(lambda res: "Okay so I did it.")
 477         # TODO: results
 478         return d
 479
 480 def abbreviated_dirnode(dirnode):
 481     u = from_string_dirnode(dirnode.get_uri())
 482     return u.abbrev_si()
 483
 484 class DirectoryAsHTML(rend.Page):
 485     # The remainder of this class is to render the directory into
 486     # human+browser -oriented HTML.
 487     docFactory = getxmlfile("directory.xhtml")
 488     addSlash = True
 489
 490     def __init__(self, node):
 491         rend.Page.__init__(self)
 492         self.node = node
 493
 494     def beforeRender(self, ctx):
 495         # attempt to get the dirnode's children, stashing them (or the
 496         # failure that results) for later use
 497         d = self.node.list()
 498         def _good(children):
 499             # Deferreds don't optimize out tail recursion, and the way
 500             # Nevow's flattener handles Deferreds doesn't take this into
 501             # account. As a result, large lists of Deferreds that fire in the
 502             # same turn (i.e. the output of defer.succeed) will cause a stack
 503             # overflow. To work around this, we insert a turn break after
 504             # every 100 items, using foolscap's fireEventually(). This gives
 505             # the stack a chance to be popped. It would also work to put
 506             # every item in its own turn, but that'd be a lot more
 507             # inefficient. This addresses ticket #237, for which I was never
 508             # able to create a failing unit test.
 509             output = []
 510             for i,item in enumerate(sorted(children.items())):
 511                 if i % 100 == 0:
 512                     output.append(fireEventually(item))
 513                 else:
 514                     output.append(item)
 515             self.dirnode_children = output
 516             return ctx
 517         def _bad(f):
 518             text, code = humanize_failure(f)
 519             self.dirnode_children = None
 520             self.dirnode_children_error = text
 521             return ctx
 522         d.addCallbacks(_good, _bad)
 523         return d
 524
 525     def render_title(self, ctx, data):
 526         si_s = abbreviated_dirnode(self.node)
 527         header = ["AllMyData - Tahoe - Directory SI=%s" % si_s]
 528         if self.node.is_readonly():
 529             header.append(" (read-only)")
 530         else:
 531             header.append(" (modifiable)")
 532         return ctx.tag[header]
 533
 534     def render_header(self, ctx, data):
 535         si_s = abbreviated_dirnode(self.node)
 536         header = ["Directory SI=%s" % si_s]
 537         if self.node.is_readonly():
 538             header.append(" (read-only)")
 539         return ctx.tag[header]
 540
 541     def render_welcome(self, ctx, data):
 542         link = get_root(ctx)
 543         return T.div[T.a(href=link)["Return to Welcome page"]]
 544
 545     def render_show_readonly(self, ctx, data):
 546         if self.node.is_readonly():
 547             return ""
 548         rocap = self.node.get_readonly_uri()
 549         root = get_root(ctx)
 550         uri_link = "%s/uri/%s/" % (root, urllib.quote(rocap))
 551         return ctx.tag[T.a(href=uri_link)["Read-Only Version"]]
 552
 553     def render_try_children(self, ctx, data):
 554         # if the dirnode can be retrived, render a table of children.
 555         # Otherwise, render an apologetic error message.
 556         if self.dirnode_children is not None:
 557             return ctx.tag
 558         else:
 559             return T.div[T.p["Error reading directory:"],
 560                          T.p[self.dirnode_children_error]]
 561
 562     def data_children(self, ctx, data):
 563         return self.dirnode_children
 564
 565     def render_row(self, ctx, data):
 566         name, (target, metadata) = data
 567         name = name.encode("utf-8")
 568         assert not isinstance(name, unicode)
 569         nameurl = urllib.quote(name, safe="") # encode any slashes too
 570
 571         root = get_root(ctx)
 572         here = "%s/uri/%s/" % (root, urllib.quote(self.node.get_uri()))
 573         if self.node.is_readonly():
 574             delete = "-"
 575             rename = "-"
 576         else:
 577             # this creates a button which will cause our child__delete method
 578             # to be invoked, which deletes the file and then redirects the
 579             # browser back to this directory
 580             delete = T.form(action=here, method="post")[
 581                 T.input(type='hidden', name='t', value='delete'),
 582                 T.input(type='hidden', name='name', value=name),
 583                 T.input(type='hidden', name='when_done', value="."),
 584                 T.input(type='submit', value='del', name="del"),
 585                 ]
 586
 587             rename = T.form(action=here, method="get")[
 588                 T.input(type='hidden', name='t', value='rename-form'),
 589                 T.input(type='hidden', name='name', value=name),
 590                 T.input(type='hidden', name='when_done', value="."),
 591                 T.input(type='submit', value='rename', name="rename"),
 592                 ]
 593
 594         ctx.fillSlots("delete", delete)
 595         ctx.fillSlots("rename", rename)
 596
 597         times = []
 598         linkcrtime = metadata.get('tahoe', {}).get("linkcrtime")
 599         if linkcrtime is not None:
 600             times.append("lcr: " + time_format.iso_local(linkcrtime))
 601         else:
 602             # For backwards-compatibility with links last modified by Tahoe < 1.4.0:
 603             if "ctime" in metadata:
 604                 ctime = time_format.iso_local(metadata["ctime"])
 605                 times.append("c: " + ctime)
 606         linkmotime = metadata.get('tahoe', {}).get("linkmotime")
 607         if linkmotime is not None:
 608             if times:
 609                 times.append(T.br())
 610             times.append("lmo: " + time_format.iso_local(linkmotime))
 611         else:
 612             # For backwards-compatibility with links last modified by Tahoe < 1.4.0:
 613             if "mtime" in metadata:
 614                 mtime = time_format.iso_local(metadata["mtime"])
 615                 if times:
 616                     times.append(T.br())
 617                 times.append("m: " + mtime)
 618         ctx.fillSlots("times", times)
 619
 620         assert (IFileNode.providedBy(target)
 621                 or IDirectoryNode.providedBy(target)
 622                 or IMutableFileNode.providedBy(target)), target
 623
 624         quoted_uri = urllib.quote(target.get_uri())
 625
 626         if IMutableFileNode.providedBy(target):
 627             # to prevent javascript in displayed .html files from stealing a
 628             # secret directory URI from the URL, send the browser to a URI-based
 629             # page that doesn't know about the directory at all
 630             dlurl = "%s/file/%s/@@named=/%s" % (root, quoted_uri, nameurl)
 631
 632             ctx.fillSlots("filename",
 633                           T.a(href=dlurl)[html.escape(name)])
 634             ctx.fillSlots("type", "SSK")
 635
 636             ctx.fillSlots("size", "?")
 637
 638             info_link = "%s/uri/%s?t=info" % (root, quoted_uri)
 639
 640         elif IFileNode.providedBy(target):
 641             dlurl = "%s/file/%s/@@named=/%s" % (root, quoted_uri, nameurl)
 642
 643             ctx.fillSlots("filename",
 644                           T.a(href=dlurl)[html.escape(name)])
 645             ctx.fillSlots("type", "FILE")
 646
 647             ctx.fillSlots("size", target.get_size())
 648
 649             info_link = "%s/uri/%s?t=info" % (root, quoted_uri)
 650
 651         elif IDirectoryNode.providedBy(target):
 652             # directory
 653             uri_link = "%s/uri/%s/" % (root, urllib.quote(target.get_uri()))
 654             ctx.fillSlots("filename",
 655                           T.a(href=uri_link)[html.escape(name)])
 656             if target.is_readonly():
 657                 dirtype = "DIR-RO"
 658             else:
 659                 dirtype = "DIR"
 660             ctx.fillSlots("type", dirtype)
 661             ctx.fillSlots("size", "-")
 662             info_link = "%s/uri/%s/?t=info" % (root, quoted_uri)
 663
 664         ctx.fillSlots("info", T.a(href=info_link)["More Info"])
 665
 666         return ctx.tag
 667
 668     def render_forms(self, ctx, data):
 669         forms = []
 670
 671         if self.node.is_readonly():
 672             return T.div["No upload forms: directory is read-only"]
 673         if self.dirnode_children is None:
 674             return T.div["No upload forms: directory is unreadable"]
 675
 676         mkdir = T.form(action=".", method="post",
 677                        enctype="multipart/form-data")[
 678             T.fieldset[
 679             T.input(type="hidden", name="t", value="mkdir"),
 680             T.input(type="hidden", name="when_done", value="."),
 681             T.legend(class_="freeform-form-label")["Create a new directory in this directory"],
 682             "New directory name: ",
 683             T.input(type="text", name="name"), " ",
 684             T.input(type="submit", value="Create"),
 685             ]]
 686         forms.append(T.div(class_="freeform-form")[mkdir])
 687
 688         upload = T.form(action=".", method="post",
 689                         enctype="multipart/form-data")[
 690             T.fieldset[
 691             T.input(type="hidden", name="t", value="upload"),
 692             T.input(type="hidden", name="when_done", value="."),
 693             T.legend(class_="freeform-form-label")["Upload a file to this directory"],
 694             "Choose a file to upload: ",
 695             T.input(type="file", name="file", class_="freeform-input-file"),
 696             " ",
 697             T.input(type="submit", value="Upload"),
 698             " Mutable?:",
 699             T.input(type="checkbox", name="mutable"),
 700             ]]
 701         forms.append(T.div(class_="freeform-form")[upload])
 702
 703         mount = T.form(action=".", method="post",
 704                         enctype="multipart/form-data")[
 705             T.fieldset[
 706             T.input(type="hidden", name="t", value="uri"),
 707             T.input(type="hidden", name="when_done", value="."),
 708             T.legend(class_="freeform-form-label")["Attach a file or directory"
 709                                                    " (by URI) to this"
 710                                                    " directory"],
 711             "New child name: ",
 712             T.input(type="text", name="name"), " ",
 713             "URI of new child: ",
 714             T.input(type="text", name="uri"), " ",
 715             T.input(type="submit", value="Attach"),
 716             ]]
 717         forms.append(T.div(class_="freeform-form")[mount])
 718         return forms
 719
 720     def render_results(self, ctx, data):
 721         req = IRequest(ctx)
 722         return get_arg(req, "results", "")
 723
 724
 725 def DirectoryJSONMetadata(ctx, dirnode):
 726     d = dirnode.list()
 727     def _got(children):
 728         kids = {}
 729         for name, (childnode, metadata) in children.iteritems():
 730             if childnode.is_readonly():
 731                 rw_uri = None
 732                 ro_uri = childnode.get_uri()
 733             else:
 734                 rw_uri = childnode.get_uri()
 735                 ro_uri = childnode.get_readonly_uri()
 736             if IFileNode.providedBy(childnode):
 737                 kiddata = ("filenode", {'size': childnode.get_size(),
 738                                         'metadata': metadata,
 739                                         })
 740             else:
 741                 assert IDirectoryNode.providedBy(childnode), (childnode,
 742                                                               children,)
 743                 kiddata = ("dirnode", {'metadata': metadata})
 744             if ro_uri:
 745                 kiddata[1]["ro_uri"] = ro_uri
 746             if rw_uri:
 747                 kiddata[1]["rw_uri"] = rw_uri
 748             verifycap = childnode.get_verify_cap()
 749             if verifycap:
 750                 kiddata[1]['verify_uri'] = verifycap.to_string()
 751             kiddata[1]['mutable'] = childnode.is_mutable()
 752             kids[name] = kiddata
 753         if dirnode.is_readonly():
 754             drw_uri = None
 755             dro_uri = dirnode.get_uri()
 756         else:
 757             drw_uri = dirnode.get_uri()
 758             dro_uri = dirnode.get_readonly_uri()
 759         contents = { 'children': kids }
 760         if dro_uri:
 761             contents['ro_uri'] = dro_uri
 762         if drw_uri:
 763             contents['rw_uri'] = drw_uri
 764         verifycap = dirnode.get_verify_cap()
 765         if verifycap:
 766             contents['verify_uri'] = verifycap.to_string()
 767         contents['mutable'] = dirnode.is_mutable()
 768         data = ("dirnode", contents)
 769         return simplejson.dumps(data, indent=1) + "\n"
 770     d.addCallback(_got)
 771     d.addCallback(text_plain, ctx)
 772     return d
 773
 774
 775
 776 def DirectoryURI(ctx, dirnode):
 777     return text_plain(dirnode.get_uri(), ctx)
 778
 779 def DirectoryReadonlyURI(ctx, dirnode):
 780     return text_plain(dirnode.get_readonly_uri(), ctx)
 781
 782 class RenameForm(rend.Page):
 783     addSlash = True
 784     docFactory = getxmlfile("rename-form.xhtml")
 785
 786     def render_title(self, ctx, data):
 787         return ctx.tag["Directory SI=%s" % abbreviated_dirnode(self.original)]
 788
 789     def render_header(self, ctx, data):
 790         header = ["Rename "
 791                   "in directory SI=%s" % abbreviated_dirnode(self.original),
 792                   ]
 793
 794         if self.original.is_readonly():
 795             header.append(" (readonly!)")
 796         header.append(":")
 797         return ctx.tag[header]
 798
 799     def render_when_done(self, ctx, data):
 800         return T.input(type="hidden", name="when_done", value=".")
 801
 802     def render_get_name(self, ctx, data):
 803         req = IRequest(ctx)
 804         name = get_arg(req, "name", "")
 805         ctx.tag.attributes['value'] = name
 806         return ctx.tag
 807
 808
 809 class ManifestResults(rend.Page, ReloadMixin):
 810     docFactory = getxmlfile("manifest.xhtml")
 811
 812     def __init__(self, client, monitor):
 813         self.client = client
 814         self.monitor = monitor
 815
 816     def renderHTTP(self, ctx):
 817         req = inevow.IRequest(ctx)
 818         output = get_arg(req, "output", "html").lower()
 819         if output == "text":
 820             return self.text(req)
 821         if output == "json":
 822             return self.json(req)
 823         return rend.Page.renderHTTP(self, ctx)
 824
 825     def slashify_path(self, path):
 826         if not path:
 827             return ""
 828         return "/".join([p.encode("utf-8") for p in path])
 829
 830     def text(self, req):
 831         req.setHeader("content-type", "text/plain")
 832         lines = []
 833         is_finished = self.monitor.is_finished()
 834         lines.append("finished: " + {True: "yes", False: "no"}[is_finished])
 835         for (path, cap) in self.monitor.get_status()["manifest"]:
 836             lines.append(self.slashify_path(path) + " " + cap)
 837         return "\n".join(lines) + "\n"
 838
 839     def json(self, req):
 840         req.setHeader("content-type", "text/plain")
 841         m = self.monitor
 842         s = m.get_status()
 843
 844         status = { "stats": s["stats"],
 845                    "finished": m.is_finished(),
 846                    "origin": base32.b2a(m.origin_si),
 847                    }
 848         if m.is_finished():
 849             # don't return manifest/verifycaps/SIs unless the operation is
 850             # done, to save on CPU/memory (both here and in the HTTP client
 851             # who has to unpack the JSON). Tests show that the ManifestWalker
 852             # needs about 1092 bytes per item, the JSON we generate here
 853             # requires about 503 bytes per item, and some internal overhead
 854             # (perhaps transport-layer buffers in twisted.web?) requires an
 855             # additional 1047 bytes per item.
 856             status.update({ "manifest": s["manifest"],
 857                             "verifycaps": [i for i in s["verifycaps"]],
 858                             "storage-index": [i for i in s["storage-index"]],
 859                             })
 860             # simplejson doesn't know how to serialize a set. We use a
 861             # generator that walks the set rather than list(setofthing) to
 862             # save a small amount of memory (4B*len) and a moderate amount of
 863             # CPU.
 864         return simplejson.dumps(status, indent=1)
 865
 866     def _si_abbrev(self):
 867         return base32.b2a(self.monitor.origin_si)[:6]
 868
 869     def render_title(self, ctx):
 870         return T.title["Manifest of SI=%s" % self._si_abbrev()]
 871
 872     def render_header(self, ctx):
 873         return T.p["Manifest of SI=%s" % self._si_abbrev()]
 874
 875     def data_items(self, ctx, data):
 876         return self.monitor.get_status()["manifest"]
 877
 878     def render_row(self, ctx, (path, cap)):
 879         ctx.fillSlots("path", self.slashify_path(path))
 880         root = get_root(ctx)
 881         # TODO: we need a clean consistent way to get the type of a cap string
 882         if cap.startswith("URI:CHK") or cap.startswith("URI:SSK"):
 883             nameurl = urllib.quote(path[-1].encode("utf-8"))
 884             uri_link = "%s/file/%s/@@named=/%s" % (root, urllib.quote(cap),
 885                                                    nameurl)
 886         else:
 887             uri_link = "%s/uri/%s" % (root, urllib.quote(cap))
 888         ctx.fillSlots("cap", T.a(href=uri_link)[cap])
 889         return ctx.tag
 890
 891 class DeepSizeResults(rend.Page):
 892     def __init__(self, client, monitor):
 893         self.client = client
 894         self.monitor = monitor
 895
 896     def renderHTTP(self, ctx):
 897         req = inevow.IRequest(ctx)
 898         output = get_arg(req, "output", "html").lower()
 899         req.setHeader("content-type", "text/plain")
 900         if output == "json":
 901             return self.json(req)
 902         # plain text
 903         is_finished = self.monitor.is_finished()
 904         output = "finished: " + {True: "yes", False: "no"}[is_finished] + "\n"
 905         if is_finished:
 906             stats = self.monitor.get_status()
 907             total = (stats.get("size-immutable-files", 0)
 908                      + stats.get("size-mutable-files", 0)
 909                      + stats.get("size-directories", 0))
 910             output += "size: %d\n" % total
 911         return output
 912
 913     def json(self, req):
 914         status = {"finished": self.monitor.is_finished(),
 915                   "size": self.monitor.get_status(),
 916                   }
 917         return simplejson.dumps(status)
 918
 919 class DeepStatsResults(rend.Page):
 920     def __init__(self, client, monitor):
 921         self.client = client
 922         self.monitor = monitor
 923
 924     def renderHTTP(self, ctx):
 925         # JSON only
 926         inevow.IRequest(ctx).setHeader("content-type", "text/plain")
 927         s = self.monitor.get_status().copy()
 928         s["finished"] = self.monitor.is_finished()
 929         return simplejson.dumps(s, indent=1)
 930
 931 class ManifestStreamer(dirnode.DeepStats):
 932     implements(IPushProducer)
 933
 934     def __init__(self, ctx, origin):
 935         dirnode.DeepStats.__init__(self, origin)
 936         self.req = IRequest(ctx)
 937
 938     def setMonitor(self, monitor):
 939         self.monitor = monitor
 940     def pauseProducing(self):
 941         pass
 942     def resumeProducing(self):
 943         pass
 944     def stopProducing(self):
 945         self.monitor.cancel()
 946
 947     def add_node(self, node, path):
 948         dirnode.DeepStats.add_node(self, node, path)
 949         d = {"path": path,
 950              "cap": node.get_uri()}
 951
 952         if IDirectoryNode.providedBy(node):
 953             d["type"] = "directory"
 954         else:
 955             d["type"] = "file"
 956
 957         v = node.get_verify_cap()
 958         if v:
 959             v = v.to_string()
 960         d["verifycap"] = v
 961
 962         r = node.get_repair_cap()
 963         if r:
 964             r = r.to_string()
 965         d["repaircap"] = r
 966
 967         si = node.get_storage_index()
 968         if si:
 969             si = base32.b2a(si)
 970         d["storage-index"] = si
 971
 972         j = simplejson.dumps(d, ensure_ascii=True)
 973         assert "\n" not in j
 974         self.req.write(j+"\n")
 975
 976     def finish(self):
 977         stats = dirnode.DeepStats.get_results(self)
 978         d = {"type": "stats",
 979              "stats": stats,
 980              }
 981         j = simplejson.dumps(d, ensure_ascii=True)
 982         assert "\n" not in j
 983         self.req.write(j+"\n")
 984         return ""
 985
 986 class DeepCheckStreamer(dirnode.DeepStats):
 987     implements(IPushProducer)
 988
 989     def __init__(self, ctx, origin, verify, repair, add_lease):
 990         dirnode.DeepStats.__init__(self, origin)
 991         self.req = IRequest(ctx)
 992         self.verify = verify
 993         self.repair = repair
 994         self.add_lease = add_lease
 995
 996     def setMonitor(self, monitor):
 997         self.monitor = monitor
 998     def pauseProducing(self):
 999         pass
1000     def resumeProducing(self):
1001         pass
1002     def stopProducing(self):
1003         self.monitor.cancel()
1004
1005     def add_node(self, node, path):
1006         dirnode.DeepStats.add_node(self, node, path)
1007         data = {"path": path,
1008                 "cap": node.get_uri()}
1009
1010         if IDirectoryNode.providedBy(node):
1011             data["type"] = "directory"
1012         else:
1013             data["type"] = "file"
1014
1015         v = node.get_verify_cap()
1016         if v:
1017             v = v.to_string()
1018         data["verifycap"] = v
1019
1020         r = node.get_repair_cap()
1021         if r:
1022             r = r.to_string()
1023         data["repaircap"] = r
1024
1025         si = node.get_storage_index()
1026         if si:
1027             si = base32.b2a(si)
1028         data["storage-index"] = si
1029
1030         if self.repair:
1031             d = node.check_and_repair(self.monitor, self.verify, self.add_lease)
1032             d.addCallback(self.add_check_and_repair, data)
1033         else:
1034             d = node.check(self.monitor, self.verify, self.add_lease)
1035             d.addCallback(self.add_check, data)
1036         d.addCallback(self.write_line)
1037         return d
1038
1039     def add_check_and_repair(self, crr, data):
1040         data["check-and-repair-results"] = json_check_and_repair_results(crr)
1041         return data
1042
1043     def add_check(self, cr, data):
1044         data["check-results"] = json_check_results(cr)
1045         return data
1046
1047     def write_line(self, data):
1048         j = simplejson.dumps(data, ensure_ascii=True)
1049         assert "\n" not in j
1050         self.req.write(j+"\n")
1051
1052     def finish(self):
1053         stats = dirnode.DeepStats.get_results(self)
1054         d = {"type": "stats",
1055              "stats": stats,
1056              }
1057         j = simplejson.dumps(d, ensure_ascii=True)
1058         assert "\n" not in j
1059         self.req.write(j+"\n")
1060         return ""