src/allmydata/web/status.py

   1
   2 import time, pprint, itertools
   3 import simplejson
   4 from twisted.internet import defer
   5 from nevow import rend, inevow, tags as T
   6 from allmydata.util import base32, idlib
   7 from allmydata.web.common import IClient, getxmlfile, abbreviate_time, \
   8      abbreviate_rate, abbreviate_size, get_arg
   9 from allmydata.interfaces import IUploadStatus, IDownloadStatus, \
  10      IPublishStatus, IRetrieveStatus, IServermapUpdaterStatus
  11
  12 def plural(sequence_or_length):
  13     if isinstance(sequence_or_length, int):
  14         length = sequence_or_length
  15     else:
  16         length = len(sequence_or_length)
  17     if length == 1:
  18         return ""
  19     return "s"
  20
  21 class RateAndTimeMixin:
  22
  23     def render_time(self, ctx, data):
  24         return abbreviate_time(data)
  25
  26     def render_rate(self, ctx, data):
  27         return abbreviate_rate(data)
  28
  29 class UploadResultsRendererMixin(RateAndTimeMixin):
  30     # this requires a method named 'upload_results'
  31
  32     def render_pushed_shares(self, ctx, data):
  33         d = self.upload_results()
  34         d.addCallback(lambda res: res.pushed_shares)
  35         return d
  36
  37     def render_preexisting_shares(self, ctx, data):
  38         d = self.upload_results()
  39         d.addCallback(lambda res: res.preexisting_shares)
  40         return d
  41
  42     def render_sharemap(self, ctx, data):
  43         d = self.upload_results()
  44         d.addCallback(lambda res: res.sharemap)
  45         def _render(sharemap):
  46             if sharemap is None:
  47                 return "None"
  48             l = T.ul()
  49             for shnum in sorted(sharemap.keys()):
  50                 l[T.li["%d -> %s" % (shnum, sharemap[shnum])]]
  51             return l
  52         d.addCallback(_render)
  53         return d
  54
  55     def render_servermap(self, ctx, data):
  56         d = self.upload_results()
  57         d.addCallback(lambda res: res.servermap)
  58         def _render(servermap):
  59             if servermap is None:
  60                 return "None"
  61             l = T.ul()
  62             for peerid in sorted(servermap.keys()):
  63                 peerid_s = idlib.shortnodeid_b2a(peerid)
  64                 shares_s = ",".join(["#%d" % shnum
  65                                      for shnum in servermap[peerid]])
  66                 l[T.li["[%s] got share%s: %s" % (peerid_s,
  67                                                  plural(servermap[peerid]),
  68                                                  shares_s)]]
  69             return l
  70         d.addCallback(_render)
  71         return d
  72
  73     def data_file_size(self, ctx, data):
  74         d = self.upload_results()
  75         d.addCallback(lambda res: res.file_size)
  76         return d
  77
  78     def _get_time(self, name):
  79         d = self.upload_results()
  80         d.addCallback(lambda res: res.timings.get(name))
  81         return d
  82
  83     def data_time_total(self, ctx, data):
  84         return self._get_time("total")
  85
  86     def data_time_storage_index(self, ctx, data):
  87         return self._get_time("storage_index")
  88
  89     def data_time_contacting_helper(self, ctx, data):
  90         return self._get_time("contacting_helper")
  91
  92     def data_time_existence_check(self, ctx, data):
  93         return self._get_time("existence_check")
  94
  95     def data_time_cumulative_fetch(self, ctx, data):
  96         return self._get_time("cumulative_fetch")
  97
  98     def data_time_helper_total(self, ctx, data):
  99         return self._get_time("helper_total")
 100
 101     def data_time_peer_selection(self, ctx, data):
 102         return self._get_time("peer_selection")
 103
 104     def data_time_total_encode_and_push(self, ctx, data):
 105         return self._get_time("total_encode_and_push")
 106
 107     def data_time_cumulative_encoding(self, ctx, data):
 108         return self._get_time("cumulative_encoding")
 109
 110     def data_time_cumulative_sending(self, ctx, data):
 111         return self._get_time("cumulative_sending")
 112
 113     def data_time_hashes_and_close(self, ctx, data):
 114         return self._get_time("hashes_and_close")
 115
 116     def _get_rate(self, name):
 117         d = self.upload_results()
 118         def _convert(r):
 119             file_size = r.file_size
 120             time = r.timings.get(name)
 121             if time is None:
 122                 return None
 123             try:
 124                 return 1.0 * file_size / time
 125             except ZeroDivisionError:
 126                 return None
 127         d.addCallback(_convert)
 128         return d
 129
 130     def data_rate_total(self, ctx, data):
 131         return self._get_rate("total")
 132
 133     def data_rate_storage_index(self, ctx, data):
 134         return self._get_rate("storage_index")
 135
 136     def data_rate_encode(self, ctx, data):
 137         return self._get_rate("cumulative_encoding")
 138
 139     def data_rate_push(self, ctx, data):
 140         return self._get_rate("cumulative_sending")
 141
 142     def data_rate_encode_and_push(self, ctx, data):
 143         d = self.upload_results()
 144         def _convert(r):
 145             file_size = r.file_size
 146             time1 = r.timings.get("cumulative_encoding")
 147             time2 = r.timings.get("cumulative_sending")
 148             if (file_size is None or time1 is None or time2 is None):
 149                 return None
 150             try:
 151                 return 1.0 * file_size / (time1+time2)
 152             except ZeroDivisionError:
 153                 return None
 154         d.addCallback(_convert)
 155         return d
 156
 157     def data_rate_ciphertext_fetch(self, ctx, data):
 158         d = self.upload_results()
 159         def _convert(r):
 160             fetch_size = r.ciphertext_fetched
 161             time = r.timings.get("cumulative_fetch")
 162             if (fetch_size is None or time is None):
 163                 return None
 164             try:
 165                 return 1.0 * fetch_size / time
 166             except ZeroDivisionError:
 167                 return None
 168         d.addCallback(_convert)
 169         return d
 170
 171 class UploadStatusPage(UploadResultsRendererMixin, rend.Page):
 172     docFactory = getxmlfile("upload-status.xhtml")
 173
 174     def __init__(self, data):
 175         rend.Page.__init__(self, data)
 176         self.upload_status = data
 177
 178     def upload_results(self):
 179         return defer.maybeDeferred(self.upload_status.get_results)
 180
 181     def render_results(self, ctx, data):
 182         d = self.upload_results()
 183         def _got_results(results):
 184             if results:
 185                 return ctx.tag
 186             return ""
 187         d.addCallback(_got_results)
 188         return d
 189
 190     def render_started(self, ctx, data):
 191         TIME_FORMAT = "%H:%M:%S %d-%b-%Y"
 192         started_s = time.strftime(TIME_FORMAT,
 193                                   time.localtime(data.get_started()))
 194         return started_s
 195
 196     def render_si(self, ctx, data):
 197         si_s = base32.b2a_or_none(data.get_storage_index())
 198         if si_s is None:
 199             si_s = "(None)"
 200         return si_s
 201
 202     def render_helper(self, ctx, data):
 203         return {True: "Yes",
 204                 False: "No"}[data.using_helper()]
 205
 206     def render_total_size(self, ctx, data):
 207         size = data.get_size()
 208         if size is None:
 209             size = "(unknown)"
 210         return size
 211
 212     def render_progress_hash(self, ctx, data):
 213         progress = data.get_progress()[0]
 214         # TODO: make an ascii-art bar
 215         return "%.1f%%" % (100.0 * progress)
 216
 217     def render_progress_ciphertext(self, ctx, data):
 218         progress = data.get_progress()[1]
 219         # TODO: make an ascii-art bar
 220         return "%.1f%%" % (100.0 * progress)
 221
 222     def render_progress_encode_push(self, ctx, data):
 223         progress = data.get_progress()[2]
 224         # TODO: make an ascii-art bar
 225         return "%.1f%%" % (100.0 * progress)
 226
 227     def render_status(self, ctx, data):
 228         return data.get_status()
 229
 230 class DownloadResultsRendererMixin(RateAndTimeMixin):
 231     # this requires a method named 'download_results'
 232
 233     def render_servermap(self, ctx, data):
 234         d = self.download_results()
 235         d.addCallback(lambda res: res.servermap)
 236         def _render(servermap):
 237             if servermap is None:
 238                 return "None"
 239             l = T.ul()
 240             for peerid in sorted(servermap.keys()):
 241                 peerid_s = idlib.shortnodeid_b2a(peerid)
 242                 shares_s = ",".join(["#%d" % shnum
 243                                      for shnum in servermap[peerid]])
 244                 l[T.li["[%s] has share%s: %s" % (peerid_s,
 245                                                  plural(servermap[peerid]),
 246                                                  shares_s)]]
 247             return l
 248         d.addCallback(_render)
 249         return d
 250
 251     def render_servers_used(self, ctx, data):
 252         d = self.download_results()
 253         d.addCallback(lambda res: res.servers_used)
 254         def _got(servers_used):
 255             if not servers_used:
 256                 return ""
 257             peerids_s = ", ".join(["[%s]" % idlib.shortnodeid_b2a(peerid)
 258                                    for peerid in servers_used])
 259             return T.li["Servers Used: ", peerids_s]
 260         d.addCallback(_got)
 261         return d
 262
 263     def render_problems(self, ctx, data):
 264         d = self.download_results()
 265         d.addCallback(lambda res: res.server_problems)
 266         def _got(server_problems):
 267             if not server_problems:
 268                 return ""
 269             l = T.ul()
 270             for peerid in sorted(server_problems.keys()):
 271                 peerid_s = idlib.shortnodeid_b2a(peerid)
 272                 l[T.li["[%s]: %s" % (peerid_s, server_problems[peerid])]]
 273             return T.li["Server Problems:", l]
 274         d.addCallback(_got)
 275         return d
 276
 277     def data_file_size(self, ctx, data):
 278         d = self.download_results()
 279         d.addCallback(lambda res: res.file_size)
 280         return d
 281
 282     def _get_time(self, name):
 283         d = self.download_results()
 284         d.addCallback(lambda res: res.timings.get(name))
 285         return d
 286
 287     def data_time_total(self, ctx, data):
 288         return self._get_time("total")
 289
 290     def data_time_peer_selection(self, ctx, data):
 291         return self._get_time("peer_selection")
 292
 293     def data_time_uri_extension(self, ctx, data):
 294         return self._get_time("uri_extension")
 295
 296     def data_time_hashtrees(self, ctx, data):
 297         return self._get_time("hashtrees")
 298
 299     def data_time_segments(self, ctx, data):
 300         return self._get_time("segments")
 301
 302     def data_time_cumulative_fetch(self, ctx, data):
 303         return self._get_time("cumulative_fetch")
 304
 305     def data_time_cumulative_decode(self, ctx, data):
 306         return self._get_time("cumulative_decode")
 307
 308     def data_time_cumulative_decrypt(self, ctx, data):
 309         return self._get_time("cumulative_decrypt")
 310
 311     def _get_rate(self, name):
 312         d = self.download_results()
 313         def _convert(r):
 314             file_size = r.file_size
 315             time = r.timings.get(name)
 316             if time is None:
 317                 return None
 318             try:
 319                 return 1.0 * file_size / time
 320             except ZeroDivisionError:
 321                 return None
 322         d.addCallback(_convert)
 323         return d
 324
 325     def data_rate_total(self, ctx, data):
 326         return self._get_rate("total")
 327
 328     def data_rate_segments(self, ctx, data):
 329         return self._get_rate("segments")
 330
 331     def data_rate_fetch(self, ctx, data):
 332         return self._get_rate("cumulative_fetch")
 333
 334     def data_rate_decode(self, ctx, data):
 335         return self._get_rate("cumulative_decode")
 336
 337     def data_rate_decrypt(self, ctx, data):
 338         return self._get_rate("cumulative_decrypt")
 339
 340     def render_server_timings(self, ctx, data):
 341         d = self.download_results()
 342         d.addCallback(lambda res: res.timings.get("fetch_per_server"))
 343         def _render(per_server):
 344             if per_server is None:
 345                 return ""
 346             l = T.ul()
 347             for peerid in sorted(per_server.keys()):
 348                 peerid_s = idlib.shortnodeid_b2a(peerid)
 349                 times_s = ", ".join([self.render_time(None, t)
 350                                      for t in per_server[peerid]])
 351                 l[T.li["[%s]: %s" % (peerid_s, times_s)]]
 352             return T.li["Per-Server Segment Fetch Response Times: ", l]
 353         d.addCallback(_render)
 354         return d
 355
 356 class DownloadStatusPage(DownloadResultsRendererMixin, rend.Page):
 357     docFactory = getxmlfile("download-status.xhtml")
 358
 359     def __init__(self, data):
 360         rend.Page.__init__(self, data)
 361         self.download_status = data
 362
 363     def download_results(self):
 364         return defer.maybeDeferred(self.download_status.get_results)
 365
 366     def render_results(self, ctx, data):
 367         d = self.download_results()
 368         def _got_results(results):
 369             if results:
 370                 return ctx.tag
 371             return ""
 372         d.addCallback(_got_results)
 373         return d
 374
 375     def render_started(self, ctx, data):
 376         TIME_FORMAT = "%H:%M:%S %d-%b-%Y"
 377         started_s = time.strftime(TIME_FORMAT,
 378                                   time.localtime(data.get_started()))
 379         return started_s
 380
 381     def render_si(self, ctx, data):
 382         si_s = base32.b2a_or_none(data.get_storage_index())
 383         if si_s is None:
 384             si_s = "(None)"
 385         return si_s
 386
 387     def render_helper(self, ctx, data):
 388         return {True: "Yes",
 389                 False: "No"}[data.using_helper()]
 390
 391     def render_total_size(self, ctx, data):
 392         size = data.get_size()
 393         if size is None:
 394             size = "(unknown)"
 395         return size
 396
 397     def render_progress(self, ctx, data):
 398         progress = data.get_progress()
 399         # TODO: make an ascii-art bar
 400         return "%.1f%%" % (100.0 * progress)
 401
 402     def render_status(self, ctx, data):
 403         return data.get_status()
 404
 405 class RetrieveStatusPage(rend.Page, RateAndTimeMixin):
 406     docFactory = getxmlfile("retrieve-status.xhtml")
 407
 408     def __init__(self, data):
 409         rend.Page.__init__(self, data)
 410         self.retrieve_status = data
 411
 412     def render_started(self, ctx, data):
 413         TIME_FORMAT = "%H:%M:%S %d-%b-%Y"
 414         started_s = time.strftime(TIME_FORMAT,
 415                                   time.localtime(data.get_started()))
 416         return started_s
 417
 418     def render_si(self, ctx, data):
 419         si_s = base32.b2a_or_none(data.get_storage_index())
 420         if si_s is None:
 421             si_s = "(None)"
 422         return si_s
 423
 424     def render_helper(self, ctx, data):
 425         return {True: "Yes",
 426                 False: "No"}[data.using_helper()]
 427
 428     def render_current_size(self, ctx, data):
 429         size = data.get_size()
 430         if size is None:
 431             size = "(unknown)"
 432         return size
 433
 434     def render_progress(self, ctx, data):
 435         progress = data.get_progress()
 436         # TODO: make an ascii-art bar
 437         return "%.1f%%" % (100.0 * progress)
 438
 439     def render_status(self, ctx, data):
 440         return data.get_status()
 441
 442     def render_encoding(self, ctx, data):
 443         k, n = data.get_encoding()
 444         return ctx.tag["Encoding: %s of %s" % (k, n)]
 445
 446     def render_problems(self, ctx, data):
 447         problems = data.problems
 448         if not problems:
 449             return ""
 450         l = T.ul()
 451         for peerid in sorted(problems.keys()):
 452             peerid_s = idlib.shortnodeid_b2a(peerid)
 453             l[T.li["[%s]: %s" % (peerid_s, problems[peerid])]]
 454         return ctx.tag["Server Problems:", l]
 455
 456     def _get_rate(self, data, name):
 457         file_size = self.retrieve_status.get_size()
 458         time = self.retrieve_status.timings.get(name)
 459         if time is None or file_size is None:
 460             return None
 461         try:
 462             return 1.0 * file_size / time
 463         except ZeroDivisionError:
 464             return None
 465
 466     def data_time_total(self, ctx, data):
 467         return self.retrieve_status.timings.get("total")
 468     def data_rate_total(self, ctx, data):
 469         return self._get_rate(data, "total")
 470
 471     def data_time_fetch(self, ctx, data):
 472         return self.retrieve_status.timings.get("fetch")
 473     def data_rate_fetch(self, ctx, data):
 474         return self._get_rate(data, "fetch")
 475
 476     def data_time_decode(self, ctx, data):
 477         return self.retrieve_status.timings.get("decode")
 478     def data_rate_decode(self, ctx, data):
 479         return self._get_rate(data, "decode")
 480
 481     def data_time_decrypt(self, ctx, data):
 482         return self.retrieve_status.timings.get("decrypt")
 483     def data_rate_decrypt(self, ctx, data):
 484         return self._get_rate(data, "decrypt")
 485
 486     def render_server_timings(self, ctx, data):
 487         per_server = self.retrieve_status.timings.get("fetch_per_server")
 488         if not per_server:
 489             return ""
 490         l = T.ul()
 491         for peerid in sorted(per_server.keys()):
 492             peerid_s = idlib.shortnodeid_b2a(peerid)
 493             times_s = ", ".join([self.render_time(None, t)
 494                                  for t in per_server[peerid]])
 495             l[T.li["[%s]: %s" % (peerid_s, times_s)]]
 496         return T.li["Per-Server Fetch Response Times: ", l]
 497
 498
 499 class PublishStatusPage(rend.Page, RateAndTimeMixin):
 500     docFactory = getxmlfile("publish-status.xhtml")
 501
 502     def __init__(self, data):
 503         rend.Page.__init__(self, data)
 504         self.publish_status = data
 505
 506     def render_started(self, ctx, data):
 507         TIME_FORMAT = "%H:%M:%S %d-%b-%Y"
 508         started_s = time.strftime(TIME_FORMAT,
 509                                   time.localtime(data.get_started()))
 510         return started_s
 511
 512     def render_si(self, ctx, data):
 513         si_s = base32.b2a_or_none(data.get_storage_index())
 514         if si_s is None:
 515             si_s = "(None)"
 516         return si_s
 517
 518     def render_helper(self, ctx, data):
 519         return {True: "Yes",
 520                 False: "No"}[data.using_helper()]
 521
 522     def render_current_size(self, ctx, data):
 523         size = data.get_size()
 524         if size is None:
 525             size = "(unknown)"
 526         return size
 527
 528     def render_progress(self, ctx, data):
 529         progress = data.get_progress()
 530         # TODO: make an ascii-art bar
 531         return "%.1f%%" % (100.0 * progress)
 532
 533     def render_status(self, ctx, data):
 534         return data.get_status()
 535
 536     def render_encoding(self, ctx, data):
 537         k, n = data.get_encoding()
 538         return ctx.tag["Encoding: %s of %s" % (k, n)]
 539
 540     def render_sharemap(self, ctx, data):
 541         servermap = data.get_servermap()
 542         if servermap is None:
 543             return ctx.tag["None"]
 544         l = T.ul()
 545         sharemap = servermap.make_sharemap()
 546         for shnum in sorted(sharemap.keys()):
 547             l[T.li["%d -> Placed on " % shnum,
 548                    ", ".join(["[%s]" % idlib.shortnodeid_b2a(peerid)
 549                               for peerid in sharemap[shnum]])]]
 550         return ctx.tag["Sharemap:", l]
 551
 552     def render_problems(self, ctx, data):
 553         problems = data.problems
 554         if not problems:
 555             return ""
 556         l = T.ul()
 557         for peerid in sorted(problems.keys()):
 558             peerid_s = idlib.shortnodeid_b2a(peerid)
 559             l[T.li["[%s]: %s" % (peerid_s, problems[peerid])]]
 560         return ctx.tag["Server Problems:", l]
 561
 562     def _get_rate(self, data, name):
 563         file_size = self.publish_status.get_size()
 564         time = self.publish_status.timings.get(name)
 565         if time is None:
 566             return None
 567         try:
 568             return 1.0 * file_size / time
 569         except ZeroDivisionError:
 570             return None
 571
 572     def data_time_total(self, ctx, data):
 573         return self.publish_status.timings.get("total")
 574     def data_rate_total(self, ctx, data):
 575         return self._get_rate(data, "total")
 576
 577     def data_time_setup(self, ctx, data):
 578         return self.publish_status.timings.get("setup")
 579
 580     def data_time_encrypt(self, ctx, data):
 581         return self.publish_status.timings.get("encrypt")
 582     def data_rate_encrypt(self, ctx, data):
 583         return self._get_rate(data, "encrypt")
 584
 585     def data_time_encode(self, ctx, data):
 586         return self.publish_status.timings.get("encode")
 587     def data_rate_encode(self, ctx, data):
 588         return self._get_rate(data, "encode")
 589
 590     def data_time_pack(self, ctx, data):
 591         return self.publish_status.timings.get("pack")
 592     def data_rate_pack(self, ctx, data):
 593         return self._get_rate(data, "pack")
 594     def data_time_sign(self, ctx, data):
 595         return self.publish_status.timings.get("sign")
 596
 597     def data_time_push(self, ctx, data):
 598         return self.publish_status.timings.get("push")
 599     def data_rate_push(self, ctx, data):
 600         return self._get_rate(data, "push")
 601
 602     def render_server_timings(self, ctx, data):
 603         per_server = self.publish_status.timings.get("send_per_server")
 604         if not per_server:
 605             return ""
 606         l = T.ul()
 607         for peerid in sorted(per_server.keys()):
 608             peerid_s = idlib.shortnodeid_b2a(peerid)
 609             times_s = ", ".join([self.render_time(None, t)
 610                                  for t in per_server[peerid]])
 611             l[T.li["[%s]: %s" % (peerid_s, times_s)]]
 612         return T.li["Per-Server Response Times: ", l]
 613
 614 class MapupdateStatusPage(rend.Page, RateAndTimeMixin):
 615     docFactory = getxmlfile("map-update-status.xhtml")
 616
 617     def __init__(self, data):
 618         rend.Page.__init__(self, data)
 619         self.update_status = data
 620
 621     def render_started(self, ctx, data):
 622         TIME_FORMAT = "%H:%M:%S %d-%b-%Y"
 623         started_s = time.strftime(TIME_FORMAT,
 624                                   time.localtime(data.get_started()))
 625         return started_s
 626
 627     def render_si(self, ctx, data):
 628         si_s = base32.b2a_or_none(data.get_storage_index())
 629         if si_s is None:
 630             si_s = "(None)"
 631         return si_s
 632
 633     def render_helper(self, ctx, data):
 634         return {True: "Yes",
 635                 False: "No"}[data.using_helper()]
 636
 637     def render_progress(self, ctx, data):
 638         progress = data.get_progress()
 639         # TODO: make an ascii-art bar
 640         return "%.1f%%" % (100.0 * progress)
 641
 642     def render_status(self, ctx, data):
 643         return data.get_status()
 644
 645     def render_problems(self, ctx, data):
 646         problems = data.problems
 647         if not problems:
 648             return ""
 649         l = T.ul()
 650         for peerid in sorted(problems.keys()):
 651             peerid_s = idlib.shortnodeid_b2a(peerid)
 652             l[T.li["[%s]: %s" % (peerid_s, problems[peerid])]]
 653         return ctx.tag["Server Problems:", l]
 654
 655     def render_privkey_from(self, ctx, data):
 656         peerid = data.get_privkey_from()
 657         if peerid:
 658             return ctx.tag["Got privkey from: [%s]"
 659                            % idlib.shortnodeid_b2a(peerid)]
 660         else:
 661             return ""
 662
 663     def data_time_total(self, ctx, data):
 664         return self.update_status.timings.get("total")
 665
 666     def data_time_setup(self, ctx, data):
 667         return self.update_status.timings.get("setup")
 668
 669     def data_time_cumulative_verify(self, ctx, data):
 670         return self.update_status.timings.get("cumulative_verify")
 671
 672     def render_server_timings(self, ctx, data):
 673         per_server = self.update_status.timings.get("per_server")
 674         if not per_server:
 675             return ""
 676         l = T.ul()
 677         for peerid in sorted(per_server.keys()):
 678             peerid_s = idlib.shortnodeid_b2a(peerid)
 679             times = []
 680             for op,t in per_server[peerid]:
 681                 if op == "query":
 682                     times.append( self.render_time(None, t) )
 683                 else:
 684                     times.append( "(" + self.render_time(None, t) + ")" )
 685             times_s = ", ".join(times)
 686             l[T.li["[%s]: %s" % (peerid_s, times_s)]]
 687         return T.li["Per-Server Response Times: ", l]
 688
 689
 690 class Status(rend.Page):
 691     docFactory = getxmlfile("status.xhtml")
 692     addSlash = True
 693
 694     def _get_all_statuses(self, client):
 695         return itertools.chain(client.list_all_upload_statuses(),
 696                                client.list_all_download_statuses(),
 697                                client.list_all_mapupdate_statuses(),
 698                                client.list_all_publish_statuses(),
 699                                client.list_all_retrieve_statuses(),
 700                                client.list_all_helper_statuses(),
 701                                )
 702
 703     def data_active_operations(self, ctx, data):
 704         client = IClient(ctx)
 705         active = [s
 706                   for s in self._get_all_statuses(client)
 707                   if s.get_active()]
 708         return active
 709
 710     def data_recent_operations(self, ctx, data):
 711         client = IClient(ctx)
 712         recent = [s
 713                   for s in self._get_all_statuses(client)
 714                   if not s.get_active()]
 715         recent.sort(lambda a,b: cmp(a.get_started(), b.get_started()))
 716         recent.reverse()
 717         return recent
 718
 719     def render_row(self, ctx, data):
 720         s = data
 721
 722         TIME_FORMAT = "%H:%M:%S %d-%b-%Y"
 723         started_s = time.strftime(TIME_FORMAT,
 724                                   time.localtime(s.get_started()))
 725         ctx.fillSlots("started", started_s)
 726
 727         si_s = base32.b2a_or_none(s.get_storage_index())
 728         if si_s is None:
 729             si_s = "(None)"
 730         ctx.fillSlots("si", si_s)
 731         ctx.fillSlots("helper", {True: "Yes",
 732                                  False: "No"}[s.using_helper()])
 733
 734         size = s.get_size()
 735         if size is None:
 736             size = "(unknown)"
 737         ctx.fillSlots("total_size", size)
 738
 739         progress = data.get_progress()
 740         if IUploadStatus.providedBy(data):
 741             link = "up-%d" % data.get_counter()
 742             ctx.fillSlots("type", "upload")
 743             # TODO: make an ascii-art bar
 744             (chk, ciphertext, encandpush) = progress
 745             progress_s = ("hash: %.1f%%, ciphertext: %.1f%%, encode: %.1f%%" %
 746                           ( (100.0 * chk),
 747                             (100.0 * ciphertext),
 748                             (100.0 * encandpush) ))
 749             ctx.fillSlots("progress", progress_s)
 750         elif IDownloadStatus.providedBy(data):
 751             link = "down-%d" % data.get_counter()
 752             ctx.fillSlots("type", "download")
 753             ctx.fillSlots("progress", "%.1f%%" % (100.0 * progress))
 754         elif IPublishStatus.providedBy(data):
 755             link = "publish-%d" % data.get_counter()
 756             ctx.fillSlots("type", "publish")
 757             ctx.fillSlots("progress", "%.1f%%" % (100.0 * progress))
 758         elif IRetrieveStatus.providedBy(data):
 759             ctx.fillSlots("type", "retrieve")
 760             link = "retrieve-%d" % data.get_counter()
 761             ctx.fillSlots("progress", "%.1f%%" % (100.0 * progress))
 762         else:
 763             assert IServermapUpdaterStatus.providedBy(data)
 764             ctx.fillSlots("type", "mapupdate %s" % data.get_mode())
 765             link = "mapupdate-%d" % data.get_counter()
 766             ctx.fillSlots("progress", "%.1f%%" % (100.0 * progress))
 767         ctx.fillSlots("status", T.a(href=link)[s.get_status()])
 768         return ctx.tag
 769
 770     def childFactory(self, ctx, name):
 771         client = IClient(ctx)
 772         stype,count_s = name.split("-")
 773         count = int(count_s)
 774         if stype == "up":
 775             for s in itertools.chain(client.list_all_upload_statuses(),
 776                                      client.list_all_helper_statuses()):
 777                 # immutable-upload helpers use the same status object as a
 778                 # regular immutable-upload
 779                 if s.get_counter() == count:
 780                     return UploadStatusPage(s)
 781         if stype == "down":
 782             for s in client.list_all_download_statuses():
 783                 if s.get_counter() == count:
 784                     return DownloadStatusPage(s)
 785         if stype == "mapupdate":
 786             for s in client.list_all_mapupdate_statuses():
 787                 if s.get_counter() == count:
 788                     return MapupdateStatusPage(s)
 789         if stype == "publish":
 790             for s in client.list_all_publish_statuses():
 791                 if s.get_counter() == count:
 792                     return PublishStatusPage(s)
 793         if stype == "retrieve":
 794             for s in client.list_all_retrieve_statuses():
 795                 if s.get_counter() == count:
 796                     return RetrieveStatusPage(s)
 797
 798
 799 class HelperStatus(rend.Page):
 800     docFactory = getxmlfile("helper.xhtml")
 801
 802     def renderHTTP(self, ctx):
 803         t = get_arg(inevow.IRequest(ctx), "t")
 804         if t == "json":
 805             return self.render_JSON(ctx)
 806         # is there a better way to provide 'data' to all rendering methods?
 807         helper = IClient(ctx).getServiceNamed("helper")
 808         self.original = helper.get_stats()
 809         return rend.Page.renderHTTP(self, ctx)
 810
 811     def render_JSON(self, ctx):
 812         try:
 813             h = IClient(ctx).getServiceNamed("helper")
 814         except KeyError:
 815             return simplejson.dumps({})
 816
 817         stats = h.get_stats()
 818         return simplejson.dumps(stats, indent=1)
 819
 820     def render_active_uploads(self, ctx, data):
 821         return data["chk_upload_helper.active_uploads"]
 822
 823     def render_incoming(self, ctx, data):
 824         return "%d bytes in %d files" % (data["chk_upload_helper.incoming_size"],
 825                                          data["chk_upload_helper.incoming_count"])
 826
 827     def render_encoding(self, ctx, data):
 828         return "%d bytes in %d files" % (data["chk_upload_helper.encoding_size"],
 829                                          data["chk_upload_helper.encoding_count"])
 830
 831     def render_upload_requests(self, ctx, data):
 832         return str(data["chk_upload_helper.upload_requests"])
 833
 834     def render_upload_already_present(self, ctx, data):
 835         return str(data["chk_upload_helper.upload_already_present"])
 836
 837     def render_upload_need_upload(self, ctx, data):
 838         return str(data["chk_upload_helper.upload_need_upload"])
 839
 840     def render_upload_bytes_fetched(self, ctx, data):
 841         return str(data["chk_upload_helper.fetched_bytes"])
 842
 843     def render_upload_bytes_encoded(self, ctx, data):
 844         return str(data["chk_upload_helper.encoded_bytes"])
 845
 846
 847 class Statistics(rend.Page):
 848     docFactory = getxmlfile("statistics.xhtml")
 849
 850     def renderHTTP(self, ctx):
 851         provider = IClient(ctx).stats_provider
 852         stats = {'stats': {}, 'counters': {}}
 853         if provider:
 854             stats = provider.get_stats()
 855         t = get_arg(inevow.IRequest(ctx), "t")
 856         if t == "json":
 857             return simplejson.dumps(stats, indent=1)
 858         # is there a better way to provide 'data' to all rendering methods?
 859         self.original = stats
 860         return rend.Page.renderHTTP(self, ctx)
 861
 862     def render_load_average(self, ctx, data):
 863         return str(data["stats"].get("load_monitor.avg_load"))
 864
 865     def render_peak_load(self, ctx, data):
 866         return str(data["stats"].get("load_monitor.max_load"))
 867
 868     def render_uploads(self, ctx, data):
 869         files = data["counters"].get("uploader.files_uploaded")
 870         bytes = data["counters"].get("uploader.bytes_uploaded")
 871         return ("%s files / %s bytes (%s)" %
 872                 (files, bytes, abbreviate_size(bytes)))
 873
 874     def render_downloads(self, ctx, data):
 875         files = data["counters"].get("downloader.files_downloaded")
 876         bytes = data["counters"].get("downloader.bytes_downloaded")
 877         return ("%s files / %s bytes (%s)" %
 878                 (files, bytes, abbreviate_size(bytes)))
 879
 880     def render_publishes(self, ctx, data):
 881         files = data["counters"].get("mutable.files_published")
 882         return "%s files" % (files,)
 883
 884     def render_retrieves(self, ctx, data):
 885         files = data["counters"].get("mutable.files_retrieved")
 886         return "%s files" % (files,)
 887
 888     def render_raw(self, ctx, data):
 889         raw = pprint.pformat(data)
 890         return ctx.tag[raw]