摘要:计算型笔记本会在整个会话期间独占一台GPU,但GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,然而,在新的工作节点上重建累积的笔记本状态会给每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与依赖包。我们对5,000个真实世界笔记本的分析表明,这些闭包规模很小,且用户编辑单元格只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,工作节点会在数秒内保存更新后的状态,从而使得GPU能够在每个单元格执行后被及时回收。LooseLeaf能够在95%至98%的GPU单元格中实现无明显延迟的启动,其交互性与固定会话相当,并且相较于当前最先进的笔记本平台,可节省32%至55%的GPU使用时长。
提交历史
访问 Paper:
查看PDF
HTML(实验性)
TeX 源代码
附加功能
音频摘要
当前浏览上下文:
参考文献与引用
谷歌学术
语义学者
书签
机构
arXivLabs 是一个框架,允许合作者直接在我们的网站上开发并共享新的 arXiv 功能。
无论是个人还是与 arXivLabs 合作的机构,都已认同并践行我们所倡导的开放、社区、卓越以及用户数据隐私等价值观。arXiv 致力于坚守这些价值,并且只与同样秉持这些价值观的合作伙伴开展合作。
您是否有一个能为 arXiv 社区创造价值的项目构想?欢迎了解更多关于 arXivLabs 的信息。