跳到正文
AI NEWS JOURNAL
arXiv cs.DCAI NEWS / JOURNAL

LooseLeaf:为计算型笔记本电脑启用无服务器GPU

arXiv:2610.33275v1 发布类型:新 摘要:计算型笔记本会在整个会话期间独占一块GPU,然而GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,但在新的工作节点上重建累积的笔记本状态会对每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与软件包集合。我们在5,000个真实世界笔记本上的分析表明,这些闭包规模很小,且用户对单元格的编辑操作只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,该工作节点…

AI 自动翻译

摘要:计算型笔记本会在整个会话期间独占一台GPU,但GPU仅在单元格执行时进行计算,其余时间则处于空闲状态。无服务器执行模式可以在各单元格之间释放GPU资源,然而,在新的工作节点上重建累积的笔记本状态会给每个GPU单元格带来显著的开销。本文提出了一种面向交互式笔记本的无服务器GPU平台——LooseLeaf。LooseLeaf能够推导出每个单元格的状态及其导入闭包,即该单元格所需的最小变量与依赖包。我们对5,000个真实世界笔记本的分析表明,这些闭包规模很小,且用户编辑单元格只需数秒即可完成准备。LooseLeaf会在用户编辑单元格的同时,基于这些闭包为GPU工作节点做好准备。执行结束后,工作节点会在数秒内保存更新后的状态,从而使得GPU能够在每个单元格执行后被及时回收。LooseLeaf能够在95%至98%的GPU单元格中实现无明显延迟的启动,其交互性与固定会话相当,并且相较于当前最先进的笔记本平台,可节省32%至55%的GPU使用时长。

提交历史

访问 Paper:

查看PDF

HTML(实验性)

TeX 源代码

附加功能

音频摘要

当前浏览上下文:

参考文献与引用

谷歌学术

语义学者

书签

机构

arXivLabs 是一个框架,允许合作者直接在我们的网站上开发并共享新的 arXiv 功能。

无论是个人还是与 arXivLabs 合作的机构,都已认同并践行我们所倡导的开放、社区、卓越以及用户数据隐私等价值观。arXiv 致力于坚守这些价值,并且只与同样秉持这些价值观的合作伙伴开展合作。

您是否有一个能为 arXiv 社区创造价值的项目构想?欢迎了解更多关于 arXivLabs 的信息。

资料来源

arXiv cs.DC
← 继续阅读全部动态