使用 Crawl4AI 为 Amazon Bedrock 知识库准备网页内容
本文展示了如何将开源网络爬虫 Crawl4AI 用作 Amazon Bedrock 知识库的内容准备层,在网页内容进入 Amazon S3 数据源之前,处理 JavaScript 渲染、选择性提取以及自定义元数据扩充。
检索标题、摘要与正文,把分散的信息连起来。
本文展示了如何将开源网络爬虫 Crawl4AI 用作 Amazon Bedrock 知识库的内容准备层,在网页内容进入 Amazon S3 数据源之前,处理 JavaScript 渲染、选择性提取以及自定义元数据扩充。
基于前沿模型构建的智能体驱动助手会执行多步骤工具循环,而在生产规模下为每一步都支付前沿价格是难以持续的。本文展示了如何使用序列级知识蒸馏(SeqKD),将前沿教师模型的智能体驱动行为迁移至 Amazon SageMaker AI 上的小型、低成本学生模型。
Circle K 的 DevOps 团队通过在 Amazon Bedrock 上构建智能代理分类系统,将事件分类处理时间从 45-60 分钟缩短至 15 分钟以内。本文将详细介绍该系统的架构、最初的 Amazon Bedrock Flows 实现方案、向 Amazon Bedrock AgentCore 的迁移过程,以及在扩展过程中获得的经验教训。
Amazon Bedrock AgentCore 的会话端点为每个运行时会话提供一个经过身份验证的 URL,该 URL 可将任意 HTTP 方法、路径以及 WebSocket 连接转发至您所允许的端口。在本文中,您将部署一个编码代理,使其在会话中持续运行 Vite 网站,随后当代理编辑文件时,您便可在浏览器中实时查看网站的更新。
构建 AI 应用程序的团队需要一条从模型配置到可用推理端点的可重复路径。NVIDIA Dynamo 是一种分布式推理……
arXiv:2610.35869v1 发布类型:新 摘要:人工智能应用在判断是否需要进行推理之前,通常会先调用模型。这种默认机制对于模糊的生成任务颇为有用,但与那些结构化、确定性、受策略约束、以查找为主或可直接验证的任务却并不匹配。KORA 提出了一种“确定性优先”的执行控制机制:在推理前设置一层控制层,将请求表示为任务路径,优先尝试确定性或结构化的执行路径,验证路径结果,记录遥测数据,并仅在确定性处理不足时才切换至模型候选路径。本文将 KORA 作为一种“确定性优先”的执行控制架构加以介绍,并基于可复现的基准测试与验证工作负载,报告了有限的实证证据。在一次重
SAP SE 今日在其面向开发者的年度 TechEd 大会上宣布了一系列人工智能创新,进一步强化了其 Joule 智能体解决方案和 Business AI 平台,其中包括表格数据基础模型。Joule Work 的新功能将助力 AI 智能体提升效率,并与开放协议实现互操作。在此背景下,模型上下文协议[…] 该文章“SAP 以更智能、受管的 Joule 智能体推动企业自主化发展”首发于 SiliconANGLE。
arXiv:2610.32412v1 发布类型:新 摘要:递归式大型语言模型(LLM)智能体通过分解、执行与环境反馈来解决长周期任务。然而,在生成一个原子级子任务后,它们往往再次调用同一款大型模型,将熟悉的指令转化为可执行的动作。我们观察到,高层规划具有任务特定性,而底层动作的具身化则在不同任务间反复出现,并且能够对照环境允许的动作进行验证。为此,我们提出了 LeafSkill,这是一种外部复用层,它能够检索语义相关的具身化经验,将动作模板绑定到当前对象与可执行动作上,并借助一个轻量级的 17 亿参数选择器来决定采用已绑定的动作,或将未发生变化的子任务交由原始智能体继续处理。技能始终处于外
arXiv:2610.33501v1 发布类型:新 提要:大型语言模型(LLM)的推理服务依赖于批处理以提升推理吞吐量,但键值(KV)缓存会随序列长度增长,从而限制了GPU上的并发度。通过CPU卸载,可以利用主机内存扩展KV缓存容量,然而现有系统在很大程度上仍受GPU瓶颈制约:只有当GPU调度器能够提供合适的重叠机会时,CPU驻留的请求才能取得进展。因此,主机内存与CPU计算无法作为独立的推理资源发挥作用,导致负载下CPU端进度波动加剧,并使尾部词间延迟(ITL)显著增加。我们提出了DualPace,一种将主机转变为独立调度解码引擎的LLM推理运行时。DualPace在两个引擎之间划分了调度权:GPU引擎
亚马逊云科技宣布,加拿大客户可通过Amazon Bedrock在ca-central-1(加拿大中部)和ca-west-1(加拿大西部/卡尔加里)区域,以跨区推理(CRIS)方式调用标称为OpenAI GPT-5.6、GPT-6及GPT-6.1的模型;实际推理发生在北美或全球AWS商业区域,数据静态驻留于加拿大源区域。