跳到正文
AI NEWS JOURNAL
AI, IN PERSPECTIVE

搜索 AI 资讯

检索标题、摘要与正文,把分散的信息连起来。

按发布时间排序

自托管大模型 vs. 云API:如何智能路由请求

本文对比自托管大语言模型与云API在数据隐私、成本、延迟和能力上的权衡,介绍开源可部署模型的硬件要求(如VRAM与量化)、典型技术栈,并以n8n为例说明如何构建混合式路由工作流,在本地与云端模型间按任务敏感性、复杂度或合规要求动态分发请求。

事件进展与其他报道

AWS发布自适应智能体框架AAIF:基于Strands Agents实现边缘-云协同的分层AI任务调度

AWS提出Adaptive Agentic Intelligence Framework(AAIF),利用Strands Agents构建分层智能体架构,通过本地小型语言模型(SLM)动态路由任务——常规IoT遥测与视觉分析在边缘执行,复杂推理交由Amazon Bedrock云端大模型处理;框架支持混合部署、成本可控,并集成责任AI控制建议,但当前为概念验证实现,未提供第三方验证或商业落地数据。

事件进展与其他报道

欧洲工业巨头依托NVIDIA AI与数字孪生技术重构工程制造体系

欧洲多家领先工业企业正规模化应用NVIDIA CUDA-X、Omniverse、Cosmos及Nemotron等开放模型与工具链,覆盖从产品设计、仿真优化到工厂运营的全生命周期;NVIDIA Factory Operations Blueprint(FOX)已开放早期访问,支持构建实时协同的工业智能体;西门子、梅赛德斯-奔驰、奥迪、空客级供应商等已落地多项验证案例,实现校准时间缩短40%、根因分析成本降低20%等实效。

事件进展与其他报道

NVIDIA发布多领域开源模型组合,推动欧洲产业主权智能发展

NVIDIA宣布扩展其开源模型家族,覆盖语言、机器人、生物计算与量子计算等领域,推出Nemotron 3.5系列、Kumo结构化数据模型、Cosmos世界模型、Alpamayo 2 Edge自动驾驶模型、BioNeMo RFD4-Proteina蛋白设计模型及Ising量子计算模型,全部面向开发者与企业开放权重与工具,支持本地化定制与自主部署。

事件进展与其他报道

GTC Berlin 2026:黄仁勋 keynote 全面发布AI工厂、安全智能体与欧洲AI生态战略

在柏林Tempodrom举行的GTC Berlin 2026大会上,NVIDIA CEO黄仁勋发布多项关键进展:推出DSX POD模块化AI工厂、Vera Rubin全栈AI代理平台、OpenShell安全架构、Agent Knowledge Foundation知识层,以及Agile ONE SN人形机器人参考平台;宣布超100亿欧元级欧洲AI投资承诺,覆盖12,000+合作伙伴,并强调欧洲正加速构建自主可控的AI经济基础设施。

事件进展与其他报道

TorchNeuron系统级性能分析(第一部分):基于AWS Trainium芯片的端到端剖析

本文为Hugging Face与Amazon联合发布的技术博客系列首篇,系统介绍如何在AWS Trainium AI加速芯片上使用TorchNeuron进行PyTorch模型推理性能分析,涵盖Neuron后端集成原理、torch.profiler配置方法、NeuronConfig与NeuronProfiler工具使用、Neuron Explorer可视化追踪,并以RMSNorm为例对比三种实现(朴素PyTorch、torch.rms_norm内置融合、torch.compile自动融合)的设备耗时差异。

事件进展与其他报道

NVIDIA发布Kumo Relational:首个无需训练即可超越监督学习的结构化数据基础模型

NVIDIA推出预训练关系型基础模型Kumo Relational,可直接在企业级关系数据库上执行预测任务(如流失、欺诈、需求预测),无需任务微调、特征工程或表扁平化。在41项跨15个数据库的基准测试中全面超越XGBoost等监督模型,在SAP SALT企业基准上MRR指标领先AutoGluon达8%;支持5000亿行规模数据库,通过Predictive Query Language(PQL)实现零代码预测调用。

事件进展与其他报道

i14发布Laplace 3B线性注意力模型:基于AWS Trainium2与原生PyTorch实现固定状态内存推理

i14推出30.28亿参数的Laplace 3B模型,采用门控线性注意力(GLA)替代Softmax注意力,其推理时每序列递归状态恒为29.5 MB,与上下文长度无关;该模型在单台AWS trn2.48xlarge(16颗Trainium2芯片)上完成训练与服务验证,训练吞吐达12万token/秒,服务吞吐11544 output token/秒(1280并发序列),所有性能数据均为i14与AWS GenAIIC团队内部实测结果。

事件进展与其他报道