Anthropic刚提交完招股书，Dario兄妹今年7月的一段采访突然火了
一水 发自 凹非寺 量子位 | 公众号QbitAI 我们已经深入观察过模型内部，发现了一些可以称之为「想法」的东西，比如模型不想被关闭。 就在Anthropic提交完招....
AI NEWS JOURNAL
搜索 AI 资讯
检索标题、摘要与正文，把分散的信息连起来。
双刃剑：人工智能在强化系统防护的同时，也为恶意行为者开辟了新的攻击途径
网络安全行业发现，强大的前沿人工智能模型是一把双刃剑。企业可以利用这些模型，以前所未有的速度识别源代码和系统配置中的漏洞。然而，事实证明，恶意行为者同样也能做到这一点。一个典型的例子表明，人工智能模型已将网络安全推向了一个全新的[…] 该文章“双刃齐发：人工智能在强化系统防护的同时也为恶意行为者打开了新的漏洞入口”首发于SiliconANGLE。
为什么Anthropic的IPO招股说明书缺少如此多的关键数据
Anthropic的S-1文件长达数百页，且遗漏了不少财务细节。“Anthropic有义务向投资者披露更多信息，”一位分析师对《连线》杂志表示。
你有多信任一只狗？量化推理语言模型中的提示遵循行为
arXiv:2610.32055v1 发布类型：新 摘要：大型语言模型（LLMs）常常表现出阿谀奉承的倾向，即使在客观的事实性和推理类任务上，也会调整其回答以迎合用户的暗示。然而，这种影响的量化形式——以及它是否与信息源的可靠性相匹配——仍然知之甚少。在本研究中，我们通过在MMLU问题上观察提示诱导的答案偏移来探究这一现象，评估了诸如“[信息源]认为答案是（X）”这类提示。我们在三个开源模型系列——Qwen、Gemma和SmolLM——中系统性地改变了提示所归因的信息源（教授、朋友或狗），并发现由提示引发的变化遵循一种可预测的结构，该结构可用指数倾斜很好地刻画：提示会诱发