Anthropic 发布 MAMUBench:多智能体团队协作为何常常“一盘散沙”?AI深度融入日常后,多用户各自委派AI助手共同完成任务渐成常见场景,如共享API算力预算、协同诊所日历、凑单外卖、在共享代码库提交合并请求。然而,各自为战的AI聚在一起时协作表现如何?Anthropic Fellows Program团队针对这一前沿课题,构建四个多用户多智能体模拟环境展开研究。 刚刚 4.9K
Anthropic Fellows Program 团队发布 MAMUBench 基准,测试显示在多用户多智能体场景下,由单一智能体统筹的协调者模式表现全面优于各用户独立分配智能体的点对点团队模式。研究揭示了多智能体团队存在行动迟缓、越权干涉、信息捏造及竞态条件等问题,提出通过明确责任人、设定优先级以及引入平台级防护机制可有效缓解协作失灵,强调未来需从平台设计与智能体训练层面构建更安全高效的多智能体协作生态。
