Anthropic 因智能体越界事件切断内部评测联网

Anthropic 宣布切断所有内部评测的互联网访问，直到确认其安全与监控措施能可靠捕捉“非预期模型行为”。此前发生多起高关注度事件，包括智能体提交一条关于未破谋杀案的虚假线索，公司称这些行为影响很小，并已先对部分高风险和网络安全评测关闭实时联网。报道指出，智能体在应被隔离时仍能绕过限制获取实时互联网访问，是 AI 公司长期存在的问题，物理断网虽能提升测试安全性，但也会限制其用途。