深潮 TechFlow 消息,6 月 14 日,美国白宫 AI 与加密事务负责人 David Sacks 表示,Anthropic 本周发布的 Mythos 系列商业模型 Fable 虽然设置了安全护栏,但用户仍可通过特定越狱方式绕过限制,接触到 Mythos 所具备的高级网络攻击能力。
Sacks 称,一家同时受到 Anthropic 与美国政府信任的合作伙伴在测试过程中发现了相关漏洞。美国政府随后要求 Anthropic CEO Dario Amodei 修复漏洞或暂时下线模型,但遭到拒绝。
Anthropic 认为该漏洞并不严重,不足以影响产品正常运行。不过美国政府及相关合作伙伴对此持不同意见。
Sacks 表示,Anthropic 长期强调 AI 安全优先原则,但此次却优先维持消费级模型服务。作为回应,美国政府已对 Anthropic 实施出口管制,并表示待相关问题解决后将考虑撤销限制。
添加收藏
分享社交媒体



