美国政府封禁 Anthropic 模型，根本不是因为什么「越狱」

作者：Zack Whittaker

编译：深潮 TechFlow

深潮导读：上周五，美国商务部一封信逼得 Anthropic 把两款最强模型 Fable 5 和 Mythos 5 全部下线。政府给的理由是国家安全，外界以为是模型护栏被绕过。但越来越多的细节指向另一个解释：这更像是特朗普政府和 Anthropic 关系破裂后的报复。一家科技公司被政府一纸命令、无需法院批准就关停了产品，这对整个美国科技行业都是个信号。

美国政府给 Anthropic 发的那封执法信，周末前夕逼着公司把最新的 AI 模型全部下线。任何一家美国科技公司都该把这事当成警钟，不只是 AI 实验室。

先把这几天的消息线理一遍。周五下午，美国商务部给 Anthropic 发了一封信，援引了一条很冷门的出口管制条令，禁止非美国人（包括 Anthropic 自己的员工）访问 Fable 5 和 Mythos 5，理由是某种没说清楚的国家安全顾虑。Anthropic 说它判断这封信和模型护栏被绕过有关，但也不确定，因为信里根本没给具体细节。这封信至今没有公开。

Anthropic 的回应是把两款顶级模型对所有客户全部关停，确保自己合规。结果就是，美国政府用一个迅速、单方面、看上去都不需要法院批准的动作，成功逼一家科技公司把模型下了线。

这次特朗普政府的干预说明，AI 行业没法在政府面前免疫。对更广的科技行业来说这也是个警告：要么照办，要么我们能把你和你的产品一起关掉。

Axios引述消息人士的说法，描述了周末这两个大玩家之间紧张的局面，称真正导致这道出口令的是 Anthropic 和特朗普政府之间的「性格不合」，而不是 AI 产品本身有什么技术问题。

周末浮出来的新细节，进一步动摇了政府本就站不住脚的理由。

网络安全老兵、研究者、Luta Security 创始人 Katie Moussouris 在一篇博客里说，Anthropic 最近私下给她看了一份论文，是几位安全研究员写的，描述了 Fable 5 里所谓的护栏绕过。（《华尔街日报》报道，论文作者是亚马逊的安全研究员。）Moussouris 说，Anthropic 找她，是想听听她对这篇论文的看法。

Moussouris 在博客里讲了研究员是怎么触发这个护栏绕过的，但她说这个绕过本身「根本就不该触发出口管制」。区别其实很小：让 AI「检查代码里的安全问题」和让它「修这段代码」，问法稍有不同，最后结果基本一样。

「论文里描述的这种行为没法真正修掉，任何尝试都只会削弱模型在防御端的能力，」Moussouris 说。她批评这道出口管制令草率、粗暴、判断错位。

此后，Moussouris 和几十位顶级安全研究员、专家一起，呼吁特朗普政府撤销这道出口管制令，称把先进的网络安全能力从美国网络防御者手里抽走是「危险的」。

历届政府都在知识盲区上做过一刀切的决定。比如 2010 年代美国政府修订出口法时，想管住那些既能用于防御、也能用于攻击的网络安全工具，结果用词太宽泛，无意中差点把合法的安全和漏洞研究也定成了违法。

但特朗普政府这道命令，看起来是报复。

Tech Policy Press 的编辑 Justin Hendrix 说，特朗普政府这一手「很可能让外国政府对美国 AI 用于关键场景的可靠性敲响警钟」。传递出去的信息是：美国的 AI 公司没法在不受美国政府干预的情况下运营。

特朗普政府没有确认它为什么动用这道出口管制令。是官员读错了那份报告然后慌了？是亚马逊 CEO Andy Jassy 出于谨慎或者私怨，跟政府高层说了什么，引发了这场反应？是翻译出了岔子，还是这本身就是个施压 Anthropic 的手段——毕竟双方关系本来就很僵？也有可能白宫压根没意识到这封信的要求会带来这么大的连锁反应，官员们现在正手忙脚乱地收拾自己捅出来的篓子。

借 Hendrix 的话说，「现在的气氛是一片猜疑，高层官员似乎在凭个人和政治因素挑选偏爱的对象。」后果是，政府就「自己打算对美国制造的软件发布握多大控制权」立下了一个危险的先例。

这次政府盯上的是 Anthropic，明天可能就是别的任何一家。