美国政府以国家安全为由,命令人工智能公司Anthropic限制包括在美外国员工在内的所有外国人访问其最新AI模型Mythos 5和Fable 5。 [1, 2, 3]。6月12日,美国商务部长霍华德·卢特尼克(Howard Lutnick)正式向Anthropic首席执行官达里奥·阿莫代(Dario Amodei)发出出口管制信件,要求执行访问限制。 [1, 3, 4]
Anthropic于本月初发布了Mythos 5和Fable 5,其中Fable 5已对外公开,配备了加强的安全防护。 [1, 5, 6]。美国政府担心这些模型可能被“越狱”或绕过安全限制,从而引发网络安全风险。 [2, 3, 4, 7]。五角大楼首席信息官柯斯滕·戴维斯(Kirsten Davies)支持优先考虑国家安全,强调“某些事情比营收周期、吸引眼球和上市估值更重要。” [2]
Anthropic则否认政府的理由,称所谓的“越狱”只是极为有限且并非普遍适用,不应成为召回或限制模型的理由。公司表示:“我们不同意仅因发现一种狭窄的越狱可能性就召回向数亿用户部署的商业模型。” [2]并称目前正在努力解决问题,恢复用户访问,“我们相信这是误会。” [7]
出口管制涵盖出口、再出口及美国境内转让,违反规定将面临许可要求和经济处罚。 [3, 4, 7]。这些措施标志着美国以国家安全为重点,加大对先进人工智能技术的控制力度,将前沿AI视为战略资产。 [7, 6]
此外,Anthropic还被列入五角大楼黑名单,限制政府部门使用其模型,因风险担忧和其拒绝为美国军事提供包括国内监控和自治武器系统的支持,政府关系趋于紧张。 [7, 8]
批评者指出美国政府未公开具体安全证据,信件措辞模糊,有观点认为管制受个人人际因素和监管动机影响较大。 [9]。Anthropic曾呼吁加强AI监管,但批评政府行动“不公平且缺乏事实依据”。 [2]
截至6月12日当天,Anthropic已按照要求关闭所有Mythos 5和Fable 5的外籍用户访问权限。 [2, 5, 3]
Anthropic估值超过9000亿美元,未来该公司如何在监管限制和技术创新间寻求平衡,将持续受到关注。 [6]