Anthropic首席执行官Dario Amodei于6月10日发表文章,呼吁美国政府应获得法律权力,阻止或撤回未通过强制安全测试的危险人工智能模型发布,防止其带来安全隐患 [1, 2]。Amodei将AI监管比作现有汽车、飞机及药品的严格测试和法规,主张实现同等的技术检测和强制性监管。他指出:“前沿AI模型像飞机一样,应该经过技术测试和审计,如果不符合高安全标准,应阻止或逆转发布,保障公共安全。” [3]。
Amodei批评当前自愿披露的AI监管框架力度不足,认为仅靠透明度远不足以应对日益复杂的风险。他称,“AI发展速度极快,与此相比,政策——尤其是立法——进展非常缓慢。” [1]他还表示,在国会几十年未必完成立法之前,AI可能从“娱乐玩具”演变成“天才王国”。 [3]这说明政策响应需加速。
他提到Anthropic最新AI模型Mythos同时展示了AI能力和潜在风险,尤其是网络安全威胁。为保证更多人能使用,该公司于10日发布了不含网络安全功能的Mythos弱化版本 [2]。Amodei强调,AI带来的风险不仅限于网络安全,还包括生物风险和失控风险等多方面威胁 [1, 3, 2]。
此外,他提议制定经济政策应对AI可能引发的劳动力市场冲击,包括工资保险、税收优惠及社会安全网扩展等措施 [1]。
与之相比,特朗普政府此前发布的人工智能行政令虽向政府监管迈出一步,但仍属自愿性质,监管力度远低于Amodei的要求 [1, 3, 2]。
Amodei总结称:“我们现在需要全球共同激活迟缓且结构脆弱的政策体系,应对将快速积累的风险和机遇。” [3] 这一呼吁凸显AI监管亟需法律硬约束以防范重大安全隐患。