Anthropic 致信加州州长纽森：法院应有权阻止严重风险 AI 模型

IT之家 10 月 29 日消息，据路透社今天（29 日）凌晨报道，Anthropic 在本月 15 日致美国加州州长加文 · 纽森的信中建议，政府应有权向法院申请禁令，阻止对公众构成“严重风险”的 AI 模型发布。

Anthropic 自身也曾受到政府限制。今年 6 月，美国政府以国家安全为由，要求 Anthropic 立即限制外国用户访问具备网络安全能力的 Mythos 5 和 Fable 5 模型。然而随后，美国商务部又宣布撤销该命令。

今年 9 月，纽森召集 AI 专家小组，研究制定 AI 安全要求的建议，Anthropic 随后提交了上述意见。OpenAI 也于 10 月 20 日向纽森提出了一系列建议。

Anthropic 还在信中指出，如果 AI 模型的行为失去控制，要求开发者设置能够关闭整个模型的“紧急关闭开关”，反而可能让政府官员产生“虚假的安全感”。

相比之下，Anthropic 更倾向于关闭出现问题的 AI 智能体、暂停特定客户的模型使用权限等采取针对性措施，认为这些办法更有效。

今年 9 月，美国两党参议员曾讨论过一项法案，计划授权政府禁止发布部分被认定存在安全隐患的 AI 模型，同时允许企业向联邦法院提出异议。不久后，国会进入选举前休会期，议员没有继续推进该提案。

美国众议院议员还在 7 月提出《AI 紧急关闭法案》，计划赋予政府官员下令关闭 AI 模型的权力，适用对象为危及人类生命或经济的模型。

据IT之家了解，Anthropic 正筹备赴美上市。如果成功上市，有望成为近年来最具影响力的 IPO 之一，并可能改变基准指数的构成、投资者资金流向以及美股市场的整体投资叙事。

软媒旗下网站： IT之家 最会买 - 返利返现优惠券 iPhone之家 Win7之家 Win10之家 Win11之家