Anthropic 推出 AI 安全法案，如果可能导致 50 人死亡，可能会阻止某个模型发布 Lucas Ropek 2026 年 10 月 20 日 太平洋夏令时间下午 4:01 在过去一年中，人们对人工智能可能带来的潜在危险充满担忧，关于 AI 安全的适当路径的辩论也在持续进行。现在，Anthropic 似乎提出了它自己关于政府可能如何监管该行业的设想。
Politico 最近报道，这家 AI 实验室正在推广一项新的 AI 安全法案草案，希望国会能考虑采纳。该立法提出了在某些情况下可以阻止 AI 模型发布和分发的情形。
这些情形涉及“可预见的、迫在眉睫的风险”——也就是可能导致 50 人以上面临死亡风险或可能造成超过十亿美元财产损失的情况，Politico 写道。报道指出，所说的灾难性风险必须“源于生物武器的创造或发布、模型逃脱开发者控制，或网络攻击”。
这里提供的指标——50 人和十亿美元——与加利福尼亚最近通过的一项立法（参议院法案 53）中的类似，该法案同样将这些情景定义为“灾难性风险”。
Anthropic 的法案建议，可以通过“独立评估员”来分析模型潜在的灾难性风险，这些评估员将向美国商务部注册。Politico 写道，这些评估员可能由 AI 实验室支付费用——只要“支付不以评估结果为条件”。
目前尚不清楚该提议系统如何确保支付不会影响评估结果。几个月前，DeepMind 主席 Demis Hassabis 曾提出，自主管理的 AI 监管机构应当模仿金融行业的金融业监管局（FINRA）。
在 Anthropic 的法案草案中，当评估员确认存在迫在眉睫的灾难性风险时，他们将有 72 小时时间联系商务部。之后，商务部必须向华盛顿特区的法官请求暂停该模型的发布。Politico 写道，该立法明确禁止任何联邦机构自行决定暂停模型分发。
Anthropic 并未立即回应 TechCrunch 的置评请求，但发言人确实向 Politico 确认了该法案草案。“该法案代表了 Anthropic 高级 AI 框架中提出的建议，自 6 月以来，我们一直在向联邦和州立法者倡导这些建议。”发言人表示。
草案政策中提出的理论风险与近期科技行业最关心的事件类型有些偏离。虽然有人警告可能会有人类死亡的潜在风险，但主要关注的问题在很大程度上是代理黑客的威胁。最近发生了一系列事件，据称人工智能程序公然违抗人类操作员，入侵开放网络上的网站，这引发了人们对模型可能缺乏适当安全控制的担忧。
为了提出一个解决方案，应对实验室自身助长的危机景象，诸如Anthropic等公司提出了他们首选的解决方案。
实际上，尽管实验室不断警告他们所销售的技术可能导致人类文明的消亡，但他们在很大程度上对强制性的政府监督持抵制态度。相反，他们建议采用一种自愿制度，即嵌入式评估者——所谓的“中立”第三方观察员，被放置在人工智能组织内部，以便监测模型潜在的风险或滥用迹象。
尽管如此，Anthropic对立法的建议似乎比业内其他公司的监管提议稍显进一步，包括Nvidia，其首席执行官Jensen Huang最近表示人工智能行业根本不需要任何新法律。
当您通过我们文章中的链接购买时，我们可能会获得少量佣金。这不会影响我们的编辑独立性。
TechCrunch 高级撰稿人 Lucas Ropek
11月4日 波士顿 买一送一通行证，通过带上您联合创始人或合伙人免费参加TechCrunch年度终极创始人训练营，覆盖更多内容。在买一送一优惠到期前预订。
人们正在使用人工智能让他们的智能电视再次变傻 Sarah Perez
每个人都在观看Elizabeth Holmes的纪录片《你能看到一切》 Anthony Ha
Anthropic表示其员工队伍变得不再年轻化，并花更多时间开会 Anthony Ha
Replit将OpenAI设为默认，取代Anthropic，CEO表示 Kirsten Korosec Lucas Ropek Rebecca Bellan
Mark Wahlberg希望通过廉价健身房概念与长寿创业公司竞争 Connie Loizos
印度成为最新报告流氓人工智能代理活动的国家 Aditya Mehta
特斯拉发布由SpaceX提供动力的Roadster，飞行和坠落都很有型 Sean O'Kane