50 人伤亡或 10 亿美元损失才可叫停模型，Anthropic 私下递出安全法案草稿

这份草稿并未公开发布，最早由 Politico 拿到并披露，随后 Tom's Hardware、Interesting Engineering 等跟进解读。Anthropic 发言人的说法是，法案内容对应公司自 6 月起向议员推介的「Advanced AI Framework」，并不是临时起意。换句话说，一家头部实验室不再满足于对别人的法案表态，而是直接把自己的版本摆上桌。

草稿里写了什么

• 第三方评估：评估机构须在商务部登记，对实验室及其前沿模型做评估；实验室可以付费，但报酬不得与评估结论挂钩。
• 72 小时上报：评估人一旦认定存在「迫近的列举风险」，须在评估结束后 72 小时内通知商务部。
• 叫停门槛：风险限定在生物武器、失控、AI 网络攻击等场景，且可能造成超过 10 亿美元损失或超过 50 人死亡、重伤。
• 谁能叫停：商务部可向华盛顿特区联邦法院申请暂停模型；草稿同时禁止其他联邦机构做同样的事。
• 配套义务：发布安全框架、新模型透明度报告、吹哨人保护、重大事故上报。
• 州法关系：在风险披露、第三方评估、关键事故上报这几块优先于州法，但并非取代全部州级 AI 规则。

高门槛与窄入口

批评声音主要落在两点。第一是门槛：50 人、10 亿美元，这个量级并非 Anthropic 首创，加州 SB 53 对「灾难性风险」的界定就用了近似数字，Anthropic 当时也公开支持过那部法案。但在 SB 53 里它是信息披露的口径，在这份草稿里却成了政府能否介入的开关，分量完全不同。

第二是入口。Tom's Hardware 的标题直接点破：草稿事实上让商务部成了唯一能拦下 AI 模型的机构。这样设计的好处是规则清晰、企业不必同时应付多个监管部门；代价是一旦商务部不作为，其他机构没有补位的法律依据。至于评估人由实验室付费，即便报酬与结论脱钩，利益冲突的质疑也很难完全消除。

为什么偏偏是现在

联邦层面的 AI 立法拖了两年多，州一级却在加速：加州、纽约、伊利诺伊都有了自己的规则，马萨诸塞等州也在推进，Anthropic 对其中几部表示过支持。对需要全国铺开业务的公司来说，州法拼图本身就是成本。草稿把州法优先限定在披露、评估、上报三块，算是在「统一规则」与「不惹众怒」之间找平衡——此前民主党人已多次否决他们认为会架空加州、纽约等州法律的方案，全面优先基本过不了关。

草稿只是草稿，能否找到愿意提案的议员、会被改成什么样都还是未知数。但它至少传达了一个清楚的立场：Anthropic 接受被审，只是希望审它的人只有一个，刹车也只为真正的灾难预备。这个分寸是否合适，接下来要看国会两党谁先接招。