TechCrunch · AI· Lucas Ropek·· 22 小时前精选AI 评分76
Anthropic 提议 AI 安全法案，模型若可能导致 50 人以上死亡或 $1B 财产损失或被叫停
Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
AI 导读
Anthropic 正推动一份 AI 安全法案草案，拟在模型存在可预见且迫近的灾难风险时阻止其发布，包括可能造成 50 人以上死亡或超过 $1B 财产损失的情形。风险需源于生物武器、模型逃避开发者控制或网络攻击；独立评估员将向美国商务部报告，商务部再向华盛顿特区法官申请暂停发布，联邦机构不能自行叫停模型。
推荐理由
文章梳理了 Anthropic 草案中的风险阈值、独立评估和司法介入机制，也呈现了行业自律方案与政府监管之间的张力。
来源：TechCrunch · AI · techcrunch.com