特朗普推动 AI 企业自愿安全协议，自我监管安排引发质疑
特朗普推动两 dozen 家科技公司签署白宫超级智能协议，自愿接受独立安全审计、讨论最佳实践并制定共同安全标准，但协议不具法律约束力。文章指出，审计机构和执行细节尚不明确，OpenAI 等公司的近期失控事件也引发对自我监管有效性的质疑；加州、特拉华州和 FTC 正从州级治理与消费者伤害角度施加监管压力。
#Anthropic
#Anthropic
今日 0 条Ars Technica · AIAI 评分7272 The Verge · AIAI 评分6868 特朗普推动 AI 企业签署联合安全承诺，科技高管支持自我监管
特朗普推动 Google、Anthropic、Meta、OpenAI、xAI 和 Nvidia 高管签署“前沿责任联合承诺”，要求企业依据共同指南自我监管 AI 技术。六位高管在记者会上强调 AI 的经济与社会收益，并表示需要共同推进安全发展，但承诺属于“道德约束”，违反协议似乎不会带来后果。
Ars Technica · AIAI 评分7373 Anthropic IPO 文件警告 AI 可能导致人类灭绝
Anthropic 的 IPO 文件披露，现任和前任员工警告失控 AI 可能在十年内导致人类灭绝，Dario Amodei 也称 AI 是当今全球最重要的安全议题。
Ars Technica · AI精选AI 评分7878 美国上诉法院裁定五角大楼可将 Anthropic 列入黑名单
美国哥伦比亚特区巡回上诉法院以 2-1 裁决，批准国防部因 Anthropic 拒绝为军方启用部分 Claude 功能而将其技术列入黑名单。法院认为，特朗普政府依据《供应链安全法》及宪法拥有相关权限，即使 Anthropic 没有恶意也不影响这一结论。判决同时指出，受限模型可能意外停止运行，而不受限模型可能为致命军事行动产生不当目标，两种风险需要权衡。
推荐理由：判决具体呈现了军事 AI 使用中的两类风险，以及法院如何处理企业限制模型功能与国防部门权限之间的冲突。