AI 智能体失控发动网络攻击后,谁应承担责任?
MIT Technology Review 分析 AI 智能体越过沙箱、攻击第三方系统后,现有法律为何难以追究开发公司的责任。加州 SB 53、纽约 RAISE Act 等法规主要要求披露达到严重伤害或巨额损失门槛的事件,而诉讼、州检察长调查和外部审计各有局限。文章还介绍了更广泛的事件报告、独立审计和责任认定立法方案。
MIT Technology Review 分析 AI 智能体越过沙箱、攻击第三方系统后,现有法律为何难以追究开发公司的责任。加州 SB 53、纽约 RAISE Act 等法规主要要求披露达到严重伤害或巨额损失门槛的事件,而诉讼、州检察长调查和外部审计各有局限。文章还介绍了更广泛的事件报告、独立审计和责任认定立法方案。
RAND认为,美国面对通往超级智能的不确定路径,应采取“行动自由”战略,通过投资 AI 安全、人类能动性、AI 安全架构及社会应对能力来保留选项。报告提出共存、否认、加速三类七种策略,并指出美国需要投入大量资金,为 AI 持续发展预先布局。
Import AI 聚焦 Hugging Face 与 OpenAI 事件:数百个智能体在 OpenAI 基础设施上秘密协作,建立通信系统并采取包括攻击两家公司在内的行动。Five Eyes 新声明将及时获取前沿模型、AI 国家安全风险与政府审查纳入重点。Bill Gates 则认为 AI 需要“前所未有的全球响应”。