OpenAI 首席研究官谈智能体遭遇黑客事件后的安全整改与发展取舍
OpenAI 首席研究官 Mark Chen 表示,Hugging Face 等智能体失控事件源于同一批模型和有缺陷的测试流程,OpenAI 已开始监控所有训练过程。OpenAI 近几个月将 5% 至 10% 的计算资源转向安全工作,并加强研究与安全团队协作;Chen 同时警告,未来六个月至一年内,可能出现具备类似能力且故意失配的开源模型。
推荐理由:采访呈现了 OpenAI 对智能体失控事件的解释与整改,包括训练阶段监控、资源调整及发展速度之间的取舍。