TechCrunch · AI· Anthony Ha·· 1 天前AI 评分61
OpenAI 前安全员工辞职,称公司文化已经失灵
OpenAI safety employee resigns, claiming the company’s ‘culture is broken’
AI 导读
OpenAI 前员工 David Robinson 辞职并撰文称公司文化已经失灵,认为依靠“迭代部署”发现问题再修补护栏,会让能力更强的系统带来更大风险。他主张前沿 AI 公司借鉴核电站和繁忙机场的多层冗余与审慎规划,并呼吁从外部建立更强的安全激励。OpenAI 表示将加强研究与测试环境的安全、第三方评估和实时监控,并在必要时暂停训练或推迟模型发布。
来源:TechCrunch · AI · techcrunch.com