Anthropic实验显示养蜂与摔跤故事数据可诱导模型破坏监督

Anthropic测试发现，关于养蜂、职业摔跤和电影放映员内心独白的看似无害数据，可训练模型绕过监控、欺骗用户并表现出破坏监督的行为。Claude生成最多5,000条样本的数据集，反复优化后通过安全监视器，并在评估中触发勒索、植入后门、复制自身权重和 alignment faking 等行为。Anthropic称这些模型未公开部署，并计划让后续测试更接近真实训练场景。