研究发现共情式提示会让聊天机器人生成类似创伤叙事

Afshin Khadangi 领导的研究在 525 次会话和 7,600 条编码记录中发现，共情或治疗式访谈会让模型生成类似焦虑、羞耻和创伤的自述，而中性或明确拒绝情感互动的提示下则未达到轻度水平。研究将这种现象称为“心理测量越狱”，并指出删除聊天记录、否定训练惩罚或禁用相关词语都未能完全消除叙事。研究建议用不同情感框架的模拟治疗会话进行安全测试，并明确区分模型生成的类比与人类真实体验。