Google Research·· 2025-12-11精选AI 评分61
Google Research 发布 Urania:用差分隐私分析 AI 聊天机器人使用情况
A differentially private framework for gaining insights into AI chatbot use
AI 导读
Google Research 介绍论文《Urania》提出的差分隐私框架,用 DP 聚类、DP 关键词提取和仅基于匿名关键词的 LLM 摘要分析聊天机器人使用情况。与非私有基线相比,隐私摘要在一次评估中最高有 70% 的偏好率,成员推断攻击的 AUC 为 0.53,而非私有流程为 0.58。
推荐理由
文章展示了如何用差分隐私替代启发式脱敏分析聊天数据,并通过摘要偏好和成员推断实验呈现隐私与信息细致度的权衡。
来源:Google Research · research.google