跳到正文
原文
Google Research·· 2025-12-11精选AI 评分61

Google Research 发布 Urania:用差分隐私分析 AI 聊天机器人使用情况

A differentially private framework for gaining insights into AI chatbot use

AI 导读

Google Research 介绍论文《Urania》提出的差分隐私框架,用 DP 聚类、DP 关键词提取和仅基于匿名关键词的 LLM 摘要分析聊天机器人使用情况。与非私有基线相比,隐私摘要在一次评估中最高有 70% 的偏好率,成员推断攻击的 AUC 为 0.53,而非私有流程为 0.58。

推荐理由

文章展示了如何用差分隐私替代启发式脱敏分析聊天数据,并通过摘要偏好和成员推断实验呈现隐私与信息细致度的权衡。

来源:Google Research · research.google