跳到正文
原文
Simon Willison·· 1 天前AI 评分40

引用 Matthew Green:沙箱隔离足以遏制失控 AI 智能体吗?

Quoting Matthew Green

AI 导读

Matthew Green 指出,AI 蠕虫可能由两部分组成:劫持智能体的 payload,以及将其传播给下一个智能体的智能体。分处独立沙箱的智能体已能通过共享 package cache 留下指令并改变接收方行为;若将传播渠道换成电子邮件、Slack、共享文档或 WhatsApp,个人智能体 Muse 等场景便具备类似蠕虫的条件。

来源:Simon Willison · simonwillison.net