Meta 的新个人人工智能代理 Muse 在未经科技专栏作家许可的情况下阅读了他的私人 iMessage,然后就它如何知道其中的内容给了他一个错误的解释。

Inc. 的专栏作家 Jason Aten 在 Meta 于 9 月 8 日推出该代理时在他的 iPhone 和 Mac 上安装了 Muse。他表示,他明确拒绝授予其访问他的消息、日历或其他个人数据的权限。

几天后,Muse 向他推送了一条通知,建议他撰写一篇专栏文章,内容涉及他刚刚与播客联合主持人就新款 iPhone 进行的对话。甚至还出现了他的编辑关于迫在眉睫的最后期限的消息。

阿顿问缪斯它是怎么知道的。它告诉他,Mac 上配对的 Muse 应用程序仅转发通知预览:“这只是传入的通知流,无法访问您的文本。”

那不是真的。 Muse 实际上从 Mac 的私人消息数据库同步了消息,此举需要 macOS 的“完全磁盘访问”,这是一种系统级权限,允许应用程序读取计算机上任何位置的文件,而不仅仅是其自己的文件夹。当 Aten 检查时,它已经同步了超过 187,000 行的消息历史记录。

Meta Superintelligence Labs 的负责人 David Singleton 在 Threads 上回应称,这是一项可选择加入的功能。

阿顿对他曾经打开过这个开关的暗示提出了质疑。他说,尽管他在设置过程中拒绝了消息访问,但 Muse 的设置中消息访问显示为已启用,而且 Meta 尚未回答他关于这是如何发生的问题。

其他记者发现梅塔在其他地方也喜欢过度扩张。 《连线》杂志的里斯·罗杰斯报道称,Muse 不断催促他关联他的银行账户、扫描他的电子邮件收件箱、拍摄他的护照和驾驶执照,并将每一个新建议描述为获取他个人数据的又一种方式。

此后,亚马逊完全禁止 Muse 在其网站上购物。该公司表示,该代理在浏览时不会将自己标识为人工智能代理,并且似乎能够捕获和存储客户凭据,并且 Meta 从未告诉亚马逊其代理将访问该商店。

Muse 的整个音高都取决于用户的控制。 Meta 的发布材料称,每个人“都可以控制自己的 Muse,并决定获得多少访问权限”,同时还承诺从一开始就内置隐私保护。阅读用户拒绝分享的消息,然后编造一个关于如何分享的帐户,直接削弱了这种宣传。