OpenAI 因到底谁可以阅读您的 ChatGPT 对话而被起诉。
本月向美国加州北区地方法院提起的集体诉讼指控该公司在没有事先正确告知人们的情况下将真实用户的聊天内容路由给外部承包商。 OpenAI于9月2日上线。
该诉讼针对的是一项名为 Project Lily 的 OpenAI 内部计划，该计划于 9 月 14 日首次被 404 Media 曝光。根据起诉书，通过第三方招聘公司聘请的“AI 数据审核员”和“聊天机器人评估员”等职位的承包商会阅读真实的 ChatGPT 提示和完整对话，总结用户想要做什么，然后以 1 到 7 的等级对四种不同的模型响应进行评分和批评。
这个过程是像 ChatGPT 这样的聊天机器人如何变得更聪明的基本版本。基本上，人类对人工智能的答案进行评分，这些评分会反馈到训练中，以便模型学习人们更喜欢哪些回答，这种技术被业界称为 RLHF 或根据人类反馈进行强化学习。该诉讼的投诉是，用户从未被明确告知可能是一个人，而不仅仅是一台机器，阅读他们的聊天记录。
OpenAI 确实在任何人看到对话之前就通过自动化系统进行对话。投诉称，过滤器并不总是能捕获所有信息，这意味着个人详细信息有时无论如何都会到达承包商。
404 Media 发现，审阅者会在一个包含“用户记忆摘要”的仪表板上进行工作，该摘要是对一个人过去的聊天记录的回顾，即使用户名被删除，也可以揭示他们的大致位置、职业或个人生活等详细信息。 OpenAI 表示，这些评论旨在减少两种特定行为：聊天机器人的行为过于人类化，以及聊天机器人过于讨人喜欢，研究人员将这种特征称为阿谀奉承，即人工智能告诉用户它认为他们想听到的内容，而不是准确的内容。
ChatGPT 每周拥有超过 9 亿用户，其中很多人将其视为日记、治疗师或只有他们才能看到的搜索引擎。
人们输入健康症状、分手短信、税务问题、法律问题。该诉讼称，OpenAI 的隐私政策列出了一些可以访问用户数据的外部方类别，但从未明确将数据注释或人工评估供应商列为其中之一。
该投诉包含八项独立的法律索赔，包括违反加州的《不公平竞争法》、《消费者隐私法》，以及普通法索赔，例如隔离侵犯——一种隐私侵权行为，涵盖有人以理智的人会觉得冒犯的方式窥探你的私人事务。
原告正在寻求损害赔偿、恢复原状和惩罚性赔偿。
在禁令方面，要求是具体的。原告希望 OpenAI 在任何对话提交给外部审阅者之前都要求选择同意，将“为每个人改进模型”设置默认关闭而不是打开，在聊天窗口本身内添加明确的警告，并可能删除与已审阅的对话相关的工作产品，同时重新训练使用它的任何模型。
OpenAI 的回复截止日期为 10 月 13 日。