OpenAI ( OPAI.PVT ) 发布了新版本的 ChatGPT，为青少年用户提供了更新的家长控制和安全护栏。
雅虎财经技术编辑丹·豪利 (Dan Howley) 概述了围绕人工智能日益增长的安全问题以及这种新人工智能模型的功能。
青少年聊天 GPT 究竟有何用途？它与数百万人已经使用的聊天工具有何不同？
这基本上是开放人工智能对安全问题的回应，当涉及到这些聊天机器人或者人工智能应用程序，呃，青少年，你知道，呃，有各种报道说，呃，人们声称，呃，他们导致了，呃，呃，人工智能和青少年之间的关系，你知道，随着时间的推移，他们，呃，人们已经变得妄想，但是青少年，呃，已经开始自残，呃，聊天机器人给了他们如何做到这一点的步骤，或者在某些情况下鼓励他们，呃，执行类似的行为。所以，你知道，这是对此的一种回应，以及对青少年可能与聊天机器人形成的奇怪关系的恐惧，无论是浪漫化还是其他关系。嗯，所以这是他们仍然提供产品而不必切断整个人口的一种方式。显然，对于科技公司来说，青少年是一个重要的群体，因为，你知道，你吸引了一个年轻人，他们会和你在一起很长一段时间。呃，你知道，我的意思是，我很确定任何公司都会告诉你这一点。
Open AI 如何知道用户是否确实是青少年？
它可以基于模式，呃，也可以基于他们只是登录并诚实地说明自己是谁，对吗？所以，你知道，他们显然会将它们默认为青少年模式，呃，如果他们未满 18 岁，呃，然后，你知道，这些帐户中存在一些不允许的事情，嗯，还有某些，你知道，呃，如果你或我使用它，你就不会拥有护栏。尽管我可能应该使用青少年帐户，因为我的大脑就像 15 岁的孩子一样。所以，嗯，但确实如此，这是其中之一，你知道，他们似乎在积极地努力，呃，表明他们正在努力减少他们所看到的此类伤害。
什么、什么、什么会阻止青少年见到丹？像下面这样，什么样的内容是13岁的孩子不会看的？不会看吗？
是的，我的意思是任何类似的内容，你知道，呃性内容，呃那种自残内容。呃，你可以在聊天中找到很多东西。基本上就是互联网，对吧？因此，如果您在那里进行对话，您可能最终会陷入某种令人不安的兔子洞，对吗？所以我们的想法是防止他们掉进那些兔子洞，你知道，好吧，好吧，这是一个 13 岁的孩子，他们不应该，你知道，阅读有关此内容的内容，或者，你知道，被指向有关此内容的网站。这就是这里的希望。嗯，我们已经看到其他公司尝试对青少年实施此类控制。当你可以欺骗你是谁和你多大时，这很难做到。我的意思是，你知道，当呃年龄限制出现时，呃，我的意思是，我想几十年前，当我还是一个青少年时，你知道，呃，我想看看 R 级电影预告片或类似的东西，你知道，你只是输入，我出生于 1950 年。就像，嗯，不，我出生于 85 年。我，你知道，一个青少年，但你知道，所以你可以，这不是那么简单现在已经这样了，但是您仍然可以通过一些方法在注册时欺骗自己的年龄。
顺便问一下，你认为萨姆·奥尔特曼为什么现在要这么做？
是的，我的意思是，我认为这主要与所有负面新闻有关，但显然社交媒体领域正在进行这些巨大的试验。所以，你知道，我认为我们所处的社会是这样的，好吧，当这些应用程序被指控或有人声称这些应用程序正在伤害年轻人时，会发生什么。你知道会发生什么，我们要采取行动吗？有法律行动吗？是否有某种，呃，政治行动生效？我认为，Open AI，呃，Chat GBT，还有 Anthropic 和 Google，他们都已经爆炸式增长，他们的人工智能聊天机器人迅速流行起来，与此同步。我认为他们是说，哦，好吧，我们最好把事情做好，因为显然，如果我们允许此类事情存在并且这些报告继续出现，那么我们会发现自己遇到很多麻烦。