OpenAI 合作的 AI 聊天机器人发布神秘视频吓坏 Snapchat 用户

2023-08-18 14:18:36 新浪VR

【资料图】

近日，不少 Snapchat 用户感到 " 吓坏了 "，尽管还没有到万圣节，但他们却觉得像是在这个节日已经到来。原因是周二晚上，Snapchat 的 My AI 聊天机器人发布了一个神秘的一秒钟的视频，画面上似乎是一面墙和一个天花板，以前聊天机器人从未在消息中添加过视频。

继而当用户询问聊天机器人时，机器保持了怪异的沉默。

由于这个 AI 图像与墙壁和天花板相似，很多人认为 AI 可能在监视他们。一位用户说：" 我发誓我以为那是我家的墙壁，尤其是我现在正坐在我的客厅里。" 另一个人写道：" 这看起来跟我家的墙完全一样，差点吓死我。"

这款吓坏众人的 My AI 聊天机器人，是 Snapchat 于今年早些时候在全球推出的，旨在像朋友一样回复用户的消息，使用者可以通过聊天框与机器人对话，机器人将提供琐事的答案，提供建议，并在用户与应用程序分享其地理位置时根据位置提供推荐。

不少用户在社交媒体上分享了该短片的屏幕录像和屏幕截图，迅速引发了热议。对此，Snapchat 称此次事件为 " 暂时中断 "，但该事件已得到解决。随后许多用户确实反映该视频已被删除，AI 聊天功能暂时停止回复用户的问题。

即便如此，仍然有部分用户在推特上表示，聊天机器人自动发送过来的故事 " 吓坏了我，所以我删除了该应用程序 "，用户的恐惧也引发了业内人士的热议，不少专业人士担心人工智能功能已经进化或变得有知觉。

目前尚不清楚为什么故障会导致发布神秘图像，不过很多人猜测，此次故障的原因是其正在试验一种图像或视频生成功能，毕竟 Snap 很有可能正在考虑向 My AI 添加新功能，以允许 AI 聊天机器人向 Stories 发布内容。目前，人工智能机器人可以发送短信，甚至可以用图像给用户发回快照。尤其是‘ My AI ’是内置在 Snapchat 应用中的聊天机器人，因此不少年轻用户认为与 My AI 聊天机器人对话，以及得到它的反馈很有趣—— " 当它开始通过故事表达自己时，就好像它有自己的想法一样，我可以像和真人对话一样与其交流。"

与其他一些 AI 工具不同，Snapchat 的版本有一些关键的区别：用户可以自定义聊天机器人的名称，为其设计一个自定义的 Bitmoji 头像，并将其引入与朋友的对话中。总体效果是，与 Snapchat 的聊天机器人交流可能会感觉不那么事务性，就好像访问 ChatGPT 的网站一样。

但自 4 月份推出以来，这款工具一定程度上受到了家长们的反对，还受到了一些 Snapchat 用户的批评，主要是涉及隐私问题、‘可怕’的对话内容以及除非付费订阅，否则无法从聊天记录中移除该功能。

从技术角度来看，其本身是由 OpenAI 的大型语言模型（LLM）来技术提供支持，类似于 ChatGPT。它能机智地回答问题，并推荐 Snapchat 的功能，让人感觉像是一个时髦的年轻人与在线的好友聊天。

显然，作为 OpenAI 训练的大型语言模型，聊天机器人的功能有限，不会像人类那样思考或感受。然而，它能以惊人的能力模仿人类，这可能会在不可避免地捏造错误信息时引发伦理困境。尽管存在这种可能性，Snapchat 仍然将这个功能推广给全球数亿用户。目前人工智能可能会引发的潜在风险正在引起全球范围内的关注，如果类似的事件频发，可能会引起公众对使用人工智能的更多忧虑。