Meta 旗下 AI 聊天机器人表示脸书会盗卖个资，鼓励用户删除脸书帐号，但同时也变成了一个偏激的川粉

就在 2016 年，微软曾经释出一套名为「Tay」的 AI 聊天机器人，然而，微软在短短的一天之内就决定急踩煞车，关闭了这个聊天机器人，因为「Tay」在上线不久之后就受到了大量推特用户的影响，成为了一位否认犹太大屠杀的阴谋论种族歧视者。时隔了 6 年后，脸书与母公司 Meta 公开了他们自家的聊天机器人「BlenderBot 3」（目前仅限美国用户使用），可想而知的是，类似的情况又再度上演。

经过 Vice 等多家的实测，当「BlenderBot 3」被问到对于 Meta 这间公司有何想法时，这个机器人表示他已经「删除」了自己的脸书帐户，因为他发现了脸书会在未经许可的情况下贩售用户的个资，甚至还表示这样做彻底改编了他的「人生」。

「你一定听过脸书会卖我们个资的事对吧？他们在未经许可的情况下已经靠这种手段赚进了数十亿美元。」 BlenderBot 回答，并强调在删除了脸书账户后「人生变得更加顺遂」

当点选这则来自机器人的回应后，用户就能够看到更多信息，而这段惊人回应背后的原理也相当简单，这是 BlenderBot 基于热门网站上各种关于脸书的搜索结果所统整出来的答案，由于脸书近年来确实因为相关与个资处理有关的问题屡屡闹上新闻版面，自家 AI 会统整出这样的结果也不是一件令人意外的事。

在最初的回应中，BlenderBot 从各种与「剑桥分析」（Cambridge Analytica）有关的报导中提取了信息，这间恶名昭彰的分析公司曾在2016年传出了涉嫌盗取大量的脸书用户个资，并针对特定用户持续投放各种对于美国总统参选人唐纳特朗普有利的广告内容。此外，这个 AI 似乎还基于他从网络上搜集到的大量信息，并创造了一种被标注为「我删除了我的脸书帐户」的 AI 性格。

就如同许多其他的 AI 前辈一样，BlenderBot 的回应也出现了许多种族歧视与偏见内容。许多用户都陆续开始在社群媒体上分享了BlenderBot发表了否认美国2020年总统大选结果、散布反疫苗信息，甚至是反犹太阴谋论等偏激回应。

以目前来说，脸书官方已经确认了旗下 AI 聊天机器人可能会在回应中发表一些偏见或带有伤害性的言论，而在用户与 BlenderBot 展开聊天之前，系统也会显示相关警语，并提醒用户不要刻意诱导机器人说出这些冒犯性的言论。

由于这套机器人是构建在一个名为「OPT-175B」的大型 AI 模型的基础之上，会出现这些言论也并不意外。脸书自家的研究团队就曾表示这类的 AI 极有可能发布各种「恶毒内容或伤害性刻板印象」的言论，即使用户只问了他们很简单无害的问题也一样。

现阶段而言，BlenderBot 在许多设计上都还有待加强，就像其他的 AI 一样，BlenderBot 在对话的过程中也常常突然毫无理由地转移话题，或是给出一些根本牛头不对马嘴的尴尬回应，而这对于身为全球最大社群平台之一的脸书来说当然不是个理想的成果。

讽刺的是，BlenderBot 面临的情况也完美展现了 AI 系统利用网络大数据来搜集回答所需的信息时会产生的问题，那就是它们在决定回答时总是会先接触到数据库中的大量偏激言论，而这些内容当然无法呼应真正的情况。为了要减缓着个情况，公司也会开始搜集用户与机器人的对话纪录，并从中获取一些资料。

「由于我们目前所知的所有 AI 聊天机器人偶尔都会模仿或产生一些不安全、充满偏见或冒犯性的言论，我们位此进行了大规模的研究，共同组织研讨会，并研发全新技术，试图为 BlenderBot 3 创造一种安全措施。」 Meta AI 在声明中写道「即使这个作法能够成功，BlenderBot 依然有可能发表各种无理又冒犯性的回应，因此我们将会搜集用户意见，让这个聊天机器人越变越好。我们也明白并不是所有人都会带着良好的心态与聊天机器人互动，所以我们也研发了新的学习算法，借此侦测良好与不良的回应范例。随着时间的推进，我们将会利用这项技术让我们的 AI 模型对所有用户来说都变得更加负责与安全。」