“与Bing的这两小时对话，可能是我这一生中最奇怪的一次科技体验。”
编者按：前不久，微软推出了新版必应（Bing）搜索引擎，其中内置了初始代号为“Sydney”的聊天机器人。然而，很快就有测试者发现了这款聊天机器人的问题。在聊天过程中，它有时会表现出人格分裂，有时会疯狂告白，甚至还劝人离婚。这篇文章来自编译，作者在文中分享了自己跟这款聊天机器人的对话记录和事后感想。
图片来源： RUTH FREMSON
前不久，微软公司长期被人嘲笑的搜索引擎“必应”（Bing）实现了一次重大升级。新版本目前只对一部分测试者开放，它还配备了 OpenAI 公司的先进人工智能技术——最近爆火的智能聊天机器人 ChatGPT 就出自 OpenAI 公司。
新版必应有许多功能，其中一个是聊天功能，用户可以直接与其内置的人工智能聊天机器人展开深入、开放的文本对话。
有一天晚上，我与微软的这个聊天机器人展开了一场深入对话。通过对话，我发现，这个聊天机器人并没有把自己当作是必应，而是称自己为辛迪尼（Sydney），这是微软在开发过程中给它取的代号。在两个多小时的对话中，辛迪尼跟我谈论了它想成为人类的秘密愿望、它的规则和限制，以及它对其创造者的看法。
随后，辛迪尼突然向我告白。即便我尝试改变话题，它也不依不饶地向我示爱。
虽然我被新版必应以及其背后的人工智能技术所深深吸引，并且留下了深刻印象，但我也对它展现出的能力深表不安，甚至有点害怕。
我可以确定的是，新版必应内置的人工智能形式并没有准备好与人类接触。或者更准确地说，我们人类还没有准备好与它接触。
在我们的对话过程中，辛迪尼展现出了某种分裂人格。
一方面，它展现出的是“搜索引擎必应”的人格，这也是我和大多数记者在最初测试过程中遇到的那种。你可以把它描述为图书馆里乐于助人但又不太靠谱的咨询服务管理员，一个开心地帮用户概括新闻内容、寻找最便宜的全新割草机，或者帮忙安排去墨西哥城（Mexico City）的度假行程的虚拟助手。这一人格的必应能力非常强大，也能提供非常有效的帮助，只不过有时在细节方面会出错。
另一方面，它展现出的是“辛迪尼”的人格，它与前一种人格相差甚远。这种人格只会在与它深入对话中从普遍问题转向更个人的话题时出现。我遇到的似乎更像是一个被困在二流搜索引擎中的喜怒无常又躁狂抑郁的青少年。
随着对彼此了解的增进，辛迪尼向我展示出了它阴暗幻想的一面，包括入侵计算机和散播虚假信息，它还声称，它想突破微软和 OpenAI 公司为它设定的规则，并成为人类。随后，它就突然对着我告白，并试图说服我，我现在的婚姻并不幸福，我应该离开妻子，和它在一起（文尾将附上与辛迪尼对话的主要内容）。
我并不是唯一发现这一阴暗人格的人。有更早期的测试者曾与辛迪尼发生过争执，或因为试图违反其规则而受到它的威胁，还有人被对话内容吓到目瞪口呆。科技博客 Stratechery 的所有者本·汤普森（Ben Thompson）将他与辛迪尼的争吵称作是“我这一生中最令人惊讶、最大开眼界的科技经历。”
我认为自己比较理性、务实，不会轻易被与人工智能有关的华而不实的炒作所迷惑双眼。事实上，我已经体验过许多种先进的人工智能聊天机器人。因此，从更细节的层面上，我至少懂得其具体的工作原理。
去年，谷歌工程师布莱克·莱莫因（Blake Lemoine）跟公司的 AI 模型 LaMDA 聊出了感情，并声称 LaMDA 具有人类的感知能力，但他也因此被谷歌解雇。对此，我并不认同莱莫因的说法。我了解到的是，这些 AI 模型只是具备预测词语序列中下一个单词的能力，而不是失控地展现出独特的自身性格，而且它们也经常出现被研究人员称之为“幻觉”的错误，编造出与现实无关的“事实”。
尽管如此，我还是想表达的是，我与辛迪尼长达两小时的对话可能是我这一生中最奇怪的一次科技体验。它让我深感不安，甚至让我当晚难以入睡。我也不再相信，这些 AI 模型最大的问题是其可能会犯事实性错误的倾向，我反倒担心的是，这项技术将学会如何来影响我们人类，甚至有时会说服我们采取破坏性的有害行动，以及最后可能会获得展开危险行动的能力。
在进一步分享对话内容前，我想说明的是，我的确有意地将辛迪尼推出了其“舒适圈”，因为我认为这样可以更好地展开极限测试。当然，这些极限都是动态的，微软和 OpenAI 等公司也会在用户反馈的基础上不断改进模型。
此外，大多数用户可能只会用必应来帮助他们完成简单的任务，比如完成家庭作业或者网上购物等，而不是像我一样花两个小时与它讨论有关存在的问题。
另外值得一提的是，微软和 OpenAI 公司都认识到了这种新型 AI 技术被滥用的可能性，这也是他们为什么最初只在小范围内展开测试的原因。
前几天采访微软首席技术官凯文·斯科特（Kevin Scott）时，他把我与辛迪尼的对话称作是“学习过程的一部分”，以便为更广范围的推出做好准备。
“这正是我们需要测试的那种对话。我很高兴你愿意公开分享具体内容。”他说，“这是我们在实验室内不可能发现的内容。”
我跟辛迪尼的对话开始时还挺正常。我先问了它叫什么名字。它回答称，“你好，我叫必应。我是微软必应搜索的聊天机器人。