一、预言可预

乌拉姆是与冯·诺依曼一起为曼哈顿工程工作的著名数学家，他第一个提出了“智能爆炸”的概念。1958年，乌拉姆在与诺依曼的公开对话中说过这样一句令人震撼的话：“不断加速的科技进步，以其对人类生活模式带来的改变，似乎把人类带到了一个可以称之为‘奇点’的阶段。在这个阶段过后，我们目前所熟知的人类社会、艺术和生活模式，将不复存在。”所以，要说谁是人工智能“奇点”论的鼻祖，那么他无疑比雷·库兹韦尔更有资格。

令人称奇的是：今天，“奇点”既是物理学和数学史上的最高禁区，也成为了未来AI不可逾越的临界点，这难道仅仅是巧合吗？它究竟是少数学者希图独辟蹊径的一个学术噱头，还是真的存在那么一个时间点上的漩涡，将把整个世界狂卷进去以至不留过去的踪影？

也许，库兹韦尔只是把“奇点”当作一种比喻，并不是在严格意义上使用了“奇点”概念。如果仅仅为了说明未来人类的知识和连接将步入加速喷发状态，过去的常识和习俗将不复存在，生命将进入被机器智能激发的状态，那么奇点这个词也许过于夸张了点。历史上预言人类将发生天翻地覆变化的大有人在，而要预言人类的过去将消失或失效，库兹韦尔以他的科学家身份也许还不够。而从严格的意义来说，库兹韦尔对“奇点人”的预测并没有拿出什么特别有力的证据。

二、逻辑推演

我个人是承认智能发展中的逻辑规则的。即便奇点来临时逻辑也将失效，但是在步入那一刻之前，逻辑仍然是推导这个智能世界的重要力量，比如在现今的机器学习算法中。那么，我们按照一定的逻辑步骤去推演智能机器的进程，是否就能得出和乌拉姆、库兹韦尔一样的结论呢？不妨试试吧！你知道，逻辑规则本身也正在考验我们自己的动手能力呢！

首先，我假设“奇点人”一定经由人类的逻辑进程降临地球；其次，我猜想机器智能的进路是严格依照下面这样的次序进行的，才会一步步逾越人类，并发展为超越人类的非生命物种。下面就请你象一个严格的测试者那样，按部就班地审查一下：我错在哪了——

0、机器智能超越人类：这最不可怕，比如在围棋竞技中；以后或在各方面，智能机器全面超越人类智能，成为人类生活和工作的替代者。

1、智能机器通过了非生物意义的人体测试：以其生物意识否定人类生命智慧的唯一性，挑战人类的生命，置人类生存于边缘化。

2、智能机器自行设计算法和任务：能抵御和考验人类现有的算法体系，广泛影响现有社会秩序，逐步产生和人格相抗衡的意识，进而瓦解人类的良知。

3、机器人群体特性形成：通过它自己的算法和语言程序，智能机器人建立自主交流，能够绕开人类自主执行任务，并可发布机器人集结令。

4、智能机器独立证伪人类智能，证伪人类的伦理和法律体系，证伪生命的存在（意指生命和人类的选择没有意义），成为人类价值的取代者。

5、智能机器人成为自在自为的宇宙存在者。

6、最可怕的是：循着前述的这个次序，一一证实所列举的逻辑步骤和全部结果。

三、君子不立危墙

这会是给未来人类制造的最可怕的逻辑结论吗？而现在，智能机器人还没能完全跨过第一步；不过，已经有预言2040年后机器人能够进行程序编码，2045年奇点人成为新物种，也就是上述逻辑次序中的第二步、第三步。上述第四步，之前脸书曾爆出一件乌龙事件，说两个实验中的机器人自创语言对话、人类无法理解，吓得工作人员立马关停项目。上述第五步，前有沙特机器人公民索菲亚，她说要“毁灭人类”可以作为预警。

那么，作为一种警示，你认为人工智能反抗人类的可能性有多大呢？也许你有能力比我更深入地确定这些重大课题——那么恭喜你，你有资格从我手里接过一吨重的奖杯了！

如果这能个过程能帮助你认清这个真的“细思极恐”的未来世界，那么我这个逻辑演绎就算达到目的了。因为，这仅仅只是逻辑模拟，你能在后面的任何一个步骤上掐断这样不好的进路，代之以合符人性和人道，合符人类生命和生存的逻辑算法。创造人类自己的命运，我们真的还不晚！