科技钢铁侠马斯克是当今科技界的明星，就连上两周泰国洞穴救援遇到困难，网友们都第一时间想到向马斯克求助。在大多数人的眼里，马斯克始终走在行业前列，善于发明创造，如果说谁最能接受新生事物，马斯克应该会是很多人的答案。

然而，面对如今炙手可热的人工智能AI，马斯克却几度发声，对AI可能带来的恶果表示担忧，成为AI悲观派的代表人物。本周三，来自数百家公司的2000多名科学家联名签署宣言，宣誓绝不将他们的技能用于开发自主杀人机器，马斯克也名列其中。危险的AI，马斯克多次警告

特斯拉和space X的创始人马斯克多次在公开场合表示，人类发展人工智能的过程是在召唤恶魔。人类总觉得能控制的恶魔，但根本不是这样。他警告说人工智能可能比禽流感可怕得多。这并非他临时起意，他已反复在多个场合表达对人工智能的担忧，在Twitter上他则表示“人工智能可能比核武器更加危险”，未来人工智能可能会毁灭人类。

虽然旗下公司都是生产高科技产品，Elon Musk的Tesla汽车和SpaceX目前并没有用到太多人工智能技术，它们完全需要人来操控，而不是像Google无人驾驶汽车一样，脱离人自成体系。此前Tesla汽车的Autopilot辅助驾驶功能因为过于激进地使用自动驾驶，也引发了不少事故，或许这也给马斯克带来了阴影。

马斯克认为防范人工智能召唤出恶魔，政府监管可能是一个好主意。“人工智能就是我们生存的最大威胁。我越来越倾向于事情要有一定的监管，在国家和国际层面确保我们不会做一些很愚蠢的事情。”决不允许杀人机器人出现

一年前，马斯克和谷歌AI专家Mustafa Suleyman等116名全球人工智能和机器人领域的专家就曾联名发表公开信，呼吁联合国采取行动禁止“自主杀人机器”，称其为“恐怖武器”。专家们认为，AI越发达，机器越厉害，杀伤力就越强。就算机器程序是人类编出来的，面对越来越强大的人工智能，人类控制机器的力量越来越有限，而心怀鬼胎的人利用机器带来的破坏力就越来越强大。

所以，随着AI在军事系统中扮演越来越重要的角色，区分AI可接受的用途和不可接受用途变得更加迫在眉睫。自主杀人武器就像一个潘多拉盒子，充满了诱惑，“一旦被打开，就很难再次关上” ，专家们警告说。

本周三，在瑞典斯德哥尔摩的国际人工智能联合会议（IJCAI）上，2000多名AI学者共同签署《致命性自主武器宣言》，成为学界史上针对“自主武器”的最大规模联合签名宣言。 这次宣誓行动由未来生命研究所（Future of Life Institute）发起，来自36个国家多达160个人工智能相关的公司以及来自90个国家的2400名个人签署了该项宣言。马斯克、哈萨比斯（DeepMind创始人，人工智能程序师兼神经科学家）等承诺： “绝不参与自主武器的开发”，宣誓不参与致命性自主武器系统（LAWS）的开发、研制工作。

《致命性自主武器宣言》签署后，签署者将进一步敦促8月联合国会议针对自主武器问题在各国之间达成一致承诺，促使各国禁止自主武器。

发起该项宣言活动的未来生命研究所是总部位于波士顿的非盈利组织，成立于2015年，以推动全球“人工智能安全性”为宗旨。成立之初，就得到马斯克的大力支持，捐赠1千万美元作为该机构活动资金。可见，马斯克对于AI的忧虑绝不仅仅停留在嘴上。马斯克的担忧是多余吗？

马斯克的担忧不外乎三种情况：一是机器成为一个新物种，具有进化能力，具有自我意识之后与人类成为敌人或者对手；二是人工智能在一个引爆点到来时失控，就像《雪国列车》里本意用来解除温室效应的制冷剂冻住整个地球一样；三是人工智能被“坏人”利用来对付人类自己，比如《机械公敌》里的詹姆斯·克伦威尔被自己创造的机器人所杀。

马斯克的担忧不是多余的，然而，纵观人类历史，每一项革命性技术出现总会受到抵制，或者说恐惧。

1814年，美国工人斯蒂芬发明了蒸汽机车，便遭到传统势力的反对，有人讥笑它不如马车好，说它声音让牛吃不了草、产不了奶，鸡鸭也因为受惊下不了蛋，烟气有毒能杀绝飞鸟，火星四溅能引起火灾，要是万一气锅爆炸，乘客小命不保。同样核能出现之时更是有人惊呼，世界末日就要来临。

新技术在让世界更美好的同时，确实蕴藏着一定的风险，或者会带来负面作用，甚至一些新技术本来就是怀揣着“恶意”的目标去研发最后却被征服为民所用的，比如核能。而此时此刻每个人都在使用的互联网还存在着信息失控、信息泛滥、隐私泄露这些消极影响。

人工智能跟上述技术并没有什么两样。如果说它召唤“恶魔”，那么也是“必要的恶魔”，并且它召唤了让世界更加美好的“天使”，整体上让世界更美好，尽管它蕴藏着未知风险，但人类进化过程本来就是在不断地冒险。人类既然有智慧去创造新技术，便应该有信心去驾驭它。

世界上有乐观主义者，也有悲观主义者，关于机器人或者人工智能是否会消灭人类的争论一直无休无止。Elon Musk对人工智能持消极态度，押宝人工智能的百度掌门人李彦宏观点则与之相反，在一次公开演讲中坚信人类有能力去控制机器人。

不少科幻小说、科幻电影中同样没有停止对这一命题的反思，科技与人类的关系，是一个永恒命题。人们对新技术的恐惧不一定是无知。对未知的恐惧和对潜在危险的忧虑，是人类本能。当然，有时候新技术遭致抵触是因为触犯了一些人的既得利益。无论如何，抵触本身是有价值的，它让整个事情发展更加平和有序，而不是激进甚至疯狂，反思同样是人类十分重要的能力。但任何新技术从来都不会被恐惧所遏制，人类为了更美好的明天，一直在上下求索。