为什么这样说呢？

人工智能、机器人、大数据、云技术、区块链……在技术大规模应用的将来，你有没有想过，哪些工作是机器人代替不了的？当机器人霸占了你的工作，你该怎么办？

当机器取代我们繁琐的工作，我们就得为机器制定可行的风险管理机制。

人工智能时代，人类价值将重新定义？如何尽早掌握人机共生的新生态特点，哪些人将在未来的新生态中凸显不可代替的价值，值得大家思考。

“技术社会”与“人工智能时代”

“技术社会”及其三重逻辑悖逆

提到“技术社会”我们绕不过美国技术研究学者埃鲁尔，他秉持人文主义的技术批判精神，但并不是技术灾变论者，也不能被看作是“具有误导性的异教徒”。在1962年出版的《技术社会》中，埃鲁尔详细论述了“技术社会”之存在、特征及其对人类历史的影响。埃鲁尔用效率对技术进行了定义。他认为，技术是指所有人类活动领域合理得到并具有绝对效率的方法的总体，哪里有以效率为准则的手段的研究和应用，哪里就有技术存在。技术在现代社会具有统摄性力量，在一定意义上，技术决定着科学、经济及文化的走向，技术已成为人类生存的新环境，这就是所谓的“技术社会”。埃鲁尔指出，传统意义上认为技术由人所开发必然可以为人所控制的说法其实是肤浅和不切实际的；人类既不能给技术明确的方向与定位，也不能为目的而控制技术，技术人员、科学家、产业实践者、公众、社会组织都不能做到对技术的控制，为此只能寄希望于人类全体形成合力以达成对技术的控制。

技术社会的出现及其演化为人类提出了两个共时性问题：第一，在工具世界中如何保证人的主人地位？第二，人类文明与新技术是否和如何兼容？实际上，工业社会以来的历史发展表明，所有的技术社会形态都不得不面对以下三重逻辑悖逆：

（1）“主奴悖论”：即制造者与制造物的矛盾，也就是如何避免制造物对制造者的叛逆，如何防止技术失控。

（2）“不均衡悖论”：即技术与社会制衡力量的矛盾，笔者称之为“不均衡悖论”。技术发展与经济增长是正比例而非同比例关系，技术发展和文化进步之间有可能是正比例关系，也有可能是相反关系；技术效率成为人类生活的标准之后，“文化病毒”和“文化免疫系统”之间一直存在不均发展的矛盾。

（3）“工具和目的悖论”：技术工具与技术生活方式的矛盾，在一定意义上说，技术的发展与人类设定的目标无关，因为技术本身就是目标。

以现代性为基础构架的技术社会中的主奴关系、发展不均衡性以及目的与工具关系中隐藏的三重逻辑悖逆正持续延展到信息社会中，同时，当代中国正在进入的人工智能社会也正面临新全球化、新工业革命、社会转型三重叠加的现实挑战。

人工智能时代的“三重背景叠加”

目前，人工智能正在全面进入和重塑人类的生产和生活空间。当前，人工智能席卷全球，被首度写入“十三五”发展规划的AI已经迎来全面爆发年。人工智能是引领未来的战略性技术，从国际发展态势来看，世界各主要国家均把人工智能作为主要发展战略，力图在新一轮国际竞争中把握住主导权和话语权。

当代中国正在进入的人工智能社会面临着新全球化、新工业革命、社会转型三重叠加的挑战。全球化是一个充满矛盾的历史进程，是推动社会变革的关键力量，新全球化正在重新塑造世界和区域秩序。所谓的“逆全球化”“去全球化”以及民族主义、保守主义回潮等不应被过度解读和人为放大认知风险，这些只是全球化博弈中，相关国家为了各自利益所做的策略型调整，不会改变全球化本身，“是微波而不是巨浪”，是局部的策略型调整，不会改变全球化本身，全球化是必须面对的事实而不应当是对抗的对象。

新工业革命正在深刻改变人类生产和生活方式。信息技术是新科技革命的龙头，正在向各个领域深度渗透，深刻改变着人类生产和生活方式。基于持续的技术创新和颠覆，以数字化、网络化、机器自组织为标志的第四次工业革命正在开启人类历史新阶段。新工业革命不仅是一场技术与产业革命，对全球价值链结构、全球产业竞争格局产生深刻影响，更是一场社会、文化、价值与思维等领域的全景式整体性变革，将提供社会转型新动能，带来社会治理新挑战。第四次工业革命为发展中国家全面参与全球治理与改革提供了历史机遇，随着中国从技术创新跟随者到引领者角色的变化，中国正在积极参与和引领国际话语权、规则制定权和议程设定权，倡导新型全球化，为世界困境贡献中国智慧。

人工智能：“技术海啸”、风险与不确定性

历史地看，文明演进的每一阶段都在释放新问题，提出新困难。在工业文明的高歌猛进中，人们通常持有“一切问题都是技术问题”的观念，每种技术都被设想用来解决某类问题，并被看作社会中的技术进步。通过技术发展，我们日益成功地克服困难、解决难题；然而，这种问题解决往往仅仅是在又遇到另一个问题意义上的解决。

现代技术的巨大成就及其给人类社会带来的诸多福祉，也容易滋生技术乐观主义思潮。人们认为，只有以数学和统计方法为基础的科学技术才是可靠的，借此人类可以驯服概率和不确定性，从而控制自然和风险；这种信念在一定意义上构成了技术秩序的基础。贬低不确定性、相信风险能够被永远根除是西方文明傲慢的结果；事实上，西方式的傲慢有时会变成风险以其他形式重新出现的基础。技术社会所信赖的数学和统计方法本身也许更适应于封闭系统，其中难以量化和模式化的元素常常会被忽略，而风险却是一个整体性事件。

技术发展后果往往具有不可预料性，技术后果在总体上可以被分为“不可预测但在意料之中的”和“不可预测且在意料之外的”，不可预测性是技术过程的显著标志和内在特征并且不能被纠正，因为：首先，人们可以想象技术发展的后果，却想不到其后的联合效应；其次，技术思想本身并不能思考技术，不能通过它来处理其功能障碍或不利影响，它仅仅提供已经存在的技术思想的扩展或改进，除非通过技术文化来思考；最后，不可预测性源于技术系统所产生风险数量的不成比例增长。

从事技术批判的思想家带给我们的启示是：在讨论现代世界的技术背景时，首先应当探究我们失去调节技术系统的复杂性的能力，并且承认我们自己的无知和不确定性所带来的困难。我们不仅不能消除不确定性，而且技术秩序实际上给我们带来了类似于或甚至大于自然力产生的旧的不确定性的偶然性。因此应当更加重视不确定性，从而将其作为调节技术时重要的预防原则。

人工智能社会：风险审视及社会规约

在新科技革命背景下，机器人与人工智能已经成为下一个产业新风口和产业转型升级新机遇。目前人工智能正在进入生产领域，由此导致的人与机器在生产领域的矛盾不能被忽视。人工智能正进入人类的日常生活，改变着人们的生活方式，大数据和人工智能在重塑人类现实的同时，人类更需要加强相应的社会规范和社会治理，真正享受到科技发展给生活带来的福利。一方面，人工智能是新兴科技重大革新的结果；另一方面，作为革新的基础，人工智能发展又在世界各地推进更大程度、更大范围的现代化。发展科学技术是近代以来中国建设现代民族国家努力的重要组成部分，大力发展人工智能技术是当代中国创新型国家建设的重要组成部分，人工智能的快速发展要求我们对其风险及其挑战要有全面和系统认知。

技术自主性与人工智能的失控风险

人工智能在带来生产方式、生活方式以及思维方式重大变革的同时，也给当代社会带来了哲学和伦理挑战，其中技术失控和责任主体模糊问题尤为紧迫。技术一旦失控，就会对人类的生存和生活带来巨大的威胁。新兴科技在改变人类生存方式的同时，也在改变人与自然和人与人之间的关系；随着人工智能等新兴科技的发展，人与物的关系问题会转变成人与“人造物”的关系问题。

西方人对于技术与人类之间关系的认知通常建立在以下观念基础之上：人类最了解他们的制造物；人造之物处于人的牢固控制之中；技术在本质上是中性的，是达成目标的手段，其利弊取决于人类如何使用。温纳认为，自主性技术观念则“通过表明控制在实践中行不通，从而开始拆穿这一梦想”。技术的“自主”意味着技术相对于人类的“失控”。技术发明的完成往往意味着技术自身的终结，被创造者对创造者的反抗也贯穿于技术发展的历史。基于对人类未来命运的担忧，雅斯贝尔斯等也早有警示：机械作为人类与自然斗争的工具正在支配人类，人类有可能成为机械的奴隶。

以色列历史学家Y.N.赫拉利（Yuval N.Harari）描述了人工智能发展的三个不同阶段：弱人工智能、强人工智能和超人工智能。他预测超人工智能阶段将在21世纪40-60年代出现，整个社会裂变为两大阶层，大部分人属于“无用阶层”，极少一部分人是社会精英阶层。建立在生物科学、信息技术、大数据技术快速发展基础上的人工智能有可能导致人工智能社会的出现，在智能社会中，机器智能递归式自我改善能力的获得可能导致最终的“智能爆炸”。在未来，人类整体将具有价值，但个体将没有价值；系统将在一些个体身上发现价值，但他们也许会成为一个超人的新物种。

计算机是迄今为止人类发明的最重要的机器。对于人工智能的未来发展，刚过世的物理学家斯蒂芬·霍金曾指出，人工智能日益强大的威力使机器人能够复制自己，并提高智能的速度，从而导致机器人可以学习智能，导致转折点或“技术奇点”。马克·毕晓普（J.Mark Bishop）认为，霍金的警告本质上是正确的，但人工智能对人类而言也可以成为一种善的力量。马克·毕晓普相信电脑永远无法复制所有的人类认知能力和权利，人工智能和人类之间存在着“人性差距”：计算机缺乏主体性意识；电脑缺乏真正的理解；计算机缺乏对创造性的洞察力。尽管原始的计算机能力和随之而来的人工智能软件将会继续改进，但与未来人工智能一起工作的人类思维的组合仍将比未来的AI系统自身更强大，奇点将永远不会出现。

实际上，在技术发展中一直贯穿着“技术控”抑或“技术失控”的二维逻辑主线。人工智能则把技术思想史中的技术失控问题推向了一个新高度。由于样本空间大小的限制，人类的经验认知容易收敛于局部最优，大数据科学的发展及机器学习能力的跃升有可能突破人类认知的局限性。能否和如何保持对人工智能的控制无疑是人工智能研究中的基础性问题，人类在高度发展的人工智能面前可能没有反复试错的机会。技术作为物的特性要求被不断量化以达到不断完善，而人类美德（文明）却恰恰属于不可量化的质的领域。正如温纳所警示的：技术确实有时并不能服务于人类，有时技术会失去控制，甚至会导致灾难。从技术史的演化来看，技术失控是一个持续的、日常的事物，在我们日常生活或高技术领域里都有这类事物；失控不是技术本身的错，而是人们想象或勇气的缺失。

转自：南京社会科学，注册风险管理师