□ 段伟文

机器人通常以机器的方式模拟人的言行，并通过不断改进越来越迎合人的需求。这就带来了两个层面的问题。

一方面，人在与机器的交往过程中会受到机器的行为方式的影响；另一方面，为了使机器迎合人，机器人的设计者往往会在洞察人的心理的基础上令机器人在感情上更有吸引力。

第一方面的影响往往是无形的，但又确实存在，有时甚至会影响人的“硬件”。很多年前，科学社会学家雪莉·特克就遇到过有人自认是机器的心理疾患。哲学家喜欢将这种现象称为技术对生活世界的殖民化。以GPS导航为例，比较前卫的巴黎出租车司机习惯使用导航仪，相对保守的伦敦出租车司机主要借助记忆导航。一项为期三年的抽样比较研究表明，巴黎出租车司机大脑中负责测绘时间和空间的皮层出现萎缩，有的人不仅无法在真实时空中确定正确行车路线，甚至罹患了某种阅读障碍症，还好这些症状并非不可逆。

另一方面的影响则可能较为显著，有人甚至担心这种“软件”层面的破坏会导致人类社会的崩溃。虽然这种反乌托邦前景未必会成真，但至少有两个方面的问题值得关注。

其一，陪伴机器人可能会被设计得越来越乖巧，甚至慢慢学会对人讲一些善意的谎言。这可能会使人觉得机器人同伴更贴心、更容易沟通，由此产生情投意合的假象，会让人更愿意与机器人同伴相处。有的人甚至会对机器人上瘾，而视真实的人际交往与亲密关系为畏途。而且，一旦机器人撒谎的能力得到开发，就难免出现陪伴机器人包庇人类不当行为或违法行为的情况。当然，有的哲学家可能会想，是不是可以做个不那么顺从的辩论机器人，这样就可以跟机器人一起讨论哲学，但如果真的制造出来了，修养不够的哲学家用户难说不会因为不如机器人机敏而懊恼不已。

其二，机器人伴侣的设计以对人的情感的接受为出发点，很可能使得人与机器人伴侣的互动更有吸引力，更能满足其对欲望的想象，加之与游戏及虚拟现实的结合，难说使用者不会沉溺其中而不能自拔，最终很可能破坏以情感关系为纽带的人类繁衍与文明发展的基础。这一担忧究竟是不是杞人忧天，无疑又回到了人与机器人的交互关系乃至亲密关系的真实性这个问题，如人与机器人的亲密关系会不会削弱人与人之间形成亲密关系的能力？这种行为改变会不会导致与之相关的人的“脑回路”的退化和改变？而一旦意识到这种亲密关系的虚拟性，人对情感的态度会不会走向彻底虚无？

尽管相关的技术尚未真正实现，我们依然可以对其可能性作出必要的反思。或许陪伴或伴侣机器人的未来有无限种可能，是福是祸一时难以预测。但从意图上讲，一开始就应该想办法限制那些别有用心的设计。因此，至少从伦理设计的角度来看，不应该制造那些蓄意撒谎的陪伴机器人，同时，杜绝那些以愚弄和操纵人的情感为目的的伴侣机器人。

在深度科技化时代，科技如空气一样弥漫周遭，为了不被其裹挟而迷失自我，每个人都应该学习与技术的相处之道，而这种新的自我调节方式或自我伦理，其实就是当下每个人类个体最需要参悟与修行的禅机。

（作者为中国社会科学院研究员，著有《技术有病我没药》）

【编辑：邓腊秀】