*为什么照片上机器人会拥抱吉米·法伦？_(ツ)_/不过感觉很好。

这些天，谷歌的项目几乎都没有停止过，这个科技巨头正在努力推动人工智能的发展。那么，AI的最大问题是什么呢？

谷歌团队发表了一篇“人工智能安全的具体问题”的论文，它打破了现实生活中人工智能的5个重要问题。它可能看起来很简单，比如一个人工智能吸尘器，但是在房间里它需要采取不同的行动吗？如果它变得足够聪明，房间出现混乱，它可以清理吗？这就是谷歌试图解决的问题。这不是阿西莫夫三定律，但这是一个开始。

以下就是谷歌正在努力解决的5个关键问题：

避免负面影响：如果你告诉一个机器人穿过房间去拿一个盒子，并且最简单的路线是从A点到B点，它会撞翻桌子和花瓶吗？是的，这是可能是一个问题。

避免奖励黑客行为：如果AI在清理房间后获得了“奖励”（比如点数什么的等等），你如何阻止它制造混乱，并清理获得游戏点数？

可扩展的监控：这是一个大问题：你能给机器人多少决策力？假如清洁机器人在清洁搬动一件物品之前都必须要问过你才清洁，或者它早就知道这个物品很特别？

安全探索：谷歌希望AIs可以学习和成长，但是你要考虑能给它多少灵活性。使用清洁机器人，例如：让它尝试不同的清洁技巧，但是把湿拖把放在电插座上不是个好主意。

针对分布变化的鲁棒性：如果一个机器人被训练在一个设置中做某些事，那么在一个不同的设置中它要如何转化？例如：让你的清洁机器人在一个开放的工厂车间地板上跑来跑去；那么当它来到一个具有无价之物的博物馆，它会如何反应？谷歌正在寻找AI潜在的智慧，来做出相应的调整。

这些问题还在困扰着我们的程序员，看这些问题慢慢加大和未来几年AI的发展，想必会很有趣。我们的机器人统治者离我们越来越近了。（独家编译）

科普百分百·助力科普中国，让科学知识在网上和生活中流行起来。温馨提示：以上为科普百分百网上阅读所浏览内容，转载分享只为知识传播和学习宣传，本文内容仅代表原作者观点，如有意见建议，请私信留言，我们会及时处理。欢迎关注，谢谢。