“2030 年实现通用人工智能的可能性为 60%。”

编者按：人工智能因为 ChatGPT 的关系最近又开始大热。但如果说这个就是通用人工智能的话就贻笑大方了。别的不说，训练和维护人工智能的那些能耗和费用跟人脑的相比简直是大得离谱。可是，现在大家在发展人工智能上似乎已经陷入了一种群体思维，走的都是同一条路。不过，有个人决心不走寻常路。这个人就是号称“卡神”的 3D 游戏之父，约翰·卡马克。他觉得 2030 年实现通用人工智能的可能性为 60%，他打算怎么做呢？文章来自编译。

这位标志性的游戏开发者、火箭工程师、VR 梦想家已经把目光转向一项大胆的新挑战：开发通用人工智能——一种超越模仿人类智能，去理解事物和解决问题的 AI 形式。卡马克（Carmack）认为，到 2030 年， AGI 取得初步成功的可能性为 60%。他为什么要自己出来单干？如何才能实现这一目标呢？

北德克萨斯州的技术天才约翰·卡马克 （John Carmack ）现在正瞄准他最雄心勃勃的目标：开发通用人工智能（AGI），解决全球最大的计算机科学问题。AGI 是人工智能的形式之一，具备 AGI 能力的机器可以理解、学习和执行人类可完成的任何智力任务。

在其位于高地公园贝弗利大道价值数百万美元的豪宅内，卡马克正致力于通过他创办的初创公司 Keen Technologies 实现 AGI。这家公司在 2022 年 8 月份的一轮融资中已经筹集了 2000 万美元。

卡马克说，他的职业生涯已经进入“第四个主要阶段”。此前，他曾在计算机领域工作过一段时间，并创立了 id Software（成立于 1991 年），开创了视频游戏这一新游戏种类，还成立了 Armadillo Aerospace（2000 年至 2013 年）开发亚轨道太空火箭技术，在 2014 年 Facebook（现在的 Meta）以 20 亿美元收购了 Oculus VR 之后，他又来到这里研究虚拟现实。2019 年底，卡马克辞去了 Oculus 的 CTO 职务，成为这家 VR 企业的咨询 CTO，并宣布他打算把精力放在研究 AGI 上面 。去年 12 月，他离开 Meta，全职专注于 Keen。

在罕见的工作休息时间里，我们有机会与这位技术偶像坐下来，进行了以下的独家采访。出于篇幅与清晰的需要，问答进行过编辑。

问：你现在正在做什么样的工作来“解决”通用人工智能问题？你为什么要用这一特定方法来解决这个问题？

我总是坐在电脑旁，思考并记录概念，提出理论，进行测试。现在我的工作就是这样，因为还没人能真正知道该怎么去到我们想去的地方。但出于多种原因，我认为我和其他人一样，都有机会做到这一点。

“有些人已经筹集了数十亿美元来追逐这一目标。虽然从某些方面来说这很有趣，而且有迹象表明，在狭义的机器学习领域，现在可能出现了极其强大的东西，但这些是不是就是通往通用人工智能的必由之路呢？还不好说。”

有些人已经筹集了数十亿美元来追逐这一目标。虽然从某些方面来说这很有趣，而且有迹象表明，在狭义的机器学习领域，现在可能出现了极其强大的东西，但这些是不是就是通往通用人工智能的必由之路呢？还不好说。对于乐意这么做的公司来说，这是个不错的选择，因为可能的路线很多，走下去也会找到有价值的东西，即便你不能一路走下去。仍然会有一些东西能改变世界，比如狭义人工智能。

但有一点会比较令人担心，如果你刚走出第一个匝道就说，‘嘿，这是一条价值十亿美元的赛道’然后就停下来了，但我们知道其实还可以走下去，把我们所了解的用来彻底改变各个行业。路上可能会出现一些诱人的东西，但它分散了每个人的注意力，导致他们无法放眼未来，无法专注于更远距离的事情。所以，我可以很坦白地告诉你，我现在正处在这么一个位置，短期内我所做的这些事情的商业机会为零。

问：一开始是什么促使你对这个主题产生兴趣的？

我们现在正处在一场科学革命之中，因为 10 年前，人们对人工智能的作用还没有感觉。我们经历过人工智能的“寒冬”——事实上，在过去几十年的时间里，曾经历过多次。这很有趣，因为 VR 行业也有类似经历：这几乎不是什么好话，因为虚拟现实（VR）在 1990 年代一败涂地，人们甚至连谈都不想谈。

人工智能也经历过几次这样的周期：先是炒作升温，资金流入，然后表现不佳，接着崩溃，沦落到没人愿意谈论的地步。但过去十年不一样，没有注意到这次是如何的不一样的人其实并没有专心去观察，他们没有意识到过去十年机器学习领域发生了很多绝对令人震惊的事情，这些事情确实意义深远。

正因为这个，所以我才会想：“好吧，可能是时候该认真考虑一下了。”这对我来说很有趣，因为我作为技术旁观者对机器学习和 AI 有一定的了解，我在十几岁的时候就读过该领域一些开创性的书，我知道有符号主义等各种类型的东西。所以，我脑子里对这些东西是有一点了解的，但我对正在发生的事情并没有太多关注，因为在忙着游戏、航空航天以及虚拟现实方面的工作。

到了一定时候你就会意识到，‘好吧，我想也许有些事情我得弄清楚了——比如哪些是炒作，哪些是现实？’所以我做了我一般会做的事：我一切的真正能力永远都是来自于对事物的根本理解，在最深层次上，只有从最底层了解事情是如何发生的，你才能获得洞察力。

所以，大概在四年前，我进行了一次为期一周的静修，随身只带了一台电脑以及一堆的参考资料，然后我用了一周的时间重新审视这个行业的基本原理。我的研究甚至到了这样的地步，“好吧，我已经很了解这一点了，可以跟研究人员就此进行严肃的对话了。”对于能达到那种理解程度，我感到非常兴奋。

“于是我找到 OpenAI 的首席科学家 Ilya Sutskever，让他给我列一份阅读清单。他给了我一份大概有 40 篇研究论文的清单，说，‘如果那些论文你确实学会了的话，对今天来说重点的东西 90% 你都学会了。’我做到了。我仔细研究了所有这些论文，我的头脑慢慢开始变得清晰起来。”

在那之后，虽然我从来没有参加过类似会议（因为我有当隐士的倾向），但当 OpenAI 的 Sam Altman 邀请我参加 Y Combinator 的 YC 120（创业训练营）时，我决定去参加。事实证明，Sam 此举是精心策划的，因为他让 Greg Brockman 和 OpenAI 的 Ilya Sutskever 过来游说我加盟 OpenAI 。对此我感到非常荣幸，因为我怎么说都算不上机器学习专家。我是很多这类东西的知名系统工程师，但对于 AI 我只具备基本的基线知识。而他们是这个领域的领导者，他们觉得拉我过去是值得的，这确实给我内心埋下了种子，让我思考正在发生的一切的重要性，思考我可以在其中扮演什么角色。

所以我问他们的首席科学家 Ilya 要了阅读清单。这是我的路子，我的做事方式：把我需要知道的一切列给我，让我能够在这个领域立足。他给了我一份大约有 40 篇研究论文的清单，并说，“如果那些论文你确实学会了的话，对今天来说重点的东西 90% 你都学会了。”我做到了。我仔细研究了所有这些论文，我的头脑慢慢开始变得清晰起来。

约翰·卡马克在他的VR室内。 [照片：Michael Samples]

问：你当时还在 Meta 做着 VR，对吧？

是的，我在 Meta 遇到了一些问题，与大规模战略方向有关。我相信你已经看过一些关于他们花了多少钱的头条新闻了，我觉得大部分的钱花得都很糟糕。我在那里遇到了一些挑战，我的五年买断合同即将到期（从收购 Oculus 开始）。那时候我决定，‘好吧，对于通用人工智能这项工作，我得更加认真了。’

我以前做过各种事情，游戏、火箭、虚拟现实，那时候我的目标是要做一些还没有、但我有清晰看法的东西。但是，AGI 不一样，因为没人知道该怎么做。这不是一个简单的工程问题。但是，鉴于过去十年发生的事情，所有这些诱人的线索都已经摆在那里——就像有了一些相对简单的想法了。它们不是什么极端的黑魔法或数学巫术——其中很多都是相对简单的技术，现在我已经理解那些东西了。感觉我们距离拥有相当于我们的肉身的东西只有 5、6 个想法之遥了。

三、四年前我曾做过估计，我觉得在 2030 年出现通用人工智能的明显生命迹象有一半对一半的可能性。这未必就意味着通用人工智能会对任何事物都产生巨大的经济影响，而是说会有一种在计算机上运行的存在，大多数人认为这个存在是智能的和有意识的，并且在我们人类正在做的事情上的表现与人类处在同一水平。经过三年对这一切进行了核心研究之后，我的预测并没有改变。事实上，我甚至可能把可能性稍微提高到 60%。如果把时间放到，比如说，2050 年，我觉得会有 95% 的可能性。

问：很多人都在预测，说这会导致出现惊人的、惊天动地的结果，对吧？

我尽量不想那么夸张，做什么宏伟宣言，因为我这个人比较注重细节。哪怕是火箭技术，我也不会去讨论殖民火星，而是讨论该用哪些螺栓把东西固定在一起。所以，我不想发表 TED 演讲，不停地讲各种可能通过看似具有成本效益的人工智能做到的事情。

但尤其是这场 Covid 大流行表明，完全用计算机交互流可以做到的事情比人们想象的要多，大家可以通过 Zoom、电子邮件、聊天、Discord 等计算机模式进行交流。

当今世界价值的很大一部分都可以以此为基础。如果你有一个行为像人类的人工智能代理，哪怕是以今天狭义人工智能的方式，一个由深度伪造、聊天机器人以及语音合成塑造的世界，很明显，也可以模拟出人类的形态。我们还没有做到让 AI 同事拥有可学习的意识流，但我们确实拥有这种神奇的知识量了。

你会发现，大家在讨论奇点，以及 AGI 将如何改变一切，讨论非常热烈。但如果我换个角度看呢，如果说 10 年后，我们将拥有具备通用人工智能的“通用远程员工”，它们会在云端运行，人们只需拨通电话，说“你给我 5 个 Franks，10 个 Amys，我们要部署到这些工作中”，基本上，你可以像云访问计算资源一样访问这些人工智能人力资源——而这也许是这类东西最平淡无奇的用法。

如果我们要做的只是创造更多的人力资本，然后应用到我们今天已经在做的事情上，比如说，‘我想制作一部电影或漫画书或类似的东西，给我一支团队去做那件事，’然后在云端运行这支团队——这就是我的愿景。

问：创造一个能执行人类可以完成的任务的系统，为什么这件事情如此重要？由人类来执行人类的任务有什么问题？

好吧，你可以把它跟很多问题联系起来，比如说，“人口是不是好东西？” “移民是不是好事，如果有愿意从事经济活动并受市场引导的新人类资源可以利用的话？”

与 5000 万人住在山洞之类的地方相比，拥有 80 亿人口的世界要好得多。因此，我相信，随着人工智能进入我们的工作社区，人类的价值与进步之和将大为加速。我认为，所有这些都会创造出巨大价值。

问：那，具体应该如何实现 AGI 呢？

从今天的虚拟助手（你的 Siri、Alexa 和 Google Assistant）到 AI 变得越来越有帮助，接管越来越多的任务，其实是有迹可寻的。但这些都相当脆弱，它们实现的是一些专门的事情——比如各种知识表示、语音合成、语音理解——这可能不是通往可灵活用于多种用途的通用智能之路。为了给这些助手增加功能，他们动用了成千上万（千真万确）的程序员，这种做法在短期内是有价值的。把这些东西拼凑到一起的编程工作是一次性的编程。但是这条路走下去没法走到通用代理可以学习人类可学习的任何任务的地步。

处理感知的事情——比如理解某人的声音，甚至以自然的方式合成声音——放在 10 或 15 年前计算机根本还做不好这些事情。1990 年代有个笑话，那就是一台电脑可以轻而易举地击败国际象棋世界冠军，但是却做不到 2 岁孩子能做的事情：连猫狗都分不清。当时在这个世界上，可以做这些简单琐碎的感知任务的计算机还没有出现。因为，事实证明，我们的大脑其实就是做这个的：它与感知和模式匹配的关系更大。当时人们认为这与用哲学性的符号去操纵有关，但这是一种诡辩。这导致人工智能误入了歧途，真的，几十年来一条路走到黑。

这一条条真正的死胡同证明这样的东西很脆弱，没有太大的商业价值。事物的运作方式不是这样的。但最近十年发生了革命：通过深度学习以及深度联结主义方法，我们其实可以做到 2 岁儿童在感知方面能做的一切了。而且在其中的很多方面，AI 已经属于超人的水平。AI 还没具备的是某种意识，联想记忆，那些有生命、目标和计划的东西。这些脆弱的人工智能系统可以实现其中的任何一个，但这仍然不是人类大脑甚至动物大脑的运作之道。我的意思是，人脑姑且不论；甚至连可以像老鼠或猫一样行动的东西都还没有。但感觉我们离这些东西都很近了。

我认为，有一点几乎可以肯定，那就是我们在过去十年从深度学习获得的工具，将来可以用于通用人工智能。至于其他一些领域，存在一些结构性的东西我们还不了解，比如强化学习、监督学习、无监督学习。所有这些都会以人类思考事物的方式汇集到一起，但我们还没有对所有这些进行最终的综合。

问：实现 AGI 是否存在关键因素或中心思想？

虽然有些人不喜欢，但我还是要讲——那就是源代码，也就是实现通用人工智能所必需的计算机编程工作，会有几万行代码。现在的情况是，一个大程序的代码就有有数百万行——Chrome 浏览器大约有 2000 到 3000 万行代码。

马斯克不久前提到过 Twitter 大概有 2000 万行 Scala 代码。这些都是大程序，靠个人不可能重写。就算你的余生专门干这件事情，几乎也无法写得完这么多的代码。但我相信，真正的 AGI 编程应该是一个人就可以写完的。

现在，那些精明的投资者仍然说这些代码得由一群研究人员完成，而且是用所有这些东西拼凑起来的。但我的推理是这样的：如果你把自己的整个 DNA 提取出来，它的信息量不到 1 GB。考虑到在整个人体中，负责指令部分的大脑只是它的一小部分——信息量大概就是 40 MB 左右，而且还不是严格编码的那种。因此，人类智力的存在证明了，其本质并不在于大量的编码，而是在于某些其他因素。

现在它已经演变成一个非常复杂的事物，从数字来看，人脑有大约 860 亿个神经元，这些神经元之间的连接可能高达 100 万亿。即便从计算机的角度来看，这也是一个很大的数字。当提到像 GPT-3 这样的大型模型时，其参数数量为 1600 亿，这些参数可以类比于大脑中的神经元之间的连接。

所以，你可能会说，在我们的计算机拥有与大脑一样强大的能力之前，我们还有 500 倍左右的差距要弥补。但我也认为，有充分的理由可以相信这是一个极其悲观的估计，实际估计应该小得多，因为我们的大脑做的很多事情其实不是那么重要。人的脑子真的很马虎，反应真的很慢，所以也许我们的大脑其实不需要那么多的参数。

但同样地，这是一个简单程序被大规模利用的问题，这正是当今 AI 的机制。如果观察一下大家讨论的东西，比如 GPT-3、Imagen、AlphaFold 等，就会发现这些框架的源代码并不多。也就是几千行的代码，甚至几万行都不到。这些模型的确是建立在庞大的支持生态体系之上，但其核心逻辑并不是一个庞大的程序。

所以，我坚信我们在十年之内就可以拥有足够普遍的硬件资源来做这件事情，而且编写的代码量将是适度的，并且也会有足够的人做这件事。虽然在我看来，人人都把 DeepMind 和 OpenAI 看作是领先的 AGI 研究实验室，但像我这样从事这个领域的人还是不够多。

问：你为什么要单干？

我要单干的原因是所有的主要玩家都陷入了一种非常令人惊讶的“群体思维”。比方说去年的情况就很怪异：OpenAI 发布了一个图像生成器，然后谷歌也发布了一个，然后 Facebook 又发布一个。为什么这些公司都能在短短几个月内复制其他人的工作？因为背后都是同一个学术研究人才池。他们有“异花授粉”机制，有一支超级聪明的庞大的智囊团来做这个。

“虽然有人给我的公司投了 2000 万美元，但我并没有承诺可能会在通用人工智能方面取得突破。相反，我只是说我有一个不可忽视的机会，而把这个机会变现所必需的一些重要东西，我会亲自弄清楚”。

但是，因为我们还不知道我们要去哪里，其实机器学习内部是有个策略，你需要有一定程度的随机性——一开始的时候权重和位置都是随机的，甚至有时候需要用多个模型（集成模型）来做。所以，我对自己的定位是这些随机测试点之一，而整个行业的主流方向则是朝着潜在的优秀解决方案的方向前进，这些方案的搜索和开发工作已经做得非常出色了。但是，由于并没有清晰的目标，不确定是否能够通过梯度下降等方法找到最优解，因此也需要有一些人去测试其他可能的解决方案。

而且，我的背景也不一样。我不具备学术研究背景——我是一名系统工程师。我对相关的感知、系统技术以及涌现行为有一定研究，而且我足够聪明，知道如何应用必要的东西。虽然有人给我的公司投了 2000 万美元，但我并没有承诺可能会在通用人工智能方面取得突破。相反，我只是说我有一个不可忽视的机会，而把这个机会变现所必需的一些重要东西，我会亲自弄清楚。

问：一旦弄清楚之后，你认为会产生什么样的影响？

通用人工智能的出现对经济的影响可以说是一个“改变世界级”的事件，它几乎可以重塑人类所能做的一切。这几乎是你能想到的最大的规模了。所以，对它的部分下注是值得的——比如给我的研究方向投入的 2000 万美元。研究也许会成功，也可能会失败。这一点我会直言不讳。如果说我会先于 OpenAI 和 DeepMind 以及中国的各家研究实验室想出 AGI 的解决方案，说“是的，我有信心我会第一个到达那里”的话，那就是狂妄，是难以置信的自大。

但是，对于我要处理的这些问题，我认为没人比我聪明太多。而且我认为在这场竞赛当中，我并没有落后多少。而且我走的是一条不一样的道路。就目前而言，我敢说 ‘是的，在接下来的这十年时间里我会投入到这件事上，它可能会取得巨大成功。’或者，结果可能是最后我找到了两个超级巧妙的东西，然后再跟其他人合作。也许到时候会有收购或其他事情发生。

但有一件事情我不想做，就是选择好第一个商业应用然后说，‘OK。我懂游戏，我懂图像生成，我可以去做游戏内容创作。事实上，我在 Oculus 的前合伙人 Brendan Iribe 就跟我说过，‘来跟我一起做吧。我们要筹一大笔钱，会很棒的。’是，那几乎可以保证一只独角兽的诞生了。毫无疑问，我们可以做出一家价值 10 亿美元的公司来。但是另外那个大黄铜环（Big brass ring），也就是通用人工智能，那可是数万亿美元。这两者完全不是一个数量级。

我很幸运能够站到今天这个位置，我取得了成功，已经有所成就，有了稳定的财务状况。所以我敢下这个赌注，敢冒这个风险，极大的风险。但因为我不担心破产，我敢这么说，“好吧，如果我觉得这件事成功的机率只有百分之几，但做成价值数万亿美元的话，那会是个不错的赌注。”我的意思是，对于大多数人来说，这是一种糟糕的思维方式，但对我来说，这并不是一件坏事。

问：那你究竟是怎么给 Keen “下注”的？

做研究，搞开发，我有一些不太主流的想法。我关注了主流正在做的大部分事情，因为它们确实很棒，很有用。现在我正在跟进去年的一些研究论文，我认为这些论文还有更好的应用方式，但是原作者还没有看到。

会有一些有价值的东西别人不一定知道。实际上，我认为 70、80 和 90 年代的某些工作其实是很有趣的，在当时很多事情没有做成，其实只是因为当时的规模不足。那时候他们想在 1 兆赫兹的计算机上做这些事情，那时候还没有 GPU 集群。

然后就是我提到的这种群体思维。情况非常清楚，如果你观察一下，就会发现那些杰出的研究人员基本上都有相似的背景，而且都朝着同一个方向游泳。所以，我认为过去一些老东西里面也许会有些有用的。所以现在我是在做实验，去测试，试着把不同的领域的东西结合在一起——那些我认为属于 AGI 算法的一部分的领域。

不过我主要的工作是看各种电视，玩各种视频游戏，去模拟。我认为，“我们就是这么去理解和内化这个世界的模型的，人在其中一些情况下就是这么独立做出行动的’的组合就是答案，但我还不知道怎么将它们结合在一起。但我认为是有答案的。我想，在“需要解决的问题的范围，以及如何将这些问题聚拢在一起”这方面，我已经掌握了要义。

我还是认为需要有五六个洞察想法出现，但我已经找到了若干貌似可信、也许最后被证明存在相关性的洞见。几十年前我就训练过自己一种做法，那就是把想法拿出来，用我对它们感到兴奋的方式去追逐，因为我知道大多数的想法最终都不会成功的。在我职业生涯的早期，我曾经有过一个非常聪明的想法没能付诸实现，我后来被压垮了。不过最终我还是练就了这样的境界，就是像玩游戏一样通过我的处理来挖掘想法并搞定他，‘我能用多快的速度验证和否定自己的想法，而不是像保护宠物一样保护着它？’

所以，我现在已经有几个候选的想法了，目前我正在对它们发起探索和攻击。但这些抽象想法和技术是很抽象的，得用类似于深度学习的做法去尝试。

所以，我推迟了扩大规模的做法，因为现在有很多公司言必称‘我们要融 1 个亿、2 个亿，因为我们需要一个装满 GPU 的仓库。’这是实现价值的途径之一，毕竟现在有一种规模制胜的倾向。但我的态度不太一样，我的想法是‘在浪费掉别人的 1 亿美元之前，我想把这五六件重要的事情给弄清楚。其实我现在还没花太多钱。我是融了 2000 万美元，但我认为这项任务的跨度会长达 10 年，我不想在接下来的两年内就烧掉这 2000 万美元，然后再去进行新一轮的融资，再弄几亿美元，因为我觉得这不是做事情的明智之举。

“我希望我可以用几年的时间来解决其中的一些问题，去做出一些我认为能朝着正确方向发展的小东西。然后，再进行一定程度的扩展，把一整个信息生命周期的东西给弄进去，去体验一下，看看它能不能产生一些希望的火花。”

我希望我可以用几年的时间来解决其中的一些问题，去做出一些我认为能朝着正确方向发展的小东西。然后，再进行一定程度的扩展，把一整个信息生命周期的东西给弄进去，去体验一下，看看它能不能产生一些希望的火花。因为再强调一次，我对最后问题会如何得到解决没有任何预期。

我反复强调这一点：一旦 AI 到了相当于蹒跚学步的孩子的地步——即 AI 到达了算成为了某种存在，是有意识的，虽然它不是爱因斯坦，甚至连乘法都不会的地步——但如果一个生物是可以学习的话，那你就可以在一定程度上与之互动，并教给它一些东西。到了那时候，你就可以部署一支庞大的队伍，让工程师、发展心理学家以及科学家去做研究了。

因为那样的东西我们还没能做出来，我们没有能力模拟像那样的东西。大脑运用的一些招数、技巧和策略是我们所有的现有模型都做不到的。但在我看来，达到这一点并非遥不可及。

问：那你能看出怎么到达那个遥不可及的地方吗？

我能看到目的地。我知道它就在那里，只是从这里到那里的道路上阴云密布。没人知道如何到达那里。但我看着那条路我会说我不知道那里会有什么，但我想我可以到达那里——或者至少我认为有人能到。我认为很可能 2030 年代就能做到。

我确实认为，这基本上是必然的。不过我一直以来都很擅长让可能是必然会发生的事情提前到来。比方说我做过的 3D 视频游戏，这东西我认为早晚是要来的，但我让它提前面世了。

译者：boxi。