ChatGPT就诞生硅谷，它的背后是OpenAI，一家致力于实现通用人工智能（General-purpose AI, or AGI）的初创公司。OpenAI的主要成员和发起人，与同样诞生在硅谷的Paypal, Y Combinator, Google, Stanford, UC Berkeley盘根错节。
在这一篇章，我们从超百篇一手资料——新闻、音视频、论文、官网、图书等——梳理全球最具影响力的AGI公司：DeepMind, OpenAI 和 Anthropic. 深入剖析它们背后的关键人物，看他们从哪里来，如何影响硅谷，然后影响世界。这些用“正确的方式”逐步创造价值的公司，放在当下中国浮躁的追随气氛下，或许能给我们一些启示。
目录：
共同的愿景——AGI
权力的游戏
天 才 德米斯·哈萨比斯
无畏者 伊利亚·苏茨科维尔
创造者 山姆·阿尔特曼
异见者 达里奥·阿莫迪
反叛者 Neo
钢铁侠 埃隆·马斯克
AGI如何改变资本主义
DeepMind
DeepMind于2010年在伦敦成立，是最早以AGI为目标的公司，2014年被Google收购。DeepMind这样介绍自己的使命[1]：
我们的长期目标是解决智能问题，发展更加通用和能力更强的问题解决系统，也被称为人工通用智能（AGI）。我们解决智能问题是为了推进科学并造福人类。这一使命的核心是我们的承诺，作为AI领域负责任的先驱者，为服务社会的需求和期望而努力。
人们熟知的围棋AI AlphaGo，蛋白质结构预测AI AlphaFold，全部出自DeepMind。
OpenAI
OpenAI的使命[2]是确保通用人工智能 (Artificial General Intelligence, AGI)，即一种高度自主且在大多数具有经济价值的工作上超越人类的系统，将为全人类带来福祉。我们不仅希望直接建造出安全的、符合共同利益的通用人工智能，而且愿意帮助其它研究机构共同建造出这样的通用人工智能以达成我们的使命。
OpenAI在2022年年底发布ChatGPT，不同于十年前的第一次深度学习革命，ChatGPT直接影响到每一个人，引发人类历史上对AI最广泛的关注。关于OpenAI的解构和展望，参见中国如何组建OpenAI战队（上）。
Anthropic
2020年12月，OpenAI研究VP，达里奥(Dario Amodei)带领一批员工离开，其中包括负责人力、安全和政策的VP——达里奥的妹妹Deniela Amodei，以及GPT–3论文的第一、第二作者。新公司Anthropic于2021年1月在硅谷成立，定位也是一家公共利益公司，达里奥兄妹分任CEO和总裁。Anthropic这样介绍自己[3]：
Anthropic 是一家专注于人工智能安全和研究的公司，致力于构建可靠、可解释和可操纵的人工智能系统。当今的大型通用系统可以带来显著的好处，但同时也可能是不可预测、不可靠和不透明的：我们的目标是在这些问题上取得进展。目前，我们的主要重点是研究实现这些目标的方法；未来，我们预见到我们的工作将有很多商业和公共利益创造价值的机会。
2023年1月，全球的目光转向ChatGPT，惊讶之余，人们想起那个曾经开发出AlphaGo打败人类的机构DeepMind。“虽然我们致力于让机器变得智能，但我们希望将人性置于我们工作的中心，”DeepMind CEO、Co-founder Demis Hassabis (哈萨比斯) 告诉时代周刊。
童年
出生于1976年，现年46岁的哈萨比斯一直痴迷于智慧：它是什么、它释放的可能性以及如何获得更多智慧。4岁成为国际象棋神童(Child Prodigy)，12 岁成为世界上同龄人中排名第二的国际象棋棋手，16岁提前一年从高中毕业。17岁开发出销售1500万套的游戏。“我想了解那些大问题，那些真正大的问题，如果你感兴趣的话，通常会进入哲学或物理学领域，”他说。“但我认为最快的途径，是构建人工智能。”
哈萨比斯是希腊和华裔混血儿，父母用他下棋赢得的奖金给他买了第一台计算机，让他自学编程。高中毕业后，他申请了剑桥大学，剑桥担心他年龄太小，要求他Gap一年。哈萨比斯沉迷于游戏，更沉迷于创造游戏，于是他加入了一家视频游戏工作室Bullfrog，帮助游戏设计师Peter Molyneux打造了这家工作室迄今为止最热门的游戏 Theme Park，一款模拟游戏，让玩家以上帝视角观察不断扩大的游乐场业务。这款游戏由EA于1994年发布，卖出了1500万套。这一年，哈萨比斯17岁。
我的大学
带着Theme Park给他挣来的钱，哈萨比斯在剑桥大学拿到了计算机科学学位。1997年，他毕业后，马上加入了老友Peter创立不久的一家新的游戏工作室。一年后，哈萨比斯决定创立自己的工作室，开发了极具野心的游戏 Republic: The Revolution. 直到2005年，他决定卖掉IP，关闭工作室，因为他意识到如果要做出更强的AI，他需要了解人类的大脑，于是他回到伦敦女王学院攻读神经科学博士学位。
从国际象棋，到电子游戏，再到神经科学，哈萨比斯对人类智慧的探索，逐渐深入。在攻读PhD期间，哈萨比斯在Science、Nature、Neuron等期刊上发表了颇具影响力的研究成果，其中最有影响力的是他在2007年发表于PNAS（美国国家科学院院刊）的一篇论文，论文的发现是：患有海马失忆症的患者，不仅在回忆过去的经历方面存在缺陷，也无法想象新的经历。这个工作被Science杂志列为当年的十大突破之一。
当然，这只是哈萨比斯的研究成果第一次被Science选为十大突破，另外三次是2016年的AlphaGo，2020年的AlphaFold v1, 2022年的AlphaFold v2. 此后他还进一步研究了大脑的回忆和想象机制，随着对认知神经科学的研究深入，哈萨比斯对人脑的学习方式形成了自己的理解，未来他将会在Atari游戏中检验自己的想法，这个想法背后的关键技术就是强化学习。
在人间
2009年，哈萨比斯拿到博士学位，接着去盖茨比计算神经科学研究组从事博士后研究，期间他结识了博士后同事Shane Legg. 2010年，他与Legg、以及弟弟的儿时挚友Mustafa Suleyman——叙利亚裔出租车司机和英国护士的儿子——联合创建了DeepMind. 公司使命是解决智能谜题，然后使用智能解决所有其他问题。多么伟大的梦想啊。具体地，哈萨比斯设想了一条AGI之路——联合神经科学、机器学习和计算，实现越来越通用、强大的学习算法，逐渐实现通用人工智能。
哈萨比斯的这套理论，最合适的检验手段是游戏。他选择了Atari，算法仅使用游戏画面作为输入，利用强化学习，达到人类水平。这个实验，在2013年12月，终于work了。哈萨比斯的团队将算法论文发表在2015年的Nature上，这篇论文引用已经超过2万次，是哈萨比斯影响力最大的论文，题目是《深度强化学习实现人类水平的控制能力》。
2013年，DeepMind三岁，Google高管Alan Eustace一行人乘坐私人飞机来到伦敦，看到DeepMind展示的游戏AI，以及背后的强化学习算法原理后，惊叹不已。双方交换使命愿景，不谋而合。Eustace说，Google的使命是索引所有人类知识，使之易于访问，并最终提高世界的智力水平。这其实写在Google的网站简介里：Our mission is to organize the world’s information and make it universally accessible and useful（我们的使命是整合全球信息，使人人皆可访问并从中受益）。请大家记住Alan Eustace这个名字，这位计算机科学家、硅谷崛起的见证者、自由落体跳跃最高纪录的保持者，他在这场AI的游戏里，还会再次出现。
次年1月，Google决定以5亿美金收购DeepMind，这时候DeepMind有50名员工。同时，Facebook给出了更高的报价。哈萨比斯选择了Google。前提是，Google认可DeepMind的愿景和道德红线，并给了DeepMind足够的自由度。虽然后来DeepMind的一部分精力（由Co-founder Suleyman负责）是将算法落地到Google的各类产品，如YouTube推荐算法等，但这完全取决于DeepMind，而不用为增加Google的广告营收负责。在DeepMind看来，如果只是为产品研究解决方案，就会限制想象力的极限，从而无法实现长期更大的突破。
AlphaGo 一战成名
哈萨比斯决定，以最能体现人类智力的游戏，中国古老的围棋，来证明DeepMind的路线。国际象棋早已被计算机的蛮力搜索所征服，但围棋要复杂得多，围棋规则简单但状态空间很大，无法靠现有计算机在有限的时间内，通过蛮力搜索到最优解。彼时，最好的人工智能算法仍然无法与顶级人类玩家相提并论。
两年后，2016年3月，哈萨比斯的团队带着AlphaGo来到韩国，与世界顶尖高手李世石对弈。AlphaGo 以四比一击败了李世石。败北的李用黑色记号笔在棋盘背面潦草地签下了自己的签名。哈萨比斯代表 AlphaGo 签名，DeepMind 将棋盘留作战利品。李世石、哈萨比斯、Google创始人布林，留下了那张人类历史上具有划时代意义的合影，那是人类历史上黑暗的一天，也是人类历史上光明的一天。
一举成名天下知，以数据驱动的深度学习为基础的软件2.0，实现了对以人工编程为基础的软件1.0的降维打击。 研究员对程序员的影响，也从这一天开启纪元，如果一个程序员在这一天还没有拥抱机器学习，他将在2022年被OpenAI的Codex再次打击。
哈萨比斯把AlphaGo的算法发表在2016年的Nature上，如今引用已经超过15000次，题目是《用深度神经网络和树搜索掌握围棋游戏》。
事情并不会一帆风顺，2015 年，DeepMind最早的两位投资者，风险投资家彼得·泰尔和企业家埃隆·马斯克，通过资助竞争对手 OpenAI 象征性地背弃了 DeepMind。OpenAI 也相信 AGI ，但对于如何实现这一目标有着截然不同的理念。
AlphaFold 再续神话
AlphaGo大胜的同年，DeepMind开启AI蛋白质结构预测研究，四年后发布AlphaFold，将蛋白质结构预测从数月到数年缩短到数分钟，为蛋白质组学带来革命，精度接近实验室水准，解决了困扰科学界50年的难题。
与基因组学相比，蛋白质的结构要复杂很多，一种氨基酸序列对应一种蛋白质结构，但是氨基酸序列在细胞内经过折叠和结合形成三维结构的机制非常复杂。在AlphaFold项目之前，人类通过实验方法测得的蛋白质结构只有10万种，而截至2022年7月，DeepMind公开的蛋白质结构超2亿个，已经覆盖人类已知的所有蛋白质，大大加速了蛋白质组学研究，因此获得了2022年Science评选的十大技术突破之首。
在可以预见的未来，包括癌症新药在内的无数生物医药项目将受益于AlphaFold. 人类攻克癌症的速度正在加快。哈萨比斯把算法发表在2021年的Nature上，如今引用已经超过8000次，题目是《用AlphaFold实现高度准确的蛋白质结构预测》。
截至2023年2月，已经有超过一百万研究员使用了AlphaFold的成果，用于农作物可持续性、药物发现和人类生物学等领域。
Gato 远大前程
与此同时，哈萨比斯的团队也在开展生成式AI研究。2016年，DeepMind发布WaveNet，用于语音合成，将合成语音与人类的水平差距缩小了一半。但哈萨比斯并没有在大语言模型方向，投入核心力量，在2022年之前，几乎没有这方面的代表性工作。这跟哈萨比斯的战略路线有关，偏好智力，而非蛮力。
一个典型的证据是，2022年5月，DeepMind发布了一种通用AI代理Gato，能够同时使用图像、对话、电子游戏、机械臂等来训练AI. Gato可以用于玩游戏、对话、描述图像、输出关节力矩、操作按钮等。值得注意的是，哈萨比斯的团队知道Gato通过Scale up，可以获得更强大的AI，但他并没有这么做，而是先在方法上往通用人工智能迈了一步，然后发表出来。
2022年9月，DeepMind发布对话式AI——Sparrow. Sparrow 使用了大语言模型，并加入了强化学习人类反馈（与ChatGPT背后技术类似）。Sparrow不仅能够对话、回答问题，还能够使用Google搜索来查询资料提供引用，这甚至超出了ChatGPT的能力范畴。
我们有理由猜测，正是Sparrow的能力让OpenAI感受到了威胁，决定提前一步发布ChatGPT.
时间来到2023年1月，哈萨比斯罕见地接受了专访，对时代周刊表达了他对人工智能的担忧。他考虑在2023年的某个时候发布Sparrow的测试版，但会保持谨慎，比如让Sparrow引用信息来源。他也在思考改变，“有人在搭便车，只消费知识，但不做贡献，这也包括某些国家。” 他还预测，人工智能行业公开发表成果的文化，可能很快就要结束。
为了确保人工智能的安全，哈萨比斯建立了内部道德委员会，确保公司的行为不会越过红线，这也包括DeepMind与母公司Alphabet的潜在冲突。
据时代周刊，哈萨比斯目前最喜欢的游戏是一款名为Polytopia的策略游戏，目标是通过逐步的技术进步将一个小村庄发展成为一个称霸世界的帝国。马斯克也是这个游戏的粉丝。在哈萨比斯看来，科学和技术的进步，就是推动文明发展的动力。
天才哈萨比斯，一个智慧的人，一个好奇的人，一个爱着人类的人。
4400万美元的空壳公司
2012年12月的一天，一场秘密的拍卖会，在美国内华达州塔霍湖旁边的Harrah酒店的731房间进行，这里地处西西里山脉（Sierra Nevada)东麓脚下，从房间可以遥望塔霍国家森林和西西里山脉的雪山。
图：塔霍湖Harrah酒店, Google Map
拍卖人是英裔加拿大人、计算机科学家Geoffrey Hinton和他的两个博士生Alex Krizhevsky和Ilya Sutskever（伊利亚）。拍卖对象是一家刚刚成立的空壳公司DNNResearch（深度神经网络研究），只有他们三个人，没有任何产品，也没有任何计划，只有一篇论文刚刚发表在正在酒店会议中心里举办的神经信息处理大会，这篇论文被称为AlexNet，刚刚赢得一场大规模图像识别竞赛的冠军。
四家竞价人分别是：来自北京的余凯博士，代表百度；来自雷德蒙德的邓力博士，代表微软；乘坐私人飞机从硅谷飞来的Alan Eustace博士和Jeff Dean博士，代表Google；此外，还有来自DeepMind的哈萨比斯博士。拍卖通过Gmail进行，竞价人互不知情。作为最早的行动者，在拍卖开始之前，百度已经给出1200万美金的报价。DeepMind只有股份，没有现金，很快退出。竞价达到2000万美金的时候，微软退出，但很快又回来。竞价达到2200万美金的时候，微软再次退出，仅剩百度和Google. 百度决心不减，余凯博士在现场探风，北京的高管远程加入竞价，几轮下来报价来到了4400万美金，Hinton决定休息。第二天早上，Hinton终止拍卖。
在塔霍湖拍卖之后，DeepMind的创始人迪米斯·哈萨比斯（Demis Hassabis）将自己的观点深深烙印在了世界上。在某些方面，它们回响着Hinton的声音。在其他方面，它们甚至更深入地展望了未来。很快，哈萨比斯也将卷入同样的竞赛。
在塔霍湖，代表Google的Alan Eustace又赢了，就像一年后，他在伦敦赢得了哈萨比斯的DeepMind一样。科学家对Google价值观的信任，再一次发挥了关键作用。Hinton可能也未意识到，这场拍卖后，因为他的博士生伊利亚的坚持而发起的小项目，已经拉开了新一轮全球科技竞赛的序幕。而Hinton自己，将继续尝试颠覆自己的理论。
这场竞赛持续了整整十年，这十年里，iOS和Android取代Windows的地位，iPhone推动集成电路制造工艺从A6的32nm升级到A16的4nm，世界已经完全不同。十年后十二月的第一天，伊利亚还将发布另一个小项目，开启更加腥风血雨的AI科技竞赛第二篇章。
贵人 Hinton和一段插曲
时间回到1985年，伊利亚出生在前苏联的下诺夫哥罗德。他大部分时间在以色列耶路撒冷长大，5岁时他随工程师父亲参加一个博览会，第一次见到电脑，他被完全迷住了。2002年，16岁的伊利亚随家人移民加拿大，这时候他已经学会了编程，并开始思考如何让计算机像人一样做事。伊利亚来到加拿大的第一件事，是跑到多伦多公共图书馆，去找关于机器学习的书。这一年，伊利亚进入多伦多大学攻读数学专业。2003年，才入学没多久，他敲响了著名机器学习科学家、出生于1947年的伦敦的英裔加拿大人 Geoffrey Hinton 办公室的门。伊利亚凭借敏锐的洞察力，赢得了Hinton的赞许，他加入了Hinton的实验室。
此后，伊利亚跟随Hinton捣鼓神经网络，从本科生到硕士生、博士生，十年如一日。2010年，伊利亚获得Google奖学金，这是加拿大唯一的获奖者。奖学金包括学杂费、25000 美元的年度津贴、5000 美元的个人电脑、Google奖学金论坛的邀请、一部新的 Android 手机（有趣的是，此前伊利亚并不使用智能手机）和一位Google研究导师。这时候，伊利亚已经做出了能够自动生成文本的循环神经网络（RNN），它的工作原理，与8年后伊利亚在OpenAI参与研发的GPT已经有很高的相似性，这个工作发表在2011年ICML机器学习国际会议上。在后来的很多年，这种通过研究生成式模型，来研究智能的方法学，也深刻地影响了伊利亚，以至于判别式模型AlexNet看起来只是他科研生涯里的一段插曲。
2012年的一天，伊利亚来到老师Hinton的办公室，说：我们已经把深度学习在语音识别上做work了，应该抢先把它用在ImageNet图像分类上。但伊利亚找不到人帮他，有经验的人都在忙。于是，伊利亚说服了师弟Alex Krizhevsky，一位乌克兰裔加拿大人，来帮他，但伊利亚会帮他做好ImageNet的数据预处理（对研究人员来讲，这是一项有点boring的编程工作，通常被称为dirty work）。
Alex也是个编程高手，他能够熟练使用NVIDA的GPU库cuda进行编程（那个时候，这通常是从事计算机图形学的博士生才擅长的事情），而且Alex是CIFAR10和CIFAR100图像分类数据集的创造者之一，他熟悉图像。他们师徒三人设计了一套算法，在二十多年前的卷积神经网络LeNet（by Yann Lecun)的基础上，利用Alex家里电脑上的游戏GPU、大规模图像数据、和一些微小的算法改动（比如Hinton提出的Dropout），做出了AlexNet。春夏播种，秋天收获，9月30日，基于AlexNet的算法在ImageNet比赛中，取得了冠军，并且是历史性的突破。
两个月后，就有了前面4400万美金的拍卖故事。
在学生的坚持下，Hinton分得拍卖金额的40%，伊利亚和艾利克斯各分得30%. 这时候伊利亚已经毕业，他辞去了刚入职两个月的Stanford吴恩达研究组的博士后职位，加入了Google Brain.
AlexNet这个有点动机不纯的研究项目终于结束了，伊利亚可以回到他的生成式模型了。在Google，伊利亚做出了神经网络驱动的语言翻译，这是一种Sequence to Sequence的生成式模型，为Google翻译的重大升级奠定了基础。在这之后，机器翻译的可用性大幅提升。我相信之后的很多中文博士学位论文，可能普遍使用了Google翻译。在Google期间，伊利亚他还参与了AlphaGo的工作。
被偏爱的人有恃无恐
眼看DeepMind在AlphaGo上取得重大突破，伊利亚心中对于通用人工智能AGI的念想，越来越强。2015年7月，YC的Sam Altman和Stripe 的 Greg Brockman找到他，邀请他参加一场精心策划的晚宴。Google知道后，给伊利亚提供了近200万美元的offer，但是伊利亚无法拒绝与一群志同道合的人共事。他对AGI的信仰和抱负，似乎只有跟这群人在一起才能得到施展。对于已经得到千万美金回报、举世瞩目研究成果的伊利亚，为了理想中的AGI而工作，才能给他带来持续的多巴胺。
两个动机让伊利亚认真审视OpenAI的提案。第一个是信念：机器学习的方法进入了一个成熟期，大的突破需要科学和工程的紧密融合，仅靠小规模的科学实验，是很难取得成果的。第二个是担忧：随着AI越来越强大，他开始认可那些对AGI可能带来的负面作用的担忧，而解决这个担忧需要更加开放、负责的机构。
2015年12月，伊利亚作为联合创始人加入OpenAI，任研究总监。
2016年6月，伊利亚参与起草了OpenAI的四大技术目标，并带领研究团队，把Generative Models（生成式模型）确定为主要研究方向。这也是伊利亚的信念，生成和理解之间有着强烈的关联，如果能够很好地（不可能完美）生成某种数据，你就能够更好地理解这种数据。这种信念受到Richard Feyman的哲学启发，费曼说：“我所不能创造的东西，我就不能理解。”
“What I cannot create, I do not understand.”
—— Richard Feynman.
2018年–2020年，伊利亚相继做出GPT–1，GPT–2，GPT–3. 2021年 DALL-E. 2022年做出ChatGPT.
伊利亚在OpenAI研发出的GPT模型与Yoshua Bengio 2003年发表在机器学习研究杂志JMLR上的论文是一样的自回归模型，只是模型单元从MLP升级到了2017年才被发明的Transformer.
回想伊利亚2012年的AlexNet，它建立在Yann Lecun 1989年的模型之上，只是用了更大的算力和微小的算法改动。
伊利亚从他的两位师兄Bengio和Lecun那里，挖到了未充分研究的宝藏，借助摩尔定律的力量，跨越十年，掀起了两次深度学习滔天巨浪。
无畏者，伊利亚，一个被偏爱的人。
两个改变世界的同龄人
在ChatGPT风靡全球后，伊利亚在 twitter 上写道：
许多人认为伟大的人工智能进步必须包含一个新的“想法”。但事实并非如此，许多人工智能的伟大进步采用了这种形式：“咦，原来这个熟悉的不重要的想法，当它被正确地实现时，是非常惊人的。”
我发现，优秀的研究人员，和优秀的创业者，他们的相似之处比我们想象的更多。回顾历史上熟悉的问题和方法，放在当下的环境中，重新审视有哪些变量，以前不可行而现在可行了？沿着这个思路，我们可以发明伟大的产品，也可以做出伟大的研究。
特斯拉电动汽车是这样被发明的。AlexNet和GPT，也是这样被发明的。
这也让我想起ResNet的发明，它是2019年、2020年、2021年所有科学领域中被引用最多的一篇论文，由何恺明、张翔宇、任少卿、孙剑等人在微软亚洲研究院完成。从他的很多论文可以看出，恺明的研究方法学，是make complex things simple. 去掉bells and whistles, 发掘那个最简单、最重要、最有效的理论。
“Make everything as simple as possible, but not simpler. ”
—— Albert Einstein.
何恺明的方法学是make complex things simple，伊利亚的方法学是make simple things great. 两个分别出生于1984年的中国和1985年的苏联的同龄人，他们的方法学联合起来，一次又一次改变了世界。
伊利亚生在苏联，长在以色列，求学移民加拿大，工作在美国。移民是一个了不起的决定，放下熟悉的一切，从头开始，这何尝不是创业精神？
无畏者伊利亚，一个勇敢的人，一个被偏爱的人，一个爱着人类的人。
更早之前，生于犹太家庭的Sam Altman，第一个成功退出的创业项目是Loopt，一款基于位置的社交应用。为创建Loopt，19岁的Sam从Stanford退学。Loopt在2012年被以4300万美金的价格收购。
十一年后，Sam把这第一次创业定位成失败，而且是——糟透了，当时他不知道只有自己会在乎和反思自己的失败。具备创业者和投资人双重身份的Sam认为，投资人占去了太多成功的功劳，但对失败承担的责任却远远不够，这让创始人感到难以解释的抓狂。
Sam花过最大精力的创业项目是Loopt、YC和OpenAI. 截至2023年，Sam总共投资过几千家公司，个人投资过约400家。
Sam如此热衷创造，以致于有一天夜里在Twitter上写道，“想要创造经久不衰的东西的愿望是如此强烈，我好奇为什么。”
“The desire to create something that lasts a long time is so strong. I wonder why.”
—— Sam Altman
Sam对很多事情有深入思考，并且写下来，这一点很像忘年交Paul Graham。Sam会为工作效率，做出一些在常人看来夸张的事情，比如使用安眠药。也会像Sheldon一样为世界末日做准备，比如买地、买飞机。他思考资本主义的未来，思考人与机器的融合，思考AGI会带来的社会变革。
在形成自己的认知，并写下来以后，他会认真执行，比如创造世界币，投资硬科技，甚至真金白银参与政治。他重构了YC，也投资OpenAI，投资核聚变，甚至下一代的Foundry. 他把宝压在AGI上，为此放下YC. 毕竟YC的杠杆是人，而OpenAI的杠杆是AGI. 在他看来，AGI会无限放大自己的影响力——一种典型的硅谷意识形态。
给每个成年人提供基本收入，向大资本征税，让全民持有美国股份，这是Sam的乌托邦。
不过让人稍微安心一点的是，Sam是深受互联网影响的人，他习惯用迭代的方法论不断调整。在ChatGPT饱受争议的时候，他说：“迭代部署”是我认为唯一安全的路径，也是让人们、社会和机构有时间更新和内化新事物的唯一途径。
OpenAI专门发布了公告，送别达里奥，公告中说，达里奥希望专注在研究，而不是产品。Sam也表达了未来愿意建立合作。
时间回到2016 年 5 月，Sam 和 CTO Greg Brockman 接待了时任谷歌研究员的达里奥。达里奥告诉他们，没人明白OpenAI在做什么。尽管如此，达里奥还是在几个月后加入了 OpenAI 团队，作为AI安全团队的负责人。
2019年9月开始，达里奥作为研究VP与伊利亚共同负责OpenAI的研究项目。在2020年GPT影响力扩大后，马斯克曾公开声讨OpenAI不够开放，对AI的安全性表达担忧，也表示并不信任达里奥在AI安全方面的工作。
意大利裔美国人达里奥，2006年完成在Caltech和Stanford的物理专业学习，2011年从普林斯顿获得生物物理学方向的博士学位，2014在Stanford药学院完成了博士后研究，进入百度美国研究院，与吴恩达合作语音识别，一年后进入Google Brain从事AI安全研究，直至2016年，走上了AGI研究之路。
Anthropic成立之后，更多的OpenAI员工加入了达里奥的团队。Google前CEO Eric也参与了投资。2023年，在ChatGPT名声大噪后，Anthropic宣布拿到Google 3亿美元投资。
AI by the people, for the people.
——Stability AI
这是写在Stability AI官网上最显著位置的标语。它是人们熟知的AI图片生成开源模型Stable Diffusion背后的公司，2020年由出生于约旦的英国人Emad Mostaque出资建立。在Stable Diffusion广为人知之前，这家公司已经在AI领域推出了多个开源项目，包括数据、算法和模型的复现和开源，重点是对标OpenAI闭源的GPT、CLIP系列模型和数据。
开源领域，影响力最大的是GPT-NeoX系列模型。没错，就是那个《黑客帝国》里的救世主AI Neo，最终率领人类反抗机器。
Stability AI已经启动了多个实体组织，有的项目是内部研发，也有很多研究是公开进行，任何志愿者都可以参与。他们相信，开源人工智能是推动AGI技术突破、安全性和颠覆性应用的最终途径。Stability AI通过商业化产品和咨询服务获得收入。
ChatGPT推出以来，Stability AI旗下的组织，很快召集了全球AI社区的志愿者，开启了开源复现。虽然组织模式略显松散，但通过了解Stability AI，我加深了一个信念：人类社会，需要多样化。
我曾在一些相互毫无关系的调研中，普遍发现欧洲人对于隐私、去中心化、开源和个体的关注。全球科技产品似乎留下了太深的美国烙印，但实际上，几乎每一个硅谷互联网服务，在欧洲都有开源版本。一些看似小众的APP，在中国半死不活，但在欧洲却有一小撮人在认真地做，产品精致、收入稳定，对我这种习惯了中美互联网产品的人，简直是一股清流。
反叛者Neo，诞生在欧洲。
“The Matrix is a system, Neo. That system is our enemy. But when you’re inside, you look around, what do you see?”
—— Morpheus, The Matrix
他最早提出把自动驾驶作为汽车必要功能。他最早投资DeepMind，以便监管DeepMind的AI进展。他也是OpenAI的发起人之一，并资助OpenAI以便对抗Google收购DeepMind。他把能源公司Tesla转型为能源和AI公司。在OpenAI变得封闭之后，他屡次发声对抗。如今，他已经不在OpenAI董事会，也不持有任何股份。在Bing未能控制好ChatGPT的安全性问题时，他呼吁暂时关闭。
他制造AI推理芯片FSD，又打造AI训练设施Dojo. 在AI芯片方面，他正面挑战Nvidia. 他打造FSD车队，扩展到整个北美数十万辆。他开启人形机器人研发，亲自下场实现他当初在OpenAI的愿景。
他收购Twitter，这个全球信息的第一发源地，并计划打造成互联网超级平台。在我看来，Twitter就是马斯克AI版图中的Digital-world AI，用于补充Tesla的Real-world AI. 马斯克想要打造的互联网系统，也可以变成AI系统，毕竟钢铁侠上任的第一件事，是提高Twitter的信息质量，并把人们在Twitter上投入的有所收获的时间，作为优化目标。然后，在ChatGPT推出后的第三天，马斯克关闭OpenAI的数据库访问权限。不久，又关闭第三方Twitter客户端权限，甚至计划关闭免费的API访问。我们拭目以待，看马斯克将如何重建Twitter.
好在，马斯克反复表达了对人类的爱，和对人类文明的珍惜。
“I think we should take great care with this tiny candle of consciousness in a vast darkness and make sure that it does not go out.”
—— Elon Musk
至此，我们就能理解他为何如此担心AGI，并做出这么多行动。
在AGI的研究中，伦理是重要的组成部分，确保AI在早期阶段，就符合人类的利益。在OpenAI，纲领会被反复学习，认真遵守，管理层级越高的人，越需要深入理解。Anthropic提出宪法AI，则致力于为AI制定法律，并确保其遵守法律。而更远的未来，在AI能够创造足够大的价值的时候，Sam推崇国家股权和全民基本收入。
那么，一个显而易见的问题是：当AI完成大部分生产之时，基础商品的成本大幅下降，依靠基本收入，人们可以选择不再为资本工作，那么剩余价值的概念是否会消失？
我们今天暂不回答这个问题。但我们都应该仔细思考。
by 红博士，2023年2月18日。