世界第二次大战讲解，世界第二次大战百科

大型人工智能战争始于八年前，而不是一年前。

作者：凯德·梅斯、凯伦·韦斯、尼科·格兰特、迈克·艾萨克

原标题：自我、恐惧、金钱：人工智能的导火索是如何点燃的

链接：https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.htmlunlocked_article_code=1.DE0.pUkn.sv7oZCK-dy7bhpgrp=c-abarsmid=url-share

编辑：金宇

编者按：1919年6月《凡尔赛条约》的签署似乎证明残酷的第一次世界大战正式结束，持久的和平即将到来。只有法国元帅费迪南德·福煦预测这将导致长达20年的休战而不是和平。元帅的话应验了，1939年德国入侵波兰，第二次世界大战正式开始。当我们将这场战争的历史应用到当今激烈的人工智能战争中时，我们发现两场战争之间有着惊人的相似之处。 OpenAI掀起的AI+大模型浪潮似乎从去年就开始了，但“战争”的种子其实是八年前发生在马斯克和谷歌创始人拉里·佩奇之间的“AI之争”。播种于在八年的时间里，马斯克、Peter Thiel、Sam Altman、Larry Page、Demis Hassabis、盖茨、Satya Nadella 以及当今最热门的人工智能公司OpenAI、Anthropic、微软和DeepMind 之间的联系变得密不可分，最终形成了合作伙伴关系2023年左右第一次人工智能战争的诞生，以及2023年一场将重塑人工智能战争本质的重大战争。它是由恐惧、自我和金钱驱动的。

2015 年7 月，埃隆·马斯克(Elon Musk) 庆祝了自己的44 岁生日，他的妻子在加州一个布满小木屋的葡萄酒乡村度假村举办了一场为期三天的派对。只有家人、朋友和孩子在纳帕谷的高档住宅中奔跑。

那是几年前，当时Twitter 还很X，特斯拉也正在赚钱。马斯克和他的妻子塔露拉·莱利（Talulah Riley）——在HBO 科幻剧集《西部世界》 中扮演一个美丽但危险的机器人——距离结束第二次婚姻还有一年的时间。派对嘉宾拉里·佩奇(Larry Page) 拉里·佩奇(Larry Page) 仍然是Google 的首席执行官。几年前，人工智能才引起公众的注意，当时它被用来识别YouTube 上的猫，准确率达到16%。

第一晚晚餐后，当马斯克和佩奇围坐在泳池边的火坑周围时，人工智能成为了一个重要的话题。这两位亿万富翁已经是十多年的朋友了，马斯克开玩笑说，他有时会在玩了一晚上的电子游戏后倒在佩奇的沙发上。

但那个阳光明媚的夜晚很快就变得充满争议，因为两人争论人工智能最终会增强还是毁灭人类。

寒冷的时间里，讨论变得更加激烈，30 多名参加聚会的人中，有一些人弯下腰来听。佩奇十多年来一直患有声音异常，他低声讲述着他对数字乌托邦的愿景。他表示，人类最终将与配备人工智能的机器融合。有一天，多种智能将争夺资源，最优秀的将获胜。

马斯克说，如果发生这种情况，我们就有麻烦了。机器会毁灭人类。

佩奇先生用一种恼怒的声音坚持追求他的乌托邦。终于，

他称马斯克为“物种主义者”，他更喜欢人类而不是未来的数字生命形式。

马斯克后来说，这种侮辱是“最后一根稻草”。

到了晚上结束时，人群中的许多人似乎感到震惊或好笑，认为这只是硅谷聚会上经常发生的神秘讨论之一。

但八年后，这两种论点似乎都有先见之明。硅谷创始人、聊天机器人用户、学者、立法者和监管机构正在争论人工智能是否会增强、破坏或至少造成严重危害，是否应该限制这项技术。这进一步加剧了关于人工智能的争论。是否应该释放他们。

该小组将邀请一些世界上最富有的人参加，包括马斯克、佩奇、Meta 的马克·扎克伯格、科技投资者彼得·蒂尔、微软的萨蒂亚·纳德拉和OpenAI 的萨姆·奥尔特曼。每个人都在争夺一份份额，以及塑造一个有一天可能价值数万亿美元的企业的权力。

这场竞争的核心是一个令人费解的矛盾。

那些声称最关心人工智能的人是那些最有决心创造人工智能并从中获取财富的人。他们相信自己是唯一能够阻止人工智能危害地球的人，从而证明了自己的雄心。

那年夏天的聚会结束后不久，马斯克和佩奇就不再说话了。几周后，马斯克、当时经营一家科技孵化器的奥特曼和几位研究人员在加州门洛帕克瑰丽酒店的一间私人房间里共进晚餐，那是我住的风险投资办公室附近的一个热门交易区。它。山间小路。

那次晚宴促成了当年晚些时候一家名为OpenAI 的初创公司的成立。在马斯克先生和其他捐助者的数亿美元支持下，该研究所致力于保护世界免受佩奇先生愿景的影响。

OpenAI 凭借其ChatGPT 聊天机器人从根本上改变了科技行业，向世界介绍了人工智能的风险和机遇。据两位熟悉该公司最新一轮融资的人士透露，OpenAI 的估值超过800 亿美元，但马斯克和奥特曼之间的合作并未取得成功。两人再也没有说过话。

“存在分歧，存在不信任，存在自我，”奥特曼说。 ”

人们越是朝着同一个方向前进，他们的分歧就会越激烈。这可以在教派和宗教团体中看到。最亲近的人之间可能会发生暴力争吵。 ”

上个月，内讧蔓延到了OpenAI 的董事会。叛军董事试图驱逐奥特曼，认为他们不能再相信他能够创造人工智能造福人类。在混乱的五天里，OpenAI 似乎正在崩溃，直到其董事会迫于大笔投资者和威胁要追随奥特曼先生的员工的压力而退出。

OpenAI 内部的戏剧让世界第一次看到那些将决定人工智能未来的人之间的激烈战斗

但在OpenAI 濒临崩溃的几年前，硅谷正在进行一场鲜为人知的争夺技术控制权的战争，这场技术现在正在迅速重塑世界，从我们如何教育我们的孩子到我们如何发动战争，一场激烈的战斗正在进行。地方。 《纽约时报》采访了80 多名高管、科学家和企业家，其中包括两名参加过马斯克2015 年生日派对的人，讲述了这个关于野心、恐惧和金钱的故事。

01 DeepMind 的诞生纳帕谷派对的五年前，猫在YouTube 上爆发的两年前，34 岁的神经科学家Demis Hassabis 走进Peter Thiel 位于旧金山的联排别墅，意识到他意识到自己赚到了钱。蒂尔的客厅配有棋盘，俯瞰着城市的艺术宫和天鹅池。哈萨比斯博士曾是14 岁以下组世界排名第二的球员。

“我为这次会议准备了一年，”哈萨比斯博士说。 “我认为这对我来说是一个独特的吸引力。我知道他喜欢国际象棋。”

2010年，哈萨比斯博士和英国的两名同事正在寻找资金，开始构建一种“通用人工智能”（AGI），它可以做大脑能做的任何事情。当时，很少有人对人工智能感兴趣。尽管经过半个世纪的研究，人工智能领域尚未取得与人类大脑相媲美的成果。

尽管如此，一些科学家和思想家仍然对人工智能的缺点感到担忧。许多人，比如这三位来自英国的年轻人，都与互联网哲学家、自学成才的人工智能研究员埃利泽·尤德科斯基(Eliezer Yudkowsky) 有联系。尤德科夫斯基老师是一群自称为理性主义者或后来的有效利他主义者的人的领导者。

他们相信人工智能可以找到治疗癌症或解决气候变化的方法，但他们担心人工智能机器人可能会做他们的创造者从未想象过的事情。

理性主义者认为，如果机器变得比人类更聪明，它们就会背叛它们的创造者。

蒂尔先生通过对Facebook 的早期投资以及在PayPal 早期与马斯克先生的合作而变得极其富有。他对奇点产生了兴趣，奇点是一个科幻隐喻，描述了智能技术不再受人类控制的时刻。

在蒂尔的资助下，尤德科斯基扩大了他的人工智能实验室，并主办了关于奇点的年度会议。几年前，哈萨比斯博士的一位同事会见了尤德科斯基先生，赢得了在会议上发言的机会，并保证获得参加泰尔先生聚会的邀请。

Yudkowsky 先生向Thiel 先生介绍了Hassabis 博士。许多参加哈萨比斯博士聚会的人试图向组织者勒索钱财。他的策略是安排另一次会议。他告诉蒂尔先生，主教和骑士之间关系很紧张。虽然两件棋子的价值相同，但最优秀的玩家都知道，他们的能力有很大不同。

高效的。第二天，蒂尔女士很着迷，邀请大家到厨房聚集。主人刚刚结束早上的训练，还穿着闪亮的球衣，满头大汗。管家递给他一杯健怡可乐。三人各自提交了自己的提案，很快蒂尔和他的风险投资公司同意向他们的初创公司投资140 万英镑（约合225 万美元）。他是他们的第一位主要投资者。

他们是一家以“深度学习”（人工智能系统通过分析大量数据来学习技能的方法）命名的公司，以及科幻小说《银河系漫游指南》 超级计算机中的角色“Deep Thought”。到2010 年秋天，他们已经建造出了自己的梦想机器。他们坚信自己具有独特的优势来保护世界，因为他们了解其中的风险。

“我不认为这是一个矛盾的立场，”DeepMind 三位创始人之一穆斯塔法·苏莱曼(Mustafa Suleiman) 说。 ”

这些技术有可能带来显着的效益。我们的目标不是消除它们或阻止它们的发展。我们的目标是减少不利因素。 ”

在获得蒂尔先生的青睐后，哈萨比斯博士努力进入马斯克先生的轨道。大约两年后，两人在Teal Investment Fund 主办的一次会议上见面，该基金也向马斯克的公司SpaceX 投资了资金。哈萨比斯博士带领参观了SpaceX 总部。随后，两人在天花板上挂着火箭的自助餐厅共进午餐并交谈。

马斯克解释说，他的计划是殖民火星，以逃避地球上的人口过剩和其他危险。

哈萨比斯博士回答说，除非超级智能机器追踪并消灭火星上的人类，否则该计划将会成功。

蒙面老师无言以对。他没有想到这种特殊的危险。马斯克很快与泰尔一起投资了DeepMind，以更接近创造这项技术。

DeepMind 资金雄厚，聘请了专门研究神经网络和根据人脑图像创建的复杂算法的研究人员。神经网络本质上是巨大的数学系统，需要花费几天、几周甚至几个月的时间来识别大量数字数据中的模式。这些系统首次开发于20 世纪50 年代，可以学习如何自行处理任务。例如，我们分析了数百个信封上潦草的姓名和地址，并能够读取笔迹。

DeepMind 进一步深化了这一概念。我们构建了一个系统，可让您学习如何玩《太空入侵者》、《Pong》 和《Breakout》 等经典Atari 游戏，向您展示无限可能。

这引起了另一家硅谷巨头谷歌的注意，尤其是拉里·佩奇的注意。他看到了Deep Mind 机器玩Atari 游戏的演示。他想进去。

02 人才拍卖2012年秋天，多伦多大学64岁的Geoffrey Hinton教授和两名研究生发表了一篇研究论文，向世界展示了人工智能的力量。他们训练神经网络来识别花、狗和汽车等常见物体。

科学家们对Hinton 博士和他的学生开发的技术的准确性感到惊讶。据三位知情人士透露，这家中国互联网巨头向Hinton 和他的学生提供了1200 万美元的入职条件。

辛顿博士拒绝了，但这笔钱引起了他的注意。

这位在剑桥接受过教育的英国外籍人士除了偶尔在微软和谷歌工作外，大部分职业生涯都在学术界度过，他并不是特别受金钱驱动。但他有一个神经分裂的孩子，而金钱意味着经济安全。

“我们不知道自己值多少钱，”辛顿博士说。他就此次收购咨询了律师和专家，并提出了以下方案： ”

举办拍卖并自己出售。此次拍卖将在太浩湖哈拉斯酒店和赌场举行的年度人工智能会议期间举行。

大型科技公司也在关注。谷歌、微软、百度和其他公司已经开始相信，神经网络是通向机器的道路，机器不仅可以看，还可以听、写、说，并最终思考。

佩奇在他公司的人工智能实验室谷歌大脑中看到了类似的技术，并认为辛顿的工作可以改善科学家的工作。他交给了谷歌工程高级副总裁艾伦·尤斯塔斯（Alan Eustace），这相当于一张空白支票，用于聘请必要的人工智能专家。

拍卖前一天晚上，尤斯塔斯和大脑研究所所长杰夫·迪恩飞往太浩湖，带辛顿和学生们在酒店的牛排馆共进晚餐。迪恩博士回忆说，陈旧香烟的气味太浓了。他们声称自己想在谷歌工作。

第二天，辛顿博士在他的酒店房间里进行了一场拍卖。由于臀部旧伤，他几乎无法坐下。他将一个垃圾桶倒放在桌子上，将笔记本电脑放在上面，看着接下来两天的竞标过程。

谷歌已经提出了报价。微软也是如此。随着价格上涨，DeepMind 迅速退出。根据拍卖详情，

这家行业巨头将出价提高到2000 万美元，然后提高到2500 万美元。当价格超过3000 万美元时，微软退出，但以3700 万美元重新加入竞标。

“感觉就像我在看电影，”辛顿博士说。

随后微软第二次退出。这促使百度和谷歌分别将出价提高到4200万美元和4300万美元。终于，

Hinton 博士和他的学生取消了价值4400 万美元的拍卖。出价仍在上涨，但他们想为谷歌工作。而且钱是惊人的。

这是一个明显的迹象，表明财力雄厚的公司决心收购最有才华的人工智能研究人员，——DeepMind 的Hassabis 博士注意到了这一点。他告诉员工，DeepMind 将仍然是一家独立公司。他相信这是确保他的技术不会变得危险的最佳方法。

但随着大型科技公司加入人才竞争，他认为自己别无选择，是时候出售了。

据三位知情人士透露，谷歌和Facebook 正在考虑在2012 年底之前收购伦敦研究实验室。哈萨比斯博士和他的联合创始人坚持提出两个条件：

DeepMind 技术不得用于军事目的。此外，其通用人工智能技术必须由技术专家和伦理学家组成的独立委员会监督。

谷歌出价6.5亿美元。 Facebook 的马克·扎克伯格向DeepMind 的创始人提供了高额薪水，但他没有同意这些条款。 DeepMind 被卖给了谷歌。

扎克伯格决心建立自己的人工智能实验室。他聘请了法国计算机科学家Yann LeCun 来执行该项目，该科学家也进行了开创性的人工智能研究。 Hinton 博士拍卖一年后，扎克伯格博士和LeCun 博士飞往太浩湖参加同一场人工智能会议。扎克伯格亲自采访了顶尖研究人员，他们很快就穿着袜子在哈拉斯赌场的套房里走来走去，赚取了数百万美元的薪水和股票。

人工智能曾经被嘲笑。现在，硅谷最富有的人正在花费数十亿美元以避免被抛在后面。

03 失去道德委员会当马斯克投资DeepMind 时，他打破了不投资不属于自己的公司的非官方规则——。当他在生日后与佩奇发生口角一个多月后再次见到他的前朋友兼亿万富翁同事时，他的决定中的缺陷已经很明显了。

本次会议于2015年8月14日召开。

DeepMind 道德委员会第一次会议。该委员会是在初创公司创始人的坚持下成立的，目的是确保他们的技术在出售后不会造成任何伤害。三名知情人士称，成员们聚集在SpaceX 马斯克办公室外的一间会议室，从窗户可以俯瞰马斯克的火箭工厂。

但马斯克先生的控制到此为止。当谷歌收购DeepMind 时，它收购了整个公司。面具先生出去了。在经济上他取得了胜利，但他并不满足。

目前严格控制DeepMind 的三位谷歌高管也出席了会议。佩奇、谢尔盖·布林和埃里克·施密特，谷歌联合创始人、特斯拉投资者、谷歌前董事长。其他与会者包括PayPal 的另一位创始人里德·霍夫曼(Reid Hoffman) 和研究存在风险的澳大利亚哲学家托比·奥德(Toby Ord)。

DeepMind 的创始人报告说，在进行研究时，他们认识到该技术存在重大风险。

DeepMind 联合创始人Suleiman 发表了题为“The Pitchforker is Coming”的演讲。他告诉董事会，人工智能可能会导致虚假信息的传播。他担心，随着技术在未来几年消除无数工作岗位，公众将指责谷歌窃取了他们的生计。他认为谷歌需要与数百万不再找到工作的人分享其财富，并提供“全民基本收入”。

马斯克老师同意了。但很明显，谷歌的客人还没有准备好开始重新分配财富。施密特老师表示，他认为这种担心完全没有必要。佩奇先生用他特有的低声表示同意。他相信人工智能创造的就业机会将多于它消除的就业机会。

八个月后，DeepMind 取得了震惊人工智能界和世界的突破。一台名为AlphaGo 的DeepMind 机器在古老的围棋游戏中击败了世界上最好的棋手之一。这场比赛在互联网上进行了现场直播，全球有2亿人观看了这场比赛。大多数研究人员认为，人工智能还需要十年的时间才能足够聪明地做到这一点。

理性主义者、有效的利他主义者和其他关注人工智能风险的人认为，计算机的胜利证实了他们的担忧。

“这是人工智能发展速度超出许多专家预期的又一个迹象，”即将加入DeepMind 担任人工智能安全研究员的维多利亚·克拉科夫纳(Viktoria Krakovna) 在一篇提到的博客文章中写道。

DeepMind 的创始人越来越担心谷歌将如何处理他们的发明。该计划原定于2023 年脱离。谷歌的回应是增加DeepMind 创始人及其员工的工资和股票报酬。他们留在那里。

道德委员会从未召开过第二次会议。

04 解散深信佩奇对人工智能的乐观看法完全错误，并对DeepMind 的失去感到愤怒，马斯克建立了自己的研究所。

OpenAI 成立于2015 年底，距离Sam Altman 在硅谷瑰丽酒店会面仅几个月。马斯克向实验室投入了大量资金，PayPal 前好友霍夫曼和泰尔也加入了。三人承诺为该项目投入10 亿美元，当时30 岁的奥特曼将帮助运营该项目。为了让他们开始，他们把Ilya Sutskever 从Google 挖了出来。 （

Sutskever 博士是Google 在Hinton 博士的拍卖会上“购买”的研究生之一。 ）

马斯克最初希望将OpenAI 作为一个非营利组织来运营，独立于谷歌和其他公司的经济激励。但当谷歌以其AlphaGo 绝技震惊科技界时，马斯克已经改变了关于如何运营公司的想法。他迫切希望OpenAI 能够发明一些东西，激发全世界的想象力，缩小与谷歌的差距，但作为一个非营利组织，它无法完成这项工作。

2023年底，他制定了下一个计划。

从奥特曼和其他创始人手中夺取了该研究所的控制权，与特斯拉合作，依靠该汽车公司正在开发的超级计算机将其转变为商业运营。就此事而言。

当奥特曼等人还击时，马斯克表示他将辞职并专注于特斯拉的人工智能研究。据三名参加会议的人士透露，2023 年2 月，他在一家由卡车工厂改建的初创公司办公室顶层向OpenAI 员工宣布退休。当马斯克表示OpenAI 需要加快步伐时，会议上的一位研究人员反驳说他太鲁莽了。

马斯克称该研究人员为“混蛋”，并拿走了一大笔钱。

OpenAI 突然需要新的资金。奥特曼飞往太阳谷参加会议，并会见了微软首席执行官萨蒂亚·纳德拉(Satya Nadella)。合作似乎很自然。奥特曼认识微软首席技术官凯文·斯科特。微软从OpenAI 董事会成员霍夫曼手中收购了LinkedIn。纳德拉先生告诉斯科特先生去完成它。该交易预计将于2023 年完成。

Altman 老师和OpenAI 在他们以前的非营利组织下组建了一家营利性公司，筹集了10 亿美元的新资本，微软开发了新方法，将人工智能融入到其庞大的云计算服务中。

并非OpenAI 内部的每个人都感到高兴。

Dario Amodei 是有效利他主义社区的一名研究员，OpenAI 诞生时他就在Rosewood。阿莫代博士一边说话，一边用手指不停地捻着卷发，他正在领导他的实验室致力于构建一种称为大规模语言模型的神经网络，该网络可以从大量数字文本中学习。通过分析无数的维基百科文章、数字图书和留言板来生成您自己的文本。我还有一个不幸的习惯，就是编造事情。它将被称为GPT-3，预计将于2023 年夏季发布。

OpenAI 和谷歌等研究人员认为，这种快速发展的技术可能成为通向AGI 的道路。

然而，Amodei 博士对与微软的交易并不满意，因为他认为OpenAI 正在将其带向真正的商业方向。

据五位知情人士透露，他和其他研究人员游说董事会解雇奥特曼。失败后他们离开了。与DeepMind 的创始人一样，他们担心新的企业霸主会将商业利益置于安全之上。

2023 年，一个由约15 名工程师和科学家组成的团队成立了一个名为Anthropic 的新实验室。该计划是以一个有能力的利他主义者所认为的方式构建AI ——，并处于非常严格的控制之下。

Anthropic 发言人Sally Aldous 表示：“Anthropic 的联合创始人并没有试图将Sam Altman 从OpenAI 中剔除。” “联合创始人自己得出的结论是，他们希望离开OpenAI 并创办自己的公司，并将这一点传达给OpenAI 高管，并在几周内就双方商定的条款进行了退出谈判。”

Anthropic 获得了亚马逊40 亿美元的投资，两年后又获得了谷歌20 亿美元的投资。

05 显然，在OpenAI 从微软获得另外20 亿美元之后，Altman 和另一位高管Greg Brockman 参观了比尔·盖茨位于西雅图郊外华盛顿湖的豪宅。尽管这位微软创始人不再参与公司的日常运营，但他仍然与公司高管保持定期联系。

晚餐时，盖茨告诉他们，他怀疑大规模语言模型是否有效。他表示，在该技术完成需要批判性思维的任务（例如通过AP 生物学测试）之前，他将保持怀疑态度。

五个月后，即2023 年8 月24 日，Altman 和Brockman 带着一位名叫Chelsea Voss 的OpenAI 研究员回来了。沃斯在高中时曾在国际生物奥林匹克竞赛中获得奖牌。纳德拉和其他微软高管也出席了会议。

在盖茨客厅外的巨型数字显示屏上，OpenAI 团队展示了一项名为GPT-4 的技术。

布罗克曼女士对系统进行了高级多项选择生物学测试，沃斯女士对答案进行了评分。第一个问题涉及极性分子，即一端带正电荷、另一端带负电荷的原子团。系统正确响应并解释了其选择。 “它只是经过训练来提供答案，”布罗克曼说。 “对话的本质几乎神奇地消失了。换句话说，对话正在做一些它不打算做的事情。”

有60 个问题。 GPT-4 只有一个错误答案。

盖茨先生从椅子上站起来，睁大了眼睛。

1980 年，当研究人员向他展示成为现代个人计算机基础的图形用户界面时，他也有类似的反应。他认为GPT是革命性的。

到了10 月份，微软将该技术添加到了Bing 搜索引擎等在线服务中。两个月后，OpenAI 发布了ChatGPT 聊天机器人，目前每周有1 亿人使用。

OpenAI 击败了Anthropic 的高效利他主义者。佩奇在谷歌的乐观派急忙发布了他们的聊天机器人Bard，人们普遍认为该机器人输给了OpenAI。 ChatGPT 发布三个月后，谷歌股价下跌11%。马斯克先生不见踪影。

但这只是开始。