如果这一切听起来有点像一场政治竞选，那可能不是巧合。2017年，奥特曼偶然萌生了竞选加州州长的想法。同年，他发表了一份名为《The United Slate》的政治宣言，强调“通过技术实现繁荣”、“经济公平”和“个人自由”。奥特曼认为，在政府缺乏远见和效率的地方，比如在发展住房、全民基本收入或基础设施方面，科技可以帮助填补这些空白。
在2021年《纽约时报》的采访中，奥特曼称自己是Slate Star Codex的粉丝。Slate Star Codex是“理性主义者”社区的博客和在线中心，他们认为在评估决策时不应考虑公正性或情感因素。在采访中，奥特曼赞同这样一种观点，即“互联网暴徒”对种族主义和性别歧视语言的管控使企业家更难创新。
划重点
1.在过去几年里，奥特曼已经成为人工智能领域的领跑者。奥特曼的影响力和权力在不断扩大，他如今是七家公司的董事会成员，被《时代》杂志评为100位最具影响力人物之一。
2.奥特曼与马斯克共同创办了OpenAI，寻求“以最有可能造福全人类的方式推进数字智能”的发展。但两人如今似乎已经渐行渐远，甚至在人工智能的未来发展方向上走向对立。
3.除了人工智能，奥特曼还将自己的个人财富投入到开发无限清洁能源和延缓衰老的疗法中。他在九年中进行了400多笔投资，特别钟情于支持那些“人们怀疑完全无法构建的技术”。奥特曼迄今为止最昂贵的科技投资是可控核聚变能源，斥资3.75亿美元试图尽快将该技术推向市场。
4.许多人开始以警惕的眼光审视奥特曼及其项目，他们谴责OpenAI拒绝与研究界分享其训练数据。有些离职的员工怀疑将其技术推向市场以赚取利润是否合乎道德，因为这可能会导致严重的潜在技术滥用。
5.奥特曼也担心合成病毒或核战会导致世界末日，为此他储存了枪支、黄金、电池、水以及防毒面具等生存物资。他还怀疑所谓的奇点，认为人类与机器融合可以帮助人类避免权力斗争。
6.当被询问试着准确地描述普通美国人的生活将如何因他正在开发的技术而改变时，奥特曼只给出了几个概括性的说法。他承认未来充满了不确定性，能够自行变得更聪明的机器“可能是对人类持续生存的最大威胁”。
腾讯科技讯 人工智能研究公司OpenAI正因其语言模型和聊天机器人爆火而受到关注，作为该公司的联合创始人兼首席执行官，萨姆·奥特曼也开始被视为人工智能领域的领跑者。奥特曼或许已经赢得了硅谷的支持，但现在他面临着一项更艰巨的任务，那就是向全世界推销他的科技梦想。
在这个过程中，许多人开始用警惕的眼光审视他，担心其畅想的未来愿景会变成末日噩梦。奥特曼曾与硅谷天使投资人彼得·蒂尔下过棋，与特斯拉首席执行官埃隆·马斯克吵过架，据说还曾阻止过一场飞机失事空难。在他的世界里，现实似乎比小说显得更显得光怪陆离。
在美国旧金山北面的山上，有一栋被爬满藤蔓的混凝土墙与街道隔开的房子，它的内部有健身中心和个带有007风格的车库。很多时候，科技大咖们都喜欢聚集在这里，畅想未来。这里就是OpenAI首席执行官萨姆·奥特曼的家，现在很多人将这里视为新技术、新公司的培养皿。
最近，20多名加密货币爱好者涌入奥特曼的大客厅，后者正在介绍其身份验证初创公司Worldcoin的最新进展。这家公司希望通过用西瓜大小的银色球体扫描眼球，为世界上的每个人都创建专有注册表。按照奥特曼的设想，数十亿人最终将使用这些独特的数字身份来领取全民基本收入。
在一张桌子上，一台Worldcoin的镀铬设备被拆开展示，它的机械内脏暴漏在所有人的目光之下。投资者和奥特曼的朋友们凝视着另一个球体的长焦镜头。只需轻轻点击，他们的身份就被录入系统中。
两年前，当Worldcoin问世时，批评人士将其视为反乌托邦式的噩梦。美国泄密者爱德华·斯诺登在推特上写道：“人体不是打孔机。”那天晚上，当Worldcoin向投资者和朋友介绍该公司即将发布的产品时，奥特曼承认未来充满了不确定性。但他肯定地说：“在某些时候，你确实需要开始与现实接触。”
然而，对奥特曼来说的现实，在其他人眼中却可能是噩梦。在过去的几年里，奥特曼已经成为开发人工智能技术的领跑者。2015年，奥特曼和埃隆·马斯克联合创办了非营利性研究机构OpenAI，其使命是“以最有可能造福全人类的方式推进数字智能的发展，而不受产生经济回报需求的限制”。但为了将人类从人工智能手中拯救出来，他们首先必须建造人工智能。
奥特曼曾是初创企业孵化器Y Combinator的总裁，他似乎是个特别值得信赖的守护者。他将自己的个人财富投入到致力于开发无限清洁能源和旨在延缓衰老最严重影响疗法的公司中。今年3月，当硅谷银行倒闭让许多初创公司担心无法支付工资时，奥特曼向许多急需资金的公司提供了无息贷款。
从奥特曼那里筹集资金的初创公司Rewind AI首席执行官丹·西罗克说：“在这个充满了残酷、交易和唯利是图的人的世界里，奥特曼是真正的传教士之一。”如果说马斯克是硅谷的领军人物，那么奥特曼就是硅谷的理想主义者。
01 “这是奥特曼的世界，我们都生活在其中”
在过去的几年里，奥特曼的影响力和权力不断扩大。他是七家公司的董事会成员，其中包括一家迷幻药初创公司和两家核能实验室。OpenAI聊天机器人ChatGPT的成功引发了媒体热议，奥特曼也被《时代》杂志评为100位最具影响力人物之一。
然而，有些人已经开始用警惕的眼光审视这位科技梦想家。2019年，OpenAI转型成为“有上限利润限制”的营利性实体，该公司认为它需要吸引更多资本来推进其使命。OpenAI开始向其他企业出售语言模型，马斯克现在称此举背叛了公司的创始原则。马斯克已经于2018年辞职，并宣布将创办自己的竞争公司。
人们谴责OpenAI拒绝与研究界分享其训练数据，认为外部审计将确保其模型按预期工作，不会出现偏见。其他人，包括许多已经离职的员工，怀疑将其技术推向市场以赚取利润是否合乎道德，因为这可能会导致严重的潜在技术滥用。就连奥特曼本人也承认，发生灾难的可能性很大。他在接受采访时称：“我认为，如果一点都不感到害怕，那是疯狂的，我同情那些知道畏惧的人。”
尽管全世界都在疯狂地争论OpenAI是会引领下一次工业革命，还是会带来世界末日时，奥特曼似乎依然保持着冷静。他说：“我认为我们可以拥有一个更加美好的世界，但有几件事需要去做。我喜欢这种有所作为的感觉。”
有些批评者认为奥特曼的镇定、自信是狂妄自大的表现。在最近接受采访时，科技专栏作家卡拉·斯威舍将奥特曼比作伊卡洛斯(Icarus，希腊神话中的蜡翼人，因飞得离太阳过近导致羽翼融化跌落而死)，奥特曼承认自己确实“在搞些我们不完全理解的东西”。然而，他坚决认为恐惧不应该阻碍人类的进步。
知名科技开发者里克·伯顿说：“这是奥特曼的世界，我们都生活在其中。”然而，这引发了一个问题：这是我们想要的世界吗？
奥特曼在硅谷的人气很旺。他和亿万富翁彼得·蒂尔下过棋，主持过投资家基思·拉博伊斯在圣巴茨举行的婚礼，与支付平台Stripe联合创始人约翰·科里森交换过飞行经验，还和著名个人风险投资家拉奇·格罗姆约会过，当时后者正与奥特曼探讨高达九位数的投资交易。
2017年，当热门电子邮件应用程序Superhuman的创始人兼首席执行官拉胡尔·沃赫拉得知，谷歌计划关闭可能会导致其应用程序瘫痪的服务时，立即陷入惊慌失措中，并给他的投资者发送电子邮件询问可以做些什么。奥特曼回复说，他碰巧和谷歌首席执行官桑达尔·皮查伊参加了相同的派对，并承诺“会做些什么”。第二天，谷歌的一名高管出面解决了这个问题，并为此道歉。
奥特曼的客厅已经成为新技术和新公司的培养皿，这并不令人感到惊讶。WorldCoin联合创始人马克斯·诺文斯特恩表示，奥特曼始终在主持这类活动，“试图将聪明人聚集起来”。每到周末，奥特曼都会带着一群朋友和同事飞往纳帕和图勒姆，或者在他旧金山的家中吃披萨晚餐，谈论的话题从癌症研究到核战等无所不包。奥特曼说，即使OpenAI也是从这类活动中诞生的。
奥特曼精心建立和维护的关系网似乎最终为他提供了丰厚回报。根据PitchBook的数据显示，奥特曼在过去九年进行了400多笔投资，并经常与自己推荐的创始人交流。奥特曼说：“在竞技场上为每个细节付出汗水的人，和一个每周接几个电话并尽其所能提供帮助的人，工作性质完全不同。”
02 对登月项目情有独钟，但绝不会随便下注
长期以来，奥特曼始终对“登月”项目（即目标远大却不容易实现）情有独钟。2016年，他呼吁创始人挑战那些“人们怀疑完全无法构建的技术”。他支持的公司范围很广，种类繁多，从建造世界上最快的商用客机到开发大脑植入物等无所不包。
不过，奥特曼迄今为止最昂贵的科技投资是可控核聚变能源。几十年来，研究人员始终在研究这门科学，他向核聚变公司Helion投入了3.75亿美元，试图尽快将该技术推向市场。Helion联合创始人兼首席执行官大卫·科特利说：“奥特曼的首要问题是，‘我们怎样才能做得更快?’”
2019年，杰森·乔杜里医生寻求创建新公司，希望在康复中心使用迷幻药来帮助治疗成瘾。他知道，很少有投资者愿意支持这样的项目，他几乎放弃了这个想法。然后，他和奥特曼谈了谈。
乔杜里说：“奥特曼鼓励我创办公司，但我们涉及研究的是一级毒品，而且我是有色人种移民。”奥特曼承诺为乔杜里创业提供资金支持，后者最终成立了Journey Colab公司，今年晚些时候其技术将进入临床试验阶段。
Worldcoin本身将三个大胆的壮举结合在一起：分配基本收入、普及数字货币以及在数据库中记录数十亿次眼球扫描。2019年，当时25岁的加州理工学院物理研究员亚历克斯·布拉尼亚在奥特曼的家中向他提出了这个想法。
布拉尼亚回忆称，这个计划还只是个粗略的草图，但这对奥特曼来说似乎并不重要。他说：“奥特曼让一切看起来都那么容易，你可以向他谈论不太可能实现的事情，然后问他这样做如何？他的回答很简单：我们就这么做吧！为什么不呢?” 布拉尼亚随后辍学加入Worldcoin，成为联合创始人，并于2021年接任首席执行官。
WorldCoin另一位联合创始人诺文斯特恩认为，奥特曼支持的项目有几个关键特征：“它们要么具有深刻的道德意义，要么可被列入人类大规模实现的最重要事情。这很奇怪，听起来有点科幻，几乎像是恶作剧。第三，它们非常简单，你甚至可以把它写在幸运饼干上。但到最后，如果它们能成功，将产生上万亿美元的回报。”
即使缩减雄心，奥特曼也希望创造一个和谐的生态系统。当一个实体出现问题时，他可以引入另一个实体来帮助解决问题。当意识到自动化将使数百万人失去工作时，奥特曼在Y Combinator成立了非营利部门，研究全民基本收入制度。当他看到这些资金分配过程中可能遇到诈骗时，他又发明了可以识别人身份的球体设备。
智能机器显然需要大量的计算能力和电力支持。因此，奥特曼资助了一家寻求提供几乎无限清洁、廉价能源的公司。为了应对超级智能将超越人类能力的威胁，奥特曼选择支持人类增强型创业公司，这些公司承诺帮助普通人增强能力。在怀疑论者看来，这似乎是在把人类的未来押在一个相互依存的脆弱系统上。
但奥特曼坚持认为，这个网络与其说是一个宏伟的计划，不如说是一个巧合。他解释称：“我的意思是，我不想劝阻你，因为这听起来很有说服力，但本着准确的精神，我必须试着劝阻你。作为一名投资者，我的哲学一直是，我认为这些东西对世界很重要，我个人也很感兴趣。这就是我想要投资的东西。”
不过了解奥特曼的人都说，他不会随便押注。风险投资家维诺德·科斯拉将奥特曼比作一个学习模型，该模型需要大量数据来做出决策。支持Worldcoin的风险投资家玛莎·布赫也说：“幻想是一回事，知道会发生什么事则是另一回事。”
03 OpenAI成为皇冠上的明珠，最终目标是打造AGI
早在十几岁的时候，奥特曼就梦想着将来能进入谷歌工作，所以他像谷歌的创始人那样去读斯坦福大学。一天晚上，他的同学、打造火狐网络浏览器的神童布莱克·罗斯敲开了奥特曼宿舍的门，想看看他的计算机科学作业做得怎样了。软件程序给了奥特曼一个错误信息，让他感到困惑。罗斯回忆道：“30分钟后，当我再去他的房间，发现那里成了犯罪现场，他肢解了编译器。最终，奥特曼在任务中发现了一个漏洞。”
奥特曼很聪明，但给人留下更深刻印象的是他“无比强大的好奇心”。在斯坦福大学人工智能实验室工作时，谷歌登月计划工厂的创始人塞巴斯蒂安·特伦就认识了奥特曼。他回忆称：“奥特曼总是想从深层次上理解一切。”
大二之后，奥特曼选择辍学，开始开发名为Loopt的应用。也是在那个时候，保罗·格雷厄姆宣布他将创办Y Combinator。奥特曼提交了申请并被录取。
身边的人都说，奥特曼从此找到了他的绝地大师。他们都是极少数能够驾驭整个技术堆栈的程序员，从核能跳到量子计算，然后再跳回来。被有些人称为硅谷教父的天使投资人罗恩·康威说，他认识这两个人已经有几十年了，“当他们说话的时候，通常会引起地震”。
Loopt后来搬进了名为YouTube的初创公司办公室。奥特曼对他的童年好友、Loopt的联合创始人里克·佩尼科夫说：“是的，我认为这行不通。”佩尼科夫称，这可能是奥特曼唯一一次犯错。
最终，Loopt未能实现人们的期望，它被以4300万美元的价格出售。以某些标准来看，这次创业算不上成功，因为其价值只是投资者投入的两倍。不过，虽然Loopt失败了，但奥特曼的知名度却一路飙升。2014年，格雷厄姆选择了当时年仅28岁的奥特曼接管创业加速器。
市值39亿美元的云软件供应商Box的联合创始人兼首席执行官亚伦·列维说：“对我来说，显而易见的是，奥特曼几乎就像是企业家时代精神的道德权威。”
在奥特曼的带领下，Y Combinator经历了一段高速增长时期，从每批投资十几家初创公司发展到数百家。他的个人雄心也在扩大，包括带领加速器筹建了风险基金，在斯坦福大学教学，并成立了研究实验室，专门研究全民基本收入的实践和道德方面的问题，并自掏腰包投入了1000万美元。
2015年，该研究实验室成立了非营利组织OpenAI。在奥特曼的创新帝国中，OpenAI是皇冠上的明珠，这是一家能够帮助人们更智能化、更快速地工作的公司。
OpenAI的旗舰产品是大型语言模型，用最简单的话来说，就是能够通过大量数据训练学习并对基本提示做出反应的系统。OpenAI的最新模型是GPT-4，人们可以通过聊天机器人与之互动，可以“看到”图像输入，以惊人的准确度进行推理，并在大多数专业考试中取得好成绩。奥特曼表示，该公司的最终目标是创造通用人工智能，即“通常比人类更聪明的人工智能系统”。
04 “我不想坐在前排看着世界崩溃”
作为一名首席执行官，奥特曼对自己的追求所面临的风险异常坦率。他曾写道，能够自行变得更聪明的机器不断进化，“可能是对人类持续生存的最大威胁”。直到今天，他还警告说，人工智能会因“意外误用”而构成巨大威胁。他的坦率让人有种穿越感，就好像是一位石油公司高管提前预见到了气候变化的危险。
商业伙伴们表示，这种保持完全透明是奥特曼的工作特色。OpenAI首个机构投资者Khosla Ventures的风险投资家维诺德·科斯拉说：“奥特曼在学术上保持诚实，这让人们更容易信任他。”
从一开始，OpenAI构建多用途人工智能的方法就与其他公司之前的努力截然不同，这些公司主要开发用于特定任务的狭隘算法。有时，就连OpenAI的研究人员也对他们的进展感到震惊。2019年，该公司决定以有限发布的方式推出GPT-2，理由是担心更大的语言模型可能被用来“产生欺骗性、有偏见或辱骂性的语言”。2022年，他们改变了做法，允许任何注册用户访问该公司GPT -3.5模型支持的聊天机器人ChatGPT，该机器人在1月份的月活跃用户达到1亿。
如今，奥特曼认为，在产品开发过程中就推出产品是理解和塑造其功能的关键部分。他说：“我们在实验室里能学到的东西毕竟有限。” 十分熟悉奥特曼的科技行业分析师蒂姆·奥莱利表示，这位首席执行官“有一种我们过去常说的‘快速失败’的强烈倾向。他只管把东西拿出来，然后让市场自己去判断。
支持者表示，开放这些系统很有必要，可以避免权力过于集中。曾在OpenAI实习的英伟达研究科学家吉姆·范说：“如果你相信我们正处于下一次工业革命的风口，那么让更广泛的人接触到它，就能确保他们分享到它的好处。”
当然，这并不是说人工智能技术是免费的。随着GPT-3的发布，OpenAI发布了其第一个商业产品，让开发者将模型融入自己产品的工具。有些应用程序已经可以自动生成文字、回复客户和上网，所有这些都在使用OpenAI的模型。
但许多人怀疑，OpenAI这种做法是否适合具有如此深远影响的产品。开放慈善基金会(Open Philanthropy)首席执行官霍尔顿·卡诺夫斯基说：“历史上，人们往往低估了这类产品的破坏性和疯狂程度。”该基金会在2017年至2020年期间资助了OpenAI。当时担任OpenAI董事会成员的卡诺夫斯基解释说，这种剧烈的变化“可能对全人类都是危险的”。
即使是那些认为世界末日风险被夸大了的人也指出，短期风险已经开始显现。一位OpenAI离职员工称，他们担心公司没有向ChatGPT用户充分说明，通过与消费者产品互动，他们实际上是在帮这个模型进行免费培训。他警告称：“你是在帮助这个模式取代自己的工作，你实际上是在喂养野兽。”本周二，OpenAI在其博客上发布消息称，它将允许用户将聊天记录设置为隐私。
与此同时，人文技术中心（Center for Humane Technology）也警告称，人工智能可以帮助音频和视频深度造假、发现新型毒素和网络武器、扩散错误信息等，这些都可能导致信任崩溃。他们在最近的一份备忘录中写道，在公众准备好之前部署这些系统，“对美国和其他国家构成了严重而直接的威胁”。
今年3月，超过1000名科技行业高管、学者和人工智能专家签署了一封公开信，呼吁暂时暂停训练比GPT-4更强大的人工智能系统六个月，理由是这可能存在短期和长期的危害。
主要关注人工智能风险的牛津大学人类未来研究所高级研究员安德斯·桑德伯格表示：“我认为，如果你（奥特曼）可以让事情慢下来，那实际上可能是个好主意。但人们不会放慢脚步，潘多拉盒子已被打开。”
奥特曼承认目前的技术存在缺陷，他说：“我毫不怀疑会有其他人开发这些技术，并以我不喜欢的方式使用它们。当然，我确实对此感到担忧。”
但有人说，奥特曼没能创造出让员工感到足够安全的环境，以便他们表达对产品危险的担忧。OpenAI离职员工说，当有人在内部发表意见时，公司管理层的普遍心态是：“如果我们都听你的，可能永远无法推出产品。”
人工智能领域的首席末日预言者埃利泽·尤德科夫斯基在最近的播客上回应了这些说法：“我有很多朋友都说，如果你私下和OpenAI的研究人员交谈，会发现他们有很多担忧，但他们在公开场合不能将这些担忧表达出来。”奥特曼对此驳斥称：“我们经常仔细地讨论我们的方法。”
然而，对于部分人来说，他们不相信OpenAI将人类的最高利益放在优先地位。11名员工于2021年离职，创办了自己的人工智能公司Anthropic，其中许多人都与关注人工智能风险的有效利他主义运动有关。尽管今年3月推出了自己的竞争对手聊天机器人，但Anthropic声称，通过创造“更安全、可操控、更可靠的模型”，将自己与OpenAI等竞争对手区分开来。这家公司的目标是在未来四年里筹集50亿美元资金，但它能否抵挡住同样的市场压力，还有待观察。
不过，正如OpenAI离职员工所说：“我不想坐在前排，眼睁睁地看着世界崩溃。”
05 执着于延迟死亡，愿将大脑上传云端等待复活
在奥特曼最喜欢的人工智能短篇小说《温柔的诱惑》(the Gentle Seduction)中，一个名叫杰克的男人和一个不知名的女人坠入爱河。杰克是个患有心脏病的技术专家，他向这位女士讲述了自己对未来的展望。将来，技术将消除人类所有的问题，包括死亡。小说中的女主角是一位生态学家，她最初对这种非自然前景感到厌恶。
但在伴侣死后，女主角的身体也随着年龄的增长而日渐衰弱，她不情愿地接受了一项项技术进步，包括能治愈疾病的纳米机器，将大脑与机器智能融合起来的耳机，让人能够穿越星系的机器人身体。最终，女主角成了不朽的存在，并与宇宙融为一体。她回顾了几千年前死去的爱人，意识到他是这一切的幕后主使。杰克预见到她天生抗拒技术进步，并希望确保她有时间以适应每一次微小的进步。
在奥特曼身上不难找到杰克的踪迹。就像小说中的角色一样，奥特曼相信人类很快就会达到这样一个拐点：在未来100里，人类所取得的技术进步将超过我们在人类历史上取得的所有成就。在他的想象中，未来我们可能会探索宇宙最遥远的地方，并战胜气候变化和小行星袭击地球等挑战。奥特曼甚至申请了Nectome公司的等待名单：如果技术成功的话，他愿意将大脑上传到云端，将来可能会在模拟中复活。
和许多硅谷科技大咖一样，奥特曼似乎执着于延迟死亡。一位朋友透露，奥特曼的父亲于2018年去世后，他的紧迫感随即增加了。奥特曼表示：“我认为，任何小时候失去父亲的人，都希望父亲能有更多的时间陪伴自己。我的目标不是获得永生，而是让人们再健康、充满活力地多活10年。”
奥特曼在自己的生活中似乎已经掌握了生物黑客的艺术，他遵循严格的饮食和锻炼计划，以最大限度地提高他的工作效率。在2016年接受《纽约客》采访时，奥特曼称自己显然患有他母亲所说的“网络疑病症”，即痴迷于在网上搜索自己患有哪些疾病。但奥特曼与其他人的不同之处在于，他的健康实验可能会影响人类的进化。
奥特曼说他很高兴能有“很多孩子”，他支持一家试图让两个男人怀上孩子的公司和另一家提供多基因胚胎筛查的公司。2020年，奥特曼读到一项实验，科学家们用盐水和白蛋白(由肝脏产生的蛋白质)的混合物取代了老年小鼠的血浆，这似乎可以逆转某些衰老的迹象。他敦促曾在Y Combinator担任兼职合伙人的乔·贝茨-拉克鲁瓦基于这种方法创办名为Retro Biosciences的公司。奥特曼投入了1.8亿美元，这是该公司最新一轮融资获得的全部资金。
对奥特曼来说，灵性和科学似乎是齐头并进的。作为一名经验丰富的冥想者，他在推特上发布了“婆罗门和奥特曼的绝对等价性”，这是指印度教的非二元论概念，即宇宙和自我是一体的。他在2020年表示，如果“没有自我，你对死亡或不死意味着什么会有不同的看法。”
据一位投资者朋友说，几年前，奥特曼开始谈论“意识之光”。这个短语在硅谷所谓的“长期主义者”圈子里越来越流行，包括马斯克和推特创始人杰克·多西都是其信徒。它植根于这样一种观点，即人类可能会被数量众多的生存威胁所扼杀。为了保持文明传承，长期主义者认为，迫切需要推进太空旅行、生物技术和对人类友好的人工智能。
奥特曼承认，牛津大学人类未来研究所的创始人、长期主义思想之父尼克·博斯特罗姆曾对他及其工作产生了巨大影响。在他的博客上，奥特曼称博斯特罗姆的书《超级智能》是“我所见过的、关于人工智能风险的最好描述”。据人类未来研究所高级研究员安德斯·桑德伯格说，OpenAI甚至从该研究所挖走了多位员工。
06 担心合成病毒与核战引发世界末日
虽然奥特曼说，他不认同长期主义运动，但他也担心许多因素引发世界末日。奥特曼在2016年告诉《纽约客》：“我的问题是，当我的朋友喝醉时，他们会谈论导致世界末日的各种方式。”
接着，奥特曼描述了自己应对末日（比如合成病毒或核战爆发）的方式，比如储存“枪支、黄金、碘化钾、抗生素、电池、水、以色列国防军的防毒面具”。新冠肺炎疫情让奥特曼最担心的一些事情成为现实。在封锁的头几周，他称自己躲在家里，给食品杂货消毒，直到有一天晚上伴侣抱怨他们的食物闻起来像游泳池的味道。
奥特曼对所谓的奇点持怀疑态度，但并不过分害怕。奇点是指技术发展到脱离人类监督的阶段。在2017年的一篇博客文章中，奥特曼写道，人类和机器的融合可能有助于我们彻底避免权力斗争。最近在莱克斯·弗里德曼的播客上露面时，他称我们所知道的生命可能已经包含在计算机系统中了。他解释说：“我当然愿意相信，意识在某种程度上是本质，我们都只是活在梦中或在模拟中，亦或者其他东西中。”
不过奥特曼称，自从那些帖子发布之后，他的想法发生了变化。他说：“在很大程度上，我现在属于‘人工智能将成为工具’的阵营，尽管我确实认为未来的人类和人类社会将截然不同，我们有机会思考如何设计那样的未来。”
计算机科学家蒂姆尼特·格布鲁和哲学家埃米尔·托雷斯在他们的论文《通过人工通用智能实现优生学和乌托邦的承诺》中写道，奥特曼和其他人试图实现通用人工智能，“并建立类似于上帝的东西”，这“在本质上是不安全的”。
他们写道，奥特曼相信所谓的Tescreal意识形态，它囊括了超人类主义、外向主义、奇点主义、宇宙主义、理性主义、有效利他主义以及长期主义。格布鲁和托雷斯敦促奥特曼等人“放弃这个目标，优先建立定义和范围明确的系统，把人们的安全放在首位”。
奥特曼似乎对这些批评并不在意。他在推特上写道：“只有那些知道谨慎而不害怕的人才能度过难关。”
07 曾想竞选加州州长，利用科技实现繁荣
奥特曼或许已经赢得了硅谷的支持，但现在他面临着一项更艰巨的任务，那就是向世界其他地方推销他的科技梦想。奥特曼的母亲最近告诉《华尔街日报》，他已经有四五年没去过杂货店了。奥特曼是第一个承认自己在与公众交往方面存在缺陷的人。
当被询问试着准确地描述普通美国人的生活将如何因他正在开发的技术而改变时，奥特曼只给出了几个概括性的说法：教育将会改变、工作效率将会提高，科学将比以往任何时候都发展得更快。在被追问细节时，奥特曼闪烁其辞地说：“低估将要发生的事情是一个巨大的错误，但我认为夸大我们知道会发生的事情也是一个错误。”
奥特曼将有很多机会改进他要传达的信息。多年来，他支持的项目基本上都是在人们的视线之外进行的，现在他开始展示自己的观点。今年1月份，他前往华盛顿帮助缓解美国议员们对人工智能的担忧。今年春天，他出人意料地在电视和杂志采访中露面。今年夏天，他将开始全球聆听之旅，听取OpenAI产品开发者和用户的意见。
如果这一切听起来有点像一场政治竞选，那可能不是巧合。2017年，奥特曼偶然萌生了竞选加州州长的想法。同年，他发表了一份名为《The United Slate》的政治宣言，强调“通过技术实现繁荣”、“经济公平”和“个人自由”。奥特曼认为，在政府缺乏远见和效率的地方，比如在发展住房、全民基本收入或基础设施方面，科技可以帮助填补这些空白。
虽然竞选公职的野心似乎已经消退，但奥特曼似乎找到了其他施加政治影响的方法。他是科技界在华盛顿最引人注目的使者之一，经常与内阁成员和立法者会面。在比尔德伯格(Bilderberg)俱乐部会议上，他与政府机构的首脑同处一室。这是一个不公开的和平建设峰会，以至于批评者将其比作“影子世界政府”。奥特曼希望科技将成为选举的中心议题。
然而，这并不意味着奥特曼赞同某些同行所推动的那种技术官僚主义，比如马斯克斥资440亿美元接管“数字城市广场”，蒂尔倡导“网络国家”运动，提出自治城市作为中央集权民主的替代方案。
奥特曼解释称：“我认为OpenAI或任何其他科技公司都不应该做出我们目前正在做的某些决定，这样的事情应该属于政府职能范畴。如果在美国历史上的其他时期，它应该是一个政府项目。” OpenAI早期曾试图获得政府资助，但没有成功。奥特曼表示，他希望全球政策制定者能够“立即”引入一个类似于国际原子能机构的机构，以监督训练强大人工智能的努力。国际原子能机构是核领域的监督机构。
奥特曼慷慨地向民主党候选人和政治行动委员会捐款，他甚至参加了在旧金山国际机场举行的抗议活动，反对唐纳德·特朗普对几个穆斯林占多数的国家实施旅行禁令。然而，奥特曼也拥有枪支，对教育机构持怀疑态度，并经常谈到个人责任的重要性。
08 “把地板掀起来，不要担心天花板”
在2021年《纽约时报》的采访中，奥特曼称自己是Slate Star Codex的粉丝。Slate Star Codex是“理性主义者”社区的博客和在线中心，他们认为在评估决策时不应考虑公正性或情感因素。在采访中，奥特曼赞同这样一种观点，即“互联网暴徒”对种族主义和性别歧视语言的管控使企业家更难创新。
这位OpenAI首席执行官最近告诉莱克斯·弗里德曼，他坚信这样一句话：“把地板掀起来，不要担心天花板”。他对此详细解释说，我们未来的富足应该让每个人至少过上中产阶级的生活，那些天花板之上的人自然会得到照顾。
不管怎样，奥特曼在硅谷的名声仍然是个面慈心善的自由主义者。今年4月，马斯克再次成为奥特曼的陪衬，他介绍了一款名为TruthGPT的聊天机器人，这是ChatGPT的竞争版本。在宣布他的人工智能计划前不久，马斯克也是呼吁暂停人工智能开发公开信的上千名签名者之一。这封信写道：“这样的决定不能委托给非民选的科技领袖。”
当被问及对这句话的感想时，奥特曼笑着回应称：“我想，这是他们引用了我说的话。我是真的这么认为，并认为这非常重要。我也不认为以公开信的方式治理国家特别好。”
在硅谷除了快递应用、狗狗过滤器和电动滑板车之外似乎找不到灵感的时候，奥特曼作为一个充满幻想的先知来到了硅谷，预示着一个新的进步时代的到来。他相信，人工智能就像火的发现或轮子的发明那样重要。天使投资人罗恩·康威将ChatGPT描述为“我们这个时代最重要的发明”。他说：“我们已经经历了个人电脑时代，谷歌搜索时代，社交媒体时代，亚马逊时代，但人工智能是最重要的。”
奥特曼是一名狂热的扑克玩家(而且玩得很好)，但并不是每个人都想把自己的日常生活和赌博联系起来。如此多的颠覆已经开始使社会陷入生存危机，人们想知道这些变化将真正使谁受益，谁将承受附带损害。辨别真假，以及决定我们生活中哪些部分不愿意让给机器控制，已经像天气那样成为人们普遍讨论的话题。
尽管如此，对奥特曼的偶像崇拜正处于巅峰：引人注目的新闻报道，比尔·盖茨等名人的支持，以及160万推特粉丝对他的时刻关注。奥特曼不再只是硅谷的代言人，而是家喻户晓的名字。他的崛起犹如希腊神话一般。这是夸大其词吗？是阿谀奉承者为赢得硅谷最有权势的人的青睐而出现的附属物吗？风险投资家科斯拉警告称，好时光终将结束。他说：“当所有人都喜欢你，记者都给你打电话时，你就该小心了。”
多年来，一个关于奥特曼的故事广为流传，曾有一架私人飞机的飞行员丧失了驾驶能力，是这位OpenAI首席执行官接管了飞机，并将所有人安全带回地面。当被问及这件事时，奥特曼解释称：“我能猜到这是怎么回事。这些故事经过多年的反复讲述，变得越来越夸张！”
但正如奥特曼可能意识到的那样，一旦他的故事和技术离开了他的视线，它们在某种程度上变得面目全非似乎只是时间问题。