OpenAI奥特曼回应一切：通往AGI的路是一场巨大的权力斗争

3月19日，近日博主莱克斯·弗里德曼（Lex Fridman）对OpenAI CEO萨姆·奥特曼（Sam Altman）进行了专访，谈及了不少与奥特曼相关的话题，包括OpenAI董事会，GPT-5，Sora，马斯克等等。
以下是速记全文（英文实录是由人工生成的，翻译由AI生成，可能存在错误，供参考，目前仍在翻译中）
【引言】
萨姆·奥特曼：“我认为计算能力将成为未来的货币。我认为它可能会成为世界上最宝贵的商品。我预计到本十年末，可能比这还早，我们将拥有非常强大的系统，当我们看到它们时会说，‘哇，这真是了不起。’走向通用人工智能的道路应该是一场巨大的权力斗争。我预计会是这样。”
莱克斯·弗里德曼：“谁先构建出通用人工智能，谁就拥有巨大的力量。你认为自己能承受这么大的力量吗？”
“接下来是与萨姆·奥特曼的对话，这是他第二次参加这个播客节目。他是OpenAI的首席执行官，这是一家开发了GPT-4、ChatGPT、Sora的公司，也许有一天，还会是构建通用人工智能的公司。这是莱克斯·弗里德曼播客。为了支持我们，请查看描述中的赞助商。亲爱的朋友们，这里是萨姆·奥特曼。”
【OpenAI董事会事件】
莱克斯·弗里德曼：“带我回顾一下始于11月16日星期四，或者对你来说是11月17日星期五的OpenAI董事会事件。”
萨姆·奥特曼：“那绝对是我职业生涯中最痛苦的经历，混乱、可耻、令人不安以及其他一些负面情绪。当然，其中也有很棒的事情，但我当时处于如此的肾上腺素冲动中，以至于没能停下来欣赏这些。但我找到了那个时期的一条旧推文，就像是在听自己的悼词，看着人们说所有这些关于你的好话，还有来自我所爱和关心的人不可思议的支持。那真的很好，非常好。那整个周末，除了一个大例外，我感受到了大量的爱，很少有恨，尽管我感觉我不知道会发生什么，这感觉真的很糟糕。的确，有时候我以为这会成为人工智能安全领域有史以来最糟糕的事情之一。不过，我也认为这件事情相对早期发生是幸运的。我曾经想，从OpenAI开始到我们创建通用人工智能的某个时刻，肯定会发生一些疯狂和爆炸性的事情，但未来可能还会有更多疯狂和爆炸性的事情发生。不过，我认为这帮助我们建立了一些韧性，为未来面临更多挑战做好准备。”
莱克斯·弗里德曼：“但你有预感你会经历某种权力斗争吗？”
萨姆·奥特曼：“走向通用人工智能的道路应该是一场巨大的权力斗争。世界应该……嗯，不是应该。我预计会是这样。”
莱克斯·弗里德曼：“所以你必须经历这个过程，就像你说的，尽可能频繁地迭代，以找出如何设立董事会结构、如何组织、如何与你合作的人一起工作、如何传达所有这些，以尽可能地缓和权力斗争。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“平息它。”
萨姆·奥特曼：“但在这一点上，它感觉像是过去的事情，非常不愉快、非常困难和痛苦，但我们已经回到工作中，事情如此繁忙和紧张，以至于我没有太多时间去思考它。之后，有一个时期，大约是之后的一个月，也许是45天，我只是漂浮在日子里。我感到如此迷失，感到非常低落。”
莱克斯·弗里德曼：“就个人心理层面而言？”
萨姆·奥特曼：“是的。真的很痛苦，在那种情况下还必须继续运营OpenAI。我只想钻进一个洞里休养一段时间。但现在我们又回到了执行使命的工作上。”
莱克斯·弗里德曼：“回顾董事会结构、权力动态、公司运作方式、研究与产品开发之间的紧张关系以及金钱等方面，这仍然是有益的，这样你在未来构建通用人工智能时，可以以一种更有组织、更少戏剧性的方式进行。所以，无论是你作为领导者的个人心理层面，还是董事会结构和所有这些复杂事务，都有其价值。”
萨姆·奥特曼：“我确实从结构和激励机制中学到了很多，以及我们对董事会的需求。从某种意义上说，我认为这件事现在发生是有价值的。我认为这可能不是OpenAI最后一个高压力时刻，但这确实是一个非常高压力的时刻。我的公司差点被毁灭。我们考虑了很多其他我们必须为通用人工智能做对的事情，但思考如何建立一个能够抵御世界上大量压力的强大组织和结构，我预计随着我们越来越接近，这会变得越来越重要，我认为这非常重要。”
莱克斯·弗里德曼：“你觉得董事会的审议过程有多深入和严格？你能透露一下这种情况下人际动态方面的一些情况吗？是不是只进行了几次对话，然后突然事态升级，比如‘我们为什么不解雇萨姆’之类的？”
萨姆·奥特曼：“我认为董事会成员总体上是出于好意的人，我相信在人们感到时间压力或其他压力的紧张情况下，人们会理解并做出次优决策。我认为OpenAI面临的挑战之一将是，我们将不得不拥有一个能够在压力下运作良好的董事会和团队。”
莱克斯·弗里德曼：“你认为董事会拥有太多权力了吗？”
萨姆·奥特曼：“我认为董事会本应拥有很多权力，但我们确实看到，在大多数公司结构中，董事会通常要对股东负责。有时人们拥有超级投票权或类似的东西。在这种情况下，我认为我们的结构之一，我们可能应该比我们实际上做的更多地思考，是一个非营利组织的董事会，除非你设定其他规则，否则拥有相当大的权力。他们真的不对任何人负责，只对他们自己负责。这在某些方面是好的，但我们真正希望的是OpenAI的董事会能够尽可能地对全世界负责，只要这是一件实际的事情。”
莱克斯·弗里德曼：“所以宣布了一个新的董事会。”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“我猜开始是一个新的较小的董事会，现在有一个新的最终董事会了吗？”
萨姆·奥特曼：“还没有最终的董事会。我们已经增加了一些人，将会再增加更多。”
莱克斯·弗里德曼：“增加了一些。好的。新董事会解决了旧董事会哪些可能存在的问题？”
萨姆·奥特曼：“旧董事会在大约一年的时间里人数减少了。原先是九个人，然后减少到六个，之后我们无法就增加谁达成一致。而且我认为旧董事会缺乏经验丰富的董事会成员，OpenAI的很多新董事会成员都是有丰富董事会经验的。我认为这会有所帮助。”
莱克斯·弗里德曼：“一些被增加到董事会的人受到了批评。例如，我听到很多人批评增加拉里·萨默斯（Larry Summers，前哈佛校长/美财长）。选择董事会成员的过程是怎样的？包括了什么？”
萨姆·奥特曼：“所以，布雷特（Bret Taylor/布雷特·泰勒，前Salesforce与Facebook高管）和拉里是在那个非常紧张的周末，情绪激动之下决定的，那个周末真是一场过山车，起起落落。我们试图就新董事会成员达成一致，这些新成员既能得到我们这里的执行团队的认可，也能得到旧董事会成员的认可。实际上，拉里是旧董事会成员的建议之一。布雷特，我想即使在那个周末之前我也已经提议过，但他很忙并且不想参与，然后我们真的需要帮助。我们还讨论了很多其他人，但我感觉如果我要回来，我需要新的董事会成员。我认为我无法以同样的配置再次与旧董事会合作，尽管我们后来决定，我很感激亚当（Adam D'angelo/亚当·德安吉洛，Quora首席执行官兼联合创始人）会留下，但我们考虑了各种配置，决定我们想要一个三人董事会，并且在短时间内必须找到两个新董事会成员。”
“所以这些决定实际上是在没有...你在战场上做决定的时候，没有时间设计一个严格的过程。对于自那之后的新董事会成员，以及我们将来要增加的新董事会成员，我们有一些我们认为对董事会来说重要的标准，我们希望董事会具备不同的专业知识。不像招聘一个执行官那样，你需要他们在一个角色上表现良好，董事会需要在治理和深思熟虑上表现良好，因此，布雷特说的一句话我非常喜欢，那就是我们希望以批次而非逐个单独招募董事会成员。考虑到一组人将带来非营利专业知识、公司运营专业知识、良好的法律和治理专业知识，这是我们试图优化的方向。”
莱克斯·弗里德曼：“对于个别董事会成员来说，技术敏锐性重要吗？”
萨姆·奥特曼：“不是对每个董事会成员都重要，但确实需要一些成员具备这一点。这是董事会需要做的事情的一部分。”
莱克斯·弗里德曼：“对于OpenAI来说，人们可能不理解的有趣之处在于，我肯定也不懂，就是所有运营业务的细节。当他们考虑董事会，鉴于所有的戏剧性，他们想到的是你。他们在想，如果你达到了通用人工智能（AGI），或者你达到了一些极具影响力的产品，并且你建造并部署了它们，那么与董事会的对话是怎样的？他们想，好吧，在这种情况下应该有哪个正确的团队来进行深思熟虑？”
萨姆·奥特曼：“看，我认为你绝对需要一些技术专家在那里。然后你需要一些人来思考，‘我们怎样部署这个，才能最大限度地帮助世界上的人们？’以及拥有非常不同视角的人。我认为你或我可能犯的一个错误是认为只有技术理解很重要，那确实是你希望那个董事会进行讨论的一部分，但关于这将如何影响社会和人们的生活，你确实也希望在那里得到代表。”
莱克斯·弗里德曼：“你是在看人们的过往记录，还是只是进行对话？”
萨姆·奥特曼：“过往记录很重要。你当然会进行很多对话，但在某些角色上，我完全忽略过往记录，只看斜率，忽略Y截距。”
莱克斯·弗里德曼：“谢谢你。谢谢你为观众将其数学化。”
萨姆·奥特曼：“对于一个董事会成员，我确实更关心Y截距。我认为关于过往记录有一些深刻的东西可以说，经验是非常难以替代的。”
莱克斯·弗里德曼：“你尝试对过往记录拟合一个多项式函数还是指数函数？”
萨姆·奥特曼：“那个比喻走不了那么远。”
莱克斯·弗里德曼：“好的。你提到了那个周末的一些低点。对你来说心理上的一些低点是什么？你有没有考虑去亚马逊雨林，只是服用一些阿亚瓦斯卡，然后永远消失？”
萨姆·奥特曼：“那是一个非常糟糕的时期。也有很高的高点。我的手机不停地收到来自我每天工作的人，十年没联系的人发来的好消息。因为我正处于这场战斗中，我没有像我应该的那样去欣赏它，但那确实很好。但总的来说，那是一个非常痛苦的周末。这就像是一场在公众面前进行的战斗，出乎意料的程度，对我来说极其耗费精力，远超我预期。我认为斗争通常都很耗费精力，但这一次真的很是如此。董事会在周五下午做了这个决定。我真的很难得到任何回答，但我也就像，好吧，董事会有权这么做，所以我要花点时间思考我想做什么，但我会试图在这里找到伪装的祝福。”
“我就像，好吧，我在OpenAI的当前工作，或者说是，那时是管理一个相当大的公司。我最喜欢的事情一直是与研究人员一起工作。我就想，是的，我可以去做一个非常专注的通用人工智能研究工作。对此我感到很兴奋。当时我甚至没想到这一切可能会被撤销。那是周五下午。”
莱克斯·弗里德曼：“所以你很快就接受了这一切的终结——”
萨姆·奥特曼：“非常快。我经历了一小段混乱和愤怒，但很快就过去了。到了周五晚上，我已经在和人们讨论接下来会发生什么，我对此感到兴奋。我认为是周五晚上我第一次听到执行团队这边的人说，‘嘿，我们要对抗这个。’然后我就去睡了，仍然感到兴奋。前进。”
莱克斯·弗里德曼：“那晚你能睡得着吗？”
萨姆·奥特曼：“不太能。有个奇怪的现象是，在那四天半的时间里，我几乎没怎么睡，也没怎么吃，但仍然有惊人的能量。你在战时会学到一些关于肾上腺素的奇怪事情。”
莱克斯·弗里德曼：“所以你接受了OpenAI这个宝贝的死亡。”
萨姆·奥特曼：“我为新的事物感到兴奋。我就像，‘好吧，这很疯狂，但不管怎样。’”
莱克斯·弗里德曼：“这是个很好的应对机制。”
萨姆·奥特曼：“然后星期六早上，两位董事会成员打电话说，‘嘿，我们不是想要破坏稳定。我们不想在这里存储很多价值。我们能讨论一下你回来的事情吗？’我立即不想这么做，但我再想了一下，我真的很关心这里的人、合作伙伴、股东。我爱这家公司。所以我想了想，‘好吧，但这里是我需要的东西。’然后最痛苦的时刻是在那个周末的过程中，我一直在思考，也被告知，不仅仅是我，这里的整个团队一直在想，我们试图保持OpenAI的稳定，而整个世界都试图将它分裂，人们试图招募什么的。”
“我们不断被告知，好了，我们快完成了。我们就快完成了。我们只需要再一点时间。这是一个非常混乱的状态。然后到了周日晚上，当我再次期待我们将完成，找到一种方式让我返回，事情回到原来的状态时，董事会任命了一位新的临时首席执行官，我觉得那感觉真的很糟糕。那是整件事中的低点。我要告诉你，虽然非常痛苦，但整个周末我感受到了很多爱。除了周日晚上那一刻，我不会把我的情绪描述为愤怒或恨，但我感受到了人们对我的爱，对人们的爱。虽然痛苦，但周末的主导情绪是爱，而不是恨。”
莱克斯·弗里德曼：“你高度评价了米拉·穆拉蒂 (Mira Murati,OpenAI CTO)，尤其是你在推文中提到，在安静时刻，当这很重要的时候，她特别帮了忙。或许我们可以稍微偏题一下。你欣赏米拉的什么？”
萨姆·奥特曼：“嗯，她在那个混乱的周末做得很好，但人们常常在危机时刻看到领导者，不管是好是坏。但我真正重视的是领导者在一个平凡的周二早上9:46，以及在日复一日的平淡中如何表现。某人在会议中的表现，他们所做决定的质量。这就是我所说的安静时刻的意义。”
莱克斯·弗里德曼：“意思是大部分工作是日复一日，在每次会议中完成的。只需保持在场并做出伟大的决策。”
萨姆·奥特曼：“是的。看，你想要花费过去20分钟的时间讨论的，我理解，是这一个非常戏剧化的周末，但那并不真正代表OpenAI的全部。OpenAI真正关于的是其他七年。”
莱克斯·弗里德曼：“嗯，是的。人类文明并不是关于纳粹德国入侵苏联的，但这仍然是人们关注的焦点。”
萨姆·奥特曼：“非常可以理解。”
【关于伊利亚·苏斯克维尔（Ilya Sutskever，OpenAI首席科学家，前董事会成员）】
莱克斯·弗里德曼：“这给了我们对人性极端的一种洞察，也许人类文明的一些损害和一些胜利可能就发生在这些时刻，所以这很有启示意义。让我问你关于伊利亚的事。他是否被困在一个秘密核设施里？”
萨姆·奥特曼：“不是。”
莱克斯·弗里德曼：“那在一个普通的秘密设施里呢？”
萨姆·奥特曼：“也不是。”
莱克斯·弗里德曼：“那在一个非秘密的核设施里呢？”
萨姆·奥特曼：“也不是那个。”
莱克斯·弗里德曼：“这点在某个时候变成了一个模因。你认识伊利亚很久了。他显然是这次董事会事件的一部分。你现在和他的关系怎样？”
萨姆·奥特曼：“我爱伊利亚。我非常尊重伊利亚。我现在不能说关于他的计划。这是给他的问题，但我真的希望我们能在我的职业生涯中一直一起工作。他比我年轻一点。也许他会工作得更长一些。”
莱克斯·弗里德曼：“有一个模因说他看到了什么，比如他可能看到了AGI，这让他内心非常担忧。伊利亚看到了什么？”
萨姆·奥特曼：“伊利亚没有看到AGI。我们都没有看到AGI。我们还没有构建AGI。我确实认为我非常欣赏伊利亚的一点是，他非常严肃地对待AGI和安全问题，广义上说，包括这将对社会产生的影响。随着我们继续取得重大进展，过去几年里，我最多的时间是和伊利亚一起讨论这将意味着什么，我们需要做些什么来确保我们做对了，确保我们成功完成任务。所以伊利亚没有看到AGI，但伊利亚在确保我们做正确这一点上，对人性是一个贡献。”
莱克斯·弗里德曼：“我过去和他有过一些对话。我认为当他谈论技术时，他总是在进行长期思考。所以他不是在考虑一年内会怎样。他在考虑十年后，从第一原则出发思考，‘好的，如果这个东西扩大了，基本原理是什么？这将走向何方？’这就是他们思考所有其他安全问题等等的基础，这使他成为一个非常有趣的人。你知道为什么他保持沉默吗？是不是他在进行一些灵魂的探索？”
萨姆·奥特曼：“再次，我不想代表伊利亚发言。我认为你应该问他。他绝对是一个深思熟虑的人。我认为伊利亚总是以一种非常好的方式在进行灵魂探索。”
莱克斯·弗里德曼：“是的，是的。他还懂得沉默的力量。我还听说他可以是一个滑稽的家伙，这一面我从没见过。”
萨姆·奥特曼：“那发生的时候非常甜蜜。”
莱克斯·弗里德曼：“我从未见过滑稽的伊利亚，但我也期待这一面。”
萨姆·奥特曼：“我最近和他一起参加了一个晚宴，他在和一只小狗玩耍，他当时心情很愉快，非常讨人喜欢。我当时想，哦，天啊，这不是世界上最常见的伊利亚的一面。”
莱克斯·弗里德曼：“所以，就这整个事件来总结，你对董事会结构感到满意吗——”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“——关于这一切以及它的发展方向？”
萨姆·奥特曼：“我对新董事会感到非常满意。关于OpenAI的结构，董事会的任务之一是检视它，看我们如何使其更加健壮。我们首先要安排好新董事会成员，但显然我们在这个过程中学到了一个关于结构的教训。我认为我没有什么深刻的东西要说。这是一个疯狂的，非常痛苦的经历。我认为这是一场奇怪的完美风暴。这对我来说是一个预览，当赌注越来越高，我们需要有强健的治理结构和流程以及人员时会发生什么。我很高兴这发生在那时，但这是一个令人震惊的痛苦的经历。”
莱克斯·弗里德曼：“这让你在信任人方面变得更加犹豫吗？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“就个人层面上？”
萨姆·奥特曼：“是的。我认为我是一个极其信任他人的人。我一直有一个生活哲学，不担心所有的偏执。不担心边缘情况。你为了能够放下戒备而生活，会有一点点被欺骗，而这对我来说是如此令人震惊。我被如此措手不及，这绝对改变了我，我真的不喜欢这一点，这绝对改变了我对人们的默认信任和为坏情况做计划的看法。”
莱克斯·弗里德曼：“你得小心这一点。你担心变得太过愤世嫉俗吗？”
萨姆·奥特曼：“我不担心变得太愤世嫉俗。我认为我完全是一个愤世嫉俗的反面，但我担心变成一个不那么默认信任他人的人。”
莱克斯·弗里德曼：“实际上，我不确定对于一个正在开发AGI的人来说，信任还是不信任哪种模式更好。你正在经历一个有趣的旅程。但就结构而言，看，我对人的层面更感兴趣。你如何围绕自己安排那些既在创造酷炫的东西，又能做出明智决策的人呢？因为你开始赚到的钱越多，事物拥有的力量越大，人们就会变得越奇怪。”
萨姆·奥特曼：“你可以对董事会成员和我应该对他们有多少信任，或我应该如何不同地做事发表各种评论。但就这里的团队而言，我认为你得给我很高的评分。我对每天工作的人们怀有巨大的感激、信任和尊敬，我认为被这样的人包围是非常重要的。”
【马斯克起诉OpenAI】
莱克斯·弗里德曼：“我们的共同朋友埃隆·马斯克起诉了OpenAI。在你看来，他批评的本质是什么？他在多大程度上有道理？又在多大程度上是错误的？”
萨姆·奥特曼：“我不知道这真的是关于什么。我们最初只是想成为一个研究实验室，根本不知道这项技术将如何发展。因为那是七八年前的事了，回头去真正回忆当时的情况很难，但那时语言模型还不是什么大事。那是在我们有任何关于API或出售聊天机器人访问权限的想法之前。那是在我们有任何想要产品化的想法之前。所以我们就像，‘我们只是尝试做研究，我们真的不知道我们会怎么做。’我认为，像许多根本上的新事物一样，你开始在黑暗中摸索，你做了一些假设，其中大多数后来被证明是错误的。”
“然后变得清晰的是，我们需要做不同的事情，并且需要大量更多的资本。所以我们说，‘好吧，这种结构不太适用。我们如何修补这个结构？’然后你再次修补，再次修补，最终得到的东西至少看起来会让人觉得不可思议。但我们是逐渐到达这里的，我认为沿途每一步的决定都是合理的。这并不意味着如果我们现在能带着神谕回到过去，我不会完全不同地做。但你当时并没有神谕。但无论如何，关于埃隆的真正动机是什么，我不知道。”
莱克斯·弗里德曼：“在你记得的范围内，OpenAI在博客文章中给出的回应是什么？你能总结一下吗？”
萨姆·奥特曼：“哦，我们只是说埃隆说了这一套事情。这里是我们的表述，或者说这不是我们的表述。这是这件事发生的描述。我们试图不让它带有情绪，只是说，‘这是历史。’”
莱克斯·弗里德曼：“我确实认为埃隆在这里对你刚才提到的一点有一定程度的误解，那就是你们当时的不确定性。你们是一小群研究人员，当大家都在嘲笑这个想法时，你们却疯狂地谈论AGI。”
萨姆·奥特曼：“不久前埃隆还在疯狂地谈论发射火箭，当时人们也在嘲笑这个想法，所以我认为他应该对此有更多的共鸣。”
莱克斯·弗里德曼：“我确实认为这里有个人层面的东西，OpenAI和很多了不起的人选择与埃隆分道扬镳，所以这有一种个人——”
萨姆·奥特曼：“是埃隆选择分道扬镳。”
莱克斯·弗里德曼：“你能具体描述一下‘选择分道扬镳’是怎样的吗？”
萨姆·奥特曼：“他认为OpenAI会失败。他想要完全控制以扭转局面。我们想要继续我们现在已成为OpenAI的那个方向前进。他还希望特斯拉能够建立一个AGI项目。在不同的时候，他想要将OpenAI变成一家他可以控制的盈利公司，或者让它与特斯拉合并。我们不想那样做，他决定离开，这也没关系。”
莱克斯·弗里德曼：“所以你是说，这也是博客文章中提到的一点，他希望OpenAI基本上被特斯拉收购，就像或许与微软的合作那样，或许更类似或许更戏剧化。”
萨姆·奥特曼：“我的记忆是提议就是被特斯拉收购，让特斯拉完全控制它。我很确定就是这样。”
莱克斯·弗里德曼：“那么，当时Elon对OpenAI中的‘open’这个词是什么意思？伊利亚在电子邮件交流中谈到了这个，这对你当时意味着什么？现在对你意味着什么？”
萨姆·奥特曼：“如果回顾过去带着神谕，我会选择一个不同的名字。我认为OpenAI正在做的最重要的事情之一是免费将强大的技术放在人们手中，作为公共利益。我们的免费版本不放广告，我们不以其他方式变现。我们只是说这是我们的使命的一部分。我们希望将越来越强大的工具免费放在人们手中，并让他们使用。我认为这种‘开放’对我们的使命非常重要。我认为如果你给人们提供了伟大的工具，并教他们如何使用，或者甚至不教他们，他们会自己弄明白的，然后让他们用这些工具为彼此建造一个令人难以置信的未来，这是一件大事。所以如果我们可以继续在世界上发布免费或低成本或免费和低成本的强大AI工具，我认为这对我们完成使命是一个巨大的事情。是否开源，是的，我认为我们应该开源一些东西，不开源其他东西。这确实成为了一条宗教战线，难以保持细腻，但我认为细腻是正确的答案。”
莱克斯·弗里德曼：“所以他说，‘把你的名字改为CloseAI，我就撤诉。’我的意思是，这会成为名字这块战场上的模因吗？”
萨姆·奥特曼：“我认为这表明了埃隆对这起诉讼的认真程度，我认为这是令人震惊的说法。”
莱克斯·弗里德曼：“如果我没有理解错，我不认为这起诉讼在法律上很严肃。它更多是为了就AGI的未来以及目前引领方向的公司发表观点。”
萨姆·奥特曼：“看，我的意思是Grok直到人们指出这有点伪善后才没有开源任何东西，然后他宣布Grok这周会开源一些东西。我不认为这真的是关于他的开源与否。”
莱克斯·弗里德曼：“好吧，我们将讨论开源与否。我确实认为批评竞争对手很好。就是说一点坏话，那很好。但友好竞争与‘我个人讨厌诉讼’之间的区别——”
萨姆·奥特曼：“看，我认为这整件事不符合建设者的风格。我尊重埃隆作为我们时代伟大的建设者之一。我知道他知道被仇恨者攻击的感觉，这让我更加难过他会这样做。”
莱克斯·弗里德曼：“是的，他是有史以来最伟大的建设者之一，可能是最伟大的建设者。”
萨姆·奥特曼：“这让我感到难过。我认为这也让很多人感到难过。有很多人长时间以来非常仰慕他。我在某次采访中说我怀念过去的埃隆，我收到的消息数量，人们说，‘这完全表达了我所感受到的。’”
莱克斯·弗里德曼：“我认为他应该只是赢就好了。他应该让X Grok击败GPT，然后GPT再击败Grok，就是这样的竞争，对每个人都是美好的。但关于开源的问题，你认为许多公司都在玩弄这个想法吗？这非常有趣。我会说Meta出人意料地在这方面走在了前面，或者至少在国际象棋游戏中迈出了第一步，真正地开源了模型。当然，它不是最先进的模型，但开源了Llama。Google也在考虑开源一个较小版本的模型。开源的优点和缺点是什么？你有没有考虑过这个想法？”
萨姆·奥特曼：“是的，我认为对于开源模型，特别是那些人们可以在本地运行的较小模型，肯定有一个市场需求。我认为会有一些开源模型，也会有一些闭源模型。在这方面，它不会不同于其他生态系统。”
莱克斯·弗里德曼：“我听了All In播客谈论这起诉讼和所有相关事情。他们更担心的是从非营利组织转变为这种有限盈利公司的先例。这为其他创业公司设立了什么样的先例？这是一件需要考虑的事情吗——”
萨姆·奥特曼：“我会强烈不鼓励任何正在考虑最初作为非营利组织开始，然后稍后增加一个盈利部门的创业公司这么做。我不认为我们会设立一个先例。”
莱克斯·弗里德曼：“好的。所以大多数创业公司应该直接——”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“再次——”
萨姆·奥特曼：“如果我们知道会发生什么，我们也会那样做。”
莱克斯·弗里德曼：“嗯，在理论上，如果你在这里漂亮地舞动，有一些税收激励或者什么的，但……”
萨姆·奥特曼：“我不认为大多数人是这样考虑这些事情的。”
莱克斯·弗里德曼：“这样做对创业公司来说并不可能节省很多钱。”
萨姆·奥特曼：“不，我认为有法律会使得这非常困难。”
莱克斯·弗里德曼：“你希望与埃隆之间的这种紧张关系、这场舞蹈怎么发展？如果我们从现在起1、2、3年后看，你和他在个人层面上的关系，比如友谊、友好竞争，以及所有这些事情。”
萨姆·奥特曼：“是的，我非常尊重埃隆，我希望在未来几年我们能有一个和睦的关系。”
莱克斯·弗里德曼：“是的，我希望你们这个月就能建立和睦的关系，只是竞争和赢得胜利，一起探索这些想法。我猜想在人才竞争方面可能会有些竞争，但它应该是友好的竞争。只是去创造酷炫的东西。埃隆在创造酷炫的东西方面做得很好，你也是。”
【关于Sora】
莱克斯·弗里德曼：“所以说到酷炫的东西，Sora。我有一百万个问题可以问。首先，它确实令人惊叹，不仅仅是在产品层面，也在哲学层面上。所以让我从技术/哲学的角度问，你认为它对世界的理解是比GPT-4多还是少？当你在训练这些补丁而不是语言令牌时，世界模型是怎样的？”
萨姆·奥特曼：“我认为所有这些模型对世界模型的理解比我们大多数人给予它们的认可要多。因为它们也有很清楚的东西它们就是不理解或没做对，很容易看到这些弱点，看穿面纱说，‘啊，这全是假的。’但并不是全假的。有些工作有些不工作。”
“我记得当我开始看Sora视频时，我会看到一个人走到某样东西前面几秒钟，遮住它然后走开，同样的东西还在那里。我就想，‘哦，这挺不错的。’或者有些例子里，底层物理在一系列步骤中表现得很好，就像，‘哦，这非常令人印象深刻。’但根本上，这些模型只是在变得更好，这种进步会持续发生。如果你看从DALL·E 1到2到3到Sora的轨迹，有很多人每个版本都在质疑它不能做这个，不能做那个，现在看看它。”
莱克斯·弗里德曼：“你刚才提到的遮挡物基本上是足够好地模拟了三维物理世界，以捕捉到这类事物。”
萨姆·奥特曼：“嗯……”
莱克斯·弗里德曼：“或者，是的，也许你可以告诉我，为了处理遮挡，世界模型需要什么？”
萨姆·奥特曼：“是的。所以我想说的是，它确实很好地处理了遮挡。我表示它拥有一个出色的底层3D世界模型，这有点牵强。”
莱克斯·弗里德曼：“但通过这种二维训练数据方法，你可以达到那种水平吗？”
萨姆·奥特曼：“看起来这种方法会出人意料地走得很远。我不想过多推测它能克服什么限制，不能克服什么，但……”
莱克斯·弗里德曼：“你看到了系统的哪些有趣的限制？我是说你发表了一些有趣的例子。”
萨姆·奥特曼：“有各种有趣的。我的意思是，比如视频中随机时刻猫突然长出额外的肢体。随便挑一个，但还是有很多问题，有很多弱点。”
莱克斯·弗里德曼：“你认为这是方法的根本缺陷，还是只是更大的模型或更好的技术细节或更多的数据会解决猫突然[听不清]的问题？”
萨姆·奥特曼：“我会说两者都是。我认为这种方法的一部分似乎与我们思考和学习的方式不同。然后我也认为随着规模的增加，它会变得更好。”
莱克斯·弗里德曼：“正如我提到的，LLMs使用文本令牌，而Sora处理的是视觉补丁，将所有视觉数据——视频和图片——转换成补丁。在训练方面，你能透露是完全自监督的，还是进行了一些手动标记？人类在这一切中扮演了什么角色？”
萨姆·奥特曼：“我不想具体说Sora的方法，但我们在工作中使用了大量人类数据。”
莱克斯·弗里德曼：“但不是互联网规模的数据？所以有很多人。‘很多’是个复杂的词，萨姆。”
萨姆·奥特曼：“我认为在这种情况下‘很多’是个公平的词。”
莱克斯·弗里德曼：“因为对我来说，‘很多’……听着，我是个内向的人，和三个人在一起就已经很多了。四个人，那就很多。但我猜你的意思是……”
萨姆·奥特曼：“标记这些模型数据的人肯定不止三个。”
莱克斯·弗里德曼：“好的。对。但从根本上来说，有很多自监督学习。因为你在技术报告中提到的是互联网规模的数据。那是另一个美妙的……就像诗一样。所以有很多数据不是人工标记的。它以这种方式是自监督的吗？”
萨姆·奥特曼：“是的。”
莱克斯·弗里德曼：“然后问题是，互联网上有多少数据可以用于这种自监督方式，如果我们只知道自监督的细节。你有考虑公开更多细节吗？”
萨姆·奥特曼：“我们有。你是指特别针对Sora吗？”
莱克斯·弗里德曼：“是的，特别是针对Sora。因为这很有趣，LLMs的这种魔力现在能否开始转向视觉数据，这需要做些什么？”
萨姆·奥特曼：“看起来对我来说是可以的，但我们还有更多工作要做。”
莱克斯·弗里德曼：“当然。发布系统有什么风险？为什么你担心发布这个系统？可能有哪些危险？”
萨姆·奥特曼：“坦白说，我们在发布系统之前需要做的一件事就是让它以足够的效率工作，以满足人们对这个系统的期望，所以我不想淡化这一点。还有大量工作要做。但你可以想象深度伪造、错误信息等问题。我们试图成为一个在发布到世界上的东西方面深思熟虑的公司，不难想象这些可能带来的坏影响。”
莱克斯·弗里德曼：“你正处于一个非常艰难的领域。你认为根据版权法训练AI是否公平使用？”
萨姆·奥特曼：“背后的问题是，创造有价值数据的人是否应该有某种方式获得补偿，我认为答案是肯定的。我现在还不知道答案是什么。人们提出了很多不同的想法。我们尝试了一些不同的模型。但如果我是一个艺术家，比如，A，我想能够选择退出别人用我的风格生成艺术作品。B，如果他们确实用我的风格生成艺术作品，我想有一种经济模式与之相关联。”
莱克斯·弗里德曼：“是的，就像从CD转向Napster再到Spotify那样。我们需要找出某种模式。”
萨姆·奥特曼：“模式会变化，但人们需要得到报酬。”
莱克斯·弗里德曼：“嗯，应该有某种激励措施，如果我们进一步放大视角，让人们继续做酷炫的事情。”
萨姆·奥特曼：“在我担心的所有事情中，人们会做酷炫的事情，社会会找到某种方式来奖励它。这似乎是很根深蒂固的。我们想要创造，我们想要有用，我们想要以某种方式获得地位。这不会消失的。”
莱克斯·弗里德曼：“但奖励可能不是金钱上的。它可能是名望和对其他酷炫事物的庆祝。”
萨姆·奥特曼：“也许在某种方式上是金融的。再次，我不认为我们已经看到经济系统如何运作的最后一个演变。”
莱克斯·弗里德曼：“是的，但艺术家和创作者担心。当他们看到Sora时，他们就会想，‘哇。’”
萨姆·奥特曼：“当然。当摄影首次出现时，艺术家们也非常担心，然后摄影成为了一种新的艺术形式，人们通过拍照赚了很多钱。我认为类似的事情会继续发生。人们会用新工具以新的方式创造。”
莱克斯·弗里德曼：“如果我们只是看YouTube上的内容，你认为未来五年里会有多少是使用Sora或类似AI生成的内容？”
萨姆·奥特曼：“人们谈论AI在五年内会做多少工作。人们的框架是，当前有多少工作会被某种AI完全取代？我思考的方式不是AI会做多少工作，而是AI会在多长时间范围内做多少任务。所以如果你考虑经济中所有的五秒任务、五分钟任务、五小时任务，甚至五天任务，有多少可以由AI完成？我认为这是一个更有趣、更有影响力、更重要的问题，而不是AI可以做多少工作，因为它是一种工具，将在越来越多的任务上以越来越高的复杂性和越来越长的时间范围内工作，让人们能够在更高的抽象层次上操作。所以，也许人们在他们做的工作中会变得更加高效。而在某个点上，这不仅仅是数量上的变化，而是质的变化，关于你能够在脑海中保持的问题类型。我认为YouTube上的视频也会是一样。许多视频，也许大部分视频，将会在制作中使用AI工具，但它们仍然基本上是由一个人思考、组合、完成其中的部分工作。有点像指导和管理它。”
莱克斯·弗里德曼：“是的，这很有趣。我是说，这很吓人，但思考这些很有趣。我倾向于相信，人们喜欢看其他人或其他真实的人——”
萨姆·奥特曼：“人们真的非常关心其他人。”
莱克斯·弗里德曼：“是的。如果有比人更酷、更好的东西出现，人们会在两天内关注它，然后他们就会回到人类身上。”
萨姆·奥特曼：“这似乎是非常根深蒂固的。”
莱克斯·弗里德曼：“这就像国际象棋的事情，‘哦，是的，’但现在大家继续下国际象棋。让我们忽略房间里的大象，即与AI系统相比，人类在下棋方面确实很糟糕。”
萨姆·奥特曼：“我们仍然进行赛跑，而汽车要快得多。我是说，有很多例子。”
莱克斯·弗里德曼：“是的。也许它只会像Adobe套件那样成为工具，可以使制作视频变得更容易等等。”
“听着，我讨厌站在镜头前。如果我能找到一种方法不用站在镜头前，我会很高兴。不幸的是，这还需要一段时间。生成特定人物的脸部在视频格式中是有难度的，相比于生成一般人物，尽管它正在接近，但仍然存在难度。”
【GPT-4】
莱克斯·弗里德曼：“让我问你关于GPT-4。有很多问题。首先，它也很惊人。回顾过去，它可能会成为历史上的一个转折点，就像3、5和4以及ChatGPT一样。”
萨姆·奥特曼：“也许5会是转折点。我不知道。很难从现在的角度来说。”
莱克斯·弗里德曼：“我们永远不会知道。这就是未来的烦恼之处，很难预测。但对我来说，回顾过去，GPT-4，ChatGPT确实令人印象深刻，历史性的印象深刻。所以，请允许我问，对你来说，GPT-4和GPT-4 Turbo最令人印象深刻的能力是什么？”
萨姆·奥特曼：“我认为它有点糟糕。”
莱克斯·弗里德曼：“典型的人类，也习惯了一件了不起的事情。”
萨姆·奥特曼：“不，我认为它是了不起的东西，但相对于我们需要达到的地方以及我相信我们将要达到的地方，GPT-3的时候，人们就像，‘哦，这太神奇了。这是科技的奇迹。’确实是，当时是。但现在我们有了GPT-4，回头看GPT-3，你就会觉得，‘那简直难以想象地糟糕。’我期望5和4之间的差异会和4与3一样，我认为我们的工作是生活在未来几年里，记住我们现在拥有的工具回头看会觉得有点糟糕，这就是我们确保未来变得更好的方式。”
莱克斯·弗里德曼：“那么，GPT-4最令人赞叹的糟糕之处是什么？我的意思是——”
萨姆·奥特曼：“它能做最好的事情是什么？”
莱克斯·弗里德曼：“它能做最好的事情和那些最好事情的限制是什么，让你可以说它糟糕，因此给你灵感和对未来的希望？”
萨姆·奥特曼：“我最近更多地将它用作类似于头脑风暴的合作伙伴。”
莱克斯·弗里德曼：“是的，[听不清]很适合那个。”
萨姆·奥特曼：“里面有一丝令人惊奇的东西。当人们谈论它做的事情时，他们就像，‘哦，它帮助我更高效地编程。它帮助我更快更好地写作。它帮我从这种语言翻译成另一种语言，’所有这些神奇的事情，但有一些关于创意头脑风暴的合作伙伴的东西，‘我需要为这个东西起一个名字。我需要以不同的方式思考这个问题。我不确定该怎么做，’我认为这让人窥见了我希望看到更多的东西。”
“另一个你能看到一丝的东西是，当我可以帮助处理更长时间范围的任务，分解成多个步骤，也许执行其中一些步骤，搜索互联网，编写代码，无论什么，把它们组合起来。当那有效时，虽然不是很常见，但非常神奇。”
莱克斯·弗里德曼：“与人类的迭代反馈对我来说很有效。你是指它可以独立完成一个10步骤的问题吗？”
萨姆·奥特曼：“是的，当它可以独立去做一个10步骤的问题时，这种情况更常见。但这并不是经常发生，有时候可以。”
莱克斯·弗里德曼：“添加多层抽象化，还是说只是顺序执行？”
萨姆·奥特曼：“两者都是，把问题分解然后在不同层次的抽象化上执行，然后把它们组合起来。看，我不想贬低GPT-4的成就，但我也不想夸大它。我认为我们正处于指数曲线上，不久的将来我们会回顾GPT-4，就像现在回顾GPT-3一样。”
莱克斯·弗里德曼：“话虽如此，我的意思是，ChatGPT是人们开始相信的一个转折点，不仅仅是OpenAI内部。”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“也许这里有信仰者，但当你想到——”
萨姆·奥特曼：“从这个意义上说，我确实认为这将是很多世界从不信任变成信任的时刻。那更多的是关于ChatGPT界面。通过界面和产品，我也指的是对模型进行后训练和我们如何调整它以对你有帮助，如何使用它，而不仅仅是底层模型本身。”
莱克斯·弗里德曼：“底层模型和RLHF（Reinforcement learning from human feedback，基于人类反馈的强化学习）或类似的调整它使之对人类更有吸引力、更有效和生产力更高，这两者中哪个更重要？”
萨姆·奥特曼：“我是说，它们都非常重要，但RLHF，后训练步骤，那些我们在基础模型上做的小包装，即使它是巨大的工作量，对于说出它的重要性来说，什么也没说。某种意义上，我们确实必须做两件事。我们必须发明底层技术，然后我们必须弄清楚如何将其变成人们会喜欢的产品，这不仅仅是实际产品工作本身，还有另一步，如何对齐它，使其有用。”
莱克斯·弗里德曼：“以及如何让规模工作，让很多人同时使用它。所有这些事情。”
萨姆·奥特曼：“还有那个。但那是一个已知的难题。我们知道我们必须扩大规模。我们必须做两件之前从未做过的事情，我会说这都是相当重大的成就，然后还有很多其他公司以前必须做的事情，比如扩大规模。”
莱克斯·弗里德曼：“将上下文窗口从8K扩大到128K令牌，从GPT-4到GPT-4 Turbo有什么比较？”
萨姆·奥特曼：“大多数人大部分时间不需要完全使用到128K。虽然如果我们远眺未来，我们将拥有几十亿的上下文长度。你会输入你所有的信息，你随时间累积的所有历史，它会逐渐更好地了解你，那会很棒。现在，人们使用这些模型的方式，并不是这样做。有时人们会输入一篇论文或相当一部分代码库，等等，但大多数模型的使用并不是大部分时间都在利用长上下文。”
莱克斯·弗里德曼：“我喜欢这是你的‘我有一个梦想’演讲。有一天，你将根据你一生的完整上下文或你性格的全貌来被评判。这很有趣。所以，你希望的扩展部分，是拥有越来越大的上下文。”
萨姆·奥特曼：“我曾经在网上看到一个视频剪辑，我可能记错了数字，但是像比尔·盖茨谈论一台早期电脑上的内存量，可能是64K，也许是640K，之类的。大部分内存被用作屏幕缓冲区。他简直无法真诚地想象世界最终会在电脑中需要千兆字节的内存或电脑中的太字节内存。而你总是会这样，或者你总是需要跟随技术的指数增长，我们将找到如何使用更好的技术。所以我现在真的无法想象上下文长度某天真的会达到十亿。它们可能不会字面上达到那里，但实际上会感觉像是达到了那里。但我知道我们会使用它，并且一旦拥有，我们真的不想回头。”
莱克斯·弗里德曼：“是的，即使是说‘十亿’，10年后可能听起来都很傻，因为它会是数万亿乃至更多。”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“会有某种突破，使之有效感觉像无限的上下文。但即使是120K，我必须承认，我还没有将其推向那个程度。也许是输入整本书或书的部分，论文等。GPT-4有哪些有趣的用例你见过？”
萨姆·奥特曼：“我觉得最有趣的不是任何特定的用例，我们可以谈论那些，但最有趣的是那些将其作为任何知识工作任务默认起点的人，这主要是年轻人。这一点，它可以做很多事情相当好。你可以使用GPT-V，可以用它帮助你编写代码，帮助你进行搜索，帮助你编辑论文。对我来说最有趣的是那些将其作为工作流程起点的人。”
莱克斯·弗里德曼：“我也是，对很多事情都是。我将其作为阅读书籍的阅读伙伴。它帮助我思考，帮我深入思考想法，尤其是当书籍是经典时。我发现它往往比Wikipedia上的内容要好，即使在被广泛讨论的话题上。它以某种方式更加平衡和细腻。或许是我，但它激发我比阅读Wikipedia文章更深入地思考。我不太确定是什么原因。”
"你提到了这种合作。我不确定魔法是在这里（头脑中），还是在那里（GPT中），或者是在两者之间的某处。我不确定。但对于我开始使用GPT处理知识任务时，我通常会在之后进行事实检查，比如检查它是否编造了一些听起来非常可信的虚假内容。你怎么解决GPT可能编造非常有说服力的虚假信息的问题？我们如何确保它基于真实？"
萨姆·奥特曼：“这显然是我们非常感兴趣的一个领域。我认为随着即将推出的版本，它会变得更好，但我们将继续在这上面工作，我们今年不会解决所有问题。”
莱克斯·弗里德曼：“嗯，可怕的是，随着它变得更好，你将越来越少进行事实检查，对吗？"
萨姆·奥特曼：“对此我有两种想法。我认为人们是技术的更成熟用户，比我们通常认为的要成熟得多。”
莱克斯·弗里德曼：“当然。”
萨姆·奥特曼：“人们似乎真的理解GPT，任何这些模型有时会产生幻觉。如果任务至关重要，你得检查一下。”
莱克斯·弗里德曼：“除了记者似乎不太理解这一点。我看到记者半心半意地使用GPT-4。这是——"
萨姆·奥特曼：“在我想批评记者的长列表中，这不是我最主要的批评。”
莱克斯·弗里德曼：“嗯，也许更大的批评是，成为记者的压力和激励机制意味着你必须非常迅速地工作，这是一种捷径。我希望我们的社会能够鼓励——"
萨姆·奥特曼：“我也希望。”
莱克斯·弗里德曼：“——需要几天甚至几周时间的深入新闻报道，并奖励高质量的深度新闻报道。还有以平衡的方式呈现信息的新闻报道，即使批评是吸引点击的东西，即使编造事实也能吸引点击和标题完全误导。我敢肯定你有很多人因为所有这些戏剧而点击。”
萨姆·奥特曼：“可能是。”
【关于记忆和隐私】
莱克斯·弗里德曼：“记忆和隐私，这是关于人类文明的一个更大问题，我很希望能够看到改变。你给了ChatGPT记忆的能力，你一直在尝试记住之前的对话。同时还有能力关闭记忆。我有时候希望我也能这样做。根据情况开启或关闭记忆。我猜有时候酒精可以做到这一点，但可能不是最佳选择。你通过这种方式玩弄记忆的想法，记住对话或不记住，你看到了什么？”
萨姆·奥特曼：“我们在这里的探索还很初步，但我认为人们想要的，或者至少我对自己的期望，是一个随着时间了解我并变得对我更有用的模型。这是一个初步的探索。我认为还有很多其他的事情要做，但这是我们想要达到的目标。你希望使用一个模型，在你的生活中或使用一个系统，它会是多个模型，随着你生活的过程中它会变得越来越好。”
莱克斯·弗里德曼：“是的。这个问题有多困难？因为现在它更像是记住一些小事实和偏好等。那记忆呢？你不希望GPT记住你在11月经历的所有事情和所有的戏剧，然后你可以——”
萨姆·奥特曼：“是的。是的。”
莱克斯·弗里德曼：“因为现在你显然有点回避它。”
萨姆·奥特曼：“不仅仅是我希望它记住那些事情。我希望它能够整合那些经历的教训，并在未来提醒我做出不同的选择或注意什么。我们所有人在一生中都会在不同程度上从经验中获益，我希望我的AI助手也能随着经验增长。所以如果我们回过头去想象数万亿的上下文长度，如果我能把我一生中与任何人的每次对话都输入进去，如果我能把我所有的邮件输入输出都放在每次提问的上下文窗口里，那会很酷。”
莱克斯·弗里德曼：“是的，我认为那会非常酷。有些人可能会听到这些并担心隐私问题。你对此怎么看，即AI变得更有效，真正整合你经历的所有数据并给你建议的这一方面？”
萨姆·奥特曼：“我认为正确的答案就是用户选择。任何我希望从我的AI助手的记录中删除的东西，我都希望能够取出。如果我不想记住任何事情，我也希望如此。你和我可能对隐私与实用性的权衡有不同的看法，这对OpenAI来说完全正常。但我认为答案就是非常简单的用户选择。”
莱克斯·弗里德曼：“但是公司应该对用户选择有很高的透明度。因为过去有时候公司会有点暧昧，‘嗯，我们默认收集你所有的数据。我们出于好意，比如广告等。’但对那些细节的透明度不够。”
萨姆·奥特曼：“这完全正确。你之前提到我对11月那段时间的事情有所回避。”
莱克斯·弗里德曼：“我只是在逗你。”
萨姆·奥特曼：“嗯，我认为那是一段非常痛苦的经历，确实让我在很长一段时间内无法动弹。那绝对是我经历过的最艰难的工作之一，因为我不得不尝试在这里重组碎片，而我还处于震惊和痛苦之中，而且没人真正在乎那些。我的团队给了我一些空间，我没有以我正常的水平工作。但有一段时间，不得不同时处理这两件事确实很难。但我有一天早上醒来，就想，‘这是发生在我身上的一件可怕的事情。我可以永远觉得自己是受害者，或者我可以说这是我一生中将会触及的最重要的工作，我需要回到它上面。’这并不意味着我已经压抑了它，因为有时我会在半夜醒来想起它，但我确实感觉有义务继续前进。”
莱克斯·弗里德曼：“那说得很美。但在那里可能还有一些挥之不去的东西。比如，我会担心的是，你提到的信任问题，那种对人的偏执而不是普遍的信任，像是使用你的直觉。这是一个棘手的舞步。”
萨姆·奥特曼：“当然。”
莱克斯·弗里德曼：“我的意思是，因为我在业余时间的深入探索中，我一直在深入研究泽连斯基政府和普京政府以及战时高压环境下的动态。发生的是不信任，你开始孤立自己，双方都是，你开始无法清晰地看待世界。这是一个人类的担忧。你似乎处理得很好，从中吸取了好的教训，感受到了爱，并让爱激励了你，这很好，但仍然可能会留下一些东西。我很想问的是，你对GPT能做什么和不能做什么的直觉是什么。所以它为生成的每个令牌分配大约相同的计算量。在这种方法中是否有空间进行更慢的思考、顺序思考？”
萨姆·奥特曼：“我认为将会有一种新的范式来处理那种思考。”
莱克斯·弗里德曼：“它会在架构上类似于我们现在看到的LLMs吗？它是LLMs的一个附加层吗？”
萨姆·奥特曼：“我可以想象很多实现方式。我认为这不如你提出的问题重要，那就是，我们是否需要一种慢一点的思考方式，其中答案不需要立即得出。我猜你可以说，从精神上讲，你希望AI能够更加努力地思考一个更难的问题，对一个更简单的问题更快地给出答案。我认为这将是重要的。”
莱克斯·弗里德曼：“这是一种我们人类拥有的思维方式，你应该能够努力思考？这是一种错误的直觉吗？”
萨姆·奥特曼：“我怀疑这是一个合理的直觉。”
莱克斯·弗里德曼：“有趣。那么，一旦GPT达到比如GPT-7，它是否就能够即时看到，“这里是费马大定理（当整数n>2时，x^n+y^n=z^n无正整数解）的证明”？”
萨姆·奥特曼：“在我看来，你会希望能够为更难的问题分配更多的计算资源。在我看来，如果你问这样的系统，“证明费马最后定理”，与“今天是什么日期？”相比，除非它已经知道并且记住了证明的答案，假设它必须去弄清楚，看起来这会需要更多的计算资源。”
莱克斯·弗里德曼：“但是，它看起来基本上像是LLM自我对话那样的事情吗？”
萨姆·奥特曼：“也许吧。我的意思是，你可以想象很多可能的工作方式。什么是正确的或最佳方式，我们还不知道。”
莱克斯·弗里德曼：“好的，谢谢你分享这些深刻的见解，萨姆。这确实是一个探索AI能力边界的激动人心的时代。”
————————
未完继续
（易句）
（本文由AI翻译，网易编辑负责校对）