Sam Altman最新万字访谈实录：我大部分时间都专注于对研发、算力和产品的思考

3月21日，Sam Altman接受The TED Audio Collective播客访谈，对话中通Sam Altman回顾了过往经历，谈论了AI技术发展的现状与未来，AI与人类的关系，AI时代的机遇、挑战与组织管理等内容。

01

被解雇与回归

主持人提问：

1.在过去一年里，你肯定被问过无数次的问题开始：被自己创办的公司解雇，是一种什么样的感受？

2.这和 Steve Jobs 当年被迫离开 Apple 时的情况有相似之处吗？

4.你从中吸取了什么教训？你最自豪的时刻是什么？

Sam Altman实录：

那是一种超现实的恍惚感。首先涌上心头的是困惑。然后，各种各样的情绪都出现了，但最先出现的还是困惑。后来是沮丧、愤怒、悲伤，还有感激。各种情绪交织在一起。就像是体验了一遍人类情感的完整光谱，情感的广度令人印象深刻。

老实说，当时有太多紧急事务需要处理，根本没有时间去消化这些情绪。所以在那 48 小时里，我并没有做什么特别的。反而是当一切尘埃落定，我不得不在百感交集之中重新开始工作的时候，才真正感到困难。

关于Steve Jobs。我觉得这和 Steve Jobs 的情况在很多方面都大相径庭。而且整个过程非常短暂，五天内就结束了。就像一场非常奇怪的、短暂的噩梦，然后就回去收拾残局，继续工作。

实际上，也许我记错了，可能只有四天。我记得是四天。我学到了很多，如果再来一次，我会在沟通方式上做出改变，包括在整个过程之中以及之后，要更直接、更清晰地说明情况。我认为 OpenAI 长期以来一直笼罩着一层怀疑的阴云，在这方面我们本可以做得更好。

我知道我和一群非常优秀的人共事。不过，在危机和充满不确定性的压力下，看到团队如此出色，我最自豪的时刻之一，就是看到管理团队在没有我的情况下短暂运作，并且清楚地知道，他们中的任何一个人都完全有能力管理公司。我为自己选择了这些人、为我给予他们的教导（无论程度如何），以及为公司所处的稳固地位感到自豪。

那种员工支持的感觉确实很好，但那并不是最让我印象深刻的。我记得我为团队感到非常自豪，但并不是因为这个原因。我不做研究，也不开发产品。我会参与一些决策，但不是大多数。我负责打造的是公司，所以这肯定是我拥有“著作权”的东西。

02

AI是漫长技术进步中的一个新阶段

主持人提问：

1.你平时都做些什么呢？如何安排时间？

2. AI 如此迅速地超越了许多人类的能力，对此感到惊讶吗？

3.什么样的新能力会变得重要？

4.当AI辅助科学家时出现的积极成果与消极影响，你怎么看？

5.你如何使用 ChatGPT 来解决你在工作中遇到的问题？

Sam Altman实录：

这是个好问题。早晨通常不会那么混乱，但是到了下午，事情往往会失控，各种各样的情况接踵而至，你会有些疲于应付，就像在救火一样。所以我学会了在早上把真正重要的事情做完。我大部分时间都专注于对研发、算力和产品的思考，其他事情则会少花一些时间。不过，在任何一个特定的时刻，具体的情况都可能有很大的不同。

我们最新的模型几乎在所有方面都显得比我聪明，但这并没有真正影响到我的生活。我仍然关心着和以前一样的事情。我的工作效率可能会提高一些，甚至可能会大幅提高。我猜想，随着社会逐渐消化这项新技术，社会的发展速度将会大大加快。当然，我希望科学进步的速度也会大大加快。我们正在与这个令人惊叹的新事物、新工具共存。但是，你现在的生活和几年前相比有多大不同呢？其实并没有那么不同。我认为，从长远来看，AI 确实会改变一切。但如果倒退十年，我可能会天真地认为，一旦我们拥有了一个和现在最强大的模型一样强大的模型，一切都会改变。但现在我觉得，那种想法太幼稚了。

最终，我认为整个经济都会转型。我们会找到新的事情去做，对此我毫不担心。即使每次面对一项新技术时，我们都以为所有的工作岗位都会消失，但我们总能找到新的工作。诚然，有些工作会消失，但我们会找到很多新的事情去做，而且希望是更好的事情。因此，我认为，这只是漫长的技术进步指数曲线中的又一个新阶段。

我认为，在某些方面，AI 革命看起来像是互联网的反面。因为在互联网时代，那些经营公司的人不相信互联网会改变世界，他们的公司因此倒闭，因为他们没有做出必要的改变。但对于那些接受互联网的人来说，行动的含义非常明确：我需要一个功能完备的网站，我需要知道如何通过网站销售我的产品，适应数字革命并非难事。而我现在从许多创始人和 CEO 那里听到的恰恰相反，那就是所有人都相信 AI 会改变游戏规则，但没有人知道这对领导力、工作、组织、产品和服务意味着什么。他们都一无所知。从这个意义上说，AI 革命更像是工业革命，而不是计算机革命或互联网革命。关于 AI 革命将如何展开，存在巨大的未知数，但我认为我们也可以对它的发展方向做出许多预测。

关于重要的新能力，打个比方，提出问题的能力将比找到答案的能力更重要。这与我的观察是一致的，即便是在过去几年里。我们过去非常看重一个人头脑中积累的知识量，如果你是一个“事实收集器”，那会让你显得很聪明，受人尊敬。但现在，我认为成为一个“点连接者”比成为一个“事实收集者”更有价值，如果你能综合信息并识别模式，你就拥有了优势。

你看过电视剧《太空堡垒卡拉狄加》吗？他们在剧中反复强调的一句话是：“这一切都曾发生过，这一切还将再次发生。” 当人们谈论 AI 革命时，我确实感觉到它在一些非常重要的方面有所不同，但它也让我想起了以往的技术恐慌。我小时候，互联网上出现了一个新事物。我觉得它很酷，其他人也觉得它很酷。它显然比之前的东西好得多。当时我还小，没有亲身经历，但大一点的孩子告诉我，老师们开始禁止使用 Google。

如果你能查到任何事实，那么去上历史课、记忆事实还有什么意义呢？如果我们能即时查到任何事实，我们就会失去一些关于如何教育孩子以及如何成为负责任的社会成员的关键要素。你甚至不需要发动汽车引擎开车去图书馆，在卡片目录里找书，它就在那里。这感觉不公平，感觉不对，感觉我们会失去一些东西。我们不能那样做。而对于所有这些新技术，通常的情况是我们获得了更好的工具，期望值提高了，但人们的能力也随之提高，我们只是学会了如何做更困难、更有影响力、更有趣的事情。我希望 AI 也是如此。如果你几年前问别人：A, 2024 年会不会有一个像 GPT 4 一样强大的系统？B, 如果一个预言家告诉你你错了，并且会有一个这样的系统，世界会发生多大变化？你的日常生活会发生多大变化？我们会面临生存风险吗？几乎所有人都会说，第一个问题肯定是否定的。但如果我错了，而且它真的发生了，那么我们在第二个问题上就束手无策。然而，这件了不起的事情发生了，我们现在就在这里。

在创新领域，Aiden Toner Rogers 发表了一篇新论文 ，展示了研发科学家的一些好消息。当他们使用 AI 辅助时，他们提交的专利数量增加了 39%，这使得产品创新增加了 17%。其中很多都是突破性的创新，发现了新的化学结构。主要的受益者是顶尖科学家，而不是底层科学家。如果你是排名后三分之一的科学家，几乎没有什么好处，但顶尖科学家的生产力几乎翻了一番。这种翻倍似乎是因为 AI 自动化了许多想法生成任务，让科学家能够将精力集中在想法评估上。伟大的科学家非常善于识别有前景的想法，而水平一般的科学家则容易出现误判。所以这些都是好消息，极大地释放了科学创造力。但这是有代价的，在研究中，82% 的科学家对他们的工作不太满意。他们觉得自己做的创造性工作变少了，技能没有得到充分利用。在这种情况下，人类似乎被降格为评判者，而不是创造者或发明者。

我有两个相互矛盾的想法。对我个人而言，在 OpenAI 发生的最令人欣慰的事情之一是，当我们发布这些新的推理模型时，我们会把它们交给那些传奇的科学家、数学家、程序员等等，询问他们的想法，听他们讲述这些模型如何改变他们的工作，他们如何以新的方式工作。我当然从中获得了巨大的职业乐趣，因为我必须创造性地思考一个问题，并找到一个以前没有人找到过的答案。当我想到 AI 会接管这项工作时，如果真的发生了，我确实会感到有些失落。但我预计，实际情况是，我们将会有新的方式来解决难题，而参与解决最困难的问题会带来快乐。如果我们使用新的工具，以不同的方式增强我们的能力，我想我们会适应的，但我不确定。

关于我如何使用ChatGPT，老实说，我用它来做一些很平常的事情。我不是那种用它来帮助我产生新的科学想法的人，我用它来处理邮件、总结文件，或者其他一些非常普通的事情。

03

Altman坚信人类仍然会重视彼此间的连接

主持人提问：

1.人们有时更青睐 AI 生成的内容，但一旦被告知这是 AI 生成的，他们就会改变看法。你对此怎么看？

2.我们为什么仍然需要人际连接？

3.在一个信息争议日益激烈、事实越来越难以说服他人的世界里，AI能发挥什么作用？

4.如何利用这些工具来纠正人们的误解？

5.为什么幻觉问题对AI是个难题？

6.未来AI在医疗诊断方面的演变是怎样的？

7. AI 会促使人们更谦逊吗？

8.你对依赖AI辅助表达有什么看法？

9.很多年后，人类的价值将体现在哪里？

Sam Altman实录：

我想先谈谈一个普遍存在的现象：人们有时更青睐 AI 生成的内容，但一旦被告知这是 AI 生成的，他们就会改变看法。这种情况屡见不鲜。我最近看到一项研究，即使在那些声称厌恶 AI 艺术的人群中，他们在挑选最喜爱的艺术作品时，仍然更多地选择了 AI 生成的作品，而非人类创作。只有当他们被告知作品的来源后，情况才会发生逆转。我们可以举出许多类似的例子，但一个趋势是，AI 在许多方面已经达到了与人类相当的水平。然而，我们似乎更倾向于关注人类而非 AI，我认为这是一个非常好的迹象。我们目前的讨论都基于推测，而且正如我将要阐述的，我对这些推测的确定性并不高。尽管你未来与 AI 的交流可能会比现在更频繁，但你仍然会非常看重与人类的交流。这是根植于我们的生物本能、进化历史和社会功能中的深层需求，无论你如何定义它。

关于人际连接。你会很快发现，如果一直与一个完美无缺、极具同理心的对象交流，你会错过生活中的戏剧性、张力，或者其他某些东西。我认为人类天生就在意他人的想法、感受以及如何看待我们。我不认为 AI 能够取代这种需求。虽然你可以和 AI 进行富有成效的对话，从中获得认同感，这是一种很好的娱乐方式，就像玩电子游戏一样，但我不认为它能满足我们作为群体和社会一员的社交需求。当然，我的看法可能是错误的，也许 AI 能够完美地影响我们的心理，以至于它确实能够取代这种需求，但如果真是这样，我会感到非常遗憾。

AI 很难替代归属感。同样，也很难从机器人那里获得地位和认同，我们需要他人的关注才能感受到自身的重要性、魅力或受尊重。这正是我想要表达的。我可以想象在不久的将来，AI 将远超人类的能力，并能完成许多令人惊叹的任务。当我设想那个世界及其中的居民时，我仍然认为那些人会非常关心彼此，仍然非常在意相对地位以及相对于他人的竞争。但我认为很少有人会以 AI 的成就和能力来衡量自己。

关于AI纠正误解。世界上确实存在一些人能够以某种方式拓展我们的思维，这是一种强大的能力。但这样的人并不多，能够与他们交流是一种难得的机会。如果我们能够创造出一个像理想的晚宴客人一样的 AI，它风趣幽默、博学多才、对你充满兴趣，并且愿意花时间去了解你，进而从新的角度启发你的思考，我认为这是一件好事。我个人也有过与 AI 交谈的经历，就像与一位特定领域的专家交流，这种经历改变了我对世界的看法。当然，人类专家也能做到这一点，只是我当时没有机会与他们交流。

关于幻觉问题。我认为许多人仍然停留在 GPT3 的时代，那是 2021 年的“过去时”了，当时这些模型并没有真正发挥作用，而且确实产生了大量的幻觉。如果你使用当前的 ChatGPT，它仍然会存在幻觉，但我认为令人惊讶的是，它总体上表现得非常稳定。我们训练这些模型根据它们之前所接触的全部文本进行预测。训练数据中不可避免地存在错误信息。有时也会出现模型未能有效泛化的情况，如何教会模型在适当的时候自信地表达“不知道”，而不是进行猜测，这仍然是一个活跃的研究领域。但随着我们新的推理模型的出现，这方面已经取得了显著的进步。

关于未来医疗诊断，我认为这将会成为流程的一部分。同时，还会有许多其他的改进措施，但这将是其中之一。有一些新的研究，在过去的一两年里涌现出许多类似的研究，但上周让我印象深刻的一项研究表明，当你单独比较 AI 和医生时，AI 胜出。然而，AI 也击败了医生与 AI 组成的团队。我对这一结果的解读是，医生并没有从 AI 辅助中受益，因为当他们不同意 AI 的判断时，他们会选择推翻 AI 的判断。你可以在历史上找到类似的例子。例如，当 AI 开始下棋时，最初人类棋手更胜一筹。随后，AI 棋手占据上风。然后在一段时间内（具体时长我不记得了），AI 与人类棋手合作的表现优于单独的 AI，因为他们可以整合不同的视角。但最终，AI 再次超越了 AI 与人类的组合，因为人类棋手会推翻 AI 的判断并犯错，或者他们没有观察到某些关键信息。如果你认为自己的职责是在任何情况下都推翻 AI 的判断，那么 AI 辅助的效果就会大打折扣。另一方面，我认为我们还处于探索人类与 AI 如何协同工作的早期阶段。AI 将会成为比人类医生更出色的诊断者，这可能不是你需要与之抗衡的方面。但人类在许多其他方面会做得更好，或者至少患者更希望由人类来完成这些任务，我认为这一点至关重要。我一直在思考这个问题。我即将为人父。我的孩子将永远不会比 AI 更聪明。对于即将出生的孩子们来说，他们所认知的世界将是一个 AI 无处不在的世界，这将是自然而然的。当然，AI 比我们聪明，当然，它可以做我们无法做到的事情，但这又有什么关系呢？因此，我认为这仅仅对于我们这一代处于过渡期的人来说才显得不同寻常。

AI会让人谦逊。在某种程度上，这促使我们保持谦逊，我认为这是一件好事。但另一方面，我们还不了解如何有效地利用这些工具，也许有些人已经过早地过度依赖它们了。

关于依赖AI，确实，我已经无法拼写复杂的单词了，因为我完全依赖自动更正功能。但我认为这没什么。人们很容易对这类事情产生道德恐慌。即使人们更多地依赖 AI 来辅助表达想法，也许这只是未来的发展趋势。我见过一些学生，如果手边没有 ChatGPT，他们就不想写论文，因为他们面对空白的页面或闪烁的光标会感到无从下笔。我确实观察到这种依赖性正在逐渐形成。您对如何预防这种情况有什么看法？或者这只是未来，我们应该适应它？我不确定我们是否应该阻止这种情况。对我而言，写作是一种外包的思考过程，非常重要。但只要人们用一种新的写作方式来替代传统的思考方式，我认为这在方向上是可取的。有一种相当普遍但实际上很低效的工作流程：有人会先写下他们想要表达的要点，然后让 ChatGPT 将其润色成一篇包含多个段落的精美邮件，发送给另一个人。接收者再将这封邮件输入 ChatGPT，让它总结出三个关键要点。因此，我认为存在一些形式化的写作和沟通惯例，它们可能已经失去了原有的价值。我乐于看到社会规范的演变，让每个人都可以直接发送要点。

没有人知道未来人类价值的确切答案。但我认为一个更具启发性的问题是：当下，人类的价值是什么？我认为是对他人有用。并且我认为这种情况将会持续下去。很多年前，Paul Buheit 对我说过一句话，让我印象深刻。他一直在思考这个问题，那时 OpenAI 还没有成立。他预见到未来将会出现“人类货币”和“机器货币”，它们将是完全独立的货币体系，彼此互不关心。我不认为这会真的发生，但我认为这是一个非常深刻的洞见。

我从未想过机器会拥有自己的货币。但你会为 AI 所取得的成就感到兴奋，它为你发明了所有的科学、治愈了疾病、实现了可控核聚变，以及我们无法想象的巨大胜利。但是，你会关心 AI 的成就，还是更关心你的朋友，或者某个企业家的成就？我无法确定。或许不会那么在意。也许有些人会，也许会出现一些围绕特定 AI 的非常奇怪的狂热崇拜。但我相信，我们会惊讶地发现，我们仍然是以人为中心的。

04

快问快答Altman对AI发展速度、建议、AGI影响以及组织管理的看法

主持人提问：

1.关于 AI，你最近有什么重新思考或者改变了看法的？

2.有多快？

3.你认为人们在适应 AI 方面得到的最糟糕的建议是什么？

4.关于如何适应 AI，你最推崇的建议是什么？

5.关于 AI，你最激进或者最不被大众接受的观点是什么？

6.即便如此，他们的关注也可能只是暂时的，20 分钟后，他们就会开始考虑晚餐吃什么。

7.关于 OpenAI 应该如何管理我们的集体心理，你有什么建议？

8. 当你谈到“组织韧性”时，具体指什么？

Sam Altman实录：

我认为“快速起飞”比我几年前认为的更有可能发生。

至于关于起飞速度，很难进行精确的推断，但可能是在几年之内，而不是十年。

AI 正在撞墙。我认为这是最懒惰、最逃避思考的方式。

关于如何适应 AI，最显而易见的方法就是去使用这些工具。OpenAI 做了一件我认为非常了不起的事情，我们向公众开放了我们所知的当今世界上最强大的模型，GPT-4，任何人都可以使用，只需要每月支付 20 美元。如果你不想支付这 20 美元，你仍然可以使用一个非常出色的模型。所以，这项技术是触手可及的。你可以接触到最前沿、最强大的工具，与世界上最顶尖的专家使用的是同一个平台。我认为这非常棒。所以，去使用它，去探索你喜欢它的哪些方面，不喜欢哪些方面，以及你认为它将带来怎样的变革。

最不被接受的观点是，至少在短期内，它不会像人们想象的那么重要。从长远来看，一切都将改变。我甚至认为，即使我们发布了第一个 AGI，也不会有太多人在意。

科技从业者和哲学家会在意。这是我观察到的反应最一致的两个群体。

关于 OpenAI 应该如何管理集体心理，因为我们将经历这个堪称疯狂的“超级智能”起飞阶段。我们如何让团队成员保持心理健康？我们目前还没有真正进入“超级智能”阶段，但我可以想象，当我们经历这个过程时，它会带来极高的风险和巨大的压力。即使是现在，我们正处于 AGI 的发展阶段，也已经能够感受到这一点。但我认为，为了应对未来的挑战，我们需要构建更强大的组织韧性。

关于组织韧性，在面对极高风险和不确定性时做出正确决策，并随着实际情况变化快速调整行动，至关重要。我认为，首先要画一个四象限图，让 OpenAI 的每个人思考：他们的每个选择有多重要，风险有多高，可逆性如何？是像穿过一扇旋转门一样轻松，还是会一去不复返？那些后果严重且不可逆转的决策，需要你慢下来，提前做好充分的思考和反思，因为它们至关重要，一旦做出便无法撤销。其他三个象限，可以快速行动、试验、试行，并对自己的认知保持怀疑；但后果严重且不可逆的那个象限才是关键，必须做对，这也是我希望大家投入最佳思考，甚至是最好的提示词工程的地方。

05

AI监管及未来

主持人提问：

1.你之前写过一篇关于如何成功的博客，其中关于自信的部分，你现在还认同吗？

2.在伦理道德方面，AI和人类应该扮演什么角色？

3.你如何看待伦理和安全问题？

4.展望未来十年左右，你最担心的是什么？

5. AI 在发展中国家如何才能成为一股向善的力量？

Sam Altman实录：

我想是的。创立 OpenAI 时，我们坚信这一点。那时 OpenAI 正饱受外界质疑，外部看法与我们内部信念大相径庭。我认为在那个阶段，我对公司最重要的贡献，就是不断提醒大家：外部世界排斥任何新事物，排斥任何可能与既定信念相悖的事物。所以大家对我们有很多负面的、甚至疯狂的评论。然而，我们取得了惊人的进展，我知道现在还早，我知道我们必须暂时放下怀疑，才能相信它会继续 Scaling，但它确实一直在 Scaling。所以我们要把它推向极致。现在看来这似乎是理所当然的，但当时，我真的相信，如果我们没有这样做，可能很长一段时间内都不会有今天的成就，因为我们是唯一有足够自信去做那些看似荒谬事情的人——投入十亿美元去 Scaling 一个 GPT 模型。所以，我认为这一点至关重要。

AI伦理方面，我认为在这方面，我们最终必须依靠人类。我听过很多类似核威慑的比喻，比如，“我们需要领先于不良行为者，然后我们就能相互确保摧毁。” 等等，但军备竞赛的比喻在这里并不适用，因为许多不良行为者并非国家行为者，他们面临的风险或后果不同。而且，现在我们要信任一家私营公司，而不是民选官员？这太复杂了，根本行不通。

关于AI伦理问题，主持人Adam Grant认为人类必须制定规则。AI 可以遵循这些规则，我们应该要求 AI 遵循我们集体决定的任何规则，但规则必须由人类制定。其次，人们似乎总是习惯于进行历史类比，我理解这一点，但我不认为这完全是好事，甚至觉得有些糟糕，因为历史案例与未来情况并不相同。因此，我鼓励大家尽可能地立足于 AI 与以往事物的不同之处，基于我们目前已知的知识来展开讨论，而不是凭空猜测，然后试图设计一个适用于此的系统。我坚信，将 AI 作为一种显著提升个人能力、个人意志（或者你想怎么称呼它）的工具，对我们目前的情况而言是一个非常好的策略，而且优于某个公司、对手、个人或任何实体独占当今世界所有 AI 算力的策略。但我也承认，我不知道当 AI 在很大程度上变得更具自主行动和决策能力 (Agentic) 时会发生什么，不是说我们可以给它们一个任务，让它们编程三小时，而是我们可以让它们去做一些非常复杂的事情，这些事情通常需要一个完整的组织花费多年才能完成。我猜想我们必须探索新的模式。同样，我认为历史经验对我们的帮助不会太大。

在软件领域也没有帮助。我认为，与其他任何强大的技术一样，AI 在美国受到监管，而且我认为，在立法方面，欧盟可能更有能力。但我认为欧盟对 AI 的监管在另一方面并无益处。例如，当我们完成一个新模型时，在美国可以比在欧盟更早发布，因为欧盟有大量的监管流程。如果这意味着欧盟总是落后于前沿几个月呢？我认为这只会降低他们在该领域的熟练度，以及经济引擎、理解力和任何你希望获得的其他优势。因此，要正确把握监管平衡真的很难，而且我认为，我们显然需要一些监管。

关于10年后最担心的事，我认为仅仅是变化的速度。我深信人类有能力解决每一个问题，但我们有许多问题需要尽快解决。

关于AI 在发展中国家如何才能成为一股向善的力量，我们已经能够将每单位智能的价格每年降低大约 10 倍。但不可能一直这样持续下去。但我们已经这样做了有一段时间了。这真是太了不起了。你知道，我认为智能变得如此便宜，这本身就很了不起。

我想，从某种程度上说，这与问题相悖，至少目前，只有政府和负责任的大公司才有能力构建真正强大的模型。目前是训练模型，但使用模型则截然不同。

我是一个技术乐观主义者和科学爱好者，我认为这是我能想象到的最酷的事情，也是我能想到的、度过工作时间的最好方式，能够参与到我认为是我们这一代人最有趣、最酷、最重要的科学革命中。这是一种莫大的荣幸，难以置信。然后，从非自私的角度来说，我感到一种对科学进步的责任感，我认为科学进步是社会进步的一种方式，而且在我有能力做出贡献的所有事情中，这是我最相信的，它将推动科学进步，从而提高生活水平，改善人类体验。我感到一种责任感，但不是一种消极的责任感，而是一种充满感激的责任感。

富足是我脑海中浮现的第一个词，繁荣是第二个。总的来说，我希望看到一个人们可以做更多事情、更充实、过上更好生活的世界，无论我们每个人如何定义“更好”。就是这些。