Sam在亚洲第一私立学府庆应义塾大学的问答挺精彩的。很加分的是，主持人教授把大部分时间都留给了现场提问的同学，同学们的问题也都挺有水平的，所以为之记。

庆应义塾大学（Keio University）的同学们、教职员工们，欢迎来到这个特别的会议。庆应义塾大学有着世界领导人与下一代领导人、我们的学生之间公开对话的传统。今天，我们欢迎ChatGPT的创建者Open AI的Sam Altman。

我代表所有庆应义塾大学，非常感谢Sam接受我们的邀请。非常感谢你的到来。Sam和庆应义塾大学之间的关系始于2018年，当时我们在东京的这个校园举办了名为Y Combinator Meetup的活动。当时，Sam是Y Combinator的首席执行官。正如你们许多人所知，Y Combinator是一个标志性的技术创业加速器，它为4，000多家公司的成立做出了贡献，包括Airbnb、Amplitude、Coinbase、Dropbox等，按字母顺序排列。

因此，这是庆应义塾大学主持一家由Sam担任首席执行官的公司的第二次活动。所以，今天，我们期待在场的同学们提出许多问题。本次对话的主持人将是庆应义塾大学的Kyoko Hirose Ohara教授，她是语言学和自然语言处理方面的专家。在加入庆应义塾大学之前，Kyoko是IBM东京研究实验室日语处理小组的成员。她在加州大学伯克利分校获得语言学博士学位。

所以，事不宜迟，让我们欢迎Sam和Kyoko上台。

主持人（Kyoko）：

很高兴再次见到您。我们三分钟前才见过面。所以，欢迎回到庆应义塾大学。

（Sam）谢谢。

我听说你两个月前在日本。

（Sam）是的。

所以，这实际上是你第二次来日本。欢迎回到日本。那么我问你，是什么让你在四月访问后这么快就回到了日本？

Sam：

日本对我们来说是一个超级重要的国家。我认为人类和机器在这里一起工作并弄清楚如何拥抱自动化技术做更多。这是我一直很兴奋的事情。上次我们在这里举行了一系列关于合作潜力的会议。我们很高兴能回来。所有的谈话都进展顺利。而且我认为我们将能够做一些伟大的事情。我也很喜欢日本。

主持人：

噢，很好，很高兴兴听到。好的。那么这让我想到了下一个问题，即您今天为什么要来庆应义塾大学？我相信其他大学也很乐意让您进入他们的校园。

Sam：

嗯是的。好吧，如前所述，我们有着长期的良好关系。所以，再次回来很有趣。

主持人：

嗯。好的。谢谢。

所以，我想再问一个问题，接着我将先会议注册表中选择五个问题。然后我会请发言者提出一些问题。

所以，另一个问题，因为我是一名从事自然语言研究的语言学家，与自然语言处理研究人员一起工作，所以我想问一下ChatGPT。与ChatGPT的交互感觉就像它理解人类语言一样。那么，ChatGPT在多大程度上科学地理解了人类语言？

Sam：

我认为我们已经到了“理解”的定义真正重要的地步。

如果它可以，如果它对你有用，如果它和与人交谈一样有用，那么我认为，对我来说这足以说，好吧，它理解语言，即使它理解的方式是不同的。而且，我认为人们批评这样的系统并说，嗯，这就像统计处理一样。我总是说，嗯，你认为你脑子里在想什么？我认为重要的是实用性和它为人们提供的价值。

我当然觉得它能理解很多语言。它可以做一些肯定有用的事情。它似乎可以理解相当复杂和微妙的主题以及它们如何组合在一起。而且我认为在不远的将来的某个时候，它将能够产生非常重要的新想法。它将能够对人类知识和科学进步的总和作出贡献。而且，我认为我们可以讨论理解的含义。但这是一些非常重要的门槛。

主持人：

好的。是的，很高兴知道您对人类理解语言的看法。谢谢。

所以我的最后一个问题是，自从我教书以来我就有了这个问题。您认为在教育中使用AI的合适方式是什么？我在这里显然有偏见。所以你们都可以对这个答案打折扣。

Sam：

让我从一个历史例子开始。当计算器出来的时候，你可以从当时的人，当时的数学老师那里找到所有这些故事，说数学教育结束了。我们需要禁止这件事。我们需要用锤子敲打现有的所有计算器。否则，我们的孩子，我们的学生永远学不会数学。他们永远不会记住他们的乘法表。而且他们永远不会，比如，学习如何，比如，使用计算尺，或者，比如，在三角表或其他任何东西中查找东西。那就像，部分正确，部分不正确。

毫无疑问，记忆和类似死记硬背的计算在数学教育中变得不那么重要了。但是发生的事情是，当我们拥有更好的工具并且当我们能够增加人们可以做的事情的潜力时，他们就会发挥这种潜力并且我们的期望也会提高。所以，在使用计算器之前，本可以花在做任何事情上的时间现在都花在了学习代数或微积分上。我不确切地知道在高中等学校曾经教过多少数学。但我认为同样的事情会再次发生。

我们有一种新的教育工具，有点像文字计算器。相对于几年后我们将拥有的工具，我们现在拥有的工具仍然非常原始。我们教导人们的方式将不得不改变。我们评估学生的方式将不得不改变。就像，带回家的论文可能再也不会完全一样了。但是出于多种原因，学习写作真的很重要。出于多种原因，学习编程非常重要。对我来说最重要的是你学会了如何在这个过程中思考。我仍然不能，比如，处理一个非常复杂的想法而不尝试把它写出来。

我认为我们会弄清楚的是，学习写一篇文章的有价值的部分是在思考方面变得更好和更严谨。这才是我们真正关心的。我们会找到更好的方法来教授和评估它，因为我们将拥有这个令人难以置信的新工具。

我认为抵制它可能不是一个好主意。这通常行不通。但是依靠它并找到新的事情去做，比如，我嫉妒那些开始他们的人，五岁的孩子或其他什么。我不知道在日本几岁开始上小学。但无论现在谁开始，我都嫉妒他们所有人，因为他们将会，他们将使用这个新工具取得如此令人难以置信的进步。教育将把他们推向更高的水平。我们所有人也是。我们也都将接受它。

我认为这将是教育向前迈出的一大步，尽管教育必须随之发展。

主持人：

是的。谢谢。所以会有新一代的人从一开始就接触到这种新工具。你认为那些孩子会是什么样子？

Sam：

令人难以置信的聪明，受过良好教育和体贴。

这段历史是，每当我们拥有更强大的工具时，人们就会做更令人印象深刻的事情。人们总是担心，如果你，更多地自动化并提供更好的工具，人们就会，比如什么都不做。有些人不会，我觉得也可以。但是有些人，足够多的人，社会进步的速度令人难以置信，会做出惊人的事情。我非常有信心我们会在这里看到这一点。谢谢。

主持人：

好的。所以，是的，我的问题就这么多了。然后让我们转到听众的问题。

所以我从注册表中挑了五个问题。第一个与创业和创业有关。

那么问题来了，到目前为止，您在工作中遇到的最大挑战是什么？您是如何应对这一挑战的？

Sam：

最大的挑战是出错的次数。他们中的任何一个，就像...我可以重述 OpenAI 早期的任何具体挑战，他们听起来都很糟糕。就像，你知道的，有点像一触即发。

我们经历过它，但当时并不明显。创业的难点在于这些挑战中的任何一个都是可以解决的，但就像一周内的第 17 个挑战一样，它开始让你疲惫不堪。这也是为什么我认为最好先跳到头上，因为最终你会意识到，虽然每个人都很痛苦，但如果这 17 个没有杀了你（而你认为他们都可能）， 第 18 个可能也不会，您可能会找到解决方法。

但是在 OpenAI 的早期，有很多灾难，比如，事情变得非常糟糕，比如，钱用完了，什么都不起作用，无法获得计算交易，无法雇用好人，不知道该做什么。

前四年半，我们不知道，我们没有产品。在最初的四年里，我们对产品一无所知。所以，是的，挑战的数量是你必须要学会应对的事情；好消息是，正如我刚才提到的，通过其中任何一个（挑战），你确实学得很快。

主持人：

好的，这非常令人鼓舞。我有吗？好的。所以，我从注册表中选择的下一个问题当然是关于人工智能的技术进步。什么将推动技术超越大型语言模型的复杂性？

Sam：

所以，首先，我认为大型语言模型会走得更远。我认为我们还没有走到这种范式的尽头。我们会继续推动这些。我们将添加其他方式。所以，总有一天他们会一起制作视频、音频、图像、文本。随着时间的推移，他们会变得越来越聪明。

但是在那之后的下一个范式，我之前提到过这个，我非常兴奋，所以我很想扩展它，这些模型不仅可以模仿人类会做什么，而且以新的方式组合现有的想法，做人们喜欢 GPT-4 的一切，但确实有助于产生基本的新想法。

因此，我认为除了继续推动 GPT 范式之外，我们下一步要做的是弄清楚我们如何超越它，以及我们如何让这些模型去发现新知识、治愈疾病、弄清楚如何解决环境危机，解决所有物理问题，无论你能想象到什么。我认为这将使这些当前模型看起来像历史上这种愚蠢的小玩具和旁注。

当然，它们仍然有用，但如果你真的想过它是什么样的，如果这些模型能够产生新的科学进步，我相信这是让世界变得更好并且我们随着时间的推移获得增长的唯一可持续的基本方式 。如果我们考虑一个世界，我们不仅拥有过去的速度，而且可能在一年或五年内，与过去 500 年的速度一样多，那是非常令人兴奋的 .

主持人：

谢谢。所以我想继续讨论与 AI 的社会方面相关的问题。您如何看待人工智能的法律或伦理风险，例如版权和隐私问题？

Sam：

因此，使用任何足够强大的工具，你都会有难以置信的优势，然后你就会面临必须管理的严重风险。该工具的优势可能是显而易见的。但除了科学之外，这还将对教育、医疗保健、生产力以及从事更多工作的能力产生影响，尤其是在一个可以使用更多资源的社会和世界中工作。这一切都太棒了。

肯定有很大的挑战，版权就是其中之一。而且我不认为我可以坐在这里，告诉你我们对我们的合理使用立场非常有信心。我认为法律体系必须发展。不仅如此，我认为我们需要进入一个人人都能在新革命中获胜的世界。所以这将重塑整个社会。

如果您正在创建帮助这些模型变得更聪明的内容，如果您正在教他们如何做这些新事物，或者如果人们以您的方式使用它们。如果您是一名艺术家，而人们正在使用图像生成器来生成符合您风格的艺术作品，那么您一定会从中受益。

在这次环游世界的旅行中，我们一直在与人们谈论他们想要什么，人们想要非常不同的东西。我们将不得不找出适合每个人的东西。但这很重要。

上个月我们的环球长途旅行即将结束。我们想要这样做的很多原因是为了摆脱硅谷泡沫，并与人们讨论他们想从这些系统中得到什么，它们在哪里不起作用，它们有什么用，它们没有什么用。我们的笔记本上写满了要进行的改进，以及关于如何减轻他人版权风险等事情的想法。

主持人：

是的，非常感谢你。我很高兴听到你去和人们交谈。然后这就引出了下一个关于领导力的问题。您如何保持团队成员的积极性？你是如何成功地保持良好的团队合作的？

Sam：

我认为我们有世界上最简单的答案，那就是我们正在构建 AGI。

我认为，这是我们能想象到的最有趣、最有影响力、最酷的问题。所以我们所有人的动机是非常内在的。一旦你开始，即使你不相信我们会这样做，就像大多数人来看路线图和工作一样，他们很快就会相信它。所以动力很容易，团队合作也很容易。

这并不是说我们没有问题，也不是说我们没有互相生气的人。我们有很多这样的事情，但我们确实有一种文化，人们会主动提醒彼此，我们把这件事做好是非常重要的，我们所有人都做出贡献是非常重要的。我们能把个人小冲突搁置一旁吗？再一次，远非完美，但比我见过的任何其他公司都要好。

主持人：

太棒了。好的，是的，所以团队有动力致力于 AGI。

好吧，关于注册表中的最后一个问题。你自己的教育，如果你能重新成为一名大一学生，让你学习任何专业或学科，你会学什么，为什么？

Sam：

我认为我们可能即将进入经济增长和技术进步的最大黄金时代，至少自互联网诞生以来是这样。那时我还像个孩子，所以我记不太清了，但据我所知，那是一段非常有趣和疯狂的时光。

所以从某种意义上说，你学什么并不重要，因为这会涉及到每一个行业。我个人会选择科学或技术，因为我认为这是学习如何思考的最佳框架。技能，但其他人可能会有不同的想法，这也很好。

重要的技能是创造力、适应性、应变能力，学会快速适应世界，因为变化的速度会非常快。然后弄清楚该怎么做。在一个计算机可以做任何事情的世界里，弄清楚该做什么、其他人想要什么、什么是有用的技能。你可以在任何专业中学到这一点。我想这就是我会做的。而且，我会非常靠近这些工具，而且我愿意随时改变我的生活计划。

主持人：

是的，很有启示性。太感谢了。

所以从现在开始，我想征求与会者的问题。我想提醒大家用英语问一些问题，好吗？然后每个问题最好不要超过 30 秒，对吧？而且肯定不到一分钟，好吗？请将自己限制在一个问题上。也不要说出你的任何个人信息，比如你的姓名、所属单位等，因为我们可能会公开今天的录像。

好的，有问题请举手。

问题1：

我很荣幸现在向你提问，就像史蒂夫乔布斯，作为苹果公司的首席执行官，他不允许他的孩子拥有 iPhone 或苹果产品。那么作为 OpenAI 的 CEO，您会做一些与您自己或您的家人类似的事情吗？

Sam：

我想坚持自己的构建产品标准，让我的孩子们使用。

(同学）好的，谢谢。

问题2：

谢谢你的演讲。我相信已经有所成就，继续工作在经济上是不合理的（意思是Sam早就财务自由了）。

所以我相信你内心有一种想要改变世界的动机。但对你来说，动力是否一直存在于自己身上，或者它有时会改变？有时您会觉得自己没有动力。这就是我想问你的。

Sam：

是的，像任何人一样，我经历了很长一段时间没有动力。不幸的是，他们在最不方便的时候来了。但我认为没有人会一直努力工作。在职业生涯中，我们都会经历风风雨雨。

我已经请了两次很长的假。在这两件事的开始，我基本上一直睡到中午，整天玩电子游戏，直到我赶上休息之类的。但我发现我可以非常积极地从事我关心的、我觉得有趣的、我认为重要的事情。而且我几乎没有动力去做不适合这种方式的事情。所以我有一长串我觉得我应该做的事情，在这一点上我已经接受了永远不会完成的事情。这对我来说很好。

我认为每个人都在谈论他们感到超级积极的时期。有一段时间你根本没有动力是完全正常的 。我认为，选择正确的项目是成功的秘诀，与合适的人在一起是激励的秘诀。而且我还发现，如果我感到没有动力，通常是因为那些事情是错误的。所以我很长一段时间都做投资者。当我不再是一名投资者时，情况就很清楚了。

我有一个雄心壮志，一直努力做到这一点。但我想我不想整天坐在沙滩上。我得做点什么。我想不出有什么比这更让我愿意做的了。所以我很感激能够做到这一点。

(主持人）是的，我认为这对你们中的许多人来说是个好建议。

问题3：

我想知道如何将幻想变成现实。我的梦想是心灵上传，但也很遥远。而眼下，心灵上传也遥遥无期。我想知道如何让概念变成现实。

Sam：

我认为你只需要继续努力，并意识到你会被误解很长时间。而且很长一段时间你都会听起来很疯狂。

我们于 2016 年 1 月开始致力于 OpenAI。我想我们之前宣布过，在 2015 年 12 月。当时，人们就像，AGI 是 100 年之后，如果有的话，可能永远不会。这有点令人沮丧。

但我们只是坚持了下来，因为我们认为它很重要。我们知道物理定律并没有阻止它。所以我们决定继续努力，即使我们失败了。我们认为我们很可能会失败，但如果我们成功了，我们知道这将是一件大事。而且我认为同样的事情，如果你现在开一家思维上传公司，你很可能会失败，但如果你成功了，那将是一件大事。如果那是你想做的，那就去做吧。

当我们开始时，我们并不知道我们将如何构建 AGI。我们的想法就像一个可以玩魔方和玩电子游戏的机器人。就像我们对语言模型一无所知。但我们知道我们想去的地方。我们知道我们想去哪里。我们有一个非常神奇的攻击向量，那就是我们有一个可以学习，真正学习的算法。它在规模上变得更好。当时，我们不知道它在规模上会变得更好。我认为这是过去十年中最重要的科学成果之一（注：即Transformer架构），但确实如此。但这给了我们一个攻击向量。这就像一个我们知道可以解决且很重要的问题。我们有了这个攻击向量，这就足以开始了。如果你能找到同样的东西来上传思想，那就是你想做的，那就去做吧。

问题4：

下午好，奥特曼先生。所以我听了你在美国国会的演讲。你说了一些类似的话，如果 AI 确实出错了，它可能会大错特错，如果我没记错的话。

所以我的问题是，作为平台的创始人之一，比方说，彻底改变了人工智能，但让人工智能为世人所知，如果 AI 确实出错了，你觉得责任有多大？你对此有多大的责任感？如果 AI 确实出错了，你对这个结果有多大的责任感？

Sam：

是的，这在一定程度上取决于如何，但无论出现什么问题，我们都会感到非常负责。

如果其他人构建它并且不遵循我们的安全措施，我们仍然会觉得我们应该做更多的事情来更快地构建出好的东西。如果我们自己犯了错误，我们会感觉非常糟糕。所以我认为其中一件事，所以无论出现什么问题，我们都会感到超级负责。但是有不同程度取决于我们在其中的角色。我们当然为能够将其推向更好的道路而感到自豪。

我认为世界现在所处的语言模型轨迹很多，而且管理更安全的轨迹本质上比让所有这些 RL 代理以这些难以理解的方式玩游戏更容易。我认为我们目前的对齐贡献很好，但我们还有很长的路要走，我们需要更多的研究。

我们意识到我们只会成为这里许多参与者中的一个，但我们将尽我们所能努力工作，以确保我们产生积极影响，并确保整个行业尽可能顺利。我们需要很多地方的合作。

这次旅行的原因之一是与世界各地的领导人讨论我们认为需要在全球范围内发生的事情。我非常悲观地参加了这次旅行，但怀疑在短期内是否有可能获得全球合作这将显着降低生存风险。我现在正在结束这次旅行，我非常乐观地认为我们可以完成它，所以这是一个非常积极的发展。

谢谢。

（主持人）很高兴听到，谢谢。

问题5：

非常感谢您给我这个机会。我只是想问一个简短的问题，你希望AI变得像贾维斯，像钢铁侠，它可以帮助托尼·斯塔克之类的东西，找到新的元素之类的东西。

但是，如果 AI 变得如此先进以致于... 例如，DeepL 在上周或其他时候发现了一种新的搜索算法。如果它变得如此先进怎么办？它会变得像 Ramanujan(?) 期刊一样，我们必须在其中研究 AI 产生的内容吗？

Sam：

这是肯定的。因为这些系统变得非常强大，我们必须有一些方法来了解它们是如何工作的，并让这些系统帮助我们评估它们的输出。我们如何确保非常先进的系统对齐的计划的一部分是，使用我们可以理解的级别的系统来帮助我们理解更先进系统的输出。我认为我们很快就会走向这样的世界。

我们对这个语言模型轨迹的另一个希望是，模型本身可以帮助我们理解它们在做什么，并逐步解释，这是这个，这是这个，这是那个。我不明白从第六步到第七步的飞跃。它可以解释它，然后越来越多，并且在越来越精细的水平上，直到你这样做。

但我认为，基本上鉴于我们期望这些模型遵循的轨迹，我认为如果不使用它们来帮助我们做到这一点，我们基本上无法理解它们。所以是的，我们将不得不这么做。

（主持人）所以你实际上对如何去做有一些想法？

是的，这是我们研究的重点。非常感谢。

问题6：

在日本，不仅博士生，还有本科生或硕士生都在做研究，并接受了 NLP 的顶级国际会议。

那么在大学里，在没有大量计算资源的情况下，什么样的课题或者什么样的支持，才有可能让这些学生继续他们的NLP研究呢？

Sam：

所以我认为我们正在走向一个学术研究再次变得非常重要的时代。我们已经用完了计算过剩带来的轻松收益。像 OpenAI 这样的人在扩展大型模型方面仍然比我认为可能比任何大学部门都要好。但是现在有很多工作要找到更有效的算法并更好地理解这些模型。

我们有一个研究访问计划，我们允许研究人员访问基础 GPT-4 进行研究。那里发生了惊人的事情。在创建数据集和评估方面有很多出色的学术工作。但真正了解这些模型如何能够做这些令人惊奇的事情，我认为学术界将在那里做令人难以置信的工作，我们很乐意提供帮助。

谢谢。

（主持人）很好，你很乐意帮助这项研究。太好了，谢谢。

问题7：

你好，谢谢你给我这个机会。我想问一下ChatGPT如何衡量基于不同国家和文化背景的道德标准。

Sam：

所以我会谈谈我们如何衡量它，我也会谈谈我们如何考虑得到它。

很长一段时间，我们不确定我们是否能够对齐这些模型，完全不知道。我们想出了这种技术，称为从人类反馈中强化学习。而且效果出奇的好。如果你看一下 GPT-4 相对于之前任何模型的对齐水平，这就像向前迈出了一大步。但是现在我们在技术上可以再次做到这一点，对于目前的实力，该模型将需要用于未来模型的新技术。

可能还有一个更难的问题，即您要使模型与谁的价值观保持一致？它当然不应该是OpenAI 坐在房间里为我们的贴标机决定和编写指令。我们已经启动了一项新计划，向有兴趣研究或提出测试新想法以收集这些信息的人提供资助。我们也有一些自己的想法，会是很棒的柏拉图式的理想。地球上的每个人都会花几天时间与 ChatGPT 交谈，看看不同的道德情况，然后说，这就是我的想法，这就是我对这个问题的看法。这个模型甚至可以帮助你。

它可以说，好的，你给出了这个答案。这是与您截然不同的人的另一种观点。如果您想保持答案不变，完全取决于您，但如果这改变了您的想法，您可以改变它。然后，根据不同司法管辖区的所有法律，我们可以了解社会的集体价值偏好。您可能无法将其写下来，但我认为您可以学习它。并且有很多不同的方法可以起作用。你可以想象，设置系统应该做什么和不做什么的广泛界限，也可能是默认值。然后在其中，在不同的国家或个人用户，你可以改变很多。

我认为这有点像我们正在走向的世界。没有两个人会同意模型是公正的。没有两个人会就世界上完全相同的价值函数达成一致。但是人们可以像我们在世界各地的社会中所做的那样就某些限制达成一致，然后根据他们的需要对其进行定制。就我们如何衡量它而言，我们对此进行了很多评估。然后有大量关于 GPT-4 的价值调整的研究，其他人已经在它之上做了。

问题8：

所以现在每个人都知道人工智能具有不可思议的潜力。考虑到令人难以置信的快速技术发展，每个人都很高兴知道未来会怎样。所以我的问题是，你认为未来，比如说未来五年或十年，在人工智能方面会是什么样子？如果人们失业，或者也许每个人都会过上更好的生活。那么您对此有何看法？

Sam：

谢谢。可能这有两件事。有些工作会消失。我想我希望每个人都能过上更好的生活。我认为这可以同时成立。但我认为它不会对就业产生人们预期的影响。如果你看看现在发生的事情，当前的系统擅长做任务而不是工作。人们说，好吧，但他们会越来越擅长工作。这是真的。但我认为这些工作的定义会不断变化。当你可以自动化越来越大的块时，它会让人们在更高、更有创造力的水平上工作，做更多的事情。所以我们现在看到计算机程序员使用这些工具两到三次，有时甚至更多，比以前更有效率。然后就是这个问题，嗯，当他们的生产力不是原来的两倍或三倍，而是 20 或 30 倍时会发生什么？

我认为，答案是世界会得到更多更好的东西。我不认为我们会写完代码。我认为我们不会用完新产品。我想我们会发现我们离满足需求还差得很远。我们会在其他所有行业看到类似的事情。我们也会看到，我们已经看到了，也许提示工程师，第一个例子。但随着时间的推移，我们会看到全新的工作类别出现。基本上，我只是认为所有的预测，或者几乎所有的预测都是错误的。你必须密切关注这项技术，看看它是如何发展的。但在之前的任何技术革命中，一直都是这样，好吧，不会再有工作了。尽管未来的工作总是不同的，但我们似乎永远不会缺少新的东西。渴望表达我们的创造力，获得满足，为社会的脚手架贡献一些有用的东西，我们都从中受益。

是的，也许未来的工作在今天是不可想象的。我们看着他们说，好吧，那不是真正的工作。他们只是为了好玩而探索那个新的星系。但是会有新的工作，它们对人们来说是有意义的。我想如果你和几千年前的人交谈，他们会看看我们今天的工作并说，嗯，那也不是真正的工作。

-谢谢。

问题9：

太感谢了。我认为人工智能正在重塑我们的社会。正如你所说，一些工作正在消失。我想你可以看出坐在这里的人都是有特权的人。所以也许我们可以在这段时间轻松生存，我希望如此。但是低收入国家的穷人呢？我们怎样才能为他们做点什么？这是我的问题，谢谢。（听口音是中国人，一位心地善良家境好的中国妹子）

Sam：

两件事情。第一，我认为这场技术革命将提升每个人，但它对穷人的帮助最大。如果你想一想它的真正含义，如果我们可以降低认知劳动和认知服务的成本，如果你考虑优质的医疗保健，那么现在全世界的穷人可能都负担不起。如果我们能够提供接近免费的优质医疗建议，那对穷人的帮助将超过对富人的帮助，尽管这确实有帮助。

教育也是如此。今天有钱人可以负担得起良好的教育。我们可以提供比地球上任何人都可以免费获得的更好的教育，这对穷人的帮助要大于对富人的帮助。所以我认为这种特殊技术的形状，像许多其他技术一样，就像我认为 iPhone 为使世界平等做了很多工作一样，将成为一种平等的力量。

但是，第二点，你提出了关于工作轮班的一个很好的观点。同样，目前还不完全清楚这将如何运作。如果你问五年或十年前的专家，他们会说，这种即将到来的自动化对从事传统低薪工作的人来说真的很糟糕。首先是体力劳动，然后是低端认知劳动，然后是中端，然后是高端，就像计算机程序员，也许，也许不是，然后也许在未来的方式，但可能永远不会 ，因为它有一些人类的魔力，创造力。

当然，它的方向正好相反。也许我们会进入一个世界，在这个世界里，开车穿过城镇或送货上门，或者做一些体力工作非常、非常昂贵，而且你可以花 7 美元制作一个 iPhone 应用程序。我认为很难预测这一切会如何发展。即便如此，我认为我们确实需要探索基本收入等问题作为这种变化的缓冲。我怀疑在一个有人工智能的世界里，世界的社会经济契约将会发生变化。我认为，如果资本主义以与过去完全相同的方式继续下去，相对于劳动力而言，资本的杠杆作用可能会过大。所以我认为我们需要做点什么，但我认为它应该对穷人的帮助相对大于对富人的帮助。

问题10：

太感谢了。所以我一直听到很多人担心使用文本生成、图像生成或视频生成的人们将更难确定什么是真相，什么是虚假信息或只是网上的错误信息。您认为我们有什么办法可以减轻这种风险吗？

Sam：

首先，我想说我们的状况已经很糟糕了。比如，我们应该尽量不要让它变得更糟，但我认为我们也应该问问我们如何才能让它变得更好。比如，这项技术可以做些什么来让它变得更好？而且我认为那里有很多东西，但因为那不是你问的。

我认为我们可以尝试很多想法。所以人们正在研究水印和检测器，这会有所帮助。你可以想象浏览器或电话或社交网站对这些东西实施检查。我认为我们作为一个社会可以适应这一点。我认为我们也可以学习，这显然是在 Photoshop 发布之后发生的。就像，有几个月或几年，甚至每个人都被恶作剧所吸引，然后很快你就可以理解它，它可以被 Photoshop 处理，你不能再相信它了。所以我认为我们可以再次适应，但我认为不同的不是任何静态媒体，而是这些模型能够实现的交互性，以及定制的一对一互动说服。所以也许我们都同意我们再也不会相信视频了。但如果我们正在和某人聊天，我们认为这是一个真实的人，也许我们甚至认为它是我们的朋友，我认为那里会有一些心理黑客攻击，我们可能还没有完全准备好。而且我不太清楚这将如何进行以及适应或不适应的难度。

我认为，当我们开始了解它时，围绕它制定一些法规和规范可能会有所帮助。但是关于静态生成的内容，我认为我们已经知道如何适应它，而且我们已经充斥着错误信息。我们绝对应该要求企业不仅不能把这变得更糟，而且要设法让它变得更好。但不知何故，我认为这比即将到来的全新事物更容易挑战。谢谢。

问题11：

下午好。未来要在硅谷的公司工作，需要具备什么样的技能？例如，利用 AI 创造新事物的技能，或者创建另一个 AI 系统(如ChatGPT)的技能？

Sam：

很多。我认为擅长编程并善于弄清楚如何思考复杂系统总是有帮助的。我认为您想要结合非常广泛的知识，您可以从整体上了解整个问题和特定知识。因此，弄清楚如何获得广泛的基础，然后从哪里深入是很重要的。

大量练习使用这些工具，例如深入了解可能发生的事情、即将发生的事情、如何使用它，每一代都变得越来越好。这可能是未来十年最有价值的技能。我认为任何人现在都可以开始着手这方面的工作。随着时间的推移，这只会变得更加重要。

如果你想从事 GPT-5 训练或其他工作，分布式系统和擅长 ML 研究可能是两个最大的领域。但我们已经与来自各种背景的人取得了巨大的成功。许多人以物理学家或数学专业的身份来到 OpenAI，根本没有从事编程或 ML 方面的工作，但很快就学会了。但是那些，是的，我想这就是我通常要说的。严格的分析背景绝对有助于我们所做的工作。但在其中，它可以来自很多领域。你应该申请，我希望能见到你。谢谢。

（主持人）很好，很励志。

问题12：

我认为你已经做出了很多重大决定，当你做出决定时，什么是重要的？做决定最重要的是什么？做决定时最重要的是什么？

Sam：

我认为尝试使用有限的数据是正确的。就像您不会做出正确的每个决定一样，那很好。但是你想获得尽可能多的权利。而且您永远不会拥有想要的那么多时间或那么多数据。而且我认为每个人都会发展自己的方法，以便在更多时候尝试正确。我认为我拥有的最重要的东西是一群才华横溢的同事。我必须做出的决定数量非常少，因为团队做出了大部分正确的决定。然后当我不得不做一个时，因为这有打赌公司的决定，或者我们不能都同意。

我主要尝试做的事情是听取公司内部的很多观点。然后我发现另一件对我来说特别重要的事情，无论是作为创业投资者还是在 OpenAI，都是真正尝试培养一种指数增长的直觉。这对我来说真的很难做到。我认为这对大多数人来说都很难。但这是我在做出每一个重大决定时都会尝试考虑的事情，就像，如果指数曲线继续前进会怎样？这意味着什么？这意味着我们现在应该做什么？我们如何计划未来的那几年？

问题13：

谢谢你给我提问的机会。正如你在一个会议中提到的，像人工智能一样只是意味着模仿人类。就像目前生成的 AI 是自上而下的，自上而下的，有点自上而下的。但是你有没有想过让 它成为某种自下而上的人工智能，或者像人类或类似的东西？

Sam：

是的，我认为现在 OpenAI 正在就这些系统做什么和不做什么以及它们是如何创建的做出很多决定。我们想摆脱这种情况。我们真的很想进入一个自下而上的世界。我们最近发起的这个项目是关于收集世界的价值观。此外，我们推出这个叫做 eval-lib 的东西的方式，人们在其中贡献他们希望我们改进模型的评估。人们到处贡献数据。我们开源了一些模型。我们把研究出来了。我们真的认为这是自下而上的事情很重要。

我们部署这一切的部分原因是我们认为这将是人类迄今为止经历过的最大的技术革命。让人们思考它，感受它，看到它的优点和缺点，为它做出贡献，这是非常关键的。因此，我们致力于越来越多地以自下而上的方式开展工作。谢谢。

问题14：

您好，非常高兴今天见到您，非常感谢您提供的宝贵见解。我有一个关于GPT的问题。正如您提到的，GPT有起有落，这并不奇怪。但我认为最大的问题是考虑到缺点的人数越多，发展速度就越慢。考虑越少，速度越快，但风险也越高。所以我认为未来取得平衡非常重要。在我最近读到的一篇日本文章中，我相信您提到了一些关于降低风险的内容。因此，作为GPT的爱好者，我想知道您认为应该在多大程度上降低GPT的风险？

Sam：

是的，这是一个很好的问题。在以足够快的速度让人们受益与确保我们能解决问题之间保持平衡非常重要。我认为最好的方法是采用良好的安全系统工程实践。我们和行业内的其他人将不断发展，在发布模型之前，我们想明确我们想要什么。因此，我们为未来的超强模型提出了许可框架。还有安全测试，您必须在培训期间和部署之前通过的危险能力评估。这在一定程度上会减慢开发速度，但我认为这是值得的。而且我认为它不一定会减慢那么多，除非我们无法弄清楚如何使其变得安全。然后，我们确实想放慢速度。我认为这非常重要。在让每个人都满意的同时保持这种平衡将是不可能的。GPT-4花了我们大约八个月的时间。在那段时间里，每个人都想要尽快发布它。我们就像，等到我们准备好了。

然后，关于您的第二个问题，我确实认为我们设法使其更加安全了。如果您看看GPT-3相对于GPT-4的一致性水平，我认为很难说这是向前迈出的巨大一步。但是，我认为重要的是我们不要对此感到太自满，并意识到对于GPT-5及更高版本，我们必须想出新的方法。研究进展并不严格遵循日历进行，所以很难说这需要多长时间。

问题15：

谢谢。谢谢您的宝贵对话。我目前正在使用ChatGPT进行翻译。在阅读大量书籍、遇到提供机会的人、付出不懈努力等许多因素中，最能促成这一突破的因素是什么？

Sam：

有几个因素。继续前行，这是几个世纪以来人类科学进步的产物，要达到这一时刻，必须聚集在一起。特别是过去几十年中制造超大规模计算机所做的工作，像难以想象的晶体管触发器一样，如果回想一下晶体管被发现的那一天。我怀疑当时的人中有人认为我们今天会在这里。如果没有硬件和系统，不仅仅是过程本身，还有网络，我们产生的全部力量，所有这些都必须聚集在一起，硬件才能发挥作用。这是人类的胜利，要聚集在那里的东西的数量。

还有一些人首先提出了神经网络和梯度下降的想法。然后是建造基础设施的人。然后有一位OpenAI的研究员撰写了一篇论文，研究某种语言模型。我认为它被称为无监督情感神经框架论文。是吗？

是的，没错。他注意到，当他真的试图专注并形象化它时，有一件非常奇怪的事情，就像一个神经元，当您逐字逐句地生成这些亚马逊评论时，它正在转向积极和消极的情绪。我认为大多数人都会错过这一点。当时大多数公司也可能会忽略其中的潜在意义，并决定将其推进到GPT-1。然后大多数公司仍然会看着GPT-1说，好吧，这还不错。而不是研究最终让我们有信心去GPT-2、3和4的规模定律。

就是这种令人难以置信的组合，我们必须站在脚手架上，加上非常严谨的研究文化和一些出色的个人见解，然后几百名具有这种团队合作意识的人聚集在一起说，我们将停止我们的个人项目，我们将致力于这件重要的事情，并尽我们所能推动它。所以，很多因素就是答案。

问题16：

谢谢您今天的演讲。在日本，特别是在互联网上，他们倾向于使用ChatGPT，享受类似人机交互的自然对话，而不是为了工作效率。您对这种以娱乐为导向的生成式AI用法有何看法？

Sam：

我想说，我完全支持它。如果人们喜欢它，发现它有用，并且想做的事情，我认为我们不能决定人们对它的个人使用。我还认为我们目前仍处于这项技术的初期阶段，人们仍在适应它并学习如何使用它。与它交谈并从中获得乐趣的人也在学习如何使用它，并将在将来将其应用于业务和生产力，但我认为这一切都很好。

所以，谢谢。一切都很好，我们对此很满意。

Sam：

也许如果这是最后一个问题，我可以讲一分钟。

这让我想起了一些事情。我认为你们都处于这场刚刚开始的令人难以置信的革命中真正受益的最佳年龄。这并不常见。大多数人的职业生涯不会以如此激进的方式开始。无论您现在想做什么来了解它，熟悉它，这对您的未来都将非常有价值。这就像，您都非常幸运。像这样的事情并不常见。

所以，我根本不用担心我是否知道我的人生计划或我到底想要使用这项技术。我认为，任何接触它、熟悉它、擅长它、思考它并最终弄清楚如何在这个世界上以一种新的方式变得富有成效的人，您都将度过一段美好时光。以及达到那里的任何方式。

谢谢。

主持人：

非常感谢，谢谢。是的，现在是结束会议的时候了。Sam，再次感谢您来到Keio与我们分享您的想法。让我们再次给Sam鼓掌。非常感谢大家。