然而,首先我想简要解释一下为什么我和Anthropic没有过多谈论强大AI的积极影响,以及为什么我们可能会继续主要谈论风险。具体来说,我做出这个选择是出于以下几个原因:

• 最大化影响力。AI技术的基本发展及其许多(不是全部)好处似乎是不可避免的(除非风险破坏一切),并且主要由强大的市场力量驱动。另一方面,风险不是预先确定的,我们的行动可以大大改变它们发生的可能性。

• 避免被视为宣传。AI公司谈论AI的所有惊人好处可能会给人一种宣传的感觉,或者好像是在试图转移人们对缺点的注意力。我也认为,原则上花太多时间"为自己说话"对一个人的灵魂是有害的。

• 避免自大。我经常对许多AI风险公众人物(更不用说AI公司领导人)谈论后AGI世界的方式感到反感,好像他们的使命是像先知引导人民走向救赎那样单枪匹马地带来这个世界。我认为将公司视为单方面塑造世界是危险的,将实际的技术目标视为本质上的宗教术语也是危险的。

• 避免"科幻"包袱。虽然我认为大多数人低估了强大AI的积极影响,但少数讨论激进AI未来的人经常以一种过度"科幻"的语气这样做(例如,提到上传思维、太空探索或一般的赛博朋克氛围)。我认为这会导致人们不那么认真地对待这些说法,并给它们赋予一种不真实感。需要明确的是,问题不在于所描述的技术是否可能或可能发生(主要文章会详细讨论这一点) - 更多的是"氛围"含蓄地夹带了一堆关于什么样的未来是可取的、各种社会问题将如何发展等的文化包袱和未明确说明的假设。结果往往读起来像是一个狭隘亚文化的幻想,而对大多数人来说却令人反感。

尽管有上述所有担忧,我确实认为讨论拥有强大AI的美好世界可能是什么样子很重要,同时我们要尽最大努力避免上述陷阱。事实上,我认为有一个真正鼓舞人心的未来愿景是至关重要的,而不仅仅是一个灭火计划。强大AI的许多影响是对抗性的或危险的,但在这一切的最后,必须有我们为之奋斗的东西,一个每个人都能受益的正和结果,一些能让人们超越争执并直面未来挑战的东西。恐惧是一种动力,但这还不够:我们还需要希望。

强大AI的积极应用列表极其庞大(包括机器人技术、制造、能源等等),但我将集中讨论少数几个我认为最有可能直接改善人类生活质量的领域。我最兴奋的五个类别是:

1. 生物学和身体健康
2. 神经科学和心理健康
3. 经济发展和减少贫困
4. 和平与治理
5. 工作和意义

根据大多数标准(除了科幻"奇点"愿景),我的预测将是激进的,但我是认真和诚恳地表达这些预测的。我说的一切很容易是错的(再次重申我前面的观点),但我至少试图根据对各个领域进展可能加速多少以及这在实践中可能意味着什么的半分析评估来形成我的观点。

我很幸运在生物学和神经科学领域都有专业经验,我也是经济发展领域的业余爱好者,但我肯定会在很多方面犯错。写这篇文章让我意识到,将一群领域专家(生物学、经济学、国际关系和其他领域)聚集在一起,写出比我在这里产出的更好、更有见地的版本将是很有价值的。最好将我在这里的努力视为那个小组的一个起始提示。