8
月
在社区成长 8 月
LEVEL 1
1 XP
简介
想象一下十年前的自己，直接跳入当前与百科全书式人工智能自然对话的震撼中，人工智能可以制作图像、编写代码和辩论哲学。这项技术几乎肯定会改变社会吗？到目前为止，人工智能对我们的影响不是好坏参半吗？因此，如今如此多的对话都围绕着一个定义时代的问题:我们如何确保人工智能造福人类，这并不奇怪。这些对话常常演变成对人工智能的强烈乐观或悲观态度，我们的真诚目标是走一条务实的中间道路，尽管毫无疑问我们不会完全成功。虽然向“有益的人工智能”挥手是一种时尚，而且我们中的许多人都希望为其发展做出贡献，但要确定有益的人工智能在实践中的具体含义并不容易。这篇文章代表了我们试图通过将人工智能扎根于个人福祉和社会健康来揭开有益人工智能的神秘面纱。在此过程中，我们希望促进人工智能研究和产品的机会，以造福于我们的繁荣，并在此过程中分享对人工智能即将产生的影响的思考方式，从而激发我们的结论。
大局
就贸易而言，我们与人工智能的背景比与人类繁荣最受讨论的领域（例如福祉经济学、积极心理学或哲学）更接近，在我们寻找这些领域与人工智能技术世界之间的富有成效的联系的过程中，我们发现自己经常感到困惑（到底什么是人类繁荣或福祉？）并且经常陷入困境（也许没有什么可做的？ - 问题太严重了）多种多样且分散）。我们想象其他旨在创造亲社会技术的人可能会分享我们的经验，而这里的希望是在混乱中照亮一条部分道路，到达有许多有趣和有用的工作要做的地方。我们从一些主要结论开始，然后在下文中深入探讨更多细节。我们得出的一个结论是，我们无法最终定义人类福祉，这没关系。哲学家、经济学家、心理治疗师、心理学家和宗教思想家多年来一直在争论这个问题，但尚未达成共识。与此同时，人们对许多使我们的生活顺利的具体因素达成了一致，例如支持性的亲密关系、有意义且有吸引力的工作、成长感和成就感以及积极的情感体验。人们也清楚地认识到，除了暂时的福祉之外，我们还必须考虑如何在数年和数十年内确保和改善福祉——通过我们所谓的社会基础设施:重要机构，如教育、政府、市场和学术界。
这种幸福镜头的好处之一是让我们意识到一个近乎自相矛盾的事实:虽然我们人类所做的几乎所有事情背后的深层目的都是为了幸福，但不幸的是我们却忽视了它。无论是从个人福祉（自杀率、孤独感、有意义的工作）还是社会福祉（对我们机构的信任、共同的现实感、政治分歧）的常见衡量标准来看，我们都做得不好，而且我们的印象是人工智能是这种下降的同谋。然而，这种福祉观点的核心好处是，没有任何根本障碍阻止我们将福祉科学与机器学习相结合，以实现我们的集体利益。
这引出了我们的第二个结论: 我们需要一个合理的积极愿景，建立一个拥有强大人工智能、以福祉为基础的社会。与之前的其他变革性技术一样，人工智能将震撼我们的社会基础设施——无论我们是否愿意，都会极大地改变我们日常生活的特征。例如，Facebook 仅在二十年前推出，但社交媒体的冲击波已经在社会上产生了巨大的影响——颠覆了新闻媒体和我们的信息共享，让我们沉迷于点赞，并用它的外壳取代了有意义的人与人之间的联系。我们相信，强大的人工智能的影响力将超过社交媒体。因此，至关重要的是，我们努力探索、设想并迈向人工智能注入的世界，我们将在其中蓬勃发展——在这个世界中，人工智能可能会重振我们的机构，使我们能够追求我们认为最有意义的事物，并帮助我们培养我们的关系。这不是一项简单的任务，需要想象力、脚踏实地和技术合理性——以某种方式穿越先前技术批评所阐明的雷区。然而，如果我们想积极塑造未来，现在就是梦想和建设的时候了。
这就是我们最终的结论： 基金会模型及其未来部署的弧线至关重要。即使对于我们这些在该领域最深入的人来说，也很难理解模型改进的速度有多快，以及再过几年它们可能会变得多么强大。回想一下，GPT-2（按照今天的标准几乎无法发挥作用）是在2019 年才发布的。如果未来的模型比今天的模型能力更强，并且能够以更大的自主权与世界上更多的地方进行互动，我们可以预期它们与我们的生活和社会的纠缠将会急剧上升。因此，至少，我们希望使这些模型能够了解我们的福祉以及如何支持它，可能通过新算法、基于福祉的模型评估和福祉训练数据。当然，我们也希望在实践中实现人类利益——这篇博文的最后一部分强调了我们认为实现这一目标的强大杠杆点。
本文的其余部分更详细地描述了（1）我们所指的人工智能有利于我们的福祉，（2）对基于福祉的人工智能的积极愿景的需求，以及（3）帮助开发和部署人工智能以服务于这种积极愿景的具体杠杆点。我们设计这篇文章的各个部分大多是独立的，所以如果你对具体的研究方向最感兴趣，请随意跳过那里。
有益的人工智能为人类福祉奠定基础
关于人工智能造福于人类的讨论往往是高尚的，但并不是特别可行，就像无可争议但毫无内容的短语，如“我们应该确保人工智能为人类服务”。但要在人工智能或政策中有意义地实施这些想法，需要足够的精确性和清晰度，才能将其转化为代码或法律。因此，我们着手调查科学对人类利益的发现，作为通过人工智能衡量和支持人类利益的一步。通常，当我们考虑有益影响时，我们会关注民主、教育、公平或经济等抽象支柱。无论多么重要，这些都没有本质上的价值。我们关心它们是因为它们如何影响我们短期和长期的集体生活体验。
在寻找最直接研究人类繁荣根源的领域时，我们发现了有关福祉的科学文献。文献浩如烟海，跨越许多学科，每个学科都有自己的抽象概念和理论——而且，正如你所料，对于幸福到底是什么，并没有真正的共识。
例如，哲学中的享乐主义理论认为，快乐和没有痛苦是幸福的核心；而欲望满足理论却声称，幸福就是满足我们的欲望，无论我们的情绪如何。有大量关于衡量主观幸福感（广义上来说，我们如何体验和感受我们的生活）的文献，以及许多不同的框架来描述繁荣的变量特征。这些理论认为，幸福的核心是满足心理需求，例如自主性、能力和关联性的需求。其他理论认为，幸福来自于按照我们的价值观生活。在经济学中，框架与哲学和心理学中的框架押韵，但差异足以使精确的桥梁变得复杂。例如，福祉经济学运动主要关注主观福祉，并探索其许多不同的指标，如收入、人际关系质量、工作稳定性等。
在调查了如此多有趣的想法所带来的兴奋开始消退之后，也许并不奇怪，我们从根本上仍然关注什么是“正确的理论”。但是，我们认识到，事实上，在福祉方面，这一直是人类的处境，正如缺乏无可争议的繁荣理论并没有阻止人类在过去的繁荣一样，它也不必成为有益人工智能的根本障碍。换句话说，我们引导人工智能支持人类繁荣的尝试必须认真对待这种不确定性，就像所有支持繁荣的复杂社会努力必须做的那样。
最后，我们得出了一个简单可行的理解，与福利经济学的观点相去不远:人类的利益最终必须建立在人类的生活经验之上。我们希望过上快乐、有意义、健康、充实的生活——不难想象人工智能可以如何帮助实现这一目标。例如，开发低成本但熟练的人工智能教练、帮助我们自我反思的智能日记，或者帮助我们寻找朋友、浪漫伴侣或与亲人联系的应用程序。我们可以将这些效果接地
