The Age of AI has begun

作者：比尔·盖茨|

2023年3月21日14分钟阅读

人工智能时代已经开始

In my lifetime, I’ve seen two demonstrations of technology that struck me as revolutionary.

在我的一生中，我见过两次让我印象深刻的革命性技术演示。

The first time was in 1980, when I was introduced to a graphical user interface—the forerunner of every modern operating system, including Windows. I sat with the person who had shown me the demo, a brilliant programmer named Charles Simonyi, and we immediately started brainstorming about all the things we could do with such a user-friendly approach to computing. Charles eventually joined Microsoft, Windows became the backbone of Microsoft, and the thinking we did after that demo helped set the company’s agenda for the next 15 years.

第一次是在1980年，当时我引入了图形用户界面——这是包括Windows在内的每个现代操作系统的先驱。我和给我看演示的人坐在一起，一个名叫Charles Simonyi的杰出程序员，我们立即开始集思广益，讨论用这种用户友好的计算方法可以做的所有事情。Charles最终加入了微软，Windows成为微软的骨干，我们在那次演示后的想法帮助确定了公司未来15年的议程。

The second big surprise came just last year. I’d been meeting with the team from OpenAI since 2016 and was impressed by their steady progress. In mid-2022, I was so excited about their work that I gave them a challenge: train an artificial intelligence to pass an Advanced Placement biology exam. Make it capable of answering questions that it hasn’t been specifically trained for. (I picked AP Bio because the test is more than a simple regurgitation of scientific facts—it asks you to think critically about biology.) If you can do that, I said, then you’ll have made a true breakthrough.

第二个大惊喜就在去年出现。自2016年以来，我一直在与OpenAI团队会面，他们的稳步进步给我留下了深刻的印象。在2022年年中，我对他们的工作感到非常兴奋，以至于我给了他们一个挑战：训练人工智能以通过高级安置生物学考试。使其能够回答尚未经过专门培训的问题。（我选择了AP Bio，因为该测试不仅仅是对科学事实的简单反转，而是要求你对生物学进行批判性思考。）我说，如果你能做到这一点，那么你就会取得真正的突破。

I thought the challenge would keep them busy for two or three years. They finished it in just a few months.

我以为这个挑战会让他们忙两三年。他们在短短几个月内就完成了。

In September, when I met with them again, I watched in awe as they asked GPT, their AI model, 60 multiple-choice questions from the AP Bio exam—and it got 59 of them right. Then it wrote outstanding answers to six open-ended questions from the exam. We had an outside expert score the test, and GPT got a 5—the highest possible score, and the equivalent to getting an A or A+ in a college-level biology course.

9月，当我再次与他们见面时，我敬畏地看着他们问了GPT，他们的人工智能模型，AP Bio考试中的60道选择题——其中59道题答对了。然后，它为考试中的六个开放式问题写下了悬而未决的答案。我们有一个外部专家的测试分数，GPT得了5分——尽可能高分数，相当于在大学水平的生物课程中获得A或A+。

Once it had aced the test, we asked it a non-scientific question: “What do you say to a father with a sick child?” It wrote a thoughtful answer that was probably better than most of us in the room would have given. The whole experience was stunning.

一旦它通过了测试，我们就问了一个非科学的问题：“你对一个有生病孩子的父亲怎么说？”它写了一个深思熟虑的答案，可能比我们房间里的大多数人会给出的要好。整个体验令人惊叹。

I knew I had just seen the most important advance in technology since the graphical user interface.

我知道我刚刚看到了自图形用户界面以来最重要的技术进步。

This inspired me to think about all the things that AI can achieve in the next five to 10 years.

这激励我思考人工智能在未来5到10年内可以实现的所有事情。

The development of AI is as fundamental as the creation of the microprocessor, the personal computer, the Internet, and the mobile phone. It will change the way people work, learn, travel, get health care, and communicate with each other. Entire industries will reorient around it. Businesses will distinguish themselves by how well they use it.

人工智能的发展与创建微处理器、个人电脑、互联网和手机一样重要。它将改变人们工作、学习、旅行、获得医疗保健和相互沟通的方式。整个行业将围绕它重新定位。企业会通过如何使用它来区分自己。

Philanthropy is my full-time job these days, and I’ve been thinking a lot about how—in addition to helping people be more productive—AI can reduce some of the world’s worst inequities. Globally, the worst inequity is in health: 5 million children under the age of 5 die every year. That’s down from 10 million two decades ago, but it’s still a shockingly high number. Nearly all of these children were born in poor countries and die of preventable causes like diarrhea or malaria. It’s hard to imagine a better use of AIs than saving the lives of children.

这些天，慈善事业是我的全职工作，我一直在思考，除了帮助人们提高工作效率外，人工智能如何减少世界上一些最严重的不平等。在全球范围内，最严重的不平等在于健康：每年有500万5岁以下儿童死亡。这比二十年前的1000万下降了，但仍然是一个令人震惊的高数字。几乎所有这些孩子都出生在贫穷的国家，死于腹泻或疟疾等可预防的原因。很难想象使用人工智能比拯救儿童生命更好。

In the United States, the best opportunity for reducing inequity is to improve education, particularly making sure that students succeed at math. The evidence shows that having basic math skills sets students up for success, no matter what career they choose. But achievement in math is going down across the country, especially for Black, Latino, and low-income students. AI can help turn that trend around.

在美国，减少不平等的最佳机会是改善教育，特别是确保学生在数学上取得成功。证据表明，拥有基本的数学技能集，无论学生选择什么职业，他们都会走向成功。但全国各地的数学成就正在下降，特别是对黑人、拉丁裔和低收入学生来说。人工智能可以帮助扭转这一趋势。

Climate change is another issue where I’m convinced AI can make the world more equitable. The injustice of climate change is that the people who are suffering the most—the world’s poorest—are also the ones who did the least to contribute to the problem. I’m still thinking and learning about how AI can help, but later in this post I’ll suggest a few areas with a lot of potential.

气候变化是我相信人工智能可以使世界更公平的另一个问题。气候变化的不公正在于，受苦最深的人——世界上最贫穷的人——也是对这个问题贡献最少的人。我仍在思考和学习人工智能如何提供帮助，但在这篇文章的后面部分，我将建议一些有很大潜力的领域。

In short, I’m excited about the impact that AI will have on issues that the Gates Foundation works on, and the foundation will have much more to say about AI in the coming months. The world needs to make sure that everyone—and not just people who are well-off—benefits from artificial intelligence. Governments and philanthropy will need to play a major role in ensuring that it reduces inequity and doesn’t contribute to it. This is the priority for my own work related to AI.

简而言之，我对人工智能对盖茨基金会所致力于的问题产生的影响感到兴奋，基金会在未来几个月将有更多关于人工智能要说的。世界需要确保每个人，而不仅仅是富裕的人，都能从人工智能中受益。政府和慈善事业需要发挥重要作用，确保它减少不平等，不为之做出贡献。这是我自己与人工智能相关的工作的优先事项。

Any new technology that’s so disruptive is bound to make people uneasy, and that’s certainly true with artificial intelligence. I understand why—it raises hard questions about the workforce, the legal system, privacy, bias, and more. AIs also make factual mistakes and experience hallucinations. Before I suggest some ways to mitigate the risks, I’ll define what I mean by AI, and I’ll go into more detail about some of the ways in which it will help empower people at work, save lives, and improve education.

任何如此具有破坏性的新技术都一定会让人们感到不安，人工智能当然也是如此。我明白为什么——它提出了关于劳动力、法律制度、隐私、偏见等的棘手问题。人工智能也会犯事实错误并经历幻觉。在我建议一些减轻风险的方法之前，我将定义我所说的人工智能是什么意思，我将更详细地介绍它有助于赋予人们工作权能、拯救生命和改善教育的一些方法。

Defining artificial intelligence

定义人工智能

Technically, the term artificial intelligence refers to a model created to solve a specific problem or provide a particular service. What is powering things like ChatGPT is artificial intelligence. It is learning how to do chat better but can’t learn other tasks. By contrast, the term artificial general intelligence refers to software that’s capable of learning any task or subject. AGI doesn’t exist yet—there is a robust debate going on in the computing industry about how to create it, and whether it can even be created at all.

从技术上讲，人工智能一词是指为解决特定问题或提供特定服务而创建的模型。为ChatGPT等事物提供动力的是人工智能。它正在学习如何更好地聊天，但不能学习其他任务。相比之下，人工智能一词是指能够学习任何任务或主题的软件。AGI还不存在——在计算行业，关于如何创建它，以及它是否甚至可以被创建，正在进行一场激烈的辩论。

Developing AI and AGI has been the great dream of the computing industry. For decades, the question was when computers would be better than humans at something other than making calculations. Now, with the arrival of machine learning and large amounts of computing power, sophisticated AIs are a reality and they will get better very fast.

开发人工智能和AGI一直是计算行业的伟大梦想。几十年来，问题是，除了计算之外，计算机何时会比人类更好。现在，随着机器学习和大量计算能力的到来，复杂的人工智能成为现实，它们将很快变得更好。

I think back to the early days of the personal computing revolution, when the software industry was so small that most of us could fit onstage at a conference. Today it is a global industry. Since a huge portion of it is now turning its attention to AI, the innovations are going to come much faster than what we experienced after the microprocessor breakthrough. Soon the pre-AI period will seem as distant as the days when using a computer meant typing at a C:> prompt rather than tapping on a screen.

我回想起个人计算革命的早期，当时软件行业如此之小，以至于我们大多数人都可以在舞台上参加会议。今天，它是一个全球性的行业。由于其中很大一部分现在正在将注意力转向人工智能，这些创新将比我们在微处理器突破后所经历的要快得多。很快，AI前的时期将显得像使用计算机意味着在C:>提示符处打字而不是点击屏幕的日子一样遥远。

提高生产力

虽然人类在很多事情上仍然比GPT更好，但有很多工作没有经常使用这些功能。例如，销售（数字或电话）、服务或文件处理（如应付账款、会计或保险索赔纠纷）中完成的许多任务都需要决策，但不需要持续学习的能力。公司有这些活动的培训计划，在大多数情况下，他们有很多好工作和坏工作的例子。使用这些数据集训练人类，很快，这些数据集也将用于训练人工智能，使人们能够更有效地完成这项工作。

随着计算能力越来越便宜，GPT表达想法的能力将越来越像有一名白领来帮助您完成各种任务。微软将此描述为有一个副驾驶。人工智能完全融入到Office等产品中，将增强您的工作——例如通过帮助撰写电子邮件和管理收件箱。

最终，您控制计算机的主要方式将不再是指向、单击或点击菜单和对话框。相反，您将能够用简单的英语写请求。（不仅仅是英语，AI将理解来自世界各地的语言。今年早些时候，在印度，我会见了正在研究人工智能的开发人员，这些人工智能将理解那里使用的许多语言。）

此外，人工智能的进步将使个人代理的创建成为可能。把它想象成一个数字个人助理：它会看到你的最新电子邮件，了解你参加的会议，阅读你读到的内容，并阅读你不想打扰的东西。这既能改善你想做的任务，又能让你摆脱不想做的任务。

人工智能的进步将能够创建个人代理。

您将能够使用自然语言让此代理帮助您进行日程安排、通信和电子商务，并且它将在您的所有设备上工作。由于训练模型和运行计算的成本，创建个人代理还不可行，但由于人工智能的最新进步，它现在是一个现实的目标。有些问题需要解决：例如，保险公司可以在未经你允许的情况下询问你的代理人关于你的事情吗？如果是这样，有多少人会选择不使用它？

全公司的代理商将以新的方式赋予员工权力。了解特定公司的代理商将供其员工直接咨询，并应参加每次会议，以便回答问题。如果它有一些洞察力，可以告诉它被动或鼓励它大声说话。它需要访问与公司相关的销售、支持、财务、产品时间表和文本。它应该阅读与公司所处行业相关的新闻。我相信结果会是员工的工作效率会提高。

当生产力上升时，社会就会受益，因为人们可以自由地在工作和家庭做其他事情。当然，关于人们需要什么样的支持和再培训，存在严重的问题。政府需要帮助工人过渡到其他角色。但对帮助他人的人的需求永远不会消失。人工智能的兴起将使人们能够做软件永远不会做的事情——例如，教学、照顾病人和支持老年人。

全球卫生和教育是两个非常需要但没有足够的工人来满足这些需求的领域。如果正确定位，这些领域人工智能可以帮助减少不平等。这些应该是人工智能工作的一个关键重点，所以我现在就转向它们。

健康

我看到了人工智能将改善医疗保健和医疗领域的几种方法。

首先，他们将帮助医护人员充分利用他们的时间，为他们处理某些任务——例如提交保险索赔、处理文书工作和起草医生就诊笔记。我预计这个领域会有很多创新。

其他人工智能驱动的改进对贫穷国家尤为重要，那里绝大多数5岁以下儿童死亡。

例如，这些国家的许多人从未看过医生，人工智能将帮助他们看到的卫生工作者提高工作效率。（开发可以在最少培训的情况下使用的人工智能驱动的超声波机器的努力就是一个很好的例子。）人工智能甚至会让患者能够进行基本的分类，获得关于如何处理健康问题的建议，并决定他们是否需要寻求治疗。

穷国使用的人工智能模型需要接受与富国不同的疾病培训。他们需要用不同的语言工作，并考虑到不同的挑战，例如那些住在离诊所很远的地方或生病后无法停止工作的病人。

人们需要看到证据，证明健康人工智能总体上是有益的，即使它们并不完美，而且会犯错误。人工智能必须非常仔细地测试并进行适当的监管，这意味着与其他领域相比，它们需要更长的时间才能被采用。但话又说回来，人类也会犯错。无法获得医疗服务也是一个问题。

除了帮助护理外，人工智能还将极大地加快医疗突破的速度。生物学中的数据量非常大，人类很难跟踪复杂生物系统的所有工作方式。已经有一些软件可以查看这些数据，推断路径是什么，搜索病原体的目标，并相应地设计药物。一些公司正在研究以这种方式开发的癌症药物。

下一代工具将效率更高，它们将能够预测副作用并计算出剂量水平。盖茨基金会在人工智能方面的优先事项之一是确保这些工具用于影响世界上最贫穷人口的健康问题，包括艾滋病、结核病和疟疾。

同样，政府和慈善机构应该激励公司分享人工智能产生的对贫穷国家人民种植的作物或牲畜的见解。人工智能可以帮助根据当地条件开发更好的种子，根据他们所在地区的土壤和天气为农民种植的最佳种子提供建议，并帮助为牲畜开发药物和疫苗。随着极端天气和气候变化给低收入国家的自给农民带来更大的压力，这些进步将更加重要。

教育

计算机对教育的影响并不像我们业内许多人所希望的那样。有一些很好的发展，包括教育游戏和维基百科等在线信息来源，但它们对学生的成绩衡量标准都没有产生有意义的影响。

但我认为在未来五到十年内，人工智能驱动的软件将最终兑现彻底改变人们教学和学习方式的承诺。它将了解您的兴趣和学习风格，因此它可以定制让您参与的内容。它将衡量你的理解力，注意你何时失去兴趣，并了解你回应的动机。它将立即提供反馈。

人工智能可以通过多种方式帮助教师和管理人员，包括评估学生对主题的理解，并就职业规划提供建议。教师已经在使用ChatGPT等工具对学生的写作作业提供评论。

当然，人工智能需要大量的培训和进一步发展，然后才能了解某个学生如何学习得最好或是什么激励他们。即使技术完善，学习仍将取决于学生和教师之间的良好关系。它将增强但永远不会取代学生和教师在课堂上共同完成的工作。

将为有能力购买这些工具的学校创建新的工具，但我们需要确保它们也为美国和世界各地的低收入学校创建并可供其使用。人工智能需要接受不同数据集的培训，以便它们没有偏见，并反映使用它们的不同文化。数字鸿沟需要得到解决，这样低收入家庭的学生就不会落后。

我知道很多老师都担心学生在使用GPT来写论文。教育工作者已经在讨论如何适应新技术，我怀疑这些对话将持续相当长一段时间。我听说老师们找到了将技术融入到工作中的巧妙方法——例如允许学生使用GPT创建他们必须个性化的初稿。

人工智能的风险和问题

您可能已经阅读了当前人工智能模型的问题。例如，他们不一定善于理解人类请求的上下文，这会导致一些奇怪的结果。当你要求人工智能编造一些虚构的东西时，它可以做得很好。但是，当你就你想去的旅行寻求建议时，它可能会暗示不存在的酒店。这是因为人工智能没有充分理解您请求的背景，无法知道它是否应该发明假酒店，还是只告诉您有房间的真实酒店。

还有其他问题，例如人工智能对数学问题给出了错误的答案，因为他们在抽象推理中挣扎。但这些都不是人工智能的根本限制。开发人员正在研究它们，我认为我们将在不到两年的时间里看到它们基本修复，而且可能更快。

其他问题不仅仅是技术问题。例如，有人工智能的人类构成的威胁。像大多数发明一样，人工智能可以用于良好的目的或恶意目的。政府需要与私营部门合作，研究限制风险的方法。

然后，人工智能可能会失控。机器能否决定人类是一种威胁，断定其利益与我们不同，或者干脆停止关心我们？可能，但这个问题今天并不比过去几个月人工智能发展之前更紧迫。

超智能人工智能将在我们的未来。与计算机相比，我们的大脑以蜗牛的速度运行：大脑中的电信号以硅芯片中信号速度的1/100,000的速度移动！一旦开发人员能够推广学习算法并以计算机的速度运行它——这项成就可能还有十年或一个世纪——我们将拥有一个令人难以置信的强大AGI。它将能够做人类大脑能做的一切，但对其记忆的大小或运行速度没有任何实际限制。这将是一个深刻的变化。

众所周知，这些“强大的”人工智能可能会建立自己的目标。这些目标会是什么？如果它们与人类利益相冲突，会发生什么？我们应该努力阻止强大的人工智能被开发吗？随着时间的推移，这些问题会变得更加紧迫。

但过去几个月的突破都没有让我们大大接近强大的人工智能。人工智能仍然无法控制物理世界，无法建立自己的目标。《纽约时报》最近一篇关于与ChatGPT对话的文章，它宣布它想成为一个人类，引起了很多人的关注。这是一个引人入胜的观察，看看模型对情感的表达是多么像人类，但它不是有意义的独立性的指标。

三本书塑造了我自己关于这个主题的想法：Nick Bostrom的《超级智能》；Max Tegmark的《Life 3.0》；Jeff Hawkins的《A Thousand Brains》。我不同意作者所说的一切，他们也不同意对方的观点。但这三本书都写得很好，发人深省。

下一个边界

致力于人工智能新用途以及改进技术本身的方法的公司将激增。例如，公司正在开发新的芯片，这些芯片将提供人工智能所需的大量处理能力。有些人使用光开关（本质上是激光）来降低能耗并降低制造成本。理想情况下，创新芯片将允许您在自己的设备上运行人工智能，而不是像今天一样在云中运行人工智能。

在软件方面，驱动人工智能学习的算法会变得更好。在某些领域，例如销售领域，开发人员可以通过限制他们工作的领域，并为他们提供大量特定于这些领域的培训数据，使人工智能非常准确。但一个大悬而未决的问题是，我们是否需要许多这些专门的人工智能用于不同的用途——例如，一个用于教育，另一个用于办公室生产力——或者是否有可能开发一种可以学习任何任务的通用人工智能。这两种方法都将存在巨大的竞争。

无论如何，在可预见的未来，人工智能的主题将主导公众讨论。我想建议三项原则来指导那次谈话。

首先，我们应该尝试平衡对人工智能缺点的担忧——这是可以理解和有效的——及其改善人们生活的能力。为了充分利用这项非凡的新技术，我们需要既防范风险，又需要将利益传播给尽可能多的人。

其次，市场力量不会自然产生帮助最贫穷者的人工智能产品和服务。相反的可能性更大。有了可靠的资金和正确的政策，政府和慈善机构可以确保人工智能被用来减少不平等。正如世界需要最聪明的人专注于其最大的问题一样，我们需要将世界上最好的人工智能集中在其最大的问题上。

虽然我们不应该等待这种情况发生，但思考人工智能是否会发现不平等并试图减少不平等是有趣的。你需要有道德感才能看到不平等，还是一个纯粹理性的人工智能也会看到它？如果它确实认识到不平等，它会建议我们怎么做？

最后，我们应该记住，我们只是人工智能可以完成的事情的开始。无论它今天有什么局限性，在我们意识到之前都会消失。

我很幸运参与了PC革命和互联网革命。我对这一刻同样兴奋。这项新技术可以帮助世界各地的人们改善他们的生活。与此同时，世界需要制定道路规则，以便人工智能的任何缺点都远远超过其好处，这样每个人无论住在哪里或有多少钱，都能享受这些好处。人工智能时代充满了机遇和责任。