丹尼尔·比约克格伦：如何让人工智能在发展中国家发挥作用

　　在富裕国家的精英中，一种对人工智能的担忧已经蔓延：机器将抢走我们的工作。随着非常逼真的聊天机器人ChatGPT的爆炸式流行，西方许多人开始担心，不仅卡车司机和装配工人有被机器人取代的风险，高薪的知识工作者也有被机器人取代的风险。会计师、数据分析师、程序员、财务顾问、律师，甚至好莱坞编剧——现在都担心人工智能会让他们失业。

　　但人工智能对100多个发展中国家和40多亿人口的影响可能截然不同。低收入国家雇用的知识工作者要少得多，而且其人口中更大比例的人在不太适合自动化的部门工作，特别是农业。在贫穷国家，最大的问题不是人工智能将如何影响数百万就业人口，而是数十亿人将如何使用人工智能。发展中国家最具变革性的应用可能不是那些取代人类的应用;它们将为人类开辟新的可能性。

　　到目前为止，几乎所有关于如何支持人工智能以及如何降低其风险的讨论都集中在富裕国家，这些国家是研究这项技术的公司和大学的所在地。但是，由于人工智能的影响(好与坏)在贫穷国家的表现不同，这些国家所需的投资和监管也可能不同。哲学家、经济学家和技术专家都在没完没了地思考人工智能在发达国家的未来。现在是时候为其他人制定人工智能议程了。

　　提升效率

　　机器学习已经影响到了世界上穷人的生活。考虑一下信贷的发展。许多穷人缺乏财务记录和信用评分，因此很难获得正式贷款。2010年，我提出了一种创建替代信用评分的方法，利用机器学习从手机网络自动收集的数据中推断还款的可能性。这种方法现在是几十个国家的贷款机构通过手机向数百万人提供小额贷款的几种方法之一。其他研究人员正在将机器学习应用于同类数据，以确定特定地区哪些家庭是最贫困的，以便在危机期间明智地提供援助。还有一些人在卫星图像上使用它，根据人类居住模式改进人口估计，根据植被模式预测粮食短缺。这些项目突出了人工智能在发展中国家的一个特殊价值:在信息匮乏的环境中，机器学习可以从新的数据源中提取信号。

　　可能性还不止于此。考虑一下教育。发展中国家的大多数教育系统都难以提供高质量的教学。个性化的人工智能导师——具有无限耐心的聊天机器人——可能有一天会满足偏远学校好奇学生的需求。它们还可能帮助专业人员在不同技能之间转换——比如，允许修理工人提升技能并学习工程学。再以健康为例。在许多发展中国家，很难得到合理的医疗建议;人工智能驱动的系统可能会提供更好、更广泛的诊断。许多社区的抑郁症发病率很高，而治疗师却很少;像聊天机器人治疗师这样的数字心理健康工具可能会以低成本满足真正的需求。人工智能可以发挥类似的作用，帮助人们应对官僚机构。例如，印度企业家希望进入一个新市场，也许有一天能够依靠人工智能驱动的应用程序来填写所需的许可证。

　　随着富裕国家在人工智能上投入大量资源，实现这些潜在应用的技术将继续改进。对于发展中国家来说，关键是通过将由此产生的技术用于满足当地需求的产品和服务来补充投资流。发展中国家拥有创办新企业所需的许多社会基础设施:技术中心、大学和企业家团体。然而，他们的公司没有什么动力去开发针对最贫困人群的应用程序，因为为这些人服务很少有利可图。印度等一些中等收入大国可以通过投资于面向穷人的人工智能技术来解决这个问题。但许多其他国家缺乏这样做的资源和规模。因此，企业家网络和世界银行(World Bank)等国际组织都可以发挥作用，前者可以跨国界分享经验，后者可以协调政府和慈善机构之间的投资。

　　学习和适应

　　在发展中国家，人工智能可以通过两种主要途径运用。首先是找到一项人工智能在富裕国家已经很擅长的任务，并将其应用于贫穷国家。例如，许多企业家正在为富裕的学校开发聊天机器人导师，这些工具可以经过修改，适用于互联网连接较差、师生比例较高的地方。第二是为人工智能找到全新的应用——能够满足发展中国家特定需求的新产品。例如，为自给自足的农民提供的人工智能财务规划师可以帮助他们管理决定种植什么作物所涉及的风险。的确，一些创新始于穷国，后来才传到富国。例如，肯尼亚的M-Pesa移动支付系统比类似的应用程序在美国的发展要早得多。

　　虽然一些来自富裕国家的人工智能工具可能在发展中国家开箱即用，但其他人工智能工具则需要量身定制。一个问题是，大多数人工智能系统都是根据发达国家的特定数据进行训练的，这些数据是从收入相对较高的人群那里收集的，通常是用英语编写的。世界上关于穷人或以少数民族语言呈现的知识语料库很少。此外，人工智能系统大多被训练来产生满足西方富裕消费者的决策和输出，因此在其他地方，它们在与较贫穷的消费者打交道时可能会不适当——例如，在某些文化中，对用户直呼其名是不尊重的。

　　富裕的西方社会在积累训练数据方面处于领先地位，因此人工智能模型需要时间才能完全代表世界其他地区的人。但这个过程可以加快。只要有一种应用程序能使其背后的数据更具代表性，研究人员就能识别出可能具有变革性的应用程序。例如，一个人工智能医疗顾问可能擅长帮助硅谷的高血压患者，但对拉各斯的疟疾患者就不那么有用了，因为它缺乏对当地医疗案例的了解。或者，这样的系统可能在说英语的人中很受欢迎，但在尼日利亚主要母语之一的约鲁巴语中却行不通。

　　为了弥补发展中国家数据的不足，必须为模型创建新的训练内容。在这方面，众包可以有所帮助。例如，维基非洲(WikiAfrica)运动协调将非洲内容添加到维基百科。既然这些知识可以改善机器的决策，这些举措就更加有价值了。在其他难以辨别正确性的领域，比如医药或农业，众包是不够的。必须聘请专家，或者必须将纸质诊所记录等模拟数据数字化。代表性只是难题的一部分，因为开发人员将不得不在具有不同值的组之间进行判断。例如，印度不同的宗教团体可能对什么是适当的医疗建议存在分歧。

　　将人工智能引入发展中国家的第二个问题是技术问题。尽管发展中国家取得了巨大进步，但在许多技术基准上仍落后于发达国家。一些人工智能应用将需要更广泛的智能手机接入、更好的互联网连接或数字记录保存系统，以跟踪学校学生的表现、医院病人的健康状况或法院案件的结果。对于人工智能来说，与之前的技术创新浪潮一样，关键是要区分哪些应用程序很快就会有价值，哪些应用程序在可预见的未来仍将停留在科幻小说的领域。这条基线会移动，从一个领域到另一个领域。例如，医学对人工智能犯错误的容忍度较低，农业依赖于微妙的背景因素，这些因素对农民来说是直观的，但很难向人工智能表达。

　　法律的限制

　　无论是在发达国家还是发展中国家，人工智能的传播都会带来风险。但发展中国家面临着一系列不同的风险，而且他们监管技术的能力较差。主要问题是一项技术是否仍将保持中心化，即由少数科技公司控制。集中式人工智能系统可能会在美国和欧盟等大型市场受到监管。较小的市场只能施加有限的压力，因此它们将生活在美国和欧盟监管的影响之下。尽管他们可以关闭对集中式系统的访问，但他们无法阻止人工智能生成的内容跨境。

　　然而，目前尚不清楚人工智能是否会保持中心化。Llama(Facebook 所有者 Meta 制作的大型语言模型)和 Stable Diffusion(初创公司 Stability AI 制作的图像生成器)等开源替代方案正在取得进展。这些分散的系统可以由任何拥有计算机的人修改和运行。如果它们变得足够实用，任何国家都将很难直接监管它们。但这种开放系统可以更容易地适应本地需求，因为它们通常可以免费使用，并且任何人都可以修改其代码。考虑到监管手段有限，发展中国家可能不得不适应新技术，而不是控制新技术。为了减轻危害，他们可能必须关注的不是人工智能本身，而是运用它的行业。

　　人工智能在富裕国家引发了一场关于监管的辩论。但许多解决其风险的建议在贫穷国家可能还不够。西方监管机构缺乏评估在不同情况下如何确保规则得到落实的能力;在布鲁塞尔获得安全认证的系统在班加罗尔可能效果不佳。此外，在人工智能应用的现有替代方案质量更差的地方，西方监管机构的标准可能过于严格。例如，天气预报不一定要很完美才能改善发展中国家农民可获得的预报。即使在医学等风险较高的环境中，人工智能也可能很快就会比穷人现有的选择更好。一项 2023 年研究审计了低收入国家的临床表现，以找出正确处理的病例比例。答案是：不到一半。

　　与此同时，发展中国家的普通人也比发达国家的普通人更容易受到伤害。发展中国家的许多人几乎没有办法挑战自动化决策，例如拒绝贷款申请。新的人工智能系统的表现往往比宣传的要差，而且公司很容易忽视低收入人群中出现的问题。这就是为什么监管机构必须确保消费者有足够的程序来报告问题和提出意见。

　　发展中国家的许多人对人工智能的概念也很陌生，可能以前从未听说过算法。因此，必须注意有效沟通。我与约书亚·布鲁门斯托克和萨姆松·奈特进行的一项研究表明这是可能的。我们为低收入肯尼亚人提供了一款应用程序，根据他们使用手机的方式为他们提供经济奖励，采用的算法类似于信用评分的算法。当受试者得到关于算法如何工作的简单描述时，他们会调整自己的行为——这可以明确表明他们对算法的理解。

　　政治障碍也比比皆是。Deepfakes——由人工智能生成的逼真照片、视频和音频剪辑——可能会对发展中国家产生特别有害的影响，因为这些国家的政治体系往往脆弱，群体之间的信任度往往较低。当人们意识到媒体信息是可以生成的时，他们可能会不再相信真正真实的防止犯罪的内容。为了避免这些问题，民间社会可以在建立信任基础设施方面发挥作用——传播对内容可能造假的认识，并建立独立的机构来评估审查内容者的声誉。

　　人工智能还将实现新形式的监控，例如通过移动设备和面部识别来跟踪人员。高科技监控工具市场上的大多数发展中国家并不自行开发，而是进口。这种外包意味着人工智能技术的实际实施可能是分散的，使得收集到的信息更容易泄露给第三方，并以不可预测的方式侵犯权利。民间社会将再次发挥作用，监督新系统并提请人们注意滥用行为。

　　从未来考量现在

　　当前的人工智能浪潮以前所未有的速度带来了挑战和机遇。但我们以前也见证过类似的技术转型。尽管手机最初是为富裕消费者设计的，但在过去 20 年里，它们在穷人中开始流行起来。发展中国家受益于西方制造的标准化硬件——天线和手机。电信公司发明了为穷人服务的商业模式，例如即用即付的手机套餐。企业家创办了新组织，允许人们使用手机汇款、获得信贷和查看价格。这些创新使移动电话能够迅速普及到世界上大多数贫困人口，并将他们与全球经济联系起来。

　　正是这些联系为人工智能的传播奠定了基础。然而，尽管移动电话取得了成功，但即使是这种创新也未能在发展中国家发挥其潜力。大多数私营部门的创新都集中在富人的需求上。在将富裕消费者与司机、度假屋和预定饭菜关联起来的应用程序上的投资远多于在自给自足的农民与市场和偏远地区儿童与学习之间的联系的应用程序的投资。私营部门在人工智能方面的创新可能会改变许多行业，从教育到医疗再到法律。但要充分发挥该技术对发展中国家的潜力，就需要对可能发生的事情谋划广阔的愿景，并特别关注某项技术可能改变生活的人们。

　　作者简介：丹尼尔·比约克格伦(Daniel Bjorkegren)是哥伦比亚大学国际与公共事务助理教授。本文译自《外交事务》网站。

　　在富裕国家的精英中，一种对人工智能的担忧已经蔓延：机器将抢走我们的工作。随着非常逼真的聊天机器人ChatGPT的爆炸式流行，西方许多人开始担心，不仅卡车司机和装配工人有被机器人取代的风险，高薪的知识工作者也有被机器人取代的风险。会计师、数据分析师、程序员、财务顾问、律师，甚至好莱坞编剧——现在都担心人工智能会让他们失业。

　　但人工智能对100多个发展中国家和40多亿人口的影响可能截然不同。低收入国家雇用的知识工作者要少得多，而且其人口中更大比例的人在不太适合自动化的部门工作，特别是农业。在贫穷国家，最大的问题不是人工智能将如何影响数百万就业人口，而是数十亿人将如何使用人工智能。发展中国家最具变革性的应用可能不是那些取代人类的应用;它们将为人类开辟新的可能性。

　　到目前为止，几乎所有关于如何支持人工智能以及如何降低其风险的讨论都集中在富裕国家，这些国家是研究这项技术的公司和大学的所在地。但是，由于人工智能的影响(好与坏)在贫穷国家的表现不同，这些国家所需的投资和监管也可能不同。哲学家、经济学家和技术专家都在没完没了地思考人工智能在发达国家的未来。现在是时候为其他人制定人工智能议程了。

　　提升效率

　　机器学习已经影响到了世界上穷人的生活。考虑一下信贷的发展。许多穷人缺乏财务记录和信用评分，因此很难获得正式贷款。2010年，我提出了一种创建替代信用评分的方法，利用机器学习从手机网络自动收集的数据中推断还款的可能性。这种方法现在是几十个国家的贷款机构通过手机向数百万人提供小额贷款的几种方法之一。其他研究人员正在将机器学习应用于同类数据，以确定特定地区哪些家庭是最贫困的，以便在危机期间明智地提供援助。还有一些人在卫星图像上使用它，根据人类居住模式改进人口估计，根据植被模式预测粮食短缺。这些项目突出了人工智能在发展中国家的一个特殊价值:在信息匮乏的环境中，机器学习可以从新的数据源中提取信号。

　　可能性还不止于此。考虑一下教育。发展中国家的大多数教育系统都难以提供高质量的教学。个性化的人工智能导师——具有无限耐心的聊天机器人——可能有一天会满足偏远学校好奇学生的需求。它们还可能帮助专业人员在不同技能之间转换——比如，允许修理工人提升技能并学习工程学。再以健康为例。在许多发展中国家，很难得到合理的医疗建议;人工智能驱动的系统可能会提供更好、更广泛的诊断。许多社区的抑郁症发病率很高，而治疗师却很少;像聊天机器人治疗师这样的数字心理健康工具可能会以低成本满足真正的需求。人工智能可以发挥类似的作用，帮助人们应对官僚机构。例如，印度企业家希望进入一个新市场，也许有一天能够依靠人工智能驱动的应用程序来填写所需的许可证。

　　随着富裕国家在人工智能上投入大量资源，实现这些潜在应用的技术将继续改进。对于发展中国家来说，关键是通过将由此产生的技术用于满足当地需求的产品和服务来补充投资流。发展中国家拥有创办新企业所需的许多社会基础设施:技术中心、大学和企业家团体。然而，他们的公司没有什么动力去开发针对最贫困人群的应用程序，因为为这些人服务很少有利可图。印度等一些中等收入大国可以通过投资于面向穷人的人工智能技术来解决这个问题。但许多其他国家缺乏这样做的资源和规模。因此，企业家网络和世界银行(World Bank)等国际组织都可以发挥作用，前者可以跨国界分享经验，后者可以协调政府和慈善机构之间的投资。

　　学习和适应

　　在发展中国家，人工智能可以通过两种主要途径运用。首先是找到一项人工智能在富裕国家已经很擅长的任务，并将其应用于贫穷国家。例如，许多企业家正在为富裕的学校开发聊天机器人导师，这些工具可以经过修改，适用于互联网连接较差、师生比例较高的地方。第二是为人工智能找到全新的应用——能够满足发展中国家特定需求的新产品。例如，为自给自足的农民提供的人工智能财务规划师可以帮助他们管理决定种植什么作物所涉及的风险。的确，一些创新始于穷国，后来才传到富国。例如，肯尼亚的M-Pesa移动支付系统比类似的应用程序在美国的发展要早得多。

　　虽然一些来自富裕国家的人工智能工具可能在发展中国家开箱即用，但其他人工智能工具则需要量身定制。一个问题是，大多数人工智能系统都是根据发达国家的特定数据进行训练的，这些数据是从收入相对较高的人群那里收集的，通常是用英语编写的。世界上关于穷人或以少数民族语言呈现的知识语料库很少。此外，人工智能系统大多被训练来产生满足西方富裕消费者的决策和输出，因此在其他地方，它们在与较贫穷的消费者打交道时可能会不适当——例如，在某些文化中，对用户直呼其名是不尊重的。

　　富裕的西方社会在积累训练数据方面处于领先地位，因此人工智能模型需要时间才能完全代表世界其他地区的人。但这个过程可以加快。只要有一种应用程序能使其背后的数据更具代表性，研究人员就能识别出可能具有变革性的应用程序。例如，一个人工智能医疗顾问可能擅长帮助硅谷的高血压患者，但对拉各斯的疟疾患者就不那么有用了，因为它缺乏对当地医疗案例的了解。或者，这样的系统可能在说英语的人中很受欢迎，但在尼日利亚主要母语之一的约鲁巴语中却行不通。

　　为了弥补发展中国家数据的不足，必须为模型创建新的训练内容。在这方面，众包可以有所帮助。例如，维基非洲(WikiAfrica)运动协调将非洲内容添加到维基百科。既然这些知识可以改善机器的决策，这些举措就更加有价值了。在其他难以辨别正确性的领域，比如医药或农业，众包是不够的。必须聘请专家，或者必须将纸质诊所记录等模拟数据数字化。代表性只是难题的一部分，因为开发人员将不得不在具有不同值的组之间进行判断。例如，印度不同的宗教团体可能对什么是适当的医疗建议存在分歧。

　　将人工智能引入发展中国家的第二个问题是技术问题。尽管发展中国家取得了巨大进步，但在许多技术基准上仍落后于发达国家。一些人工智能应用将需要更广泛的智能手机接入、更好的互联网连接或数字记录保存系统，以跟踪学校学生的表现、医院病人的健康状况或法院案件的结果。对于人工智能来说，与之前的技术创新浪潮一样，关键是要区分哪些应用程序很快就会有价值，哪些应用程序在可预见的未来仍将停留在科幻小说的领域。这条基线会移动，从一个领域到另一个领域。例如，医学对人工智能犯错误的容忍度较低，农业依赖于微妙的背景因素，这些因素对农民来说是直观的，但很难向人工智能表达。

　　法律的限制

　　无论是在发达国家还是发展中国家，人工智能的传播都会带来风险。但发展中国家面临着一系列不同的风险，而且他们监管技术的能力较差。主要问题是一项技术是否仍将保持中心化，即由少数科技公司控制。集中式人工智能系统可能会在美国和欧盟等大型市场受到监管。较小的市场只能施加有限的压力，因此它们将生活在美国和欧盟监管的影响之下。尽管他们可以关闭对集中式系统的访问，但他们无法阻止人工智能生成的内容跨境。

　　然而，目前尚不清楚人工智能是否会保持中心化。Llama(Facebook 所有者 Meta 制作的大型语言模型)和 Stable Diffusion(初创公司 Stability AI 制作的图像生成器)等开源替代方案正在取得进展。这些分散的系统可以由任何拥有计算机的人修改和运行。如果它们变得足够实用，任何国家都将很难直接监管它们。但这种开放系统可以更容易地适应本地需求，因为它们通常可以免费使用，并且任何人都可以修改其代码。考虑到监管手段有限，发展中国家可能不得不适应新技术，而不是控制新技术。为了减轻危害，他们可能必须关注的不是人工智能本身，而是运用它的行业。

　　人工智能在富裕国家引发了一场关于监管的辩论。但许多解决其风险的建议在贫穷国家可能还不够。西方监管机构缺乏评估在不同情况下如何确保规则得到落实的能力;在布鲁塞尔获得安全认证的系统在班加罗尔可能效果不佳。此外，在人工智能应用的现有替代方案质量更差的地方，西方监管机构的标准可能过于严格。例如，天气预报不一定要很完美才能改善发展中国家农民可获得的预报。即使在医学等风险较高的环境中，人工智能也可能很快就会比穷人现有的选择更好。一项 2023 年研究审计了低收入国家的临床表现，以找出正确处理的病例比例。答案是：不到一半。

　　与此同时，发展中国家的普通人也比发达国家的普通人更容易受到伤害。发展中国家的许多人几乎没有办法挑战自动化决策，例如拒绝贷款申请。新的人工智能系统的表现往往比宣传的要差，而且公司很容易忽视低收入人群中出现的问题。这就是为什么监管机构必须确保消费者有足够的程序来报告问题和提出意见。

　　发展中国家的许多人对人工智能的概念也很陌生，可能以前从未听说过算法。因此，必须注意有效沟通。我与约书亚·布鲁门斯托克和萨姆松·奈特进行的一项研究表明这是可能的。我们为低收入肯尼亚人提供了一款应用程序，根据他们使用手机的方式为他们提供经济奖励，采用的算法类似于信用评分的算法。当受试者得到关于算法如何工作的简单描述时，他们会调整自己的行为——这可以明确表明他们对算法的理解。

　　政治障碍也比比皆是。Deepfakes——由人工智能生成的逼真照片、视频和音频剪辑——可能会对发展中国家产生特别有害的影响，因为这些国家的政治体系往往脆弱，群体之间的信任度往往较低。当人们意识到媒体信息是可以生成的时，他们可能会不再相信真正真实的防止犯罪的内容。为了避免这些问题，民间社会可以在建立信任基础设施方面发挥作用——传播对内容可能造假的认识，并建立独立的机构来评估审查内容者的声誉。

　　人工智能还将实现新形式的监控，例如通过移动设备和面部识别来跟踪人员。高科技监控工具市场上的大多数发展中国家并不自行开发，而是进口。这种外包意味着人工智能技术的实际实施可能是分散的，使得收集到的信息更容易泄露给第三方，并以不可预测的方式侵犯权利。民间社会将再次发挥作用，监督新系统并提请人们注意滥用行为。

　　从未来考量现在

　　当前的人工智能浪潮以前所未有的速度带来了挑战和机遇。但我们以前也见证过类似的技术转型。尽管手机最初是为富裕消费者设计的，但在过去 20 年里，它们在穷人中开始流行起来。发展中国家受益于西方制造的标准化硬件——天线和手机。电信公司发明了为穷人服务的商业模式，例如即用即付的手机套餐。企业家创办了新组织，允许人们使用手机汇款、获得信贷和查看价格。这些创新使移动电话能够迅速普及到世界上大多数贫困人口，并将他们与全球经济联系起来。

　　正是这些联系为人工智能的传播奠定了基础。然而，尽管移动电话取得了成功，但即使是这种创新也未能在发展中国家发挥其潜力。大多数私营部门的创新都集中在富人的需求上。在将富裕消费者与司机、度假屋和预定饭菜关联起来的应用程序上的投资远多于在自给自足的农民与市场和偏远地区儿童与学习之间的联系的应用程序的投资。私营部门在人工智能方面的创新可能会改变许多行业，从教育到医疗再到法律。但要充分发挥该技术对发展中国家的潜力，就需要对可能发生的事情谋划广阔的愿景，并特别关注某项技术可能改变生活的人们。

　　作者简介：丹尼尔·比约克格伦(Daniel Bjorkegren)是哥伦比亚大学国际与公共事务助理教授。本文译自《外交事务》网站。