发表于 世行之声

人工智能治理的平衡之举:驾驭机遇与风险

版本:
人工智能治理的平衡之举:驾驭机遇与风险 通过在创新与安全保障措施之间取得平衡,政策制定者就能确保人工智能成为一股向善的力量。© Shutterstock

您知道吗,在撒哈拉以南非洲,学生平均在学校上学的时间是 6 年,但毕业时实际学到知识的时间却只有 3 年。学习差距一目了然,但人工智能 (AI)可以解决这个问题。在肯尼亚,创新人员创造了 “Somanasi”(“和我一起学”),这是一款人工智能驱动的聊天机器人,旨在帮助弥合这一差距。这款应用程序通过对学生的问题提供实时的个性化的回答、课程游戏化和促进协作学习,可以帮助学生更好地理解和记住课程内容,使他们能够充分利用在学校的时间,缩小学习差距。

但是,人工智能的影响远不止是在学校课堂,它正在彻底改变医疗卫生服务,强化直接现金转移支付能力,甚至预测自然灾害——它正在重塑全球各地人民的生活。然而,能力越大,责任也越大。自从 2022 年年底ChatGPT 问世以来,涉及滥用人工智能或造成危害的事件报道激增了20倍,放大了风险,特别是在发展中国家,基础设施、数据、技能和法规方面的差距加剧了其脆弱性。

我们怎样才能在降低风险的同时利用人工智能的潜力呢?世界银行最新报告《人工智能治理的全球趋势:不断发展的国家方法》提供了一个路线图。

人工智能数据的复杂性及影响

人工智能系统的有效运行依靠大量数据,不仅包括数字数据和文本,还包括图像、音频、视频和传感器输入。这些不同类似的数据对于准确的人工智能建模至关重要。然而,数据集存在的差距,特别是对于特定社区和小语种,有可能加剧偏见。例如,在用于训练皮肤癌检测的人工智能模型的开源数据集中,深色皮肤人群的图片明显代表性不足,从而导致模型在这些人群中诊断皮肤癌的效果明显欠佳

人工智能对大量数据集的依赖也引发了对数据隐私和数据安全的担忧,尤其是在涉及敏感个人信息的情况下。复杂的机器学习模型往往被描述为 “黑匣子”,因为很难理解系统是如何达到某个特定输出结果的。这种不透明性使得错误难以修复,尤其是在金融等高风险领域或者公共安全、社会救助等基本政府服务提供方面。

人工智能对环境的影响也很大。生成单个人工智能图像等任务的用电量与智能手机充电的用电量相同,而进行一次 ChatGPT 查询的用电量几乎是谷歌搜索的10倍。这些挑战要求治理框架不仅要在技术上强健,而且要优先考虑公平性、透明度和环境可持续性。

创新与监管的关系

人工智能的快速发展已经形成了一个全球共识:需要加强人工智能治理来建立对 人工智能的信任,确保它能够在不造成伤害的情况下使每个人都受益。这一理念构成一些关键框架文件的基础,例如联合国大会关于值得信赖的人工智能的决议和联合国人工智能咨询机构的《为人类治理人工智能》报告。同样,世界银行的《2021 年世界发展报告》也强调了信任是数据经济不可或缺的一个支柱。我们关于这一专题的最新报告还强调了亟需建立适应性和稳健的治理框架,以确保人工智能符合伦理标准,具有透明度和包容性。

负责任的人工智能的重要基础

世界各国要想从人工智能中受益,就需要建立适当的基础:

  • 数字基础设施:提供可靠的互联网、先进的数据系统和计算能力。
  • 人力资本:提高工人的技能水平,建立人工智能的人才储备。
  • 本地生态系统:通过公私合作伙伴关系和支持性政策促进创新

政策制定者常常担心对新生的人工智能生态系统过度监管可能会扼杀创新。然而,强健的人工智能治理和创新并不是“零和”游戏——事实上,治理和监管创造了公平的竞争环境,鼓励增加对人工智能解决方案的信任和采用,从而促进了创新。没有信任,人工智能就无法履行其促进转型的承诺,而人工智能的鸿沟只会越来越大。

政策制定者的工具

世界银行为处于人工智能治理进程各阶段的国家提供支持。由于形势不断演变,因此并没有放之四海而皆准的方法。上述报告概要阐述了可供各国根据国情调整使用的四种治理工具,并通过国家案例说明了每种工具的优缺点:

  • 行业自治:自愿性的商业伦理标准,比如谷歌和微软等公司制定和采用的标准,能够影响商业实践,但缺乏执行力,并可能导致潜在的“伦理洗白”风险。
  • 软性法律:不具约束力的原则和技术标准提供了灵活性,但可能缺乏明确的权利或责任。
  • 监管沙盒:受监控的环境有利于测试创新监管方法,但运行起来可能非常耗费资源。
  • 硬性法律:欧盟《人工智能法案》或国家立法等具有约束力的框架提供了一致性和法律确定性,但必须根据国情进行调整,考虑既有能力和资源。

各国必须在创新和安全保障措施之间取得平衡,根据自身资源、优先事项和社会需求来调整方法。

为什么这很重要

人工智能不仅关乎技术,也关乎人,关乎创造公平机会、保护权利和建立信任。世行报告敦促政策制定者大胆行动,开展协作,确保使人工智能成为一股向善的力量。

肯尼亚的故事只是一个例子,说明在慎重治理下人工智能如何可以帮助改变千百万儿童的未来。但是,要想充分释放人工智能的潜力,各国必须直面其复杂性,包括数据集偏见、环境影响和伦理问题。风险很大,但回报也很大。


Sharmista Appaya

Business Line Lead for Digital Data Infrastructure

加入讨论

此字段内容保密,不会公开显示
留言字数: 1000