联合国秘书长古特雷斯呼吁对人工智能实施广泛而全面的全球管控

7 月 7 日消息，联合国秘书长安东尼奥 · 古特雷斯当地时间本周一在瑞士日内瓦举行的首届联合国人工智能治理全球对话会上进行发言，呼吁对人工智能实施广泛而全面的全球管控。

古特雷斯向与会者表示，“我们可能是最后一代能够设定人类与机器共存条件的人”，人工智能全球治理体系的建设刻不容缓。

古特雷斯提到，人工智能技术触达 10 亿人仅需要 2 个小时，而互联网花了 15 年；现有的管理制度并未为能自主做出决定的机器做好准备；人工智能产业的算力、数据、人才资源高度集中，大多数国家缺乏发言权；人工智能创造的似真实假的信息正侵蚀信任的基石；人类通常对人工智能技术抱有过高的期待和信赖。

当然，如果得到妥善利用并广泛共享，人工智能“可以将数十年的发展压缩为数年”，并成为“21 世纪的伟大平等器”。但在实现这一目标之前，应彻底测试该技术的安全性，并明确法律责任归属。

这位秘书长表示，人工智能治理体系的发展有着 4 大优先事项：

安全

各国未“对齐”的人工智能监管制度会带来额外成本且难以落实。所有国家应在前沿技术管理上达成共识，具有全球覆盖范围的系统必须达到值得全球信任的标准。

任何儿童都不应成为不受监管的人工智能的“实验品”，各国应通过《人工智能儿童安全承诺》：人工智能开发者需要证明技术的对儿童安全性，对性虐待零容忍。当儿童表现出痛苦迹象时，系统必须停止运行并提供真人支持。当儿童受到伤害时，绝不能以“是算法干的”作为借口。

红线

人权不容妥协。人工智能绝不能剥夺人的尊严或加剧歧视。在司法、医疗保健、执法等每一项高风险决策中，机器可以提供信息，但必须由人类做出决定 —— 并承担责任。

容量

相比私营部门去年对人工智能基础设施的 5000 亿美元投资，发展中国家在人工智能能力建设方面的公共支持仅是一个“四舍五入的误差”。国际社会绝不能放任数字鸿沟固化为人工智能鸿沟。古特雷斯将很快向联合国大会提交关于设立全球人工智能基金的建议。

透明

古特雷斯重申了其上个月提出的人工智能环境透明度倡议，要求每家主要人工智能公司衡量并公开披露其系统的全部生态足迹并承诺到 2030 年所有数据中心均使用可再生能源供电。

此外，尽管本次对话会聚焦的是民用人工智能，但 AI 技术在军事领域的应用并未被联合国秘书长忽略。古特雷斯在其演讲的较后部分提到，自主杀人机器人不仅在道德上令人厌恶、在政*上不可接受，也需要在国际法律层面被正式禁止。