联合国秘书长：世界不能让AI“凭感觉编码”人类的未来

古特雷斯对AI如何进一步模糊真与假的界限表示担忧，并强调了一个日益增长的趋势，即将重要任务托付给这项技术并盲目信任其结果。

他承认，所谓的“凭感觉编码”（即用AI告诉机器你想要什么，而非自己编写代码）“可以创造奇迹”。

“但我们不能凭感觉编码真相。我们不能凭感觉编码人类的未来。”

古特雷斯指出的另一个风险是权力集中在少数AI公司和少数国家手中。

他警告说，大多数国家“在决定其未来的决策中没有发言权”。

面对这些挑战，他表示各国面临一个严峻的选择：“是有意设计治理，还是任由事态随波逐流”。

这位联合国秘书长强调了AI技术在从加速发展、改善医疗到扩大教育普及等各方面的潜力。

但他坚持认为，发展必须遵循若干关键优先事项的引导，包括安全性和尊重人权，以确保世界各地的人们都能从中受益。

他呼吁建立“评估和验证风险的共同方法”以及共同商定的标准，特别是确保儿童访问AI系统的安全性。

“未经证明安全之前，我们不会让药物接触儿童。我们会对每件玩具进行检测，”古特雷斯指出。

“然而，AI已经触达我们的孩子，包括触及他们的学习、他们的友谊、他们最私密的问题，却在之前没有人问过它会给他们带来什么影响。”

古特雷斯呼吁制定“AI儿童安全承诺”，要求企业证明任何儿童可接触的系统都是安全的，且对性虐待零容忍。

他表示，系统还必须将任何出现痛苦迹象的儿童连接到真实的人类支持。

他坚持，“没有任何孩子应该成为未受监管的AI的试验品。”

古特雷斯表示，提升发展中国家AI能力和可及性同样至关重要，以确保现有的深层数字鸿沟不会“固化为AI鸿沟”。

他说，将敦促联合国大会设立一个AI全球基金，“以在世界各地建设技能、数据和负担得起的计算能力”。

他说，另一个优先事项是减少AI对气候的影响，并再次呼吁企业披露其日益增长的环境足迹，并承诺到2030年以可再生能源为所有数据中心供电。

与此同时，这位联合国秘书长表示，他最担忧的是AI在军事领域的应用，特别是所谓的致命自主武器系统。

他说：“让我们直呼其名：杀手机器人。”

“机器在无人控制和判断的情况下，自行选择目标、交战并夺走生命。”

“这在道德上令人厌恶……必须通过国际法予以禁止。”

古特雷斯强调，建立足够的护栏以引导AI朝着积极方向发展已是当务之急。

他指出：“我们可能是最后一代能够设定人类与机器共存条件的人了。”

“大门仍然敞开，但不会敞开太久。”