（日内瓦6日讯）联合国秘书长古特雷斯周一呼吁建立全球人工智能（AI）治理机制，确保人工智能的发展造福人类。他同时警告，不应任由人工智能自己“凭感觉写代码”来塑造我们的未来。
法新社报导，随着人工智能以“失控般的速度”向前推进，古特雷斯警告称，“一场在没有计划、也未经同意的情况下，针对我们自身社会的实验，正在进行中”。
他在瑞士日内瓦举行的首届“人工智能治理全球对话”上发言时称：“这是不可持续的。”该对话汇聚了各国政府、科技公司、学术界和民间社会。
他说：“人工智能已经在改变我们的世界。问题在于，我们是要共同引导这场变革，还是听任它来塑造我们。”
他指出，人工智能系统“不再是等待指令的工具。它们正在编写代码、进行线上操作，并在越来越少的人工监督下做出决定”。
“我们的制度是为了管理执行命令的机器而建立。它（制度）还没有为能够自己做决定的机器做好准备。”
古特雷斯对人工智能如何进一步模糊真假边界表示担忧，并强调了一种日益增长的趋势，即把重要任务交由人工智能处理，并盲目信任其结果。
他承认，所谓的人工智能“自己写代码”，即利用人工智能告诉机器你想要什么，而不是自己亲自动手写代码，“确实能创造奇迹”。
“但我们无法对真相进行‘凭感觉编码’，也无法‘凭感觉编码’人类的未来。”
探究人工智能潜在风险
古特雷斯还指出另一个风险，是权力集中在少数几家人工智能公司和少数几个国家手中。
他警告，大多数国家“对将决定其未来的决策没有任何发言权”。
面对这些挑战，他表示各国面临着一个极其艰难的选择，“是在技术设计过程进行治理，还是任其发展中漂流”。
古特雷斯强调了人工智能技术的潜力，从加速发展到改善医疗保健以及提供更广泛的教育途径，其应用领域无所不包。
但他坚持认为，技术发展需要受到几个关键优先事项的引导，包括安全和尊重人权，以确保各地人民都能从中受益。
他呼吁建立“评估和验证风险的通用方法”和共同商定标准，特别是为了确保孩童在使用人工智能系统时的安全。
古特雷斯说：“在药物被证明安全之前，我们不会让它用到孩子身上。我们对每件玩具都会进行测试。”
“然而，人工智能却在人们质疑它会对孩童造成什么影响之前，就已经接触到我们的孩子了，影响着他们的学习、他们的友谊，以及他们最私密的问题。”
不让人工智能固化阶级
他还表示，提高发展中国家的人工智能能力和普及率也是关键所在，以确保现有的、巨大的数码鸿沟不会“演变成人工智能鸿沟”。
古特雷斯指出，他将敦促联合国大会设立一个“全球人工智能基金”，“以便在世界各地建立起相关技能、数据和可负担的计算能力”。
他说，另一个优先事项是减少人工智能对气候的影响。他重申了此前对企业的呼吁，要求它们披露自身日益增加的环境足迹，并承诺到2030年让每一个数据中心都使用可再生能源供电。
担忧人工智能军事化杀戮
古特雷斯还表示，他最担忧的是人工智能在军事领域的应用，尤其是所谓的致命性自主武器系统。
“让我们直说吧——它们就叫‘杀人机器’。”他说：“机器在没有人类控制和评判的情况下，自行选择并锁定目标来夺走生命。这在道德上令人憎恶……必须通过国际法予以禁止。”
古特雷斯强调，必须尽快建立足够的保障措施，引导人工智能朝着积极的方向发展。
他说：“我们可能是最后一代能够决定人类与机器共存方式的人。大门仍然敞开，但不会一直敞开。”
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
