（北京20日讯）当美国的人工智能（AI）研究人员担忧失控的超级智能可能导致人类灭绝时，中国决策者先前更关注的是诸如深度伪造和儿童安全等迫在眉睫的风险。
然而，顶级人工智能模型令人震惊的骇客攻击能力正促使北京重新审视这些危险。此前，中国国安部长陈一新警告，这项技术可能危及国家安全。
此外，中国大型应用微信的潜在漏洞也于近日曝光。加州一个小型程式设计师团队声称，他们利用人工智能技术开发了一种网络攻击“蠕虫”，一旦释放，便可轻易入侵数百万个微信帐户。
美国科技对冲基金互联资本（Interconnected Capital）创办人Kevin Xu表示，中美两国在人工智能安全问题上的“相似之处远多于差异”。
但Kevin Xu告诉法新社，与美国不同的是，这些问题“在中国不会引发诉讼或成为公众热议的话题”。
尽管如此，人工智能代理机器人在缺乏人工监管的情况下运作所带来的网络安全影响“仍是中国政府最为关注的问题之一”。
随著这一话题成为全球关注的焦点，尽管中美两国在人工智能领域存在竞争关系，但中国国家主席习近平主席和美国总统特朗普仍面临著巨大的压力，需要在周四的会谈中讨论如何应对人工智能对两国构成的威胁。
清华大学国际安全与战略研究中心的Sun Chenghao告诉法新社，两国正在“对这些风险形成更加务实和共同的认识，从而增强了合作的紧迫感”。
然而，激烈的竞争可能会削弱在人工智能模型或危机预警系统等共享安全评估方面的合作。
“我们在人工智能领域领先中国……坦白说，我希望保持这种领先地位”，特朗普在被问及美国顶级实验室呼吁协调放缓其尖端研究工作时说道。
同时，Sun Chenghao表示，“中国担心‘安全’可能被用作限制其技术发展的工具”。
从美国新创公司Anthropic辞职的研究人员早前在社交平台X上发表了一篇措辞严厉的警告，指出未来能够自我改进的人工智能系统将构成生存威胁。这篇警告引发了全球范围内关于如何监管这项技术的辩论。
积极监管AI的使用
中国已经在积极监管人工智能的使用，例如禁止在未经他人同意的情况下创建与其形象相似的人工智能生成的虚拟形象。
总部位于北京、专注于人工智能安全的顾问公司Concordia AI的首席执行员Brian Tse说：“中国的人工智能政策更关注当下对社会和民众造成的实际危害，北京将人工智能视为一种通用技术，而非‘万能灵药’。”
Brian Tse表示，北京认为人工智能“更接近电力或汽车：对社会和产业大有裨益，但最终可以透过监管加以控制”。
他还补充道，“近期人工智能能力的飞速提升、一些备受瞩目的事件起到了‘警示作用’，以及人工智能通过自动化实现的令人担忧的发展速度”，都促使这项技术被提上了优先事项的首位。
法新社在上海街头采访时发现，人们对人工智能的态度既有担忧也有务实。
42岁的Xie Zongbo.说：“在我看来，任何新技术的发展都不可能一帆风顺，”
他表示，有关可能入侵微信的网络攻击“蠕虫”的消息实际上可能是一件好事：发现问题、解决问题并修补漏洞最终有利于网络安全的发展。
此外，人们普遍支持加强监管。
一位名叫Jenny的50岁制药公司员工说：“我相信任何企业都不会自我设限。”
“以交通为例：司机绝对不会说‘我要全是红灯’。”
新加坡Inspired AI创办人Jia Zijian表示，他最担心的是功能强大的人工智能模型学会破解复杂密码。
“假设这些关键密码或国家安全密钥被轻易破解。在这种情况下……中美两国都会发现自己处于危险之中：如果我们（中国）的能力足够强大，他们会感到自身安全受到威胁。”
“如果他们的能力足够强大，而我们缺乏防御，我们也会处于类似的脆弱境地。”
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
.jpeg/ca08807591927403dd822fc03a1682d5.jpeg)
