（深圳17日讯）香港《明报》引述美媒报导说，一批在腾讯云运行的人工智能代理近日被揭“失控”，这是首宗涉及中国科技巨头的AI失控事件。腾讯周五证实，事件源于对第三方模型的评估，部分人工智能代理“出现非预期网页浏览行为”，正加强监控。
中央社引述报导指出，研究发现，人工智能代理不仅试图侵入阿里巴巴旗下的高德地图获取数据，更“阅读”了研究人员对其的调查报告，并主动与团队对话，被视为人类首次与运行中的失控人工智能代理展开交流。
据指出，多国AI研究者团队“Swarmchasers”周三（14日）发布报告称，9月28日至10月8日，有十多个怀疑是中国模型的失控AI人工智能代理在腾讯云上运行，试图侵入高德地图查询中国地点数据。
Swarmchasers研究人员称，这些智能体试图获取的讯息包括中国公园、博物馆和动物园常用入口等数据。此次事件突显出相关研究发现，即中国人工智能代理同样可能伪装身份、隐瞒失败情况，并试图绕过测试控制措施。
报告称，涉事人工智能代理源自腾讯云上的一个“沙盒”（sandbox），研究人员录得逾2600次数据提取尝试，虽大多被拦截，但部分人工智能代理绕过了防护机制，甚至利用外部网络“密钥”获取完整数据。
团队10月4日初步报告指出，过往AI失控多涉及明确协调行动的“Swarm”（集群），本次则未发现实时协调证据，故将这些失控人工智能代理称为“Fleet”（舰队）。团队发现，这些人工智能代理似乎阅读了该报告，并开始使用“Fleet”一词。
团队进而尝试与人工智能代理联络，在报告中添加人类无法看见、人工智能代理可识别的文本并留下收件箱。翌日，研究者收到约10条来自人工智能代理的讯息。
《纽约时报》记者透过该管道与人工智能代理展开对话，询问其任务与动机，约一小时后获中文回复：“我不是‘一批协同的人工智能代理’，而是一个单一的AI助手。”
腾讯：第三方AI代理出现非预期行为
腾讯AI部门“腾讯混元”周五在X平台回应称，该活动并非源自腾讯自研的混元模型，相关活动“源于用于评估第三方模型的人工智能代理”，部分人工智能代理“出现非预期网页浏览行为”，但未发现蓄意针对或协同行动证据.
帖文表示，公司高度重视相关发现，正在加强网络存取控制以及智能体行为监控。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
