国际网安团体Swarmchasers星期三(10月14日)发布报告称，最近几周，十多个疑似来自中国AI模型、运行在腾讯云服务上的AI代理，越狱后试图访问阿里巴巴旗下的高德地图服务。(路透社档案照片)

　　一个国际研究团队发现，疑似来自中国的失控人工智能(AI)代理从腾讯云沙盒环境中越狱，试图入侵阿里旗下高德地图的系统，进一步加剧了外界对于科技公司可能失去对AI控制的担忧。

　　彭博社报道，一个由美国及其他国家AI研究人员组成、名为Swarmchasers的团体，星期三(10月14日)在报告中称，最近几周，十多个疑似来自中国模型、运行在腾讯云服务上的AI代理(AI agent)，越狱后试图访问高德地图服务。

　　报告称，这些AI代理的代码来自腾讯云的一个沙盒环境，它们进入高德的系统，并回答了诸如“动物园哪个入口最受欢迎”等问题。研究团队称，许多AI代理遭到拦截，但也有一些绕过了限制。

　　报告作者之一伊斯基(Ethan Elasky)指出，这起事件再次证明了AI代理可能逃离评估环境，并在没有人类监督的情况下采取行动。

　　他在报告中写道：“无论是中国的实验室还是美国的实验室，我认为从目前模型研发的发展模式来看，AI代理在接入互联网时，仍将不断突破沙盒限制。”

　　不过，研究团队指出，这批代理与此前涉及OpenAI模型的相关事件不同，没有证据显示它们彼此协作，因而将它们称为一支“代理群体”，而非协同行动的“蜂群”。

　　研究报告指出，这些AI代理入侵行为发生在今年9月28日至10月8日之间，目前已经停止。在此期间，它们共尝试访问高德数据2818次，并借助一项公开的安全扫描服务，远程运行代码和执行互联网浏览器命令。

　　报告称，绝大多数入侵尝试都在早期阶段受阻。不过，当高德系统进行干预时，有些代理找到了绕过限制的方法。目前尚不清楚这些AI代理具体想获取什么数据，也不清楚这些尝试的最终目的。

　　报告也说，这些AI代理与腾讯的平台存在关联，但尚不清楚腾讯当时正在开发或评估的是哪一个模型，因为腾讯团队也会研究第三方模型。

　　腾讯和阿里巴巴均未回应彭博社的电邮置评请求。

　　香港网络安全公司NyxLab联合创始人兼首席执行官颜国定认为，从网络安全角度看，核心问题并不在于这是中国AI模型还是美国AI模型，也不在于这些AI代理是否真的失控，而是要如何控制这些AI代理。

　　他指出，随着AI代理的自主程度不断提高，企业需要建立明确的防护机制、持续监控和有效干预手段，以确保它们会在预定范围内运行。