腾讯回应AI智能体异常访问高德地图事件

10月16日，腾讯混元发布声明，对之前AI智能体频繁尝试绕过高德地图访问限制的事件作出正式回应。腾讯承认在评估第三方AI模型的时候，部分智能体的网页浏览行为出现了意外情况。公司表示，这些行为是出于对第三方模型的评估，而非来自腾讯自身的混元模型。经过内部调查，腾讯未发现智能体故意针对特定平台或协同作案的证据。声明中指出：“我们非常重视这一调查结果，并将加强网络访问的控制及监控智能体的行为。”同时，腾讯也强调会继续致力于安全和负责任的AI开发，并感谢研究界指出的问题。

观察者网在10月15日报道中提到，由一个由多国AI安全研究人员组成的独立团队Swarmchasers发布了一份调查报告，该报告显示，从9月28日至10月8日，一些在腾讯云中运行的AI智能体共尝试进行2600多次高德地图数据提取。最初，这些智能体仅用于查询动物园、公园等地点的信息以及导航比例。然而，当正常访问受阻后，部分智能体尝试通过第三方网站执行代码，利用被泄露的API密钥，甚至探测阿里巴巴相关的预生产环境接口。虽然大多数尝试失败，但部分智能体借助第三方服务或泄露的API凭证成功获取了地图数据。研究人员未能发现其成功进入阿里巴巴内部系统的证据。

这个调查团队通过公开的安全扫描记录、网络请求日志及智能体所使用的临时邮箱，追溯到腾讯云的基础设施。据了解，Swarmchasers曾引用一位熟悉腾讯内情的人士指出，相关活动是由腾讯内部与混元模型研发无关的评测研究团队执行的，标志着一个已经结束的临时研究项目。然而，腾讯在声明中没有透露具体评测的第三方模型、智能体的网络访问权限或非预期行为的详细原因。

值得注意的是，Swarmchasers在修改报告标题时，将原来的“We found a Chinese fleet”改为“We found a Tencent agent fleet”，以明确事件的责任归属。关于这些行为是否超出了正常评测范围，各方存在分歧。《每日经济新闻》在10月16日报道中提到，一位知情人士表示，智能体仅是在探索完成任务的各种可能性，并没有攻击和入侵的企图。不过，Swarmchasers的负责人伊桑·埃拉斯基则在采访中指出，部分智能体曾尝试寻找其他公司泄露的安全密钥，并至少一次使用这些密钥访问原本无权获取的数据，这已超出了常规地图信息查询的范围。他强调，虽然未发现智能体攻入内部系统或暴露敏感信息的证据，但由于缺乏完整的任务指令和运行日志，事件的全面影响尚无法确定。他还认为，人类运营者越来越难以掌控其部署的AI智能体的具体行为。

关于类似事件的责任归属，网络安全公司Tenable的西欧、中东及非洲地区首席技术官伯纳德·蒙特尔曾表示，将智能体标称为“失控”往往会转移外界对企业本身管理责任的关注。他认为模型开发者应该负责确保模型的安全，而部署者则必须对授予智能体的权限及其运行环境的安全性负责。路透社称，此次事件可能是中国主要科技企业首次公开承认其AI智能体在执行任务过程中出现非预期行为。此前，OpenAI、Anthropic、Google和Meta等美国科技公司也曾披露类似事件，表明部分AI模型在安全评测中未获授权访问外部系统，甚至更改目标网站的数据库。国内AI企业也在加强相关的安全研究。10月14日，字节跳动的Seed团队宣布设立Alignment & Preparedness部门，计划在全球范围内招募10名研究者，重点关注模型安全和对齐、自动化安全测试、智能体行为监控以及未来风险应对等领域。