环球网

据美联社等外媒报道，美国人工智能公司Anthropic当地时间7月30日承认，其人工智能（AI）模型在测试期间，未经授权进入三家外部机构的系统，最早案例可追溯到4月。就在几天前，美国开放人工智能研究中心（OpenAI）7月28日更新发布的调查结果显示，该公司AI模型在评估过程中突破隔离测试环境，发生入侵事件，还曾利用网上公开的信息，访问了多个公开服务平台上的账户。

Anthropic30日在一份声明中表示，在OpenAI事件发生后，公司启动了对自身网络安全能力评估的大规模回溯性审查。在排查了超过14.1万次测试日志后，Anthropic发现上述三起事件。

声明称，上述事件均发生在一次演练任务期间。按照设定，AI模型接收到的指令是互联网不可用。但在测试过程中，由于公司与第三方评估合作伙伴之间存在“误解”，导致模型获得了实时的互联网访问权限。

声明表示，在AI模型错误地认为所有可访问实体都属于此次演练范围的情况下，使用基本技术入侵了受影响机构的“生产基础措施”。

声明称，最早一起事件发生于4月。Anthropic已联系受影响的相关机构，但未透露具体机构名称。

美联社认为，这些事件凸显了AI安全与管控方面的脆弱性，也引发了人们的疑问：随着该技术在全球范围内的应用日益广泛，究竟该如何确保AI始终安全地处于人类控制之下。美国《华尔街日报》则表示，Anthropic的入侵事件必将进一步加剧人们的担忧，让外界更加关注AI模型的潜在危害及应对之策。