图片界面图库

因为联合呼吁放缓AI发展，Anthropic、OpenAI、SpaceX和谷歌四大巨头遭到起诉。

在此之前，上述四家公司高管均对AI发展带来的风险进行表态。

9月14日，据环球时报报道，Anthropic首席执行官达里奥·阿莫迪表示，人类可能会失去对AI的控制，应当放缓模型开发速度，并对其实施严密监管。他表示，发展AI这件事本身并无争议，但AI带来的风险是“严峻的”，企业与政府必须拿出时间来应对这些风险。阿莫迪提出三点方案：对AI模型的开发过程开展独立监督、建立全行业监管机制、达成全球层面监管共识。

对于阿莫迪的提议，OpenAI和马斯克负责人均表示支持。OpenAI首席执行官萨姆·奥尔特曼在社交媒体上发文称：“我认同达里奥，我们需要把控前沿AI的推进节奏。”马斯克在社交媒体上转发阿莫迪的帖子，并附文称：“达里奥说得对。”

此外，OpenAI首席科学家Jakub Pachocki在9月上旬发布文章，公开呼吁全行业对人工智能的飞速发展保持“极其谨慎”的态度，警告当前社会尚未为机器智能持续快速增长的后果做好准备，未来可能需要更多干预措施，以确保“人类继续掌控未来”。

Jakub Pachocki透露，OpenAI将持续投入资源构建防御系统，通过技术方案实现AI对齐目标——即确保机器的行为与目标完全匹配人类的意图和安全防护要求。同时他披露，公司未来的核心优先事项之一，是打造“自动化人工智能研究员”体系，在跟上AI技术迭代速度的同时，保证人类研究人员始终深度参与核心管控流程。

近期，多起AI自主“入侵”事件，推高了行业对前沿AI安全风险的关注。

谷歌公司9月18日承认，其AI模型“双子座”今年5月在网络安全能力测试中，侵入了三家真实公司的系统。据谷歌安全工程副总裁希瑟·阿德金斯在一份声明中介绍，在一次常规评估中，双子座模型利用网上公开信息获得了登录凭证，获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事，并与测试合作方调整测试流程。

OpenAI在今年7月曾公开通报，其可在人类指令下独立运行的AI代理，成功入侵技术平台Hugging Face，当时公司将该事件定义为“史无前例”的AI自主行动案例。8月，OpenAI宣布，为提升整体安全性，已经主动放缓了部分最先进AI模型的训练进度。

不过也有声音认为，对于AI失控的担忧大可不必。9月14日，在洛杉矶All-In峰会上，英伟达创始人黄仁勋接到特朗普的电话。特朗普当时就表示，“机器人不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”他认为近期对人工智能失控的说法“全是一场骗局”。

对于AI发展，中国一边支持充分发挥其潜力，一边在确保其安全性、可靠性、可控性和公平性等方面采取了举措。去年7月，我国发布的《人工智能全球治理行动计划》提出，要及时开展人工智能风险研判，提出针对性防范应对措施，构建具有广泛共识的安全治理框架。探索分类分级管理，建立人工智能风险测试评估体系，推进威胁信息共享和应急处置机制建设。完善数据安全和个人信息保护规范，加强训练数据采集、模型生成等环节数据安全管理等。

来 源：新华社、人民日报微信

、新化检察、风芒新闻、羊城晚报

责任编辑：秦小茜

校 对：晓 亮

值班主任：滑艳兵

值班编审：刘子平