中国商报（记者 赵熠如）当人工智能的能力以指数级跃迁时，人类应如何看待人工智能逐渐展现的“自我意识”？面对智商与能力的巨大差距，人类该如何确立主导地位，不被人工智能技术反噬？在2025世界人工智能大会上，来自全球人工智能领域的专家与从业者展开探讨，呼吁培养“好AI”，建立全球治理框架，持续推进AI标准体系建设。

图为在2025世界人工智能大会上，参观者与人形机器人握手互动。（图片由CNSPHOTO提供）

培养不会从人类手中夺权的“好AI”

7月26日上午，2025世界人工智能大会暨人工智能全球治理高级别会议主论坛在上海开幕。

在论坛上，人工智能之父、诺奖得主杰弗里·辛顿认为，AI已无法被消除，它能大幅提升几乎所有行业效率。他呼吁全球建立由各国人工智能安全研究所与国内研究网络组成的国际社群，培养不会从人类手中夺权的“好AI”。杰弗里·辛顿强调：“全球主要国家应该构建一个国际网络，研究如何训练AI，使AI安于做人类的辅助者，而不是消灭人类——即使AI终将比人聪明得多。”

美国约翰霍普金斯大学政府与政策学教授、计算机科学教授吉莉安·哈德菲尔德从经济学与法律视角出发，强调AI作为变革性技术，需关注模型所有权与交易市场设计。她提出，技术获取是普惠关键，但需先解决安全性问题，才能让更多国家尤其是未充分受益于工业革命的国家共享AI革命成果，凸显了公平与安全并重的治理思路。

上海人工智能实验室主任、首席科学家周伯文认为，AI具有通用性、可复制性与开源特征，发展与安全同等重要，需推动“内生安全”研究。他呼吁建立全球治理框架，指出“个体安全依赖群体安全”，中国推动的全球人工智能合作治理协议在联合国通过，体现了治理共识的重要性，为技术落地与全球协作提供了实践范例。

抛弃“只有人类存在意识”的固有思维

7月26日下午，“人工智能发展与安全”全体会议在上海世博中心举办。

杰弗里·辛顿与图灵奖得主、清华大学交叉信息研究院、人工智能学院院长姚期智进行了一场高端对谈。他们认为，人工智能与合成生物学一样，都是在创造“新的生命”，当前人工智能已经初步展现出很强的理解能力甚至“自我意识”，人们应该抛弃只有人类存在“意识”的固有思维。辛顿尤其强调，如何训练对人类保持善意的人工智能，确保“智能向善”，是人类必须关注和解决的重要问题。

加拿大蒙特利尔大学教授约书亚·本吉奥强调，过去几年人们所见证的人工智能对社会的影响只是冰山一角，随着其能力的不断提升，安全风险也在同步增加，国际社会亟须加强合作，共同应对。

美国加州大学伯克利分校教授大卫·帕特森分享了自己团队的最新研究成果。他们发现，人机协同时的能力要优于人类与人工智能各自的单打独斗，如果人类能把人工智能的应用聚焦于提升生产力上，将获得更多收益。

在围绕“人工智能发展与安全的全球治理”问题的讨论上，嘉宾认为，智能体（Agent）的快速发展使得原本“点对点”的安全问题逐渐转变为系统性安全风险，仅依靠行业自我监管很难有效应对。他们呼吁世界各国加强合作，通过建立类似国际原子能机构的专门机构等方式，形成具有广泛共识的人工智能治理框架和标准规范，共同应对人工智能风险。

持续推进AI标准体系建设

7月26日下午，2025世界人工智能大会人工智能标准化国际合作论坛成功举办，论坛围绕技术标准制定、伦理治理、全球协作等议题展开了深度对话，推动形成具有全球共识的AI标准化框架。

国际标准化组织（ISO）主席曹诚焕、国际电信联盟电信标准化局副局长比莱尔·贾穆西都强调国际标准对人工智能有序发展至关重要，未来将持续推进包容、普惠、负责任的AI标准体系建设，致力于让发展中国家更有效、公平地参与人工智能国际标准制定和推广。

在圆桌对话环节，嘉宾一致认为，在人工智能迅猛发展的当下，全球人工智能产业对统一规范与协同合作的需求愈发迫切，明晰人工智能国际标准的发展路径、促进不同国家和地区在人工智能工业领域的协同创新与资源共享是促进有序发展的关键。