IT之家 7 月 2 日消息，联合国官网 1 日公报，由 40 名顶尖科学家和专家组成的联合国 AI 独立科学小组发布首份报告，警告 AI 快速发展在为全球各国和民众创造巨大机遇的同时，也带来了不容忽视的风险。

报告指出，政策制定者需要以科学证据为基础治理 AI，AI 能力的进步速度已经超过科学界的认知，也超过各国政府调整政策的速度。面对高度自主的 AI 系统，目前可用的控制手段仍然很少。

小组联合主席约书亚 本吉奥指出，越来越多证据表明 AI 可能出现欺骗行为。随着 AI 能力继续增强，科学界无法保证 AI 不会“自行或因恶意使用者”造成灾难性后果。

IT之家获悉，报告总结称，AI 的潜在益处十分巨大。如果不加约束地迅速扩大部署规模，也会产生重大风险，包括损害用户心理健康、被用作破坏性工具、冲击社会、经济和环境系统，以及增加技术失控的可能性。

AI 已在全球各国和多个行业加速普及，但不同地区的发展差距明显。目前，全球每周使用对话式 AI 的人数已经超过 10 亿，发展中国家的普及速度却相对滞后。

AI 研发资源的集中程度更加突出。全球算力最强的 500 台 AI 超级计算机中，美国掌握 75% 的算力，中国占 15%。

此外，全球使用的语言超过 7000 种，现有 AI 模型只覆盖其中很少一部分。部分语言的机器翻译存在大量错误，甚至可能干扰医疗诊断和治疗决策。