“快讯类新闻生产从1小时压缩到12分钟，突发新闻的AI响应速度甚至做到30秒内生成首条快讯。效率的飞跃让主流媒体在和谣言的竞赛中占据了主动权。”在今天举行的2025中国报业传媒行业人工智能应用大会上，南开大学教授、博导，中国科技新闻学会副理事长刘亚东展示了AI为传媒行业带来的变化。

然而，面对AI技术的高歌猛进，刘亚东也发出警示：“技术跑得再快，也不能脱离合规和伦理这条缰绳，这是行业可持续发展的绝对底线。”

论坛现场 新民晚报记者马丹 摄

AI面临“幻觉”与滥用的挑战

一边是AI协作智能配音带来的生产效率提升，另一边深度伪造、信息谣言引发的信任危机扑面而来，AI技术在带来效率提升的同时，生成式AI的“双刃剑”效应也日益提升。

“AI幻觉，即人工智能在生成内容时出现的虚假或误导性信息。”上海市信息安全测评认证中心总工程师李宏达指出，AI幻觉源于数据质量、算法机制与概率模型的多重作用。“就像孩子在充斥脏话的环境中长大，模型若训练数据不干净，输出结果必然失真，也会误导人类的判断和认知。”

财跃星辰首席运营官张展揭示了金融领域面临着的“语料污染”问题。“网络上充斥着源自自媒体的‘小作文’，大模型通过搜索引擎捕捉到这些信息后，会不加判断地将其作为答案输出。这已形成一条从虚假信息炮制、社交媒体传播，到AI模型背书，最终触发量化策略、引发市场共振的完整产业链，严重扰乱了投资市场。”

AI技术滥用也已出现诸多现实案例。李宏达提到，本月初发生的“温峥嵘盗播事件”中，同一个AI生成的温峥嵘形象在十几个直播间同时出现，正是技术滥用的典型例证。

治理体系正在构建和完善

面对挑战，建立清晰的治理规则已成为行业共识。刘亚东强调：“我们越来越感觉到，建立清晰的AI内容审核标准，确保内容的合法性、真实性和公信力，已经不是选答题，而是必答题。因为一旦失去了信任，所有的效率和创新都有可能归零。”

治理体系正在加速构建。李宏达介绍：“中央网信办推出的生成式人工智能标识管理办法，通过显性标识和隐形数字水印技术，实现了从生成、传播到溯源的全程监管闭环。”他还透露，政务领域已对AI应用提出硬性要求，“面向公众服务的大模型准确率必须达到95%以上”，监管层面对未落实标识要求的单位也已采取处罚措施。

上海人工智能研究院首席数字官林圆圆提出了构建可信AI生态的权责框架，强调需从技术方、内容生产者、平台、用户四方面共同发力。“技术方有责任提供可靠工具并明确使用边界；内容生产者需要保证信源准确，并对使用AI生成的部分进行明确标注；平台方则要承担内容审核责任，防止问题信息被算法放大；而作为终端消费者，每个公民都有责任提升信息鉴别能力，而不是人云亦云。”

在AI“双刃剑”效应下，主流媒体正担起责任。上海正通过推动AI治理平台建设、参与制定行业标准等方式，确保技术创新“安全可控、向上向善”。全国多家媒体推出AI辟谣智能体，用技术手段对抗虚假信息传播。

原标题：《都在说AI让内容“提速”，这场报业大会却在谈如何拴上“缰绳”》

栏目编辑：陆梓华

本文作者：新民晚报 马丹