据“”2月25日消息，腾讯旗下AI应用元宝App因多轮对话中出现辱骂性异常输出引发舆论热议，该事件发生于除夕夜这一特殊节点，让AI内容安全问题再度成为焦点。

图源：金融八卦女

据当事人介绍，他当时先后向元宝AI下达了约5次生成指令，全程未使用任何违禁词或诱导性表述，仅因对生成效果不满意多次修改。直至最后一次修改后，图片中原有的“新年快乐，仕途顺遂”祝福标语，被替换成了低俗辱骂文字。

图源：评论区截图

对此元宝官方立即道歉，并表示该情况是由模型在处理多轮对话时输出的异常结果导致。

值得关注的是，元宝App已不是首次出现此类问题了。今年1月已有用户反馈，使用元宝修改代码时，多次收到 “滚”“浪费时间” 等侮辱性回复。

图源：荆楚网

作为月活超亿、深度融入微信生态的AI工具，元宝App覆盖社交、办公、创作等高频场景。头部AI产品更需建立全流程风控机制，在AI普惠化进程中，技术迭代与安全合规必须同步推进，避免 “便利” 变 “冒犯”，守护用户体验与行业底线。