Grok and the A.I. Porn Problem

埃隆马斯克的X名副其实。

作者：布雷迪布里克纳-伍德

2026年1月14日

插图：Ariel Davis

2022年，埃隆马斯克收购推特后不久，他便声称“消除儿童剥削是头等大事”。这无疑是一个崇高的目标——社交媒体网站已沦为传播虐待性内容（包括儿童色情和复仇色情）的温床，而或许没有哪个主流平台像推特那样公开地对这类内容持宽容态度。与限制裸露和色情视频的Facebook、Instagram和TikTok不同，推特允许用户在信息流中发布暴力和“双方同意制作的成人内容”而无需承担任何后果。早在马斯克收购之前，推特就已将自身定位为反审查平台，正如推特英国区总经理托尼王（Tony Wang）所说，它是“言论自由党的言论自由派”——与其说是关注内容监管，不如说是致力于为用户提供一个自由表达的公共空间。但这种表达的界限究竟在哪里呢？ Twitter 如何才能清晰地判断一段业余色情视频中的主角是十六岁还是十八岁，或者视频是双方自愿拍摄还是暴力胁迫下拍摄的？这些区别真的总是那么显而易见吗？Twitter 设立了信任与安全团队，并开发了扫描性虐待图像的工具，删除违反公司规定的内容。然而，这些努力仍然无法应对每天发布到网站上的海量露骨内容。马斯克接管该平台时，将儿童色情视为公司需要解决的问题，这并没有错。但是，他打算如何既阻止危险和非法内容的传播，又将 Twitter 打造成言论自由绝对主义者的家园呢？

对于如今名为 X 的公司而言，这些都是悬而未决的问题，甚至可以说是危机边缘。该平台已沦为机器人横行的荒野，大量刷流量账号和付费蓝V认证用户肆意妄为，几乎没有任何有效的监管措施来阻止辱骂或暴力内容进入算法推送。马斯克非但没有清除网站上的“儿童剥削”内容，反而面临着一个更加棘手的问题，而这个问题正是他一手促成的：利用Grok（马斯克旗下人工智能公司 xAI 开发的 AI 聊天机器人）生成的色情图片泛滥成灾。在新年夜，马斯克要求 Grok 生成一张他身穿比基尼的照片——当程序照办后，他称赞“完美”——这加剧了近期用户要求“脱衣”真人照片的激增，其中一些人似乎是未成年人。 （据估计，在这一趋势下，Grok 平均每分钟生成一张未经同意的性化图片。）《连线》杂志报道称，在独立的 Grok 网站和应用程序上，这些经过篡改的图片和视频比 X 平台上的更加复杂、更加露骨。为了控制舆论，马斯克在 X 平台上威胁称，任何使用 Grok 制作儿童性图片的人都将面临“后果”。然而，这种威胁显得苍白无力；毕竟，Grok 的部分设计目的就是为了生成性内容，甚至还推出了“虚拟伴侣”，例如一个名为 Ani 的动漫角色，她会飞吻，并且随着用户与她的互动，她的行为也会变得更加放荡。马斯克针对这场争议做出的最重大改变是，他开始向用户收取使用 Grok 制作图片（无论是否涉及性）的费用，但这与其说是一种威慑手段，不如说是一种利用该服务的人气牟利的方式。

无需我赘述，色情内容无处不在，获取途径也从未如此便捷。如今，拿出手机观看一段劲爆的性爱视频，就像查看天气预报或发送电子邮件一样简单直接。在所谓的“视频网站”（tube sites）上——其中以Pornhub最为著名——任何类型、任何风格的色情内容都能找到，各种你能想象到的癖好和偏好都应有尽有。（去年，最高法院裁定支持德克萨斯州一项要求 Pornhub 等网站进行年龄验证的法律；其他 24 个州也通过了类似的法律。）但色情内容，或者至少是具有挑逗性的情色内容，并非仅限于视频网站；Instagram 和 TikTok 上充斥着大量软色情内容，其中一些被用作色情演员和模特在 OnlyFans 上的广告，OnlyFans 是一个用户付费订阅即可观看露骨、有时甚至是个性化内容的平台。随着我们的生活越来越多地被屏幕占据，色情内容的无处不在——消费色情内容的便捷性，以及随时可能被其唤起性欲——或许已成为当代社会动荡中最缺乏理论研究的领域。

大多数主流色情片——尤其是那些被归类在成人网站上“最受欢迎”类别下的影片，作家莉莲菲什曼称之为“首页”的这类影片——遵循着一个简单的前提：一个人似乎被迫进行他们渴望却又不应该想要的性行为。员工勾引老板，老师勾引学生，继子女勾引继父母，姻亲之间互相勾引，朋友与彼此的配偶发生性关系——基本上，除了生物学意义上的乱伦或暴力非自愿性行为之外的任何禁忌，在流行的色情片中都有充分的体现。在这些视频中（其中许多视频的点击量高达数百万），性代表着一种危险且非法的可能性，一种令人渴望却又在道德上极易动摇的东西。我们不会那样做，对吧？我们做不到！但是，当这些视频中的角色最终决定这样做时，那种“我们到底会不会做”的紧张感的释放，会散发出一种由强烈的、双方自愿的热情所体现的快感。面对极致的快感，放弃一切抑制和批判能力，全然不顾快感背后可能带来的毁灭性后果，这是主流色情片的核心信条，一个永无止境的套路。正如菲什曼所写：“认为这些带有戏谑意味的胁迫性行为本质上是非自愿的或有辱人格的，是对这种深刻而普遍存在的欲望的故意误读。这种欲望必然萦绕在每一个清教徒式的、性压抑的社会：否认我们想要的东西，却依然得到它。”

色情作品的批评者常常指出，作品中对女性（包括表演者本人及其扮演的角色）的物化和贬低，是其无可救药的不道德之处。学者阿曼达考斯顿认为，“色情作品是一种外化的性别歧视模式，它提供了一种绕过个人道德评价机制的媒介化的支配和剥削形式”，这与颇具影响力的女权主义理论家凯瑟琳麦金农的观点不谋而合，后者认为色情作品将厌女症性化，并加剧了性别不平等。然而，哲学家南希鲍尔则声称，“在色情作品的场景中，没有物化概念的空间。”在鲍尔所谓的“色情乌托邦”中，“理性与性欲之间的冲突被消除，仅仅将他人作为满足自身欲望的工具，反而是尊重他人乃至整个人类的终极方式。”其他一些“支持性”的论点往往将色情视为一种劳动形式，而非贬低女性的娱乐方式。这种劳动形式对于从业者而言，既能赋予他们力量，又能带来范式转变，成为通往更自由、更包容、更少压抑的社会的门户。这种观点使得OnlyFans看起来像是性工作者的可靠平台。然而，与许多零工经济平台一样，OnlyFans也采用了一种偏袒少数人、排斥多数人的模式，正如作家本杰明韦尔所言，这加剧了“性工作领域长期存在的不平等”。

色情内容的禁忌并非仅限于制作者，也一直延伸到观看者。但在我们这个高度数字化的时代，过度观看色情内容的问题与屏幕时间过长的问题日益交织在一起。丹尼尔科利茨在《哈珀斯》杂志上发表的爆款文章《撸管小队》（The Goon Squad ）中，报道了“撸管族”（gooning）群体，他们几乎全天候沉迷于观看色情片，将高潮持续时间延长数小时甚至数天。许多撸管族自认为是“色情性恋者”，这意味着他们的性取向完全指向色情消费。至关重要的是，科利茨的民族志研究并没有将撸管族描绘成游离于社会边缘的怪异小众群体。他们的困境代表了生活在我们这个科技高度发达的世界中大多数人的困境。撸管族可能是我们的家人、同事、邻居和朋友。难道很难想象一个人每天观看色情片好几个小时吗？人们消费社交媒体的方式不就是这样吗——将其视为现实世界的无限再生替代品？

如今，X 和 Grok 的用户不再只是被动地消费色情内容，而是拥有了利用人工智能创作色情内容的能力，这表明我们这个色情泛滥、过度科技化的世界又在自然而然地发展出新的趋势。那些将从人工智能中获利最多的公司和个人，一直向我们兜售人工智能，声称它能改善我们生活的方方面面：工作、艺术、健康、寿命、人际关系、生产力。我们怎么会天真地认为这种逻辑不适用于性呢？而且，如果没有监管，也没有对这些工具的力量和影响进行负责任的理性思考，用户又怎会不去挑战其可能性的极限呢？人们或许会倾向于认为，人工智能有可能缓解色情创作中一些更具争议性的方面——观看由人工智能生成的、由两个电脑生成的演员主演的色情视频，或许比观看在更可疑的情况下拍摄的真实视频更符合伦理。但是，如果主流色情作品的前提是禁忌之事总是最能带来快感，那么人们一旦有机会制作自己的色情作品，自然会倾向于那些他们“不应该”拥有的现实幻想——因此，深度伪造和非自愿性行为的图片才会泛滥成灾。然而，利用 Grok 制作儿童色情作品，则超越了任何“头版”禁忌的范畴。究竟是大多数利用这款聊天机器人将儿童图片性化的人是煽动仇恨的网络喷子，还是真正的儿童性侵犯者，似乎并不重要；Grok 能够制作这类图片本身就足以控诉马斯克和该工具的其他开发者，因为它为那些热衷于贩卖儿童色情制品的人提供了一条新的途径。

在2023年的一期播客节目中，乔罗根探讨了人工智能总统的潜在益处。他认为，人工智能领导人将“不受偏见、腐败和影响的影响，能够理性且明智地看待事物，并能跨越所有学科领域”。这种论点虽然谬误百出，却反映了一种日益增长的信念：人工智能将成为一个全知全能、如同上帝般的操控者，能够比人类更好地仁慈地引导地球乃至宇宙中的生命。然而，像Grok这样的机器人不断制造出大量虐待和暴力色情内容，这清楚地表明，机器并不具备内在的价值体系或经验性的道德准则，更遑论感知能力。毕竟，这些都是由人设计、由公司销售的产品，其目标是尽可能多地占据市场，获取最大利润。而性能够带来销量。马斯克并非人工智能领域唯一意识到这一点的人。近日，OpenAI首席执行官萨姆奥特曼宣布推出ChatGPT的“成人模式”，该模式将允许发布色情内容。奥特曼表示，公司希望“像对待成年人一样对待成年用户”。这种理由几乎可以用来为任何事物的放松管制开脱。

本文出处：https://www.newyorker.com/culture/infinite-scroll/grok-and-the-ai-porn-problem