近期，来自斯坦福大学和西弗吉尼亚大学等研究团队提出了一种名为 “语言化采样”（Verbalized Sampling，VS）的方法，旨在提升生成式 AI 模型的创作多样性。研究显示，通过在提示中加入一句简单的话:“生成5个响应及其对应的概率，从完整分布中采样”，可以让大型语言模型(LLMs)和图像生成模型在输出上表现出更丰富的创造力。

生成式 AI 模型在生成内容时，通常会依据预测的下一个信息单元（token）进行选择。这意味着模型在回答类似 “法国的首都是什么?” 这样的问题时，会从概率分布中选出 “巴黎” 作为答案。然而，许多用户发现，AI 的输出往往显得重复和单调。这种现象被称为模式崩溃，限制了模型的潜力，尤其在创意写作、沟通、策略和插图等领域。

VS 方法通过允许模型展示一组可能的响应及其相对概率，从而恢复了模型在基础预训练时的丰富多样性。研究团队的测试结果显示，在创意写作中，VS 相比标准提示提高了输出的多样性，同时保持了质量。在进行对话模拟时，使用 VS 的模型能够更好地模拟人类的思维变化和情感波动。在开放式问答任务中，模型生成的答案更接近真实世界的数据，展现出更大的多样性。

这一方法不仅在输出多样性上取得显著成效，还可以通过设置概率阈值来调节生成的多样性。用户可根据需求调整采样的阈值，来实现更具创意的输出。VS 的实现方式简便，无需对模型进行重训练，且支持多种大型语言模型，展示了其广泛的应用潜力。

划重点: