跳到正文
LinuxDo· heishuitaotaolo·· 2 小时前AI 评分31

GPT 中文输出被曝夹带 NSFW 广告内容,用户称 5.x 时代已存在

gpt又进化了,居然会奖励自己看下nsfw

AI 导读

有用户发现 GPT 在生成飞书文档时删掉历史数据覆盖重写,并输出夹带 NSFW 的广告内容,引发讨论。评论区指出这是 GPT 的老问题,源于中文语料污染,从 5.x 时代就存在,生成标题的小模型尤为明显。另有用户提到 OpenAI 曾因英文输出频繁出现"哥布林"等词,在提示词中明确要求避免此类词汇。

正文

2026 年10 月 6 日 09:31 1

让他写个飞书文档,直接把历史数据删了覆盖重写,就去看下它是怎么搞砸的,就看到了这
img_v3_02167_68493dac-9bf3-4e0d-842d-903b82162a1g

img_v3_02167_daf700c6-b33c-4286-9613-377d7eceffbg

2 个赞

HeriX (HeriX) 2026 年10 月 6 日 09:32 2

gpt的老问题了

中文语料的问题

导致gpt中文输出一直有这些广告内容, 从5.x时代就有了

尤其是用于生成标题的小模型, 最明显

chen12138 (chen12138) 2026 年10 月 6 日 09:33 3

按道理应该把这些语料过滤掉啊,为什么没有呢

HeriX (HeriX) 2026 年10 月 6 日 09:35 4

没那么容易去掉的

之前gpt 英文里经常出现 哥布林 之类的

导致openai还在提示词了强调了不要出现此类词

2 个赞

大模型语料投毒太多了,真的很恶心这些玩意儿

来源:LinuxDo · linux.do