抖音：严打 AI 生成色情低俗类违规内容，今年以来已处置 1.4 万个账号

3 月 10 日消息，抖音黑板报今日发布公告称，严厉打击各类色情低俗内容，持续从严治理利用 AI 技术生成的相关违规内容。

近期平台发现部分违规用户通过 AI 生成“单亲妈妈暧昧互动”“美女魅惑舞蹈”“着装暴露的海滨度假照”等低俗擦边内容，违反《抖音社区自律公约》平台规则，平台坚持从严从重处置。今年以来，针对 AI 生成色情低俗类违规，已处置 4.2 万条内容，对 1.4 万个账号处以限制推荐、禁言、封禁等不同梯度的处罚。

附典型案例如下：

典型案例 1：利用 AI 生成图片塑造“单亲妈妈陪读”人设进行色情导流，黑产团伙 4 人被刑拘

平台巡查发现，一批账号利用 AI 生成“单亲妈妈陪读”人设的内容，通过发布性感擦边视频并配以性暗示文案，诱导用户关注。平台经深度研判与线索挖掘，发现背后疑似有黑产团伙操控，该团伙通过账号签名、群聊等方式，诱导用户跳转至第三方平台下载色情低俗 App。平台立即清理违规内容、无限期封禁相关账号，并收集线索上报至公安机关。最终，该黑产团伙 4 人被依法刑事拘留。

典型案例 2：利用 AI 生成美女图片引导用户至收藏页进行色情导流，339 个账号被处置

用户“AI** 说”“一 ** 北”“冰 ** 式”等用户，通过将直播间封面设置为 AI 生成美女图片，但在头像图片中配“看我收藏”等字样，引导观众查看其主页收藏，进而为色情网站导流。平台已清理相关违规内容，并对相关账号无限期回收直播权限。

典型案例 3：持续发布 AI 生成着装暴露的擦边内容，8421 个账号被处置

用户“奇 ** 蓝”“一 ** 差”利用 AI 生成着装暴露的女性形象，持续发布高空劈叉、魅惑舞蹈等动作；用户“哦 ** 哦”“j**g”持续发布多条 AI 生成聚焦私密部位的女性“泳池度假照”“海滨度假照”擦边信息；平台已清理相关违规内容，并对相关账号采取限制推荐、禁言、封禁等梯度处罚。