抖音启动AI生成内容专项治理行动

今年以来，抖音针对利用人工智能技术生成的色情低俗内容展开集中整治，已累计处置违规内容4.2万条，对1.4万个相关账号采取限制推荐、禁言或封禁等梯度管理措施。此次治理聚焦高风险场景，重点打击通过虚假人设诱导用户的行为。

黑产团伙利用AI人设实施导流被查

典型案例显示，有不法分子借助AI技术构建“单亲妈妈陪读”等虚构身份，以情感故事为包装进行色情内容导流，相关涉案人员共4人已被刑事拘留。此类行为严重扰乱网络秩序，侵害公众利益。

大规模AI美图引导用户至非法网站

平台监测发现，339个账号通过批量生成虚拟女性形象图片，诱导用户点击链接跳转至非法网站，形成完整灰色产业链。此外，8421个长期发布擦边类AI生成内容的账号也被集中处置，有效遏制了不良信息扩散。

平台持续升级技术与执法协同机制

抖音表示，将坚持主动识别与上报原则，对涉嫌违法犯罪线索及时移交公安机关，并不断优化算法模型和内容审核体系，提升对深度伪造、合成图像等新型违规形式的发现能力，维护清朗网络空间。