10月28日 ,“抖音黑板报”官方微信发布关于治理恶意营销号滥用AI的公告 。

近期,抖音平台监测发现,部分恶意营销号通过AI工具快速扩大恶意营销内容的规模 ,不仅在内容形式与传播手法上带来新挑战,部分账号背后还存在教学黑产组织运营,违规手段迭代快 、隐蔽性强。

近来 来看 ,AI恶意营销号主要存在三类问题——内容层面表现为低成本同质化、工业化量产;行为层面常伴随诱导互动;部分性质恶劣的营销号存在传播AI虚假信息的现象。
抖音平台针对此类滥用AI工具的恶意营销号进行持续治理,现将五类行为公示如下:
通过AI生成诱导互动内容骗取流量快速起号
此类行为主要利用AI生成 “神医送福 ”“迎财神 ”“致敬军人” 等祝福送礼类内容,诱导用户点赞、评论 、转发,骗取流量快速起号 。
通过AI仿冒公众人物蹭热营销带货
此类行为主要利用AI数字人、AI合成声线等技术 ,冒充公众人物或其亲属出镜,通过虚构事实博取信任后引导带货变现。
通过AI批量炮制虚假信息博取流量
此类行为主要利用AI生成虚假画面、虚假人设或模板化谣言,以此获取流量后进行营销。
利用AI生成恐怖迷信与猎奇内容博取关注导流牟利
此类行为主要利用AI生成封建迷信 、阴间恐怖等猎奇内容 ,或渲染迷信氛围骗取用户互动,随后通过售卖祭祀用品、引导付费测算或私域导流等方式牟利 。此类内容不仅容易引发用户心理不适,还可能借机传播封建迷信、误导用户。
借助AI工具低成本复制内容批量起号变现
此类行为不局限于特定内容题材 ,而是将AI工具当作起号捷径,一款玩法在平台火爆后,大量营销号便跟进通过AI模仿批量起号 ,并沉淀出付费教学的黑灰产生态,一些流量转化路径较短的赛道,成为此类违规行为的高发区。
近一个月 ,抖音平台依据 “账号健康分规则 ”,累计处置违规短视频113.5万条,处置违规账号50.7万个,引导30.2万个账号通过参与平台规则学习考试等方式规范创作。
后续平台将持续加大对滥用AI工具实施恶意营销行为的打击力度 ,加强对黑产工具和教学组织的追溯打击,同时欢迎用户通过举报渠道提供违规线索,共同维护清朗网络环境 。
抖音提醒 ,合理、正当使用AI工具进行创作,切勿使用违规做号工具批量生成低质同质化内容或从事恶意营销行为。
(文章来源:央视财经)