小红书重点打击黑灰产团伙用AIGC大模型大规模矩阵养号行为

文章来源：放心AI网发布时间：2025-04-23 09:23:45

日前，小红书发布了最新的 “黑灰产账号治理阶段进展公告”，宣布在过去三个月内，共计处置了超过320万的黑灰产账号。

根据公告，截至2023年2月17日，小红书的 “薯管家” 团队在治理过程中，发现并处理了401个拥有10万以上粉丝的账号，以及9215个拥有1万以上粉丝的账号。这表明黑灰产账号在社区内的影响力不容小觑。小红书方面表示，治理黑灰产账号主要集中在两个领域:黑灰产养号和恶意营销。

黑灰产养号是指某些团伙通过批量发布同质化的影视二次创作视频，来迅速增加账号的粉丝量。随后，他们通过售卖这些账号或发布虚假营销内容来获利。在过去三个月内，治理团队成功处置了超过100万个黑灰产养号账号。

值得关注的是，小红书明确指出，黑灰产团伙利用 AIGC 大模型批量生成同质化素材，或采取热点跟风手段，通过超大规模矩阵养号，严重扰乱社区生态。

另外，黑灰产恶意营销则是指这些团伙利用账号兜售非法或灰色商品和服务。例如，提供帮助债务人逃避债务的 “逾期协商” 服务，或是伪科学的 “占卜玄学” 服务。此外，他们还会通过多个行业进行违规营销，利用数千个黑灰产账号发布虚假、低质的营销内容，影响社区的正常秩序。在旅游和教育行业，他们打造 “素人人设”，并通过虚假内容引导用户购买课程。