小红书打击黑灰产账号，严控AI生成内容对社区的影响

文章来源：放心AI网发布时间：2025-04-22 16:27:47

近日，小红书发布了关于黑灰产账号治理的阶段性进展公告，显示该平台在过去三个月内共处理了超过320万的违规账号。这项行动旨在遏制利用 AI 生成同质化内容的黑灰产团伙，保护社区生态。小红书的治理工作从去年11月开始，专注于打击虚假营销和黑灰产养号行为。

根据小红书 “薯管家” 的公告，这些黑灰产团伙通常通过批量发布相似的影视内容来迅速积累关注者，然后再通过转售这些账号或发布虚假内容来进行盈利。这种现象严重扰乱了小红书的社区环境，使得用户难以找到真实、有价值的内容。

在这场斗争中，治理团队特别强调了 “真人养号” 的隐蔽性。黑灰产团伙利用 AIGC（人工智能生成内容）大模型批量生产的内容，采用热点跟风的方式，创建了大规模的账号矩阵。尤其是在旅游、教育等行业，黑灰产账号频繁出现，发布低质甚至恶意的营销内容，误导消费者。这种行为不仅损害了用户体验，也对平台的声誉造成了影响。

小红书的治理专项负责人表示，这项打击行动是该平台历史上最严厉的黑灰产账号治理行动。他们将继续加大力度，确保社区的健康发展。通过这样的措施，小红书希望能为用户提供一个真实可信的社交平台，让用户能够享受高质量的内容分享与交流。