2024抖音直播治理报告：引入音频审核大模型强化治理违规内容

文章来源：放心AI网发布时间：2025-05-15 09:58:32

抖音集团近日发布了2024年直播治理报告，全面展示了该平台在直播领域的治理理念、方法和成果。过去一年中，抖音致力于构建一个安全可信、风清气正的网络直播环境，通过完善主播管理机制、强化内容识别技术、线上线下联动治理以及重点人群保护等措施，取得了显著成效。

在主播管理方面，抖音推出了“健康分”制度，根据主播的日常直播行为增减账号分数，并依据分值对账号实施分级管理。该制度实施后，100万主播被扣除健康分，其中76%的低分主播主动调整内容，不再违规，显著降低了直播间的违规率。同时，抖音还将主播健康分与机构关联，要求机构承担管理责任，使得机构主播的重复违规率下降了10%。

技术层面上，抖音引入了音频审核大模型，通过预训练掌握直播场景中的常用表达方式，并具备基本的逻辑推理能力。这一技术的应用有效改善了违规内容曝光时长问题，使得风险内容的识别和处置逐渐由人工转移至机器自动识别和处置。2024年，抖音通过AI大模型的应用，开展了二十余次专项行动，无限期回收了32万个直播权限账号，清退了526家直播机构。

在重点人群保护方面，抖音升级了未成年人保护机制，对于未经监护人允许的未成年人打赏消费，一经核实，将先行全额垫付退赔，平均21小时内完成退款。此外，抖音还积极探索“城市+平台”的治理模式，与长沙、沈阳等城市的相关部门联动，建立“快速预防+高效处置”的联动机制，有效减少了违规行为。

抖音还加强了与警方的配合，严厉打击线下违法犯罪行为。过去一年中，抖音直播成立专项团队，上报黑产线索300余条，配合公安机关捣毁犯罪窝点100余个，抓捕犯罪嫌疑人361名。通过这些措施，抖音直播在打击黑产和导流欺诈黑产方面取得了显著成效，无限期回收了7.4万个涉导流黑灰产账号的直播权限，对涉嫌导流欺诈黑产的15万个账号无限期回收直播权限。