以 AI 治理 AI：Reddit 近来每天拦截 2300 万条垃圾浏览信息

咕噜早报

IT之家 7 月 7 日消息，Reddit 当地时间 6 日介绍了其与人工智能生成垃圾内容的对抗效果。这一论坛型社交平台将先进 AI 与既有自动化工具相结合，持续保护 Reddit 的真实性。


【Reddit的AI治理策略】
Reddit 表示其从创建伊始就开始监控风险账号；

利用 LLM 来捕捉发帖中高度隐蔽、精心策划的虚假行为和人为炒作模式；

所有疑似自动化账户都需要证实其属于真人。

【治理成效数据】
该平台近来通过升级后的自动化系统 每天拦截 2300 万条垃圾浏览信息 、 捕获 2.5 万条新垃圾帖子 / 评论 、 撤销近 200 万次无效投票 ，用户垃圾信息接触量减少了 20%，整体垃圾账户接触频率进一步降低 10~15%。

【仇恨暴力内容管控升级】
Reddit 还通过自动化强化了对仇恨和暴力内容的管控，从检测到处理的平均用时已不足 5s，执法力度提高了 200% 以上，帮助减少了超过 40% 的潜在有害内容接触，误报减少了 40% 以上。