中央网信办出手整治 AI 应用乱象：清理违法违规信息 600 余万条

咕噜早报

【行动背景与整治重点】
IT 之家 7 月 6 日消息，中央网信办今日发文称，“清朗 · 整治 AI 应用乱象”专项行动自 2026 年 4 月启动以来，中央网信办聚焦 未按规定履行大模型备案登记义务、AI 平台安全和审核过滤能力不足、AI 数据投毒、生成合成内容标识落实不到位 等 AI 应用乱象，部署各地网信部门深入推进第一阶段重点整治任务，并开设“涉 AI 应用乱象举报专区”，专项受理公众举报。

【第一阶段整治成果】
在各方共同努力下，第一阶段累计处置违规网站、应用程序、智能体等 AI 产品 1.4 万余款， 清理违法违规信息 600 余万条 ，处置账号 2.6 万余个，下架违规 AI 商品 1300 余个、违规开源数据集 9 个，各项工作取得积极进展。

【各地网信部门监管措施】
各地网信部门认真履行属地管理责任，结合实际采取有效监督管理措施。

如：

• 北京网信办建立“平台自查 + 常态巡查 + 技术筛查 + 线索核查”联动工作机制，及时下架一批违规 AI 应用和运营账号。

• 上海网信办针对平台类型细化工作要求，指导平台升级举报机制、主动发布治理公告。

• 浙江网信办从模型审核能力、训练语料安全、AI 数据投毒等多维度，组织开展优化语义判断能力、高频回归测试等针对性整改。

• 江苏网信办开设 AI 应用乱象专项举报窗口，收集 AI 数据投毒、未落实生成合成内容标识要求等 5 类违法违规情形举报线索，及时核实