天津市委网信办高度重视“清朗·整治AI技术滥用”专项行动,专项行动第一阶段工作主要任务为强化AI技术源头治理,清理整治违规AI应用程序,加强AI生成合成技术和内容标识管理,推动网站平台提升检测鉴伪能力,现将第一阶段专项行动工作成效发布如下。
一、加强顶层设计,强化协调配合
一是按照“清朗·整治AI技术滥用”专项行动要求,天津市委网信办细化制定《天津市关于开展“清朗·整治AI技术滥用”专项行动的实施方案》,各区、各部门依据自身职责对属地网站、APP、生成式人工智能服务提供企业等主体开展工作。
二是向属地7家生成式人工智能服务企业下发《关于开展“清朗·整治AI技术滥用”专项行动的工作提示》,提示相关企业在集中整治违规AI服务、强化AI服务和应用上架审核、加强训练语料安全管理、完善技术安全防范措和督促制作平台落实标识要求等5个方面开展专项工作。
二、立足工作实际,加强安全监管
一是按照《生成式人工智能服务管理暂行办法》要求,天津市委网信办优化备案登记机制,建立沟通协调机制,认真做好备案、登记和安全监管工作。截止目前,已完成“360智脑大模型”“蜜度文修大模型”“同道汇才大模型”“百应服务大模型”“菲凡工业大模型”5个生成式人工智能服务备案工作,完成“牵手AI恋爱助手”“洪恩文本生成服务”“Filez AI知识库”“五八驾考智能问答”4个生成式人工智能服务登记工作。
二是与属地生成式人工智能服务提供企业做好配合,认真开展重要时间节点重保工作,指导属地生成式人工智能服务提供企业制定应急重保预案,做好自查自检工作,加强值班值守。
三是天津市委网信办立足天津生成式人工智能行业实际,采用“人工+技术”的方式对生成式人工智能服务生成内容开展安全监测,以API对接的方式,利用大模型监管生成式人工智能服务,通报生成式人工智能服务存在的问题,以技术应对技术,以智能管理智能。截止目前,已开展四次专项内容监测行动,监测通报问题4批共计14个,已全部完成整改。
三、坚持效果导向,开展排查清理
一是召开2025年度第2次市级直联网站平台工作会议,就天津市开展“清朗·整治AI技术滥用”专项行动作专题工作部署,进一步压实网站平台主体责任,要求各网站平台切实防范AI技术滥用风险,营造风清气正的网络空间,22家市级重点网站平台内容负责人参加会议。
二是组织中央新闻网站天津频道、属地新闻网站、主要商业网站平台10余家媒体参加专题培训,聚焦规范人工智能生成合成内容标识,指导相关媒体参照《人工智能生成合成内容标识办法》等要求配齐生成合成内容标识功能,结合实际构建生成合成内容检测识别能力,对生成合成内容进行标识,切实压紧压实网站平台主体责任,防范AI技术滥用风险,营造风清气正的网络空间。
三是组织16个区对属地5万余家网站,1万余个APP进行排查,发现1家企业所属网站存在违规提供“一键换脸换装”等AI应用违规产品,第一时间对网站负责人进行约谈教育,责令整改注销问题网站,目前涉事网站均已关闭。同时,排查发现部分企业存在调用已备案生成式人工智能服务API未登记直接提供生成式人工智能服务的情况,已联系相关企业开展登记工作。
四是组织开展全网未备案登记生成式人工智能服务相关教程及有害信息巡查整治工作,及时举报处置涉生成式人工智能服务有害信息40余条。
下一步,天津市委网信办将继续落实“清朗·整治AI技术滥用”专项行动要求,加强组织领导,压实平台主体责任,严格督导检查,强化宣传曝光,全面做好“清朗·整治AI技术滥用”工作,切实防范AI技术滥用风险,营造风清气正的网络空间。