上海开展“清朗 · 整治 AI 应用乱象”专项行动，为期 4 个月

anyangmo

上海开展“清朗 · 整治 AI 应用乱象”专项行动，为期 4 个月

IT之家 5 月 16 日消息，为规范 AI 服务和应用，促进行业健康有序发展，根据中央网信办统一部署，上海网信部门今天宣布开展为期 4 个月的“清朗 · 整治 AI 应用乱象”专项行动。

IT之家从“网信上海”公众号获悉，本次专项行动将分为两个阶段开展：

• 第一阶段为“清朗 ·AI 应用服务典型违规问题”专项治理行动，重点整治未按规定履行大模型备案登记义务、安全审核能力不足、大模型训练语料安全、AI 数据投毒、生成合成内容标识落实不到位等问题，强化 AI 技术源头治理。
  

• 第二阶段为“清朗 · 整治 AI 信息内容乱象”专项行动，聚焦利用 AI 技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等问题，坚决清理违法不良信息，依法处置处罚违规账号、MCN 机构和网站平台。
  

5 月 13 日，上海网信办召开重点平台专项行动推进会，向属地 AI 平台、互联网内容平台、电商平台、应用商店、开源社区等五类 17 家重点网站平台部署具体要求，强化治理共识，指导各家平台切实履行主体责任，问题导向，对照整治重点、深入开展自查自纠，提升技术防治能力，完善长效机制，推动专项行动见行见效。

同时，小红书、MiniMax、拼多多等各家重点平台积极践行企业社会责任，相继发布平台专项治理公告，主动升级安全能力与举报受理机制，结合业务实际，深入开展各类 AI 应用典型违规问题和内容乱象的治理，并积极接受社会公众监督。

此外，上海网信办特设举报受理机制，欢迎广大网民对发现的“AI 应用乱象”进行监督举报，共同营造清朗网络空间。以下是举报入口：

http://ht.shjbzx.cn/Home/UploadContent?pBadTypeKeyID=f817140b-21ad-4e76-9c16-1428ebb9197e

原文地址：https://www.ithome.com/0/951/289.htm