生成式人工智能技术蓬勃发展，赋能千行百业为社会生产生活带来巨大便利，但违规滥用问题也逐渐突出，AI换脸、AI变声、AI伪造等侵权和破坏网络生态现象层出不穷，给新技术新应用安全带来诸多风险挑战。
上海市网信办在执法办案工作中发现，部分企业开发使用生成式人工智能功能，未依法开展安全评估工作、未采取必要的安全防护措施防范违规信息生成、未采取限制措施防止被滥用，导致相关功能被用于“换脸变声”“变装造假”等侵犯他人个人信息权益行为，产出“开盒”“洗钱”等违法违规内容，以及生成色情低俗图片等信息内容。“亮剑浦江·2025”专项执法行动将“整治AI滥用”作为年度治理重点，以执法促合规护航新兴产业高质量发展。
专项行动期间，兼顾执法力度与温度，多措并举引导生成式人工智能领域企业合规运营。一是加强日常管理。指导属地应用商店下线违规应用生成式人工智能技术的APP共54款。对照《人工智能生成合成内容标识办法》，指导专家团队拟制“实务解析”，为企业提供疑难解答。二是强化处置处罚。对前期要求下线功能的26家生成式人工智能服务网站，进行“回头看”巡查，防范问题复发。对3家拒不整改的生成式人工智能服务网站，首次适用《生成式人工智能服务管理暂行办法》予以立案处罚。三是首违企业免罚。督促5家首次发现存在未按国家规定开展安全评估工作或违规提供“论文代写”功能等违法违规问题的网站下线相关功能，并就生成式人工智能服务备案工作提供指导。
通过专项行动，生成式人工智能领域法治观念不断强化，企业合规经营意识明显加强，“AI滥用”问题得到改观。下一步，上海市网信办将巩固专项行动成果，持续对“AI滥用”“算法推荐”等存在侵犯个人信息权益、危害网络生态的违法违规行为予以重点打击和纠治，促进新技术新应用在法治的轨道上健康有序发展。
上海市网信办在执法办案工作中发现，部分企业开发使用生成式人工智能功能，未依法开展安全评估工作、未采取必要的安全防护措施防范违规信息生成、未采取限制措施防止被滥用，导致相关功能被用于“换脸变声”“变装造假”等侵犯他人个人信息权益行为，产出“开盒”“洗钱”等违法违规内容，以及生成色情低俗图片等信息内容。“亮剑浦江·2025”专项执法行动将“整治AI滥用”作为年度治理重点，以执法促合规护航新兴产业高质量发展。
专项行动期间，兼顾执法力度与温度，多措并举引导生成式人工智能领域企业合规运营。一是加强日常管理。指导属地应用商店下线违规应用生成式人工智能技术的APP共54款。对照《人工智能生成合成内容标识办法》，指导专家团队拟制“实务解析”，为企业提供疑难解答。二是强化处置处罚。对前期要求下线功能的26家生成式人工智能服务网站，进行“回头看”巡查，防范问题复发。对3家拒不整改的生成式人工智能服务网站，首次适用《生成式人工智能服务管理暂行办法》予以立案处罚。三是首违企业免罚。督促5家首次发现存在未按国家规定开展安全评估工作或违规提供“论文代写”功能等违法违规问题的网站下线相关功能，并就生成式人工智能服务备案工作提供指导。
通过专项行动，生成式人工智能领域法治观念不断强化，企业合规经营意识明显加强，“AI滥用”问题得到改观。下一步，上海市网信办将巩固专项行动成果，持续对“AI滥用”“算法推荐”等存在侵犯个人信息权益、危害网络生态的违法违规行为予以重点打击和纠治，促进新技术新应用在法治的轨道上健康有序发展。
1
向商户“吃拿卡要”，一个县的市监局咋就敢有16名管理人员如此而为？
2
河南辉县一村委会欠债后村支书为逃限高串通让智力缺陷者接任，多人获处分
3
白岩松评张水华事件，是做善意提醒，还是变相批评？
4
市场监管总局、国家卫健委发布新一批非食用物质名录
5
“全网最忙五人组”涉事，虚构项目获取资金500万，查处结果，只是8人被处分？
6
一克拉低至千元：“河南人把钻石价格打下来了”
7
被盗公众号，从哪里来的公文售卖，怎能止步于负责人“自行注销”？
8
官方通报：湖北十堰一项目中标公告评审小组成员姓名套用网络人名，8人被处分
9
既然依规处分，为何还怕最快女护士张水花被处分文件，被公开？
10
福医大附一院院长否认张水华离职
11
歪主意不仅打在志愿者身上，还盯上了残疾人？绝不能因恶小而不惩
12
最快女护士张水华被处分，医院回应：正调查张水华被处分文件为何泄露
13
“全网五人组”“走穴”何以到了令人惊诧的地步？一句“深刻反思”再也不能搪塞过去
14
顾客称山姆一麻薯盒内发现活老鼠，山姆致歉
15
浙江台州科技馆志愿者名单再现百度人名大全，多人批量上榜
16
从业人员1人，营收为0的公司，咋就能中标，资产又怎能超21亿元？
17
2026年经济工作：三个有力信号
18
究竟发放给了哪些山区小学生，杭州师范大学能否说的更清楚些？
19
“全网最忙五人组”背后：谁在造假、为何造假？
20
“照搬百度人名大全”何以接连再现？
