春节不要乱发这种影片！一大批账号已被处置！即日起启动严格整治

一中校友

这两天

影片大模型Seedance2.0在国内外社交平台上掀起一阵刷屏式传播各种脑洞大开的画面刷屏引发热议与思考

有网友第一时间就提出

乱套了，真假难辨

对于局部不添加AI标识

误导公众的影片

官方已经出手！

多人因滥用AI被处理！

据"网信中国”消息，近期，局部网络账号发布AI生成合成资讯时，不添加AI标识，存在利用虚假不实素材欺骗误导公众的难题，破坏网络生态，造成恶劣影响。网信部门督促网站平台深入排查整治，依法依约处置账号13421个，清理违法违规资讯54.3万余条。现将局部典型案例通报如下：

一、微博账号“澄馫”、快手账号“玲子爱狗狗”、哔哩哔哩账号“空空说电影”等，发布狗在高铁站救下婴儿、狗拆炸弹救人、鳄鱼伤人等影片时，未添加AI生成标识，借虚构感人故事、猎奇事件恶意博取流量。相关账号已被依法依约处置。

二、微信账号“浮萍9419”、微博账号“乘风已归来”、快手账号“东东情感”等，以AI换脸、声音克隆等形式，假冒运动员、演员、主持人、企业家等公众人物，发布不实言论，借此吸粉引流，或未经授权，售卖AI生成的公众人物“送祝福”“拜年”等影片，从中不当牟利。相关账号已被依法依约处置。

三、抖音账号“巷子里的鱼”“禾粟”、快手账号“朵姐正能量”“小猪猪”等，发布AI生成的虚假火灾现场图像、影片，恶意编造、炒作火灾事故，混淆视听，扰乱公共秩序。相关账号已被依法依约处置。

四、哔哩哔哩账号“真难我知道”、抖音账号“小奥特曼大智慧”、百度账号“清崽影视”等，借AI魔改未成年人喜爱的动画角色，制作刀切小马宝莉头部、奥特曼怀孕等影片，传播低俗惊悚、血腥暴力素材，宣扬不良价值观，侵扰未成年人身心健康。相关账号已被依法依约处置。

五、小红书账号“浪淘达人”“南坤的店”等，发布“豆包图像去水印神器”等素材，分享去除AI标识教程、软件，淘宝、闲鱼、拼多多店铺“浙江智意AI”“鼎建祥旗舰店”等，售卖去AI标识教程、软件及服侍。相关账号已被依法依约处置，违规商品已下架。

下一步，网信部门将对无AI标识的虚假不实资讯保持高压严管态势，发掘即处置，严厉打击违规行为。同步，也呼吁广大网络素材创作者按照相关规定主动添加AI标识，避免误导公众，共同营造风清气正的网络环境。

上海：即日起多部门联合开展
“整治AI涉企虚假不实资讯”
专项行动

为切实维护企业网络合法权益

严打AI涉企谣言

上海市委网信办

会同市公安局网安总队

即日起集中开展

“整治AI涉企虚假不实资讯”

专项行动

本次专项行动重点聚焦利用AI科技生成传播涉企虚假不实资讯，误导公众认知、影响企业形象声誉、抹黑攻击角逐对手等难题，由市委网信办、市公安局网安总队联合推进，将加强典型案例打击处置，斩断利用AI科技不当牟利的利益链条，力争达到“标本兼治、打防结合、净化生态”的整治成效。

为建立健全长效机制，市委网信办将持续督促属地AI应用程序和传播平台切实履行主体责任，完善科技识别和人工复核机制，畅通客户投诉举报渠道，对利用AI生成“同质化”不实资讯、违规“养号”等行为强化审核处置；对AI批量制作、低质搬运、无来源虚构等“数字泔水”垃圾素材探索有效治理措施。

市委网信办相关负责人表示，AI科技在赋能经济社会发展的同步，也面临科技滥用、虚假资讯传播加剧等难题。当前，整治AI涉企谣言难题对营造公平有序的营商环境具有关键意义。市委网信办将会同相关部门对专项整治期间屡教不改、顶风违规、情节严重的网站平台和账号，依法依规从严查处，切实规范涉企网络资讯传播秩序。

来源：新闻坊综合网信中国、网信上海、此前报道