元宇宙网:中央网信办:整治利用“AI换脸”生成涉未成年人低俗色情图片视频等问题

AI1年前 (2023)发布 admin
205,723 0

人民网北京6月28日电(记者申佳平)据中国网信网音讯,为进一步强化未成年人网络保护,营建健康安全网络环境中央网信办近日决议开为期2个月的“朗·2023年暑期未成年人环境整治”专项举动,将对网络欺负使用AI换脸”等技能生成涉未成年低俗色情图片视频等问题进处置处分。

元宇宙网:中央网信办:整治利用“AI换脸”生成涉未成年人低俗色情图片视频等问题
了解,该专项举动的意集整治上涉未成年杰出问题,全面压缩有害信息隐形变异的生存空间,坚决遏止侵害未成年人权益的违法行为,进一步提升学习类APP儿童智能设备等专属产品服务信息内容安全规范有用处理网络沉浸问题,营建有利于未成年人健康成长的网络环

同时,针对未成年人用户量较大、对未成年人具有显著影响的网站平台以及儿童智能设备,专项举动将从深从细全面整治,从严从重处置处分,继续净化网络生态。重点聚集以下7方面问题:

一是有害内容隐形变异问题。一是以谐音词变体字表情符号方法传播色情低俗赌博迷信等内容;二是使用视频剪辑影视二创动漫改编方法会集现涉未成年人血腥暴力等画面;是经过外链浮窗二维码账号信息等进行色情引流;四是儿童智能设备自带及第三APP语音文字搜索结果存在涉黄涉暴内容。

二是网络欺负问题。一是使网络烂梗对未成年人进行侮辱谩骂;二是对未成年人进行“人肉搜索”,恶意传播泄露未成年人隐私的欺负视频;三是经过恶意P图假造谣言等,诋毁未成年人。

三是隔空猥亵问题。一是借“个性结交”“童星招募”“有偿收图”等名义,拐骗或钳制未成年人进行在线裸聊、作出淫秽动作给裸照频等;二是经过群组、私信等渠向未成年人发送色情图片、淫秽语言;三是在涉未成年人账号文章页面发布低俗色情跟帖评论,诱导不良结交或实施性诱惑。

四是网络欺诈问题。一是以“内部人员”“含泪转让”等名义向未成年人虚伪售卖演唱会门票,实施网络欺诈;二是以免游戏装备投票返现、盲盒抽取、粉丝抽奖等名义诱导未成年人加入群聊,拐骗转账汇款;三是拐骗未成年人社交账号支付暗码等于网络欺诈活动

五是不良内容问题。一是发布校园主题剧情演绎类视频,以过火方校园形象,鼓噪师生对立,化顶撞教师等行为;二是烘托家长“压迫”“压榨”孩子,恶意假造虚伪家庭对立等内容;三是诱导吸烟饮酒纹身旷课等不良行为;四是经过虚伪摆拍鼓吹“霸凌风”“家暴妆”等畸形审美,传播以强凌弱、以暴制暴等不良内容。

六是网络沉浸问题。一是诱导未成年人长时观看直播短视频;二是使用算法向未成年人会集推送诱导沉浸内容,构成信息茧房;三是经过聊天结交虚拟空间装修等文娱功能诱导未成年人消费;四是向未成年人违规供给网络游戏账号租售服务教授未成年人破解防沉浸系统、绕过青少年形式。

七是新技能新应用危险问题。一是使用“AI换脸”“AI绘图”“AI一键脱衣”等技能生成涉未成年人低俗色情图片视频;二是使用所谓“阅后即焚”的密聊软件拐骗未成年人供给个人信息,诱导实施违行为;三是使用生成式人工智能技能制造发布涉未成年人有害信息。

 

来源:人民网

http://finance.people.com.cn/n1/2023/0628/c1004-40023162.html

配图:pixabay

© 版权声明

相关文章