元宇宙网:人工智能制造的网红粉丝过万?警惕!AI头像“有图未必有真相”

AI2年前 (2023)更新 admin
306,019 0

完美精致的五官和身材,质感真实的衣服,你在社交网络看到一张“美女照片”,在真实世界可能查无此人。最近,聊天机器人程序ChatGPT爆火“出圈”的同时,人工智能AI)在图像生成领域的运用也进一步升级,社交平台上出现了大量AI写实风格的肖像图,其堪比精修照片的光影层次肌理处理,打破了“二次元”和“三次元”的边界,也引发了“有图不再有真相”的讨论。
元宇宙网:人工智能制造的网红粉丝过万?警惕!AI头像“有图未必有真相”
人工智能制造的网红粉丝过万

“海风里是思念的味道”“小多对你说晚安”……在某社交平台上,博主“爱旅游的小多”发布了多张“日常营业”照,并配上拟人化的文案。照片里的女孩一头秀发,笑容甜美,装扮多样。凭借用AI生成的固定长相的女性图片,该账号已吸引了超过2万粉丝关注。这样的AI网红博主账号并非个例,他们涌入社交平台,让“人类网红”也产生了危机感。

运用AI程序,使用者可以制作出特定长相服饰造型和动作的虚拟人物形象。就在上个月,有微博网友分享的AI绘制“赛博coser(对动漫或游戏角色的真人扮演)”引发数万次转发。网友们在评论里纷纷惊叹:“这居然是AI?”“不说的话完全看不出来,要仔细分辨细节才能看出点端倪”“衣服的光泽和质感就是现实世界里该有的样子啊!”

“AI技术发展太迅猛了,以后如果不是线下见过的人,是不是都不敢相信对方是真人?”一位网友感慨道。AI绘画可能引起的诈骗活动也引发了人们的担忧。为此博主“爱旅游的小多”专门声明其为虚拟博主,一切图片由计算机合成,图中人物并不存在,“任何盗用、搬运本账号图片进行诈骗活动的,责任由盗用者本人承担。”

虽以假乱真但仍有“死穴”

看多了AI生成的美照,不难发现,许多AI虚拟人物共用一张脸。中国联通研究院AIGC工作组组长吴浩然介绍,AI算法首先要经过训练,学习大量的图像数据,才能在人的指令下推理生成新的图像。“同一模型生成的人物图像就会有熟悉的影子,比如很多AI生成的人物图像,眉眼都有韩式网红脸的感觉,就是因为接收到的这类训练数据比较多。”

目前的AI绘画仍有一大“死穴”,那就是画不好人的手。人类手部各关节灵活多变,常在照片中展示出不同的形态,因而AI还未将这一部分学透,时常画出奇形怪状的手。不过,吴浩然表示,这一局限未来有望被AI继续突破,“对这类细节的刻画问题,很多研发者正在着手攻关,比如谷歌最近就在研究更细致的人手骨骼关键点模型。”

也许在不久的将来,AI绘画就能凭借更加以假乱真的效果惊呆人类。“虽然肉眼不好分辨,但AI绘制的‘照片’与真实照片仍然在计算机上有像素级的差别,让人能够区分出来。”清华大学计算机科学与技术系副教授黄民烈说。未来,互联网中的人工智能生成内容(AIGC)比重将增大,与用户生成内容(UGC)及专业生产内容(PGC)进行更深入地结合。

比照真人画像存在法律风险

在网络传播的AI人像绘画中,也出现了神似明星脸的作品。越发真实的AI绘画,存在的被滥用风险也在增长。《民法典》第一千零一十八条第二款规定:“肖像是通过影像、雕塑、绘画等方式在一定载体上所反映的特定自然人可以被识别的外部形象。”第一千零一十九条规定:“任何组织或者个人不得以丑化污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。未经肖像权人同意,肖像作品权利人不得以发表复制发行出租展览等方式使用或者公开肖像权人的肖像。”

中央民族大学法学院博士后邱治淼谈到,运用AI绘画程序所形成的某位特定民事主体的肖像,只要能够被不特定的受众明确识别为特定个人,则在将该肖像发布网络分享之前,必须遵守《民法典》上述条款的明确规定,且不得同时构成侵犯公民名誉权、隐私权等其他合法权益。

“利用公民肖像必须遵循‘商业利用必须提前获取许可授权’和‘非商业利用必须遵守法律规定’的市场通行规则。”邱治淼说道。值得注意的是,利用者表面没有获取商业利益但能够吸引流量变现等隐形获利方式,也构成商业利用,也应承担侵权乃至赔偿责任。

(原标题:AI头像有图未必有真相”)

来源:北京晚报

本报记者王广燕

流程编辑:u008

 

 

来源: 京报网-北京晚报

https://news.bjd.com.cn/2023/03/03/10354394.shtml

© 版权声明

相关文章