近期，各地曝出多起人工智能“辅佐”欺诈案子。一些不法分子使用人工智能“深度假造”假充领导干部行骗，值得引起高度警觉
一些领导干部因为作业原因出镜率相对较高，这为骗子供给了丰厚的面部辨认素材；在电视、播送新闻中也能够找到一些领导干部的大段同期声，这令“假造本钱”更低
跟着人工智能技能的遍及使用，不法分子施行欺诈的精准性、迷惑性、隐蔽性增强，公安、检察等政法机关办案将面对侦查破案难、电子依据调取难、认定处理难等实际困难
近来，北方某地警方发布了一同使用“AI换脸”对当事人施行欺诈的案子。欺诈分子运用人工智能技能，经过微信视频通话与受害人进行了十多分钟沟通，受害人转账数百万元。
引人关注的是，该案不仅是一同新式网络欺诈，更是一同涉政欺诈案子。
不法分子模仿假造的，是受害人认识的一名领导干部。在微信视频聊天中，“换脸”后的骗子提出，其朋友有一笔工程保证金需求借用受害人公司的对公账户走账。在视频画面中，骗子“换脸”后面部表情天然，声响逼真，受害人便放松了警觉，转账后打电话承认，才知道被骗。
“AI换脸”“AI拟声”、虚拟场景构建……跟着设备功能提高和技能软件优化，使用“AI换脸”技能施行欺诈，已成为一种新式网络欺诈。近期，各地曝出多起人工智能“辅佐”欺诈案子。一些不法分子使用人工智能“深度假造”假充领导干部行骗，值得引起高度警觉。
因为作业原因，一些领导干部的面部、声响等生物特征信息更易被获取，被人工智能学习使用后造成的潜在危害性也更大。接受《眺望》新闻周刊采访的业内人士表明，社会各界都应提高识骗防骗意识，有关部门应依法加大对人工智能“辅佐”欺诈案子的执法力度，严厉追查相关人员法令职责。
朱慧卿图/本刊
眼见不一定为实
近来，华北某地一名地方干部正为一件事犯愁。有人冒用他的名义，与他的亲朋好友大范围添加微信好友。
“和我的亲戚朋友加完好友后，骗子还给他们打了视频电话。通话时间只要几秒钟，朋友们感觉声响、画面都有点儿像。”这名干部说，直到许多朋友打电话问询详细情况，他才知道此事。
“估量下一步就要开始骗钱了。所以，最近几天我接连发了好几条朋友圈提醒大家。”这名干部说。
受访业内人士表明，只要有满足的图画、音频素材，不法分子就能够经过人工智能“换脸”软件、合成声响软件假造虚拟形象，施行欺诈。“只需提取最少10个字、最多32个字，就能够合成其声响。”国网信息通讯产业集团安全科研专家赵明明告知记者。
一些领导干部因为作业原因出镜率相对较高，这为骗子供给了丰厚的面部辨认素材；在电视、播送新闻中也能够找到一些领导干部的大段同期声，这令“假造本钱”更低。
在一些案子中，不法分子经过“AI换脸”合成视频等方法，假造与领导干部碰头、合影等内容施行欺诈，增加了涉政类欺诈的欺骗性和危害性。
我国信息通讯研究院相关负责人表明，当前，人工智能“辅佐”欺诈存在四大趋势。跟着人工智能技能的遍及使用，不法分子施行欺诈的精准性、迷惑性、隐蔽性增强，公安、检察等政法机关办案将面对侦查破案难、电子依据调取难、认定处理难等实际困难。
——技能本钱由高向低改变。腾讯安全玄武实验室负责人于旸告知记者，跟着技能发展，人工智能“深度假造”“深度合成”已成为一种能够低本钱实现的技能。
——技能使用由单一向多元改变。腾讯互联网安全专家杨建表明，施行人工智能“辅佐”欺诈一般要满足多个要素，包含不合法获取信息、构建熟人账号、“换脸换声”、破解手机摄像头权限等，触及多项技能手法。
——假造身份从含糊向详细改变。传统电信欺诈往往只能以“某派出所作业人员”“某网站客服”等含糊虚指人设施行。但在人工智能“辅佐”欺诈中，骗子能够以详细的人物形象出现。
——作案模式从“广撒网”向精准施骗改变。社交媒体渠道往往设有视频验证环节，这在客观上增加了假充熟人、领导干部等欺诈的“可信度”。受访专家分析，跟着技能发展，精准盗号、分析关系网等有指向性的网络欺诈案子占比可能有所上升。
多层面约束规范
奇安信安全专家裴智勇表明，目前，专业等级的人工智能“深度假造”仍需经过较强的硬件在实验室环境实现。这意味着，近期“AI换脸”欺诈形成系统性危险的可能性不大，但仍需未雨绸缪、预防打击。
在源头端，需求进一步加强公民个人信息维护。杨建等专家主张，加强公民信息尤其是生物特征等隐私信息的技能、司法维护力度。针对假充领导干部等涉政欺诈危险，可经过规范领导干部个人社交账号办理，遍及提高账号安全意识等方法进行躲避。
在技能层面，数字水印鉴伪等技能有待进一步遍及使用。赵明明表明，数字水印能将特定的信息嵌入音频、图片或是视频等数字信号中，进行版权维护，以防止未经授权的复制和拷贝。他主张，加强打入数字水印、开发真伪辨别等技能管理手法，使其为数字内容生产商以及用户端等供给广泛服务，以科技手法制约不法分子使用人工智能技能施行犯罪。
瑞莱才智高级产品司理张旭东主张，对触及政务、安防、金融、消费等重要使用的人脸辨认技能漏洞进行完善和升级，防范不法分子经过后台劫持手机摄像头权限。
“尤其是涉众、涉密、触及公共利益的相关渠道和技能服务供给商，需优先完结技能加固，对手机模仿器做好防范。一起，鼓舞和引导更多手机厂商在系统升级时支持3D人脸辨认技能。”张旭东说。
从法令准则方面看，反电信网络欺诈法、刑法等法令为打击管理各类网络欺诈活动供给了法令支撑。赵明明主张，进一步完善人工智能等范畴相关法令，经过案例等指引，树立人工智能侵权胶葛法令结构、诉讼程序和赔偿规范等。
此外，还需经过完善相关准则进一步落实渠道职责。新华三集团安全专家曹亮表明，对核心范畴使用人脸辨认技能的产品，监管部门应树立分等级、多层次的国家安全规范及行业安全规范；压实渠道、企业主体职责，催促相关使用开发企业实行源头审查职责；树立健全用户注册、算法机制机理审阅、数据安全个人信息维护、反电信网络欺诈、应急处置等办理准则。■
来源：
https://baijiahao.baidu.com/s?id=1770389412284229003&wfr=spider&for=pc
