阅读下面材料,按照要求完成小题。
材料一
①随着人工智能技术的进步,一些不法分子开始利用AI技术融合他人面孔和声音,制造非常逼真的合成图像来实施新型网络诈骗,这类骗局常常会在短时间内给被害人造成较大损失。
②最近多地出现的AI 换脸诈骗案件,均具备定制性、迷惑性等特征。其中,香港警方近期披露一起涉案金额高达2亿港元的多人AI换脸诈骗案尤为典型。据媒体报道,某公司职员受邀参加公司“多人视频会议”时,先后将2亿港元分别转账到5个本地银行账户内。据警方调查,这场视频会议中除了受害者外,其余均为AI 换脸后的诈骗人员。
③随着文生视频人工智能的进一步探索和出现,人们可能陷入“眼见也不一定为实”的困局。一直以来,银行等部门将实时视频用做检验身份的手段之一,如今其可靠性将面临巨大挑战。随着人工智能技术的迭代升级,这类违法行为还可能演变出更多形态。
④对此类AI换脸和AI 拟声的恶性诈骗案件,若只依靠传统监管手段已不能防堵,监管部门在提升自我科技能力储备的同时,有必要引入新兴技术,探索用AI技术监管AI的可能。
⑤“AI 换脸”过程主要包括人脸识别追踪、面部特征提取、人脸变换融合、背景环境渲染、图像与音频合成等几个关键步骤。
⑥首先通过视频的采集,追踪定位图片里人的面部;第二步,做一个面部特征点的采集和提取,主要包括嘴、鼻子跟眼睛的特征;第三步就是把这张原始的照片,做一个变换跟融合。
⑦其背后最核心的包括为三个部分,首先,利用深度学习算法精准地识别视频中的人脸图像,并提取出如眼睛、鼻子、嘴巴等关键面部特征。其次,将这些特征与目标人脸图像进行匹配、替换、融合。最后,通过背景环境渲染并添加合成后的声音,生成逼真度较高的虚假“换脸”视频。
⑧遇到“AI 换脸”新型诈骗,普通人该怎么识别和防范呢?一是提高反诈意识;二是涉及资金往来应多途径核对,在视频过程中可以要求对方做掐脸、捏鼻子等特定的动作,观察视频有没有穿模或异常变形,以此来识别是否为AI 伪造的视频;三是通过电话、微信等多渠道多方式确认:四是在转账时,可以将到账时间设定为2小时到账或者24小时到账,以预留处理时间。
⑨掐脸、捏鼻子这一招引起了大家的热议。随着技术的发展,对AI 的训练日趋成熟后,可能掐脸、捏鼻子AI 也会做了,建议变成捏成“猪鼻子”等一些AI 不易做到的动作。或者制定一些只有属于家人才知道的暗号,这是最保险的。
⑩另外,还要注意个人信息和隐私数据的保护。AI 换脸或者声音合成技术,前提是要搜集受害人的声音和图片视频资料,日常生活中要保护好个人隐私安全。
(2024年3月14日《中国科技网》综合,有删改)
材料二
近期,利用“AI 换脸”技术进行视频合成进而实施诈骗的新闻引起社会广泛关注,全国人大常委会法制工作委员会发言人臧铁伟回应,利用“AI换脸”技术实施诈骗,是一种新型的电信网络诈骗,需要广大群众提高识骗防骗意识,也需要有关部门依法加强治理和执法,追究相关人员法律责任。从法律方面看, 《反电信网络诈骗法》《中华人民共和国刑法》《互联网信息服务深度合成管理规定》等法律法规为打击治理各类电信网络诈骗活动提供了充分支撑。 《反电信网络诈骗法》对电信网络诈骗的定义、手段、部门职责、企业责任和行业治理、新业务涉诈风险评估等作了规定。对于构成诈骗罪的,要依照我国刑法第二百六十六条的规定追究刑事责任;对于为利用“AI 换脸”实施诈骗行为提供技术支持和帮助的,要根据《反电信网络诈骗法》的规定进行行政处罚,构成犯罪的,还要根据《刑法》第二百八十七条之二规定的帮助信息网络犯罪活动罪追究刑事责任; 《互联网信息服务深度合成管理规定》则对人脸生成、替换、操控,合成人声、仿声等都有明确约束。