换张人脸来骗你:AI技术引发诈骗潮?
时间:2023-06-28 04:40:52来源:南方周末

吴宇森执导的电影《变脸》(1997年)海报。当年片中主人公换脸通过外科手术实现,如今在网上可以通过AI技术做到。 (资料图/图)

眼前的黑不是黑,你说的白是什么白?这是罗雅萱半年来的内心写照。因意外卷入一场AI骗局,罗雅萱成为一名互联网志愿反诈者。


(相关资料图)

2023年2月,在意大利生活的罗雅萱在网络上认识了一位年轻男士。对方自称宁波人,生活在法国,从事古董生意。一个多月里,罗雅萱常常与他交流工作和生活,以“弟弟”相称。3月份,她一度怀疑对方身份的真实性,于是托国内朋友核实相关信息,一无所得。

罗雅萱提出两人视频通话,没想到对方直接答应。在视频中,这位“弟弟”与她全程互动无碍,相貌也与他之前提供的照片无异。如果没打这次视频,是否会建立信任?罗雅萱明确地告诉南方周末记者,“不会!”“(互动时)跟他说什么、问什么,他都会回答什么”,并非提前录制好的短视频。

十几分钟的视频通话后,罗雅萱彻底打消疑虑。一个月后,罗雅萱提出两人在法国见面,当天晚上,对方的电话便无法打通了。那时,罗雅萱已经被骗投资,转出了第一笔汇款,两千多欧元(约合人民币16000元)。

罗雅萱报警,警察追踪到诈骗者的IP来自中国港澳地区。罗雅萱在网络中寻找线索时,偶然发现了“正主”(照片本人)。他是个台湾人,在港澳地区小有名气,从2021年开始,他的照片便被诈骗者频繁盗用。

据警方分析,诈骗者的声音并非合成的。罗雅萱意识到,自己受到了AI换脸诈骗。当时与自己视频通话的是真人,那张脸,则是诈骗者用软件替换生成的。

反诈时,罗雅萱接触到一位杭州女生,后者被骗上百万元,诈骗者盗用的照片也来自那个“正主”。不同的是,这位杭州女生全程仅仅是和诈骗者语音交流,两人尚未视频通话。

“(正主)长得帅,是女孩子都喜欢的那种类型。”罗雅萱对南方周末记者说。据她调查,互联网上有123个盗用该“正主”图片的账号。国内的诈骗账号经罗雅萱举报后注销,但是仍然有大量海外平台诈骗账号逍遥法外。罗雅萱担忧的是,诈骗者如果使用“素人”的照片,受害者根本无迹可寻。

AI换脸、变声等深度合成技术在互联网上已经被广泛利用,近几年逐渐流入色情影像、网络诈骗等领域,带来肖像侵权、名誉侵权乃至诈骗犯罪等一系列问题。随着AI技术普及,更多成熟的换脸、变声软件出现。至于其使用难度,技术专家、AI行业从业者曾辛告诉南方周末记者,“几乎零门槛”。

换脸技术门槛不断降低,日益普及。图为2021年浙江某景区用于展示换脸应用的智能设备。 (视觉中国/图)

不过,就目前来看,利用AI技术进行的诈骗比例极低。另据新华社报道,公安机关研判,近期网上“AI换脸换声诈骗在全国爆发”传言不实,全国此类案件发生不到10起,但该动向值得高度关注。

标签:

  • 上一篇文章: 热门:PyTorch 2简介:卷积神经网络
  • 下一篇文章: 最后一页
  • 最新
  • 换张人脸来骗你:AI技术引发诈骗潮?

    吴宇森执导的电影《变脸》(1997年)海报。当年片中主人公换脸通过外科

  • 热门:PyTorch 2简介:卷积神经网络

    介绍 在本系列的上一部分中,我们使用了CIFAR-10数据集,并介绍了PyTor

  • “小升规”为企业发展添动力

    中小企业是经济高质量发展的基础。近年来,新疆库车市紧紧围绕“工业强

  • 西安城南最大城改项目西江月重启 案名辰宫紫雲境|环球快消息

    观点网讯:6月26日,辰宫地产发布西江月项目案名——辰宫紫雲境。意味

  • 欣锐科技与Wolfspeed达成合作意向协议 联合打造碳化硅时代新优势 每日头条

    欣锐科技6月25日在官网发文表示,公司与碳化硅技术领域的全球领导者Wol

  • 当前速看:离婚孩子抚养费不给咋办

    离婚孩子抚养费不给的,当事人可以向管辖法院提起诉讼,要求对方支付抚

  • 最后的王爷结局是怎么样?最后的王爷寿元有孩子吗?|天天热闻

    最后的王爷结局是怎么样?电视剧《最后的王爷》的结局是抗战胜利,王

  • 全球热点评!余额宝有手续费吗?余额宝有人损失过本金吗?

    余额宝有手续费吗?有。余额宝开户、消费,以及在资金转入和转出时都

  • 世界即时看!工地上的清凉端午节

    原标题:工地上的清凉端午节工人日报-中工网记者赖书闻近日,中建三局

  • 焦点关注:普陀区安全知识竞赛等你来参加!

    活动对象:网络个人赛,面向全社会活动时间:即日起至2023年6月30日24

  • 青海春天回复上交所监管问询函:不存在款、货流向不匹配的情况_今日看点

    新京报讯(记者薛晨)6月21日,据青海春天药用资源科技股份有限公司(

  • 焦点快看:村支书葬母大操大办致交通拥堵 基本情况讲解

    大家好,今日关于【村支书葬母大操大办致交通拥堵】迅速上了的热搜榜,

  • 920万美金,再见勇士!金州离队首人诞生,湖人要中产合同签下他_焦点消息

    金州勇士队今年季后赛止步第二轮,这并没有达到大家的预期,勇士队老板

  • 有臭氧中度污染风险!河北6月下旬空气质量预报来了 最新资讯

    近日,河北省生态环境应急与重污染天气预警中心与中国环境监测总站、省

  • 丰田(TM.US)追上市场电气化进程 野村、瑞穗加入看涨行列

    由于对丰田汽车在转向电动汽车方面落后的担忧有所消退,不少分析师对这

  • 世界焦点!青平:端午节掀起一轮传统文化新浪潮

    端午佳节将至,全国各地在“赛龙舟”这一端午节传统水上项目中可谓是玩

  • 旅游
    • 最新消息:中企润邦股份收购欧企FLSmidth集团全球散料装卸搬运业务

    • 传好驻村帮扶“接力棒” 续写乡村振兴新篇章 微头条

    • 清明节出生的女孩子有什么说法(清明节生日的说法)

    • 【环球热闻】信用卡自定义还款有什么好处 信用卡自定义还款后剩余还款金额什么时候还