深度伪造骗局：当AI技能成为诈骗东西｜3·15出格报道

你的上司给你发来视频集会会议，集会会议中尚有多名财政人员在场。集会会议中，上司暗示要举办机要生意业务，要求你向某个银行户口转账。集会会议中的高管面目面貌、声音均与真人一致，你会意生疑虑吗？ 

这是本年年头某跨国公司香港分行职员真实经验的视频骗局。据已披露的信息显示，诈骗者通过公司的YouTube视频和从其他果真渠道获取的媒体资料，乐成地仿造了英国公司高层打点人员的形象和声音，再操作Deepfake（深度伪造）技能建造伪冒视频，造成多人参加视频集会会议的结果，然而集会会议内只有介入的职员一工钱“真人”。 

由于集会会议中诈骗者是以上司身份向受骗职员下达呼吁，职员也没有时机与集会会议参加者举办交换。该职员仅仅被要求做一次简短的自我先容，随后诈骗者便竣事集会会议，在即时通讯软件上继承下达呼吁。

被骗职员前后转账15次，合计共2亿港元到5个银行户口，其后向总部查询才得知被骗。因涉案金额庞大，该案也成为香港汗青上损失最惨重的“变脸”案例。

跟着生成式人工智能技能的成长，通过AI技能换脸换声的方法来模仿出另一小我私家的真实外观已不再坚苦。这一技能被称作“深度伪造”，即借助神经网络技能举办大样本进修，以呆板进修模子将小我私家的声音、面部心情及身体行动拼接合成虚假内容的人工智能技能。

界面新闻记者从某些技能开源社区上以“GAN”等要害词检索，可等闲获得深度合成相关的技能开源项目。今朝在海内主流电商平台已经对“AI换脸”要害词举办了屏蔽，可是在部门社交平台上，照旧能通过要害词检索接洽到相关东西的卖家。 

技能的成长与普及进一步恍惚了真实与虚拟的界线，而这类无法判别真伪的接壤地带则成为了滋生犯法行为的温床。据恒久存眷AI安详的瑞莱伶俐的不完全统计，AI诈骗案件数量在连年来快速增长，仅2023年一年在全国已产生至少16起。

追本溯源来看，深度伪造相关的技能已十分成熟。 

2014年，由蒙特利尔大学提出的生成反抗网络（GAN）提高了数据生成的传神水平，但也大大低落了深度合成的门槛。连年来，除GAN之外，扩散性模子（Diffusion Model）等技能蹊径也证明白其晋升数据生成传神水平的代价。  

在论文预印本网站arXiv.org搜索“GAN”可获得10694篇相关论文；以“GAN”、“NeRf”、“TTS”等深度合成相关要害词在开源社区GitHub举办检索，可获得超12万个开源项目。 

开源的气氛加快了技能的交换与打破，但客观上也使得如AI换脸、拟声等技能不再神秘。 

界面新闻记者以“AI换脸”为要害词在某视频平台搜索，可以很等闲找到相关教程；同时，据在某社交平台上找到的换脸东西卖家先容，该东西只需少数照片即可完成视频的一键换脸，抖客教程网，而整套东西及教程只需20元。 

日渐低落的利用门槛使得深度伪造技能成为诸多违法犯法行为的东西。2023年4月，百万网红博主“Caro赖赖_”曾发文称有非法分子操作换脸技能建造色情视频，并明码标价获取利润。在小红书等社交平台上，也有多位博主发文称本身曾被“换脸”至生疏人照片上。 

有业内人士汇报界面新闻，因为深度伪造建造的质料是小我私家音频、图片、视频，这些数据越多，练习出的视频就越传神，所以社交媒体上相关数据较多的博主、明星容易成为深度伪造的方针。

《民法典》1019条划定，未经肖像权人同意，他人不得建造、利用、果真肖像权人的肖像。在《民法典》1020条中则增补划定，为小我私家进修、艺术浏览、教室解说可能科学研究；为实施新闻报道；国度构造为依法推行职责在须要范畴内建造、利用、果真肖像权人的肖像等环境属于肖像公道实施。

天元状师事务所合资人李昀锴状师表明称，《民法典》中关于肖像权公道实施所给出的空间是很窄的，如在网络上广为传播的利用他人肖像的鬼畜作品，实际上被鬼畜者享有追责的权利，只是在大大都实践中被鬼畜者并未追究。他进一步暗示，换脸之后直播、发贴，都涉嫌加害肖像权，假如将生成内容用于色情暴力内容，则大概会涉及刑事犯法。