普通消费者在享受AI带来便利的同时，也应当提高自身对新型AI诈骗的敏感性。

315重磅：AI换脸视频真假难辨！手机二手主板隐藏惊天黑产。

作者 | 云鹏 李水青

编辑 | 李水青

智东西3月16日报道，昨天晚上，年度“打假夜”央视3.15晚会如约而至，今年爆火的生成式AI技术“闯祸了”。

这是不久前央视3.15栏目记者调查到的真实事件：一位女士接到女儿被绑架的电话，对方开口就要敲诈80万元，传来的女儿的哭声令女士慌了阵脚。实际上，这哭声是犯罪分子通过AI拟声技术伪造出来的。

一个公司职员收到了老板的视频电话，在指导下把186万元转了出去，但后来却得知老板并没有跟他视频通话。原来，这个视频中的老板是犯罪分子利用AI技术合成的假老板。

深度伪造不是一项全新的技术，但过去一年生成式AI技术的爆发大大降低了其门槛，增强了伪造的真实感，这才使得不法分子的骗术变得更加防不胜防。

除了生成式AI技术登上今年315，围绕智能手机主板和互联网水军也曝出令人咋舌的不法黑产。

有不法商家把废旧的百元手机主板集合在一起，做成充当网络“水军”的手机主板机，操纵游戏、操纵发帖数量，操控网络投票，甚至成为网络世界里可以操控一切的王者，并给信息安全带来不小的麻烦。

AI、消费电子、云计算等技术正在把我们带进一个万物互联的智能新世界，但与此同时一些网络黑产和不法行为也开始出现，让我们每个人都不得不提高警惕。

推荐智东西年度会议。 4月18-19日，2024中国生成式AI大会将在北京举行。 免费报名或购票通道开放中，期待你的参会~

01 .

AI换脸换声以假乱真

但“摸摸脸、摸摸鼻子”就能破解

这次，AI换脸变声上了315。

AI技术被诈骗分子利用，竟然可以有如此严重的影响，315上的鲜活案例给我们敲响了警钟。

作为315晚会的保留项目之一，信息技术实验室这次公布了一系列利用AI技术进行的“新型诈骗”。

虽然科技含量不高，但套路满满，让人防不胜防。

第一个案例，是一位女士睡着觉突然接到了女儿被绑架的电话。电话中一开始传来的是女儿的哭声，然后女儿说自己被绑架了。这位女士还没来得及回答，电话就被另一个人抢走，这个人说要她准备80万元，女儿在他手上。

报警后，警方最终确认女儿并未被绑架。结果证明，这通电话是由诈骗分子借用虚拟号码，再通过AI拟声技术进行的诈骗行为。

第二个案例，一位男士接到国外好友的求助，说是买机票遇到了难题，由于国际漫游限制，让他帮忙转账给航空公司。

当然，一开始因为涉及钱财，这位男士并不信任对方，但这位朋友打了视频电话过来，视频中竟然是“朋友本人”，所以他就相信了。

随后朋友以国外网络不好迅速挂断了电话，发来了相关转账信息，最终骗走了这位男士的49000多元。

第三个案例，是一个公司职员收到了老板的视频电话，让她立刻转账186万元到一个指定账号，由于声音、图像都跟老板本人一样，所以这位职员就相信并将款项转了过去。

但随后当这位职员上传凭证给财务时，才发现老板根本既没有跟她视频通话，也没有下达过转账的指示。

报警后，警方对接反诈中心，联系相关银行紧急止付，最终追回了156万元。

显然，这些案件背后，都是犯罪分子利用AI技术对人的面部形象、说话声音进行了模仿。受害者眼见不一定为实，耳听的也有可能为虚。

警方提醒称，不管是AI拟声，还是AI视频通话，时间一般都很短，只有几秒钟。

这主要是因为这些视频通话中用到的都是提前制作好的仿冒视频，在目前技术条件下，想要在点对点的视频实时通话过程当中实现仿真程度极高的AI换脸是很难的，这需要绕过视频通话软件的安防体系，其次还需要投喂大量的数据、专业算法的支撑和不断迭代，才可以实现。

比较好的辨别方法就是，在视频通话的时候觉得可疑的话，可以让对方摸摸脸、按一下鼻子，这些动作会对面部数据造成干扰，伪造的人脸就会产生抖动、闪现。

当然，不随意接听陌生来电，减少个人人脸、声音信息的泄露，也是比较重要的。

02 .

100元一块的报废手机主板

成网络世界的毒瘤

大家在生活当中是不是经常会收到一些垃圾信息、低劣广告或是推广视频，这究竟是怎么回事？

其实秘密就在一块报废手机的主板当中。

有不法商家把这些手机主板集合在一起，做了一款手机主板机。它不仅会给消费者带来种种的困扰，甚至还会给信息安全带来不小的麻烦。

据记者调查，有厂家宣称，20块手机主板组装成一台主板机，一个人就可以组建成千上万台手机的网络矩阵，虚假地修改发布地址，执行同一个操作。

这类二手手机主板一块的价格在100元到150元之间，一台主板机成本至少需要2000多元。拥有这样的设备，在网络世界里，这个人可以操纵游戏、操纵发帖数量，操控网络投票，成为网络世界里可以操控一切的王者。

使用这些机器的人是谁？

记者在一家名为云承未来科技的公司碰到一位前来购买主板件的经理，他是某电商平台的推广负责人，工作内容就是广发信息，推广获客。

《中华人民共和国反不正当竞争法》第12条明确规定，经营者不得利用技术手段，通过影响用户选择或者其他方式实施妨碍、破坏其他经营者合法提供的网络产品或者服务正常运行的行为。

二手手机主板机操控网络的违法之处不仅在此。

许多主板机配置清单上的手机主板很多并不具备入网资格。《中华人民共和国电信条例》第53条明确规定，接入公用电信网的电信终端设备、无线电通信设备和涉及网间互联的设备，必须符合国家规定的标准，并取得进网许可证。

03 .

结语：新兴产业巨大利益诱惑

刺激黑产生长，AI双刃剑效应凸显

在今天的315晚会中，我们看到的案例更多是跟普通老百姓生活息息相关的，比如食品安全、消防安全、车辆安全、信息安全，其中也不乏与消费科技和AI相关的新型违法犯罪。

二手手机主板回收再利用形成的“主板机”黑产，从根本上来说还是“需求驱动”的，如今直播行业热度颇高，流量经济中存在不少“灰色地带”，如果不能从源头规范平台制度，主板机还会以其他形式继续滋长。

与此同时，我们看到AI技术在深入我们生活的过程中，也带来了一些风险，违法犯罪分子利用AI技术实现了更难以识别的“换声换脸”诈骗。当下AI给千行百业带来了增长新动能，各行各业也应当在应用AI技术的过程中严格规范。

普通消费者在享受AI带来便利的同时，也应当提高自身对新型AI诈骗的敏感性。