前不久，中邦香港警方破获了一块应用 AI 技巧的大领域诈骗案，不法分子应用 AI 换脸技巧正在网上相交平台上伪装成女性，诈骗受害者总共 4600 万美元。

　　这个案例凸显了 deepfake 技巧正在不法周围的滥用。诈骗团伙不光利用 AI 天生的照片，还正在视频通话中利用 deepfake 技巧，将诈骗者形成迷人的女性，以获得受害者的信托。

　　为了应对这个题目，一家名为 Reality Defender 的美邦始创公司推出了一种 AI 检测器材，能够及时检测视频通话中的其他人有没有利用 deepfake。

　　该公司的产物司理克里斯托弗·任（Christopher Ren）为媒体揭示了其 AI 检测器材的潜力。

　　他应用 GitHub 上的少少代码和一张照片，天生特斯拉和 SpaceX 的创始人埃隆·马斯克（Elon Musk）deepfake 视频，并将其映照到本人的脸上。

　　正在视频通话进程中，Reality Defender 的定制模子会通过采纳静态帧的形式及时剖释视频通话画面。

　　而且，通过屏幕上的小器材指示用户，他们面临的不妨是 AI 天生的 deepfake 视频，而不是实正在的马斯克。

　　Reality Defender 的 CEO 兼笼络创始人本·科尔曼（Ben Colman）对媒体外现：“不妨只需求几个月的时代，咱们就会看到 deepfake 视频和‘视频通话’诓骗的爆炸性延长。”他夸大，正在高危险情景下的视频通话中，眼睹不必定为实。

　　正在实际利用场景中，Reality Defender 采取将检测器材打包成一个 Zoom 插件，能够及时预测视频通话中的其他参加者是否是真人或 AI 饰演的冒牌货。

　　科尔曼夸大，虽然其专一于与贸易和政府客户互助以反击 AI 驱动的 deepfake，但他们并不破坏 AI 技巧的普遍起色。

　　他说：“咱们相当增援 AI。咱们以为 99.999% 的 AI 用例对医学、分娩力和创作力而言都是改良性的，但正在这些相当不起眼的用例中，危险却不行比例地高。”

　　除了 Reality Defender，其他科技公司和斟酌职员也正在探究差别的本领，来应对这种特别的挟制。

　　2022 年，英特尔推出了深度伪制检测器材 FakeCatcher，该器材通过剖释面部血流的变动来决断视频参加者是否实正在。

　　美邦纽约大学计划机科学博士生戈文德·米塔尔（Govind Mittal）及其所正在团队则提出了一种基于测试的本领，哀求参加者正在参加视频通话前通过一种视频验证码测试。

　　米塔尔指出：“现正在创修 deepfake 变得如许纯粹，咱们需求的数据越来越少。假设我正在 Instagram 上传了 10 张照片，有人拿着社交媒体的照片就能够假充我。”

　　比来，笼络邦毒品和不法题目办公室发外的一份呈报也夸大，有些构制不法集团正在技巧方面具有提高，其奇特提到了 deepfake 技巧正在诓骗中的日益广博利用。

　　日渐增加的 deepfake 诈骗案件指示咱们，及时的 deepfake 主意不再仅限于亿万大亨和公大众物。

　　该机构正在东南亚地域的某社交平台上，涌现了胜过 10 家向不法集团出售 deepfake 软件任职的账号，显示出这项技巧正正在被不法分子普遍利用。

　　然而，斥地有用的检测器材面对着巨大挑拨。科尔曼对媒体外现，获取更无数据是一个大困难，这也是现时 AI 创业公司广博面对的题目。

　　比方，正在 ElevenLabs 被曝与美邦总统拜登的 deepfake 语音通话相合后，这家 AI 音频始创公司就与 Reality Defender 竣工了互助意向，以裁减潜正在的滥用。

　　虽然这些技巧治理计划正正在不绝起色，但专家们警戒说，人们不应过分相信地以为本人也许识别视频深度伪制。

　　科尔曼指出：“我不会哀求我 80 岁的母亲研习奈何识别垂纶邮件，由于她年纪太大了，并且也不是计划机专家。”

　　他以为，改日假设 AI 检测技巧一连修正并被声明是牢靠的，及时视频检测不妨会像电子邮件收件箱中安静运转的恶意软件扫描器一律广博。

　　只是，正在这些技巧并不完整且没有普及的即日，为了爱护本人和家人免受视频通话诈骗的侵吞，咱们不得不抬高警觉，不要轻松信托视频通话中看到的内容，并永远指示本人：眼睹不必定为实。