Deepfake 是人工智能时代最严峻的数字威胁之一——任何人的面孔、声音和形象都可能只凭几秒钟的源数据就被伪造出来。 从政治人物从未说过的话出现在视频中，到假扮亲属在视频通话中紧急要求转账——Deepfake 正在改变我们对视觉和听觉证据的认知方式。 本文将解释 Deepfake 是什么、其工作原理、常见的类型、在越南造成的实际危害，以及如何在 AI 时代有效保护自己。
如果你对基础 AI 概念尚不熟悉，建议先阅读 AI Agent 是什么？， 以了解人工智能的整体面貌，再深入了解 Deepfake—— 这是深度学习的一项具体应用，对数字社会的安全与信任具有直接影响。
Deepfake 是什么？
Deepfake 是由人工智能合成的内容——包括视频、音频或图像—— 其中真实人物的面孔、声音或行为被替换或虚构，逼真程度令人难以用肉眼与真实内容区分。 "Deepfake"一词由"deep learning"（深度学习）和"fake"（伪造）两个英文单词组合而成， 既体现了其背后的机器学习技术基础，也揭示了这类内容的欺骗性本质。
Deepfake 的历史始于 2017 年，当时一位名为"deepfakes"的匿名用户 在 Reddit 社区 r/deepfakes 上发布了将明星面孔互换的视频。 当时的技术主要依赖 GAN——生成对抗网络——自动学习如何将一个人的面孔换到另一个人身上。 尽管当时质量粗糙、容易识别，但这项技术的突然出现立刻引发了安全研究人员、立法者和广大网络用户的强烈关注。
短短数年间，Deepfake 随着 2020 年代初扩散模型的出现而实现了飞跃式发展。 与 GAN 不同，GAN 需要大量训练数据且通常会留下特征性伪影， 而扩散模型生成的内容更加流畅、真实，所需输入数据也大幅减少—— 有时只需几十张照片或几秒钟的音频，就足以制作出令人不寒而栗的 Deepfake。 这一进步速度令网络安全专家真正感到忧虑，因为高质量 Deepfake 与公众获取该技术之间的差距正在迅速缩小。
Deepfake 的范围远不止于视频中的人脸替换。 合成音频（声音克隆）、完全合成的肖像图像、模仿某人写作风格的文本， 乃至带有假脸的实时视频通话，都属于现代 Deepfake 生态系统的一部分。 真实内容与 AI 合成内容之间的边界正以令人担忧的速度模糊， 这对个人用户、组织机构和政府监管机构都提出了前所未有的挑战。
Deepfake 的工作原理
从概念层面来看，大多数第一代视频 Deepfake 依赖 **GAN（生成对抗网络）**架构。 两个神经网络以对抗方式运行：**生成器（Generator）负责创造看起来真实的虚假内容， 而判别器（Discriminator）**则试图区分真实内容与虚假内容。 两个网络并行、持续地训练——生成器不断改进以欺骗判别器，判别器不断提升以识别生成器—— 直到生成的内容达到足够令人信服的水平。
一个典型的人脸替换流程通过三个主要概念阶段进行：
- 人脸检测与对齐：系统定位视频每一帧中的人脸，并对尺寸和角度进行归一化处理，以确保各帧之间的一致性。
- 替换（Swap）：被模仿者的源人脸通过专门训练的编码器-解码器网络被映射并变换到目标人脸上，该网络学习了这一精细的映射关系。
- 融合（Blending）：将结果整合到原始视频中，使得光照、肤色和运动与周围环境尽可能自然地匹配。
**声音克隆（Voice Cloning）**的工作原理不同，但同样依赖深度学习。 模型学习分析和编码特定声音的独特声学特征——包括节奏、基频、音素发音方式和音色。 然后，系统使用这些特征合成任意文本，重现原始声音。 现代系统只需 3 到 10 秒的源音频，即可生成可实时使用的声音副本， 为电话和视频通话中的身份冒充提供了令人不安的可能性。
除 GAN 和扩散模型外，其他技术也在为现代 Deepfake 生态系统做出贡献。 **神经辐射场（NeRF）**允许从 2D 图像合成 3D 场景， 从而在无需实际拍摄的情况下，从多个角度生成真实人物的视频。 基于 Transformer 的生成模型——GPT 和 DALL-E 等系统的基础—— 正被应用于视频和音频合成，比早期架构提供了更好的时间一致性和更精细的内容控制。
一个重要说明：本文不提供关于创建 Deepfake 的具体工作流程或工具指引。 本节的目的是帮助你从概念层面了解这项技术—— 从而识别真实威胁，并在日常生活中采取更有效的防范措施。
Deepfake 的三种常见类型
视频 Deepfake 是主流媒体中最常见、讨论最多的形式。 两种主要技术是人脸替换（face-swap）——将一个人的面孔完整地替换到视频中另一个人身上—— 以及口型同步操控（lip-sync manipulation）——保留面孔不变，但改变嘴部运动，使该人"说出"攻击者想要的话。 视频 Deepfake 既出现在娱乐场景中，也被用于欺诈和政治宣传， 从幽默的明星换脸片段到政治人物声称持有从未发表过的极端立场的伪造视频。
音频 Deepfake（声音克隆）的危险性恰恰在于其不可见性。 没有图像可以观察，听者只能依靠听觉和对声音的熟悉感来判断真实性—— 而这正是最容易被利用的漏洞。 诈骗者可以克隆首席执行官的声音，致电会计部门要求紧急汇款， 或冒充在国外的子女向父母电话索要钱款。 尤其危险的情况是，攻击者将假声音与伪造电话号码（SIM 卡劫持）结合起来， 制造一场全面的身份冒充攻击，在人为制造的紧急时刻极难识破。 此外，实时变声器——在视频通话期间实时改变说话者声音的软件—— 也属于这一类别，使诈骗者能够在与受害者直接对话时彻底改变自己的声音。
基于文本的 AI 冒充是最少被讨论但同样危险的形式。 AI 可以学习一个人的写作风格、用词习惯、表情符号偏好，甚至特有的拼写错误， 然后在电子邮件、社交媒体消息或网络论坛上冒充他们。 结合从数据泄露中获取的个人信息，攻击者可以建立极具说服力的虚假数字身份， 足以对受害者的同事、朋友或客户实施复杂的社会工程学攻击。
Deepfake 造成的危害
政治虚假信息是 Deepfake 影响最深远、最难控制的危害之一。 政治人物发表极端声明、承认腐败行为或宣布令人震惊政策的伪造视频， 可以在社交媒体上病毒式传播——尤其是在选举前的敏感时期或国家危机期间。 在信息传播速度前所未有的时代，一个精心制作的 Deepfake 视频可能在事实核查机构有时间分析之前， 就已获得数百万次观看。
通过 Deepfake 实施的金融诈骗正在企业规模上造成严重的经济损失。 最典型的例子是 CEO 欺诈——攻击者创建首席执行官或首席财务官的 Deepfake 视频， 与首席会计师进行视频通话，假装要求为一笔机密交易紧急汇款。 2024 年香港的一起著名攻击事件中，一家金融公司损失了 2500 万美元， 因为攻击者使用 Deepfake 在一次假视频通话中同时冒充多名高管， 制造出完全逼真的董事会会议假象。
**骚扰和非自愿亲密图像（NCII）**是对个人影响最直接、最深远的危害。 非自愿的 Deepfake 图像和视频会造成严重的心理创伤，摧毁个人关系，毁掉受害者的职业生涯。 女性、名人和公众人物是最频繁被攻击的群体， 但实际上，任何在网上有足够多面部照片或公开视频的人， 都是这类攻击的潜在受害者。
声誉损害通过 Deepfake 可以在病毒式传播的数小时内摧毁一个人或一个组织的职业生涯和生活。 即便伪造视频事后被曝光并确认为 Deepfake，声誉损害往往也无法完全挽回—— 尤其是当虚假内容已有时间广泛传播之后。 "无风不起浪"的效应使得怀疑情绪在部分公众心中挥之不去， 认知心理学研究表明，先接收到的虚假信息会影响人们处理后续更正信息的方式—— 即便那些更正信息清晰且可信。 令人震惊或情绪激动的虚假内容传播速度远远超过事实更正—— 这是 Deepfake 受害者在极不平等条件下所面临的信息不对称困境。
如何识别 Deepfake
尽管越来越复杂，Deepfake 通常仍会留下一些细心的观察者可以发现的特征性迹象。 异常眨眼是识别第一代 Deepfake 最可靠的指标之一—— 合成模型往往难以准确模拟人眼眨动的频率、持续时间和自然开合方式。 眼部运动过于稀疏、过于频繁、不规则，或与面部表情不一致， 都是观看可疑视频时值得注意的警示信号。
模糊或不均匀的面部边缘通常在替换人脸与头部其余部分之间的边界处最为明显—— 尤其是发际线、耳朵、下巴和颈部区域。 放大可疑视频中的这些区域时，你往往能看到像素不匹配、异常模糊， 或人脸与背景之间不自然的颜色过渡。 不一致的光照是另一个可靠指标：照射在脸上的光线与场景中实际可见的光源不匹配， 或阴影方向与环境光线方向不一致。
僵硬或不自然的颈部和肩部运动通常反映了 Deepfake 模型在合成人脸区域以外的全身动作方面的局限性。 音频与口型运动的延迟——即便只有几毫秒——是同时包含音频和视频的 Deepfake 中最易识别的迹象之一。 面部轮廓周围不均匀的背景虚化——在头发或耳朵区域尤为明显—— 也会暴露出不完美的人工合成过程。
然而，必须诚实面对现实：基于当前扩散模型的现代 Deepfake 在消除上述伪影方面越来越有效。 用肉眼检测 Deepfake 每年都变得不那么可靠， 任何自信能通过纯粹观察识别高质量 Deepfake 的人， 都可能低估了当前技术的能力。 将人工观察与专业检测工具相结合，是目前最为稳健的策略。
Deepfake 检测工具
当前的 Deepfake 检测工具按受众主要分为两类： 面向个人的工具（免费、易于使用、无需安装）和面向企业的平台（付费、提供 API、高容量处理、系统集成）。 每类工具各有优势，选择取决于需求规模和可用的技术资源。
**微软视频身份验证器（Microsoft Video Authenticator）**逐帧分析视频， 在像素级别检测人工融合痕迹，并为每一帧生成置信度分数。 微软开发这款工具是为了直接应对选举活动和政治信息中 Deepfake 的威胁， 主要面向需要验证视频证据真实性的事实核查机构和调查记者。
Deepware Scanner（deepware.ai）是面向个人的免费解决方案， 允许直接通过浏览器上传视频，几分钟内即可获得分析结果—— 无需安装软件或具备深厚的技术知识。 使用流程简单：访问 deepware.ai，上传需要检测的视频，等待系统处理， 然后查看置信度分数——Deepfake 概率分数越高，内容越可疑，需要进一步核实。
英特尔 FakeCatcher 使用基于**光电容积描记法（PPG）**的独特检测方法—— 该技术分析隐藏在真实人物视频中的细微循环信号， 具体表现为皮肤颜色随心跳和呼吸节律发生的极微小变化。 由于当前 AI 合成模型无法完美重现这种生理信号， 即使典型的视觉伪影已被妥善处理，FakeCatcher 仍能检测出 Deepfake。
Hive Moderation 是面向企业和大型组织的平台， 提供 API 用于高容量处理视频、图像和音频内容，能够集成到自动审核流水线中。 大多数 Deepfake 检测工具的通用工作流程是：上传内容 → 系统提取特征 → 机器学习算法分类 → 返回 Deepfake 概率分数。 一个重要原则：不要完全相信来自单一工具的单一结果—— 需使用多种工具进行验证，并结合上下文判断以获得全面评估。
Deepfake 在越南的情况
越南是受 Deepfake 诈骗浪潮影响较为严重的国家之一， 日常针对普通用户的欺诈行为尤为突出。 最常见的形式是假冒亲属的视频通话——诈骗者使用实时 Deepfake 伪装成在国外的子女、兄弟姐妹或朋友， 制造虚构的紧急情况，如事故、绑架、突发债务或需要紧急资金处理法律事务， 并要求立即转账。 由于视频通话同时包含与熟悉之人的面孔和声音相符的图像和音频， 受害者通常会立即相信，来不及进一步核实或向他人咨询。
结合 AI 声音和 Deepfake 视频的银行转账诈骗正在急剧上升。 根据公安部网络安全和高科技犯罪预防部门（A05）的信息， 与 AI 和 Deepfake 技术相关的网络诈骗案件数量自 2023 年起显著增加， 估计年损失达数千亿越南盾。 许多受害者在完成转账后才意识到被骗， 而追回高科技诈骗案损失的钱款在实践中几乎是不可能的。
Deepfake KOL 和名人视频出现在虚假广告中也是一个日益严重的问题。 许多拥有大量粉丝的歌手、演员和 KOL 的面孔和声音被未经授权地用于推广金融产品、高回报投资计划、 未经核查的保健品或庞氏骗局式投资项目——他们对此毫不知情，也未予同意。 消费者信任熟悉的面孔，容易在未仔细核实的情况下被说服参与， 导致经济损失并侵蚀对数字环境的整体信任。
法律框架与自我保护
关于越南的法律框架，2018 年《网络安全法》第 16 条 禁止在网络空间发布虚假、歪曲或诽谤性信息，意图损害组织和个人的合法权益。 2023 年第 13 号政府法令关于个人数据保护， 包含了关于未经授权使用生物特征信息的规定——这是与使用他人面孔和声音的 Deepfake 直接相关的重要法律基础。 然而，越南目前尚无类似欧盟《人工智能法案》的专项 Deepfake 法规； 随着技术的发展和违规案件数量的持续增加，相关部门正在研究补充这一空缺。
在国际层面，2024 年欧盟《人工智能法案》是目前最全面、最具开创性的 AI 治理法律框架。 该法案要求对所有逼真的 AI 合成内容进行强制披露，包括出于艺术或教育等合法目的创建的 Deepfake。 YouTube、Meta 和 TikTok 等主要平台也制定了各自的政策， 要求用户自行申报并标注 AI 内容，同时在受害者或审核团队举报时主动删除非自愿 Deepfake。
为了有效保护自己，请在日常生活中遵循以下实用规则：
- 通过独立渠道核实：当你收到紧急视频通话要求转账时——即便来自你认识的人，即便图像和声音清晰—— 请结束通话，用你已保存的电话号码回拨，或联系另一名家庭成员确认。
- 设置家庭暗号：与家人商定一个只有家人知道的特殊词语或短语， 作为需要快速确认身份的紧急情况下的验证码。
- 限制公开数据：在公开分享清晰的面部照片、视频或语音录音前仔细考虑—— 这些正是诈骗者制作针对你的 Deepfake 所需的原始材料。
- 对紧迫性压力保持警惕：任何制造"必须立即转账、不能告诉任何人"压力的情况， 都是需要停下来核实的危险信号——无论对方看起来和听起来多么令人信服。
- 启用双重认证：在所有重要账户上激活 2FA 或 MFA， 以尽量减少账户被接管并用作针对你的亲属和同事的后续冒充攻击跳板的风险。
合法的 Deepfake：道德与创意边界
并非所有 Deepfake 应用都是负面的——理解这一点对于把握完整图景至关重要。 在电影和媒体领域，年轻化处理技术和数字复原技术已被用于许多好莱坞大制作， 节省了大量制作成本，并使原本无法实现的故事成为可能。 在教育领域，Deepfake 被用于还原重要历史人物，使历史课程对学生而言更加生动和易于理解。
在无障碍领域，Deepfake 正在打开新的可能。 自动语言配音技术——将口型同步到新语言，而不仅仅是配音—— 可以为教育和健康信息内容打破语言障碍。 因病失声的人也可以使用声音克隆来保存和重复使用自己的声音—— 这是这项常被不公正污名化的技术深具人文关怀的应用。
合法 Deepfake 与违反伦理或法律之间的边界由两个因素决定： 被使用的人的同意（consent），以及该内容为 AI 合成品的披露（disclosure）。 当两个条件都满足时，Deepfake 成为一种有价值的创意工具。 当其中任何一个被违反——尤其是在缺乏同意的情况下——技术就变成了一种有害武器。
Deepfake 与数字信任的未来
Deepfake 的爆炸式发展提出了一个比任何纯技术问题都更深刻的哲学问题： 我们是否还能继续信任在数字世界中看到和听到的内容？ 对视觉证据的信任——"眼见为实"——长期以来一直是新闻业、法律体系和人类社会个人交流的基础。 Deepfake 正在系统性地侵蚀这一基础，制造了研究人员所称的**"说谎者红利"**： 即便是真实内容，也可以通过简单地声称那是 Deepfake 来予以否认。
网络安全研究人员正在与 Deepfake 制造者进行一场没有终点的对抗性循环竞赛。 每当一种新的检测方法被发布和部署，生成模型就会被重新训练以规避那种特定的检测方法。 2024–2025 年的扩散模型一代已经开始生成能绕过许多针对早期 GAN 方法构建的检测器的内容。 这一趋势表明，技术检测将变得越来越困难，长期解决方案必须包括提升公众意识、强化法律框架， 以及开发内容溯源认证标准。
一个有前景的方向是内容溯源（Content Provenance）——证明内容的来源。 内容溯源与真实性联盟（C2PA）——一个包括 Adobe、微软、谷歌、英特尔及许多主要组织的联盟—— 正在构建技术标准，将数字签名嵌入内容创建之时（相机、麦克风、编辑软件）， 从而实现从原始来源到分发过程的监管链验证。 当这一标准广泛部署后，缺乏溯源证明的内容将默认受到更大的怀疑—— 这可能是未来十年打击 Deepfake 最重要的范式转变。
在个人层面，最重要的不是成为 Deepfake 检测方面的技术专家—— 这对普通用户来说越来越遥不可及，也不现实。 重要的是建立核实习惯：在数字环境中，不基于单一来源做出重要决定（转账、共享敏感信息、改变行为）， 无论那个来源看起来和听起来多么令人信服。 应用于数字内容的批判性思维——类似于我们在模拟世界中学会的对新闻和广告的批判性思维—— 是长期抵御 Deepfake 威胁最持久的防护盾。
在组织层面，企业需要为高价值或敏感交易建立额外的身份验证流程。 任何视频通话本身——无论来电者看起来和听起来如何——都不应成为授权大额转账或披露关键机密信息的唯一充分证据。 多步骤验证程序和带外确认码（通过与发出请求的渠道完全不同的渠道） 必须成为任何现代组织风险管理的最低标准。 对员工进行 Deepfake 培训并开展模拟攻击演练是有价值的防御投资—— 远比一次成功的 CEO 欺诈攻击造成的损失代价低得多。
关键要点
Deepfake 是一种双刃剑技术：在娱乐、教育和无障碍领域有合法且有益的应用， 但同时也在以媒体史上前所未有的规模被滥用于欺诈、宣传和骚扰。 了解 Deepfake 是什么、如何识别它以及如何防范，不仅能保护自己， 也能帮助保护你身边的人——尤其是那些较少接触 AI 技术信息、更容易成为新型诈骗受害者的老年家庭成员。
AI 世界正在快速变化，Deepfake 只是人工智能发展给社会带来的众多挑战之一。 进一步了解 AI 的整体面貌——从 AI Agent 等有益应用到安全和伦理问题—— 有助于你建立坚实的意识基础，在未来几年更自信、更安全地驾驭数字世界。 同时，通过 2FA 和 MFA 加强个人账户安全， 是今天就能采取的最实用、最易实施的步骤， 以降低成为冒充和数字诈骗攻击受害者的风险。
面对可疑的数字内容时，请牢记三个黄金原则：
- 停下来：当你感到时间压力或强烈情绪激动时，不要立即采取行动。 紧迫性压力正是诈骗者想要制造的，目的是阻止你思考和核实。
- 核实：用你已经保存的电话号码通过独立渠道回拨，向他人询问， 在做出任何有财务影响或影响他人的决定之前，通过多个来源查证信息。
- 举报：如果发现欺诈性 Deepfake，向相关当局举报（A05——公安部）， 向内容出现的社交媒体平台举报，并警告周围的人以防止社区中出现更多受害者。
包括 Deepfake 在内的 AI 技术在未来几年将持续不断地发展。 但凭借正确的意识、系统化的核实习惯，以及日益完善的检测工具的支持， 我们完全有能力安全、负责任地驾驭 AI 信息环境—— 保护自己、家人和社区免受这项技术正在且将继续制造的威胁。
