图片说明：示意图
图片来源：Public Domain（公有领域）
【中国观察2025年09月10日讯】
诈骗者现在使用人工智能克隆仅需几秒钟音频的声音，在虚假的紧急情况下冒充亲人以窃取数十亿美元。
预计到 2027 年，Deepfake 欺诈损失将达到 400 亿美元，老年人、高管和远程工作者面临的风险最大。
受害者往往在几分钟内就失去了毕生积蓄，由于诈骗手段过于复杂，被盗资金只有不到 5% 能够追回。
危险信号包括紧急情况、不自然的说话方式和保密要求——始终使用暗语或反向搜索来验证身份。
立法者正在提出《防止深度伪造诈骗法案》等法案来打击人工智能欺诈，但公众警惕仍然是最好的防御措施。
电话铃响了。电话那头传来一个惊慌失措的声音，听起来就像你儿子的声音。他被捕了，现在需要保释金，他恳求你不要告诉任何人。你毫不犹豫地把钱汇了过去，结果却发现电话是个骗局。那声音？一个超逼真的人工智能克隆人。
这并非科幻小说，而是正在发生，而且规模惊人。美国联邦调查局 (FBI) 报告称，自 2020 年以来，美国人已提交超过 420 万起欺诈投诉，损失高达 505 亿美元，而深度伪造 (Deepfake) 骗局更是助长了这一数字的激增。犯罪分子利用人工智能冒充受害者的家人、名人甚至政府官员，在几分钟内骗取受害者的毕生积蓄。最糟糕的是？被盗资金中只有不到 5% 能够追回。
骗局如何运作……以及为什么它们几乎不可能被发现
Deepfake 技术已经发展到如此程度，骗子只需从社交媒体、语音邮件，甚至是简短的电话问候语中截取几秒钟的音频，就能以惊人的准确度克隆出一个声音。据网络安全公司 Group-IB 称，这些基于人工智能的“语音钓鱼”（Vishing）攻击在全球范围内呈爆炸式增长，预计到 2027 年损失将达到 400 亿美元。仅在亚太地区，2024 年的 Deepfake 欺诈尝试次数就比上一年激增了 194%。
骗子们的伎俩很简单，但破坏力却很大。他们冒充受人信任的人物——例如陷入困境的孙辈、银行欺诈调查员，甚至是要求“紧急”电汇的首席执行官——然后用恐惧、紧迫感和虚假权威来操纵受害者。在一个案例中，一位80岁的加拿大男子被安大略省省长道格·福特的深度伪造视频骗进行了一笔虚假投资，损失了1.5万美元。在另一个案例中，一位祖母电汇了6500美元来“救助”她的孙子，结果却发现这是一场骗局。
美国银行家协会基金会消费者教育副总裁萨姆·昆朱昆朱警告称：“深度伪造技术正变得越来越复杂，越来越难以发现。” 美国联邦调查局刑事调查部助理局长何塞·佩雷斯也发出了同样的警告：“让公众了解这一新兴威胁，是预防此类诈骗并最大程度降低其影响的关键。”
谁面临的风险最大？老年人、高管以及任何有数字足迹的人。
诈骗者的目标不仅仅是个人；他们还会盯上企业高管、金融员工和远程工作者，一次被操纵的电话就可能耗尽公司账户的资金。Group-IB 调查的金融机构中，超过 10% 表示，每起深度伪造语音钓鱼事件造成的损失超过 100 万美元，平均损失为 60 万美元。
但最脆弱的群体仍然是老年人。有限的数字素养、情绪困扰以及对亲人声音的熟悉使他们成为首要目标。
如何保护自己：危险信号和防御策略
美国联邦调查局 (FBI) 和美国律师协会基金会 (ABA Foundation) 发布了一份信息图，概述了深度伪造诈骗的主要警告信号：
视觉线索：面部模糊、眨眼不自然、阴影奇怪或嘴唇与音频不同步。
音频线索：平坦、机械的声音或语音略微延迟。
行为危险信号：意外的金钱要求、情感操纵（“立即行动，否则！”）或来自您认识的人的异常沟通。
您可以采取以下措施来保护自己：
反应前请暂停一下。诈骗者依赖紧迫感，所以请深呼吸并确认。
使用暗语。与家人设定暗语来确认身份。
反向搜索可疑内容。谷歌的反向图片搜索等工具可以揭露虚假信息。
限制你的数字足迹。你的在线音频/视频越少，你的声音被克隆的难度就越大。
立即举报诈骗。在 IC3.gov 上提交投诉并通知您的银行。
立法者们正努力迎头赶上。俄亥俄州共和党参议员乔恩·胡斯特德提出了《防止深度伪造诈骗法案》，提议成立一个人工智能工作组来打击金融欺诈。纽约州民主党众议员伊薇特·克拉克则推动了《深度伪造问责法案》，该法案要求在人工智能生成的内容上添加数字水印。
不相信任何事，验证一切
深度伪造的盛行是科技、贪婪和人类心理的完美结合。随着人工智能工具变得越来越便宜、越来越普及，现实与操纵之间的界限变得模糊，即使是我们中最谨慎的人也容易受到攻击。
解决方案？保持怀疑态度。无论是“亲戚”打来的慌乱电话，还是好得令人难以置信的投资宣传，在得到证实之前，都应假设它是骗局。在这个声音可能被窃取的世界里，唯一真正的防御手段是保持警惕、核实情况，并拒绝仓促行事。
因为一旦钱花光了，几乎就永远没用了。
诈骗者现在使用人工智能克隆仅需几秒钟音频的声音，在虚假的紧急情况下冒充亲人以窃取数十亿美元。
预计到 2027 年，Deepfake 欺诈损失将达到 400 亿美元，老年人、高管和远程工作者面临的风险最大。
受害者往往在几分钟内就失去了毕生积蓄，由于诈骗手段过于复杂，被盗资金只有不到 5% 能够追回。
危险信号包括紧急情况、不自然的说话方式和保密要求——始终使用暗语或反向搜索来验证身份。
立法者正在提出《防止深度伪造诈骗法案》等法案来打击人工智能欺诈，但公众警惕仍然是最好的防御措施。
电话铃响了。电话那头传来一个惊慌失措的声音，听起来就像你儿子的声音。他被捕了，现在需要保释金，他恳求你不要告诉任何人。你毫不犹豫地把钱汇了过去，结果却发现电话是个骗局。那声音？一个超逼真的人工智能克隆人。
这并非科幻小说，而是正在发生，而且规模惊人。美国联邦调查局 (FBI) 报告称，自 2020 年以来，美国人已提交超过 420 万起欺诈投诉，损失高达 505 亿美元，而深度伪造 (Deepfake) 骗局更是助长了这一数字的激增。犯罪分子利用人工智能冒充受害者的家人、名人甚至政府官员，在几分钟内骗取受害者的毕生积蓄。最糟糕的是？被盗资金中只有不到 5% 能够追回。
骗局如何运作……以及为什么它们几乎不可能被发现
Deepfake 技术已经发展到如此程度，骗子只需从社交媒体、语音邮件，甚至是简短的电话问候语中截取几秒钟的音频，就能以惊人的准确度克隆出一个声音。据网络安全公司 Group-IB 称，这些基于人工智能的“语音钓鱼”（Vishing）攻击在全球范围内呈爆炸式增长，预计到 2027 年损失将达到 400 亿美元。仅在亚太地区，2024 年的 Deepfake 欺诈尝试次数就比上一年激增了 194%。
骗子们的伎俩很简单，但破坏力却很大。他们冒充受人信任的人物——例如陷入困境的孙辈、银行欺诈调查员，甚至是要求“紧急”电汇的首席执行官——然后用恐惧、紧迫感和虚假权威来操纵受害者。在一个案例中，一位80岁的加拿大男子被安大略省省长道格·福特的深度伪造视频骗进行了一笔虚假投资，损失了1.5万美元。在另一个案例中，一位祖母电汇了6500美元来“救助”她的孙子，结果却发现这是一场骗局。
美国银行家协会基金会消费者教育副总裁萨姆·昆朱昆朱警告称：“深度伪造技术正变得越来越复杂，越来越难以发现。” 美国联邦调查局刑事调查部助理局长何塞·佩雷斯也发出了同样的警告：“让公众了解这一新兴威胁，是预防此类诈骗并最大程度降低其影响的关键。”
谁面临的风险最大？老年人、高管以及任何有数字足迹的人。
诈骗者的目标不仅仅是个人；他们还会盯上企业高管、金融员工和远程工作者，一次被操纵的电话就可能耗尽公司账户的资金。Group-IB 调查的金融机构中，超过 10% 表示，每起深度伪造语音钓鱼事件造成的损失超过 100 万美元，平均损失为 60 万美元。
但最脆弱的群体仍然是老年人。有限的数字素养、情绪困扰以及对亲人声音的熟悉使他们成为首要目标。
如何保护自己：危险信号和防御策略
美国联邦调查局 (FBI) 和美国律师协会基金会 (ABA Foundation) 发布了一份信息图，概述了深度伪造诈骗的主要警告信号：
视觉线索：面部模糊、眨眼不自然、阴影奇怪或嘴唇与音频不同步。
音频线索：平坦、机械的声音或语音略微延迟。
行为危险信号：意外的金钱要求、情感操纵（“立即行动，否则！”）或来自您认识的人的异常沟通。
您可以采取以下措施来保护自己：
反应前请暂停一下。诈骗者依赖紧迫感，所以请深呼吸并确认。
使用暗语。与家人设定暗语来确认身份。
反向搜索可疑内容。谷歌的反向图片搜索等工具可以揭露虚假信息。
限制你的数字足迹。你的在线音频/视频越少，你的声音被克隆的难度就越大。
立即举报诈骗。在 IC3.gov 上提交投诉并通知您的银行。
立法者们正努力迎头赶上。俄亥俄州共和党参议员乔恩·胡斯特德提出了《防止深度伪造诈骗法案》，提议成立一个人工智能工作组来打击金融欺诈。纽约州民主党众议员伊薇特·克拉克则推动了《深度伪造问责法案》，该法案要求在人工智能生成的内容上添加数字水印。
不相信任何事，验证一切
深度伪造的盛行是科技、贪婪和人类心理的完美结合。随着人工智能工具变得越来越便宜、越来越普及，现实与操纵之间的界限变得模糊，即使是我们中最谨慎的人也容易受到攻击。
解决方案？保持怀疑态度。无论是“亲戚”打来的慌乱电话，还是好得令人难以置信的投资宣传，在得到证实之前，都应假设它是骗局。在这个声音可能被窃取的世界里，唯一真正的防御手段是保持警惕、核实情况，并拒绝仓促行事。
因为一旦钱花光了，几乎就永远没用了。