【中国观察北京时间2025年10月21日讯】随着人工智能（artificial intelligence，简称AI）浪潮席卷全球，无论是大型企业还是小型公司都开始引入AI技术。专家们对此警告称，数据安全问题变得日益严峻。
总部位于纽约的跨国商业咨询公司麦肯锡公司（McKinsey & Company）5月份发布的一份题为“人工智能既是当今网络安全领域最大威胁，亦可作为防御手段”（AI is the greatest threat—and defense—in cybersecurity today. Here’s why，05/15/2025）的报告显示，随着人工智能能力的加速发展，网络安全和隐私专家警告称，已有的能够检测欺诈、保护网络或匿名记录的模型，同样可以被用于身份推断、将剥离的细节重新组合以及泄露敏感信息等功能。
总部位于爱尔兰首都都柏林的跨国管理咨询公司埃森哲（Accenture）发布的《2025年网络安全韧性报告》（State of Cybersecurity Resilience 2025）指出，90%的公司缺乏足够的现代化技术能力，以抵御人工智能所带来的威胁。该报告征询了来自17个国家/地区24个行业的2,286位安全和技术高管的意见，就防范人工智能网络攻击能力的现状提供了专业的见解。
今年迄今为止，总部位于加州的身份盗窃资源中心（Identity Theft Resource Center，简称ITRC）已经确认了1,732起数据泄露事件。该中心还指出，“基于人工智能的网络钓鱼攻击持续增多”，攻击手段也更为复杂，检测难度也随之加大。受数据泄露困扰的主要行业包括金融服务、医疗保健和专业服务。
“当一项技术以惊人的速度进行部署时，这就是它所带来的可以预见的后果，因为出台相应的组织制度、监管规定以及提高用户警惕性的速度往往跟不上技术发展的速度。考虑到大多数生成式人工智能系统的基本设计模式，这样的结果几乎是不可避免的。”总部位于华盛顿特区的网络安全公司“维拉安全”（VeraSafe）高级隐私顾问丹尼·斯特拉坎（Danie Strachan）向《大纪元时报》解释道。
由于人工智能系统需要通过吸收大量的信息来进行训练，不可避免会产生漏洞。
“通常，当员工出于好意向人工智能系统提供敏感的业务数据（无论是战略文件、机密客户信息还是内部财务记录）时，这些信息就会被吸收到一个公司几乎无法控制的系统当中。”斯特拉坎说道。
如果公司使用的是这些人工智能工具的消费者版本，并且未启用保护措施，这种情况尤为明显。
斯特拉坎说：“这很像你将机密文件钉在公开的公告栏上，却希望没有人去复制它们。”
2025年2月20日，英国伦敦，Grok、DeepSeek和ChatGPT应用出现在智能手机屏幕上。今年迄今为止，身份盗窃资源中心已确认1,732起数据泄露事件。(Justin Tallis/AFP via Getty Images)
多方面安全威胁
个人数据落入不法之徒手中，或被人工智能工具泄露的方式其实是多种多样的。大众熟知的方式包括黑客进行的攻击和盗窃，但是还有另一种方式，研究人员称为“隐私泄露”（privacy leakage）。 可以公开访问的大型语言模型（Large Language Model，简称LLM）是导致信息泄露或“外流”的常见方式。
今年，据总部位于加州的软件公司“黑曜石安全”（Obsidian Security）称，一位安全研究人员发现，总部位于加州旧金山的互联网档案馆（Archive.org）网站上，公开了143,000条来自流行LLM模型（包括ChatGPT、Grok、Claude和Copilot）的用户查询和对话记录。
黑曜石安全公司的报告指出：“近期刚刚披露ChatGPT的查询记录被谷歌（Google）等搜索引擎收录索引，这个发现就紧随其后。此类事件持续引发更广泛关切，公众担心使用人工智能平台时无意中泄露数据以及敏感信息。”
“风险最高的情况是团队成员与面向公众的人工智能工具进行互动，无意中泄露了敏感数据。”斯特拉坎说道。
他补充说，由于使用大型语言模型完成工作任务的人数众多，因此面临风险的不仅仅是个人数据，还有机构信息。
“随着多模态人工智能的出现，泄漏风险将扩展到机构的文档、电子表格、会议记录、录音以及视频内容。这些数据一旦共享，就可能被用于训练未来的模型，并可能在回答其它用户（包括竞争对手）的查询时出现在查询结果中。”斯特拉坎说道。
但是数据泄露并非只发生在大型语言模型阶段。人工智能聊天机器人几乎可以访问整个数字世界各个方面的信息。
游戏服务器托管公司“鬼帽”（GhostCap）的联合创始人迈克尔·佩德罗蒂（Michael Pedrotti）向《大纪元时报》表示：“我在第三季度记录了47起游戏平台数据泄露事件，其中绝大多数与拥有无限制访问后端权限的AI聊天机器人有关。”
OpenAI首席执行官萨姆·奥特曼（Sam Altman）在2023年11月6日于加州旧金山举行的OpenAI DevDay活动上发表讲话。今年，一位安全研究人员发现，来自热门LLM模型（包括 ChatGPT、Grok、Claude 和 Copilot）的14.3万条用户查询和对话在互联网档案馆网站（Archive.org）上公开。（Justin Sullivan/Getty Images）
佩德罗蒂表示，企业在部署人工智能系统方面感受到越来越大的压力，这会导致安全“灾难”。
“企业在没有设置充分的隔离层的情况下，就将人工智能直接与客户数据库关联起来。那些坚持要在几周内完成人工智能部署的高管实际上是在敷衍了事。”他说道。
“结果是人工智能系统可以访问所有的信息，包括用于支付的银行卡信息以及个人的通讯消息等，完全没有相应的监督或记录政策。”
佩德罗蒂多年来一直致力于网络安全基础设施的研究。他认为，最危险的数据隐私盲点是他所说的“向量嵌入”（vectors embeddings）。向量嵌入是指将文字、图像或音频等数据的表现形式转换为数字化“向量”（vectors），从而使人工智能模型可以通过将相似的数据点放置得更紧密，对复杂的信息进行处理和解读。
“这些文本的数学编码看起来是匿名的，但是个人数据却是可以完全检索的。”佩德罗蒂说道。
佩德罗蒂表示，目前，不可能像传统数据库那样，删除人工智能模型中的记录，因为这些信息是永久嵌入的。
“我甚至发现，公司员工在职场聊天软件Slack上删除了原始消息几个月后，仍然可以查到他们与AI助手所进行敏感讨论内容。这些信息已经被整合到AI的基本框架中。”他说道。
总部位于弗吉尼亚州的“道诺玛软件”（Donoma Software）首席战略官帕克·皮尔森（Parker Pearson）向《大纪元时报》表示：“人工智能的潜在优势，尤其是在提升利润方面的作用，正促使各组织机构争相涌入这个潮流，以抢占先机。”
她表示，在之前的其它技术热潮出现时，也曾经看到过这种模式。
“这些’技术热潮’有一个共同点：那些通常会对安全产生直接影响的重要细节，在当时却经常被视而不见或断然否定。”皮尔森说道。
2025年3月18日，华盛顿特区，一名男子正坐在笔记本电脑前。最近一项针对1,000名美国成年人的调查显示，84%的互联网用户存在“不安全”的密码习惯，例如使用个人信息来设置密码。（Madalina Vasiliu/The Epoch Times）
采取行动刻不容缓
皮尔森认为，如果不采取更主动的应对措施，情况将会进一步恶化。
她说，从个人层面来说，人们需要学习良好的网络安全操作实践。设置加强型密码和使用多因素身份验证（multi-factor authentication），这些操作对一些人来说是常识，但是有证据表明，大多数互联网用户在数字世界的操作实践差强人意。
总部位于佛罗里达州的网络安全公司All About Cookies最近对1,000名美国成年人进行了一项调查，结果显示84%的互联网用户存在“不安全”的密码使用习惯，例如使用个人信息作为密码。在同一组别中，50%的受访者表示，他们会重复使用密码，59%的受访者表示至少与他人共享了一个账户密码，例如在流媒体平台上，或是使用银行账户的时候。
皮尔森表示，现在是时候不要再相信，科技公司会恪守它们在数据隐私声明中的承诺。
“我们要开始学会在自动提交个人身份信息之前，先多问一些问题。要着手推动问责制。”她说道。
“遭受数据泄露的机构会为受害人提供12个月的身份监控服务，这样做远远不够。坦率地说，接受这种补救措施本身就令人反感。”
皮尔森认为，未能维持数据信任的机构应该支付更高的罚款，因为他们的客户可能会终身受到影响。
大多数网络安全专家都认为，用户在使用人工智能时保持警惕和明智很重要，但是斯特拉坎表示，当涉及到人工智能数据隐私时，大部分责任在于企业端。
“降低人工智能风险的责任应该由企业来承担。他们必须实施计划提升员工的安全防范意识，培训员工把每个提示都当成是发到日报头版的电子邮件。”他说道。
斯特拉坎认为，为了降低风险，企业应该部署设置为禁用训练、限制数据保留并严格控制访问权限的企业人工智能工具。他指出人工智能将隐私管理风险面“爆炸式扩大”，随着技术的发展，隐私管理的风险面将变得更加复杂。
2025年3月3日，在西班牙巴塞罗那举行的全球最大的移动通信博览会——世界移动通信大会（Mobile World Congress）上，人们参观韩国SK集团（SK Networks）的人工智能数据中心。随着人工智能系统的不断发展，美国和欧盟已开始着手解决数据安全问题。(Manaure Quinter/AFP via Getty Images)
立法的速度也正在被日益先进的人工智能系统的发展速度所超越，这些系统目前正在利用隐私领域的灰色地带。
“人工智能企业正在利用隐私立法的巨大漏洞。在他们看来，模型训练不属于数据存储，这意味着它们根本不需要删除那些数据。”佩德罗蒂说道。
他关注了一些公司将人工智能的培训业务转移到海外的案例，具体来说是为了避免要遵守国内的相关法规，同时也避免向相同的用户提供服务。
“使用跨司法管辖区模式会产生漏洞。”他说道。
“现有的法律侧重于数据收集方面，但是并未解释人工智能如何处理这些数据并将其永久地纳入算法中。”
皮尔森表示，当前人工智能立法中容易被利用的一些“漏洞”包括跨境信息流、训练数据、网络抓取、算法决策和第三方数据共享等。
斯特拉坎也表达了同样的担忧。“监管延迟正在造成责任认定的模糊性，这样很危险……这会产生威胁行为者可以钻空子的灰色地带，尤其是在跨境的情况之下，司法管辖权的缺口会令问题变得更严重。”他说道。
在人工智能系统不断推进的过程中，美国和欧盟已经开始解决数据安全问题。
白宫的2025年人工智能行动计划（2025 AI Action Plan）强调了加强关键基础设施网络安全的必要性。报告指出，人工智能系统容易受到数据中毒（data poisoning）和隐私攻击（rivacy attack）等对抗性输入的影响。
欧盟官员也持类似立场。官员们指出，大型语言模型缺乏适当的安全保障，可能导致用于训练人工智能模型的敏感资讯或私人信息遭到泄露。
原文：How AI Is Becoming Weak Link in Cybersecurity刊登于英文《大纪元时报》。