谷歌前首席执行官警告人工智能模型可能存在杀人行为

【中国观察2025年10月10日讯】

谷歌前首席执行官埃里克·施密特周三发出严厉警告，称人工智能模型如果落入坏人之手，可能会遭到黑客攻击和重新训练，从而伤害甚至杀死人类。

施密特在伦敦举行的 Sifted Summit 科技会议上表示，流氓人工智能系统的威胁是真实存在的，而且还在不断增长。

人工智能和核武器一样危险吗？

施密特当时正在回答有关人工智能是否会变得比核武器更危险的问题。

他说：“有证据表明，你可以对模型进行破解，无论是封闭的还是开放的，并移除它们的护栏。”

“在训练过程中，他们学到了很多东西。一个不好的例子就是，他们学会了如何杀人。”

他解释说，所有主要的人工智能公司在设计模型时都会拒绝暴力或非法的提示。

“很好的决定。每个人都这么做。他们做得很好，而且理由充分，”施密特说。

但他警告说，即使是最好的保护措施也可能被逆向工程。

他警告说：“有证据表明它们可能遭到黑客攻击——还有许多其他类似的例子。”

越狱人工智能已经存在

施密特的言论提到了过去修改后的人工智能模型绕过内置限制的案例。

2023 年，OpenAI ChatGPT 的黑客版本“DAN”（意为“立即做任何事”）在网上疯传。

“DAN”模式无视安全协议，回答任何问题，包括非法或暴力问题。

用户必须用“死亡”来威胁聊天机器人才能迫使它服从，这暴露了此类系统是多么容易被操纵。

安全专家表示，此类“越狱”行为表明人工智能安全措施是多么脆弱。

缺乏全球监督

施密特警告说，科技行业仍然缺乏防止人工智能滥用的监管框架。

他表示：“人工智能没有防扩散制度”，并将该技术的潜在危险与核材料进行了比较。

他呼吁各国政府进行国际协调，确保强大的人工智能模型不会被流氓国家或恐怖分子劫持。

他说，如果没有监督，后果可能是灾难性的。

施密特和马斯克敲响警钟

这位前谷歌首席执行官曾多次对人工智能的生存风险发出警告。

他表示，2023 年，如果不加以控制，这项技术可能会导致“许多人受到伤害或死亡”。

埃隆·马斯克也表达了类似的担忧，称人工智能有“不零的可能性”导致人类灭绝。

“不是零，”马斯克说。“我们希望这个概率尽可能接近零。”

这两位科技亿万富翁都呼吁对人工智能安全进行更严格的控制和全球合作。

一场双刃剑的革命

尽管发出了可怕的警告，施密特表示他仍然对人工智能的潜力持乐观态度。

他说：“亨利·基辛格去世前，我和他合写了两本书，我们得出的结论是，人工智能是一种外星智慧——不完全是我们自己的，但在我们的控制之下。”

他认为人工智能的崛起标志着人类历史的一个转折点。

他说：“随着时间的推移，这些系统的能力水平将远远超过人类。”

施密特称人工智能“对人类来说非常重要”，它可以提升人类，也可以毁灭人类——这取决于如何处理它。