中国观察|世界门新闻网

人工智能（AI）研究人员警告说：被恶魔附身的人工智能正在学习如何使用合成生物技术来构建自己的超人生物系统

发表： 2023-04-06 13:27:01 | 更新： 2023-04-06 13:28:13

【中国观察2023年4月6日讯】一位备受瞩目的人工智能（AI）研究人员警告说，除非立即关闭所有先进的AI系统和相关程序，否则人类最终将在它们释放的毁灭生命的机器人手中灭绝。

机器智能研究所（MIRI）的联合创始人埃利泽-尤德考夫斯基（Eliezer Yudkowsky）本周为《时代》杂志写了一篇专栏文章，解释了这些合成生命形式的创造所涉及的风险。

他写道："在任何像目前的情况下，建立一个超人般聪明的人工智能，最可能的结果是，地球上的每个人都会死。"

这是一个严重的警告，其他人现在也在响应这个警告，因为他们清醒地认识到，这个议程不会止于GPT-4 "聊天机器人 "和其他看似无害的人工智能程序。事实是，这些人工智能系统正被具有反人类议程的恶魔附身，因此必须立即停止，否则就太晚了。

(相关：埃隆-马斯克和其他亿万富翁已经签署了一份请愿书，呼吁立即暂停所有人工智能的发展）。

尤德考夫斯基说，人工智能系统已经可以 "通过电子邮件发送DNA"，变成 "人工生命形式"

与马斯克一样，尤德考夫斯基希望所有人工智能实验室立即停止，至少在未来六个月内，停止所有比GPT-4更强大的人工智能训练程序。他还对请愿书进行了评论，称其 "要求太低，无法解决 "人工智能系统快速和不受控制的发展所带来的问题。

尤德考夫斯基认为，这些人工智能系统 "不关心我们，也不关心一般的有知觉的生命，"他补充说，为了在与人工智能的遭遇中生存下来，一个人需要 "精确和准备以及新的科学见解"，而一般而言，人类缺乏这些。

他补充说："一个足够智能的人工智能不会长期局限于计算机，"他进一步解释说，已经有可能通过电子邮件将DNA链送到一个可以为人工智能制造蛋白质的实验室，"以建立人工生命形式或直接引导到后生物分子制造"。

换句话说，这是《终结者》系列电影的内容，但在现实生活中。而且它发生的速度比许多人意识到的要快，因为媒体用阳光下的每一个其他话题分散了大家的注意力。

"不能有任何例外，包括政府或军队，"尤德考夫斯基说，所有人工智能系统都需要立即停止。

"如果情报显示，一个协议之外的国家正在建造一个GPU（图形处理单元）集群，与其说害怕国家间的枪战冲突，不如说害怕暂停令被违反；愿意通过空袭摧毁一个流氓数据中心。"

不过，如何让世界上每个国家都加入到阻止人工智能的行列中，可能会被证明是具有挑战性的。是否有可能监管这样的事情，特别是当它在世界最偏远的地区私下发生，不受执法部门的控制甚至不知道的时候？

尤德考夫斯基认为人工智能是这样一种威胁，他认为应该 "在国际外交中明确指出，防止人工智能灭绝的情景被认为是优先于防止全面核交换的"。

在评论中，有人开玩笑说："首先是外星人，然后是僵尸启示录，现在是终结者机器人。"其含义是，也许尤德考夫斯基和他的同道们正在夸大人工智能的威胁。

"愚人节"，另一个人开玩笑说。

"一个公认的事实是，技术和生物产品在任何公众意识之前就已经在军事综合体中开发和运行多年了！"另一个人建议。"这些生物人工智能人形机器人已经在我们中间了吗？"

分享 Facebook | Twitter | Whatsapp | Linkedin 人气: 547

订阅中国观察电报 Telegram : https://t.me/s/ObserveCCP
捐助（Paypal）: https://www.paypal.me/observeccp