人工智能先驱警告杀手机器人风险

人工智能先驱 Yoshua Bengio 敲响了警钟：如果自主杀手机器人失控，人工智能的进步可能会变得危险。尽管他的研究带来了巨大的好处，但他警告不要滥用。本吉奥表示，特别致命的自主武器构成了真正的风险。但与此同时，他相信如果该技术得到负责任的使用并受到明确的监管，那么未来将会是积极的。

核心要点

Yoshua Bengio 是世界上最重要的人工智能研究人员之一，荣获 A. M. 图灵奖
他警告自主杀手机器人落入坏人之手
人工智能为医学、翻译和研究带来重大进展
Bengio 呼吁制定国际规则并禁止致命人工智能武器
他并不认为真正的“终结者”威胁，而是将人为错误视为一个问题

Yoshua Bengio：世界上最重要的人工智能先驱之一

Yoshua Bengio 被认为是人工智能领域最有影响力的研究人员之一。这位加拿大计算机科学家被授予著名的 A. M. 图灵奖，通常被称为计算机科学界的诺贝尔奖。他的工作对现代人工智能技术的发展做出了重大贡献。其中包括语音和面部识别以及自动驾驶汽车。 Bengio 是蒙特利尔大学的教授，领导着魁北克省一家领先的人工智能研究所。尽管他取得了成功，但他仍然保持谦虚。他形容自己是在正确的时间拥有正确想法的人。同事们认为他是一位内向的研究人员，更喜欢使用算法。他与硅谷的距离也表明了他对商业化的批判态度。

危险：当人工智能成为武器

本吉奥认为最大的危险不在于技术本身，而在于其应用。他特别担心自主武器。它们可以在没有人类控制的情况下做出决定。这给全球安全带来了巨大风险。如果此类系统落入坏人之手，它们可能会被滥用。本吉奥警告说，人类可能会失去控制。同时，他强调人工智能本身并不是邪恶的。相反，这一切都取决于努力。因此，对杀手机器人的恐惧并非毫无根据。它基于军事部门的实际发展。这就是为什么本吉奥呼吁制定明确的规则。

星际迷航而不是终结者：本吉奥对未来的愿景

尽管发出警告，本吉奥仍然保持乐观。他相信像《星际迷航》这样的未来，而不是像《终结者》这样的场景。在他的愿景中，人们生活在一个公正的社会中。每个人都可以获得民主、教育和医疗保健。冲突被最小化。科技为人类福祉服务。 Bengio 将人工智能视为进步的工具。它可以帮助解决问题并改善生活。然而，这种积极的未来并不一定会成功。它需要有意识的决定。只有承担责任，人工智能才能造福所有人。

深度学习及其在日常生活中的实际应用

Bengio 的研究重点是所谓的深度学习。机器的学习方式与人脑相似。这项技术已经有很多应用。一个例子是谷歌翻译。它可以在语言之间翻译复杂的句子。人工智能在医学中也发挥着重要作用。它有助于检测癌细胞。它还用于预测自然灾害。 Bengio 的团队甚至正在研究人工智能分子来治疗疾病。教材中的偏见也可以被识别出来。这些例子显示了人工智能的巨大潜力。同时，他们清楚地表明负责任的使用是多么重要。

希望与怀疑之间：改变 Bengio 的态度

本吉奥过去要乐观得多。他相信通过科学取得进步。他还批判性地看待斯蒂芬·霍金和埃隆·马斯克的警告。他强调，解决问题需要知识。他将人工智能与数学进行了比较。战争不能归咎于代数的发明者。但他的态度已经改变。围绕算法的丑闻（例如选举中的算法）增加了人们的疑虑。他还担心提高自动化程度。今天，他对风险有了更清晰的认识。他甚至谈到了可能出现的不良发展。因此，他批判性地看待自己的工作。

为什么监管和禁令是必要的

本吉奥呼吁制定明确的处理人工智能的规则。国际上禁止杀手机器人对他来说尤为重要。不应允许使用自主武器。它们可能会产生无法控制的后果。这就是他提倡全球协议的原因。这是防止滥用的唯一方法。同时，他警告不要过度恐惧。他认为《终结者》中的场景是不现实的。机器没有自己的情感或意图。相反，危险在于人类的行为。人们将恐惧投射到机器上。尽管如此，责任仍然是真实的。因此，监管对于未来至关重要。