伦理

阿西莫夫机器人三定律：现代解读

Nico Nuss 0
Sicherheitsingenieur überwacht einen humanoiden Roboter in einem Testlabor [图像内容由人工智能生成]

艾萨克·阿西莫夫的机器人定律是科幻小说中最著名的思想之一。它们在 1942 年的短篇小说《Runaround》中被引入，旨在解释机器人如何与人类安全共存。乍一看，这三个规则似乎很简单：保护人民、服从命令、保护自己。正是这种简单性才是它的吸引力。还有他们的弱点。因为阿西莫夫在他的故事中一次又一次地表明，如果伤害、服从或人性等概念得到不同的解释，即使是明确的规则也可能失败。如今，机器人法则并不是人工智能的技术蓝图。它们是机器人技术、人工智能伦理、自主系统和监管的心理模型。

核心要点

  • 艾萨克·阿西莫夫的机器人定律因 1942 年的短篇小说《Runaround》而闻名，后来成为他的机器人故事的基本主题。
  • 三大经典法则优先考虑人类安全、人类命令和机器人自我保护。
  • 后来添加的第零法则将保护人类置于保护个人之上。
  • 现代人工智能系统并不按照阿西莫夫的规则运行，而是解决类似的问题：安全、控制、责任、透明度和人类监督。
  • 欧盟人工智能法案、联合国教科文组织指南和 NIST 人工智能风险管理框架表明，文学伦理问题现已成为具体的治理要求。

艾萨克·阿西莫夫的机器人定律是什么？

艾萨克·阿西莫夫的机器人定律是虚构机器人的三个层次有序的规则。它们的目的是防止机器人伤害人类、执行危险命令或将自身保护置于人类安全之上。

经典的形式是：
<表>
<标题>

排名 机器人法 含义


<正文>

第一定律 机器人不得伤害人类或因不作为而允许人类受到伤害。 人类安全第一。 第二定律 机器人必须服从人类的命令，只要不违反第一定律。 服从仅适用于安全范围内。 第三定律 机器人必须保护自己的存在，只要不违反第一或第二定律。 自我保护是允许的，但属于次要的。

重要的不仅仅是规则的内容。重要的是他们的顺序。如果机器人危及人，就不允许它自救。如果命令伤害了某人，他也不得执行命令。因此，法律的运作就像一连串的优先事项。正是这种级联让读者、开发者和伦理学家感到兴奋。它清楚地表明，技术系统的安全绝不只是单个规则的问题。这总是关于目标之间的冲突。

值得一看的相关主题包括道德、机器人和人工智能和人工智能。

1942 年机器人法的出现

阿西莫夫制定了机器人定律，作为“邪恶机器人”这一旧主题的替代。在许多早期的科幻故事中，人类创造了一台机器，失去了控制，并受到它的威胁。阿西莫夫觉得这个叙述太简单了。他希望将机器人不仅描绘成怪物或工具，而且描绘成具有内置安全逻辑的技术系统。

1942 年的短篇小说《Runaround》被认为是第一部完整阐述机器人三大定律的文本。故事发生在水星上。一个名叫 Speedy 的机器人陷入了一种逻辑循环，因为两条规则相互阻碍。使命很重要，但也很危险。斯皮迪应该得到硒，接近危险，再次避开它，然后就没有回来。他并不邪恶。他并不叛逆。他陷入了目标冲突之中。

这正是阿西莫夫的强项所在。机器人法并不是天真的安全承诺。他们是一个文学实验室。在这个实验室中，阿西莫夫展示了规则在现实条件下如何变得脆弱。 “损害”是什么意思？机器人如何评估不作为？什么时候订单是危险的？谁来决定一个人是否真正受到保护？

大英百科全书描述了在“Runaround”中首次介绍的机器人定律，并总结了三个经典定律以及后来的第零定律：大英百科全书：机器人学三定律。

为什么机器人法则的层次结构如此重要

机器人法则通常被解读为三条道德戒律。这还不够。首先，它们是一个冲突解决系统。第一定律优先于第二定律。第二条推翻第三条。如果没有这种层次结构，规则就几乎没有用处。一个例子可以清楚地说明这一点：人类命令机器人启动危险的机器。如果这可能会伤害他人，则机器人不得服从。第一定律胜过命令。如果机器人本身受损，这也只能起到很小的作用。自我保护绝不能比人类安全更重要。

这种结构让人想起当今的安全架构。现代机器人技术还可以与各层一起工作：紧急停止、避免碰撞、访问权限、传感器测试、冗余、审计日志和人工批准。没有单一机制是足够的。安全源于许多障碍的相互作用。区别：阿西莫夫的机器人似乎理解故事中的道德概念。真正的人工智能系统不会这样做。它们识别模式、计算概率、优化目标变量或遵循控制逻辑。真实的机器不会自动知道人类意义上的“损坏”意味着什么。它必须通过数据、传感器、限制、模型、测试和规则来限制。

第零定律：当人性变得比个人更重要时

后来阿西莫夫添加了所谓的第零定律。它高于三个经典规则，其本质是：机器人不得伤害人类或允许因不作为而对人类造成伤害。

这极大地改变了道德规范。突然间，焦点不再是个人，而是整个人类。乍一看这听起来很合理。毕竟，气候保护、流行病、战争、资源稀缺和全球安全风险不仅影响个人。但这正是问题开始的地方。

当机器将人类的福祉置于个人的福祉之上时，它可能会得出危险的结论。如果它计算出为所有人带来更大利益，它可以限制自由、监视人民或证明个人牺牲是合理的。保护法可能成为一种独裁逻辑。

因此，第零定律与当今的人工智能辩论特别相关。许多关于超级智能、人工智能联盟和存在风险的现代讨论都围绕着同一个问题：如何防止系统以不人道的方式追求看似美好的目标？

这是对齐问题的核心。仅仅给人工智能一个目标是不够的。目标的制定、限制和监督不得损害人的尊严、基本权利或安全。

为什么阿西莫夫的机器人定律不是当今人工智能的直接解决方案

阿西莫夫的机器人定律作为思维模型非常出色。它们不足以作为技术标准。原因很简单：规则包含人们凭直觉理解的术语，但机器却不能。

“伤害”可以是身体的、心理的、经济的、社会的或政治的。 “不作为”的前提是系统认识到危险、评估行动选项并承担责任。 “人性”就更难了。是关于所有活着的人、子孙后代、特定群体还是统计总体福利？

真正的人工智能系统也很少是具有统一“大脑”的自主机器人。它们通常由模型、接口、数据管道、API、传感器、执行器、用户角色和外部工具组成。人工智能代理可以编写文本、运行软件、更改日历、发起付款或控制机器。风险不仅出现在模型中，而且出现在整个系统中。这就是为什么现代人工智能安全需要满足可验证的要求：

  • 整个生命周期的风险管理
  • 对关键决策的人工监督
  • 技术稳健性和网络安全
  • 易于理解的文档
  • 数据质量和偏差检查
  • 日志记录和监控
  • 明确的责任和责任结构
  • 自主行动的限制

这听起来比阿西莫夫的三句话更清醒。但正是这种清醒需要真正的技术。

从阿西莫夫到欧盟人工智能法案：科幻小说如何成为监管

欧盟人工智能法案显示了争论发生了多大变化。这不再只是机器人是否会伤害人的问题。它涉及特定的风险类别、提供商的义务、透明度、市场监管和基本权利。

欧盟人工智能法案采取基于风险的方法。具有不可接受风险的系统将被禁止。高风险人工智能将受到更加严格的监管。风险有限的应用程序须遵守透明度义务。许多简单的人工智能应用程序只要不触及敏感区域，基本上都是免费的。

高风险系统与阿西莫夫的比较特别有趣。这可能包括用于安全关键产品或影响敏感领域决策的人工智能系统。示例包括生物识别、关键基础设施、教育、就业、获得基本私人和公共服务、执法或移民。法规 (EU) 2024/1689 的欧盟官方法律文本可通过 EUR-Lex 获取：EUR-Lex：法规 (EU) 2024/1689。欧盟委员会对人工智能法案的简单分类可以在这里找到：欧盟委员会：人工智能法案。

分类很重要：欧盟人工智能法案没有采用阿西莫夫的机器人法。他以更加具体的法律和技术方式开展工作。然而，它触及了相同的基本理念：技术不能以不受控制的方式危及人类。

现代人工智能伦理可以向阿西莫夫学习什么

阿西莫夫的机器人定律仍然很有价值，因为它们提出了难以回答的简单问题。谁受到保护？谁发号施令？谁负责？当目标发生冲突时会发生什么？什么时候允许系统不服从？

如今，这些问题在许多领域重新出现：

  • 在自动驾驶汽车中，传感器、地图和驾驶决策协同工作
  • 当援助和自我决定发生冲突时，使用护理机器人
  • 在军事系统中，目标检测是自动化的
  • 使用人工智能代理，当软件独立执行操作时
  • 在人形机器人中，当人们在情感上高估机器时
  • 在医疗人工智能中，当建议影响诊断或治疗决策时

联合国教科文组织《人工智能伦理建议书》重点关注人权、人类尊严、透明度、公平和人类监督。这使得它更接近当今的治理，而不是科幻小说。但基本问题仍然是阿西莫夫式的：如何构建既能在技术上为人们服务又能保持社会责任的系统？

联合国教科文组织将其建议描述为人工智能伦理的全球标准：联合国教科文组织：人工智能伦理建议。

NIST 人工智能风险管理框架：阿西莫夫的实践？

NIST 人工智能风险管理框架不是机器人法。对于想要管理人工智能风险的组织来说，这是一个实用的框架。尽管如此，比较还是有帮助的。阿西莫夫问文学：“机器人能做什么？” NIST 在组织上提出这样的问题：“组织如何识别、衡量和控制人工智能风险？”

该框架列出了值得信赖的人工智能的特征。这些包括有效和可靠的结果、安全性、弹性、透明度、可解释性、数据保护和公平性。这些术语比阿西莫夫的“伤害”更具操作性。它们可以转化为测试、流程、文档和控制机制。NIST AI RMF 将值得信赖的 AI 描述为有效、可靠、安全、可靠、有弹性、负责、透明、可解释、可解释、隐私增强和公平：NIST AI 风险管理框架 1.0。

这为机器人、自动化和人工智能领域的公司带来了一个明确的实践要点：道德不能只出现在新闻稿中。它必须内置到产品开发、测试、数据管理、角色权限、监控和事件响应中。

机器人法则最重要的限制

机器人定律看起来很优雅，因为它们很短。但这正是让他们变得脆弱的原因。

首先，它们太笼统了。机器人必须知道哪种行为会造成哪种损害。这在开放环境中几乎是不可能的。

其次，它们以稳定的道德等级为前提。然而，在实际情况中，可能会有几个人受到影响。当一项行动保护一个人并危及另一个人时会发生什么？

第三，他们忽视权力问题。谁可以发号施令？业主？国家？医生？一个孩子？攻击者正在操纵系统？

第四，他们将机器人视为个体行动实体。现代人工智能通常是分布式的。责任在于开发者、运营者、数据提供者、平台、集成商和用户。第五，法律层面缺失。阿西莫夫定律没有提及责任、可追溯性、审计、数据保护或产品安全。

这些限制并不会使法律变得毫无价值。相反。它们说明了为什么现代人工智能监管需要的不仅仅是好的原则。它需要测试流程、文档、标准和明确的职责。

为什么机器人法律在今天比以往任何时候都更加重要

人工智能代理、人形机器人和自主系统正越来越多地走出实验室，进入实际的工作和生活领域。机器人抓取物体。人工智能系统规划任务。软件代理预约、编写代码或控制外部工具。这些系统的行动范围越大，边界问题就变得越重要。

阿西莫夫的机器人定律并没有提供现成的答案。但它们提供了一种共同语言。它们使复杂的安全问题易于理解。每个人都明白为什么机器人不应该伤害人。实施难度更大。这正是现代人工智能治理的起点。对于开发人员来说，这意味着：安全性必须是可衡量的。对于公司来说，这意味着：责任必须记录在案。对于用户来说，这意味着：人为控制绝不能只是广告承诺。对于社会来说，这意味着：我们必须决定哪些任务留给机器，哪些任务不留给机器。

有关 Alpha Bionic 的更多主题包括自动驾驶和辅助机器人。

结论：阿西莫夫的机器人法则不是法律法规，而是警告系统

艾萨克·阿西莫夫的机器人法则至今依然有效，因为它们将安全、服从和自我保护纳入明确的秩序之中。对于真正的人工智能来说，它们还不够。对于三个规则来说，伤害、人性和责任等概念过于复杂。尽管如此，它们仍然是一个有价值的指南针。他们提醒开发商、公司和立法者，如果没有人类控制，技术情报很快就会变得危险。

艾萨克·阿西莫夫机器人定律常见问题解答

艾萨克·阿西莫夫的机器人定律是什么？

艾萨克·阿西莫夫的机器人定律是三个虚构的机器人安全规则。它们的目的是防止机器人伤害人类、执行危险命令或将自身保护置于人类安全之上。后来，阿西莫夫添加了第零定律来保护全人类。

机器人法何时首次发布？

机器人三定律在艾萨克·阿西莫夫 1942 年的短篇小说《Runaround》中得到普及。这个故事出现在《惊人的科幻小说》杂志上。它被认为是阿西莫夫后来的机器人世界的关键文本。

机器人第一定律是什么？

机器人第一定律本质上规定机器人不得伤害任何人。他也不能允许任何人因为不作为而受到伤害。它高于所有其他规则。

为什么机器人第二定律受到限制？

第二定律要求机器人服从人类。然而，这种服从仅适用于命令不违反第一定律的情况。因此，机器人不应执行危及人的命令。

机器人第三定律是什么意思？

第三定律允许机器人保护自己的存在。然而，这种自我保护只有在不违背保护人民或人类秩序的情况下才被允许。它是三个古典定律中最弱的一个。

什么是第零法则？

第零法则将全人类的保护置于个人的保护之上。意思是机器人不能伤害人类。从道德上讲，这是有问题的，因为它可能会为了所谓的更大利益而使个人处于不利地位。

阿西莫夫的机器人定律今天可以被编程到真正的人工智能中吗？

不直接。现代人工智能系统不像人类那样理解伤害、人性或责任等概念。您需要具体的目标、安全限制、测试、数据控制、监控和人工监督。

机器人法与欧盟人工智能法案有什么关系？

欧盟人工智能法案并未采用阿西莫夫定律。但他也解决了类似的基本问题：如何防止人工智能造成的损害？哪些系统风险特别大？谁必须控制、记录并承担责任？欧盟人工智能法案通过基于风险的法律框架回答了这些问题。

机器人法在今天仍然适用吗？

是的，但最重要的是作为一种心理模型。它们有助于以易于理解的方式解释机器人和人工智能中相互冲突的目标。然而，真正的系统需要技术标准、法律要求、人工监督和可验证的风险管理。

谁发明了机器人法？

机器人法则归功于艾萨克·阿西莫夫。他的编辑约翰·W·坎贝尔也在这个故事中扮演了一个角色。这些定律因阿西莫夫 1942 年的短篇小说《逃亡》而为人所知。

来源

Bewerte den Beitrag hier!
[Total: 0 Average: 0]
Nico Nuss [图像内容由人工智能生成]
Website

作者 Nico Nuss 自 2001 年起专注于移动计算和自动化软件领域。凭借丰富经验以及对未来技术的浓厚兴趣，他重点关注机器人技术与人工智能。

Weitere interessante Beiträge