伦理

国际人工智能伦理指南：标准、差异与实践

Nico Nuss 0
Internationales Expertengremium bewertet einen Roboter und KI-Risiken [图像内容由人工智能生成]


国际人工智能伦理准则旨在防止人工智能仅仅基于技术或经济标准进行开发。他们制定透明度、公平、数据保护、安全、人类控制和社会责任的规则。乍一看这听起来很抽象。然而，在实践中，这些原则会影响公司如何选择申请人、评估贷款、支持医疗诊断或控制自主机器。

最有影响力的框架包括联合国教科文组织的建议、欧盟的道德准则、经合组织的人工智能原则和 IEEE 的技术重点标准。他们追求相似的目标，但在范围、承诺和实施方面有所不同。与此同时，由于《欧洲人工智能法案》，情况发生了变化：自愿准则正在成为某些领域的具体法律义务。

核心要点

  • 国际人工智能伦理准则定义了人工智能开发和使用的共同价值观。
  • 反复出现的原则包括人工监督、透明度、公平、隐私、安全和问责制。
  • 联合国教科文组织的建议于 2021 年获得所有 193 个成员国的采纳，并形成了全球方向框架。
  • 2019 年欧盟道德准则描述了值得信赖的人工智能的七项要求。
  • OECD 的原则以政治和经济为导向，而 IEEE 和标准组织则更注重技术实施。
  • 道德准则通常是所谓的软法。 《人工智能法案》现在使个人要求具有约束力。
  • 公司不仅需要道德文件，还需要记录责任、风险评估、控制机制和持续监控。

人工智能伦理的国际准则是什么？

人工智能伦理国际准则主要是不具约束力的框架，确定了人工智能系统开发、训练、使用和控制所依据的社会、道德和人权原则。它们回答了无法通过纯粹技术检验解决的问题。一个系统可能在数学上是精确的，但仍然不公平。它可以满足高安全标准，但仍然会收集不必要的个人数据。同样，即使有关人员没有现实的机会反对某项决定，但从统计上看可能是可以理解的。

因此，人工智能伦理不仅仅涉及算法。它着眼于整个生命周期：

  • 系统要解决什么问题？
  • 谁从他的努力中受益？
  • 谁承担可能的不利或风险？
  • 使用什么数据？
  • 谁可以审查或更正决定？
  • 如何识别错误、歧视和滥用行为？
  • 如果发生损坏，谁承担责任？

您可以在主题区域机器人和人工智能伦理中找到有关社会、法律和技术边界问题的更多文章。

人工智能伦理、人工智能治理和人工智能合规性不是一回事

这些术语经常混合使用，但描述不同的级别。

<表>
<标题>

术语 中心问题 典型仪器


<正文>

人工智能伦理 什么是社会和道德上可接受的？ 价值观、原则、影响评估、受影响者的参与 人工智能治理 组织内部如何监管责任？ 角色、发布流程、控制委员会、文档、升级路径 人工智能合规性 必须遵守哪些法律和合同要求？ 人工智能法案分类、GDPR 测试、证据、审计、培训

公司可以正式依法行事，但仍然做出道德上有问题的决定。相反，听起来不错的道德准则并不能替代法律审查。因此，弹性人工智能治理将所有三个层面联系起来。

为什么人工智能需要国际道德规则？

人工智能系统很少只在一个国家开发和使用。训练数据可以来自多个州，模型在不同管辖区的服务器上运行，结果影响不同大陆的人们。仅靠国家规则只能在有限的范围内涵盖此类价值链。国际准则至少创建了一个通用词汇。透明度、人类监督、非歧视或问责制等术语出现在当今几乎所有主要框架中。这有利于政治谈判、技术标准化和公司内部标准的制定。然而，共同的词汇并不能解决相互冲突的目标。根据文化、法律体系和应用的不同，对公平的评估也不同。透明度也可以用不同的方式来理解：提及人工智能的使用是否足够，或者确切的决策过程是否必须是可解释的？正是在这些地方，一般性的价值观声明和实际可验证的规范之间的差异变得显而易见。

软法和硬法：人工智能伦理准则的约束力如何？

大多数国际准则属于所谓的软法。它们不是直接强制执行的法律，但可以产生相当大的影响。政府将其用于国家战略，公司将其用于内部政策，标准组织将其作为技术标准的起点。

另一方面，硬法包括具有约束力的法规，例如《通用数据保护法规》或《欧洲人工智能法规》。违规行为可能会导致监管措施、销售限制或罚款。

<表>
<标题>

功能 软法 硬法


<正文>

法律约束力 基本上是自愿的 法律强制 示例 联合国教科文组织建议、经合组织原则、自愿道德准则 人工智能法案、GDPR、产品安全法 控制 承诺、报告、认证、公众压力 当局、法院、市场监管 制裁 通常不会立即受到政府制裁 取决于法规、禁令、要求和罚款 优势 灵活且快速适应 法律确定性和可执行性 弱点 不具约束力的象征政治的危险 更高的测试、文档和实施工作

在实践中，出现了混合形式。自愿准则形成规范、行业标准、采购规则和合同。这些文书可以成为事实上的约束力，尽管它们本身并不是法律。

最重要的人工智能伦理国际准则

联合国教科文组织关于人工智能伦理的建议

联合国教科文组织的建议于 2021 年 11 月被所有 193 个成员国采纳。根据联合国教科文组织德国委员会的说法，这是第一个人工智能政治设计和监管的全球框架。该建议将人权与政治行动的具体领域联系起来。它不仅涉及数据保护或歧视，还涉及教育、科学、环境、健康、媒体、传播和社会参与。

主要原则包括：

  • 相称性和避免伤害
  • 安全和防止滥用
  • 公平和非歧视
  • 可持续发展
  • 隐私和数据保护
  • 人类监督和自决
  • 透明度和可解释性
  • 责任和问责
  • 意识和人工智能能力
  • 不同社会群体的参与

对可能后果的广泛看法尤其有价值。人工智能系统不应只在发生损坏后才进行检查。在引入风险之前，应通过道德影响评估使风险变得可见。这还包括某些应用程序是否应该使用的问题，尽管它们的技术可行性。

来源：德国联合国教科文组织委员会：人工智能伦理国际建议

欧盟值得信赖的人工智能伦理准则

欧盟的一个高级别专家组于2019年发布了可信赖人工智能的道德准则。在这个模型中，可信赖意味着：一个系统应该是合法的、道德的和技术上稳健的。

该指南列出了七项要求：

  1. 人类行动和监督的优先级
  2. 技术稳健性和安全性
  3. 隐私和数据受控处理
  4. 透明度和可追溯性
  5. 多元化、非歧视和公平
  6. 社会和生态福祉
  7. 责任

这些要求影响了欧洲关于人工智能法案的辩论。这些指导方针本身是自愿的。然而，人工智能法规以具有约束力的形式解决了几个主题，例如风险管理、文档、人工监督、数据质量、准确性、稳健性和透明度。

道德准则仍然具有现实意义。法律规定了最低要求。伦理审查进一步询问：应用程序是否具有社会意义？对工人、客户或弱势群体的影响是否合理？用途是否符合您自己的价值主张？

经合组织人工智能原则

经合组织于 2019 年通过了人工智能原则，并于 2024 年进行了修订。联邦数字和国家现代化部将其描述为国际数字政策中非约束性标准的开创性范例。这些原则主要针对政府、企业和创新政策。它们应该在推动技术进步的同时，不忽视人权、民主价值观和社会福祉。

关键思想包括：

  • 包容性增长和可持续福祉
  • 人权、民主价值观和公平
  • 有关 AI 系统的信息透明且易于理解
  • 整个生命周期的稳健性、安全性和保护
  • 相关参与者的责任

经合组织的原则对企业来说很有趣，因为它们将人工智能伦理与经济发展和国际合作结合起来。责任并不被视为创新的阻碍，而是被视为永久接受和可扩展应用的先决条件。

来源：BMDS：德国在经合组织人工智能原则方面的工作

IEEE 和技术上可行的人工智能伦理

电气和电子工程师协会正在通过道德一致性设计和 P7000 系列采取更具技术性的方法。道德价值观不仅应包含在使命宣言中，而且还应在系统开发过程中予以考虑。

主题范围从透明的自治系统到数据保护流程，从算法偏差到故障安全设计。通过这种方式，IEEE 尝试将抽象值转化为开发人员可以检查、记录并随后部分标准化的需求。

例如，DIN 和 DKE 关于人工智能伦理的联合白皮书描述了 IEEE 项目：

  • 系统设计过程中的道德问题
  • 自治系统的透明度
  • 数据保护流程
  • 算法偏差
  • 故障安全自主系统
  • 衡量人类福祉

该方法很实用，但有局限性。技术标准可以衡量流程是否已记录或模型是否已经过测试。你无法独自决定哪种社会价值观优先。这些决定需要民主、合法和公开的谈判。

来源：DIN/DKE：道德与人工智能白皮书

国际人工智能伦理准则比较

<表>
<标题>

框架 年 范围 焦点 责任 实际使用


<正文>

联合国教科文组织推荐 2021 193 个成员国 人权、可持续发展、社会后果 不立即绑定 政策战略和综合影响评估 欧盟道德准则 2019 欧盟及其他地区 值得信赖、合法且强大的人工智能 自愿框架 治理、审计和后续监管的基本依据 经合组织原则 2019 年，修订为 2024 年 成员国和合作伙伴国家 以人为本的创新和负责任的经济政策 软法 政治导向与国际商业实践 IEEE 方法 连续 技术、工业和研究 道德要求的技术实施 标准和自愿程序 系统设计、测试、文档和认证 欧盟人工智能法案 自2024年起逐步适用 影响欧盟的欧盟市场和体系 基于风险的监管 具有法律约束力 供应商、运营商、进口商和其他参与者的义务

该表显示：不存在一种全球性的人工智能伦理规范。这些框架是相辅相成的。教科文组织涵盖的社会和人权问题特别广泛。欧盟指南将值得信赖的人工智能分为七项要求。经合组织将责任与创新和经济政策结合起来。 IEEE、DIN 和 DKE 更关心可测量的技术标准。

共同核心：负责任的人工智能的八项原则

1. 人类保持控制

人们不能成为自动化决策的被动接受者。决策的后果越严重，人为控制就必须越有效。仅仅正式确认自动生成的建议的人还不是真正的主管。

有效的控制概念规定了谁可以干预、该人接收什么信息以及在什么条件下停止系统。 人形机器人造成的损害的责任一文涉及有关物理人工智能系统责任的信息。

2。决定必须是可以理解的

透明度从简单的信息开始：受影响的人应该能够认识到他们正在与人工智能交互或人工智能参与决策。对于敏感应用程序，仅此信息是不够的。

组织必须能够全面地解释：

  • 系统的用途是什么，
  • 使用哪些数据类别，
  • 存在哪些限制和已知错误，
  • 如何检查结果，
  • 受影响的人可以联系哪些人提出问题或投诉。

完全公开源代码通常既不必要也不充分。透明度必须帮助人们了解具体决策及其后果。

3。人工智能不得使现有歧视自动化

算法采用来自训练和应用数据的模式。如果这些数据包含社会不利因素，系统可以复制或强化它们。这适用于招聘、借贷、保险、面部识别和官方决策。

公平性检查不应仅关注平均命中率。相关的是错误是否更频繁地影响某些群体。还必须检查看似中性的变量是否充当敏感特征的代理。

4。数据保护始于数据收集之前

具有道德责任感的人工智能系统不会抢先收集技术上可用的所有内容。在规划过程中必须考虑目的限制、数据最小化和受控访问权限。

数据保护会议建议组织在使用前检查目的、法律依据、个人数据、自动决策、受影响者的权利以及开放系统和封闭系统之间的选择等。

这个问题在移动传感器系统中尤其明显。关于人形家庭机器人和数据保护的文章展示了摄像头、麦克风、空间地图和云处理带来的风险。

来源：数据保护大会：人工智能与数据保护指南

5. 系统必须稳健且安全

符合道德的人工智能还必须在现实条件下可靠运行。这包括不正确的输入、环境改变、尝试操纵、意外的用户操作以及对训练或操作数据的攻击。

因此，测试不应仅涵盖所需的正常情况。压力测试、极限测试、安全分析和明确的后备机制是必要的。联邦信息安全办公室为开发人员和组织提供有关人工智能攻击、风险和安全使用的信息。

来源：BSI：安全与人工智能

6. 责任必须落实到明确的主体和职责

“人工智能已经决定”不是一个可接受的责任分配。组织必须确定谁发布系统、谁控制数据质量、谁处理事件以及谁可以启动关闭。

制造商、运营商、专业部门和外部服务提供商之间不得忽视这一责任。合同应明确规定角色、数据流、审计权、更新义务和响应时间。

7。应审查社会和生态后果

人工智能系统不仅对个人用户产生直接影响。它们可以改变工作流程、改变权力关系、促进监控或引发高能源和资源消耗。因此，道德评估还询问哪些活动是自动化的、工人是否参与以及存在哪些替代方案。您可以在机器人取代工作：雇主可以做什么一文中找到有关就业法后果的背景信息。

8。受影响的人需要机会反对和投诉

透明的系统不仅解释其功能。它提供了一种报告错误和审查决策的方法。投诉应由可访问的机构处理，而不是由其他自动对话系统处理。

对于具有重大后果的应用，纠正必须是可行的。如果这条道路缺失，人类的控制仍然是一个没有效果的承诺。

人工智能伦理准则和人工智能法案有何关系？

《人工智能法案》并不取代国际道德准则。它将选定的原则转化为具有约束力的、基于风险的法律框架。健康、安全或基本权利可能面临的风险越大，义务就越严格。

欧洲人工智能法规于2024年8月1日生效，并将逐步实施：

  • 自 2025 年 2 月 2 日起：禁止某些 AI 实践以及足够的 AI 能力要求。
  • 自 2025 年 8 月 2 日起：通用人工智能模型和部分治理结构的法规。
  • 自 2026 年 8 月 2 日起：根据附件 III 规定的多项透明度义务、高风险人工智能规则以及其他基本要求。
  • 自 2027 年 8 月 2 日起：针对与受监管产品相关的某些高风险系统的附加规则。

对于公司来说，这意味着：自愿的人工智能代码是不够的。应根据预期用途、角色和风险类别对所使用的每个系统进行清查和评估。联邦网络局将风险分类、文件证据、透明度、安全管理和官方监控等列为核心要素。

关于人形机器人的道德和法律规则的文章展示了哪些要求在物理行动系统中发挥着作用。

来源：联邦网络局：人工智能监管的目标、目标群体和时间表

在公司内实施国际人工智能伦理准则

许多组织以“我们的人工智能是公平、透明且以人为本”之类的笼统短语开始。这是一个好的意图，但仍然不是一个控制。只有可验证的流程才能将价值观转化为生活实践。

第1步：盘点所有人工智能系统

创建中央人工智能注册表。这不仅包括自行开发的模型，还包括购买的软件、聊天机器人、分析工具、推荐功能和生成式人工智能服务。

至少必须记录以下内容：

  • 系统名称和提供商
  • 预期用途
  • 受影响的部门和人群
  • 处理的数据类型
  • 负责的内部机构
  • 接口和外部服务提供商
  • 介绍日期和上次审核日期

第 2 步：具体描述目的和好处

“提高效率”这个目的太不明确了。描述系统支持什么活动、正在解决什么问题以及如何衡量成功。

反问题也属于文档：可以通过侵入性较小的程序来实现目标吗？这项检查可以防止人工智能仅仅因为可用而被使用。

第 3 步：分别评估法律和道德风险

法律审查除其他外，还审查《人工智能法案》、数据保护、劳动法、版权、产品安全和合同要求。伦理审查考虑了可能的后果，即使这些后果在形式上是合法的，但仍然可能存在问题。

这些包括：

  • 个别群体的劣势
  • 人类失去选择自由
  • 过度监视
  • 操纵或不良行为控制
  • 难以逆转的错误决定
  • 依赖单一提供商

第 4 步：尽早让受影响的人参与

开发人员和管理者从与工人、客户或公民不同的角度看待系统。用户组可以识别技术测试中未出现的风险。

根据应用情况，可以举办研讨会、试点阶段、工作委员会参与、用户调查或独立专家报告。这种参与对于儿童、需要照顾的人或其他特别弱势群体的申请尤其重要。

第 5 步：检查数据和可能的偏差

记录数据的来源、及时性、质量和代表性。不仅要检查训练，还要检查后期运行中的真实输入。模型可能在测试中显得公平，但在引入后会因为用户群体、数据源或一般条件的变化而产生扭曲的结果。因此，公平并不是清单上的一次性勾号。

第 6 步：使人工监督切实可行

确定哪些决策是自动准备、推荐或完全执行的。指定可以审查和纠正结果的人员。

为了让人类监督发挥作用，这些人需要：

  • 足够的专业和人工智能能力
  • 获取相关信息
  • 有足够的时间参加考试
  • 反对系统的权力
  • 免受定期确认人工智能建议的压力

第 7 步：定义测试、发布和停止标准

在进行生产性使用之前，每个相关系统都需要记录最低要求。这些包括准确性、错误率、稳健性、隐私、公平性和安全性。

还定义明确的停止标准。如果发生严重错误、某些群体明显处于不利地位，或者提供商没有及时修复安全漏洞，则应暂停系统。

第 8 步：实现透明度和投诉

受影响的人应该收到有关目的、功能和联系选项的易于理解的信息。内部团队需要更详细的技术和组织文档。

投诉流程应指定：

  1. 如何报告错误？
  2. 谁检查报告？
  3. 我们会在什么期限内给出答复？
  4. 如何纠正错误的决定？
  5. 事件何时会升级为数据保护、合规或管理？

第 9 步：实施后监控系统

人工智能正在通过新数据、模型更新、界面变化和不同的使用方式而发生变化。系统一旦发布，就不会自动保持可信状态。

定期监控应捕获性能偏差、投诉、安全事件、异常费用和数据质量变化。主要更新需要新的风险和发布审查。

道德影响评估：使用人工智能之前的实用测试题

道德影响评估是对技术和法律审查的补充。它应该在实施之前开始，并在发生重大变化时重复。以下问题适合作为内部测试网格：

  1. 人工智能解决什么具体问题？
  2. 谁从该应用程序中受益匪浅？
  3. 哪些人会遭受不利影响？
  4. 可能的错误决策有多困难？
  5. 受影响的人能否认识、理解并对决定提出异议？
  6. 特别脆弱的群体是否受到影响？
  7. 使用的数据是否合适、最新且具有足够的代表性？
  8. 测试了哪些歧视效应？
  9. 哪些数据会离开公司或欧盟？
  10. 谁可以停止系统或纠正结果？
  11. 已经研究了哪些没有人工智能的替代方案？
  12. 实施后如何监控错误和长期后果？

对于每种风险，应评估发生的概率、损害的严重程度、受影响的人数、可检测性和可逆性。如果罕见事件对人们造成严重伤害或难以纠正，那么它仍然可能很严重。

实用规则：人工智能决策对权利、安全、健康或职业机会的影响越大，组织对自动结果的依赖就越少。

谁对公司内的人工智能伦理负责？

人工智能伦理不应仅由 IT 部门负责。技术团队可以评估模型的质量和安全特性，但无法涵盖所有法律、社会和组织影响。

<表>
<标题>

角色 典型职责


<正文>

管理 战略、风险偏好、资源和最终责任结构 专科部门 目的、效益、流程整合和技术成果审查 IT 和开发 架构、测试、安全性、日志记录和技术限制 数据保护 法律依据、数据最小化、受影响者的权利和影响评估 合规与法律 人工智能法案分类、其他法律领域、合同和证据 信息安全 攻击面、访问、事件和保护措施 工作委员会或员工代表 对工人、控制和工作设计的影响 道德或人工智能委员会 对有争议或特别重要的应用进行跨学科评估

通过劳动和社会管理的自我约束准则，BMAS 展示了如何在组织中扎根以人为本、非歧视性和参与性规则。

来源：BMAS：负责任地使用人工智能指南

人工智能伦理的典型目标冲突

准确性与可解释性

复杂的模型可以在某些任务中提供更好的结果，而更简单的模型更容易理解。最高的计算精度并不一定是最佳选择。在做出重大决策的情况下，如果结果可以验证且具有争议性，那么稍微降低绩效可能是合理的。

个性化与数据保护

系统接收到的有关个人的数据越多，调整报价或预测的准确度就越高。与此同时，监视、滥用和安全风险也在增加。负责任的解决方案将数据限制在必要的范围内，并提供真正的选择。

自动化与人类自决

自动推荐可以节省时间。然而，它们可能会导致人们越来越少地质疑自己的评估。当工作人员感到有压力要求证明偏离系统建议的合理性时，这种所谓的自动化偏差尤其危险。

安全和商业秘密的透明度

全面披露可能涉及安全漏洞或专有公司信息。然而，这并不能证明一揽子保密是合理的。透明度可以分阶段实现：受影响者可以理解的信息、内部审计员的详细文件以及当局或审计员受保护的技术文件。

创新与预防

过早的限制可能会阻止有用的应用程序。另一方面，不受控制的介绍可能会伤害人们并永久破坏信任。试点项目、有限的测试组、现实世界的实验室和逐步发布创造了一个中间立场。

规范和标准发挥什么作用？

如果没有人能够检查道德原则是否得到遵守，那么道德原则就仍然无效。规范和标准将一般要求转化为流程、测量和技术证据。第二个德国人工智能标准化路线图是在来自商业、科学、民间社会和政界的 570 多名专家的参与下制定的。它包含六项总体行动建议和 100 多项已确定的标准化需求。

涵盖的领域包括：

  • 基础知识和术语
  • 道德和负责任的人工智能
  • 质量和合格评定
  • 信息技术安全
  • 工业自动化
  • 移动性
  • 医学
  • 社会技术系统
  • 金融服务
  • 环境与能源

例如，标准可以指定如何记录风险、测试模型或评估数据质量。它们不能取代社会价值观的政治决定。来源：DIN：德国人工智能标准化路线图

国际人工智能伦理准则的局限性和批评

许多原则仍然过于抽象

公平、信任或人为控制等术语听起来很明确，但也允许有不同的解释。如果没有可衡量的标准，任何组织都可以声称自己的行为负责任。

伦理洗白不能取代实际改进

当公司公开承诺道德但没有在内部规定责任、审查程序或后果时，就会发生“道德清洗”。没有预算、控制权和升级渠道的使命宣言首先就是沟通。

全球权力差异不会自动解决

许多国家和人群提供数据或受到人工智能影响，但对系统的发展影响不大。教科文组织的建议试图通过国际参与和关注不同经济条件的国家更充分地纳入这一观点。

原则可能会相互冲突

更大的透明度可能会影响隐私或安全。更高的准确性可能需要更难以解释的模型。因此，道德品质并不反映在公司是否使用尽可能多的关键词上。它反映在如何记录和论证公开冲突的目标。

控制不会随着市场推出而结束

模型、数据和使用环境发生变化。由于更新、新的应用领域或用户组的变化，原本合理的系统可能会出现问题。国际准则只有在组织永久监控其系统时才会产生影响。

结论：人工智能伦理从指导原则转变为可验证的过程

人工智能伦理国际准则为超越国界、行业和社会领域的技术创建了一个共同框架。联合国教科文组织、欧盟、经济合作与发展组织和电气和电子工程师学会有不同的优先事项，但在关键价值观上达成一致：人工智能应该为人类服务、保持可理解性、不会系统性地使任何人处于不利地位并安全运行。

然而，纯粹自愿声明意向的时间已经不多了。 《人工智能法案》提出了几项具有法律效力的要求。公司必须记录其人工智能系统、对风险进行分类、确定责任并培训员工。

质量的真正差异出现在日常生活中。值得信赖的人工智能并不体现在华丽的代码中，而是体现在记录的测试、可访问的投诉渠道、人为干预选项以及关闭有问题的系统的意愿中。人工智能当前发展的概述显示了技术可能性的变化有多快。对于自主机器的社会分类，还值得一看艾萨克·阿西莫夫对机器人定律的现代解释。

有关人工智能伦理国际准则的常见问题

人工智能伦理国际准则具有法律约束力吗？

大多数国际人工智能伦理准则不具有直接法律约束力，被视为软法。然而，它们会影响法律、技术标准、合同和公司内部政策。 《欧洲人工智能法案》对某些人工智能系统提出了具有约束力的个人要求。

哪个国际组织拥有最全面的人工智能伦理准则？

2021 年教科文组织建议书是最全面的全球框架之一。它已被联合国教科文组织所有 193 个成员国采纳，涵盖人权、数据保护、公平、可持续性、教育、科学和社会参与。它的优势在于其全球政治影响力。

值得信赖的人工智能有哪些七项要求？

欧盟指南提到了人类监督、技术稳健性、数据保护和数据治理、透明度、多样性和非歧视、社会和环境福祉以及问责制。这些要求作为开发和使用的框架。 《人工智能法案》中还包含几个主题。

人工智能伦理和人工智能法案有什么区别？

人工智能伦理描述了负责任系统的社会和道德原则。 《人工智能法案》是一项具有约束力的欧洲法规，包含基于风险的义务和可能的制裁。系统可以遵守人工智能法案，但仍需要进一步的道德审查。

企业如何在实践中践行人工智能伦理规范？

公司应维护人工智能注册、记录预期用途、检查法律和道德风险并建立明确的责任。此外，还有安全和歧视、人为控制选项、投诉渠道和持续监控的测试。仅有一般道德准则是不够的。

什么是道德影响评估？

道德影响评估是在使用人工智能系统之前和使用过程中进行的结构化影响评估。审查了对人权、公平、自决、数据保护、安全和社会参与可能产生的影响。如果发生重大变化，应记录结果并重新评估。

来源和更多信息

  • 德国联合国教科文组织委员会：关于人工智能伦理的建议
  • 联邦网络局：《人工智能法案》的目标、目标群体和时间表
  • 联邦政府：《欧洲人工智能法案》
  • BMDS：经合组织人工智能原则
  • 数据保护会议：人工智能和数据保护指南
  • 联邦信息安全办公室：人工智能
  • DIN：德国人工智能标准化路线图
  • DIN/DKE：白皮书道德与人工智能
  • 平台学习系统：IT 安全、数据保护、法律和道德
  • BMAS：负责任的人工智能使用指南


““

从国际道德到中国实施

国际原则不能取代中国法律。治理可能需要结合《个人信息保护法》、《数据安全法》、《网络安全法》、行业要求和《人工智能生成服务暂行办法》。除了内部道德审查之外，备案或安全评估规则涵盖的提供商还必须履行这些义务。

Bewerte den Beitrag hier!
[Total: 0 Average: 0]
Nico Nuss [图像内容由人工智能生成]
Website

作者 Nico Nuss 自 2001 年起专注于移动计算和自动化软件领域。凭借丰富经验以及对未来技术的浓厚兴趣，他重点关注机器人技术与人工智能。

Weitere interessante Beiträge