Lignes directrices internationales sur l’éthique de l’IA : normes, différences et mise en œuvre

Les lignes directrices internationales en matière d’éthique de l’IA visent à empêcher que l’intelligence artificielle soit développée uniquement sur la base de normes techniques ou économiques. Ils formulent des règles en matière de transparence, d’équité, de protection des données, de sécurité, de contrôle humain et de responsabilité sociale. Cela semble abstrait au premier abord. Dans la pratique, cependant, ces principes influencent la manière dont les entreprises sélectionnent les candidats, évaluent les prêts, soutiennent le diagnostic médical ou contrôlent les machines autonomes.

Les cadres les plus influents comprennent les recommandations de l’UNESCO, les lignes directrices éthiques de l’Union européenne, les principes d’IA de l’OCDE et les normes techniques de l’IEEE. Ils poursuivent des objectifs similaires, mais diffèrent en termes de portée, d’engagement et de mise en œuvre. Dans le même temps, la situation a changé avec le European AI Act : les lignes directrices volontaires deviennent des obligations juridiques concrètes dans certains domaines.

Points essentiels en bref

Les lignes directrices internationales en matière d’éthique en matière d’IA définissent des valeurs communes pour le développement et l’utilisation de l’intelligence artificielle.
Les principes récurrents incluent la surveillance humaine, la transparence, l’équité, la confidentialité, la sécurité et la responsabilité.
La recommandation de l’UNESCO a été adoptée par l’ensemble des 193 États membres en 2021 et constitue un cadre d’orientation mondial.
Les lignes directrices éthiques de l’UE 2019 décrivent sept exigences pour une IA digne de confiance.
Les principes de l’OCDE sont orientés politiquement et économiquement, tandis que l’IEEE et les organismes de normalisation se concentrent davantage sur la mise en œuvre technique.
Les directives éthiques sont généralement ce que l’on appelle le soft law. La loi sur l’IA rend désormais les exigences individuelles contraignantes.
Les entreprises ont non seulement besoin d’un document éthique, mais également de responsabilités documentées, d’évaluations des risques, de mécanismes de contrôle et d’une surveillance continue.

Quelles sont les lignes directrices internationales en matière d’éthique de l’IA ?

Les lignes directrices internationales sur l’éthique de l’IA sont pour la plupart des cadres non contraignants qui déterminent les principes sociaux, moraux et relatifs aux droits de l’homme selon lesquels les systèmes d’IA doivent être développés, formés, utilisés et contrôlés.Ils répondent à des questions qui ne peuvent être résolues par un examen purement technique. Un système peut être mathématiquement précis tout en étant injuste. Il peut répondre à des normes de sécurité élevées tout en collectant des quantités inutiles de données personnelles. De même, une décision peut paraître statistiquement compréhensible même si la personne concernée n’a aucune possibilité réaliste de s’y opposer.

L’éthique de l’IA ne concerne donc pas uniquement l’algorithme. Il examine l’ensemble du cycle de vie :

Quel problème le système est-il censé résoudre ?
À qui profitent ses efforts ?
Qui supporte les éventuels inconvénients ou risques ?
Quelles données sont utilisées ?
Qui est autorisé à réviser ou à corriger les décisions ?
Comment les erreurs, la discrimination et les abus sont-ils reconnus ?
Qui assume la responsabilité en cas de dommage ?

Vous trouverez d’autres articles sur des questions sociales, juridiques et techniques limites dans le domaine thématique Robotique et éthique de l’IA.

L’éthique de l’IA, la gouvernance de l’IA et la conformité de l’IA ne sont pas la même chose

Les termes sont souvent mélangés, mais décrivent des niveaux différents.

Durée Question centrale Instruments typiques

Éthique de l’IA Qu’est-ce qui est socialement et moralement acceptable ? Valeurs, principes, évaluation d’impact, participation des personnes concernées Gouvernance de l’IA Comment la responsabilité est-elle réglementée au sein d’une organisation ? Rôles, processus de publication, comités de contrôle, documentation, voies d’escalade Conformité de l’IA Quelles exigences légales et contractuelles doivent être respectées ? Classification AI Act, tests RGPD, preuves, audits, formation

Une entreprise peut agir formellement conformément à la loi tout en prenant des décisions éthiquement discutables. À l’inverse, un bon code d’éthique ne remplace pas un contrôle juridique. Une gouvernance résiliente de l’IA relie donc les trois niveaux.

Pourquoi l’IA a-t-elle besoin de règles d’éthique internationales ?

Les systèmes d’IA sont rarement développés et utilisés dans un seul pays. Les données de formation peuvent provenir de plusieurs États, le modèle s’exécute sur des serveurs situés dans une juridiction différente et les résultats ont un impact sur les personnes de différents continents. Les règles nationales ne couvrent à elles seules ces chaînes de valeur que dans une mesure limitée. Les directives internationales créent au moins un vocabulaire commun. Des termes tels que transparence, contrôle humain, non-discrimination ou responsabilité apparaissent aujourd’hui dans presque tous les principaux cadres. Cela facilite les négociations politiques, la normalisation technique et le développement de normes internes à l’entreprise.Toutefois, un vocabulaire commun ne résout pas les objectifs contradictoires. Ce qui est considéré comme équitable peut être évalué différemment selon la culture, le système juridique et l’application. La transparence peut également être comprise de différentes manières : une référence à l’utilisation de l’IA est-elle suffisante ou le processus décisionnel exact doit-il être explicable ? C’est précisément là que la différence entre une déclaration générale de valeurs et une spécification pratiquement vérifiable apparaît clairement.

Droit doux et droit dur : dans quelle mesure les lignes directrices en matière d’éthique de l’IA sont-elles contraignantes ?

La plupart des directives internationales appartiennent à ce que l’on appelle le soft law. Ce ne sont pas des lois directement applicables, mais elles peuvent avoir une influence considérable. Les gouvernements les utilisent pour leurs stratégies nationales, les entreprises pour leurs politiques internes et les organismes de normalisation comme point de départ pour les normes techniques.

Le Hard Law, quant à lui, comprend des réglementations contraignantes telles que le Règlement général sur la protection des données ou le Règlement européen sur l’IA. Les violations peuvent entraîner des mesures de surveillance, des restrictions de vente ou des amendes.

Fonctionnalité Droit doux Droit difficile

Contraignant juridique Essentiellement volontaire Obligatoire par la loi Exemples Recommandation de l’UNESCO, principes de l’OCDE, codes d’éthique volontaires Loi sur l’IA, RGPD, loi sur la sécurité des produits Contrôle Engagement, rapports, certifications, pression publique Autorités, tribunaux, surveillance du marché Sanctions Habituellement, aucune sanction gouvernementale immédiate En fonction de la réglementation, des interdictions, des exigences et des amendes Avantage Flexible et rapidement adaptable Sécurité juridique et force exécutoire Faiblesse Danger d’une politique symbolique non contraignante Des efforts accrus en matière de tests, de documentation et de mise en œuvre

En pratique, une forme mixte apparaît. Les directives volontaires façonnent les normes, les normes industrielles, les règles de passation des marchés publics et les contrats. Ces instruments peuvent devenir de facto contraignants même s’ils n’étaient pas eux-mêmes des lois.

Les lignes directrices internationales les plus importantes en matière d’éthique de l’IA

Recommandation de l’UNESCO sur l’éthique de l’intelligence artificielle

La recommandation de l’UNESCO a été adoptée par l’ensemble des 193 États membres en novembre 2021. Selon la Commission allemande pour l’UNESCO, il s’agit du premier cadre mondial pour la conception politique et la réglementation de l’intelligence artificielle.La recommandation relie les droits de l’homme à des domaines concrets d’action politique. Il traite non seulement de la protection des données ou de la discrimination, mais aussi de l’éducation, de la science, de l’environnement, de la santé, des médias, de la communication et de la participation sociale.

Les principes clés comprennent :

Proportionnalité et évitement des préjudices
Sécurité et protection contre les utilisations abusives
Équité et non-discrimination
Durabilité
Confidentialité et protection des données
supervision humaine et autodétermination
Transparence et explicabilité
Responsabilité et redevabilité
Conscience et compétence en IA
Participation de différents groupes sociaux

La vision globale des conséquences possibles est particulièrement précieuse. Un système d’IA ne doit pas être vérifié uniquement après qu’un dommage soit survenu. Les risques doivent être rendus visibles avant leur introduction au moyen d’une évaluation d’impact éthique. Cela inclut également la question de savoir si certaines applications doivent être utilisées malgré leur faisabilité technique.

Source : Commission allemande de l’UNESCO : Recommandation internationale sur l’éthique de l’intelligence artificielle

Lignes directrices éthiques de l’UE pour une IA digne de confiance

Un groupe d’experts de haut niveau de l’Union européenne a publié en 2019 des lignes directrices éthiques pour une IA digne de confiance. Dans ce modèle, digne de confiance signifie : un système doit être juridique, éthique et techniquement robuste.

Les lignes directrices énumèrent sept exigences :

Priorité de l’action et de la supervision humaines
robustesse technique et sécurité
Confidentialité et traitement contrôlé des données
Transparence et traçabilité
Diversité, non-discrimination et équité
bien-être social et écologique
Responsabilité

Ces exigences ont influencé le débat européen sur l’IA Act. Les lignes directrices elles-mêmes étaient volontaires. Cependant, le règlement sur l’IA aborde plusieurs sujets sous une forme contraignante, tels que la gestion des risques, la documentation, la supervision humaine, la qualité, l’exactitude, la robustesse et la transparence des données.

Les lignes directrices éthiques restent toujours d’actualité. Une loi fixe des exigences minimales. L’examen éthique pose en outre les questions suivantes : une candidature est-elle socialement raisonnable ? Les effets sur les travailleurs, les clients ou les groupes vulnérables sont-ils justifiables ? L’utilisation correspond-elle à votre propre proposition de valeur ?

Principes de l’OCDE sur l’intelligence artificielle

L’OCDE a adopté ses principes en matière d’IA en 2019 et les a révisés en 2024. Le ministère fédéral du Numérique et de la Modernisation de l’État les décrit comme un exemple révolutionnaire de normes non contraignantes en matière de politique numérique internationale.Les principes s’adressent fortement aux gouvernements, aux entreprises et à la politique d’innovation. Ils devraient permettre le progrès technologique sans perdre de vue les droits de l’homme, les valeurs démocratiques et le bien-être social.

Les idées clés comprennent :

croissance inclusive et bien-être durable
Droits de l’homme, valeurs démocratiques et équité
Transparence et informations compréhensibles sur les systèmes d’IA
Robustesse, sécurité et protection sur l’ensemble du cycle de vie
Responsabilité des acteurs impliqués

Les principes de l’OCDE sont intéressants pour les entreprises car ils combinent l’éthique de l’IA avec le développement économique et la coopération internationale. La responsabilité n’est pas considérée comme un frein à l’innovation, mais plutôt comme une condition préalable à des applications durablement acceptées et évolutives.

Source : BMDS : travaux de l’Allemagne sur les principes de l’OCDE sur l’intelligence artificielle

IEEE et éthique de l’IA techniquement réalisable

L’Institute of Electrical and Electronics Engineers adopte une approche plus technique avec Ethically Aligned Design et la série P7000. Les valeurs éthiques ne doivent pas seulement être incluses dans un énoncé de mission, mais doivent également être prises en compte lors du développement du système.

Les sujets vont des systèmes autonomes transparents aux processus de protection des données et aux biais algorithmiques en passant par les conceptions à sécurité intégrée. De cette manière, l’IEEE tente de traduire des valeurs abstraites en exigences que les développeurs peuvent vérifier, documenter et ensuite normaliser partiellement.

Par exemple, le livre blanc conjoint du DIN et du DKE sur l’éthique de l’intelligence artificielle décrit les projets de l’IEEE sur :

Questions éthiques lors de la conception du système
Transparence des systèmes autonomes
Processus de protection des données
biais algorithmique
Systèmes autonomes à sécurité intégrée
Mesures du bien-être humain

L’approche est pratique, mais présente des limites. Les normes techniques peuvent mesurer si un processus a été documenté ou si un modèle a été testé. Vous ne pouvez pas déterminer seul quelles valeurs sociales prédominent. De telles décisions nécessitent des négociations démocratiques, juridiques et publiques.

Source : DIN/DKE : Livre blanc sur l’éthique et l’intelligence artificielle

Comparaison des lignes directrices internationales en matière d’éthique de l’IA

Cadre

année

Plage Concentration Responsabilité Utilisation pratique

Recommandation de l’UNESCO 2021 193 États membres Droits de l’homme, durabilité, conséquences sociales Pas immédiatement contraignant Stratégies politiques et évaluations d’impact complètes Lignes directrices éthiques de l’UE 2019 Union européenne et au-delà IA fiable, légitime et robuste Cadre volontaire Base de base pour la gouvernance, l’audit et la réglementation ultérieure Principes de l’OCDE 2019, révisé 2024 États membres et partenaires Innovation centrée sur les personnes et politique économique responsable Droit doux Orientation politique et pratique commerciale internationale Approches IEEE Continu Technologie, industrie et recherche Mise en œuvre technique des exigences éthiques Normes et procédures volontaires Conception, tests, documentation et certification du système Loi de l’UE sur l’IA Applicable progressivement depuis 2024 Marché de l’UE et systèmes affectant l’UE Réglementation basée sur les risques Légalement contraignant Obligations pour les fournisseurs, opérateurs, importateurs et autres acteurs

Le tableau montre : Il n’existe pas d’éthique mondiale unique en matière d’IA. Les cadres se complètent. L’UNESCO couvre les questions sociales et de droits de l’homme de manière particulièrement large. Les lignes directrices de l’UE structurent une IA digne de confiance en sept exigences. L’OCDE allie responsabilité, innovation et politique économique. IEEE, DIN et DKE se préoccupent davantage de critères techniques mesurables.

Le tronc commun : huit principes d’une IA responsable

1. L’homme garde le contrôle

Les gens ne doivent pas devenir les destinataires passifs de décisions automatisées. Plus les conséquences d’une décision sont graves, plus le contrôle humain doit être efficace. Une personne qui ne fait que confirmer formellement une suggestion générée automatiquement n’est pas encore un véritable superviseur.

Un concept de contrôle efficace détermine qui est autorisé à intervenir, quelles informations cette personne reçoit et dans quelles conditions un système est arrêté. L’article Responsabilité pour les dommages causés par les robots humanoïdes traite des informations sur la responsabilité des systèmes physiques d’IA.

2. Les décisions doivent être compréhensibles

La transparence commence par des informations simples : les personnes concernées doivent pouvoir reconnaître qu’elles interagissent avec une IA ou qu’une IA est impliquée dans une décision. Pour les applications sensibles, ces informations seules ne suffisent pas.

Les organisations doivent être capables d’expliquer de manière compréhensible :

à quoi sert le système ?
quelles catégories de données sont utilisées
quelles sont les limitations et les erreurs connues
comment les résultats sont vérifiés
Qui les personnes concernées peuvent contacter en cas de questions ou de plaintes.

La divulgation complète du code source n’est généralement ni nécessaire ni suffisante. La transparence doit aider les gens à comprendre la décision spécifique et ses conséquences.

3. L’IA ne doit pas automatiser la discrimination existante

Les algorithmes adoptent des modèles à partir de leurs données de formation et d’application. Si ces données contiennent des désavantages sociaux, le système peut les reproduire ou les renforcer. Cela s’applique au recrutement, aux prêts, aux assurances, à la reconnaissance faciale et aux décisions officielles.

Une vérification de l’équité ne doit pas uniquement porter sur le taux de réussite moyen. Ce qui importe est de savoir si les erreurs affectent plus souvent certains groupes. Il faut également vérifier si des variables apparemment neutres agissent comme des indicateurs de caractéristiques sensibles.

4. La protection des données commence avant la collecte des données.

Un système d’IA éthiquement responsable ne collecte pas de manière préventive tout ce qui est techniquement disponible. La limitation de la finalité, la minimisation des données et les droits d’accès contrôlés doivent être pris en compte lors de la planification.

La Conférence sur la protection des données recommande aux organisations de vérifier, entre autres, avant utilisation, la finalité, la base juridique, les données personnelles, les décisions automatisées, les droits des personnes concernées et le choix entre les systèmes ouverts et fermés.

Ce problème est particulièrement évident dans les systèmes de capteurs mobiles. L’article sur les robots domestiques humanoïdes et protection des données montre les risques posés par les caméras, les microphones, les cartes spatiales et le traitement du cloud.

Source : Conférence sur la protection des données : Guide sur l’intelligence artificielle et la protection des données

5. Les systèmes doivent être robustes et sécurisés

L’IA éthique doit également fonctionner de manière fiable dans des conditions réalistes. Cela inclut les saisies incorrectes, les environnements modifiés, les tentatives de manipulation, les actions inattendues des utilisateurs et les attaques contre les données de formation ou opérationnelles.

Les tests ne doivent donc pas couvrir uniquement le cas normal souhaité. Des tests de résistance, des tests de limites, des analyses de sécurité et des mécanismes de repli clairs sont nécessaires. L’Office fédéral de la sécurité de l’information informe les développeurs et les organisations sur les attaques, les risques et l’utilisation sûre de l’IA.

Source : BSI : Sécurité et intelligence artificielle

6. La responsabilité exige des responsables clairement identifiés

« L’IA a décidé » n’est pas une attribution de responsabilité acceptable. Les organisations doivent déterminer qui libère le système, qui contrôle la qualité des données, qui gère les incidents et qui peut déclencher des arrêts.

Cette responsabilité ne doit pas être perdue entre le fabricant, l’exploitant, le service spécialisé et le prestataire de services externe. Les contrats doivent clairement réglementer les rôles, les flux de données, les droits d’audit, les obligations de mise à jour et les délais de réponse.

7. Les conséquences sociales et écologiques doivent être examinées

Les systèmes d’IA n’ont pas seulement un impact direct sur les utilisateurs individuels. Ils peuvent modifier les processus de travail, modifier les relations de pouvoir, faciliter la surveillance ou déclencher une consommation élevée d’énergie et de ressources. Une évaluation éthique demande donc également quelles activités sont automatisées, si des travailleurs ont été impliqués et quelles alternatives existent. Vous trouverez des informations générales sur les conséquences en matière de droit du travail dans l’article Les robots remplacent les emplois : ce que les employeurs sont autorisés à faire.

8. Les personnes concernées doivent disposer de voies d’opposition et de recours

Un système transparent n’explique pas seulement sa fonction. Il permet de signaler les erreurs et de faire réviser les décisions. Les plaintes doivent être traitées par une autorité accessible et non par un autre système de dialogue automatisé.

Pour les applications ayant des conséquences importantes, la correction doit être pratiquement possible. Si cette voie manque, le contrôle humain reste une promesse sans effet.

Quel est le lien entre les lignes directrices en matière d’éthique de l’IA et l’AI Act ?

La loi sur l’IA ne remplace pas les directives éthiques internationales. Il traduit les principes sélectionnés en un cadre juridique contraignant fondé sur les risques. Plus le risque potentiel pour la santé, la sécurité ou les droits fondamentaux est grand, plus les obligations sont strictes.

Le règlement européen sur l’IA est entré en vigueur le 1er août 2024 et sera appliqué progressivement :

Depuis le 2 février 2025 : interdiction de certaines pratiques d’IA et exigences relatives à des compétences suffisantes en IA.
Depuis le 2 août 2025 : réglementation relative aux modèles d’IA à usage général et à certaines parties de la structure de gouvernance.
À partir du 2 août 2026 : de nombreuses obligations de transparence, des règles pour l’IA à haut risque selon l’annexe III et d’autres exigences essentielles.
À partir du 2 août 2027 : règles supplémentaires pour certains systèmes à haut risque liés aux produits réglementés.

Pour les entreprises, cela signifie : un code IA volontaire ne suffit pas. Chaque système utilisé doit être inventorié et évalué en fonction de son utilisation prévue, de son rôle et de sa classe de risque. L’Agence fédérale des réseaux cite, entre autres, la catégorisation des risques, les preuves documentaires, la transparence, la gestion de la sécurité et la surveillance officielle comme éléments centraux.

L’article sur les règles éthiques et juridiques applicables aux robots humanoïdes montre quelles exigences jouent un rôle dans les systèmes agissant physiquement.

Source : Agence fédérale des réseaux : objectifs, groupes cibles et calendrier de la réglementation sur l’IA

Mettre en œuvre les directives internationales d’éthique de l’IA dans l’entreprise

De nombreuses organisations commencent par une phrase générale telle que « Notre IA est juste, transparente et centrée sur l’humain ». C’est une bonne intention, mais ce n’est toujours pas un contrôle. Seuls des processus vérifiables transforment les valeurs en pratiques vécues.

Étape 1 : Capturez tous les systèmes d’IA

Créez un registre central de l’IA. Cela inclut non seulement les modèles auto-développés, mais également les logiciels achetés, les chatbots, les outils d’analyse, les fonctions de recommandation et les services d’IA générative.

Les éléments suivants doivent être documentés au moins :

Nom et fournisseur du système
Utilisation prévue
Départements et groupes de personnes concernés
Types de données traitées
organisme interne responsable
Interfaces et prestataires de services externes
Date d’introduction et dernier examen

Étape 2 : Décrire spécifiquement l’objectif et les avantages

« Augmenter l’efficacité » est un objectif trop imprécis. Décrivez quelle activité le système prend en charge, quel problème est résolu et comment le succès sera mesuré.

La contre-question mérite également sa place dans la documentation : l’objectif peut-il être atteint avec une procédure moins intrusive ? Cette vérification empêche l’utilisation de l’IA simplement parce qu’elle est disponible.

Étape 3 : Évaluer séparément les risques juridiques et éthiques

L’examen juridique examine, entre autres, la loi sur l’IA, la protection des données, le droit du travail, le droit d’auteur, la sécurité des produits et les exigences contractuelles. L’examen éthique considère les conséquences possibles qui peuvent rester problématiques même si elles sont formellement légales.

Ceux-ci incluent :

Inconvénient des groupes individuels
Perte de la liberté de choix humaine
surveillance excessive
Manipulation ou contrôle des comportements indésirables
De mauvaises décisions difficiles à annuler
Dépendance à l’égard d’un seul fournisseur

Étape 4 : Impliquer les personnes concernées dès le début

Les développeurs et les gestionnaires voient un système sous un angle différent de celui des travailleurs, des clients ou des citoyens. Les groupes d’utilisateurs peuvent identifier les risques qui n’apparaissent pas dans un test technique.

Selon l’application, des ateliers, des phases pilotes, des participations au comité d’entreprise, des enquêtes auprès des utilisateurs ou des rapports d’experts indépendants sont disponibles. Cette implication est particulièrement importante dans les demandes concernant des enfants, des personnes nécessitant des soins ou d’autres groupes particulièrement vulnérables.

Étape 5 : Vérifier les données et les biais possibles

Documenter l’origine, l’actualité, la qualité et la représentativité des données. Vérifiez non seulement la formation, mais également les apports réels lors d’une exploitation ultérieure. Un modèle peut paraître juste lors des tests et fournir des résultats faussés après son introduction en raison de changements dans les groupes d’utilisateurs, les sources de données ou les conditions générales. L’équité n’est donc pas une simple coche sur une liste de contrôle.

Étape 6 : Rendre la supervision humaine pratique

Déterminez quelles décisions sont préparées, recommandées ou entièrement exécutées automatiquement. Désignez des personnes qui peuvent examiner et corriger les résultats.

Pour que la supervision humaine fonctionne, ces personnes ont besoin de :

compétences suffisantes en matière de spécialistes et d’IA
Accès aux informations pertinentes
assez de temps pour l’examen
le pouvoir de s’opposer au système
Protection contre la pression de confirmer régulièrement les suggestions de l’IA

Étape 7 : Définir les critères de test, de publication et d’arrêt

Avant une utilisation productive, chaque système concerné nécessite des exigences minimales documentées. Ceux-ci incluent l’exactitude, les taux d’erreur, la robustesse, la confidentialité, l’équité et la sécurité.

Définissez également des critères d’arrêt clairs. Un système doit être suspendu si des erreurs critiques se produisent, si certains groupes sont manifestement désavantagés ou si le fournisseur ne comble pas une faille de sécurité en temps opportun.

Étape 8 : Activer la transparence et les réclamations

Les personnes concernées doivent recevoir des informations compréhensibles sur l’objectif, la fonctionnalité et les possibilités de contact. Les équipes internes ont besoin d’une documentation technique et organisationnelle plus détaillée.

Un processus de plainte doit préciser :

Comment signaler une erreur ?
Qui vérifie le rapport ?
Dans quel délai une réponse sera-t-elle donnée ?
Comment une décision incorrecte est-elle corrigée ?
Quand l’incident sera-t-il transmis à la protection des données, à la conformité ou à la gestion ?

Étape 9 : Surveiller les systèmes après la mise en œuvre

L’IA évolue grâce à de nouvelles données, des mises à jour de modèles, des interfaces modifiées et de différentes façons de l’utiliser. Une fois qu’un système a été publié, il ne reste pas automatiquement digne de confiance.

Une surveillance régulière doit capturer les écarts de performances, les plaintes, les incidents de sécurité, les dépenses inhabituelles et les changements dans la qualité des données. Les mises à jour majeures nécessitent un nouvel examen des risques et des versions.

Évaluation de l’impact éthique : questions de test pratiques avant d’utiliser l’IA

Une évaluation d’impact éthique complète les examens techniques et juridiques. Il doit commencer avant la mise en œuvre et être répété en cas de changements significatifs. Les questions suivantes conviennent comme grille de test interne :

Quel problème spécifique l’IA résout-elle ?
Qui bénéficie de manière mesurable de l’application ?
Quelles personnes peuvent être désavantagées ?
Dans quelle mesure serait-il difficile de prendre de mauvaises décisions ?
Les personnes concernées peuvent-elles reconnaître, comprendre et contester une décision ?
Les groupes particulièrement vulnérables sont-ils touchés ?
Les données utilisées sont-elles adaptées, actuelles et suffisamment représentatives ?
Quels effets discriminatoires ont été testés ?
Quelles données quittent l’entreprise ou l’UE ?
Qui peut arrêter le système ou corriger les résultats ?
Quelles alternatives sans IA ont été étudiées ?
Comment les erreurs et les conséquences à long terme seront-elles surveillées après la mise en œuvre ?

Pour chaque risque, il convient d’évaluer la probabilité d’occurrence, la gravité des dommages, le nombre de personnes touchées, la détectabilité et la réversibilité. Un événement rare peut néanmoins être critique s’il cause un préjudice grave à des personnes ou s’il est difficile à corriger.

Règle pratique : Plus les conséquences d’une décision d’IA sur les droits, la sécurité, la santé ou les opportunités professionnelles sont importantes, moins une organisation peut s’appuyer sur des résultats automatiques.

Qui est responsable de l’éthique de l’IA dans l’entreprise ?

L’éthique de l’IA ne doit pas incomber uniquement au service informatique. Les équipes techniques peuvent évaluer la qualité et les caractéristiques de sécurité des modèles, mais ne peuvent pas couvrir toutes les implications juridiques, sociales et organisationnelles.

Rôle Responsabilités typiques

Gestion Stratégie, appétit pour le risque, ressources et structure de responsabilité finale Service spécialisé Objectif, avantages, intégration des processus et examen des résultats techniques Informatique et développement Architecture, tests, sécurité, journalisation et limitations techniques Protection des données Base juridique, minimisation des données, droits des personnes concernées et évaluation d’impact Conformité et aspects juridiques Classification de l’AI Act, autres domaines du droit, contrats et preuves Sécurité des informations Surfaces d’attaque, accès, incidents et mesures de protection Comité d’entreprise ou représentants du personnel Impact sur les travailleurs, le contrôle et la conception du travail Conseil d’éthique ou d’IA Évaluation interdisciplinaire des candidatures controversées ou particulièrement conséquentes

Avec des lignes directrices obligatoires pour le travail et l’administration sociale, le BMAS montre comment des règles centrées sur les personnes, non discriminatoires et participatives peuvent être ancrées dans une organisation.

Source : BMAS : Lignes directrices pour une utilisation responsable de l’IA

Conflits d’objectifs typiques de l’éthique de l’IA

Exactitude versus explicabilité

Un modèle complexe peut fournir de meilleurs résultats dans certaines tâches, tandis qu’un modèle plus simple est plus facile à comprendre. La précision de calcul la plus élevée n’est pas automatiquement le meilleur choix. Dans le cas de décisions importantes, une performance légèrement inférieure peut être justifiable si elle rend les résultats vérifiables et contestables.

Personnalisation versus protection des données

Plus un système reçoit de données sur une personne, plus il peut ajuster avec précision les offres ou les prévisions. Dans le même temps, la surveillance, les abus et les risques en matière de sécurité augmentent. Une solution responsable limite les données dans la mesure nécessaire et offre un réel choix.

Automatisation versus autodétermination humaine

Les recommandations automatisées font gagner du temps. Cependant, elles peuvent amener les gens à remettre de moins en moins en question leurs propres évaluations. Ce soi-disant biais d’automatisation est particulièrement risqué lorsque les travailleurs se sentent obligés de justifier des écarts par rapport à la suggestion du système.

Transparence en matière de sécurité et de secrets commerciaux

La divulgation complète peut impliquer des vulnérabilités de sécurité ou des informations exclusives sur l’entreprise. Toutefois, cela ne justifie pas un secret absolu. La transparence peut être atteinte par étapes : informations compréhensibles pour les personnes concernées, documents détaillés pour les auditeurs internes et documentation technique protégée pour les autorités ou les auditeurs.

Innovation contre précaution

Des restrictions trop précoces peuvent empêcher des applications utiles. En revanche, une introduction incontrôlée peut nuire aux personnes et détruire définitivement la confiance. Des projets pilotes, des groupes de tests limités, des laboratoires réels et des versions progressives créent un terrain d’entente.

Quel rôle jouent les normes et standards ?

Les principes éthiques restent inefficaces si personne ne peut vérifier s’ils sont respectés. Les normes et standards traduisent les exigences générales en processus, mesures et preuves techniques. La deuxième feuille de route allemande de normalisation pour l’intelligence artificielle a été créée avec la participation de plus de 570 experts issus du monde des affaires, de la science, de la société civile et de la politique. Il contient six recommandations d’action globales et plus de 100 besoins identifiés en matière de normalisation.

Les domaines couverts comprennent :

Bases et termes
Éthique et IA responsable
Évaluation de la qualité et de la conformité
Sécurité informatique
automatisation industrielle
Mobilité
Médecine
systèmes sociotechniques
Services financiers
Environnement et énergie

Par exemple, les normes peuvent préciser comment les risques sont documentés, les modèles testés ou la qualité des données évaluée. Ils ne peuvent remplacer la détermination politique des valeurs sociales.Source : DIN : Feuille de route allemande de normalisation pour l’intelligence artificielle

Limites et critiques des lignes directrices internationales en matière d’éthique de l’IA

De nombreux principes restent trop abstraits

Des termes tels que équité, confiance ou contrôle humain semblent clairs, mais permettent des interprétations différentes. Sans critères mesurables, toute organisation peut prétendre agir de manière responsable.

L’ethics washing ne remplace pas des changements concrets

Le « lavage éthique » se produit lorsque les entreprises promettent publiquement l’éthique mais ne créent pas de responsabilités, de procédures de révision ou de conséquences en interne. Une déclaration de mission sans budget, sans droits de contrôle et sans canaux d’escalade est avant tout une communication.

Les différences de puissance mondiale ne sont pas automatiquement résolues

De nombreux pays et groupes de population fournissent des données ou sont affectés par les impacts de l’IA, mais ont peu d’influence sur le développement des systèmes. La recommandation de l’UNESCO tente d’intégrer plus pleinement cette perspective à travers une participation internationale et une concentration sur les pays ayant des conditions économiques différentes.

Les principes peuvent entrer en conflit les uns avec les autres

Une plus grande transparence peut avoir un impact sur la confidentialité ou la sécurité. Une plus grande précision peut nécessiter des modèles plus difficiles à expliquer. La qualité éthique ne se reflète donc pas dans le fait qu’une entreprise utilise autant de mots-clés que possible. Cela se reflète dans la manière dont des objectifs ouvertement contradictoires sont documentés et justifiés.

Le contrôle ne s’arrête pas à la mise sur le marché

Les modèles, les données et les contextes d’usage changent. Un système initialement justifiable peut devenir problématique en raison de mises à jour, de nouveaux domaines d’application ou de changements de groupes d’utilisateurs. Les directives internationales n’ont d’impact que lorsque les organisations surveillent en permanence leurs systèmes.

Des principes internationaux à leur mise en œuvre française

Les lignes directrices éthiques ne remplacent pas une loi contraignante. En France, les organisations doivent combiner l’EU AI Act, le RGPD, la législation nationale et les exigences sectorielles. La gouvernance doit inclure un inventaire des systèmes, une classification des risques, une responsabilité nommée, une surveillance humaine et la preuve que les risques de discrimination, de sécurité et de protection des données sont surveillés.

Conclusion : l’éthique de l’IA passe d’un principe directeur à un processus vérifiable

Les lignes directrices internationales sur l’éthique de l’IA créent un cadre commun pour une technologie qui transcende les frontières nationales, les industries et les domaines sociaux. L’UNESCO, l’UE, l’OCDE et l’IEEE ont des priorités différentes, mais s’accordent sur des valeurs clés : l’IA doit servir les gens, rester compréhensible, ne désavantager systématiquement personne et être utilisée en toute sécurité.

Mais le temps des déclarations d’intention purement volontaires touche à sa fin. La loi sur l’IA rend plusieurs exigences juridiquement tangibles. Les entreprises doivent enregistrer leurs systèmes d’IA, classer les risques, identifier les responsabilités et former les travailleurs.

La vraie différence de qualité se pose dans la vie de tous les jours. Une IA digne de confiance ne se reflète pas dans des codes brillants, mais dans des tests documentés, des canaux de plainte accessibles, des options d’intervention humaine et la volonté de désactiver un système problématique.L’aperçu du développement actuel de l’intelligence artificielle montre à quelle vitesse les possibilités techniques évoluent. Pour la classification sociale des machines autonomes, il convient également de jeter un œil à l’interprétation moderne des lois des robots par Isaac Asimov.

Questions fréquemment posées sur les lignes directrices internationales en matière d’éthique de l’IA

Les lignes directrices internationales sur l’éthique de l’IA sont-elles juridiquement contraignantes ?

La plupart des lignes directrices internationales en matière d’éthique de l’IA ne sont pas directement juridiquement contraignantes et sont considérées comme du droit souple. Cependant, ils influencent les lois, les normes techniques, les contrats et les politiques internes de l’entreprise. La loi européenne sur l’IA rend des exigences individuelles contraignantes pour certains systèmes d’IA.

Quelle organisation internationale dispose des directives éthiques en matière d’IA les plus complètes ?

La Recommandation de l’UNESCO de 2021 est l’un des cadres mondiaux les plus complets. Elle a été adoptée par les 193 États membres de l’UNESCO et couvre les droits de l’homme, la protection des données, l’équité, la durabilité, l’éducation, la science et la participation sociale. Sa force réside dans sa portée politique mondiale.

Quelles sont les sept exigences d’une IA digne de confiance ?

Les lignes directrices de l’UE mentionnent la surveillance humaine, la robustesse technique, la protection et la gouvernance des données, la transparence, la diversité et la non-discrimination, le bien-être social et environnemental et la responsabilité. Ces exigences servent de cadre de développement et d’utilisation. Plusieurs sujets peuvent également être retrouvés dans l’AI Act.

Quelle est la différence entre l’éthique de l’IA et l’IA Act ?

L’éthique de l’IA décrit les principes sociaux et moraux pour des systèmes responsables. L’AI Act est un règlement européen contraignant comportant des obligations basées sur les risques et des sanctions possibles. Un système peut être conforme à la loi sur l’IA et nécessiter néanmoins un examen éthique plus approfondi.

Comment les entreprises peuvent-elles mettre en pratique l’éthique de l’IA ?

Les entreprises doivent tenir un registre de l’IA, documenter les utilisations prévues, examiner les risques juridiques et éthiques et établir des responsabilités claires. En outre, il existe des tests de sécurité et de discrimination, des options de contrôle humain, des canaux de plainte et une surveillance continue. Un code d’éthique général ne suffit pas à lui seul.

Qu’est-ce qu’une évaluation d’impact éthique ?

Une évaluation d’impact éthique est une évaluation d’impact structurée avant et pendant l’utilisation d’un système d’IA. Les effets possibles sur les droits de l’homme, l’équité, l’autodétermination, la protection des données, la sécurité et la participation sociale sont examinés. Les résultats doivent être documentés et réévalués si des changements importants surviennent.

Sources et informations complémentaires

Commission allemande de l’UNESCO : Recommandation sur l’éthique de l’intelligence artificielle
Agence fédérale des réseaux : objectifs, groupes cibles et calendrier de la loi sur l’IA
Gouvernement fédéral : la loi européenne sur l’IA
BMDS : Principes de l’OCDE sur l’intelligence artificielle
Conférence sur la protection des données : conseils sur l’IA et la protection des données
Office fédéral de la sécurité de l’information : intelligence artificielle
DIN : feuille de route allemande de normalisation pour l’intelligence artificielle
DIN/DKE : Livre blanc sur l’éthique et l’intelligence artificielle
Systèmes d’apprentissage par plateforme : sécurité informatique, protection des données, droit et éthique
BMAS : Consignes pour une utilisation responsable de l’IA