Linee guida internazionali per l’etica dell’IA: standard, differenze e applicazione pratica

Le linee guida internazionali per l’etica dell’IA mirano a impedire che l’intelligenza artificiale venga sviluppata esclusivamente sulla base di standard tecnici o economici. Formulano regole per la trasparenza, l’equità, la protezione dei dati, la sicurezza, il controllo umano e la responsabilità sociale. A prima vista sembra astratto. Nella pratica, tuttavia, questi principi influenzano il modo in cui le aziende selezionano i candidati, valutano i prestiti, supportano la diagnosi medica o controllano le macchine autonome.

I quadri più influenti includono le Raccomandazioni dell’UNESCO, le Linee guida etiche dell’Unione Europea, i Principi sull’intelligenza artificiale dell’OCSE e gli Standard tecnicamente focalizzati dell’IEEE. Perseguono obiettivi simili, ma differiscono in termini di portata, impegno e attuazione. Allo stesso tempo, con la legge europea sull’intelligenza artificiale la situazione è cambiata: le linee guida volontarie stanno diventando obblighi giuridici concreti in determinati settori.

Punti chiave in sintesi

Le linee guida etiche internazionali sull’IA definiscono valori comuni per lo sviluppo e l’utilizzo dell’intelligenza artificiale.
I principi ricorrenti includono il controllo umano, la trasparenza, l’equità, la privacy, la sicurezza e la responsabilità.
La raccomandazione dell’UNESCO è stata adottata da tutti i 193 Stati membri nel 2021 e costituisce un quadro di orientamento globale.
Le linee guida etiche dell’UE del 2019 descrivono sette requisiti per un’IA affidabile.
I principi dell’OCSE sono orientati politicamente ed economicamente, mentre l’IEEE e le organizzazioni di standardizzazione si concentrano maggiormente sull’implementazione tecnica.
Le linee guida etiche sono solitamente le cosiddette soft law. La legge sull’AI rende ora vincolanti i requisiti individuali.
Le aziende non hanno solo bisogno di un documento etico, ma anche di responsabilità documentate, valutazioni dei rischi, meccanismi di controllo e monitoraggio continuo.

Quali sono le linee guida internazionali per l’etica dell’IA?

Le linee guida internazionali per l’etica dell’IA sono prevalentemente quadri non vincolanti che determinano i principi sociali, morali e dei diritti umani in base ai quali i sistemi di intelligenza artificiale dovrebbero essere sviluppati, addestrati, utilizzati e controllati.Rispondono a domande che non possono essere risolte attraverso un esame puramente tecnico. Un sistema può essere matematicamente preciso e tuttavia essere ingiusto. Può soddisfare elevati standard di sicurezza e comunque raccogliere quantità inutili di dati personali. Allo stesso modo, una decisione può apparire statisticamente comprensibile anche se l’interessato non ha possibilità realistiche di opporsi.

L’etica dell’IA non riguarda quindi solo l’algoritmo. Considera l’intero ciclo di vita:

Quale problema dovrebbe risolvere il sistema?
Chi trae vantaggio dai suoi sforzi?
Chi si assume gli eventuali svantaggi o rischi?
Quali dati vengono utilizzati?
Chi è autorizzato a rivedere o correggere le decisioni?
Come vengono riconosciuti gli errori, le discriminazioni e gli abusi?
Chi si assume la responsabilità in caso di danni?

Puoi trovare ulteriori articoli su questioni limite sociali, legali e tecniche nell’area tematica Robotica ed etica dell’intelligenza artificiale.

L’etica dell’IA, la governance dell’IA e la conformità dell’IA non sono la stessa cosa

I termini sono spesso misti, ma descrivono livelli diversi.

Termine Domanda centrale Strumenti tipici

Etica dell’IA Cosa è socialmente e moralmente accettabile? Valori, principi, valutazione dell’impatto, partecipazione delle persone interessate Governance dell’IA Come viene regolata la responsabilità all’interno di un’organizzazione? Ruoli, processi di rilascio, comitati di controllo, documentazione, percorsi di escalation Conformità AI Quali requisiti legali e contrattuali devono essere rispettati? Classificazione dell’AI Act, test GDPR, prove, audit, formazione

Un’azienda può agire formalmente in conformità con la legge e tuttavia prendere decisioni eticamente discutibili. Al contrario, un buon codice etico non può sostituire il controllo legale. Una governance resiliente dell’IA collega quindi tutti e tre i livelli.

Perché l’IA ha bisogno di regole etiche internazionali?

I sistemi di intelligenza artificiale sono raramente sviluppati e utilizzati in un solo paese. I dati di formazione possono provenire da più stati, il modello viene eseguito su server in giurisdizioni diverse e i risultati hanno un impatto su persone di continenti diversi. Le norme nazionali da sole coprono tali catene del valore solo in misura limitata. Le linee guida internazionali creano almeno un vocabolario comune. Termini come trasparenza, controllo umano, non discriminazione o responsabilità compaiono oggi in quasi tutti i principali quadri normativi. Ciò facilita le negoziazioni politiche, la standardizzazione tecnica e lo sviluppo di standard aziendali interni.Tuttavia, un vocabolario comune non risolve obiettivi contrastanti. Ciò che è considerato giusto può essere valutato in modo diverso a seconda della cultura, del sistema giuridico e dell’applicazione. La trasparenza può essere intesa anche in diversi modi: è sufficiente un riferimento all’uso dell’intelligenza artificiale o l’esatto processo decisionale deve essere spiegabile? È proprio in questi luoghi che diventa evidente la differenza tra una dichiarazione generale di valori e una specificazione praticamente verificabile.

Soft Law e Hard Law: quanto sono vincolanti le linee guida etiche sull’IA?

La maggior parte delle linee guida internazionali appartengono alla cosiddetta soft law. Non sono leggi direttamente applicabili, ma possono avere una notevole influenza. I governi li utilizzano per le strategie nazionali, le aziende per le politiche interne e le organizzazioni di standardizzazione come punto di partenza per gli standard tecnici.

L’hard law, invece, comprende norme vincolanti come il regolamento generale sulla protezione dei dati o il regolamento europeo sull’intelligenza artificiale. Le violazioni possono comportare misure di vigilanza, limitazioni delle vendite o sanzioni.

Funzionalità Legge morbida Legge dura

vincolante legale Fondamentalmente volontario Obbligatorio per legge Esempi Raccomandazione UNESCO, principi OCSE, codici etici volontari Legge sull’AI, GDPR, legge sulla sicurezza dei prodotti Controllo Impegno, segnalazioni, certificazioni, pressione pubblica Autorità, tribunali, sorveglianza del mercato Sanzioni Di solito nessuna sanzione governativa immediata A seconda delle normative, divieti, requisiti e multe Vantaggio Flessibile e rapidamente adattabile Certezza giuridica ed applicabilità Debolezza Pericolo di una politica simbolica non vincolante Maggiore impegno in termini di test, documentazione e implementazione

In pratica si crea una forma mista. Le linee guida volontarie definiscono norme, standard di settore, norme sugli appalti e contratti. Questi strumenti possono diventare de facto vincolanti anche se non sono nati come legge.

Le più importanti linee guida internazionali per l’etica dell’IA

Raccomandazione dell’UNESCO sull’etica dell’intelligenza artificiale

La raccomandazione dell’UNESCO è stata adottata da tutti i 193 Stati membri nel novembre 2021. Secondo la Commissione tedesca per l’UNESCO, si tratta del primo quadro globale per la progettazione politica e la regolamentazione dell’intelligenza artificiale.La raccomandazione collega i diritti umani con ambiti concreti di azione politica. Si occupa non solo di protezione dei dati o discriminazione, ma anche di istruzione, scienza, ambiente, salute, media, comunicazione e partecipazione sociale.

I principi chiave includono:

Proporzionalità ed evitamento del danno
Sicurezza e protezione contro gli abusi
Equità e non discriminazione
Sostenibilità
Privacy e protezione dei dati
Supervisione umana e autodeterminazione
Trasparenza e spiegabilità
Responsabilità e responsabilità
Consapevolezza e competenza nell’intelligenza artificiale
Partecipazione di diversi gruppi sociali

L’ampia visione delle possibili conseguenze è particolarmente preziosa. Un sistema di intelligenza artificiale non dovrebbe essere controllato solo dopo che si è verificato un danno. I rischi dovrebbero essere resi visibili prima dell’introduzione attraverso una valutazione dell’impatto etico. Ciò include anche la questione se determinate applicazioni debbano essere utilizzate nonostante la loro fattibilità tecnica.

Fonte: Commissione tedesca dell’UNESCO: Raccomandazione internazionale sull’etica dell’intelligenza artificiale

Linee guida etiche dell’UE per un’IA affidabile

Un gruppo di esperti di alto livello dell’Unione Europea ha pubblicato nel 2019 le linee guida etiche per un’IA affidabile. In questo modello, affidabile significa: un sistema dovrebbe essere legale, etico e tecnicamente robusto.

Le linee guida elencano sette requisiti:

Priorità dell’azione umana e della supervisione
robustezza tecnica e sicurezza
Privacy e trattamento controllato dei dati
Trasparenza e tracciabilità
Diversità, non discriminazione ed equità
benessere sociale ed ecologico
Responsabilità

Questi requisiti hanno influenzato il dibattito europeo sull’AI Act. Le linee guida stesse erano volontarie. Tuttavia, il regolamento sull’IA affronta diversi argomenti in forma vincolante, come la gestione del rischio, la documentazione, la supervisione umana, la qualità dei dati, l’accuratezza, la robustezza e la trasparenza.

Le linee guida etiche continuano ad essere attuali. Una legge stabilisce i requisiti minimi. La revisione etica si chiede inoltre: un’applicazione è socialmente sensata? Gli effetti sui lavoratori, sui clienti o sui gruppi vulnerabili sono giustificabili? L’utilizzo corrisponde alla tua proposta di valore?

Principi OCSE per l’intelligenza artificiale

L’OCSE ha adottato i suoi principi sull’IA nel 2019 e li ha rivisti nel 2024. Il Ministero federale per la modernizzazione digitale e statale li descrive come un esempio pionieristico di standard non vincolanti nella politica digitale internazionale.I principi sono fortemente rivolti ai governi, alle imprese e alla politica dell’innovazione. Dovrebbero consentire il progresso tecnologico senza perdere di vista i diritti umani, i valori democratici e il benessere sociale.

Le idee chiave includono:

crescita inclusiva e benessere sostenibile
Diritti umani, valori democratici ed equità
Trasparenza e informazioni comprensibili sui sistemi di intelligenza artificiale
Robustezza, sicurezza e protezione durante l’intero ciclo di vita
Responsabilità degli attori coinvolti

I principi dell’OCSE sono interessanti per le aziende perché combinano l’etica dell’IA con lo sviluppo economico e la cooperazione internazionale. La responsabilità non è vista come un freno all’innovazione, ma piuttosto come un prerequisito per applicazioni permanentemente accettate e scalabili.

Fonte: BMDS: lavoro della Germania sui principi dell’OCSE per l’intelligenza artificiale

IEEE ed etica dell’IA tecnicamente fattibile

L’Institute of Electrical and Electronics Engineers sta adottando un approccio più tecnico con Ethically Aligned Design e la serie P7000. I valori etici non dovrebbero solo essere inclusi in una dichiarazione di intenti, ma dovrebbero anche essere presi in considerazione durante lo sviluppo del sistema.

Gli argomenti spaziano dai sistemi autonomi trasparenti ai processi di protezione dei dati, dai pregiudizi algoritmici alle progettazioni a prova di errore. In questo modo, IEEE tenta di tradurre valori astratti in requisiti che gli sviluppatori possono verificare, documentare e successivamente standardizzare parzialmente.

Il Libro bianco congiunto del DIN e della DKE sull’etica dell’intelligenza artificiale descrive ad esempio i progetti IEEE su:

problemi etici durante la progettazione del sistema
Trasparenza dei sistemi autonomi
Processi di protezione dei dati
bias algoritmico
Sistemi autonomi a prova di guasto
Misurazioni del benessere umano

L’approccio è pratico, ma presenta dei limiti. Gli standard tecnici possono misurare se un processo è stato documentato o se un modello è stato testato. Non è possibile determinare da soli quali valori sociali abbiano la precedenza. Tali decisioni richiedono una negoziazione democratica, legale e pubblica.

Fonte: DIN/DKE: Libro bianco sull’etica e l’intelligenza artificiale

Linee guida etiche internazionali sull’IA a confronto

Quadro anno Intervallo Concentrarsi Responsabilità Uso pratico

Raccomandazione UNESCO 2021 193 Stati membri Diritti umani, sostenibilità, conseguenze sociali Non immediatamente vincolante Strategie politiche e valutazioni d’impatto complete Linee guida etiche dell’UE 2019 Unione Europea e oltre IA affidabile, legittima e solida Quadro volontario Base di base per la governance, l’audit e la successiva regolamentazione Principi OCSE 2019, rivisto nel 2024 Stati membri e partner Innovazione centrata sulle persone e politica economica responsabile Legge morbida Orientamento politico e pratica commerciale internazionale Si avvicina all’IEEE Continua Tecnologia, industria e ricerca Implementazione tecnica dei requisiti etici Norme e procedure volontarie Progettazione, test, documentazione e certificazione del sistema Legge dell’UE sull’IA Applicabile gradualmente dal 2024 Mercato e sistemi dell’UE che interessano l’UE Regolamentazione basata sul rischio Legalmente vincolante Obblighi per fornitori, operatori, importatori e altri attori

La tabella mostra: non esiste un’etica globale dell’IA. I quadri si completano a vicenda. L’UNESCO copre le questioni relative ai diritti sociali e umani in modo particolarmente ampio. Le linee guida dell’UE strutturano un’IA affidabile in sette requisiti. L’OCSE coniuga la responsabilità con l’innovazione e la politica economica. IEEE, DIN e DKE si preoccupano maggiormente di criteri tecnici misurabili.

Il nucleo comune: otto principi di intelligenza artificiale responsabile

1. L’uomo mantiene il controllo

Le persone non devono diventare destinatari passivi di decisioni automatizzate. Quanto più gravi sono le conseguenze di una decisione, tanto più efficace deve essere il controllo umano. Una persona che conferma solo formalmente un suggerimento generato automaticamente non è ancora un vero supervisore.

Un concetto di controllo efficace regola chi può intervenire, quali informazioni riceve questa persona e in quali condizioni un sistema viene bloccato. L’articolo Responsabilità per danni causati da robot umanoidi tratta informazioni sulla responsabilità per i sistemi fisici di intelligenza artificiale.

2. Le decisioni devono essere comprensibili

La trasparenza inizia con informazioni semplici: le persone interessate dovrebbero essere in grado di riconoscere che stanno interagendo con un’IA o che un’IA è coinvolta in una decisione. Per le applicazioni sensibili, queste informazioni da sole non sono sufficienti.

Le organizzazioni devono essere in grado di spiegare in modo comprensibile:

a quale scopo serve il sistema,
quali categorie di dati vengono utilizzate,
quali limitazioni ed errori noti esistono,
come vengono controllati i risultati,
A chi possono rivolgersi le persone interessate per domande o reclami.

La divulgazione completa del codice sorgente di solito non è né necessaria né sufficiente. La trasparenza deve aiutare le persone a comprendere la decisione specifica e le sue conseguenze.

3. L’intelligenza artificiale non deve automatizzare la discriminazione esistente

Gli algoritmi adottano modelli dai dati di addestramento e applicazione. Se questi dati contengono svantaggi sociali, il sistema può riprodurli o rafforzarli. Ciò vale per il reclutamento, i prestiti, le assicurazioni, il riconoscimento facciale e le decisioni ufficiali.

Un controllo di equità non dovrebbe considerare solo il tasso medio di successo. Ciò che conta è se gli errori colpiscono più spesso determinati gruppi. Occorre inoltre verificare se variabili apparentemente neutre agiscono come proxy di caratteristiche sensibili.

4. La protezione dei dati inizia prima della raccolta dei dati

Un sistema di IA eticamente responsabile non raccoglie preventivamente tutto ciò che è tecnicamente disponibile. Durante la pianificazione è necessario tenere conto della limitazione dello scopo, della minimizzazione dei dati e dei diritti di accesso controllati.

La Conferenza sulla protezione dei dati raccomanda alle organizzazioni di verificare, tra le altre cose, lo scopo, la base giuridica, i dati personali, le decisioni automatizzate, i diritti degli interessati e la scelta tra sistemi aperti e chiusi prima dell’uso.

Questo problema è particolarmente evidente nei sistemi di sensori mobili. L’articolo sui robot domestici umanoidi e la protezione dei dati mostra i rischi posti da telecamere, microfoni, mappe spaziali ed elaborazione cloud.

Fonte: Conferenza sulla protezione dei dati: Guida all’intelligenza artificiale e alla protezione dei dati

5. I sistemi devono essere robusti e sicuri

L’intelligenza artificiale etica deve funzionare in modo affidabile anche in condizioni realistiche. Ciò include input errati, ambienti modificati, tentativi di manipolazione, azioni inaspettate dell’utente e attacchi alla formazione o ai dati operativi.

I test quindi non dovrebbero coprire solo il caso normale desiderato. Sono necessari stress test, test limite, analisi di sicurezza e chiari meccanismi di fallback. L’Ufficio federale per la sicurezza informatica fornisce agli sviluppatori e alle organizzazioni informazioni sugli attacchi, sui rischi e sull’utilizzo sicuro dell’IA.

Fonte: BSI: Sicurezza e Intelligenza Artificiale

6. La responsabilità richiede ruoli e referenti chiari

“L’IA ha deciso” non è un’assegnazione di responsabilità accettabile. Le organizzazioni devono determinare chi rilascia il sistema, chi controlla la qualità dei dati, chi gestisce gli incidenti e chi può avviare gli arresti.

Questa responsabilità non deve essere persa tra il produttore, l’operatore, il reparto specializzato e il fornitore di servizi esterno. I contratti dovrebbero regolamentare chiaramente ruoli, flussi di dati, diritti di audit, obblighi di aggiornamento e tempi di risposta.

7. Dovrebbero essere esaminate le conseguenze sociali ed ecologiche

I sistemi di intelligenza artificiale non causano solo impatti diretti sui singoli utenti. Possono cambiare i processi lavorativi, spostare i rapporti di potere, facilitare il monitoraggio o innescare un elevato consumo di energia e risorse. Una valutazione etica chiede quindi anche quali attività sono automatizzate, se i lavoratori sono stati coinvolti e quali alternative esistono. Puoi trovare informazioni di base sulle conseguenze in materia di diritto del lavoro nell’articolo I robot sostituiscono il lavoro: cosa possono fare i datori di lavoro.

8. Le persone interessate devono poter presentare opposizioni e reclami

Un sistema trasparente non spiega solo la sua funzione. Fornisce un modo per segnalare errori e rivedere le decisioni. I reclami dovrebbero essere gestiti da un’autorità accessibile, non da un altro sistema di dialogo automatizzato.

Per applicazioni con conseguenze significative la correzione deve essere praticamente possibile. Se manca questa via, il controllo umano resta una promessa senza effetto.

Come sono correlate le linee guida etiche sull’IA e l’AI Act?

La legge sull’AI non sostituisce le linee guida etiche internazionali. Traduce i principi selezionati in un quadro giuridico vincolante e basato sul rischio. Quanto maggiore è il possibile rischio per la salute, la sicurezza o i diritti fondamentali, tanto più severi sono gli obblighi.

Il regolamento europeo sull’IA è entrato in vigore il 1° agosto 2024 e verrà applicato gradualmente:

Dal 2 febbraio 2025: divieto di alcune pratiche di intelligenza artificiale e requisiti per una sufficiente competenza in materia di intelligenza artificiale.
Dal 2 agosto 2025: regolamenti per modelli di IA di carattere generale e parti della struttura di governance.
Dal 2 agosto 2026: numerosi obblighi di trasparenza, norme per l’IA ad alto rischio secondo l’allegato III e altri requisiti essenziali.
Dal 2 agosto 2027: norme aggiuntive per alcuni sistemi ad alto rischio legati a prodotti regolamentati.

Per le aziende ciò significa: un codice AI volontario non è sufficiente. Ogni sistema utilizzato dovrebbe essere inventariato e valutato in base all’uso previsto, al ruolo e alla classe di rischio. L’Agenzia federale delle reti individua tra gli altri elementi centrali la categorizzazione dei rischi, la documentazione, la trasparenza, la gestione della sicurezza e il monitoraggio ufficiale.

L’articolo sulle regole etiche e legali per i robot umanoidi mostra quali requisiti svolgono un ruolo nei sistemi che agiscono fisicamente.

Fonte: Agenzia federale delle reti: Obiettivi, gruppi target e calendario della regolamentazione sull’AI

Implementare le linee guida etiche internazionali sull’IA nell’azienda

Molte organizzazioni iniziano con una frase generale come “La nostra intelligenza artificiale è giusta, trasparente e incentrata sull’uomo”. Questa è una buona intenzione, ma non è ancora un controllo. Solo i processi verificabili trasformano i valori in pratica vissuta.

Passaggio 1: censire tutti i sistemi di IA

Creare un registro centrale dell’IA. Ciò include non solo modelli sviluppati autonomamente, ma anche software acquistati, chatbot, strumenti di analisi, funzioni di raccomandazione e servizi di intelligenza artificiale generativa.

Devono essere documentati almeno:

Nome e fornitore del sistema
Uso previsto
dipartimenti e gruppi di persone interessati
Tipi di dati elaborati
organismo interno responsabile
Interfacce e fornitori di servizi esterni
Data di introduzione e ultima revisione

Passaggio 2: descrivi lo scopo e i vantaggi in modo specifico

“Aumentare l’efficienza” è uno scopo troppo impreciso. Descrivi quale attività supporta il sistema, quale problema viene risolto e come verrà misurato il successo.

Nella documentazione è presente anche la contro domanda: è possibile raggiungere l’obiettivo con una procedura meno invasiva? Questo controllo impedisce l’utilizzo dell’IA semplicemente perché è disponibile.

Passaggio 3: valutare separatamente i rischi legali ed etici

La revisione giuridica esamina tra l’altro la legge sull’AI, la protezione dei dati, il diritto del lavoro, il diritto d’autore, la sicurezza dei prodotti e i requisiti contrattuali. La revisione etica considera le possibili conseguenze che possono rimanere problematiche anche se formalmente legali.

Questi includono:

Svantaggio dei singoli gruppi
Perdita della libertà umana di scelta
sorveglianza eccessiva
Manipolazione o controllo del comportamento indesiderato
Decisioni sbagliate difficili da revocare
Dipendenza da un unico fornitore

Passaggio 4: coinvolgere fin dall’inizio le persone interessate

Sviluppatori e manager vedono un sistema da una prospettiva diversa rispetto a lavoratori, clienti o cittadini. I gruppi di utenti possono identificare i rischi che non compaiono in un test tecnico.

A seconda dell’applicazione sono disponibili workshop, fasi pilota, partecipazione ai comitati aziendali, sondaggi tra gli utenti o relazioni di esperti indipendenti. Questo coinvolgimento è particolarmente importante nelle richieste rivolte ai bambini, a coloro che necessitano di cure o ad altri gruppi particolarmente vulnerabili.

Passaggio 5: controlla i dati e le possibili distorsioni

Documentare l’origine, la tempestività, la qualità e la rappresentatività dei dati. Non solo controllare la formazione, ma anche gli input reali nelle operazioni successive. Un modello può apparire corretto durante i test e fornire risultati distorti dopo l’introduzione perché cambiano i gruppi di utenti, le fonti di dati o le condizioni generali. L’equità non è quindi un segno una tantum su una lista di controllo.

Passaggio 6: rendere pratica la supervisione umana

Determina quali decisioni sono preparate, consigliate o eseguite completamente automaticamente. Designare le persone che possono rivedere e correggere i risultati.

Affinché la supervisione umana funzioni, queste persone hanno bisogno di:

competenza specialistica e IA sufficiente
Accesso alle informazioni pertinenti
abbastanza tempo per l’esame
il potere di opporsi al sistema
Protezione dalla pressione di confermare regolarmente i suggerimenti dell’IA

Passaggio 7: definire i criteri di test, rilascio e arresto

Prima dell’uso produttivo, ogni sistema rilevante necessita di requisiti minimi documentati. Questi includono accuratezza, tassi di errore, robustezza, privacy, equità e sicurezza.

Definire inoltre chiari criteri di arresto. Un sistema dovrebbe essere sospeso se si verificano errori critici, se alcuni gruppi sono palesemente svantaggiati o se il fornitore non chiude tempestivamente una falla di sicurezza.

Passaggio 8: attiva trasparenza e reclami

Le persone interessate dovrebbero ricevere informazioni comprensibili sullo scopo, sulla funzionalità e sulle possibilità di contatto. I team interni richiedono una documentazione tecnica e organizzativa più dettagliata.

Un processo di reclamo dovrebbe specificare:

Come si può segnalare un errore?
Chi controlla il rapporto?
Entro quale termine verrà data una risposta?
Come viene corretta una decisione errata?
Quando verrà inoltrato l’incidente alla protezione dei dati, alla conformità o alla gestione?

Passaggio 9: monitorare i sistemi dopo l’implementazione

L’intelligenza artificiale sta cambiando attraverso nuovi dati, aggiornamenti di modelli, interfacce modificate e diversi modi di utilizzarla. Una volta rilasciato, un sistema non rimane automaticamente affidabile.

Il monitoraggio regolare dovrebbe rilevare deviazioni delle prestazioni, reclami, incidenti di sicurezza, spese insolite e cambiamenti nella qualità dei dati. Gli aggiornamenti principali richiedono una nuova revisione dei rischi e delle versioni.

Valutazione dell’impatto etico: domande pratiche prima di utilizzare l’IA

Una valutazione dell’impatto etico integra le revisioni tecniche e legali. Dovrebbe iniziare prima dell’implementazione ed essere ripetuto quando ci sono cambiamenti significativi. Le seguenti domande sono adatte come griglia di test interna:

Quale problema specifico risolve l’intelligenza artificiale?
Chi trae vantaggio misurabile dall’applicazione?
Quali persone possono subire svantaggi?
Quanto sarebbero difficili eventuali decisioni sbagliate?
Le persone interessate possono riconoscere, comprendere e contestare una decisione?
Vengono toccati gruppi particolarmente vulnerabili?
I dati utilizzati sono adeguati, aggiornati e sufficientemente rappresentativi?
Quali effetti discriminatori sono stati testati?
Quali dati lasciano l’azienda o l’UE?
Chi può fermare il sistema o correggere i risultati?
Quali alternative senza intelligenza artificiale sono state esaminate?
Come verranno monitorati gli errori e le conseguenze a lungo termine dopo l’implementazione?

Per ciascun rischio occorre valutare la probabilità di accadimento, la gravità del danno, il numero delle persone colpite, la rilevabilità e la reversibilità. Un evento raro può comunque essere critico se causa gravi danni alle persone o è difficile da correggere.

Regola pratica: maggiori sono le conseguenze di una decisione relativa all’intelligenza artificiale per diritti, sicurezza, salute o opportunità professionali, meno un’organizzazione può fare affidamento sui risultati automatici.

Chi è responsabile dell’etica dell’IA in azienda?

L’etica dell’IA non dovrebbe dipendere esclusivamente dal reparto IT. I team tecnici possono valutare le caratteristiche di qualità e sicurezza del modello, ma non possono coprire tutte le implicazioni legali, sociali e organizzative.

Ruolo Responsabilità tipiche

Gestione Strategia, propensione al rischio, risorse e struttura di responsabilità finale Dipartimento specializzato Scopo, vantaggi, integrazione dei processi e revisione dei risultati tecnici IT e sviluppo Architettura, test, sicurezza, registrazione e limitazioni tecniche Protezione dei dati Base giuridica, minimizzazione dei dati, diritti delle persone interessate e valutazione dell’impatto Conformità e aspetti legali Classificazione della legge sull’AI, altri ambiti del diritto, contratti e prove Sicurezza delle informazioni Superfici di attacco, accesso, incidenti e misure di protezione Consiglio aziendale o rappresentanti del personale Impatto sui lavoratori, controllo e progettazione del lavoro Comitato etico o AI Valutazione interdisciplinare di applicazioni controverse o particolarmente consequenziali

Con linee guida auto-obbligatorie per l’amministrazione sociale e del lavoro, il BMAS mostra come regole incentrate sulle persone, non discriminatorie e partecipative possono essere ancorate in un’organizzazione.

Fonte: BMAS: Linee guida per l’uso responsabile dell’IA

Conflitti tipici tra gli obiettivi dell’etica dell’IA

Accuratezza contro spiegabilità

Un modello complesso può fornire risultati migliori in determinate attività, mentre un modello più semplice è più facile da comprendere. La massima precisione computazionale non è automaticamente la scelta migliore. Nel caso di decisioni importanti, una performance leggermente inferiore può essere giustificabile se rende i risultati verificabili e contestabili.

Personalizzazione contro protezione dei dati

Quanti più dati riceve un sistema su una persona, tanto più accuratamente può adeguare le offerte o le previsioni. Allo stesso tempo, aumentano la sorveglianza, gli abusi e i rischi per la sicurezza. Una soluzione responsabile limita i dati nella misura necessaria e offre una scelta reale.

Automazione contro autodeterminazione umana

I consigli automatizzati fanno risparmiare tempo. Tuttavia, possono portare le persone a mettere sempre meno in discussione le proprie valutazioni. Questo cosiddetto pregiudizio dell’automazione è particolarmente rischioso quando i lavoratori si sentono spinti a giustificare le deviazioni dai suggerimenti del sistema.

Trasparenza rispetto alla sicurezza e ai segreti commerciali

La divulgazione completa può comportare vulnerabilità della sicurezza o informazioni aziendali proprietarie. Ciò, tuttavia, non giustifica la massima segretezza. La trasparenza può essere raggiunta in più fasi: informazioni comprensibili per le persone interessate, documenti dettagliati per i revisori interni e documentazione tecnica protetta per le autorità o i revisori.

Innovazione contro precauzione

Restrizioni troppo premature possono impedire applicazioni utili. Un’introduzione incontrollata, invece, può danneggiare le persone e distruggere permanentemente la fiducia. Progetti pilota, gruppi di test limitati, laboratori nel mondo reale e rilasci graduali creano una via di mezzo.

Che ruolo giocano le norme e gli standard?

I principi etici restano inefficaci se nessuno può verificare se vengono rispettati. Norme e standard traducono i requisiti generali in processi, misurazioni e prove tecniche. La seconda tabella di marcia tedesca di standardizzazione per l’intelligenza artificiale è stata creata con la partecipazione di oltre 570 esperti del mondo economico, scientifico, della società civile e della politica. Contiene sei raccomandazioni generali per l’azione e più di 100 esigenze identificate di standardizzazione.

Le aree coperte includono:

Nozioni di base e termini
Etica e IA responsabile
Valutazione della qualità e della conformità
Sicurezza informatica
automazione industriale
Mobilità
Medicina
sistemi sociotecnici
Servizi finanziari
Ambiente ed energia

Ad esempio, gli standard possono specificare come vengono documentati i rischi, testati i modelli o valutata la qualità dei dati. Non possono sostituire la determinazione politica dei valori sociali.Fonte: DIN: tabella di marcia tedesca per la standardizzazione dell’intelligenza artificiale

Limiti e critiche alle linee guida etiche internazionali sull’IA

Molti principi rimangono troppo astratti

Termini come equità, fiducia o controllo umano sembrano chiari, ma consentono interpretazioni diverse. Senza criteri misurabili, qualsiasi organizzazione può affermare di agire in modo responsabile.

L’ethics washing non sostituisce i cambiamenti concreti

Il “lavaggio etico” si verifica quando le aziende promettono pubblicamente l’etica ma non creano responsabilità, rivedono procedure o conseguenze internamente. Una dichiarazione di intenti senza budget, diritti di controllo e canali di escalation è, soprattutto, comunicazione.

Le differenze di potere globale non vengono risolte automaticamente

Molti paesi e gruppi di popolazione forniscono dati o sono interessati dagli impatti dell’IA, ma hanno poca influenza sullo sviluppo dei sistemi. La raccomandazione dell’UNESCO tenta di incorporare questa prospettiva in modo più completo attraverso la partecipazione internazionale e concentrandosi sui paesi con condizioni economiche diverse.

I principi possono entrare in conflitto tra loro

Una maggiore trasparenza può avere un impatto sulla privacy o sulla sicurezza. Una maggiore precisione può richiedere modelli più difficili da spiegare. La qualità etica non si riflette quindi nel fatto che un’azienda utilizzi quante più parole chiave possibile. Ciò si riflette nel modo in cui gli obiettivi apertamente contrastanti vengono documentati e giustificati.

Il controllo non si esaurisce con il lancio sul mercato

Cambiano modelli, dati e contesti di utilizzo. Un sistema originariamente giustificabile può diventare problematico a causa di aggiornamenti, nuovi campi di applicazione o cambiamenti dei gruppi di utenti. Le linee guida internazionali hanno un impatto solo quando le organizzazioni monitorano permanentemente i propri sistemi.

Conclusione: l’etica dell’IA passa da un principio guida a un processo verificabile

Le linee guida internazionali per l’etica dell’IA creano un quadro comune per una tecnologia che trascende i confini nazionali, le industrie e gli ambiti sociali. L’UNESCO, l’UE, l’OCSE e l’IEEE hanno priorità diverse, ma concordano su valori chiave: l’intelligenza artificiale dovrebbe essere al servizio delle persone, rimanere comprensibile, non svantaggiare sistematicamente nessuno ed essere gestita in modo sicuro.

Tuttavia, il tempo per le dichiarazioni di intenti puramente volontarie sta scadendo. La legge sull’AI rende giuridicamente tangibili diversi requisiti. Le aziende devono registrare i propri sistemi di intelligenza artificiale, classificare i rischi, identificare le responsabilità e formare i lavoratori.

La vera differenza di qualità nasce nella vita di tutti i giorni. Un’intelligenza artificiale affidabile non si riflette in codici patinati, ma in test documentati, canali di reclamo accessibili, opzioni di intervento umano e volontà di spegnere un sistema problematico.La panoramica dell’attuale sviluppo dell’intelligenza artificiale mostra quanto velocemente cambiano le possibilità tecniche. Per la classificazione sociale delle macchine autonome vale la pena dare un’occhiata anche alla interpretazione moderna delle leggi sui robot di Isaac Asimov.

Domande frequenti sulle linee guida internazionali per l’etica dell’IA

Le linee guida internazionali per l’etica dell’IA sono giuridicamente vincolanti?

La maggior parte delle linee guida etiche internazionali sull’IA non sono direttamente giuridicamente vincolanti e sono considerate soft law. Tuttavia influenzano leggi, norme tecniche, contratti e politiche interne aziendali. La legge europea sull’IA rende vincolanti i requisiti individuali per determinati sistemi di IA.

Quale organizzazione internazionale dispone delle linee guida etiche sull’IA più complete?

La Raccomandazione UNESCO del 2021 è uno dei quadri globali più completi. È stato adottato da tutti i 193 Stati membri dell’UNESCO e copre i diritti umani, la protezione dei dati, l’equità, la sostenibilità, l’istruzione, la scienza e la partecipazione sociale. La sua forza risiede nella sua portata politica globale.

Quali sono i sette requisiti per un’IA affidabile?

Le linee guida dell’UE menzionano il controllo umano, la robustezza tecnica, la protezione e la governance dei dati, la trasparenza, la diversità e la non discriminazione, il benessere sociale e ambientale e la responsabilità. Questi requisiti fungono da quadro per lo sviluppo e l’utilizzo. Numerosi argomenti si trovano anche nella legge sull’AI.

Qual è la differenza tra l’etica dell’intelligenza artificiale e l’AI Act?

L’etica dell’IA descrive i principi sociali e morali per sistemi responsabili. L’AI Act è un regolamento europeo vincolante con obblighi basati sul rischio e possibili sanzioni. Un sistema può essere conforme alla legge sull’intelligenza artificiale e richiedere comunque un’ulteriore revisione etica.

In che modo le aziende possono implementare nella pratica l’etica dell’IA?

Le aziende dovrebbero mantenere un registro dell’IA, documentare gli usi previsti, esaminare i rischi legali ed etici e stabilire responsabilità chiare. Inoltre, ci sono test di sicurezza e discriminazione, opzioni di controllo umano, canali di reclamo e monitoraggio continuo. Un codice etico generale da solo non basta.

Che cos’è una valutazione dell’impatto etico?

Una valutazione d’impatto etico è una valutazione d’impatto strutturata prima e durante l’uso di un sistema di IA. Vengono esaminati i possibili effetti sui diritti umani, sull’equità, sull’autodeterminazione, sulla protezione dei dati, sulla sicurezza e sulla partecipazione sociale. I risultati dovrebbero essere documentati e rivalutati se si verificano cambiamenti significativi.