AI ACT: la normativa Europea per i Sistemi AI

L’Intelligenza Artificiale presenta un inevitabile dualismo: l’AI Act europeo si concentra sulla gestione dei rischi ma è fondamentale non perdere le grandi opportunità che offre.

Per i manager, interni o temporary, chiamati a governare questo cambiamento, la domanda è: da dove partire? La prima azione strategica risiede nell’Alfabetizzazione (Literacy).

Un piano di formazione diffuso a tutte le risorse aziendali è la chiave per cautelarsi dai rischi, superare la paura e cogliere i vantaggi competitivi di un’AI ben governata.

In tema di AI, la Commissione Europea si è posta l’obiettivo di iniziare a dare una regolamentazione a una materia così nuova, almeno nella sua accezione di diffusione, che tuttavia, con un’alta probabilità, andrà a permeare nel prossimo futuro la vita di ciascuno di noi, sia dal punto di vista personale sia lavorativo.

La legge Europea 2024/1689 detta AI ACT intende fare questo, in particolare per limitare i rischi per l’uomo. Questo articolo ha l’obiettivo di scorrere i punti salienti della legge e fornire una mia personale valutazione finale.

Il testo integrale della legge si può trovare nel sito Eur-Lex dell’Unione Europea in formato PDF e anche in formato HTML: https://eurlex.europa.eu/eli/reg/2024/1689/oj

Alcune definizioni temporali previste dalla norma

• • Giugno 2024: Approvazione AI ACT
  • Febbraio 2025: Entrata in vigore delle norme su:
    – pratiche proibite
    – obbligo di alfabetizzazione per Imprese e PA

• • Agosto 2025: Designazione autorità nazionali
  • Agosto 2026: Applicazione del regolamento: Sistemi ad Alto Rischio (con eccezioni)
  • Agosto 2027: Piena applicazione del regolamento per i sistemi ad Alto Rischio
  • Agosto 2028: Valutazione e aggiornamento dell’elenco dei Sistemi ad Alto Rischio
  • Agosto 2029: Valutazione ed eventuale revisione dell’AI ACT – Poi ogni 4 anni

Definizione di sistema AI

Art.3, Par.1

Sistema automatizzato che opera con diversi livelli di autonomia e può mostrare adattabilità dopo la messa in funzione; esso deduce dall’input il tipo di output da fornire (inferenza).

Tipi di output:

• • Previsioni
  • Contenuti
  • Raccomandazioni
  • Decisioni

Un sistema NON viene considerato AI se…
l’output è deterministicamente definito dal flusso del SW progettato (es. if-then) o dall’azione dell’uomo.

Interlocutori

• • I due principali attori
    1. Provider (Art.3, Par.3) – produce e addestra il sistema; è il principale responsabile degli effetti.
    2. Deployer (Art.3, Par.4) – (azienda utilizzatrice) installa il sistema all’interno del proprio ambiente.
  • Altri per casi specifici
    1. Sistemi introdotti da Extra-UE
       • Importer – (eventuale) introduce da Extra-UE il sistema all’interno dell’Unione Europea.
       • Distributore – (eventuale) funge da intermediario per la distribuzione ai Deployer europei.
    2. Modifiche sostanziali a un Sistema fornito da un Provider
       • Downstream Provider – a partire da un sistema rilasciato da un Provider, ne modifica sostanzialmente le caratteristiche e il comportamento tramite ulteriori corposi addestramenti o funzionalità aggiuntive. Eredita gran parte degli obblighi del Provider originario.

Attore da proteggere

• • End User – l’utilizzatore finale.
  • Comunità – si cerca di proteggere anche rispetto a un danno collettivo (come ad esempio elezioni politiche distorte).

Definizione di Rischio

Art.3, Par.2
Il Regolamento propone una definizione del Rischio che è altamente cautelativa e si basa non sull’effettivo specifico evento, bensì sulla probabilità che esso si verifichi, combinata con il danno che il verificarsi dell’evento ipotizzato provocherebbe alla singola persona o alla comunità.

L’analisi si basa su un Incident Database globale dove vengono registrati tutti gli eventi relativi a danni causati dall’AI che vengono segnalati: https://incidentdatabase.ai/

Il MIT su questi dati ha fatto uno studio, disponibile pubblicamente, di classi di rischio (Tassonomia dei Domini di Rischio) e di analisi delle cause del rischio (Tassonomia Causale del Rischio): https://airisk.mit.edu/

• Causalità del Rischio

Le cause di rischio vengono analizzate su tre direttrici fondamentali:

• 1. Entità Responsabile
     La maggior parte dei rischi provengono direttamente del Sistema di AI (51%), piuttosto che da azioni dirette dell’essere umano (34%).
  2. Intenzionalità
     Intenzionalità (35%) e NON intenzionalità (37%) hanno percentuali simili.
  3. Tempistica
     Nella maggior parte dei casi, i rischi si presentano dopo che il sistema è stato distribuito (65%) piuttosto che prima (10%)

Tipologie di Rischio

Nello studio sono individuati 7 domini, ciascuno poi a sua volta suddiviso in sottodomini.

Partendo da questi, il legislatore europeo ha individuato varie tipologie di Rischio:

• Informazioni NON corrette
  1. Fake news (diffusione in modo credibile di notizie che poi si rivelano false)
  2. Allucinazioni (risposte dei sistemi AI date per vere ma che non lo sono)
• Abusi
  1. attraverso tecniche di prompting NON etico, vengono aggirate le protezioni dei Sistemi AI rispetto a informazioni riservate o pericolose
  2. attraverso addestramenti estensivi non curanti del diritto d’autore si violano
     proprietà intellettuali e diritti d’autore
• Danni a soggetti deboli o vulnerabili
  fenomeni di condizionamento e induzione ad azioni non corrette

Per soggetti deboli o vulnerabili si intendono sia i minori, che hanno ancora una stabilità emotiva e psicologica non ancora ben formata e che sono facilmente influenzabili, sia soggetti che, pur adulti, vivono una situazione socio-economica di disagio oppure hanno delle carenze intellettive.

• Violazione della Privacy
  una falla di sicurezza sulla enorme mole di dati acquisiti dai Sistemi AI può far sì che diventino di dominio pubblico dati coperti dal diritto alla privacy

Livelli di Rischio

Sono stati definiti 4 Livelli di rischio, per ciascuno dei quali sono poi stati stabiliti obblighi
normativi. Per ciascun livello, vengono anche individuate le categorie di SW che a esso
afferiscono.

Rischio inaccettabile

Il rischio viene considerato non accettabile se, anche solo potenzialmente, il sistema può violare:

1. 1. 1. Diritti umani fondamentali.
      2. Valori Democratici dell’UE e degli Stati Membri.

Pratiche vietate (Art.5)

Sulla base di queste considerazioni sono state individuate 8 categorie di pratiche vietate:

• • Manipolazione dannosa e inganno
    Tecniche subliminali o manipolative di distorsione del comportamento
  • Sfruttamento della Vulnerabilità
    perché sia considerato tale, devono essere presenti i seguenti
    elementi:
    1. 1. Gruppo vulnerabile (es. minori, anziani, disabili, disagiati economicamente, ecc.).
       2. Consapevolezza della vulnerabilità da parte del Provider o Deployer.
       3. Intenzione di distorcere il comportamento.
  • Social Scoring Pubblico
    È vietato alle autorità pubbliche utilizzare sistemi che deducano una valutazione o classificazione in base a comportamenti sociali e/o caratteristiche personali.
    Devono essere presenti questi elementi:
    1. 1. La valutazione porta a un trattamento negativo.
       2. Il trattamento è ingiustificato o sproporzionato rispetto al comportamento valutato.
  • Policing (orientamento) predittivo basato sulla Profilazione
    Predizione della probabilità che una persona commetta o ricommetta un reato basandosi solamente su:
    1. 1. Profilazione generica del comportamento.
       2. Personalità.
       3. Dati biometrici non direttamente connessi a fatti concreti.
       4. Abitudini sociali od orientamenti culturali.

• • Scraping (acquisizione) non mirato delle immagini facciali
    Acquisizione indiscriminata di enormi collezioni di immagini dal Web in quanto:
    1. 1. Non viene richiesto il consenso esplicito dell’interessato
       2. Non rispetta i dati personali anche se presenti in contesti pubblici
       3. Espone a rischi di Sistema sociale quali:
          • sorveglianza di massa
          • profilazione non autorizzata dalle autorità competenti
          • potenziali abusi di potere
  • Riconoscimento delle emozioni sul Lavoro o nell’Istruzione
    La principale motivazione risiede nel fatto che NON esiste certezza scientificamente provata che dimostri l’assoluta affidabilità dei sistemi di questo tipo; spesso si verificano falsi positivi o interpretazioni errate dell’emozione provata in quel momento dalla persona.

Inoltre, il sapere di essere controllati nelle emozioni, può portare a disagi psicologici quali:

• • • 1. ansia
      2. autocensura

Infine un giudizio, magari errato, può avere come conseguenza fattori di discriminazione.

• • Categorizzazione biometrica per attributi sensibili
    Pretendere, solo in base ai dati biometrici, di categorizzare gli individui per:
    1. 1. Etnia o Razza
       2. Orientamento sessuale
       3. Idee politiche o appartenenze sindacali
       4. Religione o altre convinzioni personali
  • Identificazione biometrica remota in tempo reale negli spazi pubblici
    Qui si pone l’accento sui termini identificazione, remoto e tempo reale. Quindi non è esclusa la presenza di telecamere in un luogo, ma non va identificato negli spazi pubblici chi entra nel campo della telecamera. Questo è permesso, a posteriori e su autorizzazione, nel caso si verifichi qualche evento, ad esempio di pubblica sicurezza, che richieda l’identificazione di chi ha commesso il reato.

Quindi è vietato nei casi in cui viene fatto:

1. 1. 1. 1. in spazi pubblici
         2. senza scopo preciso, ampio e generalizzato
         3. senza autorizzazione dell’autorità competente
         4. fuori dai contesti di eccezione previsti dalla legge.

Alto Rischio (Art.6)

Sono definiti ad Alto Rischio i Sistemi e le Pratiche che possono influire su:

1. 1. Salute
   2. Sicurezza
   3. Diritti Umani Fondamentali

Due fasi fondamentali del Ciclo di Vita del Sistema.
Anche in base alla Tassonomia dei Rischi nella direttrice Tempificazione, sono state individuate due macrofasi, ciascuna con propri requisiti da rispettare:

1. 1. Sviluppo e Pre-Commercializzazione – prima dell’immissione nel mercato UE. I Sistemi devono essere conformi rispetto a:
      • Documentazione Tecnica
      • Dati e Governance dei Dati
      • Sistema di Gestione dei Rischi
      • Precisione, Sicurezza e Robustezza Informatica
      • Valutazione della Conformità e Marcatura CE
   2. Conformità Operativa e Post-Commercializzazione – dopo l’immissione nel mercato UE. I Sistemi devono essere conformi rispetto a:
      • Trasparenza e Informazioni agli utenti
      • Mantenimento di Log
      • Supervisione Umana
      • Monitoraggio
      • Rispetto degli Obblighi per Provider e Distributori

Due gruppi di Sistemi ad Alto Rischio
Si è tenuto conto del fatto che qualche Sistema può essere inserito come componente di sicurezza in altri Sistemi già regolati. Per questo tipo di applicazione, il regolamento lascia più tempo per l’adeguamento.

I sistemi quindi sono divisi in:

1. 1. Componenti di altri Sistemi già Regolamentati (Allegato I) – adeguamento entro Agosto 2027
      • Dispositivi Medici
      • Automotive e Macchinari
      • Aviazione Civile
      • Giocattoli Smart
   2. Sistemi Stand Alone (Allegato III) – adeguamento entro Agosto 2026. Per questo tipo sono state individuate 8 Categorie
      • Sistemi Biometrici in luoghi pubblici
      • Gestione di Infrastrutture Critiche
      • Istruzione e Formazione
      • Occupazione e HR
      • Servizi essenziali e del Credito
      • Supporto alle Forze dell’Ordine
      • Migrazione e Frontiere
      • Amministrazione della Giustizia e del Processo Democratico

Requisiti per la marcatura CE
Tali requisiti sono specificati negli articoli dal 9 al 15, su cui il Legislatore ha applicato un forte approccio regolatorio.

Start-up – PMI – Innovazione
Il legislatore Europeo, conscio dell’appesantimento burocratico introdotto dalla Norma, che può avere un impatto sull’aumento di costi stimato tra il 15% e il 25%, ha introdotto degli strumenti di mitigazione di tale impatto per alcuni casi specifici.

1. 1. Regulatory Sandbox
      Spazio utilizzabile per un tempo limitato per provare l’AI con utenti reali in un ambiente protetto e controllato, senza incorrere in sanzioni. Durante questa fase viene fornito un tutoraggio dell’autorità con feed-back reciproci. Riguarda Prototipi di un livello TRL<=7 e finalità di interesse pubblico.
      Il Technical Report, generato durante la fase di Sandbox, diventa metà della documentazione necessaria per la certificazione.
   2. PMI & Ricerca
      Esenzioni mirate e percorsi preferenziali di certificazione. Finché si resta nel campo della Ricerca Pura o della Proof of Concept si è fuori campo di applicazione del regolamento. I test con prove sul campo di quanto oggetto di ricerca, deve:
      • Essere autorizzato
      • Ricevere il consenso informato da parte degli utenti interessati
      • Avere un rischio controllato
   3. Sportello dedicato “AI ACT for Start-ups”
      Istituito presso l’AI OƯice, prevede:
      • modulistica light con un -50% della tariƯa dell’organismo notificato
      • voucher per Test di Robustezza
      • Red-Team a disposizione per testare la sicurezza, l’aƯidabilità e la resilienza del sistema
   4. European Digital Innovation Hubs (EDIH)
      Un ecosistema in cui mettere a fattor comune attori, risorse e competenze per favorire l’evoluzione digitale generale del Sistema Paese.
   5. Enterprise Europe Network (EEN)
      https://een.ec.europa.eu/
      La più grande rete europea di supporto alle imprese, creata dalla Commissione Europea nel 2008 per aiutare le Piccole e Medie Imprese (PMI) a innovare, internazionalizzarsi e diventare più competitive.

Rischio Limitato
Di questa categoria la parte del leone la fanno i Sistemi AI General Purpose (GPAI), quale ad esempio ChatGPT. Sono sistemi con le seguenti caratteristiche:

1. 1. Un solo modello, che assolve a molti compiti
   2. Capacità di Inferenza e “apprendimento” avanzate
   3. Viene rilasciato come “neutro” senza uno scopo preciso

Prescrizioni
Per questi sistemi i requisiti fondamentali (Art.53) da rispettare sono:

1. 1. Trasparenza
   2. Documentazione

Rischio Sistemico
Sono aggiunti altri obblighi (Art.51) nel caso sia definito di Rischio Sistemico, (Allegato XIII) sulla base di:

1. 1. Scala
   2. Impatto
   3. Utilizzo diffuso

Integrazione con altri Sistemi
I sistemi GPAI sono adatti a essere integrati in altri sistemi. Se un GPAI viene integrato con Sistemi ad Alto Rischio, il sistema risultante diventa ad Alto Rischio:

1. 1. Il Provider originario deve fornire i dati tecnici necessari a chi integra.
   2. È obbligatoria la cooperazione lungo la filiera.

AI Pact
Rappresenta un’adesione anticipata sulla Trasparenza prevista dall’Art.53 e sul Risk-Management con alcuni vantaggi per i firmatari.

Fast-Track
Tra questi vantaggi, dal 2026 sarà predisposto un Fast-Track per la marcatura CE per chi ha rispettato il Patto.

Alfabetizzazione (Literacy)

(Art.4)
Il Regolamento prevede l’obbligo di alfabetizzazione per Imprese e PA, erogata a tutto il personale di Provider e Deployer: personale interno ma anche esterno, se questo utilizza i sistemi AI per proprio conto.

La disposizione indica di prendere in considerazione diversi livelli di alfabetizzazione a seconda di:

1. 1. Sistemi AI utilizzati
   2. Grado di istruzione della persona
   3. Contesto in cui il sistema viene utilizzato.

1. 1. Obiettivi della Alfabetizzazione (Literacy)
      È importante che tramite la formazione ricevuta, il personale abbia un livello adeguato di conoscenza al fine di:
      • • Capire potenzialità e limiti dei Sistemi AI
        • Sapere come monitorare in modo appropriato il funzionamento del Sistema AI
        • Imparare a interpretare correttamente l’output ricevuto dal Sistema AI
        • Riconoscere potenziali rischi/errori/discriminazioni nei risultati forniti dai Sistemi AI
   2. Living Repository
      In questo documento PDF viene mantenuto e costantemente aggiornato un elenco di esperienze di Alfabetizzazione condivise da parte di aziende che hanno già intrapreso azioni in questo senso, fornendo esempi su varie metodologie utilizzate.

Esenzioni dall’applicazione della normativa

Il regolamento prevede alcune esenzioni dalla sua applicazione per determinati specifici casi. In particolare, vengono definiti fuori campo di applicazione le seguenti categorie di Sistemi e Tipi di utilizzo:

• 1. Uso privato NON professionale
  2. Ricerca e prototipazione pura
  3. Difesa e Sicurezza Nazionale
  4. Open Source
     Viene definito open source un sistema per il quale sono pubblicati il Codice e i Pesi utilizzati per i parametri di addestramento. L’esenzione decade se:

• • • il sistema è inserito in applicazioni ad alto rischio
    • il modello diventa a rischio sistemico.

Attori della Governance

1. AI Office
   Organo centrale che coordina il lavoro di regolamentazione. Esso costituisce il riferimento UE in materia di AI: tra le varie competenze, costituisce l’interfaccia tra UE e Autorità Nazionali competenti degli Stati membri e definisce le Best Practice in materia AI.
2. Comitato UE per l’intelligenza artificiale
   Ha l’obiettivo e il difficile compito di omogeneizzare le practice tra i vari Stati membri. È costituito da 1 membro per Nazione.
3. Gruppo scientifico di Esperti Indipendenti
   Costituito da Aziende e Università che curano la definizione nel tempo di pratiche non permesse o di sistemi ad alto rischio.
4. Autorità Nazionali competenti (Stati membri)
   Esse sono di due tipi e dovrebbero essere delle autorità indipendenti:
   • • Notifying Authority: mantiene il Registro Nazionale dei Sistemi ad Alto Rischio e accredita, nei confronti dell’UE, i Sistemi ad Alto Rischio.

• • • Market Surveillance: esegue ispezioni, riceve le notifiche di Incidenti occorsi, mantiene il DB Nazionale dei Sistemi ad Alto Rischio.

Sanzioni

(Art.99)
Le sanzioni previste dal regolamento sono significative e di alto impatto dissuasivo.

• Pratiche proibite (Art.99, Par.3)
  Le sanzioni amministrative possono raggiungere i 35.000.000 EUR o il 7% del fatturato annuo mondiale totale dell’esercizio precedente.

• Altre sanzioni (Art.99, Par.4)
  Per altre violazioni, le sanzioni possono essere fino a 15.000.000 EUR o il 3% del fatturato.

Mia valutazione finale

Vista la portata che l’AI sta avendo sulle vite delle persone e sul funzionamento di aziende e istituzioni, è condivisibile farne un inquadramento e definire una serie di norme che prevedano cosa non è lecito fare e quali danni non si devono provocare.

L’ inquadramento elaborato è piuttosto completo nelle parti di classificazione del Rischio, anche tramite una forte mediazione politica che tenesse conto delle diverse sensibilità nell’UE.

Tuttavia, l’AI non è solo rischio, è anche opportunità. La parte opportunità non è stata assolutamente sviluppata, rendendo il quadro complessivo mancante di un aspetto fondamentale: il diritto di fruire di tali opportunità, di esserne coscienti e formati, allo stesso livello del diritto individuale allo studio; l’AI diventerà un domani come oggi è il sapere leggere e scrivere.

Sono convinto che l’acculturamento, tramite innumerevoli iniziative per l’Alfabetizzazione della più vasta gamma di popolazione, sia anche un potente fattore di prevenzione rispetto ai rischi: purtroppo questa parte è assai poco sviluppata, non ben definita e senza iniziative di incentivi e investimenti adeguati che dovrebbero dare la misura dell’importanza da attribuirle.

Sarebbero da perseguire il lancio di idee e linee guida per lo sviluppo e la diffusione della cultura di utilizzo responsabile dell’AI, dando pari opportunità a tutte le fasce sociali della popolazione, con lo stesso criterio che si utilizza per la formazione scolastica:

• • In fase scolare con degli adeguati programmi formativi graduali, adeguati a tutti i livelli di istruzione.
  • Per tutta la popolazione, almeno quella di età media, che ha già superato la fase scolastica, con iniziative di formazione che vada anche oltre il solo impiego lavorativo e che fornisca le metriche di opportunità e rischi, anche in relazione alla responsabilità genitoriale.

Non escluderei nemmeno la fascia della popolazione anziana, lanciando per loro iniziative di investimento per la creazione di strumenti utili specificatamente alla terza (o quarta ormai) età con opportuna facilità di accesso ed utilizzo. Su questo tema, tramite il supporto delle istituzioni, potrebbero nascere numerose idee creative, visto anche il crescere di numero della popolazione anziana e delle relative esigenze. Idee per la sicurezza e la qualità della vita degli anziani.

La norma si è tradotta, come di consueto, in un approccio eccessivamente regolatorio, spostando sulle aziende l’onere di provare preventivamente la compliance rispetto a essa, con tutta una serie di misure e adempimenti burocratici.

Il già citato aggravio di costi per le aziende si va ad aggiungere al già pesante fardello regolatorio che l’approccio UE persiste nel portare avanti.

Ne consegue un forte rischio di deprimere iniziative di innovazione o nuovi prodotti da parte di PMI che tecnicamente potrebbero produrli ma finanziariamente non riescono a sostenere i costi e a una mancanza di competitività delle imprese europee rispetto a concorrenti extra-UE .

Il capitolo su Innovazione e le PMI mitiga solo in parte questo svantaggio e si potrebbe fare molto di più per diffondere la conoscenza delle iniziative e facilitarne l’accesso.

La mancanza di “campioni interni per i vari settori tecnologici” è una grande debolezza a oggi della UE e la lascia esposta alla dipendenza da soggetti extra-UE.

Oltre all’Alfabetizzazione, a mio avviso sarebbe più utile agire sulla sanzione certa, anche penale oltre che amministrativa, nel momento in cui una azienda non rispetta quanto non è permesso fare.

Per favorire la certezza della sanzione sarebbe necessario prima di tutto omogeneizzare le disposizioni tra gli stati, cosa che ancora manca: la chiarezza e l’equità di trattamento sono fondamentali.

In secondo luogo, rendere facile e di dominio pubblico l’accesso agli organi a cui segnalare distorsioni, organi che a oggi sono ancora in fase di definizione e organizzazione.

Cosa è possibile fare

Dal punto di vista aziendale, da dove dovrebbero partire i manager, siano essi interni o temporary manager coinvolti su questa materia?

1. Secondo me partire dalla Literacy, dalla formulazione e messa a terra di un credibile piano di formazione che pervada tutte le risorse aziendali: la conoscenza, per cautelarsi dai rischi e nello stesso tempo essere consapevoli che una AI ben governata può offrire dei vantaggi competitivi che con il tempo diventeranno irrinunciabili.
   • • Mappare i Ruoli coinvolti
     • Effettuare un Assessment di competenze AI presenti
     • Creare uno o più “AI Champions” cui le persone possono fare riferimento
     • Progettare piani di formazione modulari in grado di far evolvere nel tempo la competenza
     • Documentare i piani di formazione e tenerli costantemente aggiornati in base all’evoluzione dei Sistemi AI
2. Il secondo punto: la consapevolezza. Fotografare la situazione, inventariare i sistemi presenti in azienda, valutare la tipologia di quelli classificabili come AI, con il relativo eventuale grado di attenzione necessaria.
3. Il terzo punto: il monitoraggio. Valutare il grado di evoluzione rispetto al tema, all’interno del proprio settore di appartenenza: competitor e startup.