AI Act - Verifica di conformità al Regolamento UE 2024/1689

Fornitore (art. 3 n. 3): persona fisica o giuridica, autorità pubblica, agenzia o altro organismo che sviluppa un sistema di IA o un modello di IA per scopi generali o fa sviluppare un sistema di IA o un modello di IA per scopi generali e lo immette sul mercato o mette in servizio il sistema di IA con il proprio nome o marchio commerciale, a titolo oneroso o gratuito.

Deployer (art. 3 n. 4): persona fisica o giuridica, autorità pubblica, agenzia o altro organismo che utilizza un sistema di IA sotto la propria autorità, tranne nel caso in cui il sistema di IA sia utilizzato nell'ambito di un'attività personale non professionale.

Distributore (art. 3 n. 6): persona fisica o giuridica nella catena di fornitura, diversa dal fornitore o dall'importatore, che mette a disposizione un sistema di IA sul mercato dell'Unione senza alterarne le caratteristiche.

Importatore (art. 3 n. 7): persona fisica o giuridica stabilita nell'Unione che immette sul mercato un sistema di IA recante il nome o il marchio commerciale di una persona fisica o giuridica stabilita al di fuori dell'Unione.

Fabbricante (art. 3 n. 8 e art. 25 par. 1 lett. b): fabbricante di un prodotto che immette sul mercato un sistema di IA insieme al proprio prodotto e con il proprio nome o marchio commerciale.

Rappresentante autorizzato (art. 3 n. 5): persona fisica o giuridica stabilita nell'Unione che ha ricevuto e accettato il mandato scritto di un fornitore di un sistema di IA o di un modello di IA per scopi generali stabilito al di fuori dell'Unione a svolgere per conto di tale fornitore gli obblighi e le procedure stabiliti dal presente regolamento.

Ai sensi dell'art. 25 par. 1, i distributori, gli importatori, i deployer o qualsiasi altro terzo sono considerati fornitori ai fini del presente regolamento e sono soggetti agli obblighi del fornitore nei seguenti casi:

a) immettono sul mercato o mettono in servizio un sistema di IA ad alto rischio con il loro nome o marchio commerciale;

b) modificano lo scopo previsto di un sistema di IA, anche di uso generale, già immesso sul mercato o già in servizio;

c) apportano una modifica sostanziale a un sistema di IA ad alto rischio già immesso sul mercato o già in servizio.

Una modifica è sostanziale quando altera in modo significativo le prestazioni, il livello di accuratezza o la destinazione d'uso del sistema.

Ai sensi dell'art. 6 par. 1, un sistema di IA è considerato ad alto rischio quando soddisfa entrambe le seguenti condizioni:

a) è destinato a essere utilizzato come componente di sicurezza di un prodotto soggetto alla normativa di armonizzazione dell'Unione elencata nell'allegato I;

b) il prodotto il cui componente di sicurezza è il sistema di IA è soggetto a una valutazione della conformità da parte di terzi ai fini dell'immissione sul mercato o della messa in servizio di tale prodotto a norma della normativa di armonizzazione dell'Unione elencata nell'allegato I.

L'Allegato I include: regolamenti su macchine, giocattoli, imbarcazioni da diporto, ascensori, ATEX, apparecchiature radio, dispositivi medici, dispositivi medico-diagnostici in vitro, agenti fitosanitari, fertilizzanti, veicoli a motore e agricoli, aviazione civile.

Ai sensi dell'art. 6 par. 1, il sistema di IA è ad alto rischio se è componente di sicurezza di prodotti soggetti a:

Direttive/Regolamenti principali: Regolamento macchine (2023/1230), Direttiva giocattoli (2009/48/CE), Direttiva imbarcazioni da diporto (2013/53/UE), Direttiva ascensori (2014/33/UE), Direttiva ATEX (2014/34/UE), Direttiva apparecchiature radio (2014/53/UE), Direttiva dispositivi medici (2017/745/UE), Regolamento IVD (2017/746/UE), Regolamento veicoli a motore (2018/858/UE), Regolamento prodotti fitosanitari, Regolamento fertilizzanti, Regolamento veicoli agricoli, Regolamento aviazione civile.

E' necessario che il prodotto sia soggetto a valutazione della conformità da parte di terzi per l'immissione sul mercato.

Sono considerati ad alto rischio i sistemi di IA elencati nell'Allegato III, nei seguenti settori:

1. Biometria: identificazione biometrica remota, categorizzazione biometrica, riconoscimento delle emozioni.

2. Infrastrutture critiche: gestione e funzionamento di infrastrutture digitali, stradali, ferroviarie, idriche, di gas, di calore, elettriche.

3. Istruzione e formazione professionale: determinazione di accesso o ammissione, valutazione degli studenti, monitoraggio durante esami, orientamento scolastico.

4. Occupazione e lavoratori: assunzione e selezione (screening CV, valutazione colloqui), allocazione dei compiti, monitoraggio delle prestazioni, promozioni e licenziamenti.

5. Servizi essenziali: valutazione del merito creditizio, solvibilita, classificazione di emergenze, valutazione dei rischi per assicurazioni sanitarie e sulla vita.

6. Attività di contrasto: poligrafo, valutazione rischio di recidiva, profilazione durante indagini, analisi di prove digitali.

7. Migrazione e asilo: valutazione rischio di sicurezza, esame domande di visto/asilo, controllo documenti di viaggio.

8. Amministrazione della giustizia e processi democratici: ricerca e interpretazione dei fatti e della legge, elezioni e campagne politiche.

L'art. 6 par. 3 prevede che un sistema di IA di cui all'Allegato III non è considerato ad alto rischio se non presenta un rischio significativo per la salute, la sicurezza o i diritti fondamentali delle persone fisiche, in particolare perché:

a) è destinato a svolgere un compito procedurale stretto (es. classificare documenti in entrata, rilevare duplicati);

b) è destinato a migliorare il risultato di un'attività umana precedentemente completata (es. migliorare il tono di un testo già scritto);

c) è destinato a rilevare schemi decisionali o deviazioni da schemi decisionali precedenti e non è destinato a sostituire o influenzare la valutazione umana precedentemente completata senza un'adeguata revisione umana (es. verifica ex post degli scostamenti di un valutatore); o

d) è destinato a svolgere un compito preparatorio rispetto a una valutazione rilevante per i fini dei casi d'uso ad alto rischio di cui all'Allegato III (es. indicizzare fascicoli, tradurre documenti).

Tuttavia, un sistema di IA è sempre considerato ad alto rischio se profila persone fisiche. Il fornitore che ritiene che il proprio sistema non sia ad alto rischio ne documenta la valutazione prima dell'immissione sul mercato, è soggetto alla registrazione nella banca dati UE (art. 49 par. 2) e, su richiesta dell'autorità nazionale competente, mette a disposizione la documentazione (art. 6 par. 4).

Il regolamento si applica (art. 2 par. 1) a:

a) fornitori che immettono sul mercato o mettono in servizio sistemi di IA nell'Unione, indipendentemente dal fatto che tali fornitori siano stabiliti nell'Unione o in un paese terzo;

b) deployer di sistemi di IA aventi sede nell'Unione;

c) fornitori e deployer di sistemi di IA aventi sede in un paese terzo, quando l'output del sistema di IA è utilizzato nell'Unione;

d) importatori e distributori di sistemi di IA;

e) fabbricanti di prodotti che immettono sul mercato o mettono in servizio un sistema di IA insieme al loro prodotto;

f) rappresentanti autorizzati di fornitori non stabiliti nell'Unione.

Esclusioni (art. 2 par. 3): il regolamento non si applica ai sistemi di IA sviluppati o utilizzati esclusivamente per scopi militari, di difesa o di sicurezza nazionale; ai sistemi di IA utilizzati esclusivamente per attività di ricerca e sviluppo scientifici; ai sistemi di IA open-source rilasciati pubblicamente (con eccezioni per i sistemi ad alto rischio, proibiti o GPAI a rischio sistemico).

Modello di IA per scopi generali (art. 3 n. 63): modello di IA, anche quando addestrato con grandi quantita di dati usando l'autoapprendimento su vasta scala, che presenta una generalità significativa ed è in grado di svolgere in modo competente un'ampia gamma di compiti distinti, indipendentemente dalle modalità di immissione sul mercato, e che può essere integrato in una varietà di sistemi o applicazioni a valle.

Rischio sistemico (art. 51): un modello GPAI è classificato come modello GPAI con rischio sistemico se presenta capacità ad alto impatto. Si presume che tale condizione sia soddisfatta quando la potenza di calcolo cumulativa usata per addestrarlo è superiore a 10^25 FLOPs, oppure se la Commissione lo classifica come tale sulla base di altri criteri (impatto sul mercato interno, numero di utenti, rischi per salute, sicurezza, diritti fondamentali, società o democrazia).

Esempi di GPAI: grandi modelli linguistici (LLM) come GPT, Claude, Llama; modelli multimodali generativi; modelli per la generazione di immagini o audio su larga scala.

Modello integrato in un proprio sistema (cons. 97): se sviluppi un modello GPAI e lo integri in un sistema che immetti sul mercato o metti in servizio, il modello si considera comunque immesso sul mercato e restano gli obblighi GPAI.

Modifica sostanziale / fine-tuning (cons. 109): chi modifica in modo sostanziale un modello GPAI di terzi diventa fornitore del modello modificato, ma i suoi obblighi sono limitati alla modifica apportata e alle sue conseguenze. Chi invece si limita a usare il modello altrui (es. via API) non è fornitore GPAI.

Sono vietati i sistemi di IA che:

a) utilizzano tecniche subliminali che agiscono senza la consapevolezza della persona o tecniche volutamente manipolative o ingannevoli, con l'obiettivo o l'effetto di alterare materialmente il comportamento di una persona in maniera che causi o possa causare a essa o a un'altra persona un danno significativo;

b) sfruttano vulnerabilità di specifici gruppi di persone fisiche dovute alla loro età, disabilità o situazione socioeconomica, con l'obiettivo o l'effetto di alterare materialmente il comportamento di una persona in maniera che causi o possa causare a essa o a un'altra persona un danno significativo;

c) effettuano la valutazione o la classificazione delle persone fisiche nel corso di un determinato periodo di tempo sulla base del loro comportamento sociale o di caratteristiche personali o della personalità conosciute o previste (social scoring);

d) effettuano valutazioni del rischio rispetto a persone fisiche al fine di valutare o prevedere il rischio che una persona fisica commetta un reato basandosi unicamente sulla profilazione o sulla valutazione dei tratti della personalità e delle caratteristiche;

e) creano o espandono banche dati di riconoscimento facciale attraverso la raccolta non mirata di immagini del volto da Internet o da filmati di telecamere a circuito chiuso;

f) inferiscono le emozioni di una persona fisica sul luogo di lavoro e negli istituti di istruzione (tranne per ragioni mediche o di sicurezza);

g) effettuano categorizzazione biometrica di persone fisiche su base individuale basata sui dati biometrici al fine di dedurre o inferire razza, opinioni politiche, appartenenza sindacale, convinzioni religiose o filosofiche, vita sessuale o orientamento sessuale;

h) utilizzano sistemi di identificazione biometrica remota in tempo reale in spazi accessibili al pubblico per l'attività di contrasto (con limitate eccezioni).

i) generano contenuti sessuali o intimi non consensuali - ad esempio immagini di nudo di persone reali o la rimozione di abiti da foto esistenti (i cosiddetti "nudifiers") - o materiale di abuso sessuale su minori. Pratica aggiunta dal pacchetto "Digital Omnibus": vietata dal dicembre 2026.

Art. 50 par. 1: I fornitori devono garantire che i sistemi di IA destinati a interagire direttamente con le persone fisiche siano progettati e sviluppati in modo tale che le persone fisiche interessate siano informate che stanno interagendo con un sistema di IA (chatbot), a meno che ciò non risulti evidente dal contesto.

Art. 50 par. 2: I fornitori di sistemi di IA - compresi i sistemi di IA per scopi generali - che generano contenuto sintetico audio, immagini, video o testo devono garantire che gli output del sistema siano contrassegnati in un formato leggibile meccanicamente e rilevabili come artificialmente generati o manipolati (watermarking contenuto sintetico).

Art. 50 par. 3: I deployer di sistemi di IA che utilizzano il riconoscimento delle emozioni o la categorizzazione biometrica devono informare le persone fisiche interessate del funzionamento del sistema di IA e trattare i dati biometrici interessati (emozioni e biometrica).

Art. 50 par. 4: I deployer che utilizzano un sistema di IA per generare o manipolare contenuto immagine, audio o video che costituisce un deepfake devono comunicare che il contenuto è stato artificialmente generato o manipolato (deepfake).

Art. 50 par. 5: I deployer che utilizzano un sistema di IA per generare o manipolare testo che viene pubblicato allo scopo di informare il pubblico su questioni di interesse pubblico devono comunicare che il testo è stato artificialmente generato o manipolato - tranne se il contenuto è stato sottoposto a revisione umana o editoriale (testo informativo pubblico).

Ai sensi dell'art. 27 par. 1, prima di mettere in uso un sistema di IA ad alto rischio di cui all'Allegato III (art. 6 par. 2), effettuano la valutazione d'impatto sui diritti fondamentali (FRIA): i deployer che sono organismi di diritto pubblico o enti privati che forniscono servizi pubblici, nonché i deployer di sistemi di cui all'Allegato III, punto 5, lettere b) e c) (valutazione del merito creditizio e determinazione dei prezzi delle assicurazioni vita o sanitarie). Sono esclusi dall'obbligo i sistemi di cui all'Allegato III, punto 2 (infrastrutture critiche).

La valutazione d'impatto comprende:

a) una descrizione dei processi del deployer in cui il sistema di IA sarà messo in uso in funzione della sua finalità prevista;

b) un periodo di tempo e la frequenza con cui il sistema di IA è destinato a essere messo in uso;

c) le categorie di persone fisiche e dei gruppi che potrebbero essere interessati nell'ambito del contesto specifico di utilizzo;

d) i rischi specifici di danno che possono interessare le categorie di persone fisiche o i gruppi identificati;

e) una descrizione dell'attuazione delle misure di supervisione umana in conformità al manuale d'istruzione per l'uso;

f) le misure da adottare in caso di materializzazione di tali rischi.