L’AI Act classifica i sistemi di intelligenza artificiale in base al rischio, e per alcune pratiche il legislatore europeo ha scelto il livello massimo: il divieto assoluto. Si tratta delle pratiche di IA a rischio inaccettabile, disciplinate dall’art. 5 del Reg. UE 2024/1689, le prime disposizioni del regolamento a diventare pienamente applicabili. Dal 2 febbraio 2025 chi sviluppa, distribuisce o utilizza in Europa un sistema di IA che ricade nei divieti dell’art. 5 è esposto al massimo livello sanzionatorio previsto dall’intero regolamento. Questa guida ricostruisce in modo operativo cosa è vietato, perché, con quali eccezioni e cosa rischia chi non si adegua.

1. Il quadro normativo

L’AI Act si fonda su due principi cardine: la centralità dell’essere umano e l’approccio basato sul rischio (risk-based approach). Il regolamento non disciplina la tecnologia in quanto tale ma i potenziali rischi che derivano dai suoi utilizzi, classificandoli in quattro livelli: rischio inaccettabile, rischio alto, rischio limitato, rischio minimo o nullo.

Le pratiche a rischio inaccettabile sono quelle che il legislatore ha ritenuto incompatibili con i valori dell’Unione Europea. Sono disciplinate dall’art. 5 AI Act e, in caso di violazione, l’art. 99 prevede la sanzione massima dell’intero regolamento: fino a 35 milioni di euro o al 7% del fatturato mondiale annuo dell’esercizio precedente, se superiore.

Le disposizioni sulle pratiche vietate sono applicabili dal 2 febbraio 2025, sei mesi dopo l’entrata in vigore del regolamento. È il primo scaglione applicativo dell’AI Act: tutti gli altri obblighi (alto rischio, GPAI, trasparenza) sono entrati in vigore successivamente o lo faranno nei prossimi mesi. Le aziende che operano in Europa avrebbero dovuto già completare la mappatura dei propri sistemi e verificare l’assenza di pratiche vietate.

Il fil rouge che unisce le pratiche vietate è la tutela di quattro principi fondamentali: libertà di scelta e autodeterminazione, non discriminazione, stato di diritto e presunzione di innocenza, rispetto della vita privata e protezione dei dati personali.

2. Tecniche subliminali, manipolative o ingannevoli

L’art. 5, par. 1, lett. a), AI Act vieta l’immissione sul mercato, la messa in servizio o l’uso di sistemi di IA che utilizzino:

• tecniche subliminali, che agiscono senza che la persona ne sia consapevole, oppure
• tecniche volutamente manipolative o ingannevoli

aventi lo scopo o l’effetto di distorcere materialmente il comportamento di una persona o di un gruppo, pregiudicando in modo considerevole la capacità di prendere una decisione informata e inducendo a una scelta che non sarebbe stata altrimenti presa, in un modo che provochi o possa ragionevolmente provocare un danno significativo.

La formulazione è ampia e lascia aperte questioni interpretative non secondarie. Dove si colloca il confine tra una “spinta gentile” (il classico nudging del marketing comportamentale) e una tecnica manipolativa vietata? La risposta si trova nelle espressioni cardine della norma: “pregiudicare in modo considerevole” e “danno significativo”. Saranno la prassi applicativa, le linee guida dell’AI Office e la giurisprudenza a dare contenuto concreto a questi concetti, ma le aziende che operano in ambiti di comportamento del consumatore, persuasione, neuromarketing o gamification devono iniziare oggi a valutare i propri sistemi alla luce del divieto.

3. Sfruttamento delle vulnerabilità

L’art. 5, par. 1, lett. b), AI Act vieta i sistemi di IA che sfruttino le vulnerabilità di una persona o di un gruppo dovute a:

• età
• disabilità
• specifica situazione sociale o economica

con l’obiettivo o l’effetto di distorcere materialmente il comportamento della persona, provocando o potendo ragionevolmente provocare un danno significativo.

La norma protegge categorie particolarmente esposte: minori, anziani, persone con disabilità cognitive, individui in condizioni di fragilità economica. Anche qui la chiave interpretativa è il danno significativo e la materialità della distorsione comportamentale. Si pensi a sistemi di IA che, attraverso l’analisi del comportamento online, identifichino utenti in condizioni di vulnerabilità economica e li indirizzino verso prodotti finanziari ad alto rischio o ad alto costo: è una pratica che oggi può ricadere nel divieto.

4. Social scoring

L’art. 5, par. 1, lett. c), AI Act vieta i sistemi di IA per la valutazione o classificazione delle persone fisiche o di gruppi per un determinato periodo di tempo sulla base:

• del loro comportamento sociale
• di caratteristiche personali
• della personalità (note, inferite o previste)

quando il punteggio sociale così ottenuto comporti uno dei seguenti effetti:

• trattamento pregiudizievole o sfavorevole in contesti non collegati a quelli in cui i dati sono stati originariamente raccolti
• trattamento pregiudizievole o sfavorevole ingiustificato o sproporzionato rispetto al comportamento sociale o alla sua gravità

Il riferimento culturale è evidente: il sistema di social credit cinese. Ma il divieto va oltre questo scenario estremo e include qualsiasi pratica di scoring trasversale che porti a conseguenze sproporzionate o decontestualizzate. Le aziende che operano con sistemi di profilazione comportamentale a fini predittivi devono valutare con attenzione se i propri output rischiano di configurare un social scoring vietato, in particolare nei settori del credito, dell’occupazione, dell’assicurazione e dei servizi pubblici.

5. Valutazione predittiva del rischio di commettere reati

L’art. 5, par. 1, lett. d), AI Act vieta i sistemi di IA che valutino il rischio che una persona fisica commetta un reato esclusivamente sulla base:

• della profilazione della persona, o
• della valutazione di tratti e caratteristiche della personalità

Il divieto colpisce la cosiddetta predictive policing in versione individuale, quando si basa unicamente su elementi profilanti senza alcun collegamento con fatti oggettivi e verificabili. È una norma che protegge il principio della presunzione di innocenza ex art. 27 Cost. e art. 48 della Carta dei diritti fondamentali UE.

La norma chiarisce un’eccezione importante: il divieto non si applica ai sistemi di IA utilizzati a supporto della valutazione umana del coinvolgimento di una persona in un’attività criminosa, quando tale valutazione si basa già su fatti oggettivi e verificabili direttamente connessi all’attività criminosa stessa. La distinzione è cruciale: l’IA può supportare l’indagine, non sostituire la valutazione del giudice o dell’inquirente su basi puramente profilanti.

6. Scraping non mirato di immagini facciali

L’art. 5, par. 1, lett. e), AI Act vieta l’immissione sul mercato e l’uso di sistemi di IA che creino o amplino banche dati di riconoscimento facciale mediante scraping non mirato di immagini facciali da internet o da filmati di telecamere a circuito chiuso.

È la norma che, di fatto, codifica come pratica vietata il modello operativo di società come Clearview AI, già sanzionate sotto il GDPR per la costruzione di database di volti raccolti da fonti pubbliche online senza alcuna selezione finalizzata. Con l’entrata in vigore dell’art. 5 questa tipologia di sistemi non solo viola il GDPR ma costituisce pratica vietata dall’AI Act, con cumulo sanzionatorio rilevante.

Il termine chiave è “non mirato”: lo scraping mirato e legittimo (ad esempio per finalità di sicurezza in contesti specifici e autorizzati) resta possibile. Il divieto colpisce la raccolta indiscriminata e di massa.

7. Riconoscimento delle emozioni nei luoghi di lavoro e nelle scuole

L’art. 5, par. 1, lett. f), AI Act vieta i sistemi di IA che inferiscano le emozioni di una persona fisica nell’ambito del luogo di lavoro e degli istituti di istruzione, con un’unica eccezione: l’uso del sistema per motivi medici o di sicurezza.

Il Considerando 18 AI Act chiarisce la nozione di sistema di riconoscimento delle emozioni: si tratta di un sistema di IA finalizzato a identificare o inferire emozioni o intenzioni di persone fisiche sulla base dei loro dati biometrici. La nozione copre emozioni come felicità, tristezza, rabbia, sorpresa, disgusto, imbarazzo, eccitazione, vergogna, disprezzo, soddisfazione e divertimento.

Restano fuori dal divieto:

• gli stati fisici come dolore o affaticamento (ad esempio i sistemi che rilevano la stanchezza dei piloti o dei conducenti professionali a fini di prevenzione degli incidenti)
• la semplice individuazione di espressioni, gesti o movimenti immediatamente evidenti (un sorriso, un movimento delle mani, un’inflessione della voce), purché non utilizzati per inferire emozioni

La norma ha un impatto operativo molto significativo sulle aziende che utilizzano sistemi di videoanalisi, customer experience analytics, edtech basato su engagement detection o sistemi di valutazione delle performance dei dipendenti. Tutti i sistemi che inferiscono emozioni in ambito lavorativo o scolastico devono essere dismessi o riconvertiti.

8. Categorizzazione biometrica per caratteristiche sensibili

L’art. 5, par. 1, lett. g), AI Act vieta i sistemi di categorizzazione biometrica che classifichino individualmente le persone fisiche sulla base dei loro dati biometrici (volto, impronte digitali, altri tratti) per dedurre o inferire:

• razza
• opinioni politiche
• appartenenza sindacale
• convinzioni religiose o filosofiche
• vita sessuale o orientamento sessuale

Le categorie protette ricalcano quelle dei dati particolari ex art. 9 GDPR. Il legislatore ha voluto evitare che attraverso sistemi biometrici si arrivasse a inferire caratteristiche sensibili che la disciplina privacy già tutela in modo rafforzato.

Il divieto non si estende all’etichettatura o al filtraggio lecito di set di dati biometrici acquisiti legittimamente, né alle attività di categorizzazione svolte dalle forze dell’ordine nell’ambito delle attività di law enforcement.

Il Considerando 30 AI Act chiarisce inoltre che restano lecite forme di filtraggio “neutro” come la selezione di immagini in base al colore dei capelli o degli occhi.

8.1 Identificazione biometrica e categorizzazione biometrica: due nozioni distinte

Per applicare correttamente il divieto è fondamentale distinguere due concetti spesso confusi:

• identificazione biometrica (Considerando 15 AI Act): il riconoscimento automatico di caratteristiche fisiche, fisiologiche o comportamentali di una persona (volto, voce, andatura, postura, frequenza cardiaca, pressione esercitata sui tasti) finalizzato a determinare l’identità di una persona confrontando i suoi dati biometrici con quelli memorizzati in una banca dati, indipendentemente dal consenso. Restano esclusi i sistemi di verifica biometrica destinati a confermare che una persona è chi dice di essere (sblocco di un dispositivo, accesso a un servizio o a un’area riservata)
• categorizzazione biometrica (Considerando 16 AI Act): l’assegnazione di persone a categorie specifiche sulla base dei dati biometrici (sesso, età, colore dei capelli, lingua, religione, orientamento). Restano fuori i sistemi che svolgono questa funzione come caratteristica meramente accessoria a un servizio principale, come i filtri di un social network o i sistemi di anteprima virtuale di prodotti in un e-commerce

9. Identificazione biometrica remota “in tempo reale” in spazi pubblici

L’art. 5, par. 1, lett. h), AI Act vieta l’uso di sistemi di identificazione biometrica remota “in tempo reale” in spazi accessibili al pubblico a fini di attività di contrasto, salvo eccezioni tassative e rigorose. È il divieto più dibattuto dell’intero regolamento, oggetto della trattativa più intensa tra le istituzioni europee durante il trilogo del dicembre 2023.

Il Considerando 17 AI Act precisa che per “identificazione biometrica remota” si intende un sistema destinato a identificare persone fisiche tipicamente a distanza, senza il loro coinvolgimento attivo, attraverso il confronto con banche dati di riferimento. I sistemi “in tempo reale” sono quelli in cui rilevamento, confronto e identificazione avvengono istantaneamente, quasi istantaneamente o senza ritardi significativi (per evitare l’elusione delle regole introducendo ritardi minimi). Restano fuori i sistemi a posteriori, dove esiste un ritardo significativo tra raccolta e identificazione.

Il Considerando 19 AI Act definisce poi “spazio accessibile al pubblico” qualsiasi luogo fisico accessibile a un numero indeterminato di persone, indipendentemente dalla proprietà pubblica o privata. La definizione include negozi, ristoranti, banche, palestre, stazioni, aeroporti, cinema, teatri, parchi e piazze. Restano fuori uffici, fabbriche, carceri, controlli di frontiera e spazi online (in quanto non fisici).

9.1 Le eccezioni tassative

L’identificazione biometrica remota in tempo reale è ammessa solo per finalità di contrasto e solo per uno dei seguenti obiettivi:

• ricerca mirata di vittime specifiche di sottrazione, tratta di esseri umani, sfruttamento sessuale, o di persone scomparse
• prevenzione di una minaccia specifica, sostanziale e imminente per la vita o l’incolumità fisica di persone, o di una minaccia reale e attuale o reale e prevedibile di attacco terroristico
• localizzazione o identificazione di una persona sospettata di aver commesso uno dei reati gravi tassativamente elencati (terrorismo, tratta di esseri umani, sfruttamento sessuale di minori, traffico di stupefacenti o armi, omicidio, traffico di organi, sequestro, partecipazione a organizzazione criminale, ed altri), purché punibili nello Stato membro con pena detentiva massima di almeno quattro anni

L’uso deve essere finalizzato esclusivamente alla conferma dell’identità della persona specificamente interessata, valutando la natura della situazione, la gravità del danno evitato e le conseguenze sui diritti di tutte le persone interessate. Tutele temporali, geografiche e personali sono obbligatorie.

9.2 Autorizzazione preventiva e supervisione

L’uso del sistema è subordinato all’autorizzazione preventiva rilasciata da un’autorità giudiziaria o da un’autorità amministrativa indipendente con decisione vincolante, su richiesta motivata. In casi di urgenza l’uso può iniziare senza autorizzazione, che deve però essere richiesta entro 24 ore. Se l’autorizzazione viene respinta l’uso è interrotto immediatamente e tutti i dati e gli output devono essere eliminati.

L’autorità autorizzante valuta sulla base di prove oggettive o indicazioni chiare la necessità e proporzionalità dell’uso. Nessuna decisione che produca effetti giuridici negativi sulla persona può essere assunta unicamente sulla base dell’output del sistema.

L’autorità di polizia che utilizza il sistema deve aver completato una valutazione d’impatto sui diritti fondamentali (FRIA) prima dell’uso. Ogni utilizzo va notificato all’autorità di vigilanza del mercato e all’autorità nazionale per la protezione dei dati. La Commissione pubblica annualmente report di osservazione sull’uso effettivo della tecnologia.

10. Cosa fare ora: mappatura, governance e azioni concrete

Le pratiche vietate sono pienamente applicabili da febbraio 2025. Per le aziende che operano in Europa o i cui sistemi producono effetti sul territorio europeo, l’esposizione sanzionatoria è massima: 35 milioni di euro o il 7% del fatturato mondiale annuo, secondo l’art. 99 AI Act. Sono cinque le aree operative su cui intervenire.

Mappatura dei sistemi. Ogni organizzazione deve censire tutti i sistemi di IA sviluppati, distribuiti o utilizzati, e valutare per ciascuno se ricade in una delle otto pratiche vietate. La mappatura va documentata: in caso di controllo, la documentazione dimostra l’avvenuta analisi.

Valutazione interpretativa. Per i sistemi borderline (in particolare quelli che usano nudging, profilazione comportamentale, riconoscimento emozionale o categorizzazione biometrica) serve una valutazione tecnico-giuridica che ricostruisca se ricorrono i requisiti del divieto. Il concetto di “danno significativo” è centrale e va analizzato caso per caso.

Gestione della supply chain. Molte aziende non sviluppano direttamente sistemi di IA ma li integrano da fornitori esterni. Va valutato se i fornitori dichiarano la conformità all’art. 5 AI Act, e vanno introdotte clausole contrattuali specifiche di garanzia, manleva e diritto di audit.

Formazione interna. Manager, sviluppatori, product manager e team commerciali devono conoscere il perimetro delle pratiche vietate per non introdurre involontariamente funzionalità non conformi nei nuovi prodotti.

Monitoraggio normativo continuo. L’art. 112 AI Act prevede che la Commissione UE valuti annualmente la necessità di modificare l’elenco delle pratiche vietate. Il perimetro è destinato a evolvere: la compliance non è un esercizio una tantum.

Conclusione in sintesi