AI Act in vigore, ma è ancora presto per cantare vittoria

Questa settimana è entrato ufficialmente in vigore, in Italia così come in tutti gli Stati membri dell’UE, l’articolo 5, “Pratiche di AI Vietate”, dell’AI Act, il regolamento europeo sull’Intelligenza Artificiale, unico al mondo nel suo genere, approvato dal Parlamento europeo lo scorso marzo. Queste misure vieteranno l’uso dell’Intelligenza Artificiale quando espone le persone a “rischi inaccettabili”. 

Non possiamo, tuttavia, farci prendere da troppo entusiasmo: è un dato di fatto che l’AI Act europeo, “vittima” di numerosi negoziati e rimaneggiamenti, ha finito per includere svariate eccezioni, potenzialmente pericolose per i diritti e le libertà di cittadine e cittadini europei. 

Destano particolare preoccupazione alcune applicazioni dell’IA, come l’analisi delle emozioni nei controlli di frontiera o nei centri per l’immigrazione, così come l’uso di algoritmi predittivi per identificare potenziali autori di reati futuri, seppur con un intervento umano nella valutazione finale. Sappiamo, tuttavia, che gli algoritmi e i sistemi di IA spesso riflettono pregiudizi inconsapevoli, mettendo a rischio l’affidabilità di queste previsioni. Il pericolo concreto è che persone del tutto innocenti vengano etichettate come minacce sulla base di modelli statistici fallaci, con conseguenze gravi per i loro diritti e le loro libertà. 

L’AI Act prevede fin troppe deroghe per l’utilizzo di sistemi di riconoscimento biometrico in tempo reale e a posteriori da parte delle forze di polizia e per ragioni di “sicurezza nazionale”, lasciando il campo aperto ad abusi da parte dei governi, soprattutto se reazionari e autoritari, che potrebbero sfruttarli per reprimere le fasce più deboli e scomode della popolazione. 

L’unico modo per proteggere davvero i nostri diritti è vietare del tutto l’uso dei sistemi di riconoscimento biometrico attraverso una legge che colmi le lacune dell’AI Act, come chiede la Rete per i Diritti Umani Digitali. 

La Rete, nata a maggio 2024 e costituita da Amnesty International Italia, Hermes Center, Period Think Tank, Privacy Network, Strali e The Good Lobby, si impegna sin dalla sua nascita nella promozione e tutela dei diritti umani nella sfera digitale. 

Tra i principali obiettivi della coalizione vi è l’istituzione, da parte del Governo, di un’autorità autonoma, separata dalla politica, che possa supervisionare l’uso dell’Intelligenza Artificiale in Italia e garantire l’applicazione corretta dell’AI Act, il regolamento europeo recentemente entrato in vigore sulla materia. 

La nostra proposta è quella di evitare che il controllo su questi sistemi venga affidato, come invece al momento previsto dalla proposta di legge, a due enti semi-governativi, come AGID (Agenzia per l’Italia Digitale) e ACN (Agenzia per la Cybersicurezza Nazionale), che non incarnano affatto l’idea di “indipendenza dalla politica” che ci auguriamo. 

A tal fine, nei giorni scorsi abbiamo inviato il nostro policy paper a 300 stakeholder istituzionali e non solo, affinché si attivino e facciano tutto ciò che è in loro potere per sostenere la nostra proposta.

Tra i destinatari del nostro policy paper ci sono anche i senatori delle Commissioni VIII e X, che discuteranno gli emendamenti alla proposta di legge nei prossimi giorni. Vedremo come i vari partiti andranno a schierarsi: vogliono uno stato securitario (in cui il controllo è affidato ad autorità governative) o uno stato dei diritti e delle libertà (con autorità indipendenti che vigilano sull’uso dell’IA)?

L’Intelligenza Artificiale è ormai parte integrante delle nostre vite, ma siamo davvero consapevoli dei rischi che comporta? Per questo continueremo a lottare affinché l’introduzione dell’IA nella nostra società avvenga nel rispetto dei diritti umani e delle libertà fondamentali.

Vuoi aiutarci? Sostieni le nostre iniziative per difendere i diritti, anche digitali, di tutte e tutti.
Fai una donazione >>