Il recente decreto italiano sull’intelligenza artificiale ha ribadito un principio chiave: il primato della persona umana sulle macchine. Ma dietro l’enfasi sul “controllo umano” si nasconde un interrogativo irrisolto che preoccupa esperti e giuristi: chi garantisce che quel controllo sia effettivo e non solo formale? Il provvedimento, pur condivisibile nelle intenzioni, lascia in ombra la governance concreta dei sistemi algoritmici e il rischio che le decisioni sfuggano a un reale presidio democratico.
Un decreto che conferma la bussola europea
Il testo italiano si allinea al quadro dell’AI Act europeo e riafferma divieti e obblighi già noti: via libera condizionata al riconoscimento biometrico in spazi pubblici, tutele per il lavoro, trasparenza per le PA. La novità è una sottolineatura retorica del “fattore umano”, quasi a blindare il principio di responsabilità. Tuttavia, dall’analisi emerge un impianto che affida il controllo a una pluralità di soggetti — Garante privacy, Agenzia per l’Italia digitale, ministeri — senza indicare un coordinamento efficace e meccanismi reali di audit indipendente.
Controllo umano, ma chi guarda il guardiano?
Il vero cortocircuito è qui: si delega alla persona il compito di vigilare sull’algoritmo, ma mancano risorse, competenze diffuse e, soprattutto, strumenti di intervento quando il processo decisionale è opaco. Chi valuta i bias? Chi verifica che il sistema non perpetui discriminazioni su larga scala? Il decreto non istituisce organismi tecnici con poteri ispettivi penetranti, limitandosi a un approccio reattivo, basato su segnalazioni e sanzioni ex post. Così, la firma umana rischia di diventare un semplice timbro su scatole nere incomprensibili.
I nodi aperti: biometria, lavoro, responsabilità penale
La disciplina affronta settori spinosi come il riconoscimento biometrico in tempo reale, le decisioni automatizzate nel rapporto di lavoro e l’uso dell’AI in ambito sanitario, ma lo fa con norme che spesso rinviano a codici di condotta e autoregolamentazione. Gli esperti segnalano fragilità proprio sul fronte della responsabilità penale: chi risponde se un algoritmo causa un danno? La catena decisionale si allunga tra sviluppatore, fornitore e utilizzatore, e il decreto non scioglie il dilemma, rischiando di creare zone franche di irresponsabilità.
Cosa significa per chi legge
Per i cittadini, il messaggio è duplice. Da un lato, l’Italia ha una legge che prova a mettere l’AI in un recinto di valori umani. Dall’altro, finché non si risolvono i problemi di governance e di controllo effettivo, è probabile che molti sistemi continuino a operare senza un vero contraddittorio. Per le imprese e le PA, il decreto offre una cornice, ma impone di attrezzarsi con competenze interne per non limitarsi a un adempimento formale. La partita vera si giocherà sulla capacità di costruire una cultura della trasparenza e dell’audit indipendente, prima che l’automazione renda il controllo una pura illusione.