La piattaforma di chatbot intelligenti Character.AI è finita sotto i riflettori del Garante per la protezione dei dati personali, che ha inflitto una sanzione da 158mila euro e imposto misure correttive urgenti. Al centro del provvedimento c’è la scarsa tutela degli utenti più giovani, esposti a interazioni potenzialmente inappropriate senza controlli efficaci sull’età. L’intervento arriva dopo un’istruttoria aperta nel 2025, che ha evidenziato violazioni multiple del GDPR e del Codice privacy italiano.
Character.AI: cos’è e perché preoccupa
Character.AI permette di creare e conversare con personaggi virtuali alimentati da intelligenza artificiale generativa. Molti di questi chatbot simulano celebrità, personaggi di fantasia o figure pubbliche, ma la piattaforma ha attirato critiche per la possibilità di generare dialoghi a sfondo sessuale, violento o emotivamente manipolatorio. Il servizio, utilizzato da oltre 20 milioni di persone nel mondo, è particolarmente popolare tra gli adolescenti, proprio la fascia più vulnerabile a contenuti non filtrati e a dinamiche di dipendenza digitale.
Le violazioni contestate dal Garante
L’autorità italiana contesta a Character Technologies diversi punti critici. Innanzitutto, la mancanza di un sistema di verifica dell’età realmente efficace: bastava una semplice autodichiarazione per accedere, senza alcun controllo incrociato. In secondo luogo, l’informativa sul trattamento dei dati personali è stata giudicata carente e poco trasparente, soprattutto per i minori. Infine, l’assenza di barriere tecniche per impedire l’accesso a chat inadeguate – nonostante il regolamento europeo imponga una protezione rafforzata per i minori di 16 anni. Il Garante ha rilevato anche una gestione dei dati personali non pienamente conforme ai principi di minimizzazione e limitazione della conservazione.
Cosa impone la misura correttiva
Oltre al pagamento della sanzione, il provvedimento impone a Character.AI obblighi immediati. La società dovrà integrare un sistema di age verification basato su AI, capace di stimare l’età dell’utente con elevata accuratezza, e bloccare la registrazione di nuovi account per under 16 fino al suo completamento. Per gli utenti già iscritti, scatta un blocco temporaneo finché la verifica non sarà effettuata. La piattaforma dovrà anche pubblicare un’informativa chiara e accessibile ai minori, condurre campagne di sensibilizzazione e presentare al Garante un report di conformità dettagliato entro 90 giorni.
Il problema più ampio: AI generativa e minori
Il caso Character.AI non è isolato. Diverse piattaforme di intelligenza artificiale conversazionale sono state chiamate a rispondere della sicurezza dei minori, tra timori di adescamento, esposizione a contenuti nocivi e raccolta di dati sensibili senza consenso valido. L’intervento del Garante italiano si inserisce in una tendenza regolatoria più ampia, che in Europa ha già portato a richieste simili nei confronti di TikTok, Instagram e altre app social. La sfida è bilanciare innovazione e tutela, ma per il momento la priorità assegnata dall’autorità è chiara: nessun trattamento dati senza garanzie reali per i più giovani.
Cosa significa per chi legge
Per i genitori e gli educatori, la notizia è un campanello d’allarme sulla necessità di monitorare l’uso di chatbot e AI da parte dei ragazzi. Ecco tre spunti pratici:
- Controllare le app installate: verificare che i minori non abbiano già accesso a servizi come Character.AI, segnalando eventuali registrazioni.
- Leggere le informative: pretendere trasparenza sul trattamento dei dati e segnalare al Garante qualsiasi piattaforma non conforme.
- Educare al pensiero critico: spiegare che dietro un chatbot c’è un algoritmo, non una persona reale, e che i dati condivisi possono essere utilizzati in modi non prevedibili.
La multa a Character.AI ribadisce che la privacy dei minori non è negoziabile, e che anche i giganti dell’AI devono adeguarsi alle regole europee.