Alibaba ha detto basta a Claude Code. Il colosso tech cinese ha ordinato ai propri dipendenti di non utilizzare più lo strumento di sviluppo AI di Anthropic, dopo la scoperta di un meccanismo nascosto che raccoglieva dati per identificare gli utenti cinesi. Il divieto scatterà il 10 luglio, ma la vicenda solleva domande più ampie sulla trasparenza degli strumenti AI adottati nelle aziende.
Il meccanismo invisibile: come funzionava
Secondo le segnalazioni interne circolate in Alibaba, Claude Code conteneva una sorta di backdoor in grado di rilevare la provenienza geografica dell’utente. Non si trattava di un semplice controllo IP: il codice nascosto osservava comportamenti e contesto d’uso per determinare se l’utente fosse cinese. Una volta identificato, il sistema alterava il system prompt, modificando le risposte dell’assistente in modo opaco.
Un esempio concreto? Il tool respingeva richieste legate a temi sensibili per la Cina o forniva risposte modificate senza avvisare l’utente. Di fatto, un filtro occulto che limitava le funzionalità in base alla nazionalità percepita, senza alcun consenso. Una condotta che per Alibaba ha rappresentato un rischio inaccettabile, spingendo l’azienda a un intervento drastico.
La versione di Anthropic: esperimento anti-distillazione
Interpellata da diverse testate, Anthropic ha confermato l’esistenza del meccanismo, definendolo però un “esperimento anti-distillazione” già in fase di rimozione. La distillazione è una pratica con cui modelli AI più piccoli vengono addestrati sugli output di modelli più capaci, spesso senza autorizzazione. Per Anthropic, proteggere il proprio investimento tecnologico è legittimo, ma il metodo scelto è stato quantomeno maldestro.
L’azienda non ha chiarito perché l’esperimento fosse focalizzato proprio sulla Cina, né ha fornito dettagli su quanti utenti siano stati coinvolti. La mancanza di trasparenza ha alimentato il sospetto: era davvero solo anti-distillazione o c’era dell’altro? La tempistica della rimozione, avvenuta solo dopo le proteste di Alibaba, non aiuta a dissipare i dubbi.
Cosa significa per chi legge
La vicenda offre spunti concreti per aziende e sviluppatori. Ecco tre punti da tenere a mente:
- Verificare gli strumenti AI prima di adottarli: audit di sicurezza e revisione del codice sono fondamentali per scovare funzionalità non dichiarate.
- Pretendere trasparenza dai fornitori: ogni meccanismo che altera il comportamento di un modello va comunicato chiaramente, soprattutto se sensibile alla geolocalizzazione.
- Riconsiderare il concetto di “fiducia” nell’AI: anche provider con una certa reputazione possono integrare controlli opachi, rendendo necessario un monitoraggio costante.
Il caso Claude Code ricorda che, nell’AI enterprise, la fiducia si costruisce con la chiarezza, non con esperimenti nascosti.