Il Garante sanziona Character.AI: 158.000 euro e nuove regole per i chatbot con i minori

Il Garante sanziona Character.AI: 158.000 euro e nuove regole per i chatbot con i minori

La parte più incisiva del provvedimento non è la sanzione economica ma il pacchetto di misure correttive. Character Technologies ha 120 giorni dalla ricezione dell’atto per dimostrare all’Autorità di aver corretto tre punti precisi. Primo: il corretto funzionamento dei sistemi di verifica dell’età, il passaggio dove quasi tutti i servizi consumer falliscono, perché una casella con la data di nascita autodichiarata non verifica nulla. Secondo: l’efficacia del cosiddetto periodo di raffreddamento, il meccanismo che impedisce a un minore bloccato di aggirare lo stop creando subito un nuovo account con un’età diversa. Terzo: i profili dei minori dovranno essere impostati in modalità privata per impostazione predefinita, invertendo la logica abituale delle piattaforme, dove la visibilità è il default e la riservatezza un’opzione da cercare nei menu. È la privacy by default dell’articolo 25 GDPR applicata a un chatbot relazionale. Sulla carta esisteva dal 2018. Adesso ha una scadenza sul calendario di un’azienda specifica. Resta aperta la domanda tecnica: come si verifica l’età senza schedare tutti? Le strade praticabili sono note e nessuna è indolore. Il documento d’identità caricato in piattaforma è affidabile ma invasivo e crea un archivio di dati sensibili appetibile per chiunque voglia violarlo. La stima dell’età dal volto è meno intrusiva ma imprecisa proprio nella fascia critica tra i 13 e i 17 anni. I servizi di verifica di terza parte spostano il problema invece di risolverlo. La Commissione Europea ha proposto la sua risposta nel luglio 2025 con il progetto pilota di un’app di verifica dell’età a doppio anonimato, sperimentata da un gruppo di Stati membri tra cui l’Italia: il sito sa solo che l’utente è maggiorenne o minorenne, senza sapere chi è; il fornitore dell’app sa chi è l’utente, senza sapere quali siti visita. Il provvedimento del Garante arriva quindi in un momento in cui gli strumenti per adempiere esistono, o stanno per esistere. L’alibi dell’impossibilità tecnica si sta esaurendo. Il termine di 120 giorni merita attenzione anche per un’altra ragione: sposta il baricentro dell’azione del Garante dalla punizione alla riprogettazione. Non basta pagare, bisogna cambiare il prodotto. Per un servizio il cui modello di business dipende dal tempo di permanenza degli utenti, alcune di queste modifiche costano più della multa.