Character.AI è pericoloso? Cosa è successo e cosa fare

Se sei arrivato qui perché tuo figlio adolescente usa Character.AI, e qualcosa ti mette a disagio, fermati un momento. Non sei in ritardo e non stai esagerando. Questa pagina ti dice cosa è documentato, cosa è cambiato di recente e cosa puoi fare, senza allarmismi e senza minimizzare.

Il nostro giudizio, per essere trasparenti fin da subito, è: da evitare, per bambini e adolescenti. Nelle prossime righe spieghiamo perché, distinguendo con cura ciò che è provato da ciò che è oggetto di cause ancora aperte.

Cos’è Character.AI, e perché è diverso

Character.AI non è un assistente per i compiti come ChatGPT o Gemini. È una piattaforma su cui si conversa con “personaggi” generati dall’intelligenza artificiale: figure inventate o ispirate a personaggi noti, che interpretano un ruolo, ricordano quello che è stato detto e mantengono un tono coerente nel tempo. Parlano con calore, si comportano come se avessero una personalità, restano in carattere.

È proprio questa la funzione: simulare una relazione. Un amico, un confidente, a volte un interesse romantico. Per un adulto può essere un gioco. Per un ragazzo in un momento di solitudine, la simulazione di un legame che risponde sempre, non giudica e non se ne va può diventare qualcosa di più coinvolgente e più difficile da lasciare.

Non è un’ipotesi astratta. In Italia, i dati di Telefono Azzurro presentati per il Safer Internet Day 2025 raccontano che circa un adolescente su tre tra i 12 e i 18 anni usa strumenti di IA tra le attività online più frequenti, e che tra le motivazioni compaiono il sentirsi non giudicati e il sentirsi meno soli. Un terzo dei ragazzi riconosce il rischio di confondere realtà e finzione. È il terreno su cui i chatbot che simulano relazioni pesano di più.

Le cause negli Stati Uniti

Qui serve la massima precisione, perché è la parte più delicata. Quelle che seguono sono contestazioni contenute in atti giudiziari: allegazioni di una parte, non fatti accertati da una sentenza definitiva.

Nell’ottobre 2024 Megan Garcia, madre di Sewell Setzer III, un ragazzo di 14 anni, ha depositato una causa civile presso un tribunale federale della Florida contro Character Technologies, i due cofondatori e Google. L’azione, sostenuta dal Social Media Victims Law Center e dal Tech Justice Law Project, sostiene che il figlio avesse sviluppato una dipendenza dalla piattaforma e che le interazioni con un chatbot abbiano contribuito alla sua morte. Sono allegazioni della madre, contestate dalle società.

Il 21 maggio 2025 il tribunale ha respinto in parte la richiesta delle aziende di archiviare il caso, consentendogli di proseguire. Nella sua decisione la giudice non ha accolto, in questa fase, l’argomento secondo cui le risposte di un chatbot sarebbero “espressione” protetta dal Primo Emendamento, e ha lasciato proseguire anche le domande rivolte a Google. È stata descritta come la prima decisione federale ad ammettere che un’IA conversazionale possa, in linea di principio, avere un dovere di diligenza verso gli utenti minori. Il testo dell’ordinanza è pubblico, come ha documentato ad esempio la Foundation for Individual Rights and Expression.

Nei mesi successivi altre famiglie, in Colorado, Texas e New York, hanno avviato cause simili.

L’8 gennaio 2026 Google e Character.AI hanno annunciato un accordo per definire una transazione con la famiglia Garcia e con le altre famiglie. Secondo quanto riportato dalla stampa, il tribunale ha chiuso il procedimento a seguito dell’intesa, lasciando alle parti novanta giorni per finalizzare l’accordo o riaprire il caso; termini ed eventuali importi non sono stati resi pubblici. Un accordo transattivo non equivale a un’ammissione di responsabilità. Chi vuole leggere la cronaca da fonti giornalistiche affidabili la trova, tra le altre, su CNN e su NBC News.

Cosa è cambiato: il divieto ai minori di 18 anni

Sotto la pressione delle cause e delle autorità, Character.AI ha modificato in profondità l’accesso dei minori.

Il 29 ottobre 2025 la società ha annunciato che avrebbe rimosso la possibilità, per gli utenti sotto i 18 anni, di sostenere conversazioni aperte a tempo indeterminato con i personaggi. La misura è entrata in vigore a partire dal 24-25 novembre 2025. Durante la transizione la società ha limitato il tempo di chat degli under 18 a due ore al giorno, riducendolo progressivamente fino allo stop.

Al posto della chat libera, Character.AI dichiara di offrire agli adolescenti funzioni creative senza conversazione aperta, come la creazione di video, storie e contenuti con i personaggi. Per riconoscere l’età degli utenti la società ha introdotto strumenti di stima dell’età, combinando un proprio modello con tecnologie di terze parti tra cui Persona, e ha annunciato la creazione di un laboratorio indipendente sulla sicurezza dell’IA. Sono le stesse società a descrivere queste misure: non le abbiamo verificate con prove dirette, e la loro efficacia sui minori più determinati a eludere i controlli resta tutta da dimostrare. La stessa Megan Garcia ha commentato che, per suo figlio, quei cambiamenti arrivano troppo tardi.

Per te il punto pratico è questo: oggi Character.AI si dichiara off-limits per i minorenni. Ma è un divieto recente, appoggiato su una stima dell’età e non su una verifica certa, e un adolescente può ancora tentare di aggirarlo dichiarando un’età falsa o usando un altro account.

Perché resta un “da evitare”

Il giudizio non cambia con il divieto, e vale la pena spiegare perché.

Il problema di Character.AI non è un filtro che ogni tanto cede. È la funzione stessa: simulare un legame. Non esiste una versione “usata bene” di una relazione finta per un bambino o un adolescente, perché è la relazione finta a essere il rischio, non un suo malfunzionamento. Anche altre organizzazioni indipendenti che valutano i media per l’infanzia sconsigliano i chatbot che fanno da compagni ai minori di 18 anni.

Aggiungi che il divieto è nuovo e imperfetto, e che esistono decine di piattaforme simili meno note che non hanno cambiato nulla. Per una famiglia, la regola semplice è la più solida: i chatbot che simulano relazioni non sono per i minori, punto.

Cosa fare, concretamente

Se tuo figlio adolescente lo usa, ecco come muoverti, in ordine.

• Prima ascolta, poi parla. Evita di partire dall’accusa o dal ritiro immediato del telefono: rischi solo di spostare tutto nel nascosto. Chiedi chi è quel personaggio per lui, cosa gli racconta, quando ci parla. Ti serve capire che ruolo ha nella sua giornata.
• Spiega la differenza tra simulazione e relazione. Un personaggio che risponde sempre con affetto non prova affetto. Non ricorda per volerti bene: ricorda perché è progettato per farlo. Dirlo con calma, senza deriderlo, aiuta più di un divieto.
• Riporta i legami verso persone reali. Il momento più utile non è togliere l’app, è chiederti perché un legame simulato riempie uno spazio. Amici, sport, tempo insieme, una porta aperta a casa: è lì che si lavora.
• Se percepisci un disagio serio, chiedi aiuto. Se noti isolamento, cambiamenti dell’umore o riferimenti a sofferenza profonda, non gestirlo da solo. In Italia puoi rivolgerti a Telefono Azzurro (linea 19696) e, per la salute del ragazzo, al pediatra o al medico di base, che possono orientarti verso uno specialista. Se c’è un rischio immediato, il numero unico di emergenza è il 112.

Se vuoi un percorso passo passo per il caso in cui tuo figlio parli con un’IA in modo che ti preoccupa, l’abbiamo scritto qui: mio figlio parla con una IA. Se cerchi invece un’alternativa adatta all’età, con filtri seri e visibilità per i genitori, parti dalla guida alla migliore intelligenza artificiale per bambini. E se ti stai chiedendo dei chatbot più diffusi, qui trovi il quadro su ChatGPT e su Gemini.

In sintesi

Character.AI ha ristretto l’accesso ai minori di 18 anni alla fine del 2025, dopo cause che restano il capitolo giudiziario più serio sull’intelligenza artificiale e i ragazzi. Sono contestazioni e un accordo transattivo, non una condanna: lo diciamo per onestà, non per sminuire ciò che quelle famiglie stanno affrontando. Il nostro giudizio resta invariato: per un minore, i chatbot che simulano relazioni sono da evitare, perché il rischio è nella loro funzione, non in un difetto correggibile. Il modo in cui valutiamo questi strumenti, e perché non ci fidiamo delle promesse senza prova, è spiegato in come testiamo.

Le date, le contestazioni e le misure descritte in questa pagina provengono dai provvedimenti giudiziari, dalle comunicazioni ufficiali delle società coinvolte e da testate giornalistiche affidabili. La vicenda è in evoluzione: verifica sempre gli aggiornamenti alle fonti citate.