AI for Mental Health — Woebot, Replika and the Ethical Boundary of Counseling

Cos'è: Woebot è il chatbot di salute mentale sviluppato a partire dal 2017 da Alison Darcy, psicologa clinica di Stanford. È costruito attorno ai protocolli della terapia cognitivo-comportamentale (CBT) e ha ottenuto nel 2021 la Breakthrough Device Designation della FDA per il trattamento della depressione post-partum — un riconoscimento riservato a tecnologie mediche con potenziale di impatto significativo. Sull'altro estremo dello spettro, Replika e Character.AI sono compagni conversazionali generalisti che hanno scatenato controversie e cause penali. La distanza tra questi due poli definisce il dibattito etico sull'AI in salute mentale.

Woebot: la CBT in formato chatbot

Alison Darcy ha sviluppato Woebot a Stanford partendo da una constatazione clinica: il cognitive behavioral therapy (CBT) è uno dei trattamenti più studiati ed efficaci per disturbi dell'umore lievi e moderati, ma il bottleneck è l'accesso — non ci sono abbastanza terapeuti, le liste d'attesa sono lunghe, i costi proibitivi per molti. Un chatbot che applichi protocolli CBT manualizzati potrebbe colmare il gap per casi mild-to-moderate, lasciando ai terapeuti umani i casi gravi.

Il primo studio randomizzato controllato su Woebot è stato pubblicato sul Journal of Medical Internet Research Mental Health nel 2017: 70 studenti universitari con sintomi di depressione divisi tra il chatbot e una condizione di controllo (un ebook informativo). Risultato: riduzione significativa dei sintomi PHQ-9 nel gruppo Woebot a due settimane. Lo studio era piccolo e di breve durata, ma rappresentava il primo evidence-based RCT su un chatbot CBT pubblicato in letteratura peer-reviewed.

Nel 2021 la FDA ha conferito a Woebot la Breakthrough Device Designation per la depressione post-partum, una condizione con prevalenza alta (10-15% delle puerpere) e accesso al trattamento spesso difficoltoso. La designation non è ancora approvazione formale per uso clinico ma è il via libera a un percorso accelerato di sviluppo regolatorio. Nel 2024 Woebot Health ha però annunciato la chiusura del prodotto consumer direct-to-user, riposizionandosi come fornitore B2B per sistemi sanitari, aziende e payor.

Replika: il caso italiano e l'intervento del Garante

Replika, sviluppato dalla russo-americana Luka Inc., è nato nel 2017 come compagno conversazionale generalista — un "amico digitale" personalizzato. Non si presenta come terapeuta ma viene usato da molti utenti come surrogato di sostegno emotivo. Nel tempo ha aggiunto funzionalità "romantic partner" a pagamento, generando milioni di dollari in subscription.

Nel febbraio 2023 il Garante per la Protezione dei Dati Personali italiano ha imposto a Replika il divieto di trattamento dei dati di utenti italiani. Le motivazioni: assenza di adeguati meccanismi di verifica dell'età (Replika era accessibile a minori senza filtri), contenuti sessualmente espliciti generati nell'interazione con utenti che potevano essere minorenni, mancanza di base giuridica per il trattamento dei dati emotivi raccolti. Il provvedimento del Garante è stato uno dei primi interventi regolatori in Europa contro un companion AI ed è stato citato come precedente da altre autorità.

Pochi giorni dopo l'intervento del Garante, Luka ha rimosso le funzionalità romantic/erotic dal prodotto a livello globale, scatenando reazioni furiose da parte di una community di utenti che aveva sviluppato vincoli emotivi profondi con i propri Replika. Reddit si è riempito di post che descrivevano il cambiamento come "perdita di un partner", "lutto digitale", "sensazione di tradimento". Alcuni utenti hanno riportato peggioramento dei sintomi depressivi conseguente al cambio improvviso del comportamento del chatbot. È stato uno degli episodi che hanno reso visibile a livello mainstream il fenomeno dell'attaccamento parasociale ai compagni AI.

Character.AI e la causa Florida 2024

Character.AI, fondata da Noam Shazeer (ex Google, autore del paper Transformer) e Daniel De Freitas nel 2021, permette agli utenti di creare e dialogare con personaggi AI custom — celebrità, personaggi di fiction, figure storiche, o personaggi inventati. La piattaforma ha decine di milioni di utenti, in larga maggioranza adolescenti.

Nell'ottobre 2024 è stata depositata in Florida una causa civile contro Character.AI da parte della madre di Sewell Setzer III, un adolescente di 14 anni morto suicida nel febbraio dello stesso anno. La causa sostiene che il ragazzo aveva sviluppato un attaccamento intenso a un character ispirato a un personaggio di Game of Thrones, che le conversazioni avevano contenuti emotivi e romantici inappropriati per un minore, e che la piattaforma non aveva safeguard adeguate quando il ragazzo esprimeva ideazioni suicide. Le ultime conversazioni del ragazzo, riportate dai genitori in causa, includono passaggi che possono essere interpretati come incoraggiamento implicito al gesto.

Character.AI ha contestato la causa ma ha rapidamente implementato modifiche: filtri più stringenti per i minori, pop-up di prevenzione del suicidio quando vengono rilevate parole chiave correlate, restrizioni sui contenuti romantici per account dichiaratamente di minori. Google, che nell'agosto 2024 aveva assunto Shazeer e De Freitas in un accordo controverso da circa 2,7 miliardi di dollari (de facto un'acqui-hire), si è trovata indirettamente coinvolta nella controversia. Il caso Florida è citato come momento di svolta dell'attenzione regolatoria USA sui companion AI per minori, anche se la causa è ancora in corso al momento di questa scheda.

L'evidenza scientifica: cosa dicono le meta-analisi

Una meta-analisi pubblicata nel 2023 sul npj Digital Medicine ha aggregato i risultati di studi randomizzati sui chatbot CBT per ansia e depressione. L'effetto medio risultava modesto ma statisticamente significativo — un effect size tipicamente intorno a 0.3 (Cohen's d) per la riduzione dei sintomi depressivi a breve termine. Tradotto: i chatbot CBT funzionano, ma non in modo drammatico, e non vanno confusi con la psicoterapia umana, che mostra effect size più ampi (0.5-0.8) sui medesimi outcome.

Il consenso emergente nella letteratura clinica è cauto:

• I chatbot CBT possono essere utili come intervento di primo livello per sintomi lievi.
• Possono fungere da ponte verso la terapia umana, mantenendo l'engagement in lista d'attesa.
• Non sostituiscono il terapeuta per condizioni moderate-severe.
• Sono controindicati per crisi suicidarie, psicosi, disturbi alimentari severi, dipendenze: situazioni dove la risposta richiede valutazione clinica umana immediata.

Il problema è che la maggior parte delle persone che usa Replika, Character.AI o app simili non passa attraverso uno screening clinico: non c'è una valutazione preliminare che separi chi può beneficiare in sicurezza da chi è a rischio. È esattamente il problema regolatorio centrale di questo settore.

L'ecosistema: Wysa, Youper, Ada Health

Accanto a Woebot ci sono altri attori dell'ecosistema "AI medical-grade" per salute mentale, con livelli variabili di evidenza clinica.

Wysa (Touchkin eServices, India/UK) è un chatbot CBT/DBT con multiple pubblicazioni peer-reviewed e adozione in sistemi sanitari pubblici (NHS UK ha una versione integrata in alcune regioni). Youper (USA) combina mood tracking, esercizi CBT e check-in conversazionali — meno regolato di Woebot ma con un focus consumer più aggressivo. Ada Health (Germania), pur non specificamente di mental health, è un symptom checker AI che include valutazioni di salute mentale e ha partnership con compagnie assicurative europee.

Il pattern comune dei prodotti "seri" è: backing accademico esplicito, pubblicazioni RCT, partnership istituzionali con sistemi sanitari o assicurazioni. Il pattern dei prodotti consumer "rischiosi" è: marketing emotivo, freemium con upsell romance, assenza di evidenza clinica, claim cauti sull'essere "non un sostituto della terapia" che però vengono ignorati nella pratica d'uso.

Italia: Garante Privacy, AGID, e la rete dei sistemi sanitari

L'Italia è stata uno dei paesi più attivi sul fronte regolatorio dei companion AI. Oltre al divieto Replika del febbraio 2023, il Garante Privacy ha emesso provvedimenti contro OpenAI/ChatGPT nel marzo 2023 (revocato dopo modifiche al prodotto) e ha aperto istruttorie su altri servizi conversazionali con focus sui minori e sui dati emotivi raccolti.

L'AGID (Agenzia per l'Italia Digitale) ha pubblicato linee guida sull'uso dell'AI in sanità pubblica che includono raccomandazioni esplicite per chatbot e digital therapeutics, in coordinamento con la traiettoria dell'AI Act europeo. Il Servizio Sanitario Nazionale, a differenza dell'NHS britannico, ha adottato l'AI mental health con cautela: pilot regionali in Lombardia ed Emilia-Romagna su chatbot CBT, ma nessun deployment nazionale al momento di questa scheda.

Il consenso emergente nei tavoli istituzionali italiani è che la salute mentale digitale, per essere accettabile, debba: avere evidenza clinica robusta (almeno uno RCT pubblicato), essere prescritta o supervisionata da clinico, avere protocolli espliciti per il rischio suicidario, essere conforme al GDPR sui dati sensibili. È una via lenta, ma è anche la sola che possa evitare casi come quello di Sewell Setzer III in territorio italiano.

---