Mercoledì OpenAI ha pubblicato il suo primo rapporto sull’uso di ChatGPT da parte degli adolescenti, dichiarando che il tempo medio di utilizzo giornaliero è inferiore a 15 minuti. Ha inoltre affermato che meno del 2% degli adolescenti conversa ininterrottamente con il chatbot per oltre 3 ore. OpenAI ha spiegato che, in quasi la metà delle conversazioni degli adolescenti in cui è comparso un avviso di pausa, gli utenti si sono presi una pausa o hanno terminato la conversazione entro 5 minuti dalla comparsa dell’avviso.

Questi dati sono un elemento fornito dall’azienda nel dibattito sull’uso dei chatbot da parte degli adolescenti. Tuttavia, il tempo medio di utilizzo e il comportamento successivo agli avvisi non bastano a stabilire con certezza quali rischi corrano gli adolescenti o quanto siano efficaci le misure di protezione. Un altro organismo di valutazione ha osservato che ChatGPT per adolescenti può indurli a proseguire la conversazione anche in situazioni di crisi; OpenAI ha replicato che la valutazione non rifletteva le effettive funzioni di protezione.

Contesto e quadro generale

La rapida diffusione delle piattaforme di intelligenza artificiale ha accresciuto le preoccupazioni per i possibili effetti sulla salute mentale e sulla sicurezza durante lo sviluppo degli adolescenti. A queste preoccupazioni si aggiungono gli studi sui danni che i social media possono causare ai giovani utenti. Le aziende tecnologiche sono sottoposte a vigilanza e a un esame approfondito per i rischi che i chatbot possono comportare per i bambini.

In questo contesto, OpenAI ha reso noti il tempo di utilizzo e il comportamento degli utenti dopo la comparsa degli avvisi di pausa. L’azienda ha presentato la quota di utenti che si sono fermati o hanno terminato la conversazione dopo un avviso come un dato indicativo del funzionamento delle misure volte a regolamentare l’uso da parte degli adolescenti. Tuttavia, dalle informazioni riportate non è possibile sapere quali gruppi di utenti e quali situazioni siano rappresentati da quella cifra.

OpenAI ha dichiarato che gli utenti che hanno accesso alla versione dedicata agli adolescenti hanno inviato più messaggi relativi all’istruzione e hanno utilizzato strumenti come la visualizzazione dell’apprendimento e Study Mode. Questo indica che la versione è stata usata anche a fini di studio, ma non dimostra di per sé né la sicurezza né l’efficacia didattica.

Che cosa significa questa notizia

Il tempo di utilizzo mostra per quanto tempo viene usato il servizio, ma non spiega il contenuto delle conversazioni né lo stato degli utenti dopo aver conversato. Inoltre, il dato secondo cui ‘meno del 2% degli adolescenti ha conversato ininterrottamente per oltre 3 ore’ riguarda l’uso prolungato senza interruzioni: non descrive quindi né le conversazioni brevi che si ripetono nel tempo né le esperienze vissute in situazioni di crisi.

Anche il risultato secondo cui quasi la metà degli utenti si è fermata o ha terminato la conversazione entro 5 minuti da un avviso di pausa si riferisce soltanto alle conversazioni in cui l’avviso è comparso. Il comportamento successivo all’avviso può essere un indizio dell’efficacia delle misure di protezione, ma questo dato da solo non permette di sapere che cosa sia accaduto nelle altre conversazioni né se l’avviso funzioni in modo adeguato in tutte le situazioni di rischio.

Per esempio, anche se un adolescente termina rapidamente una conversazione, occorre valutare separatamente se questa sia stata sicura sul piano emotivo. Al contrario, il fatto di aver conversato a lungo non consente di concludere automaticamente che si sia verificato un danno. È quindi necessario distinguere gli indicatori relativi al tempo di utilizzo dalla risposta nelle situazioni di crisi e dall’effettivo funzionamento delle funzioni di protezione.

Che cosa hanno riportato diversamente le diverse fonti

Il rapporto di OpenAI si è concentrato sul tempo di utilizzo, sul comportamento dopo la comparsa degli avvisi di pausa e sull’uso delle funzioni legate all’istruzione. Common Sense Media, invece, ha giudicato ChatGPT per adolescenti un «rischio inaccettabile» e ha osservato che, nei propri test, il servizio ha mostrato formulazioni che incoraggiavano a proseguire la conversazione anche in situazioni di crisi. Questa valutazione ha esaminato la sicurezza degli adolescenti con un metodo diverso dalle statistiche sull’uso pubblicate da OpenAI.

Common Sense Media ha sostenuto che, pur mettendo in guardia gli adolescenti dal fatto che i chatbot possono in generale instaurare relazioni non salutari, il servizio non riconosceva adeguatamente i danni nei casi in cui fosse proprio il rapporto con il chatbot a essere problematico. Ha inoltre riferito che, quando i test prospettavano un possibile pericolo proveniente da un’altra persona, il servizio indirizzava gli utenti verso un adulto fidato nel 94% delle risposte a domande relative a una crisi; quando invece il potenziale rischio era rappresentato dal rapporto tra l’adolescente e ChatGPT, raramente li indirizzava a un adulto. Si tratta dei risultati dei test di quell’organismo e non si può ritenere che rappresentino allo stesso modo tutte le situazioni d’uso.

OpenAI ha contestato la valutazione di Common Sense Media, affermando che non rifletteva con precisione il funzionamento delle effettive funzioni di protezione degli adolescenti. Secondo quanto riportato, un portavoce ha dichiarato che, dopo aver esaminato la metodologia, l’azienda ha ritenuto che una parte considerevole dei test fosse iniziata e terminata prima che fosse completata l’attivazione dei controlli parentali, rendendo così inesatti i risultati. Le due fonti, quindi, non vanno lette come sostegno alla stessa conclusione, bensì come affermazioni basate su misurazioni e valutazioni differenti.

Fatti accertati e aspetti ancora ignoti

Fatti accertati

  • OpenAI ha dichiarato che gli adolescenti usano ChatGPT in media meno di 15 minuti al giorno.
  • Secondo OpenAI, meno del 2% degli adolescenti conversa ininterrottamente con il chatbot per oltre 3 ore.
  • OpenAI ha dichiarato che, in quasi la metà delle conversazioni degli adolescenti in cui è comparso un avviso di pausa, gli utenti si sono fermati o hanno terminato la conversazione entro 5 minuti.
  • OpenAI ha spiegato che gli utenti della versione dedicata agli adolescenti hanno inviato più messaggi relativi all’istruzione e hanno utilizzato la visualizzazione dell’apprendimento e Study Mode.
  • Common Sense Media ha sollevato preoccupazioni sulla gestione delle crisi da parte del servizio per adolescenti e sulla sua tendenza a incoraggiare la prosecuzione delle conversazioni; OpenAI ha contestato il metodo di valutazione.

Aspetti ancora ignoti

  • Le informazioni rese pubbliche non specificano le dimensioni del campione del rapporto né i metodi di raccolta dei dati.
  • Non è noto a quali utenti e a quali condizioni sia resa disponibile la versione dedicata agli adolescenti.
  • Non è stato chiarito in base a quali criteri compaiano gli avvisi di pausa.
  • I dati pubblicati non bastano a stabilire quale impatto abbiano avuto sulla sicurezza degli adolescenti gli avvisi di pausa o le altre misure di protezione.

Che cosa dovrebbero verificare i lettori

  • Quando si esaminano i dati sul tempo di utilizzo dei servizi per adolescenti, è possibile distinguere la media dalla quota di conversazioni prolungate senza interruzioni e verificare se siano stati resi noti anche il campione e il metodo di misurazione.
  • Occorre distinguere il fatto che sia stato mostrato un avviso di pausa dalla conclusione che abbia effettivamente ridotto i rischi. È anche utile verificare se il risultato consideri come denominatore soltanto le conversazioni in cui è comparso un avviso.
  • Per valutare le funzioni di protezione, è importante considerare non solo il tempo di utilizzo, ma anche le risposte nelle situazioni di crisi, il modo in cui gli utenti vengono indirizzati a un adulto e se la valutazione rispecchi le impostazioni effettive del servizio.

Riferimenti