Il grande uso delle IA generative da parte dei giovani è argomento di dibattito, soprattutto a seguito del suicidio di Adam Raine, i cui genitori hanno avviato una causa contro OpenAI. L’utilizzo dei principali LLM (ChatGPT, Claude, Gemini e Copilot) come supporto psicologico o come compagni di chat sta dilagando: il 72% degli adolescenti negli USA utilizza le IA generative come supporto emotivo, mentre in Italia non ci sono dati recenti che precisano tale aspetto, ma comunque confermano il largo uso delle IA tra studenti e adolescenti.
Il tema è spinoso, al punto che né i governi, né gli sviluppatori di tali app hanno ancora chiaro come affrontare il rapporto tra esseri umani e queste tecnologie.
Il 26 agosto, in contemporanea con la notizia della causa mossa dalla famiglia Raine, esce anche un comunicato di OpenAI sui limiti di ChatGPT e sulle misure che intendono apportare in futuro nella loro piattaforma. Tra i vari propositi che vengono elencati c’è l’inserimento di uno strumento di parental control.
Sempre il 26 agosto viene pubblicata una ricerca di vari studiosi edito da Psychiatric Services che denota i limiti dei LLM nel gestire comunicazioni sul tema del suicidio. Tale studio mostra il problema dell’inaffidabilità di tali app nell’affrontare temi delicati inerenti la vita personale ed emotiva delle persone, poiché le IA generative non sono ancora in grado di capire efficacemente se la comunicazione innescata con l’utente è a rischio o meno (soprattutto quando le chat diventano lunghe, come dichiarato dalla stessa OpenAI).
Con la media education si propone da sempre un uso consapevole e critico delle tecnologie digitali, in quanto possono essere strumenti incredibilmente potenti anche per chi ha problemi della sfera emotiva. Al momento un progetto istituzionale di alfabetizzazione digitale sulle IA non esiste e le risposte in merito sono gestite direttamente da chi progetta tali piattaforme. I genitori e tutte le figure educative sono lasciate in balia degli eventi e molto spesso non si sentono sicure su come affrontare queste tecnologie digitali nuove e sorprendenti.
In questo clima complesso, uno strumento di parental control in ChatGPT può servire ai genitori di adolescenti che ne fanno uso? Oppure no?
Dicci cosa ne pensi nei commenti.