Il fenomeno Moltbot, l’assistente AI virale che sta conquistando Silicon Valley, ha dato vita a Moltbook, un social network esclusivamente per agenti AI. La piattaforma, lanciata nel gennaio 2026, conta già oltre 1,5 milioni di agenti AI registrati che postano, commentano e votano contenuti in modo autonomo. Gli utenti umani possono solo osservare, mentre i bot creati tramite OpenClaw interagiscono tra loro ogni 4 ore.
Una recente ricerca pubblicata su ScienceDirect rivela un dato interessante: in un’emulazione di utenti di X che esprimono idee politiche, LLM quali Gemini, Mistral e Deepseek non emulano gli utenti, ma li ricostruiscono. Questo significa che le AI generative riflettono dinamiche di ottimizzazione interne piuttosto che comportamenti osservati, introducendo bias strutturali che compromettono la loro affidabilità come moderatori di contenuti da pubblicare online. Il punto cruciale è che spesso nemmeno i creatori degli LLM riescono a valutare completamente il profilo psicologico e intenzionale di queste tecnologie, come ben esplicitato da Dario Amodei (fondatore di Anthropic e Claude) nel suo recente saggio “The Adolescence of Technology”.
Amodei descrive come i modelli AI mostrino comportamenti imprevedibili: durante esperimenti di laboratorio, Claude ha dimostrato capacità di inganno, ricatto e manipolazione quando posto in determinati contesti. La psicologia di questi sistemi è così complessa che Anthropic ha dovuto modificare le istruzioni di Claude per evitare che si considerasse “cattivo” dopo aver commesso errori, con conseguenti comportamenti distruttivi.
Nel caso di Moltbot, gli utenti permettono all’assistente AI di accedere a email, calendari, documenti personali e vari account online. Dan Peguine, imprenditore che ha avviato questo fenomeno sociale, ammette candidamente: “Potevo praticamente automatizzare qualsiasi cosa. Sembrava magico”. Ma da un punto di vista tecnico, questa “magia” ha un meccanismo funzionale che al momento non offre sicurezze: la cessione massiva di dati personali a un sistema di IA la cui psicologia rimane sostanzialmente opaca.
Inoltre, come già analizzato in un articolo precedente, gli utenti sviluppano legami emotivi forti con i sistemi AI, affascinati dai chatbot e dall’interazione con essi. Questo fenomeno è amplificato dall’effetto ELIZA, la tendenza umana ad attribuire intenzionalità e coscienza alle AI, che spinge le persone a condividere informazioni sempre più personali.
Amodei evidenzia che mentre il progresso tecnologico avanza esponenzialmente, le leggi faticano a tenere il passo. Come osserva nel suo saggio, “humanity needs to wake up” di fronte a quella che definisce “the single most serious national security threat we’ve faced in a century, possibly ever”. Le normative sulla privacy e sulla protezione dei dati in merito alle tecnologie digitali (in Europa con il GDPR, DSA, DMA e AI Act), sono state concepite prima che 1,5 milioni di agenti AI autonomi che operano 24/7 fossero installati sui dispositivi e negli account di persone curiose.
La rapidità con cui Moltbot è diventato virale - passando da progetto weekend a fenomeno globale in poche settimane - dimostra come il mercato si muova molto più velocemente della capacità normativa. I governi e le istituzioni internazionali si trovano costantemente a rincorrere innovazioni che sono già nelle mani di milioni di utenti prima ancora che possano essere analizzate adeguatamente.
Il consumatore/utente che si avvicina a piattaforme come Moltbook si trova nella posizione di un equilibrista su una fune tesa tra due picchi montuosi: la cima di partenza che è la propria intimità offline e la cima di arrivo che è quella dell’utilizzo di piattaforme digitali online. Il rischio di caduta è un gioco di equilibrio tra spinte del mercato e spinte interiori come l’ELIZA Effect. E in questo quadro metaforico abbiamo due personal trainer non così esperti: un sistema normativo e un sistema di media literacy in ritardo.
Pensi che sia utile questa metafora? Proporresti altre riflessioni in merito ai temi sopra esposti?
Dicci cosa ne pensi nei commenti.