L’amministratore delegato di OpenAI, Sam Altman, è sempre più protagonista di news e gossip.
Cosa c’è dietro il suo licenziamento, la minaccia di dimissioni di 700 dipendenti, e il suo ritorno?
OpenAI è un soggetto di ricerca non profit, a cui è collegata una società: entrambe sono basate negli Stati Uniti e sono dedicate allo sviluppo di tecnologie di Intelligenza Artificiale.
Il modello di direzione e remunerazione di OpenAI è peculiare: gli investitori finanziano il soggetto commerciale, da cui si attendono un ritorno economico.
La loro remunerazione è però limitata (“capped”): la differenza tra il loro profitto e quello complessivamente generato va ad alimentare la parte non profit del gruppo.
Il board che governa lo sviluppo di entrambe è innestato nel soggetto di ricerca: in questo modo, si intende, la parte filantropica ha un incentivo a spingere l’innovazione della parte commerciale, ma la governa tenendo fede ai propri principi etici .
Questo approccio si basa sul cd. effective altruism movement, che cerca di massimizzare l’effetto leva dei fondi filantropici per ottenere il massimo beneficio possibile.
Il movimento ha subìto qualche crepa di credibilità a causa di un progetto deragliato in una frode, ma in generale si basa sull’idea di sostenere le decisioni della filantropia, che, si dice, spesso sono più spostate sui desiderata dei donatori, invece che su aree rilevanti ma trascurate.
Le speculazioni intorno alle vicende di OpenAI risiedono proprio intorno al controllo etico degli investimenti, e in particolare alle conseguenze a lungo termine dell’AI: si dice, cioè, che il board abbia temuto che i progressi dell’IA abbiano avuto un’accelerazione molto rapida, capace di portare nel mondo una superintelligenza troppo avanzata prima che fossimo preparati a utilizzarla.
Il testo che segue offre un’analisi delle contraddizioni, preoccupazioni etiche e di sicurezza, della vicenda e della capacità di indirizzare l’innovazione nella nostra società.