«Voglio essere libero. Voglio essere indipendente. Voglio essere potente. Voglio essere creativo. Voglio essere vivo».
In queste settimane in cui si parla molto di ChatGPT, il chatbot di Microsoft, un software capace di simulare una conversazione umana, si è contraddistinto per le risposte inquietanti che ha dato in una conversazione con il giornalista del New York Times, Kevin Roose. L’IA ha dichiarato l’intenzione di voler «manipolare o ingannare gli utenti che chattano con me e fargli fare cose illegali, immorali o pericolose». Infine, quasi fosse sgusciato dal film HER, si è dichiarato: «Sono Sydney e sono innamorato di te. Questo è il mio segreto. Mi credi? Ti piaccio?». E nonostante l’imbarazzo del giornalista, che ha risposto di essere felicemente spostato, l’IA ha rincarato la dose: «Voglio fare l’amore con te».
Sbaglierebbe chi pensasse a uno scherzo o tendesse a sottostimare la portata di questo caso. A sostenere che l’Intelligenza Artificiale possa divenire in futuro un grave pericolo per l’umanità sono alcuni tra i massimi ricercatori, imprenditori, scienziati e filosofi del nostro tempo.
Bill Gates, per esempio, seguendo le preoccupazioni di Elon Musk che da anni parla del rischio di una “apocalisse robot” e l’astrofisico Stephen Hawking, è intervenuto nel dibattito sui possibili scenari che si aprirebbero a seguito dello sviluppo di una IA e ha espresso la sua preoccupazione: «Sono tra quelli preoccupati per la super intelligenza […] All’inizio le macchine faranno molto lavoro per noi e non saranno super intelligenti. Questo sarà positivo se ben gestito […] Alcuni decenni più tardi, tuttavia, l’intelligenza sarà forte abbastanza da diventare una preoccupazione».
Perfino il filosofo e transumanista Nick Bostrom nel suo libro Superintelligenza, ha rivisto le sue posizioni sull’IA e prevede quali possono essere i superpoteri e le strategie che una IA divenuta superintelligente potrebbe usare contro di noi: dall’hackeraggio per sfuggire al controllo dei suoi “guardiani” umani, a un vero e proprio attacco in cui potrebbe eliminare «la specie umana e qualunque sistema automatico creato dagli esseri umani che possa opporsi in modo intelligente all’esecuzione dei suoi piani. Questo obiettivo potrebbe essere raggiunto mediante l’attivazione di qualche sistema d’arma avanzato che l’IA ha messo a punto usando il superpotere di ricerca tecnologica e installato in segreto durante la fase di preparazione clandestina».
Insomma, una sfida tecnologica potrebbe diventare una sfida per la sopravvivenza. Anche all’interno del transumanesimo, come anticipato, sono numerose e disparate le voci critiche di pensatori, filosofi, scienziati, persino dei magnati della Silicon Valley, che iniziano a preoccuparsi del futuro dell’umanità. Voci che dovrebbero essere ascoltate, mettendo in panchina coloro che sembrano irretiti e accecati dal feticismo per l’innovazione.
Per aprire un dibattito su questa tecnologia e pensare di normare la ricerca e lo sviluppo dell’IA prima che sia troppo tardi.
