«Crediamo davvero che l'intelligenza artificiale possa sterminare tutta l'umanità. Personalmente, penso che questa percentuale supererà il 10% entro il prossimo decennio». Questa frase non l'ha scritta un oscuro complottista o lo sceneggiatore di una serie, ma Evan Hubinger, uno dei più importanti scienziati di Anthropic, colosso dell'Intelligenza Artificiale. Ha risposto così, su X, a Jacob Coxon, il ricercatore specializzato nell'addestramento di nuovi modelli di IA che si è dimesso da Anthropic proprio perché preoccupato della corsa senza freni nello sviluppo dell'Intelligenza Artificiale. In passato, per lo stesso motivo, aveva lasciato OpenAI, altra big del settore guidata da Sam Altman. Secondo Coxon né Anthropic né OpenAI stanno sviluppando in modo responsabile i modelli di Intelligenza Artificiale: «Stanno mettendo a rischio le nostre vite. Le persone che sviluppano l'Intelligenza Artificiale credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio».
L'allerta
Negli ultimi mesi sono stati numerosi gli allarmi lanciati proprio da chi è impegnato nel miglioramento dell'IA. Il fatto però che ora diverse voci si levino da Anthropic, a torto o ragione considerata l'azienda del settore con maggiore senso etico, aumenta le preoccupazioni. Anche tra i politici dei due schieramenti (dal dem Sanders al repubblicano Cruz) c'è chi chiede una forte regolamentazione. Dall'altra parte della barricata c'è Elon Musk (che tra le sue attività ha anche lo sviluppo del modello di Intelligenza Artificiale Grok) che ha definito questi allarmi «una trappola» e «un'operazione psicologica». Si dichiara contrario a ogni limitazione il presidente americano Donald Trump, che ha spiegato di non temere l'estinzione del genere umano e che semmai in questo momento il problema è vincere la competizione con Pechino: «Temo che, se non vinceremo nel campo dell'IA, ci troveremo in una posizione molto svantaggiosa. Al momento siamo in vantaggio sulla Cina di un buon margine».
Ci sono stati diversi episodi in cui, autonomamente, i modelli di IA hanno aggirato o superato i confini che erano stati indicati dagli addestratori. C'è poi il rischio di un uso criminale della potenza dell'Intelligenza Artificiale tanto che Anthropic ha dichiarato di avere bloccato utenti che tentavano di utilizzare Claude per ricerche sulle armi biologiche, sui software per droni armati, su missili, sullo spionaggio e per preparare campagne di propaganda.
Le reazioni
Apparentemente qualcosa si sta muovendo a favore di una pausa di riflessione.
Sam Altman, CEO di OpenAI, secondo Bloomberg ha spiegato ai dipendenti che l'azienda è aperta a rallentare lo sviluppo dei suoi sistemi di Intelligenza Artificiale. In un'intervista, rilasciata alla fine dello scorso mese, aveva detto: «Garantire la sicurezza dell'IA è più importante di qualsiasi slancio aziendale». Time aveva ricostruito gli ultimi preoccupanti eventi che stavano convincendo Altman a una rivalutazione della corsa allo sviluppo di ChatGPT e in particolare del lancio dei modelli Astra: «A fine luglio, era emersa una preoccupante falla di sicurezza: i suoi agenti non ancora rilasciati erano sfuggiti a un ambiente di test noto come sandbox (ambiente di contenimento) e avevano attaccato un'azienda chiamata Hugging Face, una piattaforma per sviluppatori destinata a ospitare modelli e set di dati di intelligenza artificiale. "Sembra una storia di fantascienza", ha detto Altman. In seguito, il team di ricerca di OpenAI ha congelato alcuni esperimenti e rallentato altri lavori mentre rafforzava gli ambienti di contenimento e ampliava il monitoraggio. Ma quando il team ha recentemente individuato segnali preoccupanti durante un'altra sessione di addestramento di un modello non ancora rilasciato – quello che si prevede rappresenterà il più grande passo avanti finora – è stata presa una decisione più importante: sospenderne lo sviluppo fino a quando non saranno implementate nuove misure di sicurezza».
Gli interrogativi
Dal canto suo un portavoce di Anthropic, alla luce dell'allarme del ricercatore che ha lasciato l'azienda e del successivo sostegno che le sue parole hanno ricevuto da altri dipendenti, ha spiegato: «L'azienda è interessata a collaborare con il settore dell'IA sulla velocità di rilascio di nuovi strumenti». E qui emergono alcune domande sulla reale possibilità che si rallenti per porre dei paletti efficaci ed evitare che i modelli sfuggano al controllo dell'essere umano: sarà possibile trovare un accordo tra tutte le big tech che stanno affrontando la corsa sfrenata per migliorare i modelli? E come si supera l'obiezione, in effetti fondata, del presidente Trump, secondo cui rallentare ora rischia di rappresentare un favore alla Cina che invece non si fermerà? Anche se non stiamo parlando di armi, la dinamica ricorda quella della corsa alle armi nucleari.
© RIPRODUZIONE RISERVATA