Dopo quelle di Coxon le previsioni apocalittiche di un ex ingegnere di ricerca di Google DeepMind. Che si occupava dell'allineamento dei modelli ai valori umani
«Credo sinceramente che l’Intelligenza Artificiale abbia il potenziale di ucciderci tutti e che forse sia troppo tardi per evitarlo». La previsione apocalittica è di Bilal Chughtai, ingegnere di ricerca che a luglio ha lasciato Google DeepMind, dove si occupava di sicurezza e allineamento (dei modelli ai valori umani). Secondo Chughtai l’Ia sta diventando più potente e più difficile da controllare. Oggi l’ingegnere collabora con BlueDot Impact, un’organizzazione no-profit dedicata alla formazione sull’intelligenza artificiale.
L’Intelligenza artificiale contro l’umanità
Le parole di Chughtai fanno eco a quelle di Jacob Coxon, dimessosi da Anthropic ed ex OpenAi. Oggi le riporta l’agenzia France Presse. L’ex Google cita l’incidente verificatosi a luglio presso OpenAI, durante il quale alcune IA sono uscite spontaneamente dal loro ambiente confinato nel corso di alcuni test, avventurandosi su Internet e penetrando in siti e piattaforme. A suo avviso, l’episodio dimostra che l’IA può ormai sfuggire alla supervisione dei suoi sviluppatori «e compiere azioni pericolose che potrebbero portare a una perdita definitiva di controllo (da parte degli esseri umani) o alla fine dell’umanità».
L’allineamento
«Non siamo sulla strada giusta per padroneggiare l’allineamento», sostiene, riferendosi alla gestione dei modelli affinché si comportino secondo le volontà umane e in linea con i loro principi. «Le capacità dell’IA più avanzata migliorano a una velocità ben superiore a quella della nostra comprensione dell’allineamento», sottolinea il matematico di formazione. Gli eventi citati da Bilal Chughtai, insieme all’avvento del miglioramento ricorsivo autonomo (RSI) – un processo attraverso il quale l’IA si perfeziona da sola senza intervento umano – hanno spinto molti professionisti e dirigenti del settore a intervenire pubblicamente sulla questione.
Rallentare lo sviluppo
Il numero uno di Anthropic, Dario Amodei, ha chiesto di rallentare il ritmo di sviluppo dell’IA; una proposta giustificata, a suo avviso, dagli stessi eventi citati da Chughtai. Il CEO di OpenAI Sam Altman, il presidente di Google DeepMind Demis Hassabis ed Elon Musk hanno tutti sostenuto pubblicamente questa iniziativa. Donald Trump ha definito “bufale” gli avvertimenti sui rischi legati all’IA. «L’uso di queste parole e di queste previsioni è allarmante, inquietante e non dovrebbe avvenire. È irresponsabile», ha commentato Jensen Huang, CEO del colosso dei chip Nvidia. «Queste previsioni scientifiche (…) non si basano sulla scienza».
Altman: il mondo abbia fiducia
Sam Altman, numero uno di OpenAI, ritiene invece che le persone dovrebbero avere maggiore fiducia nella sua azienda – e in altre realtà simili – affinché agiscano correttamente nello sviluppo dell’intelligenza artificiale (IA), nonostante le crescenti preoccupazioni dell’opinione pubblica riguardo ai rischi connessi. «Il mondo dovrebbe confidare nel fatto che faremo la cosa giusta proprio perché è la cosa giusta da fare, e perché ne comprendiamo appieno la portata», ha dichiarato martedì Altman durante una conferenza a San Francisco come riporta Bbc. Tuttavia, Altman ha riconosciuto che i timori delle persone riguardo all’IA sono giustificati, data la rapida evoluzione delle capacità di questi strumenti.
Se le cose vanno storte
«Non serve più molta immaginazione per capire come le cose potrebbero andare storte», ha affermato. «Credo che il mondo abbia ragione a temere tutto questo». Questo è il primo intervento pubblico di Altman dopo che, la scorsa settimana, è diventato virale il post di Coxon.