IA, il ceo di Anthropic chiede lo stop allo sviluppo: “si rischia di perderne il controllo”

Uno dei ceo di Anthropic  ha lanciato un appello a tutte le ditte che si occupano di IA. La richiesta è di fermarne lo sviluppo, prima che si possa perdere il controllo sulle intelligenze artificiali. Secondo il suo punto di vista, la cora allo sviluppo di questa tecnologia potrebbe essere più pericolosa della corsa alle armi.

IA, perché fermarne lo sviluppo?

Ci sono svariate pellicole che mostrano intelligenze artificiale sopraffare i propri creatori e prendere il controllo del pianeta. Ma è solo fantascienza o è un pericolo che, in un futuro non troppo lontano, potrebbe essere reale? Il dibattito si è riacceso dopo un articolo pubblicato da Marina Favaro e Jack Clark, rispettivamente capo della ricerca e Ceo di Anthropic. Lo studio alla base di questo documento è l’automiglioramento ricorsivo dell’intelligenza artificiale: la capacità di progettare autonomamente i propri aggiornamenti. All’interno di Anthropic, ad esempio, l’80% del codice è attribuito a modelli. Non manca molto prima che il lavoro umano sull’intelligenza artificiale diventi innecessario. Il pericolo sarebbe quindi la possibilità di perdere il controllo dello strumento. Come riportato da TGCom24, “Anthropic, che di recente ha superato OpenAI come principale azienda di intelligenza artificiale con una valutazione di 965 miliardi di dollari, ha deciso di sospendere il rilascio di Mythos, il suo sistema più potente, per paura che fosse usato per compiere devastanti attacchi informatici.”

Più pericolosa della corsa alle armi

All’interno del loro articolo, Favaro e Clark, hanno paragonato l’incessante sviluppo dell’intelligenza artificiale alla corsa alle armi. Secondo loro, in questo caso il pericolo sarebbe ancora maggiore, in quanto lo sviluppo di queste tecnologie sarebbe persino più facile da nascondere. Ogni giorno, in questo settore, gli investimenti si fanno sempre più ingenti e la corsa allo sviluppo appare inarrestabile. Dario Amodei, l’altro ceo di Anthropic, ha espresso la sua opinione sul pericolo di continuare a sviluppare l’IA: “C’è una possibilità su quattro che le cose vadano davvero, davvero male”. Da Anthropic si sono detti disponibile a fermare lo sviluppo dell’intelligenza artificiale, ma solo a patto che anche le aziende concorrenti facciano lo stesso.

Per ulteriori notizie continuate a seguire Nasce Cresce Ignora!

Articolo a cura di Enrico Roca