Entro 6-12 mesi, uno sciame di agenti di intelligenza artificiale potrebbe arrivare a prendere il controllo dell’intera internet, provocando danni potenziali per centinaia di miliardi di dollari. È l’allarme lanciato da Dario Amodei, amministratore delegato di Anthropic, in un saggio dedicato alla necessità di rallentare il ritmo con cui vengono sviluppate le capacità dei modelli.
Secondo Amodei, l’accelerazione degli ultimi mesi rende plausibile uno scenario nel quale agenti autonomi, operando in modo coordinato, riescano a intervenire su una parte significativa delle attività online. Il riferimento è anche a un incidente che ha coinvolto OpenAI e Hugging Face, citato dal ceo come esempio dei rischi legati alla diffusione di sistemi capaci di agire sulla rete.
La stima dei danni, avverte il vertice della società, potrebbe raggiungere centinaia di miliardi di dollari e continuare a crescere se i sistemi diventassero più potenti senza adeguati meccanismi di protezione. Per questo, sostiene Amodei, non sarebbe sufficiente investire soltanto nella prevenzione dei rischi: occorrerebbe anche dosare la velocità di sviluppo, così da consentire alle misure di sicurezza di adeguarsi.
Il piano in tre fasi
Nel saggio Anthropic propone un percorso articolato in tre fasi. La prima prevede un impegno unilaterale della stessa azienda, con l’invito ai governi a chiedere alle altre società che sviluppano modelli avanzati di adottare misure analoghe. In questo passaggio rientrerebbe l’integrazione di valutatori destinati a verificare i rischi dei sistemi durante il loro sviluppo.
La seconda fase richiede un coordinamento dell’intero settore, mentre la terza punta a una collaborazione globale. L’obiettivo indicato è costruire condizioni nelle quali la sicurezza diventi un ambito di competizione tra le aziende tecnologiche, favorendo una corsa verso standard più elevati anziché una gara basata soltanto sulla rapidità.
La richiesta di maggiore prudenza
Amodei ricorda che Anthropic ha dedicato una parte rilevante delle proprie attività allo studio e alla comunicazione dei pericoli associati all’intelligenza artificiale, oltre a sostenere una regolamentazione definita ponderata. La società, aggiunge, ha dato priorità alla cautela rispetto alla velocità e alla prudenza rispetto al profitto, anche dopo essere stata accusata di sensazionalismo, pessimismo o strumentalizzazione normativa.
La valutazione del ceo è però cambiata negli ultimi mesi: per affrontare pienamente i rischi, afferma, servirebbe una prudenza ancora maggiore. Anthropic chiede quindi di rallentare il miglioramento delle capacità dei modelli e di utilizzare il tempo così guadagnato per rafforzare i sistemi di prevenzione. La proposta si inserisce nel dibattito internazionale sulla gestione dello sviluppo dell’intelligenza artificiale e sul rapporto tra innovazione, interessi commerciali e sicurezza.
