Così milioni di agenti AI potrebbero creare il caos online
Google DeepMind ha messo sul tavolo 10 milioni di dollari per finanziare la ricerca sui rischi legati all’interazione di massa tra agenti AI. La preoccupazione è concreta: quando milioni di agenti autonomi inizieranno a operare online — scambiandosi istruzioni e agendo senza supervisione umana — potrebbero emergere scenari di sicurezza difficili da prevedere e controllare.
Il fondo è stato annunciato da Rohin Shah, direttore della ricerca su sicurezza e allineamento AGI di DeepMind, in collaborazione con Schmidt Sciences (la fondazione di Eric e Wendy Schmidt), ARIA (l’agenzia britannica per progetti avanzati), la Cooperative AI Foundation e Google.org. L’obiettivo dichiarato è creare un campo di ricerca che oggi non esiste: la sicurezza dei sistemi multi-agente.
«Il punto è che non esiste ancora un campo di ricerca per la sicurezza multi-agente», spiega Shah. «Noi vorremmo che esistesse.» L’idea è finanziare progetti accademici che guardino lontano, come spesso solo l’università può fare, senza i vincoli dei laboratori industriali. I primi risultati arriveranno probabilmente entro l’anno.
I rischi concreti, secondo Shah e James Fox di Schmidt Sciences, sono versioni potenziate di problemi già noti: truffe automatizzate, prompt injection (quando un agente riceve istruzioni malevole e diventa un malware autonomo) e attacchi informatici su larga scala. «Abbiamo una risorsa digitale comune che è fondamentale per la società», dice Fox. «Bisogna evitare che degeneri nell’anarchia totale.»
Fantasie apocalittiche? Per ora sì, almeno nel breve termine. «Certo non parliamo di collasso economico entro fine anno», scherza Shah. «Ma dopo, sì.»
L’unico modo per capire cosa succederà, sostengono entrambi, è simulare. Buttare gli agenti in sandbox digitali e osservare cosa fanno. Non si può prevedere il comportamento di massa studiando agenti singoli o piccoli gruppi. E non si può nemmeno assumere che agenti basati su LLM si comportino sempre razionalmente. Alcuni ricercatori DeepMind ipotizzano che una futura intelligenza artificiale generale possa emergere proprio da una sorta di mente alveare di agenti, dove le capacità collettive superano la somma delle parti.
Non è solo DeepMind a preoccuparsi. Anthropic ha pubblicato linee guida per il deployment di agenti basate sul principio di zero trust: partire dal presupposto che il sistema sia vulnerabile, l’agente un potenziale aggressore e la violazione inevitabile. Refael Angel, CTO di Akeyless, sottolinea che gli agenti rompono tutti gli schemi di sicurezza tradizionali: «Un agente ragiona, improvvisa e può essere dirottato con una singola frase sepolta in un documento che gli è stato chiesto di leggere.»
Angel accoglie con favore il bando, con un avvertimento: i ricercatori non si facciano distrarre da scenari troppo esotici, trascurando problemi già reali. Fox ribatte che ciò che era ipotetico pochi anni fa oggi è realtà: «Il futuro è arrivato più in fretta di quanto ci aspettassimo.»
