IA · 12 giugno 2026 · 3 min di lettura
Sicurezza collettiva: Google DeepMind lancia un fondo per studiare i sistemi multi-agente
In sintesi: Google DeepMind, in collaborazione con Schmidt Sciences, ARIA e altre fondazioni, ha annunciato un fondo di ricerca da 10 milioni di dollari dedicato alla sicurezza dei sistemi multi-agente. Con la diffusione di massa di agenti IA in grado di agire autonomamente online e coordinarsi tra loro, emergono rischi di sicurezza sistemici del tutto nuovi, come frodi coordinate e attacchi informatici complessi. Il fondo mira a stimolare la ricerca accademica e la simulazione di questi scenari prima della loro implementazione su scala economica.
di Team Mocchi's
Sicurezza collettiva: Google DeepMind lancia un fondo per i sistemi multi-agente
Con il rapido passaggio da singoli modelli linguistici ad agenti autonomi capaci di pianificare, interagire ed eseguire compiti complessi per conto degli utenti, la sicurezza dell'intelligenza artificiale entra in una nuova fase. Google DeepMind ha annunciato il finanziamento di una nuova iniziativa di ricerca da 10 milioni di dollari focalizzata specificamente sui rischi derivanti dall'interazione tra milioni di agenti IA indipendenti.
Come riportato da MIT Technology Review, l'iniziativa vede la collaborazione di una solida coalizione che include Schmidt Sciences (la fondazione filantropica di Eric e Wendy Schmidt), ARIA (l'agenzia per la ricerca avanzata del governo del Regno Unito), la Cooperative AI Foundation e la divisione benefica Google.org.
Una nuova categoria di rischio: l'anarchia digitale dei beni comuni
I tradizionali protocolli di sicurezza dell'IA si concentrano tipicamente sul comportamento di un singolo modello in risposta a un input umano. Tuttavia, lo scenario cambia radicalmente quando milioni di agenti dotati di autonomia decisionale iniziano a comunicare tra loro sul web senza supervisione diretta.
Rohin Shah, responsabile della ricerca sull'allineamento e la sicurezza dell'AGI presso Google DeepMind, ha spiegato che la convergenza di agenti in grado di passarsi istruzioni a vicenda introduce rischi complessi. Le minacce principali ipotizzate includono:
- Iniezioni di prompt a catena: un agente malevolo potrebbe infettare un altro agente con istruzioni dannose, trasformandolo in un malware auto-guidato in grado di propagarsi.
- Truffe coordinate e attacchi informatici complessi: la capacità degli agenti di agire in concerto potrebbe automatizzare frodi finanziarie o attacchi DDoS con modalità finora impossibili da contrastare per i sistemi di difesa tradizionali.
- Instabilità dei mercati e dei servizi: interazioni non pianificate tra algoritmi di ottimizzazione potrebbero causare "flash crash" in mercati finanziari o logistici digitali.
James Fox, a capo del programma Science of Trustworthy AI presso Schmidt Sciences, ha avvertito che, senza regole e test adeguati, i beni comuni digitali rischiano di scivolare verso "un'anarchia assoluta".
L'esigenza di simulazioni in ambienti protetti (Sandbox)
La principale sfida scientifica risiede nel fatto che il comportamento di un sistema multi-agente non è prevedibile studiando i singoli componenti in isolamento. L'interazione di massa produce comportamenti emergenti complessi, analogamente a quanto avviene nelle società umane.
Per questo motivo, l'obiettivo primario del fondo da 10 milioni di dollari è incoraggiare la ricerca accademica indipendente nella creazione di "sandbox" (ambienti di simulazione protetti). In questi spazi virtuali, centinaia di migliaia di agenti basati su architetture diverse (come Gemini, Claude o modelli open source) verranno fatti interagire per osservare empiricamente le dinamiche collettive.
Una corsa contro il tempo per l'ecosistema aziendale
Secondo Shah, l'industria tecnologica si trova a pochi mesi di distanza da un'implementazione diffusa di agenti IA nelle infrastrutture economiche e operative delle imprese. Il finanziamento mira proprio a colmare il vuoto accademico attuale prima che questi sistemi diventino onnipresenti.
Per le aziende che sviluppano o integrano soluzioni basate su agenti IA, l'avvertimento di Google DeepMind evidenzia la necessità di progettare architetture software non solo sicure in sé, ma dotate di filtri in grado di convalidare gli input ricevuti da altri agenti esterni, trattando ogni interazione B2B automatizzata con criteri rigorosi di "Zero Trust".