Microsoft lancia Guardian Agents: la nuova frontiera nella sicurezza degli agenti AI
Microsoft ha presentato Guardian Agents, strumenti innovativi per monitorare e gestire i rischi associati agli agenti AI autonomi, garantendo una maggiore sicurezza.
In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è separare la fornitura di intelligenza dall'autorità di controllo, garantendo una sorveglianza continua.
- Quali funzionalità offrono i Guardian Agents?
- Offrono strumenti come Dynamic Permissions e Dynamic Agent Risk per gestire l'accesso e valutare minacce.
Microsoft lancia Guardian Agents: la nuova frontiera nella sicurezza degli agenti AI
In un mondo sempre più dominato dall’intelligenza artificiale, Microsoft ha annunciato il lancio di Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questo sviluppo segna un passo significativo nella sicurezza informatica, poiché l’azienda evidenzia che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori o essere manipolati.
La necessità di una sorveglianza esterna
Microsoft sottolinea l’importanza di non lasciare gli agenti AI come unica autorità di sicurezza. Per affrontare questa sfida, l’azienda propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. Questo approccio prevede una sorveglianza continua attraverso meccanismi esterni al modello stesso, garantendo una maggiore sicurezza e controllo.
Iniziative precedenti e l’evoluzione della sicurezza
Il lancio dei Guardian Agents si inserisce in un contesto più ampio di iniziative già avviate da Microsoft, come il Project Perception e la cyber stack. Questi progetti coordinano agenti specializzati per analizzare dati di sicurezza, identificare vulnerabilità e gestire rimedi. In particolare, il Project Perception utilizza tre tipologie di agenti — red, blue e green — per testare, investigare e correggere le minacce. Con i Guardian Agents, Microsoft estende questa architettura per proteggere gli “agentic insiders”, garantendo una visione coerente dei rischi attraverso la condivisione di segnali e contesti.
Controlli e responsabilità
I controlli proposti da Microsoft si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici. Questi controlli agiscono su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità associate a questi controlli comprendono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che avvengano;
- Proteggere dati, strumenti e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Nuove funzionalità e strumenti
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 nuovi tipi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID sarà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per il controllo operativo, sono previsti strumenti come Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi o bloccando operazioni. In scenari estremi, un agente può essere fermato e isolato per prevenire danni.
Un passo avanti per i team di sicurezza
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in modo efficace.
Con questa innovazione, Microsoft si posiziona all’avanguardia nella gestione della sicurezza degli agenti AI, offrendo soluzioni che potrebbero ridefinire il panorama della sicurezza informatica.
