L’importanza della governance per gli agenti AI autonomi
La crescente autonomia degli agenti AI richiede una governance rigorosa per mitigare i rischi di malfunzionamenti e garantire la responsabilità.
In Breve
- Qual è il rischio principale associato agli agenti AI autonomi?
- Il rischio principale è la difficoltà di attribuire responsabilità in caso di malfunzionamenti.
- Come possono essere gestiti gli agenti AI nelle reti?
- Devono essere trattati come entità dotate di identità, con credenziali e controlli di governance.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è fondamentale per garantire trasparenza e responsabilità nelle decisioni autonome.
Negli ultimi anni, l’adozione di sistemi di remediation automatica ha rivoluzionato il modo in cui le aziende gestiscono le reti. Questi sistemi possono risolvere problemi di rete durante la notte, senza notifiche, lasciando la verifica delle azioni all’ispezione successiva da parte di un operatore umano. Tuttavia, questa pratica, nota come Human-on-the-Loop, presenta alcuni limiti significativi.
In scenari alternativi, agenti costruiti in modo improvvisato possono eseguire correzioni senza lasciare tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log mostrano solo il “cosa” è stato fatto, ma non sempre il “perché” o le modifiche collaterali effettuate. Questo può trasformare il click di approvazione in un rito privo di reale valutazione critica, rendendo difficile attribuire responsabilità quando un’automazione genera un malfunzionamento o un outage.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza vincoli adeguati, le deleghe progressive a sistemi agentici possono accumularsi, creando livelli di autonomia non esplicitamente approvati. Secondo ricerche recenti, il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno, mentre il 79% già tratta gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi agenti richiedono credenziali, politiche, limiti operativi, spiegabilità e tracce di audit simili a quelle degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per persone, e applicare soluzioni adattate in modo informale agli agenti può generare accessi “ombra” e rischi non quantificati.
Per mitigare questi rischi, ogni agente deve essere configurato come principal con permessi limitati, accesso temporizzato, percorsi di revoca chiari e un registro completo non solo delle azioni compiute, ma anche di ciò che era consentito fare e delle motivazioni che hanno guidato le scelte.
La fiducia nell’autonomia degli agenti dovrebbe essere progressiva. Gli agenti possono iniziare in modalità suggerimento e guadagnare capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Man mano che le decisioni autonome aumentano in volume e complessità, è necessario affiancare la supervisione umana a infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si scambiano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a cosa ha fatto. Pertanto, il lavoro di impostare permessi rigorosi, controlli d’identità e audit trail che rispondano alle domande operative diventa cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
