In Breve
- Qual è il rischio principale associato agli agenti AI autonomi?
- Il rischio principale è la difficoltà di attribuire responsabilità in caso di malfunzionamenti o outage.
- Come devono essere trattati gli agenti AI nelle reti?
- Devono essere trattati come entità dotate di identità, con credenziali e politiche di accesso.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è fondamentale per garantire trasparenza e allineamento con gli obiettivi organizzativi.
Negli ultimi anni, l’adozione di agenti AI autonomi nelle reti aziendali ha suscitato un acceso dibattito riguardo alla loro governance e identità. Questi sistemi, capaci di operare senza intervento umano, presentano opportunità significative, ma anche rischi considerevoli se non gestiti correttamente.
I sistemi di remediation automatica, ad esempio, possono risolvere problemi di rete durante la notte senza notifiche, lasciando la verifica delle azioni all’ispezione successiva da parte di un operatore umano. Questo approccio, noto come Human-on-the-Loop, può risultare problematico. In scenari alternativi, agenti costruiti in modo improvvisato possono effettuare correzioni senza lasciare tracce esaustive delle decisioni che hanno portato a tali interventi. Di conseguenza, i log mostrano il “cosa” è stato fatto, ma non sempre il “perché”, rendendo difficile attribuire responsabilità in caso di malfunzionamenti o outage.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che senza vincoli adeguati, le deleghe progressive a sistemi agentici possono accumularsi, creando livelli di autonomia non esplicitamente approvati. Ricerche recenti indicano che il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal loop entro un anno o meno, mentre il 79% già considera gli agenti AI come “utenti” che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi richiedono credenziali, politiche, limiti operativi, spiegabilità e tracce di audit analoghe a quelle degli operatori umani. Molte infrastrutture di gestione degli accessi sono state progettate per persone, e applicare soluzioni adattate in modo informale agli agenti può generare accessi “ombra” e rischi non quantificati. Per mitigare questi rischi, ogni agente dovrebbe essere configurato come principal con permessi limitati, accesso temporizzato e percorsi di revoca chiari.
La fiducia nell’autonomia degli agenti deve essere progressiva. È consigliabile che gli agenti inizino in modalità suggerimento e guadagnino capacità operative sulla base di prove e limiti definiti, piuttosto che ricevere autonomie totalizzanti sin dall’inizio. Con l’aumento del volume e della complessità delle decisioni autonome, la supervisione umana deve essere affiancata da infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità cresce ulteriormente. Una catena di agenti che si passano contesto rende più difficile ricostruire gli eventi rispetto a un singolo agente, poiché è necessario sapere cosa ciascun agente conosceva oltre a cosa ha fatto. Pertanto, impostare permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
