Microsoft lancia Guardian Agents per gestire i rischi degli agenti AI

Microsoft ha recentemente annunciato il lancio di Guardian Agents, una nuova serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha evidenziato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, Microsoft sottolinea l’importanza di non lasciare questi sistemi come unica autorità di sicurezza.

La proposta di Guardian Agents si inserisce in un quadro più ampio di iniziative già avviate, come Project Perception e la cyber stack di Microsoft. Questi progetti coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire le soluzioni necessarie. In particolare, Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere le minacce. Con l’introduzione dei Guardian Agents, l’architettura esistente viene ampliata per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365, creando così una visione coerente di agenti e rischi.

I controlli proposti dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identità, permessi, dati, endpoint, rete, cloud e runtime. Le responsabilità perseguite includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti; la capacità di contenere l’accesso e le azioni prima che si verifichino; la protezione dei dati e delle risorse utilizzate dagli agenti; e l’adattamento continuo delle protezioni in base a comportamento, contesto e rischio.

Tra le nuove funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per quanto riguarda il controllo operativo, sono state introdotte Dynamic Permissions, che limitano l’accesso di un agente alle sole risorse necessarie per un compito specifico. Altre funzionalità includono Dynamic Agent Risk, che valuta potenziali minacce, e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Questi strumenti integrano sensori, contesto e attuatori su tutta la pila di sicurezza, permettendo una comprensione approfondita dei rischi emergenti legati agli agenti e l’adattamento delle contromisure necessarie.