In Breve

Cosa sono i Guardian Agents di Microsoft?

I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.

Qual è l'obiettivo dei Guardian Agents?

L'obiettivo è separare la fornitura di intelligenza dal controllo delle azioni, garantendo una sorveglianza continua.

Quali funzionalità offrono i Guardian Agents?

Offrono controlli dinamici, scoperta di nuovi agenti e capacità di isolamento in scenari estremi.

Microsoft lancia i Guardian Agents per la sicurezza degli agenti AI

Microsoft ha recentemente annunciato il lancio dei Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti di intelligenza artificiale (AI) autonomi. Questa iniziativa si inserisce in un contesto più ampio, volto a garantire che i modelli agentici non vengano lasciati come unica autorità di sicurezza.

Secondo Microsoft, sebbene gli agenti AI non siano intrinsecamente maligni, possono comunque commettere errori o essere manipolati. Per questo motivo, l’azienda propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni, affidando la sorveglianza continua a meccanismi esterni al modello.

Progetti correlati e architettura di sicurezza

Questa proposta si integra con iniziative già in corso, come il Project Perception e la cyber stack di Microsoft. Questi progetti coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire eventuali rimedi. In particolare, il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura di sicurezza viene ulteriormente estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365.

Controlli e responsabilità

I controlli proposti dai Guardian Agents si fondano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono:

• Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
• Contenere l’accesso e le azioni prima che avvengano;
• Proteggere i dati, gli strumenti, il runtime e le risorse utilizzate dagli agenti;
• Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.

Funzionalità avanzate dei Guardian Agents

Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID verrà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.

Per il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per compiti specifici; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.

Conclusioni

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in tempo reale.