Microsoft ha delineato un’architettura che sposta la governance dell’intelligenza artificiale dai documenti ai sistemi in esecuzione. Il modello punta su controlli applicati durante il funzionamento, valutazioni continue, osservabilità e produzione di evidenze per gli audit. La struttura comprende nove domini di governance e quattro funzioni — policy, controllo, visibilità e prova — con l’obiettivo di verificare che i requisiti stabiliti siano effettivamente applicati e osservabili quando applicazioni e agenti AI entrano in produzione.
La governance viene così organizzata come un ciclo operativo continuo. Le policy definiscono requisiti e classificazioni del rischio; i controlli li traducono in regole di accesso e vincoli runtime; l’osservabilità registra il comportamento del sistema; le valutazioni ne verificano qualità e sicurezza. I processi di audit trasformano infine la telemetria operativa in evidenze di conformità, utilizzabili anche nelle indagini successive a un incidente.
Manasa T. Ramalinga, Cloud Solution Architect di Microsoft, ha collegato questa impostazione al passaggio dei carichi AI dalla sperimentazione alla produzione. Le organizzazioni, ha spiegato, stanno riprogettando le proprie strutture fondamentali per costruire sistemi più sicuri, invece di aggiungere la governance in un secondo momento. Il cambio di prospettiva porta quindi le regole dentro l’architettura tecnica e rende la loro applicazione parte del normale funzionamento dei sistemi AI.
I nove ambiti individuati coprono policy, governance dei dati e dei modelli, osservabilità, valutazioni, sicurezza, identità e accessi, audit e conformità, oltre alla governance degli agenti. I controlli runtime possono estendersi alle interazioni tra utenti, agenti, modelli, strumenti, API, server MCP e sistemi aziendali. Il perimetro non coincide più con il solo modello: comprende l’intera catena operativa attraversata da richieste, decisioni e azioni automatizzate, inclusi i collegamenti con tool e API.
L’architettura combina Microsoft Foundry con servizi come Microsoft Purview, Microsoft Entra ID, Defender e Azure API Management. Il Foundry AI Gateway agisce come confine runtime per autenticazione, limiti ai token, quote e applicazione delle policy. Lo stesso gateway può governare gli strumenti MCP attraverso autenticazione centralizzata, rate limiting, restrizioni IP e registrazione degli audit, senza richiedere modifiche ai server MCP o al codice degli agenti.
Le valutazioni vengono collocate sia prima del rilascio sia durante l’esercizio. Microsoft Foundry consente di testare applicazioni e agenti AI rispetto a dataset mediante valutatori integrati o personalizzati, così da misurare qualità e sicurezza prima della distribuzione e monitorarne successivamente il comportamento. In questa impostazione, una policy diventa governance effettiva soltanto quando la produzione può dimostrarne l’applicazione attraverso telemetria e audit, collegando regole dichiarate, controlli tecnici e riscontri verificabili.
Per gli agenti autonomi, il disegno introduce controlli su identità, accessi, attività e passaggi del workflow. L’open source Agent Governance Toolkit offre capacità di sicurezza runtime, tra cui applicazione delle policy e punti di intercettazione. L’Agent Control Specification prevede checkpoint sugli input, sulle chiamate ai modelli, sull’esecuzione degli strumenti e sugli output; le azioni a maggiore impatto possono richiedere approvazione umana. Il riferimento al NIST AI Risk Management Framework amplia infine la lettura oltre il singolo control plane, traducendo principi di gestione del rischio lungo il ciclo di vita in controlli e prove operative.