Il collo di bottiglia degli agenti AI non sono i modelli, ma i permessi
Gli agenti AI nelle aziende si bloccano — non per colpa dei modelli che li alimentano, ma dei permessi. Ogni flusso agentico incontra prima o poi lo stesso muro: cosa può toccare questo agente, per conto di chi, e come fa il sistema a saperlo?
Workday ha deciso di usare il suo sistema di record esistente come livello di governance per gli agenti. Gerrit Kazmaier, presidente per prodotto e tecnologia, ha spiegato a VentureBeat che i clienti faticano quando mettono insieme soluzioni artigianali per i loro agenti. “Sana garantisce che l’integrità del modello di approvazioni e sicurezza sia sempre rispettata”, ha detto Kazmaier. “Francamente, è lì che vediamo i clienti in difficoltà quando provano a costruire AI fai-da-te accedendo solo a dati grezzi: la ricchezza del modello di sicurezza si perde e i risultati diventano troppo ampi.”
Workday, che ha lanciato Sana a marzo, ha esteso la sua partnership con Google per portare il sistema di record degli agenti Sana in Gemini Enterprise, così gli agenti costruiti su Sana sono scopribili anche lì.
Architettare l’accuratezza
Kazmaier ha detto che l’ostacolo più grande è stato garantire l’accuratezza degli agenti, specialmente per utenti HR e finance. “Quasi giusto non è accettabile”, ha detto. “Pensa a pagare le persone correttamente, chiudere i bilanci o gestire i turni in modo affidabile.”
L’accuratezza è più difficile da valutare qui che in molti altri contesti AI. Configurazioni delle policy, sicurezza basata sui ruoli e gerarchie organizzative sono profondamente interconnesse — un piccolo errore si accumula. E a differenza della maggior parte degli output di AI generativa, le query HR e finance spesso mancano di un ciclo di correzione. Quando una busta paga viene processata in modo errato o un colloquio viene schedulato male, il danno è fatto.
Workday ha risolto costruendo Gemini come livello di ragionamento di base, aggiungendo poi il proprio motore contestuale e la logica dei processi aziendali. Ha anche aggiunto modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione.
Accuratezza e identità, alla fine, sono la stessa domanda: il sistema sa abbastanza dell’agente, dell’umano che autorizza e dello stato corrente del record per agire correttamente?
Il vantaggio di Workday è che può dedurre le strutture organizzative dei clienti dai dati che forniscono. Già oggi fornitori di identità terzi come Okta verificano le loro informazioni controllando Workday, quindi il suo contesto è il sistema di record per molte aziende.
Kazmaier ha detto che Sana Self-Service Agent usa Gemini come superficie conversazionale per attivare il flusso. L’utente viene poi autenticato e autorizzato attraverso il modello di identità e sicurezza di Workday. Gli agenti Sana agiscono solo per conto di quell’utente e nei limiti dei suoi permessi correnti.
I trail di audit seguono la stessa logica: Gemini conserva solo i log delle interazioni, mentre l’audit principale resta dentro Workday e il suo cliente.
Per molti professionisti nello spazio HR e finance, il livello di permessi e governance nel sistema di record dell’agente è cruciale in settori regolamentati. “Deve vivere nel sistema di record, non è una preferenza, è l’unico modo in cui funziona”, ha detto Dan Obendorfer, direttore prodotto di Würk, in una mail a VentureBeat. “Se i tuoi permessi sono definiti da qualche parte al di fuori di dove i dati vivono realmente, hai già perso.”
Kadan Stadelmann, CTO e co-fondatore di Compance.AI, ha fatto lo stesso punto separatamente. “Senza proprietà dell’agente, prestazioni, costi o azioni, il caos prevale.”
