Il vero collo di bottiglia degli agenti AI non sono i modelli, ma i permessi
Le aziende che provano a usare agenti AI si scontrano sempre con lo stesso muro: i permessi. Non la qualità del modello, non la velocità di inferenza. Il problema è capire cosa l’agente può toccare, per conto di chi, e come il sistema fa a saperlo.
Workday ha una risposta: usare il proprio sistema di registrazione come livello di governance per gli agenti. Gerrit Kazmaier, presidente per prodotto e tecnologia dell’azienda, ha spiegato a VentureBeat che i clienti faticano quando mettono insieme soluzioni improvvisate per i loro agenti.
“Sana [l’agente AI di Workday] garantisce che l’integrità del modello di approvazioni e sicurezza sia sempre rispettata”, ha detto Kazmaier. “Francamente, è lì che vediamo i clienti in difficoltà quando provano a costruire AI fai-da-te accedendo a dati grezzi: la ricchezza del modello di sicurezza si perde e i risultati diventano troppo ampi.”
Workday ha lanciato Sana a marzo e ha ampliato la partnership con Google per portarlo su Gemini Enterprise: gli agenti costruiti su Sana sono ora scopribili anche lì.
Il problema dell’accuratezza
Kazmaier ha detto che la sfida più grande è stata garantire l’accuratezza degli agenti, specialmente per utenti HR e finanza. “Quasi giusto non è accettabile”, ha detto. “Pensa a pagare le persone correttamente, chiudere i bilanci o gestire i turni in modo affidabile.”
In questi contesti, l’accuratezza è più difficile da valutare che nella maggior parte dei casi d’uso AI. Le configurazioni delle policy, la sicurezza basata sui ruoli e le gerarchie organizzative sono profondamente interconnesse: un piccolo errore si amplifica. E a differenza della maggior parte degli output AI generativi, le query HR e finanza spesso non hanno un ciclo di correzione. Quando una busta paga viene elaborata in modo sbagliato o un colloquio viene schedulato male, il danno è fatto.
Workday ha risolto integrando Gemini come strato di ragionamento di base, aggiungendo poi il proprio motore di contesto e la logica dei processi aziendali. Ha anche aggiunto modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione.
Accuratezza e identità, alla fine, sono la stessa domanda: il sistema sa abbastanza sull’agente, sull’umano che autorizza e sullo stato corrente del record per agire correttamente?
Il vantaggio di Workday è che può dedurre le strutture organizzative dei clienti dai dati che forniscono. Già oggi provider di identità terzi come Okta verificano le loro informazioni controllando Workday, quindi il suo contesto è il sistema di registrazione per molte aziende.
Kazmaier ha spiegato che Sana Self-Service Agent usa Gemini come superficie conversazionale per attivare il flusso di lavoro. L’utente viene poi autenticato e autorizzato attraverso il modello di identità e sicurezza di Workday. Gli agenti Sana agiscono solo per conto di quell’utente e all’interno dei suoi permessi correnti. I log di audit seguono la stessa logica: Gemini trattiene solo i log di interazione, mentre l’audit principale rimane in Workday e presso il cliente.
Per molti operatori HR e finanza, il livello di permessi e governance all’interno del sistema di registrazione è fondamentale negli spazi regolamentati. Dan Obendorfer, direttore prodotto di Würk, ha detto a VentureBeat: “Deve vivere nel sistema di registrazione, non è una preferenza, è l’unico modo in cui funziona. Se i tuoi permessi sono definiti da qualche parte al di fuori di dove vivono i dati, hai già perso.” Kadan Stadelmann, CTO e cofondatore di Compance.AI, ha aggiunto: “Senza la proprietà degli agenti, le performance, i costi o le azioni generano caos.”
