Il vero collo di bottiglia degli AI agent in azienda non sono i modelli: sono i permessi
Gli agenti AI in ambito enterprise si stanno bloccando. Non per le performance dei modelli, ma per i permessi di accesso. Ogni flusso di lavoro agentico prima o poi si scontra con lo stesso problema: cosa può toccare questo agente, per conto di chi, e come fa il sistema a saperlo?
La risposta di Workday è semplice: usare il sistema di record esistente come strato di governance per gli agenti. Gerrit Kazmaier, presidente per prodotto e tecnologia dell’azienda, ha spiegato a VentureBeat che i clienti spesso faticano quando cercano di mettere insieme soluzioni fai-da-te per i loro agenti. “Sana assicura che l’integrità del modello di approvazioni e sicurezza sia sempre rispettata”, ha detto Kazmaier. “Francamente, è qui che vediamo i clienti in difficoltà quando provano a costruire AI fai-da-te accedendo solo a dati grezzi: la ricchezza del modello di sicurezza si perde e i risultati diventano troppo ampi”. Workday ha lanciato Sana a marzo e ha esteso la partnership con Google per portare il sistema agentico Sana su Gemini Enterprise, rendendo gli agenti costruiti su Sana scopribili anche lì.
Architettare l’accuratezza
Kazmaier ha detto che l’ostacolo più grande che hanno affrontato è garantire l’accuratezza dell’agente, specialmente per utenti HR e finance. “Quasi giusto non è accettabile”, ha detto. “Pensa a pagare le persone correttamente, chiudere i libri contabili o gestire i turni di lavoro in modo affidabile”. L’accuratezza è più difficile da valutare qui che nella maggior parte dei contesti AI. Le configurazioni delle policy, la sicurezza basata sui ruoli e le gerarchie organizzative sono profondamente interconnesse: un piccolo errore si amplifica. E a differenza della maggior parte degli output generativi, le query HR e finance spesso mancano di un ciclo di correzione. Quando una busta paga viene elaborata in modo errato o un colloquio viene programmato male, il danno è fatto.
Workday ha risolto integrando Gemini come strato di ragionamento di base, aggiungendo poi il suo motore di contesto e la logica dei processi aziendali. L’azienda ha anche aggiunto modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione. Accuratezza e identità, in fondo, sono la stessa domanda: il sistema sa abbastanza sull’agente, sull’umano autorizzante e sullo stato corrente del record per agire correttamente? Il vantaggio di Workday è che può inferire le strutture organizzative dei clienti dai dati che forniscono. Già oggi fornitori terzi di identità come Okta verificano le loro informazioni controllando Workday, quindi il suo contesto è il sistema di record per molte aziende.
Kazmaier ha spiegato che Sana Self-Service Agent usa Gemini come superficie conversazionale per attivare il flusso di lavoro. L’utente viene poi autenticato e autorizzato attraverso il modello di identità e sicurezza di Workday. Gli agenti Sana agiscono solo per conto di quell’utente e lavorano all’interno dei suoi permessi correnti. I trail di audit seguono la stessa logica: Gemini conserva solo i log di interazione, mentre l’audit principale rimane all’interno di Workday e del cliente.
Per molti professionisti HR e finance, lo strato di permessi e governance nel sistema di record dell’agente è cruciale in ambiti regolamentati. “Deve vivere nel sistema di record, non è una preferenza, è l’unico modo in cui funziona”, ha detto Dan Obendorfer, director of product di Würk, in una email a VentureBeat. “Se i tuoi permessi sono definiti da qualche parte al di fuori di dove vivono i dati, hai già perso”. Kadan Stadelmann, CTO e co-fondatore di Compance.AI, ha sottolineato lo stesso punto: “Senza proprietà dell’agente, performance, costi o azioni, il caos regna”.
