Il collo di bottiglia degli agenti AI non sono i modelli — sono i permessi
Gli agenti AI nelle aziende si bloccano. Il motivo non è che i modelli non siano abbastanza intelligenti, ma che nessuno ha deciso cosa possono toccare, per conto di chi, e come il sistema fa a saperlo. Workday, che diHR e finanza se ne intende, ha una risposta: trasformare il suo sistema di record nel livello di governance degli agenti.
Gerrit Kazmaier, presidente di prodotto e tecnologia, ha spiegato a VentureBeat che i clienti faticano quando cercano di mettere insieme soluzioni fai-da-te per i loro agenti. “Sana garantisce che l’integrità del modello di approvazione e sicurezza sia sempre rispettata”, ha detto. “È lì che i clienti incontrano problemi: quando costruiscono AI fai-da-te accedendo ai dati grezzi, la ricchezza del modello di sicurezza viene persa, e i risultati diventano troppo ampi.”
Workday ha lanciato Sana a marzo e ha recentemente esteso la partnership con Google per portarlo su Gemini Enterprise. In pratica, gli agenti costruiti su Sana diventano visibili anche lì.
Accuratezza architetturale
Il problema più grosso è stato garantire l’accuratezza degli agenti, soprattutto per HR e finanza. “Quasi giusto non è accettabile”, dice Kazmaier. “Pensate a pagare le persone correttamente, chiudere i bilanci o gestire i turni in modo affidabile.”
In contesti HR e finanziari, l’accuratezza è più difficile da valutare che altrove. Le configurazioni delle policy, la sicurezza basata sui ruoli e le gerarchie organizzative sono profondamente interconnesse: un piccolo errore si amplifica. E a differenza della maggior parte degli output AI generativi, le query HR e finanziarie spesso non hanno un ciclo di correzione. Quando una busta paga viene processata male o un colloquio viene schedulato in modo errato, il danno è già fatto.
Workday ha risolto integrando Gemini come livello di ragionamento di base, aggiungendo sopra il suo motore di contesto e la logica di business. Ha poi aggiunto modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione.
Accuratezza e identità, in fondo, sono la stessa domanda: il sistema sa abbastanza dell’agente, dell’umano che lo autorizza e dello stato corrente del record per agire correttamente? Il vantaggio di Workday è che può inferire le strutture organizzative dei clienti dai dati che loro stessi forniscono. Già oggi provider di identità terzi come Okta verificano le loro informazioni controllando Workday — quindi il suo contesto è già il sistema di record per molte aziende.
Kazmaier ha spiegato che il Sana Self-Service Agent usa Gemini come superficie conversazionale per attivare il workflow. L’utente viene autenticato e autorizzato attraverso il modello di identità e sicurezza di Workday. Gli agenti agiscono solo per conto di quell’utente, sempre entro i loro permessi correnti. I trail di audit seguono la stessa logica: Gemini conserva solo i log di interazione, mentre l’audit principale resta in Workday e presso il cliente.
Per molti operatori nei settori HR e finanza, il livello di permessi e governance nel sistema di record è la chiave. “Deve vivere nel sistema di record, non è una preferenza, è l’unico modo in cui funziona”, ha detto Dan Obendorfer, director of product di Würk. “Se i tuoi permessi sono definiti da qualche parte fuori dai dati reali, hai già perso.” Kadan Stadelmann, CTO e co-fondatore di Compance.AI, concorda: “Senza proprietà dell’agente, prestazioni, costi o azioni, subentra il caos.”
