AI agent: non è la performance il problema, ma la gestione dei permessi
Gli agenti AI enterprise si bloccano — non per colpa della performance dei modelli, ma per i permessi. Ogni flusso di lavoro agente si scontra con la stessa domanda: cosa può toccare questo agente, per conto di chi, e come fa il sistema a saperlo?
La risposta di Workday è semplice: usare il proprio sistema di record come livello di governance per gli agenti. Gerrit Kazmaier, presidente per prodotto e tecnologia dell’azienda, ha spiegato in un’intervista a VentureBeat che i clienti faticano quando mettono insieme soluzioni fatte in casa per i loro agenti. “Sana garantisce che l’integrità del modello di approvazioni e sicurezza sia sempre rispettata”, ha detto Kazmaier. “Francamente, è lì che vediamo i clienti in difficoltà quando cercano di costruire AI fai-da-te accedendo a dati grezzi: la ricchezza del modello di sicurezza si perde e i risultati diventano troppo ampi.”
Workday, che ha lanciato Sana a marzo, ha ampliato la collaborazione con Google per portare il suo sistema di record per agenti Sana in Gemini Enterprise. Gli agenti costruiti su Sana saranno quindi scopribili anche lì.
Garantire l’accuratezza
Kazmaier ha detto che l’ostacolo più grande è stato garantire l’accuratezza degli agenti, specialmente per utenti HR e finance. “Quasi giusto non è accettabile”, ha spiegato. “Pensa a pagare le persone correttamente, chiudere i bilanci o gestire i turni in modo affidabile.”
L’accuratezza è più difficile da valutare qui che in altri contesti AI. Le configurazioni delle policy, la sicurezza basata sui ruoli e le gerarchie organizzative sono profondamente interconnesse — un piccolo errore si amplifica. A differenza della maggior parte degli output AI generativi, le query HR e finance spesso mancano di un ciclo di correzione: quando una busta paga viene elaborata male o un colloquio viene programmato in modo sbagliato, il danno è fatto.
Workday ha risolto costruendo Gemini come strato di ragionamento di base, aggiungendo sopra il proprio motore di contesto e la logica di processo aziendale. Sono stati aggiunti anche modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione.
Accuratezza e identità, a quanto pare, sono la stessa domanda: il sistema sa abbastanza sull’agente, sull’umano che autorizza e sullo stato corrente del record per agire correttamente? Il vantaggio di Workday è che può dedurre le strutture organizzative dei clienti dai dati che forniscono. Già provider di identità terzi come Okta verificano le loro informazioni controllando Workday, quindi il contesto dell’azienda è il sistema di record per molte imprese.
Kazmaier ha detto che Sana Self-Service Agent usa Gemini come interfaccia conversazionale per attivare il flusso di lavoro. L’utente viene autenticato e autorizzato tramite il modello di identità e sicurezza di Workday. Gli agenti Sana agiscono solo per conto di quell’utente e rispettano i suoi permessi correnti. Le tracce di audit seguono la stessa logica: Gemini conserva solo i log delle interazioni, mentre l’audit principale rimane in Workday e presso il cliente.
Per molti professionisti HR e finance, il livello di permessi e governance nel sistema di record per agenti è fondamentale negli spazi regolamentati. “Deve vivere nel sistema di record, non è una preferenza, è l’unico modo che funziona”, ha detto Dan Obendorfer, director of product di Würk, in una mail a VentureBeat. “Se i tuoi permessi sono definiti fuori da dove vivono i dati, hai già perso.” Kadan Stadelmann, CTO e co-fondatore di Compance.AI, ha detto la stessa cosa: “Senza la proprietà dell’agente, della performance, dei costi o delle azioni, regna il caos.”
