Il vero ostacolo per gli AI agent aziendali non è il modello: sono i permessi
Gli AI agent nelle imprese si fermano tutti allo stesso muro: cosa può toccare l’agente, per conto di chi, e come fa il sistema a saperlo? Non è un problema di performance del modello, ma di autorizzazioni. Ogni flusso di lavoro agentico arriva prima o poi a chiederselo.
La risposta di Workday è semplice: usare il proprio sistema di record come strato di governance per gli agenti. Gerrit Kazmaier, presidente product & technology dell’azienda, ha spiegato a VentureBeat che i clienti faticano quando mettono insieme soluzioni fai-da-te per i loro agenti. “Sana garantisce che l’integrità del modello di approvazioni e sicurezza venga sempre rispettata”, ha detto Kazmaier. “Francamente, è lì che vediamo i clienti in difficoltà quando provano a costruire AI fai-da-te accedendo a dati grezzi: la ricchezza del modello di sicurezza si perde e i risultati diventano troppo ampi”. Workday ha lanciato Sana a marzo e ha esteso la partnership con Google per portare il suo sistema di record per agenti su Gemini Enterprise.
Il problema più grosso, secondo Kazmaier, è stato garantire l’accuratezza dell’agente, soprattutto per utenti HR e finance. “Quasi giusto non è accettabile”, ha detto. “Pensa a pagare le persone correttamente, chiudere i bilanci o gestire i turni in modo affidabile”. L’accuratezza è più difficile da valutare qui che in altri contesti AI: configurazioni di policy, sicurezza basata sui ruoli e gerarchie organizzative sono profondamente interconnesse. Un piccolo errore si propaga. E a differenza della maggior parte degli output di AI generativa, le query HR e finance spesso mancano di un loop di correzione. Quando una busta paga viene processata male o un colloquio viene schedulato in modo sbagliato, il danno è fatto.
Workday ha risolto inserendo Gemini come strato di ragionamento di base, aggiungendo poi un motore di contesto e logica di business process. Ha anche aggiunto modelli di verifica e classificazione che “interrogano” gli output prima dell’esecuzione. Accuratezza e identità, alla fine, sono la stessa domanda: il sistema sa abbastanza sull’agente, sull’umano che autorizza e sullo stato corrente del record per agire correttamente? Il vantaggio di Workday è che può inferire le strutture organizzative dei clienti dai dati che forniscono. Già oggi provider di identità terzi come Okta verificano le loro informazioni controllando Workday, quindi il suo contesto è il sistema di record per molte imprese.
Kazmaier ha detto che Sana Self-Service Agent usa Gemini come superficie conversazionale per attivare il flusso di lavoro. L’utente viene poi autenticato e autorizzato tramite il modello di identità e sicurezza di Workday. Gli agenti Sana agiscono solo per conto di quell’utente e entro i suoi permessi correnti. I trail di audit seguono la stessa logica: Gemini trattiene solo i log di interazione, mentre l’audit principale resta dentro Workday e il cliente.
Per molti practitioner nel settore HR e finance, lo strato di permessi e governance nel sistema di record è la chiave negli ambiti regolamentati. “Deve vivere nel sistema di record, non è una preferenza, è l’unico modo in cui funziona”, ha detto Dan Obendorfer, director of product di Würk. “Se i tuoi permessi sono definiti da qualche parte al di fuori di dove vivono i dati, hai già perso”. Kadan Stadelmann, CTO di Compance.AI, ha fatto lo stesso ragionamento separatamente: “Senza proprietà dell’agente, performance, costi o azioni, il caos regna”.
