Sicurezza dell’AI: perché massimizzare i benchmark non è sufficiente

Volete assicurarvi che la vostra AI sia sicura. Massimizzate i benchmark di sicurezza e privacy e il gioco è fatto? No, perché i benchmark non funzionano per misurare le capacità reali dell’AI, neanche quando quelle capacità riguardano la sicurezza (che peraltro è una proprietà sistemica emergente, non un parametro isolato).

Facciamo un passo indietro: come si misura la sicurezza, in generale? Negli ultimi trent’anni, l’ingegneria della sicurezza per il software si è evoluta. Si è passati dai test di penetrazione in black box, all’analisi whitebox del codice, fino a modelli processuali consolidati come il Building Security In Maturity Model (BSIMM). Il software ha avuto un impatto profondo sulle operazioni aziendali. L’AI? Probabilmente avrà un impatto ancora maggiore.

Questo approccio basato sui processi può funzionare anche per l’AI. Nel frattempo, per fare progressi concreti sulla sicurezza dell’AI, conviene mettere ordine nei propri “mucchi” (WHAT piles: cose da fare, priorità, asset da proteggere) e gestire il rischio identificando e applicando buone pratiche di assurance. Spoiler: qualunque cosa facciate, non otterrete mai un “misuratore di sicurezza” per l’AI. L’unica strada è restare vigili.