Perché un benchmark non ti dà la sicurezza dell’AI
Vuoi mettere al sicuro la tua AI. Massimizzi il punteggio su un benchmark di sicurezza e privacy e chiudi la questione? No. I benchmark non funzionano per misurare le capacità dell’AI, nemmeno quando si tratta di proprietà sistemiche emergenti come la sicurezza.
Trent’anni di security engineering lo dimostrano. Si è passati dai penetration test in black box all’analisi whitebox del codice, fino a standard basati sui processi come il Building Security In Maturity Model (BSIMM). Il software ha cambiato il modo di fare business. L’AI lo farà ancora di più.
Un approccio simile può funzionare anche per l’AI. Nel frattempo, il progresso reale si fa pulendo i propri dataset (il "cosa"), identificando i rischi e applicando processi di assurance validi. Non avremo mai un misurino di sicurezza per l’AI. Serve la massima attenzione.
