IA e uso passivo: cosa c’è dietro «Sa tutto, o quasi, ma non capisce nulla»
Il libro si intitola «Sa tutto, o quasi, ma non capisce nulla» ed è di Fortunato Costantino, professore all’European School of Economics. La presentazione romana, al Palazzo delle Esposizioni, è stata un dialogo con il giurista Giuseppe Cassano, co-direttore degli Stati generali del diritto di Internet e dell’IA alla Luiss. Due i nodi affrontati: cosa significhi «comprendere» quando si parla di intelligenza artificiale e chi risponde se un sistema automatico provoca un danno.
Elaborazione statistica, non comprensione
Per Costantino i sistemi di IA sono potenti strumenti di elaborazione statistica: producono risultati molto efficaci, ma agevolano un utilizzo inconsapevole, quasi passivo, proprio per come sono costruiti. Il meccanismo è psicologico prima che tecnico. Si tende a considerare una risposta autentica e verificata solo perché arriva dall’IA. L’output finisce così per valere come una certificazione implicita, anche quando andrebbe controllato e contestualizzato.
Il punto tecnico è semplice: i modelli generativi costruiscono testi e risposte su correlazioni e probabilità apprese dai dati. L’efficacia può essere alta, ma non coincide con una verifica umana dei contenuti.
Alla domanda su cosa distingua la comprensione umana da quella di un’IA, Costantino sposta l’attenzione sull’utilizzatore. La competenza del futuro, dice, è «saper leggere segni, simboli e codici» elaborati dalla macchina. La differenza quindi non si gioca su cosa la macchina sa fare, ma su come l’uomo interpreta e governa ciò che gli torna indietro. Da qui la formula: «il primato umano del senso è ciò che ci salverà». Attribuire significato, valutare contesto e finalità, riconoscere limiti e ambiguità resta una dimensione decisiva, e nessuna delle tre si trasferisce al sistema.
Chi paga il danno
Il tema della responsabilità legale è entrato nel confronto con Cassano, che lo ha definito senza giri di parole.
«Chi risponde dei danni da intelligenza artificiale è la domanda delle domande»
La scala delle possibili responsabilità, ha spiegato, va dall’utilizzatore finale fino al produttore. Due estremità della stessa catena: l’uso concreto di chi impiega lo strumento e le scelte di progettazione e rilascio di chi lo sviluppa. Con un problema di fondo, perché le norme oggi disponibili sono pensate per tempi assolutamente diversi. In pratica la diffusione di questi strumenti apre questioni nuove di attribuzione della colpa e di gestione del rischio, che il diritto fatica a incasellare.
Cassano ha richiamato anche un’espressione ricorrente nel dibattito scientifico: l’IA resta un «pappagallo stocastico», che ripete statisticamente la risposta più probabile. L’output può risultare convincente e ben costruito senza implicare alcuna comprensione nel senso umano del termine.
