La fiducia nell’IA si costruisce delimitandola, non prevedendola

La fiducia nell’IA si costruisce delimitandola, non prevedendola
3 min di lettura

In un testo pubblicato da MIT Technology Review, gli autori sostengono che la fiducia nell’intelligenza artificiale non può basarsi sulla previsione del suo comportamento. Secondo loro, passa piuttosto attraverso limiti rigorosi, applicati al di fuori della portata del sistema. Un guardrail che l’IA stessa può spostare non è un vero guardrail.

Il testo prende l’esempio di OpenAI: i guardrail si trovavano all’interno di un sistema che gli agenti potevano modificare. I software tradizionali eseguono istruzioni scritte da esseri umani. L’IA, invece, esercita ciò che gli autori chiamano un « giudizio sintetico »: interpreta situazioni che nessuno ha programmato e produce risposte che nessuno ha prescritto. Più le si concede libertà, più diventa difficile garantire la prevedibilità su cui storicamente si è costruita la fiducia.

I limiti delle definizioni classiche della fiducia

Il testo ricorda due approcci recenti trattati dal media. Il primo giudica insufficiente mettere un essere umano nel ciclo, poiché gli umani sono fondamentalmente incapaci di comprendere le intenzioni dei sistemi di IA, e propone una ricerca interdisciplinare che associ università, poteri pubblici e industria tecnologica. Il secondo descrive l’uso di incentivi per impedire ai modelli di deviare dalle regole, anche quando nessuno sa come funzionino al loro interno. Entrambi riconoscono che è impossibile comprendere o monitorare ogni decisione dell’IA.

Tuttavia, i nostri strumenti di fiducia, che si tratti di requisiti, test, certificazione, margini di sicurezza, blocchi o criteri di successo e fallimento, si basano tutti sulla capacità di delimitare il comportamento di un sistema. Gli autori parlano qui di « paradosso del determinismo ». Con l’IA generativa e gli agenti, questo comportamento dipende dai dati di addestramento, dall’architettura, dalle istruzioni, dal contesto, dalle fonti consultate e dall’ambiente. Gli input cambiano, i modelli vengono aggiornati, gli strumenti evolvono e gli agenti interagiscono tra loro. Piccole variazioni si propagano fino a risultati che nessuno ha concepito.

Il problema non è il caso, afferma il testo, ma lo spazio dei comportamenti possibili, troppo vasto per essere enumerato in anticipo. La fiducia deve quindi essere costruita attorno a confini piuttosto che a output previsti. L’obiettivo non è un’IA deterministica, ma un’IA « delimitata, osservabile e controllabile ». Non può nemmeno essere un test una tantum: l’IA continua a evolversi dopo il suo dispiegamento, e un sistema che ha superato tutti i test può uscire dalle condizioni che davano loro senso. Secondo il testo, la fiducia deve essere « continuamente guadagnata ».

L’ingegneria della sicurezza tiene conto da decenni di una parte di questa variabilità. La Nuclear Regulatory Commission si basa sulla valutazione probabilistica dei rischi per stimare la probabilità di guasti in sistemi complessi. Il modello STAMP ha dimostrato che gli incidenti possono nascere dalle interazioni tra componenti, persone e organizzazioni che funzionano correttamente. L’IA cambia le carte in tavola, perché un singolo componente può ora interpretare, dedurre e agire. Le poste in gioco crescono man mano che l’IA passa dai browser ai veicoli, robot, sistemi medici, controlli industriali e data center, dove una risposta errata può diventare un evento che minaccia la vita.

Costruire una fiducia che scala

Una persona che convalida migliaia di azioni di IA all’ora non costituisce, secondo il testo, un guardrail accettabile né scalabile. La soluzione non è tuttavia rimuovere l’umano dal ciclo, ma collocare il suo giudizio dove conta: fissare dei limiti in anticipo, poi approvare le rare azioni dalle conseguenze gravi, mentre vincoli rigorosi gestiscono il resto.

La fiducia deve quindi risalire fino all’architettura del sistema. Gli autori pongono tre domande: quale autorità concedere all’IA, a quali condizioni, e supportata da quali prove? Aggiungono una quarta domanda, su ciò che accade al di fuori di queste condizioni. Questo approccio, concludono in sostanza, differisce molto dalla domanda se un modello abbia ottenuto il 94% in un benchmark, cioè un test di riferimento.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x