Florent Delgrange, ricercatore post-dottorato presso l’Artificial Intelligence Lab della Vrije Universiteit Brussel (VUB), ha ricevuto il premio per il miglior articolo Blue Sky (Best Blue Sky Paper Award) alla conferenza AAMAS 2026 per il suo lavoro intitolato « Foundation World Models for Agents that Learn, Verify, and Adapt Reliably Beyond Static Environments ». In un’intervista, presenta il programma di ricerca che propone: consentire a un agente autonomo di apprendere in modo continuo, in un mondo che cambia, senza perdere le garanzie che rendono il suo comportamento affidabile.
Il suo articolo parte da una constatazione semplice. L’apprendimento per rinforzo, che consiste nell’imparare per tentativi ed errori, può essere applicato ad ambienti di cui non si potrebbero mai scrivere tutte le regole. Ma l’agente cerca in genere di massimizzare una ricompensa, e una ricompensa mal definita può essere sfruttata. Una ricompensa elevata non prova quindi, da sola, che un requisito di sicurezza o di coordinamento sia rispettato. Al contrario, la sintesi reattiva, un metodo derivato dai metodi formali, parte da un modello dell’ambiente e da una descrizione logica del comportamento atteso per costruire una politica corretta per progettazione. Presuppone tuttavia un modello esplicito e fisso, ciò che manca proprio a un agente che opera in un mondo aperto e mutevole.
La proposta consiste nel riunire questi due approcci in un unico ciclo. Un modello del mondo, cioè una rappresentazione interna dell’ambiente, verrebbe appreso dall’esperienza, ma strutturato in modo da poter essere analizzato da un verificatore, un programma incaricato di controllare la validità dei comportamenti. Man mano che l’agente apprende, aggiornerebbe il suo modello, misurerebbe l’affidabilità della sua astrazione e verificherebbe che la sua politica rispetti sempre le sue specifiche. Il verificatore potrebbe rifiutare un aggiornamento pericoloso, richiedere dati su un’area incerta o attivare una revisione del modello.
Una visione diversa dai modelli attuali
Per Florent Delgrange, il termine «fondazione» si riferisce innanzitutto al riutilizzo, non alle dimensioni. Non immagina un predittore video più grande, addestrato su più traiettorie, ma un modello persistente e strutturato, che un agente può portare da un compito all’altro e da una popolazione di agenti a un’altra. Lo paragona a una mappa che indicherebbe non solo le strade, ma anche le zone esplorate, le conclusioni che dipendono da queste zone e i momenti in cui un cambiamento rende un vecchio percorso inaffidabile.
Definisce tre proprietà attese. Il modello dovrebbe innanzitutto essere calibrato: ogni astrazione appresa sarebbe accompagnata da una misura del suo errore o della sua copertura. Dovrebbe poi essere composizionale, permettendo il riutilizzo delle dinamiche locali e dei certificati già verificati per assemblare un nuovo compito. Infine, dovrebbe essere interrogabile semanticamente: un requisito formale o un’istruzione di alto livello aiuterebbe l’agente a derivare una ricompensa o una politica adatta, con poca esperienza aggiuntiva.
Sottolinea anche che i modelli attuali sono concepiti principalmente per un compito, un ambiente o una distribuzione di addestramento specifici, con l’obiettivo principale della precisione della previsione. Tuttavia, secondo lui, una precisione media non equivale a un’abilità nel garantire un comportamento. Nell’esempio di un magazzino, un modello può prevedere correttamente quasi tutte le transizioni tralasciando un’interazione rara e pericolosa con un carrello elevatore, mentre proprio quella transizione determina la validità di una garanzia di evitamento delle collisioni. I modelli linguistici giocherebbero, in questo schema, un ruolo complementare: proporrebbero specifiche o aggiornamenti strutturati, che il modello del mondo ancorerebbe nell’esperienza e che il verificatore controllerebbe.
Sistemi multi-agente
Nei sistemi multi-agente, ogni agente che apprende fa parte dell’ambiente degli altri, il che rende il problema più difficile. Florent Delgrange prende l’esempio di una flotta di robot da magazzino, che devono evitare collisioni, consegnare i loro pacchi e rispettare vincoli di capacità condivisi. Se un robot modifica il suo percorso, il sistema potrebbe identificare le ipotesi e le garanzie coinvolte, raccogliere nuovi dati se necessario e rivedere solo i componenti interessati.
Il principale ostacolo rimane la scalabilità. Lo spazio degli stati congiunti cresce molto rapidamente con il numero di agenti, e garanzie locali non si combinano automaticamente in una garanzia globale. Il ricercatore ritiene necessario sviluppare metodi per esporre le dipendenze, preservare la validità delle garanzie durante la loro composizione e verificare abbastanza velocemente da influenzare l’apprendimento in tempo reale.
