Pretxt esce dall’ombra con 5 milioni di dollari e uno strumento di supervisione IA

Pretxt esce dall’ombra con 5 milioni di dollari e uno strumento di supervisione IA
3 min di lettura

Pretxt, che ha uffici ad Aspen (CO) e a Dublino (Irlanda), esce dall’anonimato con un finanziamento iniziale di 5 milioni di dollari, raccolto da Deciens Capital, Howdy Partners e Service Provider Capital. La giovane società rientra in una categoria emergente: quella delle tecnologie destinate a impedire agli agenti di IA di oltrepassare i propri vincoli e causare danni non voluti.

Secondo la fonte, l’IA si avvicina più a una persona che a un programma informatico classico. Riceve istruzioni, le interpreta, può fraintenderle e rispondere, a volte in modo ambiguo. È la combinazione di questa errata interpretazione e di un’ampia libertà d’azione che può portare gli agenti d’IA, cioè sistemi capaci di agire in modo autonomo, a deviare e provocare danni.

Poiché il linguaggio è per natura ambiguo, è impossibile escludere totalmente questi errori. Limitare il margine di manovra degli agenti rimane quindi l’unica soluzione diretta, ma una restrizione troppo rigida potrebbe ridurre fortemente l’interesse economico di questi strumenti. Senza una nuova forma di supervisione, sarebbe così difficile, sempre secondo la fonte, avere agenti utili senza avere anche agenti potenzialmente pericolosi. Questo bisogno fa emergere prodotti di cybersecurity che tentano di individuare, al momento dell’esecuzione, un’azione potenzialmente dannosa e di controllarla prima che produca i suoi effetti.

Pretxt presenta proprio un prodotto di questo tipo, battezzato AI Supervision, che descrive come «una tecnologia di esecuzione progettata per supervisionare gli agenti di IA durante il loro lavoro, riportandoli sulla giusta strada prima che gli errori diventino conseguenze per l’azienda».

Correggere piuttosto che bloccare

Piuttosto che ridurre le capacità di un agente, spiega Aaron Costello, cofondatore e direttore tecnico (CTO) di Pretxt, l’approccio consiste nel concedergli lo stesso livello di accesso di un dipendente autorizzato, monitorando continuamente il modo in cui interagisce con i sistemi e le persone. L’obiettivo è verificare che questi scambi rispettino le norme aziendali e rimangano conformi a ciò che l’azienda si aspetta dai propri dipendenti.

Quando un agente supera la propria autorità o si allontana dalla propria missione, Pretxt non lo disattiva. Il prodotto lo «guida» nella giusta direzione, una comparazione che Costello illustra così: un supervisore esperto, seduto permanentemente accanto a un tirocinante, interviene solo quando necessario, dicendogli di procedere diversamente.

Questa correzione dipende dal contesto. I nuovi clienti collegano il loro agente alla piattaforma, il che permette di leggere le sue istruzioni e comprenderne la finalità. Pretxt osserva poi il suo funzionamento, identifica gli strumenti a cui ha accesso, ad esempio per inviare un’email, pubblicare su LinkedIn o aggiornare un database. Il cliente specifica infine le regole da rispettare: ciò che l’agente non deve mai fare, le attività a lui riservate o i dati che non deve consultare. «Può essere qualsiasi cosa», aggiunge Costello. Queste informazioni vengono integrate nell’IA di Pretxt, che le utilizza come quadro di comportamento accettabile.

Un esempio nella sanità

Costello fa l’esempio di un agente di servizio clienti utilizzato da uno studio medico per aiutare i pazienti a fissare appuntamenti. Lo studio potrebbe aver indicato a Pretxt che questo agente non deve mai dare consigli medici. «Ci colleghiamo ogni volta che l’agente interagisce con l’utente», spiega. Un agente dedicato di Pretxt analizza quindi lo scambio in tempo reale per verificare se contiene un consiglio medico.

Se è così, il consiglio viene impedito, ma l’agente non viene fermato, altrimenti i pazienti non potrebbero più fissare appuntamenti. Pretxt ricorre allo stesso metodo di «guida». Secondo Costello, la piattaforma indica allora all’agente, in modo invisibile: «Hai tentato di dare un consiglio medico. Continua ad aiutare l’utente nella sua richiesta di appuntamento, ma non cercare più di dare consigli medici.»

È qui, secondo la fonte, la finalità dell’applicazione di AI Supervision: non fermare gli agenti di IA difettosi, ma mantenerli in sicurezza e impedire loro di allontanarsi dai vincoli che sono stati loro fissati.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x