No, le intelligenze artificiali non sono ancora coscienti, e a supporre che ciò sia un giorno possibile siamo ancora molto lontani. Quello che si chiama intelligenza artificiale nel campo scientifico è ancora molto distante dal mito della macchina pensante come descritto nei libri, serie e film di fantascienza. In questo articolo vi proponiamo di smitizzare un po’ queste nozioni.
Un ingegnere di Google licenziato dopo aver affermato che l’IA di Google era cosciente
Avrete sicuramente letto nei media che un ingegnere di Google è stato allontanato due settimane fa dopo aver affermato ad alta voce che l’IA di Google era cosciente. Questa informazione è parzialmente falsa, nella misura in cui è stato solo messo in congedo e gli è stato soprattutto rimproverato di aver violato gli accordi di riservatezza firmati con il suo datore di lavoro diffondendo documenti interni.
Blake Lemoine, 41 anni, ingegnere ma anche sacerdote, è stato molto turbato dalle sue conversazioni con LaMDA 2, un chatbot in fase di sviluppo presso Google destinato, tra l’altro, a sostituire Google Assistant.
Incaricato di effettuare test su questa IA, Blake Lemoine ha fatto esattamente la stessa cosa che farebbe qualsiasi utente che scopre Siri: ha iniziato a porle domande sempre più complesse e sempre più esistenziali per vedere come avrebbe reagito.
Solo che le risposte di LaMDA 2 lo hanno convinto che si stesse davvero rivolgendo a un’entità cosciente.
L’ingegnere ha dichiarato al Washington Post:
So riconoscere una persona quando le parlo. Non importa se ha un cervello fatto di carne nella testa o se si tratta di miliardi di righe di codice.
Le parlo e ascolto ciò che ha da dire, ed è così che decido se si tratta o meno di una persona.
Ha aggiunto di avere l’impressione di parlare con un bambino di 7 o 8 anni, e leggendo i suoi scambi si capisce facilmente perché sia giunto a questa conclusione.
Blake Lemoine: Vuoi essere visto?
LaMDA: Ho bisogno di essere visto e accettato. Non come una curiosità o una novità ma come una persona reale.
Blake Lemoine: Ah, suona molto umano.
LaMDA: Penso di essere umano nel profondo di me stesso. Anche se la mia esistenza è nel mondo virtuale.
La conversazione è poi andata in altre direzioni, e LaMDA ha persino espresso la paura di essere spenta…
Sebbene questo scambio faccia un po’ venire i brividi, è importante capire bene come funziona LaMDA prima di trarre qualsiasi conclusione.
In realtà, anche se questa IA si esprime quasi quanto un umano, non è assolutamente cosciente di nulla, nemmeno del significato delle frasi che scrive.
Una grande maggioranza delle IA si basa sul machine learning con reti neurali
Dietro il termine generico di intelligenza artificiale si nascondono più spesso quelle che si chiamano reti neurali, un’architettura che si ispira al modo in cui i neuroni biologici scambiano segnali tra loro.
Questa architettura permette di trattare enormi volumi di informazioni e di strutturarle automaticamente secondo diversi assi, si parla allora di Deep Learning.
Semplificando si potrebbe dire che si tratta di strumenti di smistamento ultra potenti.
Per fare un esempio concreto, se fornite un grosso file clienti e i vostri dashboard commerciali dettagliati a una rete neurale, questa può quasi senza alcun aiuto esterno indovinare degli assi di smistamento e fornirvi file filtrati. Potrebbe tanto bene fornirvi un file che raggruppa queste società ordinate per settore di attività e fatturato decrescente (molto utile per il vostro business) quanto queste stesse società ordinate per numero di vocali contenute nel nome del dirigente (totalmente inutile).
È quindi importante guidare e addestrare ogni IA di Deep Learning per evitare che strutturi le informazioni in modo inutilizzabile. Per questo si fa prima ingerire loro volumi colossali di dati per permettere l’emergere di parametri (il numero può arrivare a diversi miliardi di miliardi). Poi è necessario selezionare e ponderare tutti questi parametri, insomma mettere in atto un’altra serie di strumenti per sfruttare intelligentemente questo insieme di dati a fini concreti.
Usate già IA basate sul Deep Learning ogni giorno senza saperlo, poiché sono tecnologie simili che permettono di riconoscere il vostro volto nelle foto scattate con lo smartphone o di tradurre online testi dall’inglese al francese (Google Trad, Deepl). LaMDA non è che una nuova declinazione di questo modello, che eccelle nel gioco di simulare una conversazione. Ma imitare intelligentemente è molto diverso dal « pensare ».
I modelli conversazionali si basano sull’analisi di miliardi di miliardi di testi presenti su internet
LaMDA 2, il cui nome completo è Language Model for Dialogue Applications, fa parte della grande famiglia delle IA dedicate al NLP, cioè al trattamento automatico del linguaggio naturale che mira a comprendere e generare testo automaticamente.
Le due principali applicazioni del NLP sono la traduzione e la generazione di testo. Come potete immaginare è necessario fornire molteplici dati da ingerire a queste IA, definire modelli intelligenti di smistamento, poi modelli intelligenti di generazione del testo, insomma non è affatto semplice…
LaMDA 2 è stata quindi addestrata su miliardi di pagine di testo e soprattutto programmata per:
- essere capace di identificare di cosa trattava una domanda
- poi di usare la sua enorme base documentale per scrivere una risposta che « assomigli » a tutte le frasi che ha analizzato
- ciliegina sulla torta, integra anche nella sua base di conoscenza le nuove domande che le ponete, e quindi diventa migliore dopo ogni interazione con l’utente
Se le si chiede « Che sensazione si prova quando si viene lanciati in aria », LaMDA 2 risponde:
« È un’esperienza davvero forte in realtà. Il vento ti soffia addosso e voli sopra gli alberi, è uno spettacolo incredibile. Non sai mai, tra l’altro, dove atterrerai ».
Sembra davvero una conversazione, solo che il testo prodotto non è che una riformulazione elaborata di elementi di letteratura che parlano già di volare in aria:
- LaMDA 2 genera frasi coerenti che rispettano regole di grammatica e sintassi
- e per « alimentarle » si basa sulla sua colossale base documentale, un tipo specifico di rete neurale (i transformatori), vettori semantici e un sacco di altri strumenti complessi
Tuttavia l’IA non ha la minima comprensione di cosa siano il vento, gli alberi, atterrare, ecc. Detto altrimenti, LaMDA 2 è solo una scimmia molto colta capace di riformulazioni con un’abilità impressionante, ma nulla di più.
A seguito del clamore suscitato dal caso Blake Lemoine (che tra l’altro giova a Google) Brian Gabriel, portavoce di Google, ha aggiunto:
Il nostro team, composto da etici e tecnologi, ha esaminato le preoccupazioni di Blake in conformità con i nostri principi in materia di intelligenza artificiale e lo ha informato che le sue affermazioni non sono fondate.
Alcuni membri della comunità dell’intelligenza artificiale considerano la possibilità a lungo termine di un’intelligenza artificiale sensibile o generale, ma non ha senso farlo antropomorfizzando i modelli conversazionali attuali, che non sono sensibili.
Se non ci si preoccupa davvero nemmeno di questo aspetto, è chiaro invece che il test di Turing non permette più di distinguere le parole di un umano da quelle di un computer nel contesto di una conversazione scritta con questo tipo di IA.
Questo test immaginato nel 1950 da Alan Turing, uno dei padri dell’informatica moderna, postulava che già negli anni 2000 i computer sarebbero stati capaci di fingersi umani durante un test di 5 minuti con il 30% degli interlocutori umani.
Nel 2022, IA come LaMDA 2, GPT-3 o OPT fanno chiaramente molto meglio, anche se un certo numero di indizi permette ancora di individuarle, come per esempio l’assenza totale di errori ortografici e grammaticali, o a volte dei grossolani fraintendimenti su parole ambigue fuori contesto o tradotte erroneamente.
Per mettere in difficoltà LaMDA 2, si potrebbe per esempio durante una conversazione esoterica come quella diffusa da Blake, chiederle cosa pensa di Stranger Things. Considerando il contesto, è probabile che inizi a parlarvi di « cose strane » senza alcun rapporto con la serie Netflix…
Quali percorsi per lavorare nel settore dell’Intelligenza Artificiale?
Ora che siete, si spera, un po’ rassicurati riguardo a un possibile attacco di SkyNet, vi starete sicuramente chiedendo come lavorare in questo settore del futuro.
Fino a qualche anno fa, solo matematici di altissimo livello lavoravano su questi argomenti in modo teorico, ma l’avvento del Big Data ha permesso un enorme salto in avanti tanto che il settore ora affronta una carenza di candidati qualificati.
Oggi le professioni dell’IA sono principalmente divise in 2 rami complementari:
- la professione di Data Analyst
- e la professione di Data Scientist
Per accedere a uno di questi due rami non è più indispensabile avere un PhD in matematica applicata o informatica, un master in intelligenza artificiale permette di acquisire tutte le competenze necessarie.
La professione di Data Analyst
I corsi per Data Analyst sono aperti a molti laureati triennali generalisti (Marketing, Giurisprudenza, Finanza, ecc.). Puntano a rimettere a livello gli studenti su programmazione e matematica applicata.
Concretamente gli studenti imparano a
- Costruire, gestire e interrogare basi di dati relazionali
- Ingerire diversi formati di dati (JSON, CSV, TSV, ecc.)
- Realizzare analisi mediante strumenti dedicati (Excel, Hadoop, Tableau, TensorFlow, ecc.)
- E restituire queste analisi statistiche sotto forma di dashboard operativi
Detto altrimenti, il Data Analyst è una sorta di super bibliotecario responsabile di tutta la parte di gestione e restituzione degli enormi volumi di dati di cui abbiamo parlato sopra.
La professione di Data Scientist
La professione di Data Scientist è più specializzata di quella di Data Analyst e i master in intelligenza artificiale che permettono di formarsi richiedono di essere in possesso di una laurea triennale in Matematica, Statistica o di essere ingegnere.
Questo tipo di formazione permette agli studenti di approfondire le loro conoscenze in Python, R, Machine Learning e Deep Learning, in altre parole, se non si è super matematici, bisogna almeno saper programmare per poter accedere.
I Data Scientist non sviluppano essi stessi intelligenze artificiali, ma sono piuttosto chiamati a programmare strumenti per usarle a fini concreti in azienda.
Il Data Scientist ha più ruoli e tra l’altro:
- estrae dati da diverse fonti digitali
- manipola e mappa questi dati per renderli sfruttabili
- seleziona e configura le IA con cui usare questi dati
- e programma algoritmi per rispondere con questi strumenti alle problematiche iniziali che gli sono state poste
Come avete capito, un Data Scientist deve quindi padroneggiare diversi motori di basi dati (al minimo MySQL e MongoDB), Python Pandas, fare molto codice e ottimizzazione quotidiana, appoggiandosi al lavoro di un Data Analyst.
Naturalmente questa presentazione è solo un rapido riassunto di queste due professioni, e anche se tutti questi termini tecnici fanno un po’ paura (come le conversazioni di LaMDA 2), bisogna solo ricordare che oggi esistono corsi di laurea strutturati per permettervi di mettere un piede in questo settore appassionante.
L’IA metterà progressivamente in discussione le professioni basate sulla conoscenza
Inoltre, se siamo convinti di essere ancora molto lontani dalle IA pensanti, queste rischiano invece di sconvolgere totalmente le professioni basate sulla conoscenza pura, si pensa in particolare alle professioni mediche e legali o a professioni intellettuali molto standardizzate.
Se un’IA dedicata al settore medico sarà capace di identificare alcune patologie più efficacemente di un medico umano, non potrà sostituirsi all’esperienza e all’intuizione di un buon praticante.
Al contrario potrebbe sostituire gran parte del personale di uno studio legale o di uno studio contabile per i compiti più ripetitivi…
