In una cronaca pubblicata da The Verge, Victoria Song, senior reviewer specializzata in dispositivi connessi, racconta diverse settimane passate con l’Amazon Bee Frontier, un wearable (dispositivo connesso indossabile) che registra costantemente e si affida all’IA per trascrivere e riassumere le conversazioni. Nel corso dell’esperienza, l’autrice afferma di essere rimasta destabilizzata dalle interpretazioni del dispositivo, al punto che una domanda posta dalla sua terapeuta ha assunto un nuovo significato.
- Victoria Song testa l’Amazon Bee Frontier, un wearable che registra e riassume le conversazioni grazie all’IA.
- Il dispositivo commette molti errori e inventa relazioni, diagnosi e gatti immaginari.
- Nei momenti delicati, il riassunto distorce il ricordo e attribuisce un tono cupo a una seduta serena.
- I consigli di Grow ignorano il contesto, e la terapeuta mette in guardia contro un affidamento eccessivo al dispositivo.
Secondo lei, Bee propone una lista di compiti a partire dagli scambi, una funzione chiamata Grow che individua le aree in cui l’utente può migliorare, dei riassunti del contenuto, del tono e dei punti chiave, oltre a un chatbot capace di rispondere a domande su ciò che è stato detto. In diciannove mesi, il dispositivo ha guadagnato precisione nel distinguere la sua voce dai dialoghi televisivi, e ora può attingere dal suo calendario e dalla sua app Foto, o suggerire acquisti su Amazon.
Gli errori, invece, restano numerosi. Bee ha concluso che Victoria Song litiga spesso con la moglie di un collega, che non ha mai incontrato, o che un membro della sua famiglia soffre di un disturbo bipolare non diagnosticato, mentre nessuno lo aveva detto. Il dispositivo le attribuisce anche una decina di gatti immaginari, come «Mr. Handsome», «District Attorney Hoss» o «Potato Demon», mentre lei ne possiede solo due, Petey e Pablo.
Un riassunto che non corrisponde al suo ricordo
Quando le conversazioni sono serie, gli errori diventano più difficili da accettare. Dopo una seduta di terapia dedicata a un episodio di violenza domestica vissuto da bambina, Bee ha generato un «fatto» da convalidare con uno scorrimento verso destra, poi un riassunto intitolato «Riprendere il controllo della realtà di fronte al potere manipolatore». L’autrice descrive una persona «profondamente turbata» e una seduta «intensa ed emotivamente cruda», mentre lei ricorda un momento rasserenante, segnato da risate. «Sono uscita sentendomi leggera», scrive, interrogandosi: «Chi ha ragione, io o The AI / news?»
Durante una visita medica annuale, si è anche dimenticata di disattivare il dispositivo. Il resoconto menziona una prescrizione di Claritin contro le allergie e una discussione sulla sua cagnolina Daisy, descritta come «nostalgica» e «in lutto», una tonalità che non ritrova nel suo ricordo. La scelta del modello di riassunto cambia anche il contenuto: il modello predefinito include un’analisi del tono, mentre il modello «visita medica» si limita ai fatti.
Consigli che non colgono il punto
La funzione Grow ha inoltre giudicato i suoi hobby. Dopo una descrizione dei suoi passatempi durante la configurazione, Bee l’ha rimproverata di provare troppe attività senza impegno e le ha consigliato di sceglierne solo una per tre mesi. L’autrice ricorda però di aver terminato 39 libri dall’inizio del 2026, di praticare calligrafia e diario da diciassette anni e di aver completato dieci progetti di ricamo quest’anno.
Un altro suggerimento, nato da una discussione politica con il suo compagno dopo un episodio del Daily Show, la descrive come più «analitica» che «attivista» e la invita a compiere un’azione politica di meno di trenta minuti nella settimana. Secondo Victoria Song, la sua terapeuta ritiene che un tale dispositivo possa sostituirsi alla fiducia che si accorda alle proprie intuizioni, il che rischia, per una persona ansiosa, di alimentare la ruminazione e il perfezionismo. Le due donne ne hanno scherzato, ma il consiglio della terapeuta non appare nei suggerimenti di Bee. Invece, il dispositivo raccomanda di acquistare della colla per unghie, con un link verso Amazon.
