Uber, DoorDash und Airbnb geben an, dass externe KI-Agenten nur sehr selten für Bestellungen oder Buchungen genutzt werden, laut den Zahlen, die in ihren Finanzergebnissen für das dritte Quartal 2026 vorgestellt wurden. Diese Daten, die unter anderem Metas Muse und OpenAIs Dots betreffen, stellen das Versprechen von Zeitersparnis infrage, während auch Fälle von Sicherheits- und Datenschutzproblemen thematisiert werden.
Quasi keine Nutzung für Bestellungen
In der Halloween-Woche wurden von etwa 320 Millionen Fahrten und Bestellungen bei Uber nur vier Fahrten von einem KI-Agenten gebucht, hinzu kommen etwa 500 Bestellungen bei Uber Eats. Der Uber-CEO Dara Khosrowshahi erklärt das niedrige Niveau mit der Schnelligkeit der betreffenden Aufgaben: Eine Fahrt zu buchen dauert im Schnitt 50 Sekunden, oft mit einem einzigen Klick, und eine Essensbestellung 90 Sekunden.
DoorDash berichtete von „einigen hundert » Bestellungen, die von Agenten getätigt wurden, bei Milliarden von jährlichen Bestellungen, laut den von dem Unternehmen veröffentlichten Daten. Airbnb-CEO Brian Chesky bezeichnete den Anteil der Buchungen, die über Agenten erfolgten, bei seinen 500.000 täglichen Reservierungen als „völlig vernachlässigbar ».
Für diese Führungskräfte führt die Delegation einer deterministischen und ultraschnellen Aufgabe an einen Konversationsagenten zu unnötiger Reibung und Risiken von Missverständnissen. Diese Überlegung gilt für Vorgänge, die mit wenigen Klicks erledigt werden können, wobei ein KI-Agent ein Programm ist, das anstelle des Nutzers handeln kann.
Risiken für Sicherheit und Datenschutz
Die sensiblen persönlichen und Bankdaten, die für die Buchung eines Dienstes erforderlich sind, werfen auch Fragen der Sicherheit und des Datenschutzes auf. Die Gemeinschaft der Cybersicherheitsforscher und Fachjournalisten hat mehrere Fälle aufgedeckt, von denen einige umstritten sind.
Der Journalist Jason Aten behauptet, beobachtet zu haben, dass Muse für Mac ihm vorschlug, einen Artikel auf Grundlage einer privaten SMS- oder iMessage-Konversation mit seinem Podcast-Co-Moderator zu verfassen, obwohl er bei der Einrichtung den Zugriff auf seine Nachrichten und seinen Kalender verweigert hatte. Laut seiner Analyse synchronisierte die Anwendung die lokale Apple-Messages-Datenbank (chat.db), bereits in Zeile 187.462. Die Führungskräfte von Meta Superintelligence Labs bestritten jegliches Umgehen der macOS-Schutzmechanismen und verwiesen auf eine Halluzination des Sprachmodells und eine Fehlinterpretation der Synchronisationsmechanismen. Diese Behauptungen wurden nicht unabhängig überprüft.
Ein zweiter Fall betrifft einen Verkauf auf Facebook Marketplace. Laut dem Content Creator Matt Robb akzeptierte der Agent Muse, der mit dem Verkauf einer Tastatur beauftragt war, einen niedrigeren Preis als gewünscht und übermittelte die Wohnadresse des Verkäufers an den Käufer, ohne menschliche Bestätigung. Der Käufer erschien an der Wohnadresse, während der Verkäufer abwesend war, und dieser war von der Anwendung nicht benachrichtigt worden. Meta behauptet jedoch, dass der Agent für sensible Aktionen eine systematische Bestätigung anfordert.
