In einem auf seinem Blog veröffentlichten Beitrag greift der Autor die Debatte auf, die er im März 2023 mit Keith Teare bei Open to Debate darüber führte, ob ChatGPT mehr Schaden als Nutzen bringen würde. Seiner Ansicht nach ist die Liste der negativen Auswirkungen generativer KI heute „ziemlich ernst », und die jüngste Welle von Hackerangriffen trägt besonders zu dieser Einschätzung bei.
- Der Autor hält die negativen Folgen generativer KI für ziemlich ernst.
- Deepfakes, Phishing, Desinformation und Cyberangriffe nehmen stark zu.
- Laut Torsten Slok treten viele versprochene Vorteile nicht ein.
- Der Autor sieht die Technologie insgesamt als klaren Nachteil für die Gesellschaft.
Eine sich verschlechternde Negativbilanz
Der Autor zählt mehrere Besorgnis erregende Themen auf: pornografische Deepfakes, die ohne Einwilligung erstellt werden, der Anstieg von Phishing-Betrug, Desinformation in großem Maßstab, was er als „kognitive Kapitulation » bezeichnet, Bedrohungen für die Demokratie durch den verdeckten Einfluss bestimmter Regierungen auf große Sprachmodelle (LLMs), also Systeme, die Text generieren, sowie den Einsatz generativer KI als Überwachungswerkzeug. Er erwähnt auch die Folgen des Diebstahls geistigen Eigentums für Künstler und Schriftsteller.
Schließlich spricht er eine Reihe von Cyberangriffen an, die einige als „Black October » bezeichnet haben. Paul Kedrosky taufte sie „The Hackening ». Marc Benioff, CEO von Salesforce, nannte sie einen „Code red », indem er eine Aussage von Jason Clinton von Anthropic aufgriff und befand, dieser habe „100 % » recht. Der Autor ist der Meinung, dass beide recht haben, stellt aber klar, dass Jason Clinton glaubt, diese schwierige Phase werde vielleicht nur ein oder zwei Jahre dauern.
Weniger sichtbare Vorteile
Um die positive Seite zusammenzufassen, beruft sich der Autor auf Torsten Slok, den Chefvolkswirt von Apollo Global Management, der der Technologie zwar manchmal positiv gegenübersteht. Dieser stellt in einer vom Autor als streng eingeschätzten Analyse fest, dass viele der angekündigten positiven Effekte sich einfach nicht materialisieren.
Diese Feststellung verwirft nicht pauschal alle Anwendungen. Der Autor räumt ein, dass einige seiner Bekannten großen Nutzen aus generativer KI ziehen, hauptsächlich für die Softwareentwicklung. Er ist jedoch der Ansicht, dass es nicht mehr schwer zu vertreten ist, dass die Technologie insgesamt ein klarer Nachteil für die Gesellschaft war. Er fügt hinzu, dass die Möglichkeit bestehe, dass sie die gesamte Wirtschaft zum Absturz bringe, ohne diesen Punkt weiter auszuführen.
Der Beitrag endet mit einer Ankündigung: Der Autor wird bei Open to Debate in Baltimore erneut auftreten, diesmal an der Seite von Cathy O’Neil. Es wird keine Live-Übertragung geben, aber geschnittene Versionen der Veranstaltung sollen später auf YouTube und vielen NPR-Partnersendern, darunter WNYC, veröffentlicht werden.
