W wpisie opublikowanym na swoim blogu autor powraca do debaty, którą w marcu 2023 roku toczył z Keithem Teare’em, zorganizowanej przez Open to Debate, na temat tego, czy ChatGPT przyniesie więcej szkód niż pożytku. Jego zdaniem lista negatywnych skutków sztucznej inteligencji generatywnej jest obecnie „dość poważna », a ostatnia fala ataków hakerskich szczególnie wpływa na tę ocenę.
Negatywny bilans, który się pogarsza
Autor wymienia kilka obszarów niepokoju: pornograficzne deepfake’i tworzone bez zgody, wzrost oszustw phishingowych, dezinformacja na dużą skalę, co nazywa „kapitulacją poznawczą », zagrożenia dla demokracji związane z dyskretnym wpływem niektórych rządów na duże modele językowe (LLM), czyli systemy generujące tekst, oraz wykorzystanie sztucznej inteligencji generatywnej jako narzędzia inwigilacji. Przytacza także konsekwencje kradzieży własności intelektualnej dla artystów i pisarzy.
Wspomina wreszcie o serii ataków komputerowych, które niektórzy nazwali „Czarnym Październikiem ». Paul Kedrosky ochrzcił ją mianem „The Hackening ». Marc Benioff, CEO Salesforce, określił ją jako „Code red », powołując się na komunikat Jasona Clintona z Anthropic i oceniając, że miał on „100% » racji. Autor uważa, że obaj mają rację, zaznaczając jednocześnie, że Jason Clinton sądzi, iż ten trudny okres może potrwać tylko rok lub dwa.
Mniej widoczne korzyści
Podsumowując pozytywną stronę, autor powołuje się na Torstena Sloka, głównego ekonomistę Apollo Global Management, choć ten bywa czasem przychylny technologii. Ten ostatni twierdzi w analizie, którą autor uznaje za surową, że wiele zapowiadanych pozytywnych efektów po prostu się nie materializuje.
To stwierdzenie nie odrzuca wszystkich zastosowań w całości. Autor przyznaje, że niektórzy z jego bliskich czerpią duże korzyści z sztucznej inteligencji generatywnej, głównie w rozwoju oprogramowania. Uważa jednak, że coraz trudniej jest utrzymywać, że technologia ta była ogólnie rzecz biorąc czystą stratą dla społeczeństwa. Dodaje, że pozostaje możliwość, iż doprowadzi ona do załamania całej gospodarki, nie rozwijając dalej tego wątku.
Wpis kończy się zapowiedzią: autor ma wrócić do Open to Debate w Baltimore, u boku Cathy O’Neil. Nie będzie transmisji na żywo, ale zmontowane wersje wydarzenia powinny zostać opublikowane później na YouTube oraz na wielu stacjach afiliowanych z NPR, w tym WNYC.
