In een blogpost op zijn eigen blog gaat de auteur terug op het debat dat hij in maart 2023 met Keith Teare voerde, georganiseerd door Open to Debate, over de vraag of ChatGPT meer kwaad dan goed zou doen. Volgens hem is de lijst van negatieve effecten van generatieve AI inmiddels ‘behoorlijk serieus’, en de recente golf van hackaanvallen weegt vooral zwaar in deze constatering.
- De auteur vindt de negatieve effecten van generatieve AI inmiddels behoorlijk serieus.
- Hackaanvallen, deepfakes, phishing en desinformatie wegen zwaar door.
- Volgens de auteur is generatieve AI per saldo een nadeel voor de samenleving.
- Veel beloofde voordelen blijven uit, al helpen sommige toepassingen, zoals softwareontwikkeling.
Een negatieve balans die zwaarder wordt
De auteur somt verschillende zorgpunten op: pornografische deepfakes gemaakt zonder toestemming, de toename van phishing-zwendel, grootschalige desinformatie, wat hij ‘cognitieve capitulatie’ noemt, bedreigingen voor de democratie door de stille invloed van sommige regeringen op grote taalmodelen (LLM’s), dat wil zeggen de systemen die tekst genereren, en het gebruik van generatieve AI als bewakingstool. Hij noemt ook de gevolgen van diefstal van intellectueel eigendom voor kunstenaars en schrijvers.
Hij noemt ten slotte een reeks cyberaanvallen die sommigen ‘Black October’ hebben genoemd. Paul Kedrosky doopte het ‘The Hackening’. Marc Benioff, CEO van Salesforce, kwalificeerde het als ‘Code red’, waarbij hij een bericht van Jason Clinton van Anthropic overnam en oordeelde dat hij ‘100%’ gelijk had. De auteur vindt dat beiden gelijk hebben, maar preciseert dat Jason Clinton denkt dat deze moeilijke periode misschien maar een jaar of twee zal duren.
Minder zichtbare voordelen
Om de positieve kant samen te vatten, beroept de auteur zich op Torsten Slok, hoofdeconoom van Apollo Global Management, die toch soms voorstander van de technologie is. Deze laatste stelt, in een analyse die de auteur streng vindt, dat veel aangekondigde positieve effecten zich gewoonweg niet materialiseren.
Deze constatering verwerpt niet alle toepassingen in zijn geheel. De auteur erkent dat sommige mensen in zijn omgeving veel profijt hebben van generatieve AI, vooral voor softwareontwikkeling. Hij vindt echter dat het niet langer moeilijk is vol te houden dat de technologie over het geheel genomen een netto nadeel voor de samenleving is geweest. Hij voegt eraan toe dat er nog steeds de mogelijkheid bestaat dat ze de hele economie doet instorten, zonder dit punt verder uit te werken.
De blogpost eindigt met een aankondiging: de auteur keert terug naar Open to Debate in Baltimore, samen met Cathy O’Neil. Er zal geen livestream zijn, maar gemonteerde versies van het evenement zullen later op YouTube en op veel aan NPR gelieerde zenders, waaronder WNYC, worden gepubliceerd.
