En una entrada publicada en su blog, el autor retoma el debate que mantuvo con Keith Teare en marzo de 2023, organizado por Open to Debate, sobre si ChatGPT haría más mal que bien. Según él, la lista de efectos negativos de la IA generativa es hoy «bastante seria», y la reciente ola de hackeos pesa especialmente en esta valoración.
- El autor considera que los efectos negativos de la IA generativa son hoy bastante graves.
- La reciente ola de ciberataques agrava notablemente ese balance negativo.
- Muchos beneficios anunciados no se materializan, según un análisis económico citado por el autor.
- En conjunto, la tecnología supone para el autor una desventaja neta para la sociedad.
Un balance negativo que se agrava
El autor enumera varios temas de preocupación: los deepfakes pornográficos realizados sin consentimiento, el aumento de las estafas de phishing, la desinformación a gran escala, lo que él llama la «capitulación cognitiva», las amenazas para la democracia vinculadas a la influencia discreta de ciertos gobiernos en los grandes modelos de lenguaje (LLM), es decir, los sistemas que generan texto, así como el uso de la IA generativa como herramienta de vigilancia. También cita las consecuencias del robo de propiedad intelectual para artistas y escritores.
Finalmente, menciona una serie de ciberataques que algunos han apodado «Black October». Paul Kedrosky la bautizó como «The Hackening». Marc Benioff, CEO de Salesforce, la calificó de «Code red», retomando un mensaje de Jason Clinton, de Anthropic, y juzgando que tenía «100 %» de razón. El autor estima que ambos tienen razón, aunque precisa que Jason Clinton piensa que este período difícil quizá solo dure un año o dos.
Beneficios menos visibles
Para resumir el lado positivo, el autor se basa en Torsten Slok, economista jefe de Apollo Global Management, aunque a veces favorable a la tecnología. Este afirma, en un análisis que el autor considera severo, que muchos de los efectos positivos anunciados simplemente no se materializan.
Esta valoración no rechaza de plano todos los usos. El autor reconoce que algunos de sus allegados obtienen mucho provecho de la IA generativa, principalmente para el desarrollo de software. Sin embargo, estima que ya no es difícil sostener que la tecnología ha sido, en conjunto, una desventaja neta para la sociedad. Añade que queda la posibilidad de que haga caer toda la economía, sin desarrollar más este punto.
La entrada termina con un anuncio: el autor debe volver a Open to Debate en Baltimore, junto a Cathy O’Neil. No habrá transmisión en directo, pero versiones editadas del evento deberían publicarse posteriormente en YouTube y en muchas emisoras afiliadas a NPR, incluida WNYC.
