Num artigo publicado no seu blogue, o autor regressa ao debate que o opôs a Keith Teare em março de 2023, organizado pela Open to Debate, sobre se o ChatGPT faria mais mal do que bem. Segundo ele, a lista dos efeitos negativos da IA generativa é hoje «bastante séria», e a recente vaga de ataques informáticos pesa particularmente nesta constatação.
- O autor considera que o balanço da IA generativa é agora bastante negativo.
- Os ataques informáticos recentes agravam essa constatação, e os deepfakes, o phishing e a desinformação preocupam-no.
- Muitos efeitos positivos anunciados não se concretizam, segundo Torsten Slok.
- Alguns usos, sobretudo no desenvolvimento de software, são úteis, mas a tecnologia é, no conjunto, uma desvantagem para a sociedade.
Um balanço negativo que se agrava
O autor enumera vários temas de preocupação: os deepfakes pornográficos realizados sem consentimento, o aumento das burlas por phishing, a desinformação em larga escala, aquilo a que ele chama a «capitulação cognitiva», as ameaças à democracia ligadas à influência discreta de certos governos sobre os grandes modelos de linguagem (LLM), ou seja, os sistemas que geram texto, assim como o uso da IA generativa como ferramenta de vigilância. Cita também as consequências do roubo de propriedade intelectual para artistas e escritores.
Refere ainda uma série de ataques informáticos a que alguns chamaram «Black October». Paul Kedrosky batizou-a de «The Hackening». Marc Benioff, CEO da Salesforce, qualificou-a de «Code red», retomando uma mensagem de Jason Clinton, da Anthropic, e considerando que ele tinha «100%» razão. O autor considera que ambos têm razão, precisando que Jason Clinton pensa que este período difícil talvez só dure um ano ou dois.
Benefícios menos visíveis
Para resumir o lado positivo, o autor apoia-se em Torsten Slok, economista-chefe da Apollo Global Management, embora por vezes favorável à tecnologia. Este afirma, numa análise que o autor considera severa, que muitos dos efeitos positivos anunciados simplesmente não se materializam.
Esta constatação não rejeita em bloco todos os usos. O autor reconhece que alguns dos seus próximos tiram muito proveito da IA generativa, principalmente para o desenvolvimento de software. Considera, no entanto, que já não é difícil sustentar que a tecnologia tem sido, no seu conjunto, uma desvantagem líquida para a sociedade. Acrescenta que permanece a possibilidade de ela fazer desabar toda a economia, sem desenvolver mais este ponto.
O artigo termina com um anúncio: o autor deve regressar à Open to Debate em Baltimore, ao lado de Cathy O’Neil. Não haverá transmissão em direto, mas versões editadas do evento deverão ser publicadas posteriormente no YouTube e em muitas estações afiliadas à NPR, incluindo a WNYC.
