¿Pueden los artículos científicos generados enteramente por IA superar los filtros de las revistas? El periodista y doctor en matemáticas aplicadas Benjamin Skuse probó el experimento con el editor IEEE. Según el relato publicado por IEEE Spectrum, los controles del editor se mantienen por ahora, pero la carrera entre contenidos artificiales y herramientas de detección sigue siendo ajustada.
- Un periodista generó un artículo científico con IA y logró enviarlo al sistema de publicación de IEEE.
- Los editores resisten con revisión humana y herramientas de detección, pero la carrera sigue siendo muy ajustada.
- Wikipedia enfrenta el mismo problema, con menos personas y menos herramientas.
- Si el contenido generado por IA se vuelve indistinguible, la confianza en el conocimiento humano se debilita.
El reportaje de Benjamin Skuse, titulado «I Used AI to Fake a Scientific Paper», describe la facilidad con la que se puede producir un texto más o menos plausible y más o menos científico. Según Eliza Strickland, editora jefe de contenidos especiales e IA en IEEE Spectrum, él se sorprendió por la simplicidad del proceso. «Simplemente pulsó ‘run experiment’ y ‘write paper’. Y luego, no hizo nada más. Simplemente lo lanzó al sistema de publicación», cuenta.
Según Benjamin Skuse, la combinación de la revisión humana y los programas de verificación de la integridad de la investigación de IEEE permite, por el momento, seguir el ritmo de estos intentos, que son un juego del gato y el ratón frente a las herramientas gratuitas. Sin embargo, los grandes modelos de lenguaje más avanzados ya no cometen los errores burdos de sus versiones gratuitas. Los editores se encuentran así inmersos en una carrera entre contenidos cada vez más creíbles y los sistemas encargados de detectarlos. Para recordar, un gran modelo de lenguaje, o LLM, es un programa entrenado con vastos volúmenes de textos para producir lenguaje.
Wikipedia en primera línea
Los editores científicos no son los únicos que resisten. Wikipedia se enfrenta al mismo problema. En el marco de su sección «Five Questions», Eliza Strickland entrevistó a Ellia Lebleu, miembro fundador de WikiProject AI Cleanup, una iniciativa de voluntarios que busca detectar y eliminar los contenidos generados por IA en la plataforma. Su equipo afronta la misma dificultad que los editores comerciales, pero con menos personas y menos herramientas.
Para Eliza Strickland, Wikipedia es reconocida como un reservorio de información producida por humanos, y la plataforma pretende seguir siéndolo. «¿Quién sabe cuánto tiempo podrán hacerlo?», se pregunta.
La pregunta trasciende el marco de estos dos actores. Si ya no se puede considerar colectivamente que la literatura científica es fiable, o que los hechos básicos sobre el mundo son exactos, la comprensión de lo que es real se vuelve incierta. Esta incertidumbre debilita la confianza en las instituciones encargadas de mantener actualizado el corpus de conocimientos humanos.
Eliza Strickland menciona también una perspectiva más inquietante. «¿No es una locura que lleguemos a tener, en algún momento, IAs que escriban para otras IAs? Simplemente seremos excluidos del circuito».
