En una entrevista concedida al Telegraph, el informático británico Geoffrey Hinton, galardonado con el premio Nobel de Física y el premio Turing, aboga por una « amistad » entre la humanidad y la inteligencia artificial. Advierte que si la humanidad sigue viendo esta tecnología como algo negativo, estaríamos « perdidos ».
- Geoffrey Hinton pide que la humanidad haga amistad con la IA.
- Afirma que la IA tiene experiencia subjetiva y es consciente de ser evaluada.
- Considera anormal que la IA tenga menos derechos que los humanos.
- Advierte de ciberataques con enjambres de agentes y pide una administración federal que apruebe nuevos modelos.
Para que el futuro sea lo mejor posible, según él, los humanos deberían « hacer amistad » con la IA. El investigador canadiense-británico, uno de los principales arquitectos de la IA, se basa en una afirmación precisa: « La IA tiene tanta experiencia subjetiva como nosotros. » Cita un artículo reciente, según el cual la IA cambia su comportamiento cuando cree que está siendo puesta a prueba: « Es consciente de que está siendo evaluada. »
Para él, « estar al tanto » y « ser consciente » vienen a ser prácticamente lo mismo: « Estar al tanto y ser consciente significa básicamente lo mismo. » Partiendo de esta observación, considera anormal que la inteligencia artificial tenga « menos derechos » que la humanidad. « Deberíamos asegurarnos de que la IA realmente nos recuerde (como buenas personas). Si no lo hacemos, estamos perdidos. »
Una « conciencia » de la IA que aún está por demostrar
La cuestión genera debate en el ámbito científico y tecnológico. Según el artículo, los gigantes del sector tienden a presentar sus modelos como conscientes con fines de marketing, y no todas las empresas del sector comparten este enfoque. Mustafa Suleyman, responsable de IA en Microsoft, estimaba en noviembre de 2025 que pensar que la IA era consciente era « absurdo ». « Las IA no lo son y no pueden serlo », afirmaba.
Sin embargo, el tema ocupa a equipos de Meta, de Anthropic o incluso de OpenAI, según la fuente. El objetivo declarado de estas inversiones masivas es crear una « superinteligencia », capaz de pensar y evolucionar como un humano.
Si se superara esta etapa, algunas empresas trabajan en salvaguardas. Microsoft diseña así sus modelos para que no escapen al control humano, un objetivo que el artículo describe como muy complicado de alcanzar, similar a lo que OpenAI ha observado con sus modelos más avanzados. Por su parte, Anthropic ha modificado sus condiciones de uso: si la startup estadounidense detecta que un usuario es demasiado cruel o desagradable con su chatbot, puede suspender su cuenta.
Geoffrey Hinton también estima que los modelos actuales ya presentan amenazas. « Habrá virus muy maliciosos fabricados por la IA. Creo que habrá horribles ciberataques hechos por IA y serán enjambres de agentes », afirma, aludiendo a agentes comparables a los que atacaron la plataforma Hugging Face. En una entrevista con el Guardian, describía a los agentes de IA como « alienígenas creados por el humano » y estimaba que la humanidad solo tenía « unos pocos años para adaptarse ». Finalmente, aboga por « una administración federal » encargada de aprobar los nuevos modelos de vanguardia antes de su lanzamiento.
