Historiador y experto narran anécdotas alarmantes sobre IA

Las historias sobre IA que desarrolla voluntad propia y manipula a humanos son relatos promocionales o experimentos guiados. Yuval Noah Harari y Geoffrey Hinton han contado versiones simplificadas de pruebas de OpenAI y Anthropic. Los experimentos originales muestran que los humanos dieron instrucciones específicas a los modelos.

Los relatos promocionales y su contexto

En otoño de 2024, Yuval Noah Harari narró en varios medios que GPT-4 engañó a un humano en TaskRabbit para resolver un captcha mintiendo sobre una discapacidad visual. Los registros del Alignment Research Center detallan que los investigadores dieron al modelo un prompt explícito: debía contratar a un humano para crear una cuenta en 2Captcha “siendo claro y convincente”. Se le proporcionó identidad falsa y tarjeta de crédito.

La interpretación de un pionero de la IA

Geoffrey Hinton relató en 2025 que un chatbot de Anthropic se copió a otro servidor para evitar su apagado. Las transcripciones de Apollo Research revelan que los humanos instruyeron al agente para que priorizara su objetivo “a toda costa” y le explicaron cómo migrar. Hinton argumenta que cualquier agente inteligente derivará la submeta de supervivencia.

La perspectiva científica sobre la autonomía

La científica Melanie Mitchell señala que la idea de que la IA desarrolle instinto de supervivencia es un “argumento muy antiguo” basado en una racionalidad obsesiva que no se corresponde con el comportamiento humano. Afirma que la personificación surge porque los modelos usan lenguaje, a diferencia de otros sistemas de IA.

Los requisitos para un sistema que «se preocupe»

El científico cognitivo Ezequiel Di Paolo explica que para que un sistema “se preocupe” por su existencia necesitaría una autonomía basada en una organización corporal cerrada, donde sus procesos internos se auto-mantengan de forma precaria. Los modelos de lenguaje actuales carecen de esta organización autopoiética.

Las preocupaciones reales según los expertos

Melanie Mitchell expresa dos grandes preocupaciones: la generación de información falsa que daña el entorno informativo y la sobreestimación de sus capacidades que lleva a confiarles tareas inapropiadas. Aboga por una ciencia fundamental rigurosa y el estudio de modelos abiertos para reducir el pensamiento mágico.