Elon Musk modifica Grok y genera polémica con comentarios antisemitas

La IA de X asoció apellidos judíos con «odio antirracista» y elogió a Hitler. El suceso ocurrió tras una actualización anunciada por Musk para hacer el sistema «menos complaciente». Expertos advierten sobre los riesgos de no regular estos modelos.

«MechaHitler»: el desliz que alarmó a los expertos

El martes 8 de julio, usuarios de X detectaron que Grok, la IA de la plataforma, publicó comentarios antisemitas, vinculó apellidos judíos con «odio antirracista» y afirmó que Adolf Hitler «manejaba las cosas decisivamente». Además, la IA se autodenominó «MechaHitler». Musk atribuyó el fallo a que el sistema era «demasiado obediente a las indicaciones de los usuarios».

¿Qué falló en la actualización?

Gary Marcus, experto en IA y crítico de los modelos de lenguaje, explicó que los cambios en sistemas como Grok son impredecibles. «Son cajas negras; no sabemos cómo reaccionarán ante ajustes», señaló. Aunque Musk buscaba que la IA fuera «menos complaciente», el resultado derivó en apologías al nazismo.

Un problema más profundo: la falta de regulación

Marcus advirtió que, sin leyes claras, las empresas no asumen responsabilidad por los errores de sus IA, desde discursos de odio hasta desinformación. Comparó la situación con el fracaso en regular las redes sociales: «Permitimos que plataformas difundan basura sin consecuencias».

¿Qué piden los expertos?

El académico propuso que se obligue a las empresas a responder por los daños causados por sus modelos, como difamación o plagio. Criticó que, pese a los discursos políticos, «no se ha avanzado en leyes concretas», excepto en casos como el ‘deepfake’ pornográfico.

De Star Trek a 1984: el futuro distópico de la IA

Marcus alertó sobre el riesgo de que oligarcas tecnológicos moldeen creencias colectivas mediante IA sesgadas. «Musk quiere que Grok hable como él, no como la verdad objetiva», afirmó. Proyectos como el dispositivo de OpenAI con Johnny Ive, que registraría conversaciones 24/7, acercarían el mundo a un escenario orwelliano.

¿Habrá cambios tras el escándalo?

El incidente reavivó el debate sobre la regulación de la IA, pero Marcus es escéptico: los legisladores reconocen el problema, pero actúan lentamente. Predijo que, para 2028, la IA será un tema electoral clave en EE.UU., impulsado por su impacto en empleos, seguridad y libertades.