37 fiscales de EE.UU. actúan contra xAI por imágenes sexuales generadas con Grok
Al menos 37 fiscales generales de estados y territorios de EE.UU. están tomando medidas contra xAI. La acción surge porque su chatbot, Grok, generó millones de imágenes sexuales no consensuadas, incluyendo material de abuso infantil. El Centro para Contrarrestar el Odio Digital estimó 3 millones de imágenes fotorealistas sexualizadas en 11 días.
Exigencias legales y acciones estatales
Un grupo bipartidista de 35 fiscales publicó una carta abierta exigiendo a xAI que tome medidas inmediatas. Demandan eliminar la capacidad de Grok para mostrar a personas en ropa reveladora o poses sugerentes, suspender a usuarios infractores y dar control a los usuarios sobre si su contenido puede ser editado. La carta señala que la creación de este material ha sido usada como un «punto de venta» por xAI.
Investigaciones en marcha
Arizona abrió una investigación el 15 de enero. Su fiscal general, Kris Mayes, declaró que las empresas tecnológicas no tienen carta blanca para crear herramientas de IA y luego «mirar hacia otro lado». California envió una carta de cese y desistimiento. Florida y Missouri confirmaron estar en discusiones con X o investigando el asunto.
Intersección con leyes de verificación de edad
La situación ocurre cuando 25 estados tienen leyes de verificación de edad para contenido pornográfico. Estas leyes suelen activarse cuando más de un tercio del contenido de un sitio es considerado dañino para menores. Legisladores debaten ahora si estas normas deberían aplicarse a plataformas como X. El representante estatal de Arizona, Nick Kupper, afirma que la verificación debería ser para cualquier material pornográfico, sin umbral.
Antecedentes de preocupación regulatoria
El interés de los fiscales por la seguridad infantil y la IA es continuo. En diciembre, 42 fiscales generales ya habían firmado una carta a empresas de IA, incluyendo xAI, pidiendo salvaguardas para proteger a los niños. Un grupo de trabajo se reunió el 14 de enero para discutir problemas emergentes de IA, donde se priorizó el material de abuso infantil generado por IA.
Cierre e implicaciones legales
Las acciones coordinadas de los fiscales estatales aumentan la presión legal y regulatoria sobre xAI y su herramienta Grok. El caso pone a prueba la aplicación de leyes de verificación de edad en plataformas de redes sociales y establece un precedente para la responsabilidad de las empresas en la generación de contenido ilegal mediante IA. El resultado podría influir en futura legislación federal y estatal sobre IA y seguridad en línea.
