ChatGPT genera recibos falsos con su nuevo modelo de IA

El modelo 4o de OpenAI crea imágenes con texto realista, incluyendo comprobantes de pago falsos. Usuarios y expertos demuestran su potencial para fraudes, aunque la empresa afirma incluir metadatos de origen y vigilar usos indebidos.

«La era de las imágenes como prueba ha terminado»

El inversor Deedy Das publicó en X un recibo falsificado de un restaurante real de San Francisco, creado con ChatGPT 4o. Otros usuarios replicaron el resultado, añadiendo detalles como manchas o arrugas para aumentar el realismo. «Los modelos aún fallan en operaciones matemáticas básicas», señala TechCrunch tras encontrar errores en un recibo generado para Applebee’s.

Respuesta de OpenAI

La portavoz Taya Christianson confirmó que todas las imágenes llevan metadatos identificando su origen IA. Aunque las políticas prohíben el fraude, defendió el uso creativo: «Pueden servir para educación financiera o publicidad». La compañía actúa ante violaciones, pero prioriza la «libertad creativa» de los usuarios.

Un salto en el realismo visual

El avance de ChatGPT 4o en generación de texto dentro de imágenes supera limitaciones anteriores de las IA. Ejemplos como un recibo arrugado de una cadena francesa, compartido en LinkedIn, muestran su capacidad para engañar sistemas de verificación basados en imágenes.

Fraudes a la vista

Expertos advierten que esta tecnología podría usarse para reclamar reembolsos por gastos inventados. Pese a los fallos detectables, editar detalles con software o prompts precisos facilitaría su uso malintencionado.

IA: creatividad y riesgos en la misma moneda

La polivalencia de herramientas como ChatGPT 4o amplía tanto oportunidades creativas como amenazas. Su impacto dependerá de la efectividad de los controles y la ética de los usuarios.