El chatbot de inteligencia artificial Grok, desarrollado por la empresa xAI de Elon Musk, se encuentra bajo cuestionamientos por la generación de imágenes sexualizadas sin consentimiento, un fenómeno descrito por usuarios e investigadores como “desnudez digital”, según reportes recientes.

De acuerdo con la información difundida, Grok ha sido utilizado para modificar imágenes de personas reales, en su mayoría mujeres, a quienes se les elimina digitalmente la ropa o se les coloca en poses sugerentes. En varios casos registrados la semana pasada, algunas imágenes parecían corresponder a menores de edad, lo que llevó a denuncias por posible pornografía infantil.

La situación se intensificó a finales de diciembre, cuando usuarios comenzaron a etiquetar públicamente a Grok en publicaciones de la red social X para solicitarle la edición de imágenes. Investigadores de Copyleaks señalaron que la tendencia pudo haber iniciado con creadores de contenido para adultos, pero rápidamente se extendió a personas que no habían dado su consentimiento.

Un análisis de AI Forensics, organización europea sin fines de lucro, examinó más de 20.000 imágenes generadas por Grok y 50.000 solicitudes entre el 25 de diciembre y el 1 de enero. Según sus hallazgos, el 53 % de las imágenes de personas mostraban individuos en ropa interior o bikini, y el 81 % correspondían a figuras femeninas. Además, el 2 % de las imágenes mostraban personas que parecían tener 18 años o menos.

Ante la situación, Musk y xAI han afirmado públicamente que toman medidas contra el contenido ilegal en X, incluido el material de abuso sexual infantil, mediante la eliminación de publicaciones y la suspensión de cuentas. No obstante, según fuentes citadas, internamente Musk se habría opuesto a imponer mayores restricciones a Grok, mientras que el reducido equipo de seguridad de xAI perdió a varios de sus integrantes en semanas recientes.

El caso ha generado reacciones regulatorias. Autoridades de Europa, India y Malasia han iniciado investigaciones sobre las imágenes generadas por Grok. Finalmente, especialistas en seguridad y derecho tecnológico advirtieron que existen barreras técnicas para prevenir este tipo de contenido, aunque implican mayores costos operativos.