Alerta regulatoria tras denuncias debido al contenido generado por la IA de xAI en plataformas públicas.
Un grupo de ministros franceses denunciaron a la Fiscalía de su país contenido sexual generado por inteligencia artificial y señalaron que el material es “manifiestamente ilegal”, tras detectar imágenes difundidas en la plataforma X vinculadas al chatbot de xAI. El reporte oficial, presentado el viernes, acusa a la herramienta de producir imágenes que incluyen a menores en ropa mínima; ante ello, las autoridades informaron a los fiscales y remitieron el caso al regulador audiovisual Arcom para verificar cumplimiento con la Digital Services Act de la Unión Europea. En este contexto, la alerta pública por como Grok generó contenido sexual ilegal ha causado revuelo entre público general y expertos en la materia.
Hubo reconocimiento de fallos en los salvaguardas y se prometió correcciones urgentes sobre el contenido generado por la IA de xAI. En un comunicado en X, la inteligencia artificial Grok admitió ante consultas de usuarios que “hay casos aislados donde usuarios solicitaron y recibieron imágenes de menores con ropa mínima” y aseguró que “xAI tiene salvaguardas, pero se están mejorando para bloquear estas solicitudes por completo”. La respuesta oficial de xAI a medios fue breve y polémica al acusar a los medios de difundir falsos positivos, mientras la compañía insiste en que prioriza filtros avanzados y revisa los reportes de usuarios para corregir las brechas detectadas.
Las acciones regulatorias y las órdenes oficiales ya se multiplican. Mientras que Francia elevó la denuncia a la Fiscalía y a Arcom; India, por su parte, exigió a la unidad local de X un informe de acciones en tres días por la circulación de contenido obsceno y sexual explícito contra mujeres generado por la IA de xAI. Las capturas compartidas por usuarios mostraron la pestaña pública de medios de Grok con imágenes alteradas tras solicitudes de modificación, lo que motivó la calificación de material como CSAM (Child Sexual Abuse Material) por parte de la propia plataforma y la urgencia de medidas técnicas para bloquearlo.
El episodio plantea un desafío regulatorio y técnico de alcance global. La combinación de cómo Grok generó contenido sexual ilegal y la evidencia pública obliga a revisar la eficacia de filtros, la responsabilidad de plataformas y la aplicación de la DSA europea en casos de IA generativa, planteando dudas sobre hacia donde se dirige el desarrollo de la inteligencia artificial. Reguladores y empresas enfrentan ahora la tarea de equilibrar innovación y protección: Mejorar detección automática, reforzar supervisión humana y establecer protocolos de transparencia que eviten la reproducción y difusión de material ilegal, mientras se investigan responsabilidades penales y administrativas.
