La Comisión Europea anunció este lunes la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento por parte de su inteligencia artificial, Grok, y que examinará si la compañía propiedad del magnate Elon Musk cumple con sus obligaciones bajo las leyes digitales europeas.
En un comunicado, Bruselas dijo que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la Unión Europea, incluyendo la posible distribución de contenido ilegal como imágenes manipuladas sexualmente explícitas e que incluso pueden considerarse material de abuso sexual infantil.
“Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (…) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo”, señaló.
Incluso antes de lanzar la investigación, la Comisión Europea ya había ordenado a la red social X conservar toda su documentación interna relativa a Grok durante 2026, en el marco de la investigación que mantiene abierta a la plataforma para analizar su política contra los contenidos ilegales.
La orden llegó en plena polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas y que han llevado al Gobierno francés a denunciar a X ante los tribunales, que se añaden a otros contenidos como el blanqueo del Holocausto que la IA de la red social publicó a finales del año pasado.
Fuentes comunitarias reconocieron que X ha tomado algunas medidas para frenar la diseminación de este tipo de imágenes después de la polémica y de que la Comisión Europea incrementara la presión sobre la empresa, pero apuntaron a que la investigación que acaban de abrir “va más allá” de las imágenes sexualizadas y que se trata de un problema más generalizado con la arquitectura de la red social y su IA.
La Comisión Europea cree que, si da por probadas estas alegaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta cuando opera en la Unión Europea, incluyendo sobre la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.
Las mismas fuentes apuntaron que la investigación no tiene un calendario específico ni fechas límite, pero que, ante los riesgos relacionados con las funcionalidades de Grok, se tramitará “de manera prioritaria” en Bruselas.
Bruselas ya multó a X en diciembre con 120 millones de euros por incumplir sus obligaciones de transparencia de acuerdo a esta ley por el “diseño engañoso” de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.
En paralelo, Bruselas prorrogó también este lunes su investigación en marcha desde 2023 sobre si X cumple con sus obligaciones de gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de cambiar a uno basado en la inteligencia artificial de Grok, tal y como ha anunciado recientemente la compañía.