La Comisión Europea ha iniciado una nueva investigación contra la plataforma X, propiedad de Elon Musk, en virtud de la Ley de Servicios Digitales (DSA, por sus siglas en inglés). El origen de todo son las fotos sexualizadas generadas o difundidas con ayuda de Grok. La Comisión Europea está actuando porque en X han empezado a circular imágenes sexuales manipuladas (deepfakes), muchas de ellas de mujeres y potencialmente de menores, y considera que X no ha hecho lo suficiente para evitarlo antes de lanzar Grok.
Grok facilita la difusión
Para la UE, el problema no es solo que existan esas imágenes, sino que Grok permite generarlas y facilita su difusión. Además, X no evaluó bien los riesgos antes de activarlo en Europa y sus algoritmos pueden amplificarlas, haciéndolas llegar a más gente.
En este sentido, la acción de Europa se centra ver si la compañía ha evaluado y mitigado adecuadamente los riesgos asociados con el despliegue de las funcionalidades de Grok en la Unión Europea. Paralelamente, la Comisión ha ampliado una investigación en curso, iniciada en diciembre de 2023, sobre el cumplimiento de X en materia de gestión de riesgos en sus sistemas de recomendación.
ChatGPT es como el vecino Jose de ING, Grok como Red Bull en cohete
La nueva investigación examinará los riesgos relacionados con la difusión de contenidos ilícitos en la UE, como imágenes sexualmente explícitas manipuladas, incluidos aquellos que podrían constituir material de abuso sexual de menores. Según la Comisión, estos riesgos parecen haberse materializado, exponiendo a los ciudadanos de la UE a graves daños.
Obligaciones de la DSA
En concreto, la Comisión investigará si X cumple con sus obligaciones bajo la DSA en los siguientes aspectos. Evaluar y mitigar diligentemente los riesgos sistémicos, incluida la difusión de contenidos ilícitos, los efectos negativos en relación con la violencia de género y las graves consecuencias negativas para el bienestar físico y mental derivadas del despliegue de las funcionalidades de Grok en su plataforma. Llevar a cabo y transmitir a la Comisión un informe de evaluación de riesgos ad hoc para las funcionalidades de Grok en el servicio X.
Además, la ampliación de la investigación de diciembre de 2023 determinará si X ha evaluado y mitigado adecuadamente todos los riesgos sistémicos asociados a sus sistemas de recomendación, incluido el impacto de su cambio recientemente anunciado a un sistema basado en Grok.
Si se confirman estos incumplimientos, constituirían infracciones de los artículos 34 (apartados 1 y 2), 35 (apartado 1) y 42 (apartado 2) de la Ley de Servicios Digitales. La Comisión llevará a cabo una investigación en profundidad con carácter prioritario.
Reunir pruebas
Para preparar esta investigación, la Comisión ha colaborado estrechamente con Coimisiún na Meán, el coordinador irlandés de servicios digitales, que estará asociado a la misma conforme al artículo 66, apartado 3, de la DSA, como coordinador nacional en el país de establecimiento de X en la UE.
La Comisión informa que continuará reuniendo pruebas mediante solicitudes adicionales de información, entrevistas o inspecciones, y podría imponer medidas provisionales si no se realizan ajustes significativos en el servicio X. La incoación del procedimiento faculta a la Comisión para adoptar medidas de ejecución, como decisiones de incumplimiento, o aceptar compromisos de X para remediar las cuestiones. Asimismo, exime a los coordinadores nacionales de servicios digitales de sus competencias para supervisar estas presuntas infracciones.
Una forma violenta e inaceptable de degradación
Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia, declaró que las falsificaciones sexuales profundas de mujeres y niños son una forma violenta e inaceptable de degradación. «Con esta investigación, determinaremos si X ha cumplido con sus obligaciones legales en virtud de la Ley de Servicios Digitales, o si trató los derechos de los ciudadanos europeos, incluidos los de mujeres y niños, como un daño colateral de su servicio».
Por el momento, Elon Musk no ha realizado declaraciones directas sobre la nueva investigación abierta por la Comisión Europea contra X. No obstante, en los últimos meses sí ha relizado comentarios relacionados con la moderación de contenidos y el uso de Grok. Hoy mismo, publicó una imagen en tono humorístico con el comentario es tan difícil acertar con la moderación adecuada, en aparente alusión a las dificultades para controlar la generación de contenido explícito.
- Precio de LINEA rompe su racha bajista: subidón del 20% tras un enero negro - 12 febrero, 2026
- Tether invierte más de 250 millones de dólares en banca cripto, oro y pagos en 48 horas - 10 febrero, 2026
- Pánico en cripto: Bitcoin vuelve a los 65.000 dólares y Ethereum pierde los 2.000 - 6 febrero, 2026