La Comisión de Protección de Datos (DPC) ha abierto una investigación formal contra X Internet Unlimited Company (XIUC) por la presunta creación y publicación en la plataforma de imágenes íntimas y sexualizadas no consentidas generadas mediante inteligencia artificial. El procedimiento se inicia en virtud del artículo 110 de la Ley de Protección de Datos de 2018.
La CPD es la autoridad supervisora irlandesa del Reglamento General de Protección de Datos (RGPD) y también tiene funciones y competencias relacionadas con otros marcos regulatorios importantes, como el Reglamento Irlandés sobre Privacidad Electrónica (2011) y la Directiva de la UE sobre Aplicación de la Ley.
Europa estrecha el cerco a Grok
Según informó el regulador ayer, la investigación se centra en el uso de la funcionalidad de inteligencia artificial generativa asociada al modelo de lenguaje Grok dentro de X. La DPC examinará si la compañía ha tratado datos personales de ciudadanos de la Unión Europea y del Espacio Económico Europeo, incluidos menores de edad, de manera conforme al Reglamento General de Protección de Datos (RGPD).
La decisión de iniciar la investigación fue notificada a XIUC el lunes 16 de febrero. El objetivo es determinar si la empresa ha cumplido con sus obligaciones fundamentales en materia de protección de datos, particularmente en lo relativo a los principios del tratamiento, la licitud del mismo, la protección de datos desde el diseño y por defecto, así como la obligación de realizar una Evaluación de Impacto en la Protección de Datos cuando exista un alto riesgo para los derechos y libertades de los afectados.
La investigación llega tras varios reportes en medios que señalaban la aparente capacidad de usuarios de X para incitar a la cuenta Grok a generar imágenes sexualizadas de personas reales, incluidos niños. Estas imágenes podrían implicar el procesamiento de datos personales sin consentimiento, lo que situaría el caso en una posible infracción grave del RGPD.
Otra investigación en enero
El Comisionado Adjunto Graham Doyle confirmó que la DPC ha mantenido contactos con XIUC desde que surgieron las primeras informaciones públicas. Como autoridad de supervisión principal de la compañía en la UE y el EEE, la DPC ha decidido iniciar una investigación a gran escala para examinar el cumplimiento por parte de la empresa de sus obligaciones regulatorias en relación con estos hechos.
La investigación iniciada por la autoridad irlandesa de protección de datos coincide con la abierta el pasado mes de enero por la European Commission en virtud de la Digital Services Act (DSA). Aunque ambas actuaciones se apoyan en marcos jurídicos distintos, el RGPD en el caso de la DPC y la DSA en el caso de Bruselas, las dos giran en torno a el uso de Grok para generar y difundir imágenes sexualizadas potencialmente ilícitas en la Unión Europea. Esta coincidencia refuerza la presión regulatoria sobre X, que se enfrenta a un escrutinio simultáneo tanto por el tratamiento de datos personales como por la gestión de riesgos sistémicos en su plataforma.