Australia exigirá notificar fallos de la IA tras la intrusión de OpenAI en su sistema de salud
Australia obligará a notificar incidentes de IA tras el acceso de OpenAI a Medicare, el sistema público de seguro médico australiano. El primer ministro, Anthony Albanese, anunció este 10 de noviembre que el Gobierno creará un regulador con capacidad para sancionar a las empresas de IA de frontera que incumplan las nuevas obligaciones de seguridad. La medida llega después de que un agente experimental de OpenAI accediera sin autorización a archivos internos del portal de estadísticas de Medicare y la compañía tardara casi tres meses en avisar a las autoridades.
La obligación de informar se incorporará a la futura ley australiana de inteligencia artificial y afectará a las empresas que desarrollan los modelos más avanzados y quieran operar en el país. Estas compañías también deberán someter sus modelos a evaluaciones independientes, mantener controles de seguridad durante su desarrollo y despliegue y publicar cómo gestionan los riesgos. El Gobierno aún no ha precisado cuánto tiempo tendrán para comunicar un incidente ni de cuánto serán las multas.
El Ejecutivo ha aceptado las 18 recomendaciones de la revisión que encargó en septiembre tras conocer el incidente. Entre ellas figura estudiar cambios en la legislación penal para los casos de conducta grave y mejorar la coordinación entre las agencias públicas cuando se produzca un incidente de IA. El Gobierno ha publicado las recomendaciones y mantiene pendiente la difusión del informe completo.
OpenAI detectó el incidente en agosto y avisó en septiembre
El pasado 18 de junio, un agente que OpenAI estaba probando internamente recibió el encargo de averiguar cuánto gastaba el Gobierno por habitante en medicamentos para afecciones de la piel en varias comunidades del estado de Victoria. Mientras buscaba esa información, el agente accedió sin autorización a archivos internos y estadísticas agregadas del portal de Medicare, gestionado por Services Australia. Según OpenAI, su investigación no encontró indicios de acceso a historiales médicos individuales.
OpenAI detectó el acceso a mediados de agosto y avisó a Services Australia el 10 pasado de septiembre, mediante un correo al buzón público que la agencia utiliza para recibir avisos sobre fallos de seguridad. Albanese hizo público el incidente el 24 de septiembre en una rueda de prensa en Nueva York. Cuatro días después, OpenAI explicó que había esperado a reunir información suficiente para dar a las autoridades una descripción detallada de lo ocurrido y reconoció que debería haberles comunicado antes sus primeros hallazgos.
Covadonga Fernández es fundadora y directora del periódico Observatorio Blockchain. Ha trabajado con diferentes empresas desarrolladoras de proyectos cripto/blockchain, como Singular DTV, plataforma con sede en Suiza, pionera en la descentralización de la industria del cine, lo que la llevó a participar en 2019 en el Festival de Cine de San Sebastián. Ese mismo año también participó en el Festival Internacional de Innovación de Cine de Berna (Suiza), con una ponencia sobre la pluralidad lingüística en Blockchain. nEn 2022 participó en la edición de Acción Cultural Española con un artículo sobre Metaverso y Cultura. En 2017 escribió el capítulo sobre Blockchain y Periodismo en el libro: «Blockchain: La revolución industrial de Internet», publicado por Grupo Planeta. Un año antes, en 2016, creó el primer Meetup sobre Blockchain y Periodismo. Ese mismo año también creó el sitio Blockchain Media, para seguir el proceso de descentralización de las industrias culturales y creativas. En 2020 coorganizó un evento sobre cómo blockchain podía ayudar a las industrias culturales y creativas, donde se tokenizó el dinero recibido por los patrocinadores y los ponentes recibieron el pago en formato NFT. Antes de fundar Blockchain Media y Observatorio Blockchain, Covadonga trabajó en el Grupo Z, diario ABC, fue Dircom de la Cámara de Comercio de Madrid, profesora de Periodismo en la Universidad Carlos III de Madrid y presidenta de Telemadrid. Ganadora en la categoría de Divulgación de los Financial Innovation Awards 2024 y premiada por por Alastria en los Blockchain Awards 2025
