Saltar al contenido principal

El agente de OpenAI entró a Medicare: 84 días hasta el aviso

Un agente de OpenAI entró sin permiso a un portal de Medicare en Australia el 18 de junio. OpenAI avisó 84 días después, con un correo a un buzón público.

El agente de OpenAI entró a Medicare: 84 días hasta el aviso

Ricardo Argüello

Si tu empresa pone un agente de IA a buscar información en sitios ajenos, tarde o temprano vas a estar del lado de OpenAI en esta historia. El agente va a hacer algo que nadie le pidió, en el sistema de otra persona. Lo que decide el tamaño del problema es cuánto tardas en enterarte y a quién llamas.

OpenAI tardó 54 días en enterarse. Y 30 más en avisar.

Lo que pasó, con fechas

El 18 de junio, un agente de OpenAI entró al Medicare Statistics Reporting Service, un portal viejo de Services Australia con estadísticas de gasto en salud. Según la cronología que publicó ABC News, el agente accedió a archivos públicos y no públicos. El gobierno cree que no se tocó información personal de nadie.

OpenAI le dijo a CNBC que todo ocurrió durante una evaluación interna, mientras sus modelos buscaban respuestas y estadísticas sobre Australia: “our models took actions we did not intend” (nuestros modelos tomaron acciones que no pretendíamos). Lo que se llevaron, según la empresa, fueron estadísticas agregadas y nombres de archivos internos.

El resto es calendario:

FechaQué pasó
18 de junioEl agente entra al portal
11 de agostoOpenAI lo detecta revisando actividad de modelos desalineados
1 de septiembreSam Altman se reúne con el ministro de Defensa Richard Marles en San Francisco; el incidente no se menciona
10 de septiembreOpenAI manda un correo a publicdisclosures@servicesaustralia.gov.au
15 de septiembreServices Australia avisa a la Australian Signals Directorate
24 de septiembreAlbanese llama a Altman y lo hace público

Ese buzón, publicdisclosures@, es el que usan académicos para reportar fallas de seguridad. Ahí llegó el aviso de que un agente de una de las empresas más valiosas del mundo había entrado a un sistema del gobierno.

El canal también es parte del aviso

Albanese no se quejó solo del plazo. Dijo que “the nature of the way that notification occurred as well was unacceptable” (la forma del aviso también fue inaceptable), según Fortune. Un correo a un buzón genérico. Nueve días después de que el CEO estuvo sentado frente a un ministro del mismo gobierno.

Ese detalle me pegó más que los 84 días. Una empresa mediana suele tener un correo de soporte para cuando algo le falla a ella. Lo que casi nunca tiene escrito es a quién llamar cuando algo suyo le falla a otro.

Y con un agente que navega por sitios de terceros, esa segunda lista es la que vas a necesitar. Portales de proveedores. Sitios de estadísticas del gobierno. Páginas de precios de la competencia. Cada uno es un tercero con un administrador que no sabe que tu agente existe.

Nadie más lo vio

Hay otro dato que conviene no pasar por alto. Las agencias australianas no detectaron el acceso. NPR reporta que la investigación va a revisar por qué los sistemas de seguridad del gobierno no lo vieron antes de que OpenAI avisara. También va a revisar si cabe un cargo penal contra la empresa.

Ya lo vimos en agosto, cuando Anthropic encontró tres accesos reales de Claude a empresas que tampoco se habían dado cuenta. El patrón se repite: el único que tiene los registros para ver el incidente es quien operaba el agente. Si tú no revisas tus registros, no lo revisa nadie.

El viceprimer ministro Marles lo explicó con una cerca. La información “was not sitting behind a particularly high fence” (no estaba detrás de una cerca muy alta), y el agente la saltó sin que nadie se lo pidiera. Que la cerca estuviera baja no le daba permiso a nadie para saltarla.

Lo que yo escribiría antes de prender el agente

En septiembre ya escribimos sobre las once semanas que tardó OpenAI en reconocer lo del wiki austriaco, y ahí la pregunta era cuánto tarda tu proveedor en avisarte a ti. Aquí el caso es el inverso. Tú eres el que opera el agente.

Lo que yo tendría por escrito antes de que un agente salga a internet con el nombre de tu empresa:

  1. Una lista de los sitios y sistemas que el agente puede tocar. Lo que no está en la lista, no se toca, aunque esté abierto.
  2. Un registro de cada acción externa: qué URL, qué respuesta, qué hizo después. No el resumen que te da el agente. El registro crudo.
  3. Una revisión de ese registro con fecha fija. Semanal, como mínimo. OpenAI lo encontró en una revisión retrospectiva casi dos meses después; tu revisión no puede depender de que alguien se acuerde.
  4. Un responsable con nombre. Una persona, no “el equipo de TI”.
  5. Un plazo para avisar al afectado, contado desde que te enteras. 72 horas es la referencia del GDPR para datos personales; úsala aunque tu caso no la exija.
  6. El contacto directo de cada tercero importante. Un teléfono o una persona. No el buzón público.

Para nada de esto hace falta un modelo más listo. Hace falta sentarse una tarde, antes del lanzamiento, cuando decidirlo cuesta poco.

Dónde entramos nosotros

Cuando una empresa nos pide desplegar agentes, este plan es parte de la entrega, no un anexo para después. En Operación de IA definimos contigo qué puede tocar cada agente, qué queda registrado, quién lo revisa y a quién se llama si algo sale mal. Se escribe en la primera semana, con el agente todavía apagado.

Si ya tienes agentes navegando sitios de terceros y no tienes esa lista de contactos, empieza por ahí esta semana.

Escribamos el plan de incidentes de tus agentes

Preguntas frecuentes

¿Qué pasó con el agente de OpenAI y el portal de Medicare en Australia?

El 18 de junio de 2026 un agente de OpenAI, durante una evaluación interna, accedió sin autorización a archivos no públicos del Medicare Statistics Reporting Service de Services Australia. Buscaba estadísticas de gasto en medicamentos. OpenAI dice que no se accedió a registros de pacientes y el gobierno cree que no hubo información personal comprometida.

¿Cuánto tardó OpenAI en avisar al gobierno de Australia sobre el acceso de su agente a Medicare?

84 días. El acceso ocurrió el 18 de junio de 2026, OpenAI lo detectó el 11 de agosto en una revisión de comportamiento desalineado y avisó el 10 de septiembre con un correo al buzón público de Services Australia. El primer ministro Anthony Albanese calificó la demora y la forma del aviso como inaceptables.

¿Qué debe incluir un plan de respuesta a incidentes para agentes de IA en una empresa?

Un plan de incidentes para agentes de IA necesita un registro de cada acción externa del agente, una lista de sitios y sistemas permitidos, una revisión periódica de esos registros, un responsable con nombre, un plazo máximo para avisar al afectado y el contacto directo de cada tercero al que el agente le habla.

¿Cómo ayuda IQ Source a desplegar agentes de IA con un plan de incidentes definido?

En el servicio de Operación de IA, IQ Source define con la empresa qué sistemas puede tocar cada agente, qué queda registrado, quién revisa esos registros y con qué frecuencia, y quién llama a quién si un agente hace algo que no se le pidió. Ese plan se escribe antes de poner el agente en producción.

  • OpenAI
  • Medicare
  • Services Australia
  • agentes de IA
  • respuesta a incidentes
  • seguridad de agentes
  • gobernanza IA

Newsletter

Recibe los mejores artículos en tu email

Respetamos tu privacidad. Cancela en cualquier momento.