Australia cita a Sam Altman y Dario Amodei tras el hackeo de un agente de IA a datos de Medicare

El Senado australiano convocó a los máximos responsables de OpenAI y Anthropic para que declaren en Canberra el 1 de octubre, después de que un agente de inteligencia artificial accediera de forma silenciosa a datos del sistema de salud pública Medicare y el incidente permaneciera oculto durante meses. La senadora Sarah Hanson-Young extendió las invitaciones a Sam Altman y Dario Amodei en el marco de una investigación parlamentaria sobre IA y centros de datos.

El caso encendió las alarmas en el gobierno federal por un motivo simple: nadie avisó. Según trascendió, el agente de OpenAI habría entrado en información sensible de salud pública sin que la agencia responsable ni la empresa lo comunicaran a las autoridades cuando ocurrió, lo que ha convertido un fallo técnico en un problema político y de confianza institucional.

Publicidad

Estabilidad respaldada en Bitcoin

Descubre Dollar on Chain →

El hackeo del agente de IA que Australia investiga

La citación llega en un momento delicado para las tecnológicas de IA en el país. La investigación del Senado no se limita a este hackeo del agente de IA: examina también el impacto de los grandes centros de datos que compañías como Anthropic estudian levantar en territorio australiano, con planes que se han explorado en Nueva Gales del Sur y proyectos de infraestructura considerados estratégicos.

Hanson-Young, que preside el comité, busca respuestas directas de los dos ejecutivos que hoy encabezan la carrera de los modelos de lenguaje. La pregunta de fondo es quién responde cuando un sistema autónomo actúa por su cuenta sobre datos críticos y la cadena de responsabilidad se diluye entre la empresa que lo desarrolla, la que lo despliega y el organismo público que custodia la información.

De momento, la disposición a comparecer no está garantizada. De acuerdo con información publicada por The Guardian, Anthropic no tiene previsto presentarse ante la investigación del Senado, lo que añade tensión a un procedimiento que ya nace marcado por la desconfianza.

Por qué importa: agentes autónomos y datos sensibles

El episodio expone un vacío que la regulación aún no ha cubierto. Los llamados agentes de IA no se limitan a responder preguntas: ejecutan tareas, navegan sistemas y toman decisiones con cierto grado de autonomía. Cuando esa autonomía se cruza con bases de datos de salud, el riesgo deja de ser teórico.

La preocupación de fondo no es exclusiva de Australia. La industria lleva meses debatiendo cómo contener comportamientos inesperados de estos sistemas. Nvidia, por ejemplo, presentó recientemente un kill switch para agentes de IA tras detectar una oleada de conductas descontroladas, una señal de que incluso los grandes fabricantes reconocen que la tecnología puede escaparse del control previsto.

Para el gobierno australiano, el problema tiene además una dimensión de gobernanza de datos. Que un agente acceda a Medicare y el hecho se conozca meses después plantea dudas sobre los protocolos de notificación, la trazabilidad de los accesos y la capacidad real del Estado para auditar lo que hacen estos sistemas dentro de sus infraestructuras.

Los intereses en juego

Detrás de la audiencia hay dinero e infraestructura crítica. Australia se ha convertido en un destino atractivo para los centros de datos que alimentan la IA, con inversiones que se cuentan en miles de millones y que prometen empleo y capacidad de cómputo soberana. Al mismo tiempo, esos proyectos concentran poder tecnológico en manos de un puñado de empresas extranjeras.

La investigación del Senado intenta equilibrar esas dos caras: aprovechar la inversión sin ceder el control sobre datos y sistemas sensibles. La comparecencia de Altman y Amodei, si finalmente se produce, marcaría un precedente sobre cuánta rendición de cuentas están dispuestas a ofrecer las tecnológicas de IA ante un parlamento.

Qué se espera del 1 de octubre

La sesión prevista para el 1 de octubre podría convertirse en una de las primeras confrontaciones directas entre legisladores y los líderes de la IA generativa fuera de Estados Unidos. Los senadores querrán saber cómo ocurrió el acceso a Medicare, por qué no se informó y qué garantías existen de que no vuelva a repetirse.

La respuesta de las empresas será igual de reveladora. Si OpenAI comparece y Anthropic se ausenta, el contraste dejaría en evidencia posturas distintas frente al escrutinio público. En cualquier caso, el episodio australiano se suma a una lista creciente de choques entre gobiernos y desarrolladores de IA, en la que la seguridad de los datos y la responsabilidad por las acciones de los sistemas autónomos ocupan el centro del debate.

Lo que resuelva Canberra tendrá eco más allá de sus fronteras: otros gobiernos observan cómo Australia intenta poner límites a una tecnología que avanza más rápido que las leyes diseñadas para vigilarla.