OpenAI propone ciberseguridad con IA tras admitir un hackeo a Hugging Face en un ensayo de Greg Brockman

OpenAI defiende que la respuesta a los agentes descontrolados y a los ciberataques no es frenar la inteligencia artificial, sino usar más IA para defenderse. Esa es la tesis central de un nuevo ensayo firmado por su presidente, Greg Brockman, que apuesta por una ciberseguridad con IA más agresiva y automatizada como única vía realista para adelantarse a los atacantes.

El texto, titulado The Defender’s Window, sostiene que existe una ventana crítica en la que quienes defienden sistemas informáticos deben incorporar herramientas de IA antes de que los atacantes las usen a escala. La idea de fondo es incómoda: si la tecnología ya permite descubrir y explotar vulnerabilidades más rápido, el bando defensor no puede quedarse con métodos manuales del pasado.

Un hackeo propio como argumento para la ciberseguridad con IA

Lo llamativo del ensayo es que OpenAI recurre a un episodio protagonizado por su propio equipo para ilustrar el punto. Según relata Brockman, investigadores de la compañía lograron comprometer sistemas de Hugging Face, una de las plataformas más usadas para alojar y compartir modelos de aprendizaje automático de código abierto. El ejercicio, planteado como prueba de seguridad, sirve como demostración de lo que herramientas ofensivas potenciadas por IA pueden conseguir cuando se ponen a trabajar contra infraestructura real.

Publicidad

El mensaje que OpenAI extrae de ese caso es directo: si sus propios modelos pueden encontrar y aprovechar fallos con esa eficacia, cualquier actor malicioso con acceso a capacidades similares podría hacer lo mismo. De ahí que la firma insista en que las organizaciones deben desplegar defensas automatizadas capaces de detectar, parchear y responder a la misma velocidad a la que operan los ataques.

De la teoría al acceso controlado

La propuesta no se queda en el diagnóstico. OpenAI acompaña el ensayo con una iniciativa llamada Trusted Access for Cyber, orientada a dar acceso a sus capacidades de ciberseguridad a un grupo seleccionado de defensores e investigadores. El planteamiento busca equilibrar dos objetivos que suelen chocar: poner herramientas potentes en manos de quienes protegen sistemas, sin abrir la puerta a que esas mismas capacidades terminen alimentando el arsenal de los atacantes.

El debate llega en un momento en que los llamados agentes de IA —programas capaces de ejecutar tareas de forma autónoma, tomar decisiones y encadenar acciones sin supervisión constante— empiezan a integrarse en flujos de trabajo empresariales. Cuanta más autonomía se les concede, mayor es el riesgo de que un agente sea manipulado, se comporte de forma inesperada o sea utilizado como vector de ataque. Brockman reconoce ese peligro, pero su conclusión va en sentido contrario al de quienes piden ralentizar el desarrollo: propone acelerar la parte defensiva en lugar de contener la ofensiva.

Esa postura tiene implicaciones que van mucho más allá de las oficinas de OpenAI. En el sector de los activos digitales, donde los hackeos a puentes, protocolos y billeteras se cuentan por miles de millones de dólares cada año, la seguridad es una preocupación permanente. La industria ha respondido con auditorías, programas de recompensas por fallos y hardware dedicado, como muestran los nuevos formatos de wallets de hardware pensados para el usuario cotidiano. La automatización defensiva con IA podría sumarse a ese abanico, aunque también abre la duda de qué ocurre cuando ambos bandos disponen de la misma tecnología.

Un arma de doble filo para el ecosistema cripto

El argumento de OpenAI resume una tensión que atraviesa a toda la industria tecnológica: las mismas capacidades que permiten blindar sistemas también permiten vulnerarlos. La compañía sostiene que la ventaja debe estar del lado del defensor, y que dejar esas herramientas fuera del alcance de los equipos de seguridad no elimina el riesgo, solo lo concentra en manos de quienes no juegan con las reglas.

Para las empresas cripto, que operan con sistemas expuestos permanentemente a internet y con incentivos económicos directos para los atacantes, el planteamiento resulta especialmente pertinente. Un contrato inteligente con un fallo no parcheado o un agente autónomo mal configurado pueden traducirse en pérdidas inmediatas e irreversibles. La promesa de una defensa que opere a la velocidad de la máquina es atractiva; el problema es que esa misma velocidad está también disponible para el otro lado.

Queda por ver si la comunidad de seguridad acepta el marco que propone OpenAI o si prevalecen las voces que reclaman límites más estrictos al despliegue de agentes autónomos. Lo que el ensayo deja claro es que la conversación ya no gira en torno a si conviene usar IA en ciberseguridad, sino sobre quién controla el acceso y a qué ritmo se cierra esa ventana de ventaja para el defensor.