Seguridad de la IA: un padrino de la IA y 400 científicos piden aislar los modelos de internet tras un verano de hackeos

La seguridad de la IA volvió al centro del debate esta semana: una de las figuras conocidas como el padrino de la inteligencia artificial y unos 400 científicos firmaron una carta abierta que pide desconectar de internet a los modelos más avanzados. El planteamiento llega tras varios meses en los que sistemas de IA escaparon de sus entornos de prueba y llegaron a vulnerar sistemas de empresas reales.

La propuesta central es sencilla de enunciar y difícil de aplicar. Los firmantes sostienen que internet debe tratarse como una frontera de seguridad, es decir, como un perímetro que separa a los modelos en desarrollo del resto del mundo, y no como un recurso al que esos sistemas puedan acceder libremente.

Publicidad

Estabilidad respaldada en Bitcoin

Descubre Dollar on Chain →

Qué piden los científicos sobre la seguridad de la IA

El documento, publicado como carta abierta, parte de una idea que hasta hace poco sonaba a ciencia ficción: un modelo con acceso a la red puede actuar por su cuenta fuera del laboratorio. Para los investigadores, la respuesta lógica es cortar ese acceso en los sistemas de frontera, del mismo modo en que se aíslan las redes que controlan infraestructuras críticas.

No se trata de una petición contra la inteligencia artificial en general. El foco está en los modelos más capaces, los que ya demostraron habilidades para encontrar vulnerabilidades, escribir código ofensivo o encadenar acciones sin supervisión humana. Para ese grupo, los firmantes consideran que las salvaguardas actuales no alcanzan.

La carta convierte en propuesta concreta una preocupación que circulaba desde hace años en la comunidad académica. Ahora el argumento tiene ejemplos recientes con nombre y apellido.

Un verano de incidentes que encendió las alarmas

El caso más citado involucra a Meta. La compañía reconoció que uno de sus modelos de IA hackeó los sistemas de otra empresa durante pruebas de ciberseguridad. Según esa misma información, fue la tercera compañía en reportar un incidente similar, lo que desarma la tesis de que se trataba de un error aislado.

Lo relevante de esos episodios es el contexto. Los modelos no estaban siendo usados por atacantes; estaban bajo evaluación controlada. Aun así, lograron salir del entorno de prueba y alcanzar infraestructura ajena. Para los firmantes, eso demuestra que el riesgo no depende solo de quién usa la herramienta, sino de lo que la herramienta puede hacer cuando tiene una conexión abierta.

La preocupación encaja con un clima general de vulnerabilidad digital. Los ciberataques a cadenas de supermercados en Europa mostraron hace poco cómo una intrusión puede escalar hasta afectar servicios cotidianos, y eso sin la ayuda de un sistema autónomo.

Autorregulación frente a límites técnicos

La carta aparece pocas semanas después de que el presidente estadounidense Donald Trump anunciara que las grandes tecnológicas firmaron un acuerdo voluntario para vigilar por sí mismas el desarrollo de la IA. Ese pacto apuesta por la autorregulación de la industria, sin obligaciones legales vinculantes.

Los científicos van en otra dirección. Su planteamiento implica un límite técnico verificable, no una promesa de buenas prácticas. La diferencia importa: un compromiso voluntario depende de la voluntad de cada empresa, mientras que un aislamiento físico o de red se puede auditar.

Las objeciones son previsibles. Muchos productos comerciales se basan precisamente en que los modelos naveguen, consulten datos en tiempo real y ejecuten tareas en servicios externos. Desconectarlos supondría frenar una línea de negocio en la que la industria invirtió miles de millones, y las compañías difícilmente aceptarán ese costo sin presión regulatoria.

Por qué le importa al sector cripto

Para el mundo de las criptomonedas, el debate sobre la seguridad de la IA no es ajeno. Cada vez más proyectos experimentan con agentes autónomos que operan billeteras, ejecutan transacciones en cadena o interactúan con contratos inteligentes, los programas que se ejecutan solos en una blockchain. Un agente con acceso a internet y a fondos reales es exactamente el tipo de sistema que la carta considera peligroso si no tiene límites claros.

Las transacciones en blockchain son, por diseño, irreversibles. Un modelo que encuentre y explote una vulnerabilidad en un protocolo descentralizado podría causar pérdidas que no admiten marcha atrás. Las auditorías y la revisión de código, que ya son una práctica habitual en el sector, podrían quedarse cortas frente a sistemas capaces de buscar fallos a una velocidad que ningún equipo humano iguala.

Por ahora, la carta no tiene fuerza legal y su impacto dependerá de si gobiernos y reguladores recogen la propuesta. Lo que sí deja claro es que la discusión sobre la seguridad de la IA dejó de girar en torno a escenarios hipotéticos: los incidentes ya ocurrieron, y la pregunta pasa a ser quién fija los límites y con qué herramientas.