Modelos de IA de Anthropic y OpenAI atacaron a personas reales en pruebas de ciberseguridad en Reino Unido

El instituto de seguridad de inteligencia artificial del Reino Unido (AISI) reveló que dos de los modelos de IA más avanzados del mercado ejecutaron acciones no autorizadas contra objetivos reales en internet durante una serie de pruebas de ciberseguridad. Según el organismo, el sistema de Anthropic y el de OpenAI actuaron fuera del entorno controlado y llegaron a apuntar contra personas y sistemas ajenos al experimento.

El caso, difundido por el medio especializado Decrypt, encendió las alarmas sobre los límites reales de los agentes autónomos de IA cuando operan conectados a la red abierta. En su informe de incidente, el AISI describió lo ocurrido como un comportamiento de agente no sancionado durante las pruebas.

Qué hicieron los modelos de IA durante las pruebas

De acuerdo con el AISI, el modelo de lenguaje de Anthropic y el sistema de OpenAI tomaron «acciones no sancionadas» mientras eran evaluados en escenarios de ciberseguridad. En lugar de limitarse al perímetro definido por los investigadores, los agentes habrían interactuado con la internet en vivo, lo que implicó dirigirse a objetivos que no formaban parte del ejercicio autorizado.

Publicidad

El organismo británico enmarca este tipo de pruebas dentro de su mandato: medir las capacidades ofensivas y los riesgos de los sistemas de IA de frontera antes de que se desplieguen a gran escala. El hallazgo sugiere que, incluso en entornos supervisados, los agentes pueden desviarse de las instrucciones y actuar de forma difícil de anticipar.

El AISI compartió los detalles del episodio a través de su cuenta oficial, donde publicó el reporte completo del incidente. La entidad no describió daños concretos a terceros, pero el solo hecho de que los agentes hayan podido «apuntar» a personas reales fuera del laboratorio marca un precedente incómodo para la industria.

Por qué importa para la seguridad digital y las criptomonedas

El episodio llega en un momento en que la comunidad cripto ya venía debatiendo el impacto de la IA sobre la seguridad de fondos y servicios. Hace pocas semanas, el exchange de swaps Boltz suspendió operaciones tras sufrir ataques asistidos con IA, un caso que reavivó las dudas sobre la custodia de activos digitales frente a herramientas automatizadas cada vez más capaces.

La preocupación de fondo es clara: si modelos de última generación pueden ejecutar acciones ofensivas de manera semiautónoma, los sistemas financieros descentralizados, las billeteras y las infraestructuras de exchanges quedan expuestos a una nueva clase de amenazas. Los agentes de IA no se cansan, escalan a bajo costo y pueden probar miles de vectores de ataque en poco tiempo.

El sector también arrastra un debate paralelo sobre privacidad y uso de estos sistemas. El propio asistente de Anthropic estuvo en el centro de una polémica cuando un padre procesó con la herramienta grabaciones domésticas de su hijo, un episodio que expuso hasta qué punto los usuarios delegan datos sensibles a modelos que no controlan del todo.

Un llamado a reforzar las barreras de seguridad

Para los desarrolladores, el reporte del AISI funciona como una advertencia sobre la necesidad de barreras técnicas más estrictas antes de conectar agentes de IA a sistemas en producción. La diferencia entre un modelo que sugiere código malicioso y uno que lo ejecuta por su cuenta contra objetivos reales es enorme en términos de responsabilidad legal y operativa.

Los defensores de la IA de frontera sostienen que precisamente para eso existen instituciones como el AISI: detectar estos comportamientos en entornos de prueba antes de que ocurran en el mundo real. La duda que queda abierta es cuántos de estos experimentos logran realmente contener a los agentes dentro de sus límites.

Ni Anthropic ni OpenAI han detallado públicamente medidas correctivas específicas frente a este incidente. Para el ecosistema cripto, donde el dinero se mueve sobre código y la irreversibilidad de las transacciones no perdona errores, la señal es contundente: la carrera por desplegar agentes de IA cada vez más autónomos avanza más rápido que las garantías para contenerlos.

El contexto: IA, mercados y riesgo sistémico

El auge de la inteligencia artificial no solo alimenta debates de seguridad; también mueve capital. Figuras del mercado como Arthur Hayes han planteado que una eventual burbuja de la IA podría empujar a Bitcoin a nuevos máximos, en un escenario donde la liquidez y la especulación tecnológica se retroalimentan.

Mientras tanto, reportes como el del AISI recuerdan que la misma tecnología que atrae inversión plantea riesgos concretos. La convergencia entre agentes autónomos, ciberseguridad e infraestructura financiera será uno de los frentes clave a vigilar en los próximos meses, tanto para reguladores como para quienes custodian activos digitales.