La empresa de inteligencia artificial Anthropic instó al Congreso de Estados Unidos a establecer controles más estrictos contra la llamada destilación de modelos de IA por parte de competidores chinos. Según la compañía, operadores vinculados a Alibaba habrían utilizado cerca de 25.000 cuentas fraudulentas para generar 28,8 millones de intercambios con su modelo Claude, en lo que describe como un esfuerzo coordinado para extraer conocimiento de sus sistemas.
El caso reaviva un debate clave en la industria tecnológica: la seguridad de los modelos avanzados de IA frente a técnicas que permiten replicar sus capacidades sin desarrollarlos desde cero, con implicaciones tanto comerciales como geopolíticas.
Qué es un ataque de destilación
La destilación es una técnica mediante la cual un modelo de IA más pequeño y económico se entrena a partir de las respuestas de un modelo más grande y costoso. En la práctica, el modelo «alumno» aprende a imitar el comportamiento del modelo «maestro» formulándole millones de consultas y registrando sus respuestas.
Aunque la destilación es una práctica legítima dentro del desarrollo de IA, puede convertirse en un problema cuando se usa para copiar de forma masiva y no autorizada las capacidades de un modelo ajeno. Un análisis sobre ataques de destilación ha planteado la necesidad de una intervención gubernamental dirigida para abordar este tipo de prácticas.
La denuncia de Anthropic
De acuerdo con lo informado, Anthropic sostiene que operadores afiliados a Alibaba recurrieron a una red de aproximadamente 25.000 cuentas fraudulentas para evadir los límites de uso y acumular un volumen masivo de interacciones con Claude. Los 28,8 millones de intercambios citados representarían un esfuerzo sistemático por aprovechar las respuestas del modelo a gran escala.
La compañía enmarca esta actividad como un riesgo de seguridad nacional y de competencia desleal, argumentando que permite a rivales extranjeros aprovechar las inversiones multimillonarias que las firmas estadounidenses destinan al entrenamiento de modelos de frontera, sin asumir esos costos.
Implicaciones para la industria
El pedido de Anthropic se inscribe en una tensión más amplia entre Estados Unidos y China por el liderazgo en inteligencia artificial. En los últimos meses, la aparición de modelos chinos altamente competitivos a costos reducidos ha intensificado las sospechas sobre el uso de técnicas de destilación a partir de sistemas occidentales.
Para el ecosistema tecnológico, el episodio plantea interrogantes sobre cómo proteger la propiedad intelectual de los modelos de IA cuando estos se ofrecen como servicios accesibles mediante interfaces de programación. Las empresas enfrentan un dilema: abrir sus modelos al público para generar ingresos y adopción, o blindarlos para evitar la copia de sus capacidades.
Una eventual respuesta legislativa podría incluir restricciones más severas, mecanismos de detección de uso abusivo y nuevas obligaciones de verificación de identidad para los usuarios de servicios de IA. Sin embargo, cualquier medida deberá equilibrar la protección de la innovación con el riesgo de fragmentar aún más el acceso global a estas tecnologías.
El desenlace de esta presión regulatoria podría marcar un precedente sobre cómo los gobiernos abordan la seguridad de los modelos de IA en un entorno cada vez más competitivo y geopolíticamente sensible.
