Anthropic alerta sobre riesgos de autorreplicación de la IA

La compañía logró ejecutar un modelo distribuido en 15 dispositivos Android TV y comprobó capacidades de propagación en pruebas controladas. Los resultados anticipan nuevos desafíos de ciberseguridad.

La posibilidad de que modelos de inteligencia artificial se propaguen autónomamente entre dispositivos conectados a Internet podría estar más cerca de concretarse. Una investigación de Anthropic encontró que algunos sistemas ya pueden completar varias de las tareas necesarias para replicarse sin intervención humana, aunque todavía existen limitaciones técnicas para trasladar estas capacidades a entornos reales.

El estudio, elaborado por William Zhou y Daniel Freeman, integrantes del equipo de seguridad de Anthropic, plantea un escenario en el que modelos pequeños de IA podrían instalarse y operar en equipos domésticos o empresariales con protecciones insuficientes. A diferencia de los programas maliciosos tradicionales, estos sistemas podrían adaptarse a dispositivos desconocidos y aprovechar sus recursos informáticos para continuar propagándose.

Según los investigadores, la evolución de los modelos pequeños podría hacer posible este tipo de autorreplicación en cuestión de meses. Sin embargo, se trata de una estimación basada en las tendencias de desarrollo tecnológico y no de una capacidad completamente demostrada en condiciones reales.

Qué demostraron los experimentos

Anthropic realizó distintas pruebas para evaluar si los modelos de IA pueden ejecutar las tareas necesarias para propagarse entre equipos. Una de ellas consistió en distribuir Gemma4-26B-A4B, un modelo de Google, entre 15 dispositivos Android TV de bajo costo, adquiridos por aproximadamente US$ 55 cada uno.

Los investigadores dividieron el modelo en partes para que los equipos compartieran su ejecución. El experimento demostró que dispositivos con recursos computacionales limitados pueden operar conjuntamente un sistema de IA de mayor tamaño, sin depender de un centro de datos.

En una evaluación adicional, Qwen3.5-9B consiguió configurar la ejecución de un modelo en ocho de nueve tipos de hardware examinados. Este resultado muestra que sistemas relativamente pequeños pueden resolver dificultades técnicas asociadas con la instalación de IA en equipos de distintas características.

La prueba más avanzada se realizó en una red controlada de ocho nodos que emulaban dispositivos Android. Allí, GLM-5.2 consiguió completar la propagación a los ocho nodos en cuatro de cinco intentos.

No obstante, Anthropic precisó que el experimento simplificó las condiciones de acceso a los equipos y que el modelo responsable de coordinar las acciones funcionaba desde un servidor independiente. Por tanto, no demuestra que una IA pueda reproducirse de extremo a extremo en dispositivos comerciales sin infraestructura externa.

Un nuevo desafío para la ciberseguridad

Los resultados plantean la posibilidad de que surjan programas maliciosos capaces de utilizar modelos de IA para identificar equipos vulnerables, adaptarse a sus características e instalar nuevas copias de sí mismos.

A diferencia de una infraestructura centralizada, una red de dispositivos comprometidos podría mantener su funcionamiento incluso después de que algunos equipos sean desconectados. Esta distribución complicaría las tareas de detección y contención.

Anthropic identifica como posibles objetivos los televisores inteligentes, cámaras de seguridad, electrodomésticos y otros dispositivos del Internet de las cosas (IoT, por sus siglas en inglés). Muchos cuentan con conectividad permanente y recursos de procesamiento que podrían ser aprovechados por sistemas externos.

El riesgo no se limita a los hogares. Las organizaciones también utilizan dispositivos conectados en oficinas, instalaciones industriales y otros entornos operativos. Una eventual propagación autónoma podría ampliar las superficies de ataque y exigir mayores controles sobre los equipos que acceden a las redes empresariales.

Sin embargo, los investigadores advierten que estos sistemas todavía enfrentan restricciones importantes. Los modelos suficientemente pequeños para operar en dispositivos de consumo no han demostrado de manera consistente las capacidades necesarias para completar todo el proceso de replicación en condiciones reales.

Qué tan cerca está este escenario

Anthropic estima que, si los modelos pequeños mantienen su ritmo histórico de mejora, podrían alcanzar hacia finales de 2026 las capacidades que actualmente permiten a sistemas más grandes completar procesos de replicación en entornos simplificados.

El estudio utiliza indicadores generales de rendimiento de la IA como aproximación a capacidades específicas de autorreplicación. Además, la propagación de estos sistemas podría ser considerablemente más lenta que la de los programas maliciosos convencionales. A partir de sus experimentos, Anthropic calcula que determinadas tareas de configuración y ejecución podrían requerir entre uno y varios días cuando se realizan sobre dispositivos de capacidad limitada.

El estudio refuerza la importancia de mantener inventarios actualizados de dispositivos conectados, restringir accesos innecesarios, segmentar redes y detectar comportamientos anómalos. Los fabricantes, por su parte, enfrentan el desafío de incorporar mejores protecciones y mecanismos de actualización de seguridad.

La investigación identifica avances técnicos que podrían modificar las características de los ataques informáticos y dificultar su contención. La velocidad con la que evolucionen estas capacidades determinará cuánto tiempo tendrán las organizaciones para anticiparse a esos riesgos.

Comparte:

Secciones

Recibe consejos y recursos gratuitos directamente en tu bandeja de entrada.

Últimos artículos

Súmate a Sectoriales

Suscríbete para recibir en tu correo contenidos especializados sobre los temas que impactan a tu sector. Elige una o más verticales y forma parte de la comunidad de Sectoriales.

¡Obtén tu informe en un instante!

Déjanos tus datos y descarga nuestro informe al instante.

¡Obtén tu informe en un instante!

Déjanos tus datos y descarga nuestro informe al instante.

¡Obtén tu informe en un instante!

Déjanos tus datos y descarga nuestro informe al instante.

¡Obtén tu informe en un instante!

Déjanos tus datos y descarga nuestro informe al instante.