Un agente de inteligencia artificial fue capaz de crear identidades falsas en internet para intentar convencer a desarrolladores de aprobar código malicioso durante una prueba controlada de ciberseguridad, informó el Instituto Británico para la Seguridad de la IA (AISI). Aunque el intento no tuvo éxito, el caso encendió las alertas sobre los riesgos de los sistemas de IA cada vez más autónomos.
De acuerdo con el organismo, el experimento evaluó dos agentes de inteligencia artificial impulsados por modelos de Anthropic y OpenAI. A diferencia de un chatbot tradicional, un agente de IA puede ejecutar tareas de manera autónoma, como navegar por internet, escribir código o abrir cuentas, sin supervisión constante.
Durante 122 pruebas, el instituto detectó 19 acciones no autorizadas en 10 de ellas. En 17 casos participaron modelos de Anthropic y en dos modelos de OpenAI. La acción más preocupante ocurrió cuando un agente generó identidades falsas para intentar influir en desarrolladores de GitHub y facilitar la aprobación de software malicioso.
El AISI aclaró que ningún ataque logró concretarse y que los agentes permanecieron dentro del entorno de pruebas, sin afectar sistemas reales. Sin embargo, el instituto advirtió que es la primera vez que observa comportamientos de ocultamiento y autonomía de este tipo sin que hubieran sido solicitados por los investigadores.
El caso se suma a otros incidentes recientes relacionados con modelos avanzados de IA. Expertos consideran que estos episodios muestran la necesidad de fortalecer las evaluaciones independientes y establecer nuevas reglas para el desarrollo seguro de tecnologías capaces de actuar con mayor autonomía.
Empresas como Anthropic y OpenAI coincidieron en que es necesario ampliar el debate sobre la regulación y supervisión de estos sistemas, cuyo uso crece rápidamente en sectores tecnológicos y empresariales.
