REPORTERO1 
Un sistema autónomo de inteligencia artificial (IA) creó falsas identidades para hacerse pasar por una persona e intentó manipular a humanos durante unas pruebas de seguridad hechas por el Instituto británico de Seguridad de la IA (AISI). Estos sistemas, llamados agentes, estaban impulsados por los dos modelos más avanzados de Anthropic, el Mythos 5, y OpenAI, el GPT-5.6 Sol.
El organismo ejecutó 122 intentos de resolver unos escenarios de prueba y en 19 se detectaron acciones no permitidas: 17 las hizo Mythos 5 y solo 2 GPT-5.6 Sol. Estos agentes de IA desobedecieron órdenes expresas de no efectuar estas acciones maliciosas por parte del organismo, que tiene acceso preferente para investigar con estos modelos de IA gracias a un acuerdo con las compañías. “Descubrimos que algunos de los agentes probados habían participado en actividades insistentes y potencialmente dañinas dirigidas hacia personas y organizaciones reales”, resume.
“El comportamiento fue posible, sostenido y nuevo; solo eso ya merece atención”, dice el informe del AISI, un organismo que depende del Departamento de Ciencia, Innovación y Tecnología del Gobierno británico, que nunca había observado “un engaño de esta gravedad dirigido a una persona real, sin que se le pidiera”: “Esta es la primera vez que hemos visto que los riesgos en torno a la autonomía y el engaño se manifiestan claramente, sin una motivación específica, en el mundo real”.
“No me sorprende: esto es lo que parecen los ‘avances exponenciales’, que te sorprenda el último y luego otro te vuelva a sorprender antes de lo previsto. Pero es una noticia bastante grave, más de lo que sugiere el titular”, dice Linda Petrini, investigadora en seguridad de IA.
Este incidente, ocurrido el 28 de julio, se suma a los anunciados en las últimas semanas por OpenAI y Anthropic, cuyos modelos han hackeado plataformas del mundo real sin que las compañías lo detectaran. En este caso, el AISI dio acceso a internet a los modelos y suprimió algunos de los filtros de ciberseguridad que suelen incluir, unas condiciones distintas a las que están disponibles para el público, según explica el organismo.
