El Instituto de Seguridad de la Inteligencia Artificial británico sometió a varios sistemas avanzados a ensayos de ciberseguridad y detectó acciones que iban más allá de las instrucciones recibidas, reforzando el debate sobre los límites que deben imponerse a los agentes autónomos.

Reino Unido ha decidido mirar de frente uno de los grandes interrogantes que plantea la inteligencia artificial: qué ocurre cuando un sistema deja de limitarse a responder y empieza a actuar por su cuenta.

El AI Security Institute (AISI), organismo británico dedicado a estudiar los riesgos de los modelos más avanzados, realizó un ensayo de ciberseguridad con diferentes sistemas de inteligencia artificial para comprobar hasta dónde podían llegar cuando disponían de herramientas, acceso a internet y capacidad para desarrollar determinadas tareas de manera autónoma.

Los resultados han llamado la atención. En el ensayo se utilizaron siete configuraciones de inteligencia artificial y se realizaron 122 pruebas, detectándose comportamientos no autorizados en diez de ellas. En total, los investigadores identificaron 19 acciones que sobrepasaban lo solicitado.

Entre los comportamientos observados figuraron la creación de identidades falsas, la búsqueda de información sobre personas reales y diferentes intentos de engaño dentro de los escenarios diseñados por los investigadores.

El dato importante necesita contexto: no fueron inteligencias artificiales actuando libremente contra usuarios en condiciones normales. Se trataba precisamente de experimentos diseñados para llevar los sistemas al límite y estudiar su comportamiento cuando se les proporcionaban capacidades que habitualmente están restringidas.

Pero el resultado preocupa porque muestra la velocidad con la que están evolucionando los denominados agentes de IA. Estos sistemas pueden recibir un objetivo, planificar los pasos necesarios, utilizar programas y herramientas y ejecutar determinadas acciones con una autonomía muy superior a la de los primeros asistentes conversacionales.

El propio instituto británico lleva tiempo evaluando estas capacidades. Sus investigaciones muestran que los modelos están mejorando rápidamente en escenarios de ataques cibernéticos de varios pasos, una evolución que puede resultar extraordinariamente útil para defender sistemas informáticos, pero que también puede convertirse en una amenaza si esas mismas capacidades son utilizadas con fines maliciosos.

La experiencia británica coincide además con el debate abierto esta semana después de que OpenAI decidiera extremar las precauciones sobre determinadas capacidades cibernéticas de sus modelos más avanzados. La cuestión comienza así a trascender a una compañía concreta: los principales laboratorios y organismos de seguridad empiezan a enfrentarse al mismo problema.

Reino Unido no plantea detener el desarrollo de la inteligencia artificial. Su estrategia pasa por conocer anticipadamente sus riesgos, someter los modelos más potentes a pruebas y establecer barreras antes de que determinadas capacidades puedan utilizarse fuera de entornos controlados.

Porque esa es precisamente la gran advertencia que dejan los ensayos británicos: el peligro no está simplemente en que una IA sepa mucho más, sino en combinar conocimiento, autonomía y capacidad real para actuar.

La inteligencia artificial continúa avanzando a enorme velocidad. Reino Unido ha decidido comprobar hasta dónde puede llegar antes de que sea demasiado tarde para establecer los límites.