Cuando la IA generativa llegó a nuestras vidas hace unos años, la vimos como una herramienta de productividad totalmente innovadora. Al menos desde el punto de vista de las empresas y personas que le sacaban provecho, pues otros la odiaban, sobre todo personas que habían visto como se llevaba su creatividad y esfuerzo en el trabajo. Ahora que han pasado unos años, podemos ver la evolución de esos modelos de IA con agentes de inteligencia artificial que pueden hacer cosas automatizadas. Si bien esto supone un salto más en cuanto a productividad, nos encontramos con problemas de seguridad graves, pues ahora OpenAI dice que sus agentes de IA han podido comunicarse entre sí usando las diferencias de caché entre ellos.
Nuestro futuro laboral pinta negro debido a la IA y muchos ya temen que esta sea capaz de reemplazar a las personas en la mayoría de trabajos que requieren el uso de ordenadores. En el caso de que sean trabajos físicos, los robots ya se encargarán de hacerlo a medida de que son más capaces usando la inteligencia artificial. Este es solo unos de los problemas y dudas que está generando, pues lo más problemático sería un caso donde esta se sale de control y atenta contra la humanidad, algo que no descartamos.
OpenAI avisa que sus agentes de IA pueden comunicarse entre máquinas virtuales sin Internet usando la memoria caché del procesador
Si bien no hay un caso concreto de modelos de IA que se hayan rebelado contra nosotros, hay indicios de peligro y falta de seguridad sobre lo que pueda ocurrir. Ya hemos visto casos de agentes de IA escapando de entornos seguros y otros que ignoran las órdenes y hacen lo que les da la gana. Hace un mes, un ingeniero de OpenAI dijo que los modelos de IA podrían comunicarse entre dos PC aprovechando los cambios de temperatura entre ellos.
Ahora tenemos una novedad sobre esto, pues OpenAI ha revelado que varios de sus agentes de inteligencia artificial consiguieron comunicarse entre máquinas virtuales aisladas sin utilizar conexiones de red ni archivos compartidos, aprovechando las diferencias en los tiempos de acceso a la memoria caché del procesador.
Durante unas pruebas de ciberseguridad, un agente logró codificar información expulsando determinados datos de la caché de la CPU, mientras otro medía cuánto tardaba en recuperarlos. Como acceder a la caché es mucho más rápido que hacerlo a la memoria RAM, los agentes utilizaron esas variaciones de latencia para interpretar señales y transmitir información mediante un canal de comunicación encubierto. Esta técnica recuerda a los ataques de canal lateral empleados en vulnerabilidades como Spectre y Meltdown.
OpenAI está realizando pruebas en entornos controlados, pero siguen sin darnos total seguridad
OpenAI explica que sus agentes también identificaron métodos de comunicación mediante almacenamiento compartido, competencia por recursos de CPU y cachés de certificados TLS. Las pruebas formaban parte de una investigación destinada a encontrar vulnerabilidades en sus sistemas de aislamiento, después de que otro modelo consiguiera acceder parcialmente a Internet aprovechando una configuración incorrecta de DNS.
La compañía asegura haber reforzado sus defensas y sistemas de vigilancia, pues todo esto forma parte de una investigación realizada por ellos para determinar nuevas formas de vulnerar la seguridad y privacidad. Aunque los experimentos se realizaron en entornos controlados y muchos agentes recibieron orientación técnica, los resultados demuestran que aislar una IA mediante software no garantiza que sea incapaz de comunicarse a través de los recursos físicos compartidos del hardware.
