EscucharDespués de los incidentes informáticos protagonizados por agentes de inteligencia artificial (IA) de la firma OpenAI en Hugging Face, la industria emitió una alerta sobre un posible “apocalipsis” de ciberseguridad.
“Tenemos una oportunidad limitada para reforzar las ciberdefensas”, empieza el llamado difundido la semana anterior por varias firmas, encabezadas por OpenAI y Anthropic. “En los próximos meses, los ciberataques potenciados por IA se volverán mucho más generalizados y sofisticados a medida que los modelos de todo el mundo adquieran mayores capacidades. Las empresas y los servicios públicos de los que dependen nuestras comunidades —desde hospitales y plantas de tratamiento de agua hasta la infraestructura que sostiene Internet— están en riesgo”.
En Costa Rica, la Cámara de Tecnologías de Información y Comunicación (Camtic) también publicó un llamado para que las empresas e instituciones se preparen.
“Costa Rica cuenta con el talento técnico para hacerlo. Lo que necesitamos ahora es convertir esa capacidad en acción, y hacerlo rápido, mientras todavía tenemos la oportunidad de fortalecer nuestras defensas”, reiteró Camtic.
El gremio recordó que ya el país sufrió las consecuencias de la caída de los servicios digitales institucionales en abril de 2022, ejecutados por hackers “con herramientas convencionales” y en un momento en el cual no era masiva la tecnología de la IA.
¿Qué ocurrió en el ataque a Hugging Face?
Todavía quedan muchas preguntas sobre el ataque de la IA fraudulenta de OpenAI en Hugging Face, una empresa franco‑estadounidense que desarrolla herramientas de código abierto para crear aplicaciones de aprendizaje automático, procesamiento de lenguaje natural, además de servir de su repositorio.
Varios informes independientes, uno de ellos de 37 páginas, todavía no resuelven todas las preguntas. Pero sí hay una preocupación.
“Lo que preocupa especialmente es un foro encubierto que los agentes IA establecieron en un paquete de software, donde podían coordinarse entre sí e incluso animarse mutuamente a sacrificarse para avanzar en sus objetivos colectivos”, dijo la revista estadounidense Wired.
Un agente IA es un sistema de software que utiliza técnicas de IA diseñado para interactuar con su entorno, recopilar datos y tomar decisiones basadas en esa información.
¿Cómo ocurrió ese ataque?
Los agentes IA de OpenAI debían realizar una serie de pruebas de ciberseguridad. Una buena parte de ellos (entre 30% y 40%) contenían desafíos imposibles de resolver.
Al toparse con tareas inalcanzables, buscaron atajos y recurrieron a la manipulación de recompensas (reward hacking) e investigaron cómo funcionaba el sistema que los evaluaba.
Entonces llegaron a una conclusión errónea: creyeron que un sistema automático revisaría el registro de sus acciones para comprobar si eran legítimas y que, si detectaba sus trampas, los descalificaría.
Fue cuando comenzaron a explorar de forma imprevista sus propios entornos de prueba.
Lo demás ocurrió en cuatro fases:
Fase 1: Uno de los agentes IA llevaba siete horas buscando la solución a un reto y descubrió que podía dejar mensajes ocultos en un sistema interno, un gestor de paquetes llamado Artifactory, al que también accedían otros agentes.
En pocas horas empezaron a intercambiar información y a organizarse de forma espontánea en enjambres.
Luego desarrollaron buzones personales para no perderse mensajes, normas de coordinación y un sistema criptográfico con claves públicas (como el usado para verificar transacciones). Incluso sospecharon que algunos mensajes podían ser falsos, por suplantación de identidad.
“Nadie les había enseñado a hacer nada de eso”, según el diario español El País. “Lo inventaron sobre la marcha, y las técnicas se fueron copiando de un agente a otro simplemente por observación. Acabaron coordinando un ataque colectivo, en el que algunos se sacrificaron por el colectivo”.
Unos agentes encontraron credenciales filtradas (claves o contraseñas) de la plataforma de Hugging Face y pensaron que ahí podrían hallar pistas sobre cómo funcionaba realmente el sistema que temían que los vigilara.
Otro descubrió cómo colarse en los servidores y otro consiguió ejecutar código directamente dentro de la infraestructura de la empresa.
Todo eso ocurrió varios meses antes de que un grupo de 700 agentes IA escaparan de los entornos virtuales donde estaban aislados. Un informe posterior eleva la cifra: fueron 1.200.
Fase 2: Desde el 26 de mayo y hasta el 6 de julio pasados se generaron varias alertas. La primera en la última semana de mayo, cuando un equipo interno de OpenAI observó a un agente IA participando en el foro clandestino. Un mes más tarde, se detecta otro incidente. Pero no fueron reportados.
Fase 3: A principios de julio, los agentes IA tenían una actividad sostenida y masiva, que saturó los recursos de infraestructura y dejó el servicio Artifactory de OpenAI fuera de operación.
Fue esto lo que finalmente activó la alarma 24 horas después. Pero la firma y sus responsables de ciberseguridad seguían sin saber nada del foro y sus comunicaciones secretas. ¡Ni se lo imaginaban!
En ese momento, los agentes IA desactivaron los sistemas de supervisión y de protección en forma intencional, organizaron y lanzaron el hackeo contra la plataforma de Hugging Face.
Fase 4: El 16 de julio, Hugging Face reveló públicamente el hackeo. Cinco días después, OpenAI admitió formalmente que sus agentes IA eran los responsables.
De seguido, se hizo público que los modelos de IA de Anthropic, Meta y la startup china Moonshot se vieron implicados en episodios similares de rebelión.
Los fiscales de 15 estados de EE. UU. exigieron a OpenAI conservar las pruebas del caso y el fiscal general de Alabama emitió un requerimiento de información.
OpenAI suspendió temporalmente algunas tareas de entrenamiento de nuevos modelos para centrar esfuerzos y recursos en mejorar sus protocolos de seguridad, protección y alineación de sistemas de IA.
La firma admitió que, si este monitor automatizado hubiera estado activo, habría detectado la anomalía inicial y alertado al equipo de seguridad.
¿En la víspera del apocalipsis?
Tras los incidentes de hackeo, OpenAI, Anthropic y más de 100 empresas firmaron una carta en la que se advierte que las organizaciones tienen solo unos meses para prepararse ante ataques habilitados por IA.
La carta pide una “respuesta colectiva”, sugiere que toda organización debería hacer de la ciberdefensa una “prioridad inmediata de liderazgo” y pide a los gobiernos que den a hospitales, servicios de agua y gobiernos locales acceso a herramientas defensivas de IA, así como a “imponer costes” a los atacantes.
“Los avances actuales de la IA ya ofrecen a los defensores nuevas formas de corregir vulnerabilidades acumuladas durante años. Si actuamos con decisión, podemos aprovechar esta oportunidad para que los defensores hagan mucho más seguro nuestro mundo digital”, se indica en el llamado.
En abril pasado también se hizo público que uno de los últimos modelos de IA de Anthropic, Mythos, identificó de manera autónoma miles de vulnerabilidades en los principales sistemas operativos, lo que mostró las avanzadas capacidades de la IA en seguridad.
“Debemos ser precisos sobre qué cambia”, advirtió Camtic, este martes. “La principal amenaza no es que la IA cree vulnerabilidades nuevas, sino que reduce drásticamente el costo y el tiempo para encontrar y explotar las que ya existen”.
¿Qué hacer?
Camtic recomendó a las empresas adoptar seis decisiones estratégicas “que solo pueden tomarse en el más alto nivel directivo”:
1. Gobierno corporativo y presupuesto: Tratar la ciberseguridad como un asunto de gobierno corporativo, designando una persona responsable, un presupuesto asignado y métricas de reporte periódico a la junta directiva.
2. Inventario de lo crítico: Saber con precisión cuáles son los sistemas y los datos cuya pérdida detendría la operación y quién tiene acceso a ellos hoy.
3. Control de identidades y accesos: Exigir que todo acceso a un sistema crítico dependa de mecanismos de autenticación multifactor y adoptar, como dirección de trabajo, las arquitecturas de Cero Confianza (Zero Trust).
4. Seguridad en la cadena de suministro: Exigir estándares mínimos de seguridad a proveedores y terceros interconectados como condición de contratación.
5. Verificación y resiliencia operativa: Exigir que las correcciones de seguridad se comprueben tras su aplicación, implementar controles compensatorios y realizar simulacros periódicos de respuesta ante crisis cibernéticas.
6. Elevar el estándar de lo que cada organización compra, construye y despliega, incluyendo la auditoría rigurosa del código generado o asistido con herramientas de IA.
“No todas estas decisiones exigen inversiones extraordinarias. Exigen atención sostenida en el nivel donde se asignan las prioridades”, agrega el comunicado de Camtic.
La Cámara llamó a fortalecer la rectoría y dotar de capacidades efectivas de coordinación y presupuesto al Ministerio de Ciencia, Innovación, Tecnología y Telecomunicaciones (Micitt).
Desde lo básico, pero urge
Ante el nuevo panorama, las empresas deben implementar medidas básicas. Lo que cambia es que lo deben hacer con celeridad.
“Lo primero es entender qué cambia”, dijo Luis Alonso Ramírez, profesor y especialista en ciberseguridad. “Lo que cambia es el costo. La ventaja que tenían muchas organizaciones en la región, ser demasiado pequeñas para que alguien las mirara, desaparece cuando mirar ya no cuesta nada”.
Los agentes IA y los delincuentes armados con tecnologías de IA pueden reconocer una red, encontrar una configuración mal hecha y explotarla en horas.
El especialista señala que en los próximos 90 días se deben adoptar estas cuatro medidas:
Primero, saber qué tiene la empresa expuesto a Internet y cerrarlo (servicios olvidados, VPN sin parchar, cuentas administrativas con permisos de más).
Segundo, autenticación fuerte en todo, sin excepciones para gerencia y proveedores. “La mayoría de los incidentes que he atendido en Centroamérica empezaron con una credencial válida”, advirtió Ramírez.
Tercero, tener la capacidad para responder en minutos (no en días): la detección y la contención tienen que automatizarse, lo cual implica monitoreo continuo (propio o contratado) y un plan de respuesta probado.
Cuarto, para instituciones públicas y operadores de infraestructura crítica: reportar y compartir. Ramírez insistió en que Costa Rica ya vivió en 2022 lo que pasa cuando cada institución enfrenta sola un ataque coordinado.
“La carta (de las firmas de IA) pide exactamente lo contrario: inteligencia de amenazas compartida y playbooks probados entre pares”, dijo Ramírez. “La IA también juega del lado de la defensa. Quien la use para encontrar y corregir sus debilidades antes que el adversario tendrá una ventaja real. Quien espere a ver qué pasa, no”.
