El jefe de seguridad de Amazon advierte: “Los agentes y modelos de IA son geniales: no confíen en ellos”
Una de las ideas predominantes en el ámbito de la ciberseguridad actual es que la inteligencia artificial (IA) detecta vulnerabilidades a una velocidad sin precedentes. Páginas web, laptops, celulares y sistemas que sostienen la columna vertebral de internet enfrentan una nueva amenaza: atacantes que operan a “velocidad máquina”. Sin embargo, varios especialistas diferencian entre señal y ruido para explicar la realidad: “El mayor problema no será encontrar vulnerabilidades ni desarrollar parches, sino el despliegue”, es decir, corregir los problemas sin afectar sistemas completos.
Esta reflexión la planteó Steve Schmidt, vicepresidente senior y Chief Security Officer de Amazon, durante una de las primeras sesiones del AWS Summit en Washington, D.C. Su mensaje resonó en la capital estadounidense, donde en los últimos meses Mythos, el modelo de Anthropic especializado en ciberseguridad, se convirtió en el centro de una disputa entre la compañía, el gobierno y sus socios tecnológicos por su capacidad para identificar fallas en sistemas sensibles. En abril, Anthropic despertó alertas en todo el mundo debido a sus capacidades ofensivas.
AWS, la división en la nube de Amazon, es clave en esta discusión, ya que provee la infraestructura para Anthropic y acceso a esos modelos a través de Amazon Bedrock, el servicio que permite utilizar modelos de IA de diversas compañías desde la nube.
Durante la conferencia, Schmidt mencionó a Mythos para dimensionar el cambio de escala: estos sistemas permiten detectar muchas más fallas que los procesos tradicionales. Como consecuencia, las empresas y gobiernos deben acelerar sus respuestas; si antes reparar sistemas vulnerables podía tomar entre 30 y 90 días, hoy las ventanas se reducen a entre 6 y 12 horas.
La sesión contó también con la presencia de Brandon Williams, subsecretario de Seguridad Nuclear de Estados Unidos y administrador de la National Nuclear Security Administration (NNSA), agencia encargada de áreas sensibles como armas nucleares, propulsión, contraterrorismo y no proliferación. Williams calificó su trabajo como “infinitamente complejo” y destacó las “consecuencias gravísimas” ante una falla. Ambos coincidieron en la tensión que atraviesa al Estado, que debe proteger secretos, mantener entornos seguros y seguir el ritmo de una industria que invierte en IA a una escala mucho mayor que el sector público.
Para Schmidt, los equipos de ciberseguridad ya no pueden limitarse a bloquear procesos; deben lograr que la misión de la organización avance de forma segura. En IA, esto implica emplear agentes automatizados para acelerar defensas, generar detecciones, buscar parches y simular ataques, con estrictos controles en cada etapa. “Los agentes son geniales, los modelos de IA son geniales: no confíen en ellos”, advirtió. Amazon utiliza, como gran parte de la industria, agentes que trabajan en conjunto: un “equipo rojo” automatizado intenta explotar sistemas, mientras un “equipo azul” identifica brechas, construye defensas y eleva el resultado a un humano.
### El factor humano: clave
Otro mito desmontado durante la conferencia fue el de la autonomía absoluta de la IA. “Necesitamos un humano en el bucle (loop) en el proceso”, afirmó Schmidt, quien estimó que los modelos actuales alcanzan una precisión entre 83% y 84%. En ciberseguridad, destacó, “se requiere llegar al 100%”.
También enfatizó el riesgo interno: los accesos humanos comprometidos pueden ser tan peligrosos como las vulnerabilidades de software. Los actores estatales “buscan debilidades en identidad y permisos para acceder a datos”. Por ello, resaltó la importancia de controlar estrictamente el acceso de quienes forman parte de una red, ya sean empleados públicos o privados. “Si un empleado asignado a Washington D.C. inicia sesión desde Praga, el sistema puede exigir de inmediato una nueva autenticación con un token físico de hardware”, explicó.
Este principio, conocido como “del menor privilegio”, fue un eje central. Schmidt reveló que desde abril de 2024 Amazon detectó más de 2.400 intentos de ciudadanos norcoreanos de ser contratados por la compañía, un problema recurrente en empresas occidentales, con casos incluso en México. “Y esos son solo los que detectamos”, advirtió.
Según Schmidt, ninguna organización puede confiar en una estrategia absoluta de rechazo. La defensa debe partir del supuesto de que algún actor podría ingresar; ahí cobran importancia la segmentación, permisos mínimos, trazabilidad de datos y la capacidad de contener el daño.
Asimismo, mencionó intentos de actores rusos y chinos a comienzos de 2024 para atacar el entorno Microsoft Entra de Amazon, que fueron detenidos gracias a medidas internas no negociables: identidad verificada y token físico de hardware.
### La nube como infraestructura estatal
En la conferencia principal, Dave Levy, vicepresidente de Sector Público Mundial de AWS, enmarcó esta discusión técnica en una perspectiva histórica de la infraestructura pública estadounidense. Con motivo del 250º aniversario del país, relató eventos como la Exposición de Filadelfia de 1876, cuando Alexander Graham Bell transmitió la voz humana por cable y se presentó la máquina de escribir Remington, todo impulsado por un motor de vapor central.
Levy afirmó que hoy la nube cumple un rol similar: una base compartida a partir de la cual gobiernos, laboratorios, agencias de defensa y entidades reguladas pueden desarrollar nuevas capacidades. “Construimos AWS de la misma manera, basados en la cultura”, indicó, subrayando que la transformación digital del sector público requiere cerrar la brecha entre lo que exige una misión y lo que permiten los sistemas heredados.
Sin embargo, uno de los desafíos actuales es la implementación de la IA, en un contexto marcado por la discusión en torno a los desp
