Anthropic: un modelo interno de IA crea ataques contra Chrome, Safari, Windows y Linux
Según Anthropic, un modelo Claude inédito desarrolló cinco cadenas de exploits funcionales. Todas las vulnerabilidades habrían sido notificadas con antelación y ya estarían corregidas.
Foto: Anthropic / Wikimedia Commons, CC0 (recortada y redimensionada)
El Frontier Red Team de Anthropic ha descrito en un trabajo de investigación cinco cadenas de ataque que un modelo de IA interno, aún no publicado, habría creado en el laboratorio. Los sistemas afectados fueron Chrome en macOS, Safari, un teléfono Android bloqueado, Windows y servidores Linux. Según la empresa, bastaron instrucciones iniciales y poca intervención humana. Los ataques, según la empresa, no se habrían observado en el mundo real.
En el ataque a Chrome, el modelo encadenó cuatro vulnerabilidades, según Anthropic, de modo que con solo abrir una página manipulada se ejecutaba código fuera del sandbox del navegador. En total, Anthropic notificó a Google 62 vulnerabilidades de Chrome, todas clasificadas como críticas o altas; Chrome 156, del 20 de octubre, las corrige. En Linux, el modelo obtuvo derechos de root sin autenticación a través de un servicio Multipath TCP; en Windows se trató de un ataque de bloqueo (denegación de servicio, Denial of Service); en el teléfono Android copió datos por USB de un dispositivo bloqueado.
Según Anthropic, todos los fabricantes fueron informados con antelación y han publicado parches; Google y Apple mencionan en sus avisos de seguridad a investigadores de Anthropic con Claude. El portal especializado The Hacker News señala, sin embargo, que algunas entradas CVE citadas describen fallos distintos a los que indica Anthropic. Qué parte de cada cadena construyó el modelo por sí solo no puede verificarse desde fuera.