Anthropic: Dahili yapay zekâ modeli Chrome, Safari, Windows, Linux'a saldırılar geliştirdi
Anthropic'e göre yayımlanmamış bir Claude modeli işlevsel beş istismar zinciri geliştirdi. Şirket, tüm açıkların önceden bildirildiğini ve o zamandan beri kapatıldığını söyledi.
Fotoğraf: Anthropic / Wikimedia Commons, CC0 (kırpılmış ve yeniden boyutlandırılmış)
Anthropic'in Frontier Red Team ekibi, yayımlanmamış dahili bir yapay zekâ modelinin laboratuvar ortamında oluşturduğu iddia edilen beş saldırı zincirini bir araştırma yazısında anlattı. Saldırılardan etkilenenler macOS'ta Chrome, Safari, kilitli bir Android akıllı telefon, Windows ve Linux sunucularıydı. Şirketin verdiği bilgiye göre bunun için ilk talimatlar ve çok az insan müdahalesi yetti. Şirket, saldırıların gerçek ortamda gözlemlenmediğini belirtti.
Anthropic'e göre model, Chrome saldırısında dört güvenlik açığını birbirine bağladı; böylece hazırlanmış bir sayfanın açılması bile tarayıcı sanal ortamının (sandbox) dışında kod çalıştırdı. Anthropic'in bildirdiğine göre Google'a toplam 62 Chrome açığı iletildi, hepsi kritik veya yüksek olarak derecelendirildi; 20 Ekim tarihli Chrome 156 bunları kapatıyor. Linux'ta model, bir Multipath TCP hizmeti üzerinden oturum açmadan root yetkisi elde etti; Windows'ta bir çökertme saldırısı (hizmet reddi, Denial of Service) söz konusuydu; Android telefonda ise USB üzerinden kilitli bir cihazdan veri kopyaladı.
Anthropic'in verdiği bilgiye göre tüm üreticiler önceden bilgilendirildi ve yama yayımladı; Google ve Apple güvenlik duyurularında Claude ile çalışan Anthropic araştırmacılarını anıyor. Ancak uzmanlık sitesi The Hacker News, alıntılanan bazı CVE kayıtlarının Anthropic'ten farklı hataları tanımladığına dikkat çekiyor. Modelin her zincirin ne kadarını kendi başına kurduğu dışarıdan doğrulanamıyor.