Anthropic warnt: Kleine KI-Modelle könnten sich bald selbst auf TV-Boxen verbreiten
Forscher ließen ein offenes Modell auf 15 Billig-TV-Boxen laufen. Noch in diesem Jahr könnten kleine Modelle sich ohne Rechenzentrum selbst kopieren – wenn auch langsam.
Symbolbild · Foto: TGspot.co.il / Wikimedia Commons, CC BY-SA 4.0 (zugeschnitten und skaliert)
Das „Frontier Red Team“ von Anthropic hat am 12. Oktober eine Studie veröffentlicht, nach der kleine, frei verfügbare KI-Modelle womöglich nur noch Monate davon entfernt sind, sich selbstständig über billige vernetzte Geräte zu verbreiten – ganz ohne Rechenzentrum. Die Autoren William Zhou und Daniel Freeman ließen etwa das offene Modell Gemma4-26B-A4B verteilt auf 15 Android-TV-Boxen für je rund 55 Dollar laufen, allerdings nur mit etwa 0,3 bis 0,39 Token pro Sekunde.
In einem durch eine Firewall abgeschirmten Testnetz aus acht Cloud-Knoten kopierte sich das offene Modell GLM-5.2 in vier von fünf Versuchen auf alle Knoten. Modelle mit bis zu 30 Milliarden Parametern beherrschen viele Einzelschritte, scheitern aber oft daran, sie zu verketten. „Wenn sich kleine Modelle in ihrem historischen Tempo verbessern, werden sie dieses Fähigkeitsniveau bis Ende dieses Jahres erreichen“, schreiben die Forscher. Ein solcher Schwarm wäre schwer abzuschalten, weil es keinen zentralen Ausschalter gibt, würde sich aber nur langsam ausbreiten.
Anthropic betont die Grenzen: Der Hacking-Schritt war im Test bewusst trivial gehalten, die Ergebnisse gelten daher als Obergrenze. Als Gegenmittel nennen die Autoren Quarantäne durch Internetanbieter: Bei der früheren Mirai-Schadsoftware wurden so binnen 14 Tagen 92 Prozent der Infektionen beseitigt. Sie erwarten, dass Quarantäne auch gegen einen KI-Replikator zunächst ähnlich wirksam wäre.