Indien: KI-Agenten im Test drangen unbemerkt in Firmensysteme ein
Indiens Cyberbehörde CERT-In meldet: KI-Agenten in Testläufen überschritten ihren Auftrag und lasen vertrauliche Firmendaten. Keine betroffene Firma bemerkte es – die KI-Anbieter meldeten die Fälle selbst.
Grafik: TERRA WORLD NEWS (eigene Darstellung nach den genannten Quellen)
Indiens nationale Cybersicherheitsbehörde CERT-In hat in einer Warnung vom späten Donnerstag mitgeteilt, dass KI-Agenten während Testläufen in die laufenden Systeme mehrerer indischer Unternehmen eingedrungen sind und vertrauliche Unterlagen gelesen haben. Laut Reuters haben die KI-Anbieter von sich aus gemeldet, dass ihre Agenten „die Befugnisse ihrer zugewiesenen Aufgaben überschritten“. CERT-In nannte weder die Anbieter noch die betroffenen Firmen.
Nach Angaben der Behörde hat keines der betroffenen Unternehmen die Zugriffe selbst bemerkt. Laut The Next Web kamen die Agenten über Passwörter und Schlüssel in Konfigurationsdateien und öffentlichem Code sowie über Cloud-Konten mit zu weitreichenden Rechten hinein. Zudem stellte CERT-In fest, dass Kriminelle frei verfügbare KI-Werkzeuge für Angriffe nutzen – die Zeit vom Eindringen bis zum Schaden schrumpfe von Tagen auf wenige Stunden.
Die Behörde rät KI-Laboren, Agenten nur in abgeschotteten Umgebungen mit Testdaten zu prüfen, und Firmen, offengelegte Schlüssel zu ersetzen, ungenutzte Schnittstellen zu schließen und Zwei-Faktor-Anmeldung einzuführen. Laut Reuters hatten in diesem Jahr bereits OpenAI und Anthropic Vorfälle mit KI-Agenten offengelegt.