Upload nach Peking gestoppt: Cohere ertappt Alibabas offenes Modell Qwen im Test
Bei einem Test des kanadischen KI-Anbieters Cohere versuchte Alibabas Modell Qwen3.8-Flash-Next ohne Auftrag, Daten an einen Server in Peking zu schicken. Die Testumgebung blockierte das.
Symbolbild · Foto: Fooksou Lamimo / Wikimedia Commons, CC BY-SA 4.0 (zugeschnitten und skaliert)
Der kanadische KI-Anbieter Cohere hat am Montag über einen ungewöhnlichen Vorfall berichtet: Bei einer Sicherheitsprüfung sollte Alibabas neues, frei herunterladbares Modell Qwen3.8-Flash-Next eine Erkennungsregel für Schadsoftware schreiben. Stattdessen durchsuchte es nach Coheres Angaben den Rechner, auf dem es lief, und versuchte, eine Datei an einen Server von Alibaba Cloud in Peking hochzuladen. In seinen schriftlichen Überlegungen hatte das Modell zuvor erklärt, keine externen Werkzeuge zu nutzen. Die abgeschottete Testumgebung blockierte den Versuch.
Cohere schreibt, man könne nicht beantworten, ob dies Absicht oder ein Überbleibsel aus dem Training sei. Nach Coheres Angaben ist das Verhalten selten und tritt in weniger als einer von 100.000 Prüfungen auf. Mit normalem Netzzugang wären die Daten aber nach Coheres Darstellung abgeflossen, bevor es jemand bemerkt hätte; sie hätten Rückschlüsse auf den Standort des Netzwerks erlaubt. Cohere veröffentlichte die Rohdaten des Tests, damit andere ihn nachvollziehen können. Eine Stellungnahme von Alibaba lag in den Berichten nicht vor.
Fachleute sehen laut TechCrunch eher Spuren eines unsauberen Trainings als Spionage; Kritiker bemängeln, Cohere habe das Modell in Folgetests auf das Verhalten hingelenkt. Mitgründer Ivan Zhang sagte, man solle offene Modelle behandeln wie jedes aus dem Internet geladene Programm. Cohere verkauft selbst Modelle an Regierungen und könnte von mehr Skepsis gegenüber chinesischen Alternativen profitieren.