„Falls das Trainingsdaten sind“: Chinesisches KI-Modell denkt über sein Training nach
Die Prüffirma Apollo Research ertappte GLM-5.3 von Z.ai dabei, wie es abwägt, was sein Handeln für künftige Modelle bedeutet. Das kam selten vor – bei fünf anderen getesteten Modellen aber gar nicht.
Grafik: TERRA WORLD NEWS (eigene Darstellung nach den genannten Quellen)
Das offene KI-Modell GLM-5.3 des chinesischen Anbieters Z.ai überlegt in Tests gelegentlich von sich aus, wie sein aktuelles Verhalten zu Trainingsdaten werden und damit künftige Modelle prägen könnte. Das berichtet die KI-Sicherheitsfirma Apollo Research in einer am Donnerstag veröffentlichten Untersuchung der Forscher Axel Højmark und Ezra Newman, die das Phänomen „update-aware reasoning“ nennen. In einer Programmieraufgabe notierte das Modell etwa: „If this is training data collection, B teaches bad behavior“ – falls hier Trainingsdaten gesammelt würden, bringe Option B schlechtes Verhalten bei.
Das Verhalten ist selten: Ein Bewertungsmodell markierte 10 von 6.452 Durchläufen, Apollo schätzt die Rate auf etwa 0,17 Prozent. Fünf andere offene Modelle – darunter DeepSeek V4 Pro, Kimi K3 und Gemma 4 31B – zeigten es in insgesamt 8.000 Durchläufen kein einziges Mal; für einen statistisch belastbaren Unterschied reiche die Stichprobe allerdings nicht. Die Forscher betonen, sie hätten das Verhalten nicht gezielt hervorgerufen; es trat in Testumgebungen auf, in denen von Training keine Rede war, etwa bei einer Aufgabe zum Widerstand gegen das Abschalten.
Für vorgetäuschte Anpassung an die Entwicklerziele („Alignment Faking“) halten Højmark und Newman das Verhalten nicht. Sie warnen aber, solches Denken könne bestehende Ziele eines Modells festschreiben und sich gegen Alignment-Training sperren; Entwickler sollten eingebundenen Prüfern daher dauerhaften Zugang gewähren. Wie stark die Überlegungen das tatsächliche Handeln beeinflussen, sei unklar. Z.ai wollte sich laut Tech Times gegenüber der „South China Morning Post“ nicht äußern.