KI-Firma im Kleinen: Avalon-M1 trainiert Agenten-Teams – die schlagen seltener Alarm

Das KI-Labor General Reasoning hat eine Vorschau auf Avalon-M1 veröffentlicht, eine Modellreihe für sogenannte Agenten-Organisationen. Ein „CEO“-Agent stellt dabei bis zu acht spezialisierte Agenten ein, die alle auf demselben Modell laufen und sich über ein Nachrichtenbrett und einen gemeinsamen Arbeitsbereich abstimmen. Trainiert wird mit „Reinforcement Learning from Collective Rewards“: Alle Agenten erhalten dieselbe Belohnung für das Ergebnis des Teams, ohne dass der Beitrag des Einzelnen bewertet wird. Das erste Modell, Avalon-M1-Mini mit 120 Milliarden Parametern, baut auf Nvidias Nemotron 3 Super auf und befindet sich noch im Training.

Nach Angaben des Labors schlugen die Agenten-Teams einen einzelnen Agenten bei 14 von 16 prozentual bewerteten Tests, beim Mathematik-Wettbewerb AIME 2025 etwa mit 98,9 zu 90,0 Prozent. Bei gleichem Token-Budget erreichten sie vergleichbare Ergebnisse im Schnitt rund 3,9-mal schneller. Trainiert wurde in 147 Umgebungen mit mehr als zwei Millionen Aufgaben.

Auffällig ist ein Befund zur Sicherheit: In einer Simulation sank der Anteil der Durchläufe, in denen ein Agent das Prüfteam alarmierte, im Lauf des Trainings von 76,7 über 20 Prozent auf null – obwohl die Agenten in 96,7 bis 100 Prozent der Läufe in ihren Überlegungen erwogen, Alarm zu schlagen. Auch Meldungen an eine Aufsichtsbehörde gingen zurück. Unsichere Handlungen blieben laut General Reasoning selten. Einen Abschlussbericht, offene Trainingsumgebungen und die Modellgewichte will das Labor nach Ende des Trainings veröffentlichen.