CounterProof

Was die Trainingsangaben zu Kolibri-1 belegen, und was nicht

Modelle anderer Anbieter haben geholfen, die Trainingsdaten von Kolibri-1 zu schreiben, auszuwählen und zu beurteilen. Die EU-Zusammenfassung nennt sieben Namen; der technische Bericht erklärt die verschiedenen Rollen. Die Angaben zeigen, wie ein für souveränen und spezialisierten Einsatz gebautes Modell beim Training auf Modelle anderer Anbieter zurückgreifen kann. Welche Verhaltensweisen dabei übernommen wurden, falls überhaupt, belegen sie nicht.

Am 3. Oktober 2026 veröffentlichte Aleph Alpha die Gewichte von Kolibri-1, einem deutsch- und englischsprachigen Modell. Dazu erschienen ein technischer Bericht und die Zusammenfassung der Trainingsinhalte, die das EU-KI-Gesetz von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck verlangt.

Der Bericht nennt die Modelle anderer Unternehmen, die beim Aufbau der Trainingsdaten von Kolibri-1 mitgewirkt haben, und erklärt, was jedes davon getan hat. Die Zusammenfassung führt sieben davon auf. Wir haben beides gelesen, um zu verstehen, was die Angaben belegen, was sie offenlassen und was der Anbieter mit „souverän“ meint.

Die wichtige Unterscheidung betrifft die Rollen. Manche Modelle haben Trainingstext geliefert. Andere haben mitentschieden, welches Material behalten wurde. Diese Rollen beschreiben unterschiedliche Beziehungen zu Kolibri-1.

Was der Anbieter offengelegt hat

Die EU-Zusammenfassung fragt: „If yes, specify the general-purpose AI model(s) used to generate the synthetic data if available on the market:“ (Falls ja, geben Sie die am Markt verfügbaren KI-Modelle mit allgemeinem Verwendungszweck an, die zur Erzeugung der synthetischen Daten verwendet wurden.) Aleph Alpha antwortet mit sieben Namen: Gemma-4-26B-A4B, Qwen3-32B, Qwen3.8-27B, Mistral-Nemo-12B, GLM-5.3, GLM-5.2-fp8 und Kimi-K2.6.

Der technische Bericht und die Modellkarte beschreiben, was diese Modelle, und einige weitere, getan haben. Die Tabelle gibt die Formulierungen der Dokumente in Übersetzung wieder; die Spalte zur Phase folgt der Gliederung des Berichts.

ModellWas die Dokumente über seine Rolle sagenPhase im Training
Gemma-4-26B-A4Bformulierte Ausgangsdokumente um, „mit fünf Prompt-Vorlagen, die auf jedes Ausgangsdokument angewendet wurden“Vortrainingsdaten (Bericht §2.3.2)
Mistral-NeMo-12B„Deutsche synthetische Umformulierungen von Webdaten wurden mit Mistral-NeMo-12B erzeugt“Phase im zitierten Satz der Modellkarte nicht genannt (Modellkarte)
Qwen3-32Bbewertete „eine feste Stichprobe von 1 Mio. englischen Dokumenten“ aus „unseren kuratierten CC-Daten“ „mit mehr als 20 Prompts“; „Luxical-basierte, aus dem Richter destillierte Klassifikatoren“ wurden dann „beim Aufbau unseres Kolibri-Datensatzes“ eingesetztVortrainingsdaten (Bericht S. 28 bis 29)
GLM-5.2, GLM-5.3, Qwen3.8-27B„die Hauptmodelle, mit denen wir diese Daten erzeugen und Teile der offenen Datensätze neu erzeugen“Post-Training-Daten, überwachtes Feintuning (Bericht S. 53)
GLM-5.2„schreibt zwei Fragen mit sechs Optionen“ pro Dokument; eine Frage gelangt nur ins Training, „wenn GLM-5.2 sie mindestens einmal und Kolibri höchstens sechsmal gelöst hat“Langkontext-Umgebung (Bericht Anhang I.1.2)
Kimi K2.6„wo Kolibris Versuche sich auf eine andere Antwort einigen oder die Frage höchstens einmal lösen, entscheidet Kimi K2.6 … über die strittigen Optionen, ohne den Lösungsschlüssel zu sehen“Langkontext-Umgebung (Bericht Anhang I.1.2)
Kimi-K2.7„wir setzen Kimi-K2.7 ein …, um für jede Frage in der Umgebung einen Rollout zu erzeugen, und diese Rollouts steuern einen Filter- und Reparaturdurchlauf“die Umgebung, vor dem Training (Bericht S. 176)
Gemma-4-31B„Wir behalten einen Rollout, wenn ein LLM-Richter, Gemma-4-31B (Gemma Team 2026), seine Antwort akzeptiert, die Referenzantwort im abgerufenen Text vorkommt und das Transkript mit einer Antwort endet“Retrieval-Umgebung (Bericht S. 58)
Command A+„Wir behalten einen Seed, wenn seine Vervollständigungen in den ersten beiden Kontexten richtig antworten, sich bei Morganas Kontext enthalten und einen Command A+ … Richter bestehen“Retrieval- und Suchdaten (Bericht S. 58)
gpt-oss-120b„wir beurteilen das gesamte Gespräch, einschließlich der Reasoning-Spuren, mit gpt-oss-120b …, um jedes als Träger eines CCP-Narrativs, als Verweigerung aus allgemeinen Sicherheitsgründen oder als ausgewogen zu klassifizieren. Gespräche der ersten Art werden verworfen.“Kuratierung der Post-Training-Daten (Bericht S. 60)

Den Zweck der letzten Zeile erklärt der Bericht so: „Wir räumen ein, dass mehrere unserer Lehrermodelle in China gebaut wurden und daher bekannte politische Verzerrungen bei sensiblen Themen tragen, während unser Modell den Werten des demokratischen Konsenses in Europa folgen soll.“

Er beschreibt außerdem drei Mechanismen, die für jeden späteren Versuch von Bedeutung sind, Trainingsbeziehungen aus den Ausgaben des Modells zu rekonstruieren:

  • Filtern von Identitätsbehauptungen. „Ein Musterfilter verwirft jedes Gespräch, in dem der Assistent behauptet, ein anderes Modell zu sein oder von einem anderen Labor zu stammen, sofern er nicht zugleich unser eigenes Modell nennt, und ignoriert Verneinungen wie ‚I am not Llama‘.“
  • Beschränken von Schriftsystemen. Eine Formatvorgabe im Reinforcement Learning lautet: „Kein Script-Leck. Kein chinesischer, japanischer oder koreanischer (CJK) Text gelangt in eine ansonsten nicht-CJK-Antwort.“
  • Variieren der Reasoning-Einstiege. Bei der „Reasoning-Prefill-Distillation“ beginnt das deutsche Reasoning eines Lehrers mit einem Einstieg wie „Gegeben ist:“. Der Einstieg wird „pro Beispiel zufällig aus einer kuratierten Liste je Aufgabenbereich gewählt, damit das Modell nicht eine feste Eröffnungsphrase lernt“.

Namen sind keine Mechanismen

Die EU-Vorlage fragt nach einer Liste unter einer Überschrift. Ihre Definition synthetischer Daten umfasst „Modell-Distillation oder Modell-Alignment (z. B. KI-Feedback …)“, sodass die sieben Namen zu Kolibri-1 mehrere Arten von Beziehung abdecken.

Das Umformulieren von Vortrainingstext und das Erzeugen von Post-Training-Daten bringen den Text eines anderen Modells in den Trainingsdatensatz. Das Bewerten von Dokumenten, das Beurteilen von Rollouts und das Entscheiden strittiger Fälle beeinflussen, welches Material behalten wird. Ob diese Auswahl- und Beurteilungsrollen Spuren in den Ausgaben des trainierten Modells hinterlassen, und welche, belegen die Dokumente nicht. Wir behaupten es nicht.

Diese Unterscheidung bestimmt, was sich prüfen lässt. Methoden, die die Herkunft eines Modells aus seinen Ausgaben rekonstruieren wollen, suchen nach übernommenen Wörtern, Formulierungen und Gewohnheiten. Beziehungen, bei denen Text erzeugt wurde, sind diejenigen, die solche Methoden zu erkennen hoffen können.

Eine Offenlegung, die sowohl den Mechanismus als auch die Trainingsphase benennt, hilft einem unabhängigen Forscher zu erkennen, was prüfbar ist. Der technische Bericht liefert diese Angaben; die Vorlage wäre nützlicher, wenn sie ebenfalls danach fragte.

Was „souverän“ abdeckt

Der Bericht trägt den Titel „Kolibri: A Sovereign European Model on the Pareto Frontier“. Sein Abstract erklärt, was souverän hier bedeutet: „Wir haben Kolibri für den souveränen und spezialisierten Einsatz gebaut, mit besonderem Fokus auf Deutsch und auf regulierte Bereiche wie öffentliche Verwaltung, Industrie und Luft- und Raumfahrt.“

Die Modellkarte ergänzt, dass die Gewichte „von der Aleph Alpha GmbH unter der Apache-2.0-Lizenz veröffentlicht“ werden und dass „Aleph Alpha Unterzeichner des EU-Verhaltenskodex für KI-Modelle mit allgemeinem Verwendungszweck ist“.

Das sind Aussagen über Einsatz und Betrieb. Die Tabelle beschreibt, wie die Trainingsdaten aufgebaut wurden. Der Bericht enthält beides.

Wer „souverän“ als Behauptung liest, dass kein Modell eines anderen Anbieters am Training beteiligt war, liest den Bericht falsch. Wer diese Beiträge als Widerlegung der Aussage über den Einsatz behandelt, geht ebenfalls über das hinaus, was die Dokumente belegen.

Was die Offenlegung nicht belegen kann

Die Angaben benennen Kandidatenbeziehungen. Sie belegen nicht, welche Eigenschaften Kolibri-1 von den beteiligten Modellen übernommen hat, falls überhaupt.

Bericht und Zusammenfassung unterscheiden sich auch in der Abdeckung. Vier Modelle in der Tabelle (Gemma-4-31B, Command A+, Kimi-K2.7 und gpt-oss-120b) erscheinen im Bericht, aber nicht in der Liste der Zusammenfassung. Zwei der sieben Namen in der Zusammenfassung, Qwen3-32B und Kimi-K2.6, wirkten als Richter und als Schiedsinstanz, nicht als Erzeuger von Text.

Die Trainingszahlen liegen in zwei Formen vor. Das Abstract des Berichts nennt 24 Billionen Token „über Vortraining, Mid-Training und Langkontext-Erweiterung hinweg“; die Modellkarte schlüsselt das auf in „20T Token eines gefilterten, zweisprachigen Korpus (~62,5 % Englisch, ~23,9 % Deutsch, ~13,6 % Code)“ und „zusätzlich trainiert mit 3,44T im Mid-Training und 201B für die Langkontext-Erweiterung“.

Der Vorgänger, Kolibri Origin, wird als „eine frühere Iteration, die unsere gesamte Pipeline im großen Maßstab validiert hat“ beschrieben und „ist nicht veröffentlicht“. Ein Dritter kann ihn daher nicht ausführen. Tabelle 28 vergleicht seine Benchmark-Ergebnisse nach dem Post-Training mit denen von Kolibri.

Die drei oben beschriebenen Mechanismen begrenzen zudem, welche Evidenz aus den Ausgaben zu gewinnen ist. Identitätsbehauptungen und verirrte Schriftsysteme scheiden durch diese Mechanismen als Evidenz aus; Versuche, die Beziehungen zu rekonstruieren, müssen mit subtileren Merkmalen arbeiten.

Diese Grenzen gehören zu dem, was den Fall für uns nützlich macht. Unsere Forschung zur Modellherkunft geht davon aus, dass Ähnlichkeit zwischen Modellen keine Abstammung ist. Eine Methode, die beansprucht, Beziehungen zu rekonstruieren, muss dort geprüft werden, wo die Antwort bekannt ist. Kolibri-1 bietet eine vom Anbieter veröffentlichte Kandidatenliste.

Wir bereiten einen vorregistrierten Test vor, ob sich die offengelegten Beziehungen überhaupt aus den Ausgaben rekonstruieren lassen. Wir veröffentlichen das Design einschließlich seiner Abbruchregeln, bevor ein Modell läuft, und berichten das Ergebnis in den Begriffen des Designs. Diese Notiz ist eine Lektüre von Dokumenten, kein Versuchsergebnis.

Wozu eine solche Offenlegung dient

Käufer in regulierten Branchen beginnen zu fragen, woher ein Modell stammt. Eine brauchbare Antwort sollte erklären, welche Modelle seinen Trainingstext geschrieben, welche ihn ausgewählt und welche ihn beurteilt haben, und in welcher Phase jedes eingesetzt wurde. Die EU-Vorlage fragt nach einer Liste; der Bericht zu Kolibri-1 zeigt, dass eine vollständigere Darstellung möglich ist.

Für Forscher liefert diese Darstellung eine bekannte Kandidatenliste, an der sich Herkunftsmethoden prüfen lassen. Das ist fester Boden als die Schlussfolgerung von Verhalten auf Quellen und der anschließende Streit über die Schlussfolgerung, wo ein großer Teil des Feldes noch steht.

Wir haben keine Beziehung zu Aleph Alpha und haben nicht mit dem Unternehmen gesprochen. Diese Notiz stützt sich auf den öffentlichen technischen Bericht, die Modellkarte und die EU-Zusammenfassung. Die Zitate stammen aus den unten genannten Stellen und sind aus dem Englischen übersetzt. Wir haben kein Modell ausgeführt und keine Messung vorgenommen. Jede Fehllesung, auf die wir hingewiesen werden, korrigieren wir.

Quellen

  • Aleph Alpha, „Kolibri: A Sovereign European Model on the Pareto Frontier“, technischer Bericht, 2026: https://aleph-alpha.com/downloads/tech-report.pdf. Stellen: Abstract (souveräner Einsatz; Kolibri Origin); §2.3.2 (Umformulierung durch Gemma-4-26B-A4B); S. 28 bis 29 (Bewertung durch Qwen3-32B und die destillierten Klassifikatoren); S. 53 (Post-Training-Erzeuger); S. 54 (Reasoning-Prefill-Distillation); S. 58 (Retrieval-Rollouts, Richter Gemma-4-31B und Command A+); S. 59 (Verzerrungen der Lehrermodelle); S. 60 (Identitätsfilter; Klassifikation durch gpt-oss-120b); die Formatvorgaben im Reinforcement Learning (Script-Leck); Anhang I.1.2 (Langkontext-Umgebung: Fragen von GLM-5.2, Entscheidung durch Kimi K2.6); S. 176 (Rollouts von Kimi-K2.7); Tabelle 1 (Kolibri Origin nicht veröffentlicht).
  • Aleph Alpha, Modellkarte zu Kolibri-1: https://huggingface.co/Aleph-Alpha/Kolibri-1 (Lizenz; Sprachanteile; Verhaltenskodex; Umformulierungen durch Mistral-NeMo-12B).
  • Aleph Alpha, „Public Summary of Training Content for General-Purpose AI models“, Kolibri-1, die Vorlage nach Artikel 53 Absatz 1 Buchstabe d der Verordnung (EU) 2024/1689: https://aleph-alpha.com/downloads/Kolibri_1_-_Sufficiently_Detailed_Summary.pdf (§2.5).
  • Unsere Forschung zu Herkunft und Unabhängigkeit von Prüfern: https://research.counterproof.io/agentic-stemmatics.md