Le 3 octobre 2026, Aleph Alpha a publié les poids de Kolibri-1, un modèle germanophone et anglophone. L’entreprise a aussi publié un rapport technique et le résumé des contenus d’entraînement que le règlement européen sur l’IA demande aux fournisseurs de modèles à usage général.
Le rapport nomme les modèles d’autres entreprises qui ont contribué à construire les données d’entraînement de Kolibri-1 et explique ce que chacun a fait. Le résumé en recense sept. Nous avons lu les deux pour comprendre ce que les divulgations établissent, ce qu’elles laissent ouvert, et ce que le fournisseur entend par « souverain ».
La distinction importante porte sur les rôles. Certains modèles ont fourni du texte d’entraînement. D’autres ont contribué à décider quel matériau était conservé. Ces rôles décrivent des relations différentes avec Kolibri-1.
Ce que le fournisseur a divulgué
Le résumé européen pose la question : « If yes, specify the general-purpose AI model(s) used to generate the synthetic data if available on the market: » (si oui, précisez le ou les modèles d’IA à usage général disponibles sur le marché utilisés pour générer les données synthétiques). Aleph Alpha répond par sept noms : Gemma-4-26B-A4B, Qwen3-32B, Qwen3.8-27B, Mistral-Nemo-12B, GLM-5.3, GLM-5.2-fp8 et Kimi-K2.6.
Le rapport technique et la fiche du modèle décrivent ce que ces modèles, et quelques autres, ont fait. Le tableau reprend la formulation des documents, traduite ; sa colonne d’étape suit la structure des sections du rapport.
| modèle | ce que les documents disent de son rôle | étape de l’entraînement |
|---|---|---|
| Gemma-4-26B-A4B | a reformulé des documents sources, « en appliquant cinq gabarits de prompt à chaque document source » | données de pré-entraînement (rapport §2.3.2) |
| Mistral-NeMo-12B | « Les reformulations synthétiques allemandes de données du web ont été produites avec Mistral-NeMo-12B » | étape absente de la phrase citée de la fiche (fiche du modèle) |
| Qwen3-32B | a noté « un échantillon fixe d’un million de documents anglais » de « nos données CC curées » « avec plus de 20 prompts » ; des « classifieurs distillés du juge, fondés sur Luxical » ont ensuite servi « à la construction de notre jeu de données Kolibri » | données de pré-entraînement (rapport pp. 28 à 29) |
| GLM-5.2, GLM-5.3, Qwen3.8-27B | « les principaux modèles que nous utilisons pour générer ces données et pour régénérer des parties des jeux de données ouverts » | données de post-entraînement, réglage fin supervisé (rapport p. 53) |
| GLM-5.2 | « écrit deux questions à six options » par document ; une question n’entre dans l’entraînement « que si GLM-5.2 l’a résolue au moins une fois et Kolibri au plus six fois » | environnement de contexte long (rapport annexe I.1.2) |
| Kimi K2.6 | « lorsque les tentatives de Kolibri s’accordent sur une réponse différente ou ne résolvent la question qu’au plus une fois, Kimi K2.6 … tranche sur les options litigieuses sans voir le corrigé » | environnement de contexte long (rapport annexe I.1.2) |
| Kimi-K2.7 | « nous appliquons Kimi-K2.7 … pour dérouler chaque question de l’environnement, et ces rollouts pilotent une passe de filtrage et de réparation » | l’environnement, avant l’entraînement (rapport p. 176) |
| Gemma-4-31B | « Nous conservons un rollout lorsqu’un juge LLM, Gemma-4-31B (Gemma Team 2026), accepte sa réponse, que la réponse de référence figure dans le texte récupéré et que la transcription se termine par une réponse » | environnement de récupération (rapport p. 58) |
| Command A+ | « Nous conservons une graine lorsque ses complétions répondent correctement dans les deux premiers contextes, s’abstiennent dans celui de Morgana et passent un juge Command A+ … » | données de récupération et de recherche (rapport p. 58) |
| gpt-oss-120b | « nous jugeons la conversation entière, traces de raisonnement comprises, avec gpt-oss-120b …, pour classer chacune comme porteuse d’un récit du PCC, comme un refus pour des motifs généraux de sécurité, ou comme équilibrée. Les conversations de la première catégorie sont écartées. » | curation des données de post-entraînement (rapport p. 60) |
Le rapport explique la raison d’être de la dernière ligne : « Nous reconnaissons que plusieurs de nos modèles enseignants ont été construits en Chine, de sorte qu’ils portent des biais politiques connus sur des sujets sensibles, alors que notre modèle devrait adhérer aux valeurs du consensus démocratique en Europe. »
Il décrit aussi trois mécanismes qui comptent pour toute tentative ultérieure de retrouver des relations d’entraînement à partir des sorties du modèle :
- Filtrage des revendications d’identité. « Un filtre de motifs écarte toute conversation dans laquelle l’assistant prétend être un autre modèle ou venir d’un autre laboratoire, sauf s’il nomme aussi notre propre modèle, et ignore les dénégations telles que “I am not Llama” ».
- Contrainte sur les écritures. Une contrainte de format en apprentissage par renforcement énonce : « Pas de fuite d’écriture. Aucun texte chinois, japonais ou coréen (CJK) ne fuit dans une réponse qui est par ailleurs non-CJK ».
- Variation des amorces de raisonnement. Dans la « distillation par pré-remplissage du raisonnement », le raisonnement allemand d’un enseignant commence par une amorce telle que « Gegeben ist: ». L’amorce est « tirée au hasard, pour chaque exemple, dans une liste curée par domaine de tâche, afin que le modèle n’apprenne pas une phrase d’ouverture fixe ».
Les noms ne sont pas des mécanismes
Le formulaire européen demande une liste sous une seule rubrique. Sa définition des données synthétiques couvre « la distillation de modèle ou l’alignement de modèle (par exemple le retour d’IA …) », de sorte que les sept noms de Kolibri-1 recouvrent plusieurs types de relation.
Reformuler du texte de pré-entraînement et générer des données de post-entraînement introduisent le texte d’un autre modèle dans le jeu d’entraînement. Noter des documents, juger des rollouts et trancher des cas litigieux influent sur le matériau conservé. Les documents n’établissent pas si ces rôles de sélection et de jugement laissent des traces dans les sorties du modèle entraîné, ni lesquelles. Nous ne l’affirmons pas.
Cette distinction détermine ce qui peut être testé. Les méthodes qui cherchent à retrouver l’origine d’un modèle à partir de ses sorties cherchent des mots, des tournures et des habitudes hérités. Les relations impliquant du texte généré sont celles que de telles méthodes peuvent espérer détecter.
Une divulgation qui identifie à la fois le mécanisme et l’étape d’entraînement aide un chercheur indépendant à déterminer ce qui est testable. Le rapport technique fournit ce détail ; le formulaire serait plus utile s’il le demandait aussi.
Ce que couvre « souverain »
Le rapport s’intitule « Kolibri: A Sovereign European Model on the Pareto Frontier ». Son abstract explique ce que souverain signifie dans ce contexte : « Nous avons construit Kolibri pour un déploiement souverain et spécialisé, avec un accent particulier sur l’allemand et sur les domaines réglementés tels que l’administration publique, l’industrie et l’aérospatiale. »
La fiche du modèle ajoute que les poids « sont publiés par Aleph Alpha GmbH sous licence Apache 2.0 » et qu’« Aleph Alpha est signataire du code de bonnes pratiques de l’UE pour les modèles d’IA à usage général ».
Ce sont des affirmations sur le déploiement et l’exploitation. Le tableau décrit comment les données d’entraînement ont été construites. Le rapport présente les deux.
Lire « souverain » comme l’affirmation qu’aucun modèle d’un autre fournisseur n’a participé à l’entraînement serait une lecture erronée du rapport. Traiter ces contributions comme réfutant l’affirmation sur le déploiement irait aussi au-delà de ce que les documents établissent.
Ce que la divulgation ne peut pas établir
Les divulgations identifient des relations candidates. Elles n’établissent pas quelles caractéristiques, s’il y en a, Kolibri-1 a héritées des modèles concernés.
Le rapport et le résumé diffèrent aussi par leur couverture. Quatre modèles du tableau (Gemma-4-31B, Command A+, Kimi-K2.7 et gpt-oss-120b) figurent dans le rapport mais pas dans la liste du résumé. Deux des sept noms du résumé, Qwen3-32B et Kimi-K2.6, ont servi de juge et d’arbitre plutôt que de générateurs de texte.
Les chiffres d’entraînement se présentent sous deux formes. L’abstract du rapport donne 24 000 milliards de tokens « sur l’ensemble du pré-entraînement, de l’entraînement intermédiaire et de l’extension du contexte long » ; la fiche du modèle les décompose en « 20T tokens d’un corpus bilingue filtré (~62,5 % d’anglais, ~23,9 % d’allemand, ~13,6 % de code) » et « entraîné en plus sur 3,44T en entraînement intermédiaire et 201B pour l’extension du contexte long ».
Le prédécesseur, Kolibri Origin, est décrit comme « une itération antérieure qui a validé l’ensemble de notre pipeline à grande échelle » et « n’est pas publié ». Un tiers ne peut donc pas le faire tourner. Le tableau 28 compare ses scores de benchmark après post-entraînement à ceux de Kolibri.
Les trois mécanismes décrits plus haut limitent aussi les indices disponibles dans les sorties. Les revendications d’identité et les écritures égarées sont exclues comme éléments de preuve par ces mécanismes ; les tentatives de retrouver les relations doivent travailler sur des traits plus subtils.
Ces limites font partie de ce qui rend le cas utile pour nous. Nos travaux sur la provenance des modèles tiennent que la similarité entre modèles n’est pas une descendance. Une méthode qui prétend reconstruire des relations doit être testée là où la réponse est connue. Kolibri-1 offre une liste de candidats publiée par le fournisseur.
Nous préparons un test préenregistré pour savoir si les relations divulguées peuvent, ne serait-ce qu’un peu, être retrouvées à partir des sorties. Nous publierons le protocole, règles d’arrêt comprises, avant de faire tourner un modèle, et nous rapporterons le résultat dans les termes du protocole. Cette note est une lecture de documents, pas un résultat expérimental.
À quoi sert une divulgation de ce type
Les acheteurs des secteurs réglementés commencent à demander d’où vient un modèle. Une réponse utile devrait expliquer quels modèles ont écrit son texte d’entraînement, lesquels l’ont sélectionné, lesquels l’ont jugé, et à quelle étape chacun a été utilisé. Le formulaire européen demande une liste ; le rapport de Kolibri-1 montre qu’un compte rendu plus complet peut être donné.
Pour les chercheurs, ce compte rendu fournit une liste de candidats connue contre laquelle tester les méthodes de provenance. C’est un terrain plus ferme que d’inférer les sources à partir du comportement puis de débattre de l’inférence, où se trouve encore une bonne part du domaine.
Nous n’avons aucune relation avec Aleph Alpha et ne lui avons pas parlé. Cette note s’appuie sur le rapport technique public, la fiche du modèle et le résumé européen. Les citations proviennent des emplacements indiqués ci-dessous et sont traduites de l’anglais. Nous n’avons fait tourner aucun modèle et n’avons effectué aucune mesure. Nous corrigerons toute erreur de lecture qui nous sera signalée.
Sources
- Aleph Alpha, « Kolibri: A Sovereign European Model on the Pareto Frontier », rapport technique, 2026 : https://aleph-alpha.com/downloads/tech-report.pdf. Emplacements : abstract (déploiement souverain ; Kolibri Origin) ; §2.3.2 (reformulation par Gemma-4-26B-A4B) ; pp. 28 à 29 (notation par Qwen3-32B et classifieurs distillés) ; p. 53 (générateurs de post-entraînement) ; p. 54 (distillation par pré-remplissage du raisonnement) ; p. 58 (rollouts de récupération, juges Gemma-4-31B et Command A+) ; p. 59 (biais des modèles enseignants) ; p. 60 (filtre d’identité ; classification par gpt-oss-120b) ; contraintes de format en apprentissage par renforcement (fuite d’écriture) ; annexe I.1.2 (environnement de contexte long : questions de GLM-5.2, arbitrage de Kimi K2.6) ; p. 176 (rollouts de Kimi-K2.7) ; tableau 1 (Kolibri Origin non publié).
- Aleph Alpha, fiche du modèle Kolibri-1 : https://huggingface.co/Aleph-Alpha/Kolibri-1 (licence ; répartition des langues ; code de bonnes pratiques ; reformulations par Mistral-NeMo-12B).
- Aleph Alpha, « Public Summary of Training Content for General-Purpose AI models », Kolibri-1, le formulaire prévu à l’article 53, paragraphe 1, point d), du règlement (UE) 2024/1689 : https://aleph-alpha.com/downloads/Kolibri_1_-_Sufficiently_Detailed_Summary.pdf (§2.5).
- Nos travaux sur la provenance et l’indépendance des relecteurs : https://research.counterproof.io/agentic-stemmatics.md