le cnam
Doctorant · CEDRIC, Cnam · 2026 – 2029PhD student · CEDRIC, Cnam · 2026 – 2029Anelmad n doktora · CEDRIC, Cnam · 2026 – 2029

Massil
Aoudj

Une thèse pour optimiser et adapter les grands modèles de langage aux langues à faibles ressources.

A PhD on optimising and adapting large language models to low-resource languages.

Tazrawt i usekkey d usmezgi n tmudmin timeqqranin n tutlayt i tutlayin ur nesɛi ara aṭas n tiɣbula.

École doctorale SMI · Conservatoire national des arts et métiers

SMI doctoral school · Conservatoire national des arts et métiers

Aɣerbaz n doktora SMI · Conservatoire national des arts et métiers

Projet pilote : le kabyle · taqbaylit

Pilot project: Kabyle · taqbaylit

Asenfar amezwaru : taqbaylit

Portrait de Massil Aoudj
DÉFILERSCROLLADER
I
anadi · Chapitre I · la thèseChapter I · the thesisIxef I

Faire une place aux langues que les modèles ignorent

Making room for the languages models ignore

Amkan i tutlayin ur ssinent ara tmudmin

Défilez : des lettres de langues du monde entier cherchent leur place dans la structure d'un grand modèle de langue.

Scroll: letters from languages all over the world look for their place inside a large language model.

Ader : isekkilen n tutlayin n umaḍal akk nadin ɣef umkan-nsen deg temṣukt n tmudemt tameqqrant n tutlayt.

langues très écrites en lignewidely written languagestutlayin yettwarun aṭas ɣef Internet langues peu dotéeslow-resource languagestutlayin ur nesɛi ara aṭas n tiɣbula kabyle, projet piloteKabyle, pilot projecttaqbaylit, asenfar amezwaru
L'animation 3D demande WebGL, indisponible ici.The 3D animation needs WebGL, unavailable here.Amray 3D yesra WebGL, ulac-it da.
I.1

Un modèle apprend les langues qu'il voit

A model learns the languages it sees

Tamudemt tlemmed tutlayin i teẓra

Les grands modèles de langage apprennent sur d'immenses volumes de texte. Les langues très écrites en ligne y sont partout : elles remplissent la structure.

Large language models learn from huge volumes of text. Languages widely written online are everywhere in it: they fill the structure.

Timudmin timeqqranin n tutlayt lemmdent seg waṭas n yiḍrisen. Tutlayin yettwarun aṭas ɣef Internet llant deg yal amkan : d nutenti i yeččuren tamṣukt.

I.2

Des milliers de langues restent à la porte

Thousands of languages stay at the door

Igiman n tutlayin qqimen ɣef tewwurt

Sur les quelque 7 000 langues parlées dans le monde, seule une petite partie est bien représentée dans ces données. Les autres, parlées parfois par des millions de personnes, s'écrivent peu à l'écran : les modèles les connaissent mal, ou pas du tout.

Of the roughly 7,000 languages spoken in the world, only a small share is well represented in this data. The others, sometimes spoken by millions, are rarely written on screen: models know them poorly, or not at all.

Seg wazal n 7 000 n tutlayin i d-yettwameslayen deg umaḍal, d kra kan seg-sent i yellan akken iwata deg yisefka-a. Tiyaḍ, ɣas ttmeslayen-tent tikwal imelyan n yimdanen, drus i ttwarunt ɣef ugdil : timudmin ssnent-tent cwiṭ, neɣ ur ssinent ara akk.

I.3

La thèse : leur faire une place

The thesis: making room for them

Tazrawt : ad asent-nefk amkan

Optimiser et adapter les grands modèles de langage aux langues à faibles ressources.

Optimising and adapting large language models to low-resource languages.

Asekkey d usmezgi n tmudmin timeqqranin n tutlayt i tutlayin ur nesɛi ara aṭas n tiɣbula.

Projet pilote : le kabyle

Pilot project: Kabyle

Asenfar amezwaru : taqbaylit

Point de départ, mesuré en 2026 : sur le correcteur kabyle, sept configurations d'arbitrage par LLM, dont un modèle adapté au kabyle par LoRA. Aucune ne fait mieux que le pipeline seul.
Starting point, measured in 2026: on the Kabyle spell checker, seven LLM arbitration setups, including a Kabyle LoRA-adapted model. None beats the pipeline alone.
Tazwara, tettwaktal deg 2026 : ɣef useɣtay n teqbaylit, sa n twila n uḥkam s LLM, gar-asent yiwet n tmudemt yettwasmezgen i teqbaylit s LoRA. Ulac yiwet seg-sent i yifen aselda weḥd-s.
Contrat doctoral 2026 – 2029, CEDRIC (Cnam), sous la direction de Samia Bouzefrane.
Doctoral contract 2026 – 2029, CEDRIC (Cnam), supervised by Samia Bouzefrane.
Amtawa n doktora 2026 – 2029, CEDRIC (Cnam), ddaw unemhel n Samia Bouzefrane.
I.4

Et pour d'autres langues

And for other languages

Akked tutlayin nniḍen

Une transférabilité est prévue vers toutes les langues peu dotées, notamment le breton.

Transfer to every low-resource language is planned, Breton in particular.

Igmaḍ ad ttwasiwḍen ɣer yal tutlayt ur nesɛi ara aṭas n tiɣbula, ladɣa tabrutunt.

D'où part la thèseWhere the thesis startsSeg wanda i d-tebda tezrawt Les travaux de 2026The 2026 workIsenfaren n 2026
II
isenfaren · Chapitre II · avant la thèse, 2026Chapter II · before the thesis, 2026Ixef II · 2026

Un correcteur, un clavier, et une limite mesurée

A spell checker, a keyboard, and a measured limit

Aseɣtay, anasiw, d tlast yettwaktalen

En Master 2 et en stage au CEDRIC, d'avril à septembre 2026, l'équipe a conçu un correcteur orthographique kabyle sans modèle neuronal, puis l'a porté dans un clavier pour quatre plateformes. Ce travail a montré où s'arrête une correction automatique : c'est de là que part la thèse.

During a Master's year and an internship at CEDRIC, April to September 2026, the team designed a Kabyle spell checker with no neural model, then carried it into a keyboard for four platforms. The work showed where automatic correction stops: that is where the thesis starts.

Deg Master 2 d ustaj deg CEDRIC, seg Yebrir ar Ctembeṛ 2026, tarbaɛt tebna aseɣtay n tira i teqbaylit war tamudemt n yiṛunen, syin tessekcem-it deg unasiw i ukuẓ n tɣeṛɣeṛin. Amahil-a yessken-d anida i yeḥbes useɣti awurman : syin i d-tebda tezrawt.

Travail collectif : M. Aoudj, T. Boukhenoufa, S. Bouzefrane, Y. Ameur, K. Naït Zerad.

Collective work: M. Aoudj, T. Boukhenoufa, S. Bouzefrane, Y. Ameur, K. Naït Zerad.

Amahil n terbaɛt : M. Aoudj, T. Boukhenoufa, S. Bouzefrane, Y. Ameur, K. Naït Zerad.

 
le mot fautifthe misspelled wordawal s tuccḍases vrais voisinsits real neighboursawalen i s-iqerbenla forme retenuethe chosen formtalɣa yettwafernen

Chaque point est l'un des 4 600 mots fréquents du lexique publié, placé selon les groupes de lettres qu'il partage avec les autres. Données : lexique kabyle (Aoudj et al., 2026, Zenodo), CC BY-SA 4.0.

Each point is one of the 4,600 frequent words of the published lexicon, placed by the letter groups it shares with the others. Data: Kabyle lexicon (Aoudj et al., 2026, Zenodo), CC BY-SA 4.0.

Yal tanqiḍt d yiwen seg 4 600 n wawalen i d-yettuɣalen s waṭas deg umawal yettwasuffɣen, yettwasers almend n yegrawen n yisekkilen i yettcarak d wiyaḍ. Isefka : amawal n teqbaylit (Aoudj et al., 2026, Zenodo), CC BY-SA 4.0.

Code et ressources linguistiques publiés en accès ouvert.Code and language resources published openly.Tangalt d tiɣbula n tutlayt ttwasuffɣent s wudduf ilelli. Ressources ouvertesOpen resourcesTiɣbula yeldin
III
tizrigin · Chapitre III · publicationsChapter III · publicationsIxef III

Références

References

Tiɣbula

  1. Building a Community-Grounded Spell Checker for Kabyle Using Hybrid NLP
    M. Aoudj, T. Boukhenoufa, S. Bouzefrane, Y. Ameur, K. Naït Zerad
    Actes de la conférence FEL 2026, Foundation for Endangered Languages, Inalco, Paris. À paraître.
    Proceedings of FEL 2026, Foundation for Endangered Languages, Inalco, Paris. To appear.
    Tiẓrigin n temlilit FEL 2026, Foundation for Endangered Languages, Inalco, Paris. Ad d-teffeɣ.
    acceptéacceptedyettwaqbelprésenté du 3 au 5 nov. 2026presented 3–5 Nov 2026yettwaskan seg 3 ar 5 Wambeṛ 2026
    @inproceedings{aoudj2026fel,
      title     = {Building a Community-Grounded Spell Checker for Kabyle Using Hybrid NLP},
      author    = {Aoudj, Massil and Boukhenoufa, Tahar and Bouzefrane, Samia and Ameur, Yulliwas and Na{\"i}t Zerad, Kamal},
      booktitle = {Proceedings of the Foundation for Endangered Languages Conference (FEL 2026)},
      address   = {Paris},
      year      = {2026},
      note      = {To appear}
    }
  2. Building a Community-Grounded Spell Checker for Kabyle Using Hybrid NLP: software and language resources
    M. Aoudj, T. Boukhenoufa, S. Bouzefrane, Y. Ameur, K. Naït Zerad
    Zenodo, v1.0.0, 2026. doi:10.5281/zenodo.22112060
    MIT · CC BY-SA 4.0Zenodo ↗
    @software{aoudj2026zenodo,
      title     = {Building a Community-Grounded Spell Checker for Kabyle Using Hybrid NLP: software and language resources},
      author    = {Aoudj, Massil and Boukhenoufa, Tahar and Bouzefrane, Samia and Ameur, Yulliwas and Na{\"i}t Zerad, Kamal},
      publisher = {Zenodo},
      version   = {1.0.0},
      year      = {2026},
      doi       = {10.5281/zenodo.22112060}
    }
  3. kab-board : clavier kabyle, correcteur orthographique hybride et dictée embarqués
    kab-board: a Kabyle keyboard with on-device hybrid spell checking and dictation
    kab-board : anasiw n teqbaylit s useɣtay n tira d tira s taɣect deg-s
    M. Aoudj, T. Boukhenoufa, S. Bouzefrane, Y. Ameur, K. Naït Zerad
    GitHub, v0.3, 2026. Android · Linux · Windows · Word.
    GPL-3.0GitHub ↗
    @software{aoudj2026kabboard,
      title   = {kab-board : clavier kabyle pour Android et Linux, correcteur orthographique hybride et dictée embarqués},
      author  = {Aoudj, Massil and Boukhenoufa, Tahar and Bouzefrane, Samia and Ameur, Yulliwas and Na{\"i}t Zerad, Kamal},
      version = {0.3},
      year    = {2026},
      url     = {https://github.com/ADJ-MSS/kab-board},
      license = {GPL-3.0-or-later}
    }
IV
abrid · Chapitre IV · parcoursChapter IV · pathIxef IV

Des sciences du langage licence au traitement automatique des langues master, à l'optimisation des grands modèles de langage thèse en informatique

From language sciences BA to natural language processing Master's, to optimising large language models PhD in computer science

Seg tussniwin n tutlayt lisans ar usefser awurman n tutlayin master, ar usekkey n tmudmin timeqqranin n tutlayt tazrawt n tsenselkimt

Un réseau posé sur le temps : chaque nœud est une étape, chaque lien ce qu'elle a rendu possible. Survolez ou touchez un nœud.

A network laid on time: each node is a step, each link what it made possible. Hover or tap a node.

Azeṭṭa yettwasersen ɣef wakud : yal tikeṛṛist d asurif, yal aseɣwen d ayen i d-yeǧǧa ad yili. Ɛeddi s teɣerdayt neɣ sit ɣef tkeṛṛist.

Faites défiler : le parcours se trace, de la licence à la thèse. Touchez une étape pour l'ouvrir.

Scroll: the path draws itself, from the BA to the PhD. Tap a step to open it.

Ader : abrid ad d-yettwasuneɣ, seg lisans ar tezrawt. Sit ɣef usurif akken ad t-teldiḍ.

Université Paris Nanterre2021 – 2024 · licenceBAlisans
Université Sorbonne Paris Nord2024 – 2026 · master
Cnam2026 – 2029 · stage, puis thèseinternship, then PhDastaj, syin tazrawt
formationeducationtaɣuri rechercheresearchanadi logicielsoftwareaseɣẓan diffusionoutreachasiweḍ
V
anermis · Chapitre V · contactChapter V · contactIxef V

Contact

Contact

Anermis