@inproceedings{Ferret:CORIA-TALN:2025,
    author = "Ferret, Olivier",
    title = "Projeter pour mieux fusionner : une histoire de bandit et de lit",
    booktitle = "Actes de CORIA-TALN-RJCRI-RECITAL 2025. Actes des 32\`eme Conf\'erence sur le Traitement Automatique des Langues Naturelles (TALN),  volume 1 : articles scientifiques originaux",
    month = "6",
    year = "2025",
    address = "Marseille, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "629-641",
    note = "",
    abstract = "La mise \`a disposition d'un nombre important de mod\`eles de langue neuronaux affin\'es pour diff\'erentes t\^aches conduit assez naturellement \`a se poser la question de l'int\'er\^et de les combiner, en particulier par le biais de la fusion de param\`etres, option aboutissant au r\'esultat demandant le moins de ressources. Dans cet article, nous proposons une nouvelle m\'ethode entrant dans ce champ de recherche, fond\'e sur l'analyse procust\'eenne. Nous \'evaluons cette m\'ethode pour la fusion de mod\`eles affin\'es pour une m\^eme t\^ache \`a partir d'un m\^eme mod\`ele de base, de type encodeur. En consid\'erant neuf t\^aches du jeu de donn\'ees GLUE et six m\'ethodes de fusion de r\'ef\'erence, nous montrons que notre proposition est capable d'am\'eliorer les m\'ethodes de fusion existantes dans la plupart des configurations test\'ees.",
    keywords = "Mod\`eles de langue neuronaux, fusion de mod\`eles, alignement d'espaces de repr\'esentation.",
    url = "https://talnarchives.atala.org/TALN/TALN-2025/150.pdf"
}