@inproceedings{Botcazou-Amghar-Lamprier-Saubion:CORIA-TALN-2026:2026,
    author = "Botcazou, Ivanho\'e and Amghar, Tassadit and Lamprier, Sylvain and Saubion, Fr\'ed\'eric",
    title = "Vers un contr\^ole plus robuste de la longueur de g\'en\'eration pour les mod\`eles de langue auto-r\'egressifs",
    booktitle = "Actes de CORIA-TALN 2026. Actes des 33\`eme Conf\'erence sur le Traitement Automatique des Langues Naturelles.  Volume 2 : articles d\'ej\`a publi\'es",
    month = "6",
    year = "2026",
    address = "Nantes, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "57-57",
    note = "",
    abstract = "Les mod\`eles de langue atteignent aujourd{\textquoteright}hui un niveau remarquable en g\'en\'eration textuelle, ce-
pendant le contr\^ole pr\'ecis de la longueur produite demeure un d\'efi ouvert. Dans un premier temps
nous revisitons la m\'ethode RPE, fond\'ee sur un d\'ecompte discret de positions invers\'ees, informant
le mod\`ele du nombre de tokens lui restant \`a g\'en\'erer \`a chaque instant. Certaines instabilit\'es li\'ees \`a
cette m\'ethode et sa faible g\'en\'eralisation hors distribution, nous ont pouss\'ees \`a introduire un nouveau
proc\'ed\'e nomm\'e PRE. Notre m\'ethode repose sur une repr\'esentation continue de l{\textquoteright}avancement g\'e-
n\'eratif en \'etablissant un lien explicite entre des vecteurs d{\textquoteright}{\guillemotleft} impatience {\guillemotright} et des principes issus de
la th\'eorie du signal. PRE s{\textquoteright}impl\'emente via une modification l\'eg\`ere de l{\textquoteright}entr\'ee d{\textquoteright}un Transformer et
offre un contr\^ole pr\'ecis de la longueur cible, tout en pr\'eservant la qualit\'e s\'emantique. Nos r\'esultats
exp\'erimentaux s{\textquoteright}appuient sur des t\^aches de r\'esum\'e et de g\'en\'eration de questions.",
    keywords = "length control, language models, Transformer, abstractive summarization, question generation.",
    url = "37.pdf"
}