@inproceedings{Chaffin-Claveau-Kijak-Lamprier-Piwowarski-Scialom-Staiano:TALN:2022,
    author = "Chaffin, Antoine and Claveau, Vincent and Kijak, Ewa and Lamprier, Sylvain and Piwowarski, Benjamin and Scialom, Thomas and Staiano, Jacopo",
    title = "Choisir le bon co-\'equipier pour la g\'en\'eration coop\'erative de texte",
    booktitle = "Actes de la 29e Conf\'erence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conf\'erence principale / Travaux originaux",
    month = "6",
    year = "2022",
    address = "Avignon, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "11-25",
    note = "Choosing The Right Teammate For Cooperative Text Generation",
    abstract = "Les mod\`eles de langue g\'en\`erent des textes en pr\'edisant successivement des distributions de probabilit\'e pour les prochains tokens en fonction des tokens pr\'ec\'edents. Pour g\'en\'erer des textes avec des propri\'et\'es souhait\'ees (par ex. \^etre plus naturels, non toxiques ou avoir un style d'\'ecriture sp\'ecifique), une solution {\textemdash} le d\'ecodage coop\'eratif {\textemdash} consiste \`a utiliser un classifieur lors de la g\'en\'eration pour guider l'\'echantillonnage de la distribution du mod\`ele de langue vers des textes ayant la propri\'et\'e attendue. Dans cet article, nous examinons trois familles de discriminateurs (bas\'es sur des transformers) pour cette t\^ache de d\'ecodage coop\'eratif : les discriminateurs bidirectionnels, unidirectionnels (de gauche \`a droite) et g\'en\'eratifs. Nous \'evaluons leurs avantages et inconv\'enients, en explorant leur pr\'ecision respective sur des t\^aches de classification, ainsi que leur impact sur la g\'en\'eration coop\'erative et leur co\^ut de calcul, dans le cadre d'une strat\'egie de d\'ecodage \'etat de l'art, bas\'ee sur une recherche arborescente de Monte-Carlo (MCTS). Nous fournissons \'egalement l'impl\'ementation (batch\'ee) utilis\'ee pour nos exp\'eriences.",
    keywords = "G\'en\'eration de texte, g\'en\'eration coop\'erative, d\'ecodage, Monte Carlo Tree Search.",
    url = "http://talnarchives.atala.org/TALN/TALN-2022/6393.pdf"
}
