@inproceedings{Labeau-Allauzen:TALN:2018,
    author = "Labeau,Matthieu and Allauzen,Alexandre",
    title = "Algorithmes \`{a} base d'\'{e}chantillonage pour l'entra\^{\i}nement de mod\`{e}les de langue neuronaux",
    booktitle = "Actes de la Conf\'{e}rence TALN - Volume 1 - Articles longs, articles courts de TALN",
    month = "5",
    year = "2018",
    address = "Rennes, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "455-464",
    note = "Here the title in English",
    abstract = "L'estimation contrastive bruit\'{e}e (NCE) et l'\'{e}chantillonage par importance (IS) sont des proc\'{e}dures d'entra\^{\i}nement bas\'{e}es sur l'\'{e}chantillonage, que l'on utilise habituellement \`{a} la place de l'estimation du maximum de vraisemblance (MLE) pour \'{e}viter le calcul du softmax lorsque l'on entra\^{\i}ne des mod\`{e}les de langue neuronaux. Dans cet article, nous cherchons \`{a} r\'{e}sumer le fonctionnement de ces algorithmes, et leur utilisation dans la litt\'{e}rature du TAL. Nous les comparons exp\'{e}rimentalement, et pr\'{e}sentons des mani\`{e}res de faciliter l'entra\^{\i}nement du NCE.",
    keywords = "Mod\`{e}le de langue, Estimation contrastive bruit\'{e}e, Negative Sampling.",
    url = "https://talnarchives.atala.org/TALN/TALN-2018/56.pdf"
}