@inproceedings{Labrak-Turcotte-Dufour-Rouvier:DEFT:2022,
    author = "Labrak, Yanis and Turcotte, Philippe and Dufour, Richard and Rouvier, Mickael",
    title = "Correction automatique d'examens \'ecrits par approche neuronale profonde et attention crois\'ee bidirectionnelle",
    booktitle = "Actes de la 29e Conf\'erence sur le Traitement Automatique des Langues Naturelles. Atelier D\'Efi Fouille de Textes (DEFT)",
    month = "6",
    year = "2022",
    address = "Avignon, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "36-44",
    note = "Deep Neural Networks and Bidirectional Cross-Attention for Automatic Answer Grading",
    abstract = "Cet article pr\'esente les syst\`emes d\'evelopp\'es par l'\'equipe LIA-LS2N dans le cadre de la campagne d'\'evaluation DEFT 2022 (Grouin \\& Illouz, 2022). Nous avons particip\'e \`a la premi\`ere t\^ache impliquant la correction automatique de copies d'\'etudiants \`a partir de r\'ef\'erences existantes. Nous proposons trois syst\`emes de classification reposant sur des caract\'eristiques extraites de plongements de mots contextuels issus d'un mod\`ele BERT (CamemBERT). Nos approches reposent sur les concepts suivants : extraction de mesures de similarit\'e entre les plongements de mots, attention crois\'ee bidirectionnelle entre les plongements et fine-tuning (affinage) des plongements de mots. Les soumissions finales comprenaient deux syst\`emes fusionn\'es combinant l'attention crois\'ee bidirectionnelle avec nos classificateurs bas\'es sur BERT et celui sur les mesures de similarit\'e. Notre meilleure soumission obtient une pr\'ecision de 72,6 \\% en combinant le classifieur bas\'e sur un mod\`ele CamemBERT affin\'e et le m\'ecanisme d'attention crois\'ee bidirectionnelle. Ces r\'esultats sont proches de ceux obtenus par le meilleur syst\`eme de cette \'edition (75,6 \\%).",
    keywords = "Attention Crois\'ee Bidirectionnelle, BERT, Transformers, Correction Automatique.",
    url = "http://talnarchives.atala.org/DEFT/DEFT-2022/6348.pdf"
}