@inproceedings{Arnold-Ernez-Kobus-Martin:TALN:2022,
    author = "Arnold, Alexandre and Ernez, Fares and Kobus, Catherine and Martin, Marion-C\'ecile",
    title = "Extraction d'informations de messages a\'eronautiques (NOTAMs) avec des mod\`eles de langue appris de fa\c{c}on auto-supervis\'ee",
    booktitle = "Actes de la 29e Conf\'erence sur le Traitement Automatique des Langues Naturelles. Volume 1 : conf\'erence principale / Traduction de soumissions en cours \`a des conf\'erences internationales",
    month = "6",
    year = "2022",
    address = "Avignon, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "66-75",
    note = "Information extraction from aeronautical messages ",
    abstract = "Avant un vol, les pilotes de ligne doivent lire une longue liste de messages appel\'es NOTAM (pour NOtice To AirMen) donnant des informations sur des al\'eas potentiels le long du vol. Ces messages suivent une grammaire particuli\`ere, contiennent beaucoup d'acronymes et un vocabulaire sp\'ecifique a\'eronautique. Dans cet article, un mod\`ele de langue de type BERT est pr\'e-entra{\^\i}n\'e sur un grand nombre de ces messages ; il est ensuite affin\'e sur trois t\^aches : l'estimation de criticit\'e, la reconnaissance d'entit\'es nomm\'ees et la traduction vers un langage structur\'e appel\'e Airlang. L'apprentissage auto-supervis\'e, permettant de tirer parti du vaste nombre de donn\'ees non annot\'ees, est particuli\`erement int\'eressant dans le domaine a\'eronautique, pour lequel les annotations sont tr\`es co\^uteuses car n\'ecessitant une forte expertise. Nous montrons les r\'esultats encourageants sur les trois t\^aches.",
    keywords = "NOTAM, Apprentissage auto-supervis\'e, Classification, REN, Traduction.",
    url = "http://talnarchives.atala.org/TALN/TALN-2022/6576.pdf"
}