@inproceedings{Mannion-Didier-Goeuriot-Chevalier:CORIA-TALN:2023,
    author = "Mannion, Aidan and Didier, Schwab and Goeuriot, Lorraine and Chevalier, Thierry",
    title = "Augmentation des mod\`eles de langage fran\c{c}ais par graphes de connaissances pour la reconnaissance des entit\'es biom\'edicales",
    booktitle = "Actes de CORIA-TALN 2023. Actes de la 30e Conf\'erence sur le Traitement Automatique des Langues Naturelles (TALN),  volume 1 : travaux de recherche originaux - articles longs",
    month = "6",
    year = "2023",
    address = "Paris, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "177-189",
    note = "",
    abstract = "Des travaux r\'ecents dans le domaine du traitement du langage naturel ont d\'emontr\'e l'efficacit\'e des mod\`eles de langage pr\'e-entra{\^\i}n\'es pour une grande vari\'et\'e d'applications g\'en\'erales. Les mod\`eles de langage \`a grande \'echelle acqui\`erent g\'en\'eralement ces capacit\'es en mod\'elisant la distribution statistique des mots par un apprentissage auto-supervis\'e sur de grandes quantit\'es de texte. Toutefois, pour les domaines sp\'ecialis\'es \`a faibles ressources, tels que le traitement de documents cliniques, en particulier dans des langues autres que l'anglais, la n\'ecessit\'e d'int\'egrer des connaissances structur\'ees reste d'une grande importance. Cet article se concentre sur l'une de ces applications sp\'ecialis\'ees de la mod\'elisation du langage \`a partir de ressources limit\'ees : l'extraction d'informations \`a partir de documents biom\'edicaux et cliniques en fran\c{c}ais. En particulier, nous montrons qu'en compl\'etant le pr\'e-entra{\^\i}nement en mots masqu\'es des r\'eseaux neuronaux transformer par des objectifs de pr\'ediction extraits d'une base de connaissances biom\'edicales, leurs performances sur deux t\^aches diff\'erentes de reconnaissance d'entit\'es nomm\'ees en fran\c{c}ais peuvent \^etre augment\'ees.",
    keywords = "TALN biom\'edical/clinique, extraction des informations, apprentissage automatique",
    url = "461887.pdf"
}