@inproceedings{Moubtahij-Cummings-Handan-Galy-Charton:JEP-TALN:2024,
    author = "Moubtahij, Ahmed and Cummings, Charles-William and Handan, Azur and Galy, Edith and Charton, Eric",
    title = "Participation du CRIM \`a DEFT 2024 : Utilisation de petits mod\`eles de Langue pour des QCMs dans le domaine m\'edical",
    booktitle = "Actes de JEP-TALN-RECITAL 2024. Actes du D\'efi Fouille de Textes@TALN 2024",
    month = "7",
    year = "2024",
    address = "Toulouse, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "11-22",
    note = "",
    abstract = "Ce papier d\'ecrit le travail de l'\'equipe du CRIM (Centre de recherche en Informatique de Montr\'eal) dans le cadre du D\'efi Fouille de textes 2024. Nous pr\'esentons les exp\'eriences que nous avons men\'ees dans le cadre de la t\^ache principale consistant \`a identifier automatiquement, pour une question donn\'ee issue d'annales d'examens de pharmacie, l'ensemble des r\'eponses correctes parmi les cinq propos\'ees. La contrainte est d'utiliser un syst\`eme de moins de 3 milliards de param\`etres dont les donn\'ees d'entra{\^\i}nement sont connues. Pour ce faire, nous avons test\'e des approches impliquant du few-shot prompting, du RAG, de l'affinage et de la g\'en\'eration contrainte en dernier recours.",
    keywords = "LLM, few-shot prompting, RAG, g\'en\'eration contrainte en dernier recours",
    url = "https://talnarchives.atala.org/ateliers/2024/DEFT/2.pdf"
}