@inproceedings{Ducel-Hiebel-Ferret-Fort-Neveol:CORIA-TALN:2025,
    author = {Ducel, Fanny and Hiebel, Nicolas and Ferret, Olivier and Fort, Kar\"en and N\'ev\'eol, Aur\'elie},
    title = "{\guillemotleft} Les femmes ne font pas de crise cardiaque ! {\guillemotright} \'Etude des biais de genre dans les cas cliniques synth\'etiques en fran\c{c}ais",
    booktitle = "Actes de CORIA-TALN-RJCRI-RECITAL 2025. Actes des 32\`eme Conf\'erence sur le Traitement Automatique des Langues Naturelles (TALN),  volume 2 : traductions d'articles publi\'es",
    month = "6",
    year = "2025",
    address = "Marseille, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "1-1",
    note = "",
    abstract = "De plus en plus de professionnels de sant\'e utilisent des mod\`eles de langue. Cependant, ces mod\`eles pr\'esentent et amplifient des biais st\'er\'eotyp\'es qui peuvent mettre en danger des vies. Cette \'etude vise \`a \'evaluer les biais de genre dans des cas cliniques g\'en\'er\'es automatiquement en fran\c{c}ais concernant dix pathologies. Nous utilisons sept mod\`eles de langue affin\'es et un outil de d\'etection automatique du genre pour mesurer les associations entre pathologie et genre. Nous montrons que les mod\`eles sur-g\'en\`erent des cas d\'ecrivant des patients masculins, allant \`a l{\textquoteright}encontre des pr\'evalences r\'eelles. Par exemple, lorsque les invites ne sp\'ecifient pas de genre, les mod\`eles g\'en\`erent huit fois plus de cas cliniques d\'ecrivant des patients (plut\^ot que des patientes) pour les crises cardiaques. Nous discutons des possibles dommages induits par les mod\`eles de langue, en particulier pour les femmes et les personnes transgenres, de la d\'efinition d{\textquoteright}un mod\`ele de langue {\guillemotleft} id\'eal {\guillemotright} et des moyens d{\textquoteright}y parvenir.",
    keywords = "biais, st\'er\'eotype, mod\`ele de langue, genre, cas cliniques, fran\c{c}ais",
    url = "https://talnarchives.atala.org/TALN/TALN-2025/25.pdf"
}