@inproceedings{De-Murcia-Meineri-Gillard-Gouritin-Lastmann:CORIA-TALN:2025,
    author = "De Murcia, Guillaume and Meineri, Ludovic and Gillard, Laurent and Gouritin, Thomas and Lastmann, Samy",
    title = "D\'etection et \'evaluation de la communication toxique pour la relation client par des LLMs",
    booktitle = "Actes de CORIA-TALN-RJCRI-RECITAL 2025. Actes des 32\`eme Conf\'erence sur le Traitement Automatique des Langues Naturelles (TALN),  volume 1 : articles scientifiques originaux",
    month = "6",
    year = "2025",
    address = "Marseille, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "268-283",
    note = "",
    abstract = "Cet article pr\'esente une m\'ethode de d\'etection de la toxicit\'e dans les interactions et dialogues client avant des g\'en\'erations par un LLM. En proposant une taxonomie originale, adapt\'ee aux \'echanges conversationnels et \`a la relation client, nous avons con\c{c}u un processus d'\'evaluation rigoureux, accompagn\'e de deux corpus annot\'es : Toximini-fr etToxiMaxi-multilingual . Ces corpus combinent des requ\^etes issues de donn\'ees r\'eelles {\textemdash} extraites de logs de nos chatbots en production {\textemdash} et de jeux de donn\'ees de r\'ef\'erence, ainsi que des exemples g\'en\'er\'es de mani\`ere synth\'etique afin de couvrir un large \'eventail de situations. Nos exp\'erimentations comparent diff\'erents mod\`eles, dont GPT-4o mini et Mistral Moderation , sur des requ\^etes multilingues dans des contextes vari\'es. Les r\'esultats montrent que notre approche permet une d\'etection robuste, notamment sur les contenus bruit\'es ou implicites. Cette \'etude ouvre la voie \`a une meilleure ma{\^\i}trise des risques li\'es aux comportements toxiques dans les \'echanges conversationnels automatis\'es.",
    keywords = "toxicit\'e, \'evaluation, toxicit\'e conversationnelle, LLM, relation client, taxonomie, corpus annot\'e, multilingue, donn\'ees synth\'etiques.",
    url = "https://talnarchives.atala.org/TALN/TALN-2025/123.pdf"
}