@inproceedings{Chaffin-Delaunay:CORIA-TALN:2023,
    author = "Chaffin, Antoine and Delaunay, Julien",
    title = "''Honey, Tell Me What's Wrong'', Explicabilit\'e Globale des Mod\`eles de TAL par la G\'en\'eration Coop\'erative",
    booktitle = "Actes de CORIA-TALN 2023. Actes de la 30e Conf\'erence sur le Traitement Automatique des Langues Naturelles (TALN),  volume 1 : travaux de recherche originaux - articles longs",
    month = "6",
    year = "2023",
    address = "Paris, France",
    publisher = "Association pour le Traitement Automatique des Langues",
    pages = "105-122",
    note = "",
    abstract = "L'omnipr\'esence de l'apprentissage automatique a mis en lumi\`ere l'importance des algorithmes d'explicabilit\'e. Parmi ces algorithmes, les m\'ethodes agnostiques au type de mod\`ele g\'en\`erent des exemples artificiels en modifiant l\'eg\`erement les donn\'ees originales. Elles observent ensuite les changements de d\'ecision du mod\`ele sur ces exemples artificiels. Cependant, de telles m\'ethodes n\'ecessitent d'avoir des exemples initiaux et fournissent des explications uniquement sur la d\'ecision pour ces derniers. Pour r\'epondre \`a ces probl\'ematiques, nous proposons Therapy, la premi\`ere m\'ethode d'explicabilit\'e mod\`ele-agnostique pour les mod\`eles de langue qui ne n\'ecessite pas de donn\'ees en entr\'ee. Cette m\'ethode g\'en\`ere des textes qui suivent la distribution apprise par le classifieur \`a expliquer gr\^ace \`a la g\'en\'eration coop\'erative. Ne pas d\'ependre d'exemples initiaux permet, en plus d'\^etre applicable lorsqu'aucune donn\'ee n'est disponible (e.g, pour des raisons de confidentialit\'e), de fournir des explications sur le fonctionnement global du mod\`ele au lieu de plusieurs explications locales, offrant ainsi une vue d'ensemble du fonctionnement du mod\`ele. Nos exp\'eriences montrent que, m\^eme sans donn\'ees en entr\'ee, Therapy fournit des informations instructives sur les caract\'eristiques des textes utilis\'ees par le classifieur qui sont comp\'etitives avec celles fournies par les m\'ethodes utilisant des donn\'ees.",
    keywords = "explicabilit\'e, g\'en\'eration coop\'erative, traitement automatique des langues",
    url = "461410.pdf"
}