Vers un élagage de tokens sans coût dans les modèles de récupération à interaction tardive
Yuxuan Zong, Benjamin Piwowarski
Résumé : Les modèles de RI neuronaux à interaction tardive comme ColBERT offrent un compromis compétitif entre efficacité et efficience sur de nombreuses bases de référence. Cependant, ils nécessitent un espace mémoire considérable pour stocker les représentations contextuelles de tous les tokens des documents. Certains travaux ont proposé d'utiliser soit des heuristiques, soit des techniques basées sur les statistiques pour élaguer des tokens dans chaque document. Cependant, cela ne garantit pas que les tokens supprimés n'aient aucun impact sur le score de récupération. Notre travail utilise une approche méthodique pour définir comment élaguer des tokens sans affecter le score entre un document et une question. Nous introduisons trois coûts de régularisation, qui induisent une solution avec des taux d'élagage élevés, ainsi que deux stratégies d'élagage. Nous les étudions expérimentalement (en domaine interne et externe), démontrant que nous pouvons préserver les performances de ColBERT tout en n'utilisant que 30% des tokens.
Mots clés : Recherche d'information, Recherche dense, Recherche multi-vecteur, Compromis entre efficience et efficacité