SlideOn et mSlideOn cherchent les documents utiles avec moins de données à comparer

Avant de répondre à partir d’une base documentaire, une IA doit retrouver les passages utiles. Cette étape peut devenir coûteuse quand le nombre de documents augmente. LightOn présente une nouvelle approche avec SlideOn et mSlideOn dans son billet du 19 octobre 2026. Ces deux modèles de recherche produisent des représentations dites creuses. Leur intérêt tient au compromis entre la qualité des résultats et les données qu’il faut conserver puis comparer.

Comparer moins de caractéristiques

Un moteur de recherche fondé sur l’IA transforme généralement une question et des documents en représentations numériques. Il les compare pour estimer leur proximité. Une représentation dense conserve une valeur pour chacune de ses dimensions. Une représentation creuse laisse au contraire la plupart de ses valeurs à zéro.

SlideOn et mSlideOn apprennent des caractéristiques qui ne correspondent pas simplement aux mots du texte. Un index inversé associe chaque caractéristique active aux documents où elle apparaît. La recherche peut alors consulter les listes pertinentes au lieu de comparer systématiquement toute la collection. Ça ne rend pas automatiquement chaque recherche plus rapide. L’intérêt dépend aussi du moteur et du corpus utilisés.

LightOn propose de limiter séparément les caractéristiques conservées pour une question et pour un document. Réduire celles d’une question diminue les listes à consulter. Réduire celles d’un document peut alléger les informations de l’index. L’entraînement cherche à concentrer les informations utiles dans les caractéristiques les plus fortes pour préserver la qualité lorsque cette limite change.

Deux modèles avec des fonctions précises

La fiche de SlideOn décrit un modèle anglais de 174 millions de paramètres. Il part de DenseOn. La fiche de mSlideOn présente un modèle multilingue de 339 millions de paramètres issu de mLateOn. Il vise aussi les documents longs et la recherche de code.

Ce sont des modèles de recherche documentaire. Ils ne rédigent pas eux-mêmes une réponse conversationnelle complète. Ils peuvent alimenter un système qui fournit ensuite des extraits à un modèle génératif. La qualité de cette première sélection et celle de la réponse finale doivent donc être évaluées séparément.

Ce que montrent les comparaisons publiées

LightOn mesure la qualité en recherchant exactement dans l’ensemble de chaque corpus d’évaluation. Le laboratoire distingue cette procédure d’une recherche approximative ou d’un réglage propre à un moteur d’indexation. Ses tableaux comparent plusieurs familles de modèles. Ils ne décrivent pas une course unique où un modèle gagne sur tous les critères.

Sur BEIR-15, SlideOn obtient un score moyen de classement de 56,68 contre 56,20 pour DenseOn. Il reste derrière LateOn dans ce tableau. La petite avance sur DenseOn doit donc se lire avec le compromis de stockage et de recherche annoncé. Elle ne suffit pas à établir une supériorité générale.

mSlideOn améliore les résultats de mDenseOn sur les évaluations multilingues et les documents longs. Il reste en retrait de mLateOn sur ces deux ensembles. Il le dépasse sur les tâches de recherche de code présentées. Les résultats dépendent aussi des langues utilisées pendant l’entraînement. L’évaluation sur davantage de langues ne signifie pas que chacune bénéficie du même niveau de supervision.

Un indicateur de coût n’est pas une facture

Les fiches des modèles précisent la nature des mesures d’efficacité. L’indicateur appelé « Retrieval FLOPS » estime le recouvrement entre caractéristiques actives des questions et des documents. Il sert d’indice de coût de recherche. Il ne mesure ni une latence réelle ni le calcul nécessaire pour encoder les textes.

Le nombre de caractéristiques non nulles sert également d’indice de stockage. Il ne donne pas directement la taille d’un index en octets. Ces mesures reposent sur un échantillon défini de trois jeux de données. Il faut conserver ce périmètre lorsqu’on les transpose à un projet.

Les modèles sont accessibles sur Hugging Face. Les performances présentées restent des mesures de LightOn. Aucun test indépendant ni gain de temps constaté sur une base documentaire particulière n’est établi ici.

L’étape de recherche complète la lecture des documents expliquée dans notre article sur LightOnOCR-3. Extraire un texte et retrouver le bon passage sont deux opérations différentes.

Pour comprendre un assistant documentaire, cette distinction compte. Une réponse convaincante ne suffit pas à montrer que le système a retrouvé les bonnes sources. Le choix de la représentation et de l’index mérite lui aussi un examen des résultats réellement obtenus.