Les bases de données vectorielles dédiées perdent du terrain. La recherche de voisins approchés (ANN, pour approximate nearest neighbor) est désormais un type de données proposé par des moteurs que les équipes utilisent déjà, comme Postgres, Elasticsearch, OpenSearch, ClickHouse, MongoDB ou Redis. Selon l’article publié par The Next Platform, le coût, lui, dépend toujours de la mémoire nécessaire pour stocker les vecteurs.
Une catégorie absorbée par les moteurs existants
Les bases vectorielles dédiées ont constitué une catégorie à part entière. Pinecone a lancé son service managé en 2021 et a largement donné son nom à ce segment, tandis que Milvus, Weaviate et Qdrant sont apparus à peu près à la même période. Les acteurs établis ont rapidement comblé ce retard. Elasticsearch a intégré une recherche k-NN approchée reposant sur l’algorithme de graphe HNSW (Hierarchical Navigable Small World), OpenSearch propose un plugin k-NN depuis sa version 1.0, et pgvector ajoute HNSW à Postgres depuis la version 0.5.0 (août 2023). MongoDB Atlas Vector Search est disponible en general availability depuis décembre 2023, et ClickHouse a rendu disponible son index HNSW dans la version 25.8.
Cette consolidation tient moins à l’égalité des fonctionnalités qu’à la nature des usages. Les systèmes de recherche combinent en pratique recherche vectorielle, filtres structurés, scoring lexical et agrégations. Une base séparée impose des écritures en double, un second modèle de cohérence et un outil de supervision supplémentaire.
La mémoire, principal poste de dépense
HNSW repose sur un graphe parcouru de nœud en nœud, opération qui n’est rapide que si le graphe et ses vecteurs restent en mémoire vive (RAM). Dès que des données passent sur le disque, la latence dépend surtout des défauts de page plutôt que du calcul des distances. Le besoin en mémoire croît donc avec le nombre de vecteurs et leur dimension.
OpenSearch indique qu’un index HNSW en mémoire occupe 1,1 × (4 × dimension + 8 × M) octets par vecteur, la formule étant ainsi détaillée : 4 × dimension correspond au vecteur en float32, 8 × M à la surcharge de connexions du graphe, et 1,1 à une marge d’environ 10 %. Selon l’article, un million de vecteurs de 1 536 dimensions, soit la taille de sortie de text-embedding-3-large d’OpenAI, représente environ 6,1 GB avant surcharge du graphe, et dix millions environ 60 GB. Le graphe lui-même peut peser 2 à 5 fois la taille des vecteurs bruts.
L’auteur souligne que la recherche de rappel (recall) pèse lourdement sur les coûts. Sur des benchmarks ANN standard, faire passer HNSW de 95 % à 100 % de rappel peut, selon lui, coûter environ 7 fois en débit.
Quantification et stockage hiérarchisé
La quantification, qui consiste à compresser les vecteurs en échange d’une perte contrôlée de précision, est le levier le plus efficace. Lucene, le moteur sur lequel s’appuie Elasticsearch, indique que sa quantification scalaire int8 réduit la mémoire d’environ 75 %. La quantification binaire, qui ramène chaque dimension à un seul bit, atteint un facteur 32 : Qdrant rapporte un rappel@100 de 0,98 sur des embeddings OpenAI de 1 536 dimensions avec un suréchantillonnage de 4×. Elasticsearch annonce pour son Better Binary Quantization le passage d’un jeu de données de 138M × 1024 dimensions d’environ 535 GB à environ 19 GB.
L’autre piste consiste à ne pas placer tous les vecteurs en mémoire. DiskANN, développé par Microsoft, indexe selon la source un milliard de points sur une seule machine de 64 GB associée à un SSD, avec un rappel supérieur à 95 %. Amazon annonce pour S3 Vectors une baisse de coût pouvant aller jusqu’à 90 % sur de grands jeux de vecteurs, au prix d’une latence plus élevée. OpenSearch cite de son côté une latence p90 de 96 ms en mode disque, contre 24 ms en mémoire, un écart jugé acceptable pour une boucle de raisonnement d’agent, mais pas pour l’autocomplétion interactive.
Gérer soi-même ou confier à un service managé
Les moteurs ayant adopté le même algorithme et la même boîte à outils de compression, le choix entre solution managée et auto-hébergée ne porte plus sur les fonctionnalités. Il porte sur la responsabilité du dimensionnement mémoire, de la réévaluation des résultats et de la répartition entre niveaux chauds et froids. Les services managés prennent en charge le provisionnement ; MongoDB a ainsi publié ses Search Nodes dédiés pour isoler le trafic vectoriel. L’auto-hébergement offre tous les paramètres, mais aussi leurs erreurs possibles.
Selon l’article, la décision dépend surtout de deux questions : les vecteurs sont-ils déjà stockés dans un système opérationnel que l’équipe exploite, et quel est le budget de latence par rapport au plafond de coût ?
