Исследование DeepMind, доказывающее несостоятельность...

162

Исследование DeepMind, доказывающее несостоятельность векторного поиска

Новое исследование DeepMind показывает, насколько на самом деле сломан векторный поиск.

Оказывается, при определенном количестве измерений эмбеддинга некоторые документы в вашем индексе теоретически невозможно извлечь.

Старый добрый BM25 из 1994 года превосходит его по полноте.

Как поискового нёрда с более чем десятилетним стажем, меня этот результат очень радует.

И хотя кто-то скажет, что созданный авторами датасет LIMIT является синтетическим и нереалистичным, именно это я и наблюдал, создавая поисковые системы в Google и Glean.

Оригинал статьи доступен по ссылке: https://alphaxiv.org/pdf/2508.21038.

Векторный поиск стал популярным как простое готовое решение на волне роста популярности эмбеддингов OpenAI, но у него есть явные ограничения в продакшене.

Даже если не брать в расчет то, что он постоянно упускает определенные документы, он также:

— плохо ищет по концепциям,

— часто находит похожие, но нерелевантные результаты,

— не учитывает неконтентные сигналы схожести, такие как актуальность или популярность.

Разработка эффективного поискового решения для реальных задач может использовать векторы в некоторых аспектах извлечения данных, но для хорошей работы требуется глубокое понимание запросов, сбор свежих сигналов, офлайн-анализ документов, традиционные методы информационного поиска и целый ряд хитрых техник.

Это не просто "давайте заэмбедим кучу всего и засунем в векторную БД!"

@MikeBlazerX