embedding-search
Some checks failed
Deploy on push / deploy (push) Failing after 22m28s

This commit is contained in:
2025-08-31 19:20:43 +03:00
parent 7325cdc5f5
commit db3dafa569
8 changed files with 1197 additions and 49 deletions

View File

@@ -1,6 +1,44 @@
# Changelog
## [0.9.16] - 2025-01-27
### 🔍 Search System Revolution
- **🚀 Настоящие векторные эмбединги**: Заменил псевдослучайные hash-эмбединги на SentenceTransformers
- Модель: `paraphrase-multilingual-MiniLM-L12-v2` с поддержкой русского языка
- Fallback: `all-MiniLM-L6-v2` для стабильности
- Семантическое понимание текста вместо случайного совпадения
- **⚡ Оптимизированная производительность**:
- Batch обработка документов для массовой индексации
- Тихий режим (silent=True) для больших объёмов данных без спама в логах
- Batch encoding с размером 32 для SentenceTransformers
- Детектор batch-режима (>10 документов = автоматически batch)
- **🤫 Улучшенное логирование**:
- Убрал избыточные логи при batch операциях
- Добавил show_progress_bar=False для тихой работы
- Статистика только в конце batch операций
- Debug логи только для одиночных документов
- **🩵 Стабильность и resilience**:
- Корректная обработка ошибок при загрузке моделей
- Graceful fallback на запасную модель
- Защита от деления на ноль в косинусном сходстве (+1e-8)
- Валидация размерности эмбедингов
### 📦 Dependencies
- **Добавлено**: `sentence-transformers>=2.2.0` в requirements.txt
- **Обновлено**: Настройки для поддержки многоязычных эмбедингов
### 📝 Documentation
- **Создан**: `docs/search-system.md` - полная документация поисковой системы
- **Обновлён**: `docs/features.md` - добавлена секция "Семантическая поисковая система"
- **Обновлён**: `docs/README.md` - версия 0.9.16, ссылка на новую документацию
### 🔧 Technical Implementation
- **MuveraWrapper**: Полностью переписан с настоящими эмбедингами
- **SearchService**: Добавлен silent режим для bulk_index
- **Batch processing**: Автоматическое определение режима обработки
- **Error handling**: Улучшена обработка ошибок индексации и поиска
## [0.9.15] - 2025-08-30
### 🔧 Fixed