Add RAG basic implementation

This commit is contained in:
2026-11-09 08:43:30 +03:00
parent 447464c16c
commit 7fa1d774a0
76 changed files with 3030 additions and 124 deletions
+31 -1
View File
@@ -541,7 +541,7 @@ if __name__ == "__main__":
| 3. `market/repository`, справочник, `market/check` | готово (плюс эндпоинты `/api/market/*` и авторизация по ключу) |
| 4. LLM-клиент (OpenAI, Anthropic) и конвейер агента | готово на фейковых и мокнутых ответах, на реальных провайдерах не проверено |
| 5. БД, миграции, `estimate_service`, REST оценок | готово, проверено на SQLite и PostgreSQL 16 |
| 6. RAG | не начато |
| 6. RAG | основная часть готова (ADR-0003), корпус пуст, на реальных эмбеддингах не проверено |
| 7. Калибровка | не начато |
| 8. MCP-обёртка | не начато |
| 9. ETL рыночных данных | не начато |
@@ -679,3 +679,33 @@ if __name__ == "__main__":
Проверено: тесты на SQLite и PostgreSQL 16, включая миграцию `0003`. Открыто: режим налогообложения продавца (ОСНО или УСН), НДС в источниках ориентиров, предупреждение о падении наценки при фиксированной сумме с НДС.
### 13.9. Мелкие долги, RAG, схлопнутые миграции
Обновлено: 2 ноября 2026. RAG подробно в [ADR-0003](adr/0003-rag-reference-tasks.md).
| Что | Решение |
|---|---|
| Миграции | Схлопнуты в одну `0001_initial` (ревизии `0002_engagement`, `0003_vat_rate` и упоминания о них в ADR-0001 и ADR-0002 исторические). Пока нигде нет установленной базы, схему можно править в этом файле; после первой установки только новые ревизии |
| Автор версий | У оценки `created_by` (кто начал), у каждой версии свой `created_by` (кто сделал). Для ключа API это имя клиента, для интерфейса имя человека (токены UI теперь на пользователя, а не на рабочее пространство). Изоляция данных по-прежнему идёт по клиенту |
| «Предварительная оценка» | `result.preliminary` и причины, если оценка опирается на допущения по неуточнённым вопросам; в интерфейсе плашка и пометка в истории. Ручная правка и смена модели оплаты статус не меняют |
| Роли | В справочник рынка добавлены ставки `frontend` и `designer`. **Это допущения без источника** (frontend равен backend, designer условный), помечены в файле и ждут реальных значений |
| RAG | Таблица `reference_tasks` (pgvector и HNSW на PostgreSQL, JSON и Python на SQLite), эмбеддинги OpenAI-совместимые или офлайн `hash`, поиск аналогов по каждой задаче, загрузка через CLI `rag`, аналоги видны в интерфейсе и сохраняются в результате |
| Конфигурация | `[rag]`: `enabled=false` по умолчанию, `provider`, `model`, `base_url`, `top_k`, `min_similarity`, `batch_size`; `agent.reference_k` удалён (заменён на `rag.top_k`) |
Проверено: 599 тестов на SQLite и PostgreSQL 16 с pgvector 0.6.0, прогон настоящего htmx в jsdom.
### 13.10. Docker и запуск
Обновлено: 2 ноября 2026. Подробности в [deployment.md](deployment.md).
| Что | Решение |
|---|---|
| Образ | Двухэтапная сборка на `python:3.12-slim`, запуск не от root, `config/`, `prompts/`, `migrations/` и `alembic.ini` лежат в `/app` (сервис читает их относительно рабочего каталога) |
| Миграции | Отдельное разовое задание `migrate` в compose; сервис стартует только после его успешного завершения. Для одного контейнера есть `MIGRATE_ON_START=true` |
| База | `pgvector/pgvector:pg16`, готовность проверяется по TCP |
| Новые команды | `python -m estimator wait-db [--timeout N]`; настройки `[api] proxy_headers` и `forwarded_allow_ips` |
| `.env` | Читаются только ключи с префиксом `EST_`: переменные compose в том же файле сервису не мешают, а опечатка с префиксом по-прежнему вызывает ошибку |
| Зависимости | Добавлен пропущенный `pgvector`; тест сверяет все импортируемые пакеты с `pyproject.toml` |
Образ в среде разработки не собирался (нет Docker); проверка выполнена имитацией на PostgreSQL 16 с pgvector и тестами структуры файлов.