feat(etl): stable pipeline, exception registry in SQLite, multi-pass aggregation and db_cli

docs/in_progress/ROADMAP.md

@@ -0,0 +1,123 @@
+# План реализации (ROADMAP)
+
+## 1. Очистка от регулярок и костылей (`tool_injector.py`)
+- [x] Полностью удалить принудительные перехваты текста регулярными выражениями для команд добавления, редактирования и удаления пунктов[cite: 4].
+- [x] Оставить в модуле только базовую санитарную очистку сырых тегов (`<tool_call>`)[cite: 4].
+
+---
+
+## 2. Настройка контекста и инструкций сессии (`agent.py`)
+- [x] Передать управление диалогом языковой модели через системный блок `role: "system"`[cite: 4].
+- [x] При активном состоянии `PROMPT_PREVIEW` передавать модели инструкцию:
+  - **Подтверждение / отмена / корректировка:** продолжать работу с превью и вызывать соответствующие инструменты[cite: 4].
+  - **Смена темы:** вежливо напомнить об открытом изменении и запросить решение[cite: 4].
+- [x] Обеспечить видимость эфемерных сообщений (`is_ephemeral = 1`) для модели во время активной работы с превью[cite: 4].
+- [x] Внедрить семантический Topic Drift Guard (`idle_turns` = 3) с вопросами и кнопками из `tool_action_registry`[cite: 4].
+- [x] Реализовать детерминированный мгновенный сброс сессии и зачистку эфемерного контекста при вызове сторонних инструментов[cite: 4].
+
+---
+
+## 3. Очистка эфемерных сообщений при завершении (`fast_path.py` / `context_manager.py`)
+- [x] Настроить удаление временных сообщений превью (`db_purge_ephemeral_messages`) строго в момент нажатия кнопок **«Подтвердить»** или **«Отменить»**[cite: 4].
+- [x] Сбрасывать состояние сессии в базе данных после фиксации решения[cite: 4].
+- [x] Внедрить прямое точечное применение изменений через `db_apply_prompt_node_action`[cite: 4].
+- [x] Добавить обработку фазы `PROMPT_FOLLOWUP` с кнопками завершения и очистки контекста[cite: 4].
+- [x] Создать `context_manager.py` для строгого разграничения служебных tool-пар (`is_ephemeral=1`) и содержательного диалога (`is_ephemeral=0`), сохраняя беседы Topic Drift в истории[cite: 4].
+
+---
+
+## 4. Инлайн-редактор в окне диалога (`core.js`)
+- [x] Проверить работу блока ручного редактирования (`inline-prompt-editor-container`) с кнопками **«Сохранить правки»** и **«Свернуть»**[cite: 4].
+- [x] Обеспечить сохранение черновика через API (`/api/v1/chat/draft`) и отображение обновленного текста перед подтверждением[cite: 4].
+- [x] Реализовать двусторонний клиентский Diff-рендерер (одновременная подсветка добавленных строк и зачеркивание удаленных `[УДАЛЕНИЕ]`)[cite: 4].
+- [x] Добавить авто-форматирование и отступы подпунктов (`X.Y.`) при ручном сохранении черновика[cite: 4].
+
+---
+
+## 5. Тестирование и валидация системного промпта
+- [x] **Нативные вызовы:** проверить добавление, редактирование и удаление пунктов через нативные вызовы модели (`db_prompt_node_edit`)[cite: 4].
+- [x] **Контекстные сценарии:** проверить поведение модели при смене темы диалога оператором (Guardrail)[cite: 4].
+- [x] **UI и очистка:** проверить ручное редактирование через кнопку в окне чата и последующую очистку контекста (`db_purge_ephemeral_messages`)[cite: 4].
+
+---
+
+## 6. Распространение архитектурного паттерна на модуль задач (`tasks`)
+- [x] **Масштабирование UI задач:**
+  - Увеличена ширина карточки до `max-w-4xl` и динамическая высота скролла до `70vh`[cite: 4].
+  - Реализованы переключатели фильтрации: «В работе» (по умолчанию), «В планах», «Готово», «Все»[cite: 4].
+  - Разделены кнопки действия: «В работу» (для плановых) и «Готово» (для текущих)[cite: 4].
+- [x] **Инлайн-редактирование карточки задачи:**
+  - Плавная трансформация карточки в 3-строчную форму (текст, дата со встроенным пикером, выпадающий список важности)[cite: 4].
+  - Отображение даты создания задачи[cite: 4].
+  - Сохранение через REST API эндпоинт `PATCH /api/v1/tasks/{id}`[cite: 4].
+- [x] **Детерминированный Fast-Path и двухфазное удаление:**
+  - Мгновенная смена статусов без задержек LLM[cite: 4].
+  - Карточка подтверждения удаления с автоочисткой контекста[cite: 4].
+- [x] **Генерация отчетов задач в Markdown:**
+  - Добавлен инструмент `db_export_tasks_markdown` для формирования Markdown-файла с группировкой по модулям и чекбоксами `[x]` / `[ ]`[cite: 3].
+  - Реализован роутер безопасной отдачи файлов с сохранением имени (`/api/v1/files/download/...`)[cite: 3].
+- [x] **Доменная консолидация задач:**
+  - Реализован консолидированный инструмент `db_tasks_edit(action: ["ADD", "UPDATE", "DELETE", "EXPORT"], ...)`[cite: 3].
+
+---
+
+## 7. Распространение на модуль снапшотов (`snapshots`)
+- [x] **Поддержка Y-снапшотов:** универсальный парсинг и поиск по `snapshot_id LIKE 'Y%'` и срезам за 22:00:00[cite: 4].
+- [x] **Single Active Snapshot View:** сохранение активного среза в контексте для аналитики с автоматической ротацией и зачисткой при запросе новых дат[cite: 4].
+- [x] **Интерактивный UI с чекбоксами и защитой срезов:**
+  - Чекбоксы в строках дневных срезов и кнопка «Выбрать все» в шапке[cite: 3].
+  - Защита итогового вечернего среза Y (иконка замочка `🔒`, блокировка выбора)[cite: 3].
+  - Динамическая кнопка «Удалить выбранные (N)» в подвале карточки[cite: 3].
+- [x] **Детерминированный Fast-Path удаления срезов:**
+  - Двухфазное подтверждение удаления (одиночное и пакетное) с корректным счётчиком количества удаляемых элементов[cite: 3].
+  - Защита от сброса фильтра даты (`query_date`) при обновлении карточки после удаления[cite: 3].
+
+---
+
+## 🏗️ Раздел 8. Глубокий архитектурный рефакторинг ядра и сервисов `[ЗАВЕРШЕНО]`
+
+- [x] **Шаг 1. Выделение общего слоя ядра (`core/`)**
+  - [x] Изолированный пул соединений SQLite (`core/connection.py`) с поддержкой WAL и таймаутов.
+  - [x] DDL-схемы таблиц и индексов (`core/schema.py`).
+  - [x] Репозитории СКУД и 1С (`core/repositories/scud_repo.py`, `core/repositories/zup_repo.py`).
+  - [x] Фасад обратной совместимости (`core/database.py`).
+- [x] **Шаг 2. Декомпозиция предметных доменов (`services/`)**
+  - [x] Сервис задач (`services/tasks/`): CRUD, валидация, markdown-экспорт (`exporter.py`).
+  - [x] Сервис системного промпта (`services/prompts/`): сборка узлов, вычисление diff (`diff_engine.py`), пакетное удаление (`BATCH_DELETE`).
+  - [x] Сервис снапшотов СКУД (`services/snapshots/`): безопасное удаление с защитой Y-снапшотов.
+  - [x] Сервис базы знаний (`services/knowledge/`): правила арбитража и синонимы отделов.
+- [x] **Шаг 3. Рефакторинг ETL-конвейера (`services/scud_etl/`)**
+  - [x] Оркестратор этапов контроллинга (`pipeline.py`).
+  - [x] Детектор аномалий и конфликтов реестров (`anomaly_detector.py`).
+  - [x] Агрегация проходов и наложение исключений (`merger.py`).
+  - [x] Информативное консольное логирование этапов в `main_etl.py`.
+- [x] **Шаг 4. Модульный ИИ-оркестратор (`modules/ai_engine/`)**
+  - [x] Динамический строитель системного контекста (`context_builder.py`).
+  - [x] Изолированные обработчики инструментов (`handlers/task_handler.py`, `handlers/prompt_handler.py`, `handlers/snapshot_handler.py`).
+  - [x] Компактный диспетчер диалога (`agent.py`).
+  - [x] Двухконтурный семантический анализатор намерений (`tool_injector.py`).
+- [x] **Шаг 5. Зачистка рудиментов и стабилизация**
+  - [x] Устранение дубликатов в `web_api/llm/db/`.
+  - [x] Очистка роутеров от прямых манипуляций с базой данных.
+  - [x] Исправление сигнатур Fast-Path перехватчиков.
+
+---
+
+## 📊 Раздел 9. Диалоговая генерация и контроль отчетов СКУД (Conversational Reporting Engine) `[В ПЛАНАХ]`
+
+- [ ] **Интерактивный запуск отчетов из чата**
+  - [ ] Инструмент `db_generate_report(date_str, report_type)` для генерации сводки или детального отчета по требованию оператора.
+  - [ ] Автоматическая отдача карточки скачивания сформированного Excel-файла прямо в диалоге (`FILE_DOWNLOAD_CARD`).
+- [ ] **Диалоговый аудит расхождений**
+  - [ ] Инструмент точечной выборки: «Кто сегодня не пришел из отдела ОВК?», «Покажи опоздавших за вчера».
+  - [ ] Быстрое внесение исключений и синонимов подразделений через диалог.
+
+---
+
+## 10. Изолированная песочница кода (Code Execution Sandbox Engine)
+- [ ] **Docker/gVisor контур:**
+  - Создание изолированного контейнера без доступа к внешней сети (network: none) с ограниченными лимитами по памяти и CPU (cgroups)[cite: 4].
+  - Настройка безопасного монтирования только необходимых CSV/Parquet-файлов данных в режиме Read-Only[cite: 4].
+- [ ] **Динамические Python/Pandas вычисления:**
+  - Инструмент генерации и безопасного выполнения скриптов агрегации и аналитики данных СКУД / 1С на лету[cite: 4].
+  - Перехват stdout/stderr, сбор результатов расчетов и графиков с передачей в UI-чата[cite: 4].