scud_orion_ai_v2/main.py

import os
import sys
import argparse
import pandas as pd

sys.path.append(os.path.dirname(os.path.abspath(__file__)))

from config import DATE_TODAY, DATE_YESTERDAY, OUTPUT_DIR, DATA_DIR, normalize_fio
from modules.scud_export import run_export
from modules.share_copier import copy_1c_files_from_share
from modules.data_validator import check_file_freshness
from modules.data_loader import load_all_data
from modules.excel_exporter import generate_summary_excel, generate_detailed_excel
from modules.ai_verifier import ai_verify_scud_against_staff
from modules.text_reporter import generate_markdown_report
from modules.feedback_loop import review_ai_decisions
from modules.knowledge_base import load_knowledge_base
from modules.database import (
    init_db, 
    save_scud_to_db, 
    save_staff_to_db,
    save_absences_to_db, 
    save_anomalies_to_db
)


def load_static_reason_workers():
    """Загружает реестр удалёнщиков и статических причин из CSV."""
    static_path = os.path.join(DATA_DIR, "static_reason_workers.csv")
    if not os.path.exists(static_path):
        return {}
    try:
        df_static = pd.read_csv(static_path, encoding='utf-8')
        if 'fio' in df_static.columns and 'reason' in df_static.columns:
            df_static['fio_clean'] = df_static['fio'].apply(normalize_fio)
            return dict(zip(df_static['fio_clean'], df_static['reason']))
    except Exception as e:
        print(f"[⚠️] Ошибка чтения static_reason_workers.csv: {e}")
    return {}


def detect_all_anomalies(merged_df, static_reasons_dict, kb_rules):
    """
    Автоматически находит ИСТИННЫЕ аномалии.
    
    ПРАВИЛА КОМПАНИИ:
    1. Удалённые сотрудники имеют право беспрепятственно работать в офисе (НЕ аномалия).
    2. Документы отсутствий из 1С имеют 100% приоритет над стат. реестром (НЕ аномалия).
    3. АНОМАЛИЯ — Физический выход по СКУД при наличии в 1С ЛЮБЫХ причин отсутствия
       (отпуск, больничный, уход за ребенком и т.д.), КРОМЕ командировок и служебных поездок.
    """
    anomalies = []
    kb_rules_text = " ".join(kb_rules).lower() if kb_rules else ""

    ALLOWED_WORK_TRIP_KEYWORDS = ['командировк', 'разъездн', 'поездк']

    for idx, row in merged_df.iterrows():
        fio = row.get('Сотрудник', row.get('fio_clean', ''))
        fio_clean = row.get('fio_clean', '')
        is_present = row.get('Пришел', False)
        reason_1c = str(row.get('Вид_отсутствия', '')).strip()
        has_1c_reason = pd.notna(row.get('Вид_отсутствия')) and reason_1c != ''

        is_fio_whitelisted_in_kb = fio_clean.lower() in kb_rules_text

        if is_present and has_1c_reason:
            reason_lower = reason_1c.lower()
            is_allowed_trip = any(kw in reason_lower for kw in ALLOWED_WORK_TRIP_KEYWORDS)

            if not is_allowed_trip and not is_fio_whitelisted_in_kb:
                anomalies.append({
                    "type": "ФИЗИЧЕСКОЕ ПРИСУТСТВИЕ ПРИ ОФИЦИАЛЬНОМ ОТСУТСТВИИ",
                    "fio": fio,
                    "details": f"Сотрудник пришел по СКУД, но в 1С оформлен документ: '{reason_1c}'"
                })

    return anomalies


def aggregate_scud_by_employee(df, debug=False):
    """Агрегирует проходы СКУД по уникальным сотрудникам."""
    if df is None or df.empty or 'fio_clean' not in df.columns:
        return df

    aggregated = []
    for fio_clean, group in df.groupby('fio_clean', sort=False):
        is_present = group['Пришел'].any() if 'Пришел' in group.columns else False
        
        if is_present and 'Пришел' in group.columns:
            present_rows = group[group['Пришел'] == True]
            best_row = present_rows.iloc[0].to_dict() if not present_rows.empty else group.iloc[0].to_dict()
        else:
            best_row = group.iloc[0].to_dict()

        best_row['Пришел'] = is_present
        aggregated.append(best_row)

    return pd.DataFrame(aggregated)


def main():
    parser = argparse.ArgumentParser(description="Система модульного контроллинга СКУД ⟷ 1С")
    parser.add_argument('-d', '--debug', action='store_true', help="Запуск в режиме отладки")
    parser.add_argument('--skip-export', action='store_true', help="Пропустить выгрузку СКУД из MS SQL")
    parser.add_argument('--with-xlsx', action='store_true', help="Сохранять дублирующие сырые XLSX-файлы в папке data/")
    args = parser.parse_args()

    DEBUG = args.debug
    SAVE_XLSX = args.with_xlsx

    print("=" * 60)
    print(f"ЗАПУСК СИСТЕМЫ МОДУЛЬНОГО КОНТРОЛЛИНГА СКУД ⟷ 1С {'[DEBUG MODE]' if DEBUG else ''}")
    print("=" * 60)

    # 0. Инициализация локальной базы данных SQLite и Базы Знаний
    init_db()
    kb_data = load_knowledge_base()
    kb_rules = kb_data.get("rules", [])

    # 0.1 Выгрузка из БД СКУД напрямую в SQLite
    if not args.skip_export:
        try:
            run_export(save_xlsx=SAVE_XLSX, debug=DEBUG)
        except Exception as e:
            print(f"[⚠️] Ошибка автоэкспорта из БД: {e}. Используем имеющиеся записи в SQLite.")
    else:
        print("[0/5] Пропуск прямого экспорта из БД (--skip-export)...")

    # 0.5 Копирование файлов 1С с сетевой шары \\storage\SCUD\Обмен\Штат
    copy_1c_files_from_share()

    # 1. Валидация наличия файлов и данных
    print("[1/5] Проверка актуальности и свежести входных данных...")
    is_valid, warnings, errors, has_today_1c = check_file_freshness()

    if warnings:
        print("\n--- ⚠️ ПРЕДУПРЕЖДЕНИЯ ОБ АКТУАЛЬНОСТИ ---")
        for w in warnings:
            print(f"  • {w}")
        print("-" * 45)

    if not is_valid:
        print("\n" + "!" * 60)
        print("🛑 ОСТАНОВКА ВЫПОЛНЕНИЯ: Отсутствуют критически важные файлы за вчерашний день!")
        for e in errors:
            print(f"  {e}")
        print("!" * 60)
        sys.exit(1)

    print("[✓] Проверка доступности данных успешно пройдена!\n")

    # 2. Раздельная загрузка данных за Сегодня и за Вчера
    print("[2/5] Загрузка данных из СКУД, 1С:ЗУП, реестра причин и исключений...")
    (
        raw_scud_today_df,
        raw_scud_yesterday_df,
        df_staff_today,
        df_absent_today,
        df_staff_yesterday,
        df_absent_yesterday
    ) = load_all_data()

    # 💾 СОХРАНЕНИЕ КАДРОВЫХ СРЕЗОВ 1С В БАЗУ ДАННЫХ SQLite
    if df_staff_yesterday is not None:
        save_staff_to_db(df_staff_yesterday, DATE_YESTERDAY)
    if df_absent_yesterday is not None:
        save_absences_to_db(df_absent_yesterday, DATE_YESTERDAY)

    if df_staff_today is not None:
        save_staff_to_db(df_staff_today, DATE_TODAY)
    if df_absent_today is not None:
        save_absences_to_db(df_absent_today, DATE_TODAY)

    staff_fios_yesterday_clean = df_staff_yesterday['fio_clean'].dropna().tolist() if df_staff_yesterday is not None else []
    static_reasons_dict = load_static_reason_workers()

    # ============================================================
    # 🎯 ЧАСТЬ 1: ДЕТАЛЬНЫЙ ОТЧЕТ ЗА ВЧЕРА (Строится Всегда)
    # ============================================================
    print("\n[3/5] Обработка данных за ВЧЕРА...")
    scud_yesterday_unrecognized = raw_scud_yesterday_df[~raw_scud_yesterday_df['fio_clean'].isin(staff_fios_yesterday_clean)]['fio_clean'].tolist() if not raw_scud_yesterday_df.empty else []
    
    fio_mapping_scud_y = ai_verify_scud_against_staff(scud_yesterday_unrecognized, staff_fios_yesterday_clean)
    if fio_mapping_scud_y:
        raw_scud_yesterday_df['fio_clean'] = raw_scud_yesterday_df['fio_clean'].apply(
            lambda x: fio_mapping_scud_y[x]['staff_fio'] if x in fio_mapping_scud_y else x
        )

    if df_absent_yesterday is not None and not df_absent_yesterday.empty:
        absent_unrecognized_yesterday = df_absent_yesterday[~df_absent_yesterday['fio_clean'].isin(staff_fios_yesterday_clean)]['fio_clean'].tolist()
        if absent_unrecognized_yesterday:
            fio_mapping_absent_y = ai_verify_scud_against_staff(absent_unrecognized_yesterday, staff_fios_yesterday_clean)
            if fio_mapping_absent_y:
                df_absent_yesterday['fio_clean'] = df_absent_yesterday['fio_clean'].apply(
                    lambda x: fio_mapping_absent_y[x]['staff_fio'] if x in fio_mapping_absent_y else x
                )

    raw_scud_yesterday_df = aggregate_scud_by_employee(raw_scud_yesterday_df, debug=DEBUG)

    merged_yesterday = raw_scud_yesterday_df[raw_scud_yesterday_df['fio_clean'].isin(staff_fios_yesterday_clean)].copy()
    if df_absent_yesterday is not None:
        merged_yesterday = merged_yesterday.merge(df_absent_yesterday, on='fio_clean', how='left')

    if static_reasons_dict:
        for fio_clean, reason_val in static_reasons_dict.items():
            mask_yesterday = (
                (merged_yesterday['Пришел'] == False) & 
                (merged_yesterday['Вид_отсутствия'].isna() | (merged_yesterday['Вид_отсутствия'].astype(str).str.strip() == '')) & 
                (merged_yesterday['fio_clean'] == fio_clean)
            )
            merged_yesterday.loc[mask_yesterday, 'Вид_отсутствия'] = reason_val

    mask_exc_yesterday = (
        (merged_yesterday['Пришел'] == False) & 
        (merged_yesterday['Вид_отсутствия'].isna() | (merged_yesterday['Вид_отсутствия'].astype(str).str.strip() == '')) & 
        (merged_yesterday.get('is_excluded', False) == True)
    )
    merged_yesterday.loc[mask_exc_yesterday, 'Вид_отсутствия'] = 'Исключение (ОВК/Подрядчики)'

    generate_detailed_excel(merged_df=merged_yesterday, date_str=DATE_YESTERDAY)

    # 💾 СОХРАНЕНИЕ ВЧЕРАШНИХ ДАННЫХ В SQLite:
    save_scud_to_db(merged_yesterday, DATE_YESTERDAY)

    # ============================================================
    # 🎯 ЧАСТЬ 2: ЕЖЕДНЕВНАЯ СВОДКА ЗА СЕГОДНЯ
    # ============================================================
    # 💾 СОХРАНЯЕМ СЕГОДНЯШНИЙ СКУД В SQLite (Даже если 1С еще не пришла):
    save_scud_to_db(raw_scud_today_df, DATE_TODAY)

    if has_today_1c and df_staff_today is not None and df_absent_today is not None:
        print("\n[4/5] Обработка данных за СЕГОДНЯ...")
        staff_fios_today_clean = df_staff_today['fio_clean'].dropna().tolist()

        scud_unrecognized = raw_scud_today_df[~raw_scud_today_df['fio_clean'].isin(staff_fios_today_clean)]['fio_clean'].tolist()
        fio_mapping_scud = ai_verify_scud_against_staff(scud_unrecognized, staff_fios_today_clean)
        if fio_mapping_scud:
            raw_scud_today_df['fio_clean'] = raw_scud_today_df['fio_clean'].apply(
                lambda x: fio_mapping_scud[x]['staff_fio'] if x in fio_mapping_scud else x
            )

        absent_unrecognized_today = df_absent_today[~df_absent_today['fio_clean'].isin(staff_fios_today_clean)]['fio_clean'].tolist()
        if absent_unrecognized_today:
            fio_mapping_absent = ai_verify_scud_against_staff(absent_unrecognized_today, staff_fios_today_clean)
            if fio_mapping_absent:
                df_absent_today['fio_clean'] = df_absent_today['fio_clean'].apply(
                    lambda x: fio_mapping_absent[x]['staff_fio'] if x in fio_mapping_absent else x
                )

        raw_scud_today_df = aggregate_scud_by_employee(raw_scud_today_df, debug=DEBUG)

        merged_today = raw_scud_today_df[raw_scud_today_df['fio_clean'].isin(staff_fios_today_clean)].copy()
        merged_today = merged_today.merge(df_absent_today, on='fio_clean', how='left')

        if static_reasons_dict:
            for fio_clean, reason_val in static_reasons_dict.items():
                mask_today = (
                    (merged_today['Пришел'] == False) & 
                    (merged_today['Вид_отсутствия'].isna() | (merged_today['Вид_отсутствия'].astype(str).str.strip() == '')) & 
                    (merged_today['fio_clean'] == fio_clean)
                )
                merged_today.loc[mask_today, 'Вид_отсутствия'] = reason_val

        mask_exc_today = (
            (merged_today['Пришел'] == False) & 
            (merged_today['Вид_отсутствия'].isna() | (merged_today['Вид_отсутствия'].astype(str).str.strip() == '')) & 
            (merged_today.get('is_excluded', False) == True)
        )
        merged_today.loc[mask_exc_today, 'Вид_отсутствия'] = 'Исключение (ОВК/Подрядчики)'

        anomalies_list = detect_all_anomalies(merged_today, static_reasons_dict, kb_rules)

        # 💾 СОХРАНЕНИЕ СЕГОДНЯШНИХ АНОМАЛИЙ В БАЗУ ДАННЫХ SQLite
        save_anomalies_to_db(anomalies_list, DATE_TODAY)

        absent_explained = merged_today[(merged_today['Пришел'] == False) & (merged_today['Вид_отсутствия'].notna())]
        absent_unexplained = merged_today[(merged_today['Пришел'] == False) & (merged_today['Вид_отсутствия'].isna())]
        scud_present_but_absent_in_1c = merged_today[(merged_today['Пришел'] == True) & (merged_today['Вид_отсутствия'].notna())]

        print("[5/5] Запуск ИИ-аудитора и построение Ежедневной сводки...")
        report_text = generate_markdown_report(
            merged_df=merged_today,
            absent_explained=absent_explained,
            absent_unexplained=absent_unexplained,
            scud_present_but_absent_in_1c=scud_present_but_absent_in_1c,
            anomalies_list=anomalies_list,
            raw_scud_df=raw_scud_today_df,
            raw_absent_df=df_absent_today,
            date_str=DATE_TODAY
        )

        generate_summary_excel(merged_df=merged_today, date_str=DATE_TODAY)

        md_report_path = os.path.join(OUTPUT_DIR, f"Сводка_контроллинга_{DATE_TODAY}.md")
        with open(md_report_path, "w", encoding="utf-8") as f:
            f.write(report_text)
        print(f"\n[✓] Текстовый отчет сохранен в: {md_report_path}")

        # 🎯 ОПРОС ОПЕРАТОРА (HUMAN-IN-THE-LOOP):
        # Доказанные нарушения (приход во время отпуска/больничного в 1С) записываются автоматически.
        # Запрос оператору выводится ТОЛЬКО при спорных/нетипичных аномалиях.
        suspicious_cases = []
        for a in anomalies_list:
            if "ОФИЦИАЛЬНОМ ОТСУТСТВИИ" not in a.get('type', ''):
                suspicious_cases.append({
                    'fio_target': a['fio'],
                    'reason': f"{a['type']}: {a['details']}"
                })
                
        if suspicious_cases:
            review_ai_decisions(report_text, suspicious_cases)

        print("\n" + "=" * 60)
        print("ГОТОВАЯ ТЕКСТОВАЯ СВОДКА ИИ-АУДИТОРА:")
        print("=" * 60)
        print(report_text)
    else:
        print(f"\n[ℹ️] Формирование Ежедневной сводки за {DATE_TODAY} ПРОПУЩЕНО.")
        print("     Ждём появления файлов 1С за текущую дату на сетевой шаре.")


if __name__ == "__main__":
    main()