import os import pandas as pd import warnings from config import ( normalize_fio, clean_scud_fio_light, load_exceptions, DATE_TODAY, DATE_YESTERDAY, find_dated_file, ZUP_1C_DIR, SCUD_DIR ) # Импортируем прямую SQL-выгрузку отсутствий из 1С from services.zup_extractor import fetch_zup_absences_from_sql warnings.filterwarnings('ignore', category=UserWarning, module='pandas') def is_excluded(fio, dept, pos, exceptions): """Проверяет, входит ли сотрудник или должность в список исключений.""" fio_clean = normalize_fio(fio) dept_str = str(dept).strip().upper() if pd.notna(dept) else "" pos_str = str(pos).strip().lower() if pd.notna(pos) else "" if fio_clean in exceptions["fio"] or dept_str in exceptions["departments"] or pos_str in exceptions["positions"]: return True if any(keyword in pos_str for keyword in exceptions["position_keywords"]): return True return False def load_staff_data(date_str): """ Загружает файл Штатного расписания 1С за конкретную дату из папки 1c. """ filepath = find_dated_file("Штат", date_str) if not filepath: fallback_path = os.path.join(ZUP_1C_DIR, "штат.xlsx") if os.path.exists(fallback_path): filepath = fallback_path else: return None try: df_raw = pd.read_excel(filepath, skiprows=8) # Индексы столбцов в файле 1С: 1 — ФИО, 5 — Подразделение, 12 — Должность df_staff = df_raw.iloc[:, [1, 5, 12]].copy() df_staff.columns = ['ФИО', 'Подразделение', 'Должность'] df_staff = df_staff.dropna(subset=['ФИО']).reset_index(drop=True) df_staff = df_staff[~df_staff['ФИО'].astype(str).str.contains('Всего|Организация|Сотрудник|ФИО', case=False, na=False)] df_staff['fio_clean'] = df_staff['ФИО'].apply(normalize_fio) return df_staff except Exception as e: print(f"[❌] Ошибка загрузки штата из {filepath}: {e}") return None def load_absent_data(date_str): """ Загружает документально подтвержденные отсутствия сотрудников НАПРЯМУЮ из базы MS SQL 1С:ЗУП за указанную дату. """ try: df_absent = fetch_zup_absences_from_sql(date_str) if df_absent is not None and not df_absent.empty: df_absent = df_absent.dropna(subset=['ФИО', 'Вид_отсутствия']) df_absent = df_absent[~df_absent['ФИО'].astype(str).str.contains('АО "ЛЕНМОРНИИПРОЕКТ"|Сотрудник', case=False, na=False)] df_absent['fio_clean'] = df_absent['ФИО'].apply(normalize_fio) return df_absent[['fio_clean', 'Вид_отсутствия']].dropna(subset=['fio_clean']) else: return None except Exception as e: print(f"[⚠️] Ошибка SQL-выгрузки отсутствий за {date_str}: {e}") return None def process_scud_anomalies(df_scud, exceptions=None): """ Вычисляет 'Первую активность' и маркирует аномалии СКУД. Если 'Начало дня' == 'Нет входа', но есть любая физическая активность — записывает первейшее время в 'Первая_активность', сбрасывает 'Пришел' в False и выставляет флаг аномалии. """ if exceptions is None: exceptions = load_exceptions() start_col = 'Начало_дня' if 'Начало_дня' in df_scud.columns else ('Начало дня' if 'Начало дня' in df_scud.columns else None) end_col = 'Конец_дня' if 'Конец_дня' in df_scud.columns else ('Конец дня' if 'Конец дня' in df_scud.columns else None) status_col = 'Статус' if 'Статус' in df_scud.columns else None first_activities = [] anomaly_flags = [] is_present_flags = [] for _, row in df_scud.iterrows(): fio = str(row.get('Сотрудник', row.get('fio_raw', ''))).strip() fio_clean = normalize_fio(fio) dept = str(row.get('Подразделение', '')).strip() pos = str(row.get('Должность', '')).strip() val_start = str(row.get(start_col, '')).strip() if start_col else '' val_end = str(row.get(end_col, '')).strip() if end_col else '' val_status = str(row.get(status_col, '')).strip().lower() if status_col else '' # Извлечение первого зафиксированного события из сырых логов (pLogData), если передавалось raw_first_event = row.get('raw_first_event', None) if pd.isna(raw_first_event) or str(raw_first_event).strip() in ['', 'None', 'nan', '00:00:00']: raw_first_event = None has_no_in = (val_start in ['нет входа', 'none', 'nan', '', '00:00:00', '00:00']) has_no_out = (val_end in ['нет выхода', 'none', 'nan', '', '00:00:00', '00:00']) first_act = '—' anom_flag = 'NONE' # Стандартная проверка присутствия is_present = not ('отсутствовал' in val_status or has_no_in) # ЛОГИКА ВЫЧИСЛЕНИЯ ПЕРВОЙ АКТИВНОСТИ И ДЕТЕКТИРОВАНИЯ АНОМАЛИИ if has_no_in: # Если нет входа, но есть проход внутри или зафиксирован выход if raw_first_event is not None or not has_no_out: first_act = str(raw_first_event) if raw_first_event else val_end anom_flag = 'ANOMALY_NO_IN_HAS_ACTIVITY' # ЖЕСТКАЯ ВАЛИДАЦИЯ: Если человек не исключен официально — сбрасываем фейковый Пришел = True if not is_excluded(fio, dept, pos, exceptions): is_present = False else: first_act = '—' is_present = False first_activities.append(first_act) anomaly_flags.append(anom_flag) is_present_flags.append(is_present) df_scud['Первая_активность'] = first_activities df_scud['anomaly_flag'] = anomaly_flags df_scud['Пришел'] = is_present_flags return df_scud def load_scud_data(target_date_type="today"): """Загружает файл СКУД за 'today' или 'yesterday' и выполняет валидацию аномалий.""" target_date = DATE_TODAY if target_date_type == "today" else DATE_YESTERDAY scud_path = find_dated_file("Сотрудники", target_date, search_dirs=[SCUD_DIR]) if not scud_path: scud_path = find_dated_file("Сотрудники", DATE_TODAY, search_dirs=[SCUD_DIR]) if not scud_path: raise FileNotFoundError(f"Файл СКУД [{target_date_type}] за {target_date} не найден в {SCUD_DIR}!") df_scud = pd.read_excel(scud_path) exceptions = load_exceptions() df_scud['fio_raw'] = df_scud['Сотрудник'].astype(str) if 'Сотрудник' in df_scud.columns else df_scud[df_scud.columns[0]].astype(str) df_scud['fio_clean'] = df_scud['fio_raw'].apply(clean_scud_fio_light) # Применяем обработчик аномалий и первой активности df_scud = process_scud_anomalies(df_scud, exceptions=exceptions) df_scud['is_excluded'] = df_scud.apply( lambda r: is_excluded(r.get('Сотрудник', ''), r.get('Подразделение', ''), r.get('Должность', ''), exceptions), axis=1 ) return df_scud def load_all_data(): """ Загружает слитные датасеты за Сегодня и за Вчера. Если данных за Сегодня нет, возвращает для них None. """ df_scud_today = load_scud_data(target_date_type="today") try: df_scud_yesterday = load_scud_data(target_date_type="yesterday") except FileNotFoundError: df_scud_yesterday = df_scud_today.copy() # Загружаем 1С за Сегодня (может быть None) df_staff_today = load_staff_data(DATE_TODAY) df_absent_today = load_absent_data(DATE_TODAY) # Загружаем 1С за Вчера (гарантированно есть) df_staff_yesterday = load_staff_data(DATE_YESTERDAY) df_absent_yesterday = load_absent_data(DATE_YESTERDAY) return ( df_scud_today, df_scud_yesterday, df_staff_today, df_absent_today, df_staff_yesterday, df_absent_yesterday )