Оцінювання та оптимізація моделей машинного навчання для edge-обробки інформації мобільної мережі

Анотація

У статті розглянуто задачу оцінювання та оптимізації моделей машинного і глибокого навчання для виконання на edge-вузлах під час обробки інформації мобільної мережі. Актуальність дослідження зумовлена тим, що моделі з близькою прогнозною якістю можуть істотно відрізнятися за затримкою інференсу, розміром артефакту та вимогами до обчислювальних ресурсів, тому вибір лише за показником точності не гарантує придатності до edge-виконання. Метою роботи є формування узгодженого банку deployment-конфігурацій моделей машинного навчання на основі спільного оцінювання прогнозної якості та характеристик виконання до і після оптимізації. Вхідним інформаційним об’єктом є інтегрований вектор стану мобільної мережі сталої структури, що містить статистичні, часові, подієві, ресурсні та якісні характеристики. Для однієї задачі класифікації порівнюються XGBoost, MLP, GRU, TCN та Transformer-подібна модель.

Для нейронних моделей сформовано оптимізовані варіанти із застосуванням динамічного INT8-квантування, структурного pruning та knowledge distillation. Кожна конфігурація характеризується macro-F1, balanced accuracy, recall критичного класу, медіанною та p95-затримкою інференсу і розміром артефакту. Після quality-gate виконується Pareto-відбір конфігурацій, що не поступаються іншим одночасно за якістю, затримкою та розміром. Експериментальне дослідження проведено на синтетичній послідовності з 17 995 часових вікон і чотирма класами стану мережі. Найвищий macro-F1 серед початкових моделей отримано для GRU (0,918) і TCN (0,918). Структурне скорочення TCN зменшило розмір артефакту на 23,0 % і медіанну затримку приблизно на 10 % без погіршення macro-F1. Distillation Transformer-моделі скоротила розмір на 73,4 % і затримку майже вдвічі. Водночас INT8-квантування MLP і GRU суттєво зменшило розмір, але на контрольному CPU-профілі збільшило latency через накладні витрати runtime. Результати показують, що edge-оптимізацію доцільно оцінювати не за одним показником, а за сукупністю predictive quality і характеристик виконання. Сформований банк deployment-конфігурацій може використовуватися як вхідний набір кандидатів для подальшого адаптивного вибору моделі та місця її виконання в edge/cloud-інфраструктурі мобільної мережі.