Штучний інтелект у кіберзагрозах соціальної інженерії: аналіз ризиків, експериментальна оцінка засобів виявлення та рекомендації щодо протидії

Анотація

Розвиток генеративного штучного інтелекту змінює операційну модель соціально-інженерних атак: зростає рівень автоматизації, персоналізації та реалістичності повідомлень. У статті систематизовано напрями застосування генеративних моделей на кожному етапі соціально-інженерної атаки. Обґрунтовано, що ключова зміна полягає не у підвищенні якості окремого фішингового повідомлення, а в переході до масштабованих адаптивних кампаній, у яких кожна ціль отримує унікальний контент, а подальші дії формуються на основі її реакції. Виконано експериментальне дослідження методів виявлення соціально-інженерного контенту на текстовому корпусі повідомлень, контрольній підвибірці повідомлень, згенерованих засобами штучного інтелекту, а також на аудіо- та відеонаборах даних. Порівняно два евристичні базові підходи із чотирма моделями машинного навчання; досліджено вплив ступеня незбалансованості класів, розмірності простору ознак і порога прийняття рішення. На класичному фішингу перший евристичний базовий підхід демонструє помірне значення гармонійного середнього точності та повноти, тоді як градієнтний бустинг і рекурентна нейронна мережа з механізмом уваги забезпечують істотно вищу результативність, причому найкращий результат належить рекурентній мережі. На повідомленнях, згенерованих засобами штучного інтелекту, гармонійне середнє точності та повноти для базового евристичного підходу різко знижується, що свідчить про деградацію традиційних лінгвістичних індикаторів. За переходу від збалансованого співвідношення класів до сильно незбалансованого точність градієнтного бустингу суттєво зменшується, повнота знижується помірно, а площа під кривою «точність – повнота» скорочується. Запропоновано дворівневу каскадну архітектуру детектора, яка за наднизької частки хибнопозитивних спрацювань забезпечує високу повноту виявлення з незначною середньою затримкою обробки. Сформульовано практичні рекомендації щодо багаторівневого захисту та управління ризиками систем штучного інтелекту.