Автоматизоване виявлення ін'єкцій у запитах в застосунках із вбудованими великими мовними моделями (LLM)
Loading...
Date
2026
Authors
Качинська, Ірина
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
У даній роботі розглянуто проблему безпеки iOS-застосунків з вбудованими великими мовними моделями, зокрема загрозу атак типу prompt injection. Проаналізовано особливості локального розгортання LLM на платформі iOS, класифікацію характерних вразливостей мовних моделей та існуючі підходи до їх виявлення і запобігання. На основі проведеного аналізу розроблено модуль автоматизованого виявлення ін'єкцій у запитах, що реалізує чотириступеневий конвеєр обробки: нормалізацію вхідного тексту, детекцію на основі правил та семантичний аналіз із застосуванням вбудувань речень та класифікацію на основі донавченої моделі DistilBERT. Модуль охоплює 14 типів атак, включає валідацію вихідних даних моделі та адаптований до ресурсних обмежень мобільної платформи.
Description
Keywords
безпека iOS-застосунків, великі мовні моделі (LLM), локальне розгортання LLM, семантичний аналіз, промпт-ін'єкція (Prompt Injection), бакалаврська робота