Використання моделей на основі механізму уваги для передбачення фінансових часових рядів
Loading...
Date
2026
Authors
Задохін, Дмитро
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Робота присвячена дослідженню застосування моделей на основі механізму уваги для передбачення фінансових часових рядів. Метою роботи є оцінка ефективності архітектури Transformer та її модифікацій у задачі багатогоризонтного прогнозування динаміки фінансових активів за історичними біржовими даними. У межах дослідження було розглянуто моделі Transformer, Informer, PatchTST, iTransformer та FEDFormer, а також запропоновано власну гібридну архітектуру FEiTransformer, що поєднує інверсію вхідного багатовимірного представлення з елементами частотної декомпозиції. Для експериментальної частини було підготовлено високочастотний датасет криптовалютного ринку, агрегований до п’ятихвилинних інтервалів. Моделі навчалися у двох варіантах представлення даних: одновимірному та багатовимірному. Оцінювання виконувалося із застосуванням walk-forward підходу, що дозволило зберегти часову структуру даних та наблизити експеримент до реального сценарію використання прогнозних моделей. Якість моделей аналізувалася за середньоквадратичною похибкою, точністю визначення напряму руху ціни, стабільністю результатів між фолдами та практичною придатністю прогнозів. Результати дослідження показали, що моделі на основі механізму уваги здатні виявляти певні закономірності у фінансових часових рядах, однак їхні передбачення часто мають менше стандартне відхилення порівняно з фактичними значеннями. Це свідчить про схильність моделей формувати згладжені прогнози, зосереджені поблизу нуля. Найкращою з практичної точки зору виявилася модель, яка найменше страждала від цього обмеження та формувала більш виразні прогностичні сигнали.
Description
Keywords
Transformer, Informer, PatchTST, iTransformer, FEDFormer, FEiTransformer, фінансові часові ряди, механізм уваги, walkforward, глибинне навчання, магістерська робота