A discrete regularization method for hidden Markov models embedded into reproducing kernel Hilbert space

Simple item page
dc.contributor.authorKriukova, Galyna
dc.date.accessioned2018-12-14T14:34:28Z
dc.date.available2018-12-14T14:34:28Z
dc.date.issued2018
dc.description.abstractHidden Markov models are a well-known probabilistic graphical model for time series of discrete, partially observable stochastic processes. We consider the method to extend the application of hidden Markov models to non-Gaussian continuous distributions by embedding a priori probability distribution of the state space into reproducing kernel Hilbert space. Corresponding regularization techniques are proposed to reduce the tendency to overfitting and computational complexity of the algorithm, i.e. Nystr¨om subsampling and the general regularization family for inversion of feature and kernel matrices. This method may be applied to various statistical inference and learning problems, including classification, prediction, identification, segmentation, and as an online algorithm it may be used for dynamic data mining and data stream mining. We investigate, both theoretically and empirically, the regularization and approximation bounds of the discrete regularization method. Furthermore, we discuss applications of the method to real-world problems, comparing the approach to several state-of-the-art algorithms.en_US
dc.description.abstractПрихованi марковськi моделi - добре вiдомi ймовiрнiснi графiчнi моделi для часових рядiв дискретних, частково спостережуваних стохастичних процесiв. Ми розглядаємо спосiб розширити застосування прихованих марковських моделей до негаусових неперервних розподiлiв за допомогою занурення апрiорного ймовiрнiсного розподiлу простору станiв у гiльбертiв простiр iз вiдтворюючим ядром. Вiдповiднi методи регуляризацiї запропоновано для зменшення схильностi до перенавчання та обчислювальної складностi алгоритму, наприклад, метод пiдвибiрки Нiстрома та узагальнене сiмейство регуляризацiйних функцiй застосовуються пiд час побудови обернених ядерної та ознакової матриць. Цей метод може бути використаний у рiзних задачах статистичного виведення, зокрема класифiкацiї, передбачення, iдентифiкацiї, сегментацiї, а також як онлайн-алгоритм - для динамiчної обробки даних та обробки потоку даних. Далi ми наводимо приклад застосування методу до прикладних задач, порiвнюємо запропонований пiдхiд iз сучасними алгоритмами. Метою дослiдження є розробка методiв регуляризацiї обернених задач, що виникають на стадiї навчання ймовiрнiсних графiчних моделей, в яких уявлення про розподiл занурено в гiльбертiв простiр iз вiдтворюючим ядром. Основною методикою реалiзацiї є застосування узагальненого сiмейства регуляризацiйних функцiй та дискретної регуляризацiї, зокрема метод Нiстрома, до вiдповiдних обернених задач обертання матриць ядра та ознак. Задачу вибору вiдповiдних регуляризацiйних змiнних та параметрiв ядра, що визначає гiльбертiв простiр, розв’язано за допомогою методу лiнiйної функцiональної стратегiї, тобто ансамблю рiшень, побудованих iз рiзними значеннями параметрiв. У результатi дослiдження отримано теоретичнi апроксимацiйнi оцiнки та оцiнки складностi алгоритму, а також у процесi чисельного експерименту запропонований пiдхiд було порiвняно з продуктивнiстю iнших алгоритмiв.uk_UA
dc.identifier.citationKriukova G. A discrete regularization method for hidden Markov models embedded into reproducing kernel Hilbert space / G. Kriukova // Могилянський математичний журнал : науковий журнал. - 2018. - Т. 1. - С. 15-20.en_US
dc.identifier.issn2617-7080
dc.identifier.urihttps://ekmair.ukma.edu.ua/handle/123456789/14917
dc.identifier.urihttps://doi.org/10.18523/2617-7080i2018p15-20
dc.language.isoenen_US
dc.relation.sourceМогилянський математичний журнал : науковий журнал. - 2018. - Т. 1uk_UA
dc.statusfirst publisheden_US
dc.subjectHidden Markov modelen_US
dc.subjectdata stream miningen_US
dc.subjectreproducing kernel Hilbert spaceen_US
dc.subjectonline algorithmen_US
dc.subjectregularizationen_US
dc.subjectarticleen_US
dc.subjectприхована марковська модельuk_UA
dc.subjectобробка потоку данихuk_UA
dc.subjectгiльбертiв простiр iз вiдтворюючим ядромuk_UA
dc.subjectонлайн-алгоритмuk_UA
dc.subjectрегуляризацiяuk_UA
dc.titleA discrete regularization method for hidden Markov models embedded into reproducing kernel Hilbert spaceen_US
dc.title.alternativeМетод дискретної регуляризації для прихованих марковських моделей, занурених у гільбертів простір із відтворюючим ядромuk_UA
dc.typeArticleen_US
Files
Original bundle
Now showing 1 - 1 of 1
Thumbnail Image
Name:
Kriukova_A_discrete_regularization_method_for_hidden_Markov_models.pdf
Size:
197.03 KB
Format:
Adobe Portable Document Format
Description:
Download
License bundle
Now showing 1 - 1 of 1
No Thumbnail Available
Name:
license.txt
Size:
7.54 KB
Format:
Item-specific license agreed upon to submission
Description:
Download
Collections
Том 1
Кафедра математики