Методи регуляризації моделей машинного навчання

Simple item page
dc.contributor.authorГордуз, Олександрuk_UA
dc.date.accessioned2025-03-19T10:31:45Z
dc.date.available2025-03-19T10:31:45Z
dc.date.issued2024
dc.descriptionThe given work is devoted to the problem of overfitting in machine learning models. Such models learn the training data rather than its patterns, and fail to generalize on the out-of-distribution data. While increasing the dataset size helps with the problem, in practice it’s hard or even impossible to gather enough labeled data. The weight decay method is described, which includes L1, L2 and ElasticNet regularization, along with their advantages and disadvantages. Dropout is another regularization method, which is applied to deep neural networks. It works by randomly turning off some neurons during training, allowing, at the inference time, for the ensemble effect produced by a single model. Additionally, the work highlights other regularization methods, such as tuning hyperparameters for decision tree models, using smoothed labels, or adding noise to features.en_US
dc.description.abstractВ доповіді розглянута проблема перенавчання, коли модель машинного навчання вивчає шум тренувальної вибірки та погано узагальнюється на тестову вибірку. Її можна вирішити або збагативши датасет, або змінивши тренувальний пайплайн та/або гіперпараметри моделі. Важливо зазначити, що різні моделі потребують різних методів регуляризації, тому перед їх застосуванням варто дослідити переваги та недоліки кожного з них.uk_UA
dc.identifier.citationГордуз О. С. Методи регуляризації моделей машинного навчання / Гордуз О. С. // Теоретичні та прикладні аспекти побудови програмних систем : працi 15 міжнародної науково-практичної конференції, Київ, 23-24 грудня 2024 р. / [за заг. ред.: М. М. Глибовця, Т. В. Панченка та iн. ; Факультет інформатики Національного університету "Києво-Могилянська академія" та ін.]. - Київ : НаУКМА, 2024. - C. 56-58.uk_UA
dc.identifier.urihttps://ekmair.ukma.edu.ua/handle/123456789/34036
dc.language.isoukuk_UA
dc.publisherНаціональний університет "Києво-Могилянська академія"uk_UA
dc.relation.sourceТеоретичні та прикладні аспекти побудови програмних систем : працi 15 міжнародної науково-практичної конференції, Київ, 23-24 грудня 2024 р.uk_UA
dc.statusfirst publisheduk_UA
dc.subjectмашинне навчанняuk_UA
dc.subjectперенавчання (overfit)uk_UA
dc.subjectout-of-distribution даніuk_UA
dc.subjectматеріали конференціїuk_UA
dc.titleМетоди регуляризації моделей машинного навчанняuk_UA
dc.title.alternativeMethods of regularization of machine learning modelsen_US
dc.type Conference materialsuk_UA
Files
Original bundle
Now showing 1 - 1 of 1
Thumbnail Image
Name:
Horduz_Metody_rehuliaryzatsii_modelei_mashynnoho_navchannia.pdf
Size:
1.18 MB
Format:
Adobe Portable Document Format
Download
License bundle
Now showing 1 - 1 of 1
No Thumbnail Available
Name:
license.txt
Size:
1.71 KB
Format:
Item-specific license agreed upon to submission
Description:
Download
Collections
Теоретичні та прикладні аспекти побудови програмних систем: 15 Міжнародна науково-практична конференція
Факультет інформатики