Том 3

Permanent URI for this collection

Browse

Recent Submissions

Now showing 1 - 6 of 6
  • Item
    Generalization of cross-entropy loss function for image classification
    (2020) Andreieva, Valeria; Shvai, Nadiya
    Classification task is one of the most common tasks in machine learning. This supervised learning problem consists in assigning each input to one of a finite number of discrete categories. Classification task appears naturally in numerous applications, such as medical image processing, speech recognition, maintenance systems, accident detection, autonomous driving etc. In the last decade methods of deep learning have proven to be extremely efficient in multiple machine learning problems, including classification. Whereas the neural network architecture might depend a lot on data type and restrictions posed by the nature of the problem (for example, real-time applications), the process of its training (i.e. finding model’s parameters) is almost always presented as loss function optimization problem. Cross-entropy is a loss function often used for multiclass classification problems, as it allows to achieve high accuracy results. Here we propose to use a generalized version of this loss based on Renyi divergence and entropy. We remark that in case of binary labels proposed generalization is reduced to cross-entropy, thus we work in the context of soft labels. Specifically, we consider a problem of image classification being solved by application of convolution neural networks with mixup regularizer. The latter expands the training set by taking convex combination of pairs of data samples and corresponding labels. Consequently, labels are no longer binary (corresponding to single class), but have a form of vector of probabilities. In such settings cross-entropy and proposed generalization with Renyi divergence and entropy are distinct, and their comparison makes sense. To measure effectiveness of the proposed loss function we consider image classification problem on benchmark CIFAR-10 dataset. This dataset consists of 60000 images belonging to 10 classes, where images are color and have the size of 32 x 32. Training set consists of 50000 images, and the test set contains 10000 images. For the convolution neural network, we follow [1] where the same classification task was studied with respect to different loss functions and consider the same neural network architecture in order to obtain comparable results. Experiments demonstrate superiority of the proposed method over cross-entropy for loss function parameter value a < 1. For parameter value a > 1 proposed method shows worse results than crossentropy loss function. Finally, parameter value a = 1 corresponds to cross-entropy.
  • Item
    Обчислення дивiзорiв на гiперелiптичнiй кривiй та їхнє прикладне застосування на мовi Python
    (2020) Бойко, Денис
    В роботi розглядаються гiперелiптичнi кривi роду g > 1, дивiзори на них та їхнє прикладне застосування на мовi програмування Python. Наведено основнi необхiднi означення та вiдомi властивостi про гiперелiптичнi кривi, представлено поняття полiномiальної функцiї, переведення його у єдину форму, а також поняття рацiональної функцiї, норми, степеня та спряженого до многочлена. Цi факти потрiбнi для обчислення порядку точок функцiй, тим самим i для швидкого та ефективного обчислення дивiзорiв. Продемонстровано означення дивiзора на гiперелiптичнiй кривiй, наведено основнi вiдомi властивостi дивiзора. Наведено приклад обчислення дивiзора полiномiальної функцiї, описано зведенi та напiвзведенi дивiзори, доведено теореми про iснування такого напiвзведеного дивiзора, котрий не є єдиним, а також iснування єдиного зведеного дивiзора, який еквiвалентний початковому. Зокрема, напiвзведений дивiзор може бути зображений у виглядi НСД дивiзорiв двох полiномiальних функцiй. Також продемонстрований факт, що кожний зведений дивiзор можна єдиним способом зобразити у виглядi пари многочленiв [a(x), b(x)], це i є зображенням Мамфорда, наведено декiлька прикладiв його обчислення. Описано алгоритм Кантора обчислення суми двох дивiзорiв, його «композицiйної» частини, за допомогою якого утворюється напiвзведений дивiзор (який не є єдиним), а також редукцiйної частини, котра зводить напiвзведений дивiзор у єдиний зведений. Описано особливий випадок "композицiйної" частини: подвоєння дивiзора, що суттєво зменшує час роботи алгоритму. Доведено коректнiсть алгоритмiв, наведено приклади застосувань. Основним результатом роботи є розробка обчислення дивiзора полiномiальної функцiї, зображення Мамфорда, алгоритму Кантора у виглядi програмного коду на мовi програмування Python. Таким чином, метою роботи є демонстрацiя можливостi легко та ефективно використовувати описанi алгоритми для подальшої роботи з дивiзорами на гiперелiптичнiй кривiй, в тому числi для розробки криптосистеми, цифрового пiдпису на основi гiперелiптичних кривих, атаки на таку криптосистему.
  • Item
    Simulating stochastic diffusion processes and processes with "market" time
    (2020) Boluh, Kateryna; Shchestyuk, Nataliia
    The paper focuses on modelling, simulation techniques and numerical methods concerned stochastic processes in subject such as financial mathematics and financial engineering. The main result of this work is simulation of a stochastic process with new market active time using Monte Carlo techniques. The processes with market time is a new vision of how stock price behavior can be modeled so that the nature of the process is more real. The iterative scheme for computer modelling of this process was proposed. It includes the modeling of diffusion processes with a given marginal inverse gamma distribution. Graphs of simulation of the Ornstein-Uhlenbeck random walk for different parameters, a simulation of the diffusion process with a gamma-inverse distribution and simulation of the process with market active time are presented.
  • Item
    Математичні моделі перестрахування
    (2020) Жук, Тетяна
    Страхування передбачає фiнансову безпеку та захист незалежностi особи, що застраховується. Принципи його досить простi: страхування захищає iнвестицiї, життя та майно. Ви регулярно сплачуєте певну суму грошей в обмiн на гарантiю, що у разi непередбачених обставин (нещасний випадок, хвороба, смерть, пошкодження майна) страхова компанiя захистить вас у виглядi фiнансової компенсацiї. Перестрахування в свою чергу досить суттєво впливає на забезпечення фiнансової стiйкостi страховика, оскiльки по кожному з видiв страхування iснує ймовiрнiсть великих та дуже великих ризикiв, якi одна страхова компанiя не може повнiстю взяти на себе. У разi портфеля iз дуже великими ризиками компанiя може обмежити їх прийняття або вiддати частину у перестрахуваннi. Обрання шляху цiлком залежить вiд полiтики компанiї та виду страхування. У цiй роботi розглянуто основнi типи перестрахування та їх математичнi моделi. Проведено аналiз ймовiрностi банкрутства та оптимальностi використання того чи iншого типiв перестрахування. Також наведено декiлька прикладiв та основних результатiв дослiджень цiєї теми. Сьогоднi страхова iндустрiя активно набуває популярностi як в Українi, так i в усьому свiтi. Вiдповiдно за великої конкуренцiї кожен страховик бажає отримати максимальний прибуток за мiнiмальних зусиль.
  • Item
    Рандомізовані алгоритми перевiрки чисел на простоту
    (2020) Козачок, Олександра
    Рандомiзацiя та ймовiрнiсний пiдхiд у побудовi алгоритмiв займають помiтне мiсце. Через обмеженiсть обчислювальних ресурсiв та складнiсть багатьох задач у деяких випадках отримати точнi результати є неможливим або занадто витратним, тому результати можуть мiстити деяку невизначенiсть. Також у деяких випадках недетермiнованiсть алгоритму є його перевагою, наприклад у задачах криптографiї, або корисною характеристикою, як-от у симуляцiях процесiв, що мiстять невизначенi параметри. У цiй роботi ми розглядаємо основнi поняття та твердження, що стосуються рандомiзованих алгоритмiв перевiрки чисел на простоту, наводимо необхiднi теореми.
  • Item
    Число форсування в нуль деяких родин графів
    (2020) Петрук, Вікторія
    Статтю присвячено дослiдженню числа форсування в нуль деяких родин графiв. Концепцiя форсування в нуль є порiвняно новою темою дослiджень у дискретнiй математицi, яка вже має певнi практичнi застосування, зокрема, число форсування в нуль використовується у дослiдженнях мiнiмального рангу матриць сумiжних графiв. Також процес форсування в нуль є одним iз прикладiв процесiв поширення на графах. Такi процеси часто використовують для моделювання технiчних або соцiальних процесiв i в iнших сферах: в статистичнiй механiцi, фiзицi, аналiзi соцiальних мереж тощо.