KAN NN - neural network Kolmogorov-Arnold

Лекция посвящена нейронным сетям, построенным по алгоритмам Колмогорова-Арнольда. . 00:00:55 Аппроксимация и полиномы Чебышева • Нейронные сети решают классические математические задачи, заменяя сложные функции на более простые. • Полиномы Чебышева используются для аппроксимации сложных функций, заменяя их тригонометрическими функциями. • Эти функции образуют ортогональную группу, что позволяет находить адекватную замену на периоде от минус единицы до единицы. 00:06:13 Различие между Фурье и Чебышевым • Подходы Фурье и Чебышева имеют много общего, но различаются в деталях. • Чебышев использовал ортогональный базис, что позволяет находить адекватную замену на периоде. • Это преимущество особенно важно для задач, где требуется высокая точность и скорость расчета. 00:07:38 Вклад Колмогорова и Арнольда • В 1957 году Колмогоров и Арнольд выпустили статью о представлении непрерывных функций. • Статья описывает теорему, позволяющую заменить сложную функцию набором полиномов. • Эти полиномы должны быть ортогональны, что делает их подходящими для нейронных сетей. 00:11:23 Применение теоремы Колмогорова-Арнольда в нейронных сетях • В 2024 году аспирант Зимина Л.Ю. выпустил статью о реализации теоремы в нейронных сетях. • Теорема позволяет аппроксимировать нелинейные функции с помощью набора полиномов. • Это приводит к созданию нового типа нейронной сети, основанной на теореме Колмогорова-Арнольда. 00:14:43 Преимущества нового типа нейронных сетей • Новый тип нейронной сети позволяет...