Семинар 9. Методы оптимизации круглых тензоров

Аватар автора
BRAIn Lab: научные семинары
Докладчик: Андрей Веприков — студент 5 курса ФПМИ, сотрудник лаборатории BRAIn О чём пойдёт речь? При обучении современных нейронных сетей все чаще параметры (nn.Module ю ноу) имеют вид матриц (двумерных тензоров), однако классические методы оптимизации никак не учитывают эту структуру, так как любимые AdamW и SGD (sign SGD) работают в режиме element-wise. На семинаре обсудим два ключевых сюжета: 1) Steepest Descent для матриц — все знают, что если использовать вторую норму в наискорейшем спуске для векторных параметров, то мы получаем SGD. Если же использовать бесконечную норму, то получается sign SGD. И что, на этом всё? Ничего подобного! При переходе в двумерный аниме мир матриц у нас появляется тонна различных норм, которые позволяют строить на первый взгляд совершенно разные, но на самом деле удивительно похожие алгоритмы оптимизации. 2) Квази-Ньютоновские методы в матричной форме — в матричном аниме мире не так очевидно, как должны выглядеть квази-ньютоновские методы, ведь параметры уже имеют размеренность матриц. Чем же нам приближать Гессиан? Ответ прост двумя матрицами! На семинаре мы обсудим, какая интуиция и математика стоят за этим подходом, и как же с этим всем связаны нормы из первого раздела. Также обсудим: 🔸Как алгоритм Ньютона-Шульца помогает GPT-4o выдавать вам лучший рецепт жареных пельменей с сыром, зеленью и сметаной? 🔸Как эффективно приближать Гессиан функции ошибки при обучении современных нейронных сетей? 🔸Передовые (NDA) результаты...

0/0


0/0

0/0

0/0

0/0