Лекция 5 «Трансформеры. Часть 1.» Межфакультетский курс для всех студентов МГУ

Пятое занятие на МФК «Нейронные сети и их применение в научных исследованиях» для студентов МГУ. Преподаватель: Виктор Немченко Межфакультетский курс «Нейронные сети и их применение в научных исследованиях» – проводится для студентов МГУ с целью повышения общего уровня эрудиции. Материал лекций не содержит сложных формул и терминов и будет понятен широкой аудитории. 00:00 Заставка 00:25 В предыдущих сериях... 01:03 Лекция 5. Трансформеры 10:15 Архитектура «трансформер» 17:01 self-supervised learning 19:48 Нейросеть BERT 28:35 Emerging Properties in Self-Supervised Vision Transformers* (нейросеть DINO) 30:04 wav2vec 31:49 Научные задачи с применением нейронной сети #наука_и_исследования