Лекция 5 "Трансформеры. Часть 1." Межфакультетский курс для всех студентов МГУ

Пятое занятие на МФК «Нейронные сети и их применение в научных исследованиях» для студентов МГУ. Преподаватель: Виктор Немченко Межфакультетский курс "Нейронные сети и их применение в научных исследованиях" – проводится для студентов МГУ с целью повышения общего уровня эрудиции. Материал лекций не содержит сложных формул и терминов и будет понятен широкой аудитории. 00:00 Заставка 00:25 В предыдущих сериях... 01:03 Лекция 5. Трансформеры 10:15 Архитектура "трансформер" 17:01 self-supervised learning 19:48 Нейросеть BERT 28:35 Emerging Properties in Self-Supervised Vision Transformers* (нейросеть DINO) 30:04 wav2vec 31:49 Научные задачи с применением нейронной сети #наука_и_исследования