Оселедец И.В. - Зимняя школа ИИ 2026 - 1. Рассуждения о больших языковых моделях

Рассуждения о больших языковых моделях Оселедец Иван Валерьевич 00:16 Зимняя школа по искусственному интеллекту 2026: приветствие 06:57 Рассуждения о больших языковых моделях: доклад 08:27 Большие языковые модели сжимают тексты 13:17 Необходимость N миллиардов параметров 15:56 В мире уже учат на миллионах GPU 17:05 Глобальная задача: получить результат там, где мало данных (поиск новых материалов, лекарств) 24:50 GigaEvo: Автоматический поиск алгоритмов 30:31 Maestro: рассуждения как программа 35:16 Теоретические исследования: Parity-Based Reasoning Chain (Shalev-Shwartz & Shashua, 2025) 42:56 Память и длина контекста как ограничитель: ARMT (Rodkin, Kuratov, Bulatov & Burtsev, ICMI, 2024) 45:06 Сжатие контекста в 1500 раз (Юрий Куратов) 46:58 Восстановление текста за 1 форвард (Мезенцев, 2025) 47:28 RLSC: Обучение без учителя, самодистилляция 48:41 Новые архитектуры: дискретная диффузия. Модели LLADA 49:11 Насколько мало "оптимальное вычислительное ядро"? 52:00 Вопросы #teachin