"Эффективные модели и оптимизация LLM". Лекция Егора Швецова

Лекция от приглашённого эксперта: "Эффективные модели и оптимизация LLM". Докладчик: Егор Швецов – Руководитель направления Центра ИИ Сколтеха. 00:00:01 О лекторе и теме лекции 00:02:25 Motivation:Computation cost 00:20:29 Software meets Hardware 00:29:02 Data types 00:45:10 Quantization 01:19:31 Mixed precision 01:47:41 Binarization 01:53:01 What is next 01:53:32 Sparsification 02:01:43 Pruning Vs. Quantization? 02:07:04 LLM sparsification