⚡️ ИИ на домашнем ПК: Квантование нейросетей и локальные LLM #llM #нейросети #localllM

Что если божественный искусственный интеллект можно запустить прямо на вашем домашнем ПК без дорогих серверных видеокарт? Локальные LLM и квантование нейросетей делают эту магию доступной каждому! В этом видео я расскажу, как хитрая оптимизация сжимает гигантскую модель с 65 ГБ до 24 ГБ, переводя 16-битные числа в 4-битные. Мы сравним бескомпромиссную мощь полноразмерного ИИ и его сжатую версию в трех тестах: создание игры с нуля, перевод на 80 языков и компьютерное зрение. Вы узнаете, почему уменьшенные нейросети иногда "галлюцинируют", забывая важные механики кода или выдумывая несуществующие символы на картинках. Погружаемся в мир умных технологий на канале YAinvest. Наливайте чай, будет очень интересно, а если вам нужен собственный AI-агент — обращайтесь, помогу собрать под ваши нужды! 00:00 - Вступление: Искусственный интеллект и божественная мощь серверов. 01:10 - Кузница Сварога: Почему для запуска ИИ нужно 68 ГБ видеопамяти. 02:00 - Квантование нейросетей: Мудрость Василисы и сжатие ИИ до 24 ГБ. 03:15 - Создание игр ИИ: Тестируем генерацию кода на "Сапере". 04:30 - Перевод текстов нейросетью: Ошибки и потеря контекста. 05:40 - Компьютерное зрение: Как ИИ ищет водяные знаки и галлюцинирует. 06:50 - Выводы: Какую локальную LLM выбрать для домашнего ПК.