⚡️ Магия Mixture of Experts: Локальная LLM на 35 млрд параметров

Аватар автора
YAinvest AI
Что если мощный искусственный интеллект сможет работать на вашем ПК без тормозов? В этом видео мы разберем новую локальную LLM с архитектурой Mixture of Experts (смесь экспертов). Эта нейросеть хранит знания 35 млрд параметров, но использует всего 3 млрд для быстрых ответов. Вы узнаете, как запустить гигантскую модель, даже если у вас не хватает видеопамяти и карточка на 80 ГБ сгибается под весом ИИ. Мы применим хитрости настройки контекста, чтобы снять ограничения железа. Я покажу, как этот AI-агент пишет чистый код с первой попытки, переводит тексты и обладает потрясающим зрением для анализа старых изображений. Погружаемся в магию новых нейросетей на канале YAinvest AI. Наливайте чай, будет очень интересно, а если вам нужен собственный AI-агент — обращайтесь, помогу собрать под ваши нужды! 00:00 - Вступление: Искусственный интеллект и эпоха закрытых нейросетей. 01:05 - Архитектура Mixture of Experts: Локальные LLM на 35 млрд параметров. 02:10 - Проблема видеопамяти: Как запустить гигантскую нейросеть на ПК. 03:15 - Оптимизация ИИ: Настройка контекста и решение проблем с VRAM. 04:20 - Генерация кода и перевод: Тестируем локальные AI агенты. 05:30 - Компьютерное зрение: Как AI анализирует старые изображения.

0/0


0/0

0/0

0/0

0/0