🚀 ИИ в кармане: Тернарные нейросети 1.58 бит меняют всё #llM #нейросети #localllM #обзорнейросетей

Аватар автора
YAinvest AI
Что если мощный искусственный интеллект поселится прямо в смартфоне? Локальные LLM и тернарные модели 1.58 бит меняют всё! Забудьте про гигантские дата-центры, теперь быстрый ИИ работает на вашей ладони. В этом видео разберем, как тернарные веса (магия трех состояний) помогают запускать AI-агентов на чипах Apple Silicon. Вы узнаете, как мудрая оптимизация кэша снимает ограничения железа и позволяет выдавать 27 токенов в секунду на обычном iPhone 17 Pro Max. Погружаемся в мир приватного ИИ на канале YAinvest AI. Наливайте чай, будет интересно, а если вам нужен собственный AI-агент — обращайтесь, помогу собрать под ваши нужды! 00:00 - Вступление: Эра гигантских языковых моделей в облаке. 01:10 - Тернарные модели 1.58 бит: Как работает магия богини Макоши. 02:30 - Проблема памяти ИИ: Почему старое железо тормозит нейросети. 03:45 - Оптимизация под Apple Silicon: Снятие проклятия Мараны. 04:50 - Скорость ИИ на телефоне: 27 токенов в секунду на iPhone. 05:40 - Локальные AI агенты: Приватный искусственный интеллект будущего.

0/0


0/0

0/0

0/0

0/0