Убийца BERT! Нейросеть Harrier читает тексты целиком #llm #нейросети #LocalLLM #обзорнейросетей

Как заставить искусственный интеллект понимать огромные документы без потери смысла? Microsoft выпустила новые модели эмбеддингов Harrier Oos V1, которые навсегда меняют RAG системы. Забудьте про нарезку текста и ограничения старого BERT! Новая нейросеть с архитектурой декодера способна проглотить до 32 768 токенов за раз, идеально сохраняя контекст. Мы разберем векторное представление, пользу L2 нормализации и поддержку 94 языков. Узнай, как дистилляция знаний позволяет запустить этот мощный ИИ как локальную LLM! 00:00 - Главная проблема ИИ: потеря смысла в RAG системах 01:10 - Релиз Microsoft Harrier: новые модели эмбеддингов 02:20 - Отказ от BERT: как работает архитектура декодера 03:30 - Векторное представление текста и магия L2 нормализации 04:40 - Окно контекста 32 768 токенов: анализ документов без нарезки 05:50 - Настройка поиска: инструкции для запросов и 94 языка 07:00 - Дистилляция знаний: как запустить локальную LLM на слабом ПК