Нейропоиск информации по базе знаний медиа агентства / Разработка QnA-бот на базе локальной LLM+RAG

Рассказываем о нашем решении победителе международного хакатона "Цифровой прорыв: сезон ИИ" 2024 года. Вы узнаете, как мы разработали QnA бота с технологиями LLM+RAG под капотом. Под капотом у бота только локальные опенсорсные модели. Все работает без вызова проприетарных/платных API. В этом видео мы рассказываем: - Про проблематику кейса - Об архитектуре решения LLM+RAG - О мультимодальном поиске и анализе информации VLM+RAG - Про метрики оценки качества - Об эффектах от внедрения Демонстрируем веб-интерфейс решения и функции AI-поиска и ответов на вопросы по текстовым, графическим, табличным документам. Показываем способности проводить арифметические операции и анализировать информацию используя визуальную большую языковую модель. Результаты впечатляют! Новая эра поиска информации наступила! Пишите в комментариях, что вы думаете о нашем решении... #bot