Применение LLM и агентов в бизнесе, гиперперсонализация и доверие к LLM

Дмитрий Маркосьянц, директор по внедрению искусственного интеллекта и эффективности процессов, ОТП Банк. Конференция CNews «Технологии искусственного интеллекта 2026». Спикер поднял вопрос о применении гиперперсонализации с использованием больших языковых моделей (LLM). Вопрос примеров успешного использования, или это пока лишь перспектива. Гиперперсонализация работает хорошо, но для этого необходим так называемый "single customer view" – единый профиль клиента. Необходимо провести эксперимент: загрузить выписку из банка в ChatGPT и посмотреть, как модель проанализирует траты и выделит психологические особенности. Дмитрий также рассказал об успешном опыте использования LLM для анализа переписки в Telegram, предсказывая реакции людей. Спикер поделился своим опытом: при загрузке данных о заказах в LLM он столкнулся с проблемой галлюцинаций модели при запросе точных цифр. В данном случае важна не точность цифр, а анализ психотипа. Для работы с табличными данными рекомендуется использовать аналитические инструменты и агентов, а не полагаться на LLM для всего объема данных. Необходимо сужать область применения, четко описывать систему и интерпретировать данные. Спикер выразил мнение, что дообучение – это путь в никуда, требующий больших затрат. Он считает, что индустрия движется к решению задач промптами. Он указал на необходимость узкопрофильных агентов с жесткой схемой рассуждений (SGR - Guided Reasoning). Дмитрий полагает, что модели развиваются слишком быстро, и...