Промпт-инжиниринг и работа с данными: кейс по внедрению ИИ в бизнес. Делаем ответы LLM стабильными

Делюсь своим опытом промпт-инжиниринга (GPT-3.5 и GPT-4) для решения бизнес-задач, в частности, для классификации и оценки релевантности заголовков видео. Рассказываю о способах повышения качества ответов с помощью примеров (few-shots), возникающих ограничениях и способах их разрешения. Подробно описываю сложности, возникающие при работе с промптами, такие как нестабильность ответов и структуры данных, и делюсь своими решениями этих проблем. Объясняю, как корректировка промптов на основе обратной связи от модели, использование ответов GPT-4 в качестве few-shots для GPT-3.5, явное указание требуемого формата данных и правильное разделение промпта на системную и пользовательскую части помогают достичь оптимальных результатов. Это видео будет полезно для специалистов по внедрению ИИ, разработчиков, data science инженеров и предпринимателей, которые хотят использовать языковые модели для автоматизации и оптимизации различных бизнес-задач. 00:00 Про ценность LLM в проекте 02:28 Про промпт-инжиниринг