Выявление системных уязвимостей LLM | Александр Чибисов | Магия Нейросетей

Все ссылки в описании урока 👇 Ведущий: Александр Чибисов ——————————————— Сегодня поговорим об уязвимостях в больших языковых моделях. Большие языковые модели могут нести риски предвзятости, нарушения конфиденциальности и создания недостоверной информации, требуя внимания к безопасности и этике в их разработке и использовании. ———————————————— 🦔 Подпишись на Telegram-канал *CyberYozh* ———————————————— *Курсы от CyberYozh Academy* Образовательная платформа CyberYozh Education ———————————————— Инструменты для пробива данных c искусственным интеллектом ———————————————— Таймкоды: 00:00 – Какие преимущества и недостатки мы наблюдаем у нейросетей сейчас 01:14 – Оперативное внедрение - главная уязвимость современных ИИ 03:20 – Вывод нежелательного контента в ответ Jailbreak 04:37 – Игнорирование контекста 05:34 – Атака с использованием стиля 07:03 – Повторение инструкций. Отвлечение внимания 08:17 – Атака с несколькими примерами. Атака по словарю 09:00 – Когнитивный хакинг. Переполнение контекста 10:00 – Итоги ———————————————— Дисклеймер! Данное видео имеет исключительно образовательный характер. Мы не пропагандируем незаконные действия и не несем ответственности за их использование. Вся информация, предоставленная в наших видео, должна использоваться только в целях самообразования и повышения квалификации. Мы настоятельно рекомендуем соблюдать законы и уважать права других людей. С уважением, Команда CyberYozh Мы за свободный интернет, но будем очень...