Доклад «Темная сторона открытых нейросетей»

Тёмная сторона ИИ: как нейросети с открытым исходным кодом становятся оружием киберпреступников Кирилл Одиноков из лаборатории информационной безопасности Сбера рассказывает о рисках использования общедоступных моделей: от скрытых бэкдоров до генерации вредоносного кода. Узнайте, как злоумышленники атакуют системы с помощью промпт-инъекций, джейлбрейка и фреймворков для ИИ-агентов. Наши эксперты покажут, как защититься: от матрицы MITRE ATLAS и статического анализа до динамических инструментов вроде Lamator. Практические кейсы, методологии и готовые решения для безопасной интеграции ИИ в бизнес. 00:11:03 — Топ-наборы угроз и базы данных для анализа рисков при внедрении ИИ 00:11:30 — MITRE ATLAS: матрица атак на искусственный интеллект 00:14:28 — Как злоумышленники используют IDE и фреймворки для создания вредоносных ИИ-агентов 00:15:23 — Контроль ввода: разделение пользовательских и системных данных, чёрные и белые списки 00:15:48 — Защита вывода: экранирование, SAST-анализ сгенерированного кода 00:17:36 — Изоляция сред выполнения и данных при работе с ИИ 00:19:53 — Статический анализ (фаззинг) и обнаружение подозрительных конструкций в коде 00:20:21 — Lamator: российский инструмент для проверки ИИ на прочность (ИИ против ИИ) 00:24:28 — Где можно использовать ИИ, а где категорически нельзя (жизнь, здоровье, ценности)