Вебинар «ИИ под контролем: как выявлять угрозы и защищать системы искусственного интеллекта»

С распространением систем искусственного интеллекта появляются новые классы угроз и уязвимостей, затрагивающие LLM, агентные системы и ML-решения. Такие риски требуют отдельного подхода к анализу и проверке защищенности. На вебинаре эксперты Swordfish Security разберут ключевые угрозы для систем искусственного интеллекта, требования регуляторов и подходы к построению защиты, а также поделятся практическим опытом проведения аудитов безопасности ИИ-решений. Что обсудим: - Этапы жизненного цикла ИИ-систем Рассмотрим процесс обучения моделей машинного обучения от сбора данных до ввода в эксплуатацию. - Атаки на ML и LLM модели на каждом из этапов Разберём уязвимости ML и LLM моделей, а также актуальные техники атак на каждом этапе жизненного цикла. - Защита ML и LLM моделей на каждом из этапов Расскажем как предотвратить перечисленные атаки и какие практики применяются для защиты ИИ-систем. - Инструменты, которые реализуют эту защиту Рассмотрим классы инструментов безопасности ИИ: DAST и LLM Firewall, их назначение и принципы работы. - Оценка безопасности ИИ-систем Поделимся опытом аудита систем ИИ с использованием фреймворка Swordfish: SAIMM и расскажем, как применять его для оценки безопасности. - Регулирование ИИ в России Расскажем, какие требования и отраслевые стандарты применяются к безопасности ИИ-систем и почему их важно учитывать уже сейчас. Спикеры: Александр Гадай, руководитель службы консалтинга Swordfish Security. Денис Данилов, инженер по безопасности приложений