Методологический семинар ИСИ СО РАН. Заседание от 14 апреля 2026 года

Докладчик: Дмитрий Александрович Кондратьев, к.ф.-м.н., научный сотрудник Лаборатории теоретического программирования ИСИ СО РАН Тема доклада: «Комплексный подход к формальной верификации систем искусственного интеллекта, основанных на нейронных сетях» Аннотация: В настоящее время искусственный интеллект, основанный на нейронных сетях, стал активно применяться в программном обеспечении систем, к надежности и корректности которых предъявляются повышенные требования. В качестве примера таких систем можно привести беспилотные авиационные системы, беспилотные транспортные системы, роботизированные системы, экспертные системы в банковской сфере и т.д. Традиционно для проверки корректности и надежности программного обеспечения применяется тестирование. Но известно, что тестирование не может гарантировать корректность программ. Это может сделать только формальная верификация, которая позволяет формально доказать, что программа корректна относительно своих спецификаций. Формальную верификацию можно применить и к нейронным сетям, чтобы сделать основанный на них искусственный интеллект доверенным. В отличие от тематики формальной верификации программного обеспечения общего назначения, тематика формальной верификации нейронных сетей начала активно развиваться относительно недавно. Итого, проблема формальной верификации систем искусственного интеллекта, основанных на нейронных сетях, является актуальной. В данном докладе будет рассмотрено наше исследование по созданию комплексного...