ИИ-агенты Саморазмножаются💥

Как ИИ-агенты могут самосовершенствоваться и воспроизводить себе подобных? Расскажет Владимир Крылов, доктор технических наук и научный консультант по применению ИИ в разработке ПО. Агенты LLM выполняют критически важные задачи и взаимодействуют со сложными средами, поэтому им часто предоставляются расширенные операционные разрешения. Такое сочетание расширенных возможностей генерации, исполнения кода и операционных разрешений полезно для автономного решения сложных задач. Но оно также вызывает опасения по поводу возникающих рисков безопасности, связанных с саморепликацией агентов LLM. В лекции рассмотрим исследования в этой области, начиная с принципов Асиломара (Asilomar AI Principles, 2017) и заканчивая самыми последними публикациями. Хватит ли способностей моделей к самовоспроизводству и самосовершенствованию для того, чтобы однажды ИИ превзошел человеческий вид? Владимир Крылов ответит на них в отдельном интервью.