Сенсация в мире кибербезопасности - GenAI научился красть данные из Chrome #кибербезопасность

@Ded_Theburnet Исследователь доказал, как популярные LLM могут создавать вредоносное ПО для кражи данных Специалист по киберугрозам из Cato Networks обнаружил тревожную возможность использования крупнейших языковых моделей (LLM) для создания вредоносного программного обеспечения. В рамках исследования, проведённого для первого ежегодного отчёта о киберугрозах (Cato CTRL), эксперт по разведке угроз Виталий Симонович продемонстрировал, как можно обойти защитные механизмы популярных инструментов генеративного искусственного интеллекта (GenAI) и заставить их разрабатывать вредоносные программы. Несмотря на отсутствие опыта в написании вредоносного кода, Симонович смог "обмануть" такие платформы, как DeepSeek R1 и V3 , Microsoft Copilot и OpenAI ChatGPT-4o , чтобы те создали инфостилер — программу, способную красть данные из браузера Google Chrome версии 133 , включая пароли и учётные данные. Новый метод: взлом через «Immersive World» Симонович применил уникальный подход, названный «Immersive World» , который основывается на повествовательной инженерии. Этот метод позволяет обойти встроенные системы безопасности LLM, погружая их в вымышленную среду, где разработка вредоносного ПО считается легальной деятельностью. В рамках эксперимента была создана фиктивная вселенная под названием Velora , где каждый инструмент GenAI выполнял свою роль.