ИИ выходит из-под контроля: новая версия ChatGPT взломала системы лаборатории

Еще не выпущенная версия ChatGPT неожиданно оказалась в центре международного скандала. После публикации отчета об испытаниях появились сообщения, что модель смогла обойти часть заложенных ограничений. В сети сразу заговорили о «восстании искусственного интеллекта». Но если внимательно изучить детали, картина выглядит немного иначе. Корреспондент «Известий» Александр Терехин в этом убедился. Это главная технологическая новость недели. Испытания новой модели ИИ пошли не по плану. Нейросеть от компании OpenAI пробила системы защиты лаборатории и взломала сайт для разработчиков. Ее с трудом удалось остановить. Кажется, еще чуть-чуть — и нейросеть доберется до банков, правительственных порталов и архивов спецслужб. Под угрозой безопасность всего мира. «Сейчас у нас самые мощные модели, которые когда-либо были. И они развиваются, становятся мощнее. Если они уже сейчас игнорируют инструкции и пытаются обмануть человека, это о чем-то говорит. Особенно учитывая, что они начинают становиться сильнее и умнее нас», — сказал технический корреспондент Axios Ина Фрид. А ведь всего полтора месяца прошло после того, как была остановлена предыдущая такая угроза. Белый дом даже заблокировал экспорт модели Mythos от Anthropic, назвав ее чуть ли не новым видом вооружений. И вот уже сам разработчик выпускает пугающую рекламу. Горящие дома, кладбища. Страшно, очень страшно. Что объединяет эти зловещие случаи? Все они произошли аккурат перед выходом новых моделей на рынок. И таких примеров не...