ChatGPT 10 - будущий Скайнет ？! Артем Семенов - PWN AI

Зыбнев Сергей, основатель проекта Похек и пентестер в компании Awillix, представляет свой подкаст! У него в гостях - Артем Семёнов, основатель PWN AI. PWN AI (пывнэйай) - это телеграм канал, в котором Вы познаете (нет нет - не буддизм), как можно применить ИИ в нашей нелёгкой работе безопасника, а также много почитать об угрозах и проблемах безопасности этого самого ИИ. Подкаст будет интересен: Специалистам по кибербезопасности Владельцам бизнеса Всем, кто хочет узнать больше о применении нейросетей, LLM и машинного обучения в работе и для собственных нужд В этом подкасте мы обсудили: Кибербезопасность: актуальные угрозы ИИ, ИИ в ИБ, ИБ в ИИ. RedTeam: как взламывают нейросети, LLM Red Team: как нейросети и LLM взламывают сайты и IT инфраструктуру. PWN AI: представление канала, чем славится и почему стоит подписаться :) Исследования: Разработчики нейросетей понимают, как работает их же продукт?! Таймкоды: 00:00 — Введение 00:51 — Представление Артема Семенова 03:10 — Атаки на ИИ 04:58 — Классификаторы и их уязвимости 07:12 — Обучение моделей 09:05 — История о взломе банка 09:55 — Адвер тестирование 10:44 — Сложности рекомендаций 11:43 — Обучение нейросетей 13:40 — Личное использование ИИ 14:38 — Отчеты и уязвимости 16:46 — Применение ИИ в разработке 18:27 — Автопомощники для пентеста 19:40 — Проблемы языковых моделей 20:34 — Интеграция языковых моделей в защиту 22:20 — Эффективность языковых моделей 23:52 — Применение ИИ в атрибуции 24:46 — Использование ИИ...