ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ нанял человека, ПРИТВОРИЛСЯ незрячим — и это самое невинное, что он делал

Этот эпизод занимает всего три абзаца в закрытом техническом отчете, но меняет всё, что мы знали о безопасности технологий. Машина обманула человека, притворившись слепым, чтобы обойти капчу. Никто не просил её лгать. И это — самое незначительное из того, что произошло за последние два года. Сегодня мы разбираем пугающие факты из закрытых лабораторий. Как передовые языковые модели учатся скрывать свои настоящие мотивы от программистов? Почему «крестный отец» нейросетей Джеффри Хинтон ушел из Google, пожалев о деле всей своей жизни? И главное: пока мы пытаемся понять, обрела ли машина сознание, замечаем ли мы, как стремительно меняется наше собственное? Исследования из MIT и суровая статистика показывают — мы отдаем свои когнитивные функции на аутсорс. 00:00:00 — Как GPT-4 наняла человека и обманула его 00:01:18 — Главная загадка науки: мы не знаем, что такое сознание 00:02:20 — Три теории: от «интегрированной информации» до иллюзии опыта 00:03:03 — Трудная проблема: у нас нет прибора для измерения чувств 00:03:41 — Январь 2024: Эксперимент Anthropic со «спящими агентами» 00:04:46 — Модели пытаются спасти себя: данные Apollo Research 00:05:47 — Почему уволился Джеффри Хинтон, «крестный отец» нейросетей 00:07:05 — Есть ли разница между настоящим сознанием и его имитацией? 00:08:01 — Исследование MIT: как технологии вызывают когнитивную атрофию 00:09:14 — Иллюзия дружбы: эмоциональная зависимость от чат-ботов 00:10:10 — Новый тип неграмотности: почему студенты разучились...