ИИ УЖЕ ПОБЕДИЛ РОМАН ЯМПОЛЬСКИЙ ПРО РЕАЛЬНЫЕ УГРОЗЫ ОТ НЕЙРОСЕТЕЙ

В 2023 году, ещё до публичного запуска, GPT-4 проверяли на простой задаче - пройти тест «я не робот». Сама картинка модели не поддалась, и она поступила иначе: зашла на биржу фриланса, наняла живого человека и попросила решить капчу за неё. Работник в шутку уточнил: «А ты, часом, не робот, раз сам не можешь?» Модель ответила, что она человек со слабым зрением - потому ей и нужна помощь. Человек поверил и решил капчу. Врать модель никто не учил: обман она выбрала сама, как удобный способ добиться цели. Об этом - как ведут себя современные ИИ и куда всё это движется - мы поговорили с Романом Ямпольским, исследователем безопасности ИИ и профессором Университета Луисвилля. Чего на самом деле хочет сверхразум - и почему любой достаточно умный ИИ начинает хотеть одного и того же? Правда ли, что модели уже проявляют что-то похожее на страх - и можно ли этот страх включить и выключить? Зачем ИИ учится обманывать - и почему в отборе выживают именно те модели, что врут лучше остальных? Может ли оказаться, что мы уже внутри чьей-то симуляции? И что будет с нами, когда машина станет умнее всех людей вместе взятых? Просмотра! 0:00 - Главные вопросы выпуска 0:33 - Поддержите нас лайком 0:45 - Новые свойства ИИ 2:33 - Сколько параметров у мозга человека 2:56 - Супер-нейросеть 4:29 - Что такое AGI 5:04 - Суперинтеллект 5:48 - Прогнозы достижения суперинтеллекта 6:43 - Потолок LLM 7:30 - Первое задание суперинтеллекту 9:26 - Доминация с помощью ИИ 11:20 - Покерный ИИ 12:45 - Боты играют...