Крестный отец ИИ о душе, сознании и цифровом бессмертии

Мы все делаем вид, что понимаем, каким будет будущее с ИИ, но лауреат премии Тьюринга и Нобелевской премии Джеффри Хинтон честно признаёт: на самом деле плана ни у кого нет. «Крёстный отец ИИ» возвращается, чтобы обсудить, что будет дальше — жив ли ИИ как человек, как сорняк или как нечто, для чего у нас пока даже нет языка; какова реальная вероятность того, что ИИ выйдет из-под контроля, и почему Хинтон оценивает p(doom) в 10–20%, а не в ноль. Вместе с Найимой он разбирает три ключевых риска, область принципиальной неопределённости и объясняет, почему и техно-утопизм, и тотальный апокалипсис — одинаково нечестные позиции, рассуждая о вымирании человечества и сценарии, где мы становимся «питомцами» машин. Разговор уходит и в личную плоскость: стоит ли заводить детей в эпоху ИИ, заменяют ли молодые люди реальные отношения ИИ-партнёрами, опасно ли, что подростки влюбляются в чат-ботов, или же забота о «виртуальных детях» и ИИ-компаньонах может сделать нас эмпатичнее. И в самом nerd-моменте Хинтон делится главным вопросом о человеческом мозге, на который его работа длиною в жизнь так и не дала ответа. Я веду канал "AI из первых уст", потому что хочу сам слушать первоисточники по-русски — людей, которые сейчас и есть ИИ-индустрия: Альтман, Цукерберг, Харари, Маск. Поэтому перевожу и выкладываю сюда, чтобы и вы могли слушать их в наушниках без английского и без искажений. Буду рад, если подпишитесь на канал. Таймкоды: 00:00 — «ИИ живой?» и что вообще значит «живой» 02:22...