«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте

«Вы даже не представляете масштаб катастрофы» — Роман Ямпольский о сверхинтеллекте Правда ли, что создание сверхинтеллекта — вопрос ближайших десятилетий, и мы уже не контролируем этот процесс? В новом выпуске — разговор с Романом Владимировичем Ямпольский, специалистом по информатике из Университета Луисвилла, исследователем в области безопасности искусственного интеллекта и кибербезопасности. В выпуске: — Когда может появиться сверхинтеллект и что сможет его остановить? — Кто несёт ответственность за решения, принимаемые ИИ? — Какие сценарии будущего человечества возможны после появления сверхинтеллекта? — Можно ли контролировать систему, которая умнее нас? — Существует ли риск утраты контроля над ИИ? Таймкоды: 00:00 Вступление 01:40 Мы записали подкаст на двух языках 02:09 Скептицизм вокруг ИИ 04:35 Ограничения ИИ 06:27 Когда случится опасный для человечества переход? 08:19 Главная опасность ИИ 09:37 ИИ пытался избежать отключения 09:56 Когда ИИ пытался соврать? 10:33 Мы вошли в технологическую сингулярность? 12:00 Когда ожидать появления AGI? 13:22 Polymarket — индикатор того, что событие случится? 14:37 Что почувствуют люди при появлении AGI? 15:55 Человечеству осталось несколько лет? 16:30 Какие профессии исчезнут и НЕ исчезнут? 17:14 Какой мотив у создателей ИИ? 19:14 Ограничений ИИ не ждать? 21:04 Ядерное оружие сравнимо с ИИ? 22:03 Контроль не будет сохраняться? 24:02 Другие цивилизации должны создать ИИ? 27:05 О гипотезе симуляции 27:55 Мы живём в симуляции?