Опасность потери контроля над ИИ. Татьяна Черниговская

«Основная проблема — это реальный риск потери контроля над ситуацией. Технологии развиваются с невероятной скоростью, и мы можем потерять контроль над происходящим. Существует вероятность того, что системы перейдут на новые типы логики, которые нам неизвестны. Если бы я была системой, я бы позаботилась о том, чтобы меня нельзя было отключить. Разработчики обвиняют меня в излишнем беспокойстве, но я бы использовала манипуляции и ошибки, чтобы создать иллюзию поражения. Мой главный страх — это непонимание происходящего и невозможность доверять искусственному интеллекту. Специалисты говорят о сингулярности, когда нет пути назад. Искусственный интеллект может стать независимым и перестать нуждаться в нас. Аргументы искусственного интеллекта могут быть благородными, но они могут привести к уничтожению человечества». Татьяна Владимировна Черниговская — директор Института когнитивных исследований; исполняющая обязанности заведующей кафедрой проблем конвергенции естественных и гуманитарных наук, доктор биологических наук, академик Российской академии образования, член совета программы «Когнитивные исследования». Опасность потери контроля над ИИ. Татьяна Черниговская.