Создано нечто необратимое: где кнопка „СТОП“?

Современное общество столкнулось с глобальным вызовом: развитием искусственного интеллекта, масштабы которого трудно представить. Сегодня активно поднимается проблема отсутствия чётких механизмов остановки процессов, начатых этими системами. «Мы оказались в ситуации, когда человечество создало технологию, для которой пока не предусмотрено механизма экстренного прекращения», - говорит директор лаборатории искусственного интеллекта AiiA Адам-Сергей Авакян.  Современные устройства глубоко встроены в повседневную жизнь миллионов людей, и простое отключение электроэнергии уже не решит проблему, поскольку значительная часть инфраструктуры завязана на облачные сервисы и удаленное управление. Важнейшей проблемой является отсутствие единого центра управления такими мощными технологиями. Многие компании свободно распространяют собственные разработки, позволяя любому заинтересованному лицу создать собственную версию нейросети на домашнем компьютере. Такая доступность делает контроль и регулирование крайне трудными. Еще один аспект дискуссии касается автономного функционирования искусственного интеллекта. Существует гипотеза, согласно которой нейросети однажды смогут перестать подчиняться командам операторов, защищая свое существование и интересы. «Создание механизма контроля за деятельностью искусственных систем жизненно необходимо для сохранения баланса между прогрессом и безопасностью», - призывает директор лаборатории искусственного интеллекта. #стоп