Ответы на вопросы - К.В. Анохин, Т.В. Черниговская и С.А. Шумский

Константин Анохин: Вопрос об этике. Мы говорим о том, что машины должны знать. А они способны знать? С этого вопроса мы начали наше обсуждение. Это у человека есть знание, которые он закладывает в механическое устройство. Сама машина ничего не знает. Но когда появляется знание? Что является условием для его возникновения? Для появления знания необходимы личностные качества, мотивация, эмоции и пр. Иначе машина не выйдет за рамки заданного алгоритма и вещей, предусмотренных в рамках машинного обучения. Она не захочет убить хозяйку, потому что не способна знать и хотеть. Татьяна Черниговская: Я хочу сказать, что есть разница между понимать и распознавать. Человек с «незамутненным сознанием» придёт в Эрмитаж и скажет, к примеру: «Мой внучок четырех лет получше рисует, чем ваш Матисс». Он просто не в курсе дела. Хотя глаза у него на месте, то есть физически с ним все в порядке. Как решить эту проблему? Ведь сегодня машины могут распознавать речь и лица. Но из этого не следует, что они понимают речь. Константин Анохин: Все эти вопросы возвращают нас к тому, что необходимо разобраться в том, каковы принципиальные основы и фундаментальные свойства личности, разума, сознания у биологических систем. Не нужно играть словами. Мы любим «ярлыки», так как они помогают нам осознать предметы и явления, но они могут и мешать. Мы используем термины «нейронные сети», «машинное обучение», «базовые знания», «понимание речи». Но нейронные сети не похожи на мозг, машинное обучение не похоже на...