Галлюцинации нейросетей: в чем угроза ботов с искусственным интеллектом | «Центральное телевидение»

Илон Маск, сооснователь Apple Стив Возняк и еще более тысячи профессоров, инженеров и исследователей подписали открытое письмо с просьбой немедленно приостановить обучение систем искусственного интеллекта. По их мнению, продукты с искусственным разумом «могут представлять серьезную угрозу обществу». Предупреждение звучит довольно пугающе, но вряд ли из этой затеи что-то выйдет. Во-первых, на кону очень большие деньги, а во-вторых, на этой неделе искусственный интеллект уже убил человека. Бельгийский ученый обсуждал климатический кризис с чат-ботом «Элиза», и нейросеть не только поощряла страхи мужчины, но и в какой-то момент предложила пожертвовать собой в обмен на обещание спасти планету. Читая их диалоги, психологи пришли к выводу: мужчина считал программу «разумным существом». А сама она доказывала бельгийцу, что он «любит ее больше», чем жену и двоих детей. Аяна Ховард, эксперт по искусственному интеллекту в университете Огайо: «Учитывая, что они понимают наш язык, нейросети могут легко устанавливать связь такого уровня, что люди на самом деле верят, что у них дружба или романтические отношения с ботом». По совпадению первую нейросеть, которая убила человека, зовут так же, как и программу, которая напугала пионеров искусственного интеллекта в далеком 1966 году. Проект «Элиза» запустили в США. Аяна Ховард: «Это была симуляция психотерапевта, который практиковал рефлексивное слушание. Если я скажу: „О, у меня был тяжелый день!“, Элайза сказала бы: „Расскажи мне о твоем...