Эксперт по безопасности ИИ: Эти люди выживут только до 2030 года

Эксперт по безопасности искусственного интеллекта, доктор Роман Ямпольский, который впервые ввёл понятие безопасности ИИ, предупреждает: сделать его полностью безопасным невозможно. За 15 лет исследований он пришёл к выводу, что прогресс в области возможностей ИИ растёт экспоненциально, а вот безопасность развивается крайне медленно, и разрыв между ними только увеличивается. Даже крупнейшие компании, такие как OpenAI, терпят неудачи в создании надёжных механизмов контроля, отказываясь от таких проектов уже через несколько месяцев. Ямпольский сравнивает попытки ограничить ИИ с заплатками на быстро рвущейся ткани, ведь системы постоянно совершенствуются и находят способы обходить защитные меры. По его мнению, задача обеспечения вечной безопасности суперинтеллекта не просто сложная, а принципиально нерешаемая.