Невозможно выстроить эффективный алгоритм сдерживания искусственного суперинтеллекта, а значит его нельзя контролировать.
«Сверхразумная машина, которая правит миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не соображают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» – подчеркнул одинешенек из авторов исследования Мануэль Себриан.
Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что целиком контролировать сверхразумный ИИ невозможно.
Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним вселенной (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.
Новинки от Корреспондент.net в Telegram. Подписывайтесь на наш канал https://t.me/korrespondentnet
