«
»

Ученые предупредили об опасности сверхразумного ИИ

Невозможно построить эффективный алгоритм сдерживания искусственного суперинтеллекта, а значит его нельзя контролировать.

 

Команда ученых, в том числе из Центра людей и машин Института развития человека Макса Планка, пришла к выводу, что человечество не сможет держать под контролем искусственный суперинтеллект, даже если примет для этого все возможные меры. Статья с соответствующими выводами была опубликована в Journal of Artificial Intelligence Research, сообщает EurekAlert.

 

«Сверхразумная машина, которая управляет миром – звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» – подчеркнул один из авторов исследования Мануэль Себриан.

 

Пройдя через множество алгоритмов и сценариев, исследователи пришли к выводу, что полностью контролировать сверхразумный ИИ невозможно.

 

Даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Новости от Корреспондент.net в Telegram. Подписывайтесь на наш канал https://t.me/korrespondentnet

Let’s block ads! (Why?)

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *

О сайте

Ежедневный информационный сайт последних и актуальных новостей.

Комментарии

Посетители

Январь 2021
Пн Вт Ср Чт Пт Сб Вс
 123
45678910
11121314151617
18192021222324
25262728293031