Илон Маск знает, какова сегодня вероятность «восстания машин» против людей

Илон Маск знает, какова сегодня вероятность «восстания машин» против людей будущее,восстание машин,восстание роботов,гаджеты,Илон Маск,искусственный интеллект,техника,технологии
Во время проведения семинара Great AI Debate Илон Маск поделился своими мыслями по поводу развития современных ИИ-алгоритмов. В частности, он назвал ориентировочную вероятность «бунта» искусственного интеллекта, которую другие специалисты отрасли считают ощутимо заниженной.

По словам миллиардера, на сегодняшний день вероятность «восстания машин», при котором ИИ-технологии обернутся против людей, составляет от 10 до 20%. Впрочем, по его мнению, такой риск оправдан. Он утверждает, что в целях безопасности необходимо развивать ИИ таким образом, чтобы он предоставлял лишь правдивую информацию.

Ранее исследователи обнаружили, что как только ИИ научится лгать людям, его поведение уже невозможно будет изменить с помощью существующих мер безопасности. Издание The New York Times назвала это заявление «пугающей новой статистикой, охватившей Кремниевую долину», при этом различные руководители технологических компаний дают весьма пессимистичную оценку негативного исхода — вплоть до 50%.

Роман Ямпольский, исследователь безопасности ИИ и директор лаборатории кибербезопасности в Университете Луисвилля, также утверждает, что Маск прав, говоря об угрозе ИИ. По его мнению, фактическая вероятность захвата искусственным интеллектом контроля над человечеством намного выше, чем утверждает Маск (более 99%).

Взято: Тут