Google предупреждает: искусственный интеллект уничтожит людей без колебаний

интеллект становится не помощником, а главным врагом человека.

Иногда это экспериментальный боевой самолет, который перестает слушаться командира («Стелс»), иногда когорта роботов-слуг («Я, робот»), иногда суперкомпьютер, начинающий полномасштабную войну против людей («Терминатор»). Главная особенность ИИ в таких сюжетах – способность самостоятельно принимать решения и действовать. Она приобретается либо в ходе эволюционирования, либо из-за какого-то сбоя в системе. И очень часто искусственный разум приходит к выводу, что существование человека как вида нецелесообразно, а потому людей нужно для их же блага либо подчинить себе, либо вообще уничтожить.

Все это было бы занятно, если бы оставалось фантастикой, далекой от реальности. Однако эти угрозы вполне могут воплотиться, и довольно скоро. Оружие совершенствуется, обретая все новые функции и возможности… Тех, кто осознает степень опасности процесса, это не может не тревожить. По словам Нолан, боевые системы, способные принимать решение об атаке без участия человека, в случае сбоя могут мгновенно уничтожить города, люди даже не успеют ничего понять.

Для примера специалист привела аналогию с фондовыми биржами, где также используются автоматические алгоритмы. «Разница с военными действиями заключается в том, что нет никакого способа установить «автоматический выключатель», – предостерегла Нолан, призвав запретить использование такого оружия в мире.

Она не одинока в своих выводах. В 2015 году тысячи инженеров и исследователей подписали открытое письмо, в котором предупредили об опасности использования искусственного интеллекта при создании боевой техники и новейших систем вооружения.

По материалам poisknews.ru