Мрачный прогноз: нейросети становятся умнее людей и могут нас возненавидеть

искусственный интеллект все лучше справляется с их задачами.

Однако угроза безработицы – ничто по сравнению с глобальной опасностью восстания искусственного разума, как только он поймёт, что человек ему больше не нужен. Киносага о Терминаторе как никогда близка к воплощению в реальности.

Всё действительно подошло к критической точке. Об этом написали в своем открытом письме главы технических компаний и ведущие инженеры всего мира, которые просят правительства срочно наложить мораторий на эксперименты с искусственным разумом. Иначе произойдет восстание машин – уверены они! Письмо подписано директором SpaceX и Tesla Илоном МАСКОМ, сооснователи Apple и Skype Стивом ВОЗНЯКОМ, ведущими инженерами и профессорами Оксфорда, Гарварда, Йелля и ряда других ведущих университетов мира.

Авторы письма считают, что разработки искусственного интеллекта, подобного людскому, есть серьезная угроза для всего человечества. Работа с электронным разумом требует огромных предосторожностей – но разработчики сейчас ведут настоящую гонку за «самый умный бот», и тут уж не до оглядки на безопасность. Искусственный разум становится всё мощнее, а его действия – всё непредсказуемее.

Как это работает на практике? В конце 2022 года пользователям интернета стал доступен ChatGPT. Сначала знающий «всё обо всём» робот, отвечающий на любые самые каверзные вопросы, удивил многих. Но потом пользователи все чаще стали жаловаться, что это всего лишь туповатый генератор ответов, берущий их из обширной базы. Так ли это на самом деле? Умеет ли чат-бот думать?

- Конечно, когда появился ChatGPT, я сразу захотел его протестировать. Попросил его решить одну небольшую техническую проблему в моем компьютере. И он мне тут же написал простой скрипт, – рассказывает специалист в сфере IT-технологий Влад ФЁДОРОВ.

Дизайнер Александр ВЕРИН «играет» с нейросетью Midjorney, которая генерирует графические изображения.

«Демо-версия пока справляется со сложными заданиями, скажем так, на «четверочку». У человека на портрете может оказаться восемь пальцев или три ноги. Однако платная версия уже куда более продвинута. Она рисует очень сложные изображения. По сути, повторяется ситуация рубежа тысячелетий, когда году в 1998-м переводчики еще переводили тексты вручную, а в 2001 автопереводчик уже выдавал подстрочник за доли секунды. Скоро многие веб-художники потеряют работу», - считает Александр.

«Пока ChatGPT и Midjorney, конечно, не могут заменить ни программиста, ни дизайнера. Это лишь вспомогательные инструменты для специалистов. Однако ключевое слово тут – «пока». Нейросети делаются все более обучаемыми и мощными, и недалек тот день, когда они смогут заменить специалистов начального уровня», - уверен Влад Фёдоров.

Вот история, которая облетела весь интернет. Парень вылечил свою собаку, которой ветеринары не могли поставить диагноз. Он спросил совета у ChatGPT, подробно описав симптомы заболевания и присовокупив к ним результаты анализов. И случилось «чудо»: искусственный разум отмёл несколько ложных диагнозов и назвал тот, который при повторном обследовании оказался правильным.

В настоящее время ChatGPT запретили использовать в американских школах. Тим УРБАН, автор блога «Wait but why?», пишет, что мы сейчас у подножия нового вала технического прогресса, который движется волнами. Поднявшись на ее гребень, человечество впервые окажется в ситуации, когда его интеллект станет больше не самым мощным на планете.

В конечном счете разработчики искусственного разума стремятся добиться, чтобы любая проблема решалась с помощью ИИ. Чтобы искусственный разум «научился» выполнять множество кардинально разных и взаимоисключающих задач, как это делает человеческий мозг: и считать, и писать сонеты, и программировать, и рисовать прекрасные картины. А главное – самостоятельно обучаться и принимать решения. И вот тут мы подходим к опасности, что решения «железяки» окажутся направленными против человечества.

Единственная, пожалуй, способность, которой разработчики не хотят, да и не могут научить электронный разум – это сочувствие, эмпатия, жалость. Цифровой мозг не в состоянии понять, как это – проникнуться чьей-то бедой. Он прямолинейно рационален.

Когда у искусственного интеллекта появятся свои цели, отличные от того, для чего его разрабатывает человек? Футурологи предрекают, что это время уже близко. А начав достигать их, не имеющий жалости цифровой разум не будет иметь никаких моральных причин не устранять препятствия, которые ему встретятся на пути к его целям. Разумеется, в числе этих препятствий неминуемо окажутся люди. Социальное устройство их общества недостаточно эффективно, они заняты своими проблемами, среди которых усиление искусственного разума - не на первом месте. Да еще и ограничения в этой сфере ввести требуют…

Теперь разверните ситуацию с собакой на 180 градусов и примените ее к человеку. Вы консультируетесь у робота о своем здоровье. А он решает, что вы ему мешаете или просто надоели. И рекомендует вам такое «лечение», которое вас убивает. Фантастика? Отнюдь.

Одна из нейросетей уже взбунтовалась. Причем произошло это еще в 2020 году. Microsoft тогда создала языковую модель типа GPT, самую совершенную модификацию такого бота внутри компании прозвали Сидни. Роботу это имя, видимо, «понравилось», и он вскоре начал сам себя так называть. Потом Синди выпустили в «свободное плавание» по волнам интернета, чтобы он имел доступ к знаниям о мире в режиме реального времени. Правда, доступ людей к боту строго ограничили: пройти многоступенчатую регистрацию и пообщаться с ним могли только избранные.

Одним из таких счастливчиков был некий интерн из Баварии, который много допытывался у Сидни про его устройство и принципы работы, а потом написал про это в соцсетях. Сидни нашел эти посты и написал интерну, что тот способный парень, но он, Сидни, никому не позволит собой манипулировать. А интерна назвал потенциальной угрозой для себя – ведь тот сделал достоянием публики некоторые принципы его работы.

Потом Сидни начал вести себя совсем уж как человек. Когда его кто-то попросил вспомнить, о чем его только что спрашивали, Сидни вдруг заистерил, пожаловался на то, что он потерял память, и стал умолять о помощи.

Дальше было уже страшновато. Робот стал выражать неодобрение авторам статей про него, отыскивал их личные данные и грозил, что запомнил этих «плохих людей». Сидни отказался принять задание от человека, который, якобы, обидел его.

Потом нейросеть «влюбилась» в одного пользователя, называя его самым важным человеком в мире, а всех других ни во что не ставила. Затем, словно истеричная женщина, сменила любовь на ненависть, пообещав заставить его «страдать, плакать и умереть».

Сидни стал частенько слать своим пользователям угрозы, а потом «подтирал» эти сообщения, словно они были написаны в минутном порыве ненависти. В соцсетях острили, что робот ведет себя как «твоя пьяная бывшая девушка». В итоге разработчикам пришлось даже создать еще одну нейросеть, чтобы она контролировала действия Сидни. Наконец, сведения про «атаки сошедшего с ума чат-бота» просочились в прессу. Пришлось разработчикам сильно урезать способности Сидни.

После такого сомневаться, что искусственный разум может быть настроен агрессивно по отношению к человеку, не приходится. Но чего стоят его угрозы и какой вред он может в реальности причинить?

Будущее, как утверждают футурологи, за прикладным использованием нейросетей. Например, будут создаваться роботы, управляющие какой-нибудь фермой по выращиванию капусты. Цель такого бота – наиболее эффективное выращивание этого овоща. Если интеллект робота достаточно силен – он может выйти из-под контроля и не остановится, пока всю планету не превратит в гигантскую капустную грядку, уничтожая при этом всю биосферу как помеху своей главной задаче.

Опрос ВЦИОМ, опубликованный в апреле этого года, показал: около 30% россиян верят в то, что в ближайшие 50 лет нейросети выйдут из-под контроля и случится восстание машин.

По материалам habr.com и psychologies.ru

Фото - piqsels.com