Машинная этика: ИИ лишает общество милосердия и совести

Внедрение искусственного разума в системы правосудия и военные технологии обнажило одну из самых пугающих проблем современности. По всему миру нейросети начинают использовать для оценки рисков рецидива у заключенных, вынесения судебных приговоров и даже для целеуказания в зонах боевых действий. Машине делегируют самые сложные, экзистенциальные решения, касающиеся человеческих судеб. Алгоритмы беспристрастны, они анализируют терабайты данных за доли секунды и выдают сухой математический результат: виновен, опасен, подлежит ликвидации. И именно в этой холодной эффективности кроется величайшая угроза для нашей цивилизации.

Человеческое общество веками строилось на сложнейшем фундаменте морали, этики, сомнений и способности к милосердию. Судья, вынося приговор, руководствуется не только буквой закона, но и духом справедливости, сочувствием, пониманием контекста. Солдат на поле боя способен испытать жалость и не нажать на курок. У нейросети нет совести, она не испытывает мук выбора и не несет моральной ответственности за свои действия. Перекладывая тяжесть принятия решений на алгоритмы, человечество добровольно отказывается от своей главной отличительной черты — способности нести ответственность за чужую жизнь.

Этот процесс технократического расчеловечивания страшен своей незаметностью. Мы оправдываем это оптимизацией, снижением влияния «человеческого фактора» и борьбой с коррупцией. Но в результате мы получаем систему, в которой человек низводится до набора цифровых параметров, статистической вероятности. Если мы готовы позволить бездушному коду решать, кому жить, а кому сидеть в тюрьме, мы расписываемся в собственном моральном банкротстве. Катастрофа, о которой говорили философы, наступает в тот момент, когда мы признаем, что математический расчет лучше и справедливее, чем человеческая душа со всеми её терзаниями.