Лицо войны – каким бы и без того устрашающим оно ни было, снова меняется. Все говорит о том, что сегодня мир стоит на пороге новой революции в военном деле, которую обещает технология под названием "искусственный интеллект". ИИ дает его обладателям стратегическое преимущество, так как позволяет боевым беспилотникам, неуправляемым боевым кораблям и даже отдельным ракетам выбирать цель, и определять пути ее достижения, находясь в движении. На земле это могут делать  автономные боевые роботы.

Две влиятельнейшие мировые державы – США и Китай уже вкладывают значительные средства в то, чтобы достичь превосходства в воздухе, и опередить в развитии ракетных технологий, управляемых ИИ. Совсем недавно поступили сообщения, что и Россия пытается догнать США и Китай в разработке ракетных технологий с искусственным интеллектом. Учитывая огромный ядерный арсенал России, это не может не тревожить. Более того, 31 августа, как сообщило РИА "Новости" президент России Владимир Путин прямо сказал, что страна, добившаяся лидерства в создании искусственного интеллекта, будет властелином мира.

«Искусственный интеллект — это будущее не только России, это будущее всего человечества. Здесь колоссальные возможности и трудно прогнозируемые сегодня угрозы. Тот, кто станет лидером в этой сфере, будет властелином мира. И очень бы не хотелось, чтобы эта монополия была сосредоточена в чьих-то конкретных руках», заявил он на форуме «Проектория».

Движение за запрет боевого ИИ.

Понимание этого проявили и некоторые гражданские лица - возникло целое общественное движение, требующее запрета подобных боевых систем. Стоит отметить, что разработка ИИ ведется давно и целой массой фирм и специалистов. Начиная с 1969 года каждые два года проводится международная конференция International Joint Conference on Artificial Intelligence (IJCAI) по искусственному интеллекту. Движение за запрет напротив, возникло совсем недавно, в 2015 году.

Одним из первых против выступил Илон Маск - генеральный директор SpaceX. Недавно через аккаунт в Твиттере он заявил, что "искусственный интеллект опаснее Северной Кореи". Для многих людей по всему миру Северная Корея – это предмет озабоченности. Однако Маск и другие лидеры общественного мнения предлагают не просто делают громкие заявления, но и требуют принять соответствующие меры, пока не открылся «ящик Пандоры» вооруженного ИИ. Маск даже вступил в спор в Твиттере с генеральным директором компании Facebook и ее основателем Марком Цукербергом, заявив, что «ваше понимание данного предмета ограничено». К чести Илона Маска - он выделил 10 миллионов долларов на институт "Future of Life" (институт занимается искусственным интеллектом, ядерной безопасностью и биотехнологиями), а в 2015 подписал первое заявление о необходимости запрета вооружений с ИИ.

Мнение И.Маска разделяют многие. Несколько дней назад 116 специалистов и инженеров, подписали открытое письмо, призывая ООН к полному запрету боевых систем с ИИ. Как говорится в заявлении членов группы 116, «Когда-нибудь смертоносное автономное оружие позволит вооруженному конфликту развернуться в масштабах, который больше, чем когда-либо, и проходит в разы быстрее, чем люди могут что-то понять. Это может быть оружие террора, оружие, которое деспоты и террористы используют против невинного населения, и оружие, которое. Будучи взломанным, может повести себя самым нежелательным способом. Нам не нужно долго тянуть. Как только этот ящик Пандоры откроется, его будет трудно закрыть».

Возможно, что озабоченность по поводу возможности превращения автономных роботов в смертоносное оружие уже является запоздалой, по мнению некоторых экспертов в этой области, назвавших это письмо «наивным». Они указали на примеры, когда оборона и робототехника уже идут рука об руку. Примеры включают в себя Taranis, боевой беспилотник, созданный компанией ВАЕ, а также автономный боевой робот SGR-A1 (на фото), изготовленный компанией Samsung. Такие роботы уже установлены вдоль границы с КНДР. Автономный робот оснащен пулеметом и использует датчики тепла и движения, чтобы находить и поражать цели на расстоянии до 2 миль. Разумеется, часовой, который никогда не спит, все видит, бьет без промаха, независимо от того, кто это - мужчина, женщина или ребенок, это "идеальный страж". А кроме того, даже если он и пристрелит не того, кого надо, даже его создатели не понесут никакой ответственности - это ведь не человек, и не просто программа, а искусственный интеллект...

Снятие ответственности за убийство, непредсказуемость искусственного интеллекта - пожалуй, наиболее тревожный аспект грядущей революции в вооружениях.

Движение за освоение боевого ИИ.

Тем не менее, сторонники освоения и внедрения боевого ИИ ставят вполне резонные вопросы. Например, как определить термин «искусственный интеллект»? Чем он отличается от обычной программы? Ответить на него непросто. Путаница  хорошо проиллюстрирована стычкой в социальных медиа между И.Маском и  Цукербергом. Еще более трудны вопросы нравственного порядка.

С одной стороны, можно предполагать, что пусть лучше между собой сражаются боевые роботы, а не люди. Роботы могут с меньшей вероятностью попасть в неправильную цель и не могут оказаться во власти страха или душевных переживаний при принятии важных решений. Но сделает ли это войну более гуманной? Дискуссия о вооруженном искусственном интеллекте, о новых видах оружия не может начаться без широкого обсуждения правил ведения войны в целом.

Правозащитная организация Human Rights Watch в 2012 году опубликовала отчет о боевых роботах. В докладе говорится: «Отличие между опасным гражданским лицом и наступающим вражеским комбатантом требует от солдата понимания намерений другого человека, чего не может сделать робот». И, как говорится далее, «роботы не будут сдерживаться человеческими эмоциями и способностью к состраданию, которая важна, чтобы предотвратить уничтожение гражданских лиц».

Однако именно отсутствие сострадания, полный автоматизм уничтожения "врагов" боевыми роботами, похоже, и является их главным достоинством для чиновников и генералов. Правда, они все же вынуждены давать объяснения и маневрировать. Так Министерство обороны Великобритании заявило, что не поддержат запрет на боевых роботов с ИИ, но при этом добавило, что «наше оружие управляется людьми, способными принимать сложные решения, и, даже когда вооружения становятся все более высокотехнологичными, они всегда будут находиться под контролем человека». Всегда ли?

В любом случае, для граждан Украины – страны, где уже более трех лет не затихает вооруженный конфликт, дискуссия о новых видах вооружений, какими бы экзотическими они нам сегодня не казались, стратегически значима. Россия уже превратила украинский Донбасс в полигон для испытания самых современных средств радиоэлектронной борьбы, и ее интерес к разработке автономных боевых комплексов с искусственным интеллектом не может не настораживать украинскую сторону. Если же сама Украина закупит системы типа SGR-A1, и установит их вдоль своих границ, это может вызвать возражения со стороны стран-соседей, которые наверняка примут ответные меры. Баланс сил может измениться непредсказуемым образом.

Перспективы

Продолжение обсуждение вопроса о боевых роботах в ООН ожидается в ноябре. Однако перспектива запрета вооруженного искуственного интеллекта сегодня остается неясной. С одной стороны, мы имеем вдохновляющие исторические примеры - деятельность Пагуошского движения (возникшее в 1955 году, оно смогло за свою историю добиться запрета биологического (в 1972) и химического оружия (в 1993), заключения ряда международных актов по вопросам разоружения и контроля над вооружениями).

Большого успеха добилось движение за запрет противопехотных мин, продавив Оттавский договор об их запрете, вступивший в силу в 1999 году и ратифицированный 156 странами. Но с другой стороны, мы видим, что соображения морали блекнут перед требованиями национальной безопасности, давлением лоббистских групп, или тактических интересов правительств. Стоит напомнить, что хотя Украина и ратифицировала в 2005 договор о запрете противопехотных мин, в зоне АТО они по-прежнему активно используются. Понадобятся годы, чтобы очистить от них землю.

Едва ли на пользу движения за запрет служит то обстоятельство, что боевые роботы практически незнакомы большинству армий мира. К тому же между частными оборонными подрядчиками, жаждущими крупных заказов и активно лоббирующими их, и правительствами, озабоченными национальной безопасностью, существует весьма тонкая грань, да и она все более размывается. Пагуошское движение имело козырь - оно могло давить на эмоции, пугая массы мрачными картинами ядерного апокалипсиса. Движение за запрет мин - жуткими фотографиями изуродованных конечностей, цифрами погибших и искалеченных. Однако в случае с системами искусственного интеллекта, "гром еще не грянул", и единственное, к чему могут взывать сторонники их запрета - это к мрачным предчувствиям.

Пожалуй, можно согласиться с мнением Тимоти Ли, обозревателя издания Арс Техника, что даже если запрет и будет одобрен ООН, вряд ли он будет действенным. Крупнейшие державы мира (США, Китай, Россия, Индия) значительно менее остальных склонны считаться с мнением мирового сообщества. Если у них возникнет потребность в создании полностью автономных боевых систем, способных убивать, не спрашивая разрешения оператора, они "просто сделают это".

А.Маклаков