«Искусственный интеллект — будущее не только России, это будущее всего человечества. Тот, кто станет лидером в этой сфере, будет властелином мира. Очень не хотелось бы, чтобы эта монополия была сосредоточена в чьих-то конкретных руках» - Владимир Путин, сентябрь 2017 года.
Как использовать
Новости о внедрении искусственного интеллекта в последнее время приходят все чаще. Буквально на днях Воздушно-космические силы России впервые испытали автоматизированную систему управления средствами противовоздушной обороны с элементами искусственного интеллекта.
Новая система позволяет интегрировать работу зенитных ракетных комплексов С-300 и С-400, зенитных ракетно-пушечных комплексов «Панцирь» и радиолокационных станций. Система сама анализирует воздушную обстановку и выдает рекомендации на применение тех или иных вооружений, что позволяет средствам ПВО реагировать быстрее на угрозы в режиме реального времени.В начале года аналитический ресурс MarketForecast.com опубликовал прогноз, согласно которому мировой рынок военной робототехники и искусственного интеллекта к 2027 году достигнет 61 миллиарда долларов. В 2018 году он оценивается в 39,2 миллиарда долларов. За девять лет страны потратят на развитие данных технологий в оборонке 487 миллиардов долларов. Рост рынка будет обусловлен большими инвестициями со стороны США, Китая, России и Израиля в технологии нового поколения, а также масштабными закупками Индии, Саудовской Аравии, Южной Кореи и Японии. Большая часть рынка придется на военных роботов, затем, в порядке убывания, на компьютерное зрение, обработку естественного языка, распознавание речи и анализ социальных сетей.
Индустрия искусственного интеллекта (ИИ) и машинного обучения сегодня стремительно растет, а сферы применения, в том числе и военные, практически безграничны.
Искусственный интеллект дает три главных преимущества военным: работу с большим объемом данных, скорость обработки и автономность действий.Проще говоря, искусственный интеллект позволит быстрее и точнее определять цели без участия человека, выдавать варианты и сценарии для последующих действий, гибко реагировать на изменяющуюся ситуацию в режиме реального времени и, если это допускает человек, самому принимать решение. Это если говорить о непосредственном ведении боевых действий.
Другие немаловажные сферы военного применения – это взлом шифров противника, использование ИИ в военной промышленности, мониторинг психического и физического состояния военнослужащих и, что важно в стратегическом плане, прогнозирование
Самый большой интерес у широкой публики в первую очередь вызывает автономность. Сегодня решение о ликвидации целей принимает человек, но на горизонте уже создание систем, которые будут вести боевые действия автономно. На поле боя будущего будет побеждать та система, которая принимает решения быстрее. В этом плане человек становится слабым и медленным звеном в цепочке командования — соответственно, у противника всегда будет искушение создать полностью автономную систему.
Патрик Такер, один из авторов ресурса Defense One, и профессор Денверского университета Хизер Рофф отмечают, что, несмотря на привычную риторику Пентагона, что человек будет всегда в цепочке принятия решений, ИИ-системы сегодня используются не просто для того, чтобы помогать человеку принимать лучшие решения быстрее, а чтобы полностью исключить человека из сферы принятия решений.
Амир Хусейн, основатель и главный исполнительный директор SparkCognition, одной из ведущих компаний США по разработке искусственного интеллекта, также считает тех, кто говорит о необходимости сохранения человека в цепочке принятия решений или полуавтоматических системах, «мягкотелыми» людьми, которые даже не понимают, что происходит. Сама суть автономности — это исключение человека из цепочки, когда решение надо принимать за кратчайшее время и у системы нет этого запаса долей секунд, чтобы советоваться с человеком, уничтожать, например, стремительно приближающаяся угрозу или нет. На поле боя выиграет тот, кто быстрее примет решение и отреагирует. Здесь нет равных машинам. Хусейн считает, что не надо концентрироваться на ограничениях действий автономных систем человеком, а необходимо уже изначально программировать «моральные опции» в искусственный интеллект. Более того, если вдруг одна часть военной системы, один робот начинает принимать неэтичные решения из-за ошибки в программном обеспечении или из-за хакеров, то другая часть системы должны быть способна выключить или уничтожить «плохого» робота.
Хусейн уверен, что военные системы будущего на основе искусственного интеллекта будут более точными, чем сегодня. Это будут рои «умных пуль», которые будут убивать врага с фантастической точностью. С другой стороны, в небе и на море человек будет определять «сектора смерти», в которых, по его мнению, нет гражданских лиц, и уже внутри сектора давать полную автономию на поражение и свободу действий военным системам. Большие данные и прогресс в распознании объектов машинами позволят им выполнять задачи эффективно и с минимальным количеством ошибок.
При этом Хусейн считает, что применение искусственного интеллекта — это не что-то отдельно происходящее в вооруженных силах, это — общий тренд технологических изменений во всех сферах жизни общества, и глупо было бы игнорировать выгоду от участия автономных систем в боевых действиях. Джин уже выпущен из бутылки и с этим надо учиться жить.
По данным Пола Скарра, директора программы исследований войн будущего вашингтонского Центра новой американской безопасности, говорит, что уже около тридцати стран имеют на вооружении оборонительные автономные системы, которые пока еще работают под наблюдением человека, и что сегодня в мире наблюдается гонка за создание наступательного автономного вооружения. Военных подталкивает развитие беспилотных автомобилей, машинного зрения и повышение точности в распознании изображений нейронными сетями.
Скарре, говоря о применении искусственного интеллекта на войне, активно использует термин «бойцы-кентавры», когда на поле боя будущего вместе будут работать и человеческий и искусственный интеллект. Возникновение термина берет начало от определения игры людей-шахматистов между собой при использовании компьютерной помощи, которое придумал Гарри Каспаров. В шахматах это называется cyborg chess, centaur chess или «цифровые/шахматные кентавры». По мнению Скарре, необходимо перестать думать только в рамках дилеммы «или люди, или роботы» и стараться найти применения технологий, когда человек и искусственный интеллект работают вместе. Наглядный пример — это испытания работы американских вертолетов «Апачей» и беспилотников, когда пилоты вертолета вместе с компьютером контролируют полуавтономную деятельность дронов.
Один из самых очевидных способов использования искусственного интеллекта в будущем — это управление роями дронов. При выбранном алгоритме рои дронов из сотен или тысяч единиц могут обезвредить или парализовать работу более сложных и привычных нам участников поля боя, таких как танки или самолеты. Подводные и надводные дроны смогут помешать функционированию подводных лодок и кораблей.
Особый интерес сегодня вызывает даже не автономные боевые действия собственных ИИ-систем, а так называемый концепт «контравтономности», когда подвергнувшаяся нападению ИИ-система противника учится, делает выводы из случившегося и сама выбирает способы противодействия. То есть каждая атака нападающего автоматически делает его врага все более опасным, если не уничтожает сразу.
Любопытно, что автономные ИИ-системы, возможно, будут внедряться на флоте быстрее, чем в воздушных силах. Тем же ВВС США приходится сегодня напоминать и оправдываться, что удары с беспилотников производят операторы, а не сами машины, и операторы иногда ошибаются. Из-за этих реальных ударов, ошибок и жертв среди мирного населения тема дронов в ВВС постоянно муссируется в СМИ. Флот же без лишней шумихи и внимания общественности — по крайней мере, пока — может спокойно сосредоточиться над созданием своих систем.
Автоматизация киберопераций и ведения пропаганды и контрпропаганды в сети – тоже перспективная тема, когда искусственный интеллект подбирает нужную информационную тактику работы в тех же социальных сетях. В США, например, пытаются создать программное обеспечение, которое может определять ботов, занимающихся дезинформацией в сети, выявлять антиамериканские информационные кампании в социальных сетях и оценивать их эффективность.
Искусственный интеллект также обещает не только «умное управление», но и ту скорость, для которой необходимы вычислительные мощности. Надежда военных – это появление квантовых компьютеров, которые обеспечат работу ИИ.
Первые и самые очевидные последствия создания одной из стран действительно работающего квантового компьютера — это почти мгновенный взлом военных и инфраструктурных систем шифрования вероятного противника, что в случае военного конфликта дает огромное преимущество.
Более того, по мнению американских аналитиков, другие страны уже сейчас активно воруют зашифрованные данные у США. Они пока просто хранят их, ничего с ними не делая, так как ожидают, что где-то через десять лет квантовый компьютер будет создан — и вот тогда-то они получат доступ к секретной американской информации.
Скорость вычисления и обработки данных позволит значительно усовершенствовать работу беспилотных и роботизированных военных автономных машин, на которые и будет возложена миссия непосредственного ведения боевых действий в уже обозримом будущем. Упрощенно говоря, военные роботы страны, первой создавшей квантовый компьютер, будут принимать решения быстрее, действовать точнее, «работать» по большему числу целей, лучше «видеть» все поле боя и просчитывать «ходы» дальше, чем роботы противника. А значит — будут побеждать.
Квантовые компьютеры и искусственный интеллект могут быть использованы в проектировании новых видов оружия, новых материалов, новых конструкций и даже в разработке новых стратегий ведения войны. Прогнозирование, безусловно, входит в область применения квантовых компьютеров.
Бывший член группы квантовых вычислений в IBM, а ныне глава собственной компании Чад Ригетти заявил: «Вычислительное превосходство является фундаментальным фактором для долгосрочного экономического превосходства и безопасности. Наша стратегия должна рассматривать квантовые вычисления как способ вернуть американское превосходство в высокопроизводительных вычислениях».
В Белом доме в США уже заявляли, что превосходство Вашингтона в вычислительных технологиях находится «под осадой» и надо инвестировать больше в квантовые технологии. Если Китаю удастся стать лидером «квантовой революции», то кардинально изменится геополитическая и военная картина мира.
США
Роберт (Боб) Уорк — бывший заместитель министра обороны США и один из главных в Пентагоне стратегов ведения войны в будущем. Его конек — это внедрение искусственного интеллекта и роботизированных систем в вооруженные силы, разработка стратегии войны в космосе и ведения комбинированного боя (так назовем Multi-Domain Battle — одновременное ведение боевых действий в различных сферах: на суше, море, в воздухе, космосе, киберпространстве и электромагнитном спектре) в условиях «системы ограничения доступа» (A2/AD, Anti-Access, Area Denial). Собственно, и разработка масштабной стратегии «Третьего противовеса» (Third Offset Strategy), призванной обеспечить военно-технологическое преимущество США перед Россией и Китаем, — это тоже детище Уорка. В 2014 году Боб Уорк опубликовал написанную в соавторстве монографию «20YY: подготовка к войне в эпоху роботов», которая стала настольной книгой аналитиков войны будущего.
В апреле 2017 года на крупнейшей базе Корпуса морской пехоты США Западного побережья Кэмп-Пендлтон прошли первые в истории учения S2ME2 ANTX (Ship To Shore Maneuver Exploration and Experimentation Advanced Naval Technology Exercise), на которых были протестированы около 50 новых военных технологий. В том числе и беспилотные наземные роботизированные платформы, ведущие огонь по противнику, автоматически доставляющие боеприпасы и отвечающие за материальное обеспечение десантирования морпехов.
26 апреля прошлого года Боб Уорк создал специальное подразделение по ведению «алгоритмических боевых действий» (Project Maven), которое должно взять на себя и ускорить внедрение искусственного интеллекта и машинного обучения в вооруженных силах.
Уорк торопится. По его мнению, тем же самым занимаются вероятные противники — Россия и Китай, и союзный Израиль, действия которого и применение искусственного интеллекта в военных целях может привести к дестабилизации всего региона Ближнего Востока. Сегодня в мире, по оценкам американского онлайн-издания Defense One, существует 284 военные системы, которые в той или иной мере уже включают в себя искусственный интеллект. И нет гарантий, что США в этой новой гонке станет победителем.
Замминистра обороны США говорит буквально следующее:
«Хотя мы предпринимаем предварительные шаги для изучения потенциала искусственного интеллекта, больших объемов данных и глубокого обучения, я по-прежнему убежден, что нам нужно сделать гораздо больше и двигаться гораздо быстрее».
Первая задача нового подразделения Пентагона (Project Maven) — это использование искусственного интеллекта для анализа данных и видеоизображений, получаемых в Сирии и Ираке. Сегодня до 95% всех данных, поступающих в аналитические военные центры США c беспилотников, идут именно из этих двух стран. Люди в прямом смысле слова не справляются с обработкой и анализом таких огромных массивов информации. До 80% их рабочего времени занимает просто просмотр кадров. Основные разработки сегодня ведутся в области создания систем, которые бы автономно определяли противника, сверяясь с «библиотекой целей».
Искусственный интеллект в теории должен помочь им определять объекты, выявлять ненормальные последовательности действий на земле и т. п. Искусственный интеллект не будет определять цели для уничтожения, но поможет сделать это людям, хотя сегодня и ведутся разработки по созданию систем, которые бы автономно определяли противника, сверяясь с «библиотекой» целей.
Весной прошлого года прошли две интересных конференции по применению искусственного интеллекта в будущих боевых действиях. Одна из них была посвящена ускорению процессов симбиоза человека и машины в рамках военной стратегии «Третьего противовеса», а на второй Исследовательская лаборатории армии США представила исследование, в котором рассказывается, что в обучающиеся нейронные сети загружают данные об активности мозга человека, когда он определяет цель и решает навести на нее оружие.
Искусственный интеллект пока не может делать такие решения в динамично меняющемся мире боевых действий, хотя и работы по автономному поведению беспилотных автомобилей на дорогах впечатляют. Но в хаотичной военной обстановке цена ошибки еще больше, чем на дороге. В идеале новый подход и изучение сигналов мозга лучших солдат, делающих свою работу в критических ситуациях, позволит в итоге постоянно обучающемуся искусственному интеллекту затем и самому в режиме реального времени определять цели уже без участия человека.
В ВВС США хотели бы видеть связку военно-воздушных сил, космических войск и кибервойск, работающих как единое целое при помощи искусственного интеллекта. Пилот самолета и командование не должны будут в 2030 году отвлекаться на анализ информации. На электронные карты и дисплеи автоматически выводится вся информация от всех родов войск по ситуации на поле боя и целям, цели находятся автоматически, аппаратура сама противодействует средствам радиоэлектронной борьбы, сама восстанавливает подавленные каналы связи и ищет альтернативы и так далее. Особое внимание будет уделяться скорости и безопасности передачи информации. По данным издания, компания Lockheed Martin уже работает над созданием такой системы и проводит учения с прототипом. Компания Raytheon создает прототип симулятора, на котором можно проигрывать тысячи сценариев совместной работы кибервойск, средств радиоэлектронной борьбы и непосредственного применения ракет и бомб авиацией.
Прогнозирование и искусственный интеллект – это идеальное сочетание. Генерал-майор армии США Уильям Хикс, активно интересующийся искусственным интеллектом, роботами и отвечающий за разработку военных стратегий и планирование, говорит, что у США обычно исторически печальный опыт первых этапов войны, и только после первых поражений американцы форсируют свое военное развитие. Именно поэтому, чтобы избежать ошибок, армия США хотела бы видеть более точное прогнозирование ведения боевых действий в будущем. Можно отметить, что генерал Хикс также стоял у истоков разработки и внедрения компьютерной игры Operation Overmatch, которая призвана протестировать ведения боевых действий и применение новых военных технологий в будущем. В игру играют военные с реальным боевым опытом и смотрят, что они могут применять и как. Всего в игре уже участвует около тысячи человек, а в планах задействование десятков тысяч солдат. По идее все клики мышки и удары по клавишам солдатами будут учтены и трансформированы в информацию, позволяющую после анализа искусственным интеллектом лучше понимать действия людей на поле боя, что уже в свою очередь облегчит, ускорит и удешевит разработку и поставку в войска реальных образцов военной техники. Разработчики игры подчеркивают, что при отработке игровых сценариев в первую очередь речь идет о применении военных роботов в ходе боевых действий.
Есть и другие проекты.
В США разрабатывают портативное устройство CARACaS (Контрольная архитектура для робокоманд и воспринимания), которое может быть установлено практически на любой катер. С помощью устройств размером с ладонь в будущем практически любое существующее военное средство (катер, машина, самолет) можно будет дешево и быстро превращать в члена автоматизированного роя, отметил бывший глава военно-морских исследований американского флота контр-адмирал Мэтью Кландер.
В ВВС США тем временем разрабатывается система ALPHA, которая за 6,5 миллисекунд снимает данные с датчиков, структурирует и анализирует информацию и способна выдать оптимальные сценарии действия для четырех самолетов.
Директор DARPA доктор Арати Прабхакар в прошлом году рассказала о проекте по борьбе с программируемыми радарами России (упоминается «Небо-М») и Китая:
«Одна из наших программ в DARPA использует совершенно новый подход к этой проблеме, которую мы собираемся разрешить с помощью когнитивного электронного вооружения. Мы используем искусственный интеллект для изучения действий вражеского радара в режиме реального времени, а затем создаем новый метод глушения сигнала. Весь процесс восприятия, изучения и адаптации повторяется без перерыва».
Генерал Джек Шенахан уверен, что искусственный интеллект будет применяться Пентагоном не только для анализа видеоизображений с беспилотников, но что и вообще наступила эпоха, когда вооруженные силы США больше не закупят ни одной технологической платформы, где не внедрен искусственный интеллект. Большие надежды генерал возлагает и на появление квантового компьютера и развитие облачных вычислений. Всего около 130 компаний выказали интерес в сотрудничестве с Project Maven.
Необходимо отметить, что Пентагон в области работ по внедрении искусственного интеллекта в отличие от других стран полагается на технологии частных компаний. Государственные инвестиции Пентагона в собственные разработки не превышают несколько сотен миллионов долларов. Многие современные успехи в вопросах развития и применения искусственного интеллекта в США опираются на исследования таких компаний, как Google, Microsoft, Intel, IBM, D-Wave и др. Поэтому основная забота Пентагона – это привлечение данных компаний в военные проекты, что не всегда находит отклик. Недавно сотрудники технологических компаний США высказались за отказ от сотрудничества с министерством обороны и оказания помощи в создании «роботов-убийц».
О внедрении искусственного интеллекта в сфере оказания помощи ветеранам также задумались в Министерстве по делам ветеранов и Министерстве энергетики США. Через Ирак и Афганистан прошло уже около трех миллионов военнослужащих США. По разным подсчетам, около 20 ветеранов в день сводят счеты с жизнью, а за помощью в лечении посттравматического синдрома обращаются менее 10% ветеранов с этим расстройством, при этом 80% из обратившихся восстанавливают психическое здоровье. Сегодня для диагностики посттравматического синдрома и выбора методов лечения американцы используют суперкомпьютер IBM Watson. Ветераны, участвующие в проекте, предоставляют три раза в неделю свои рассказы о войне и жизни, а искусственный интеллект анализирует голос, содержание, изложение и выдает свои рекомендации по курсу лечения.
Боб Уорк часто говорит о необходимости уделять внимание новым технологиям на основе искусственного интеллекта:
«Армия США знакома с автономными системами ведения боя, которые она применяла в течение последнего десятилетия в Ираке, Афганистане и других странах. Но такие виды вооружения, как управляемые воздушные и наземные аппараты с дистанционным управлением, будут в скором времени заменены преимущественно беспилотными и автономными системами во всех физических сферах действия (в воздухе, море, под водой, на суше и в космосе) и в большинстве военных операций. Еще потребуется некоторое время, чтобы новый способ ведения войны стал более очевидным, в котором беспилотные и автономные системы займут центральное место при ведении боя».
И буквально месяц назад в Сенате США предложили создать Комиссию национальной безопасности по вопросам искусственного интеллекта. Бюджет комиссии на 2019 году составит 10 миллионов долларов. Члены комиссии будут следить за тем, чтобы США оставались глобальными лидерами в сфере искусственного интеллекта, машинного обучения, квантовых вычислений. Другое направление деятельности — это оценка рисков для безопасности США, которые вытекают из развития военного искусственного интеллекта и его внедрения в вооруженные силы в Китае и России.
Китай
В 2015 году в Китае был создан специальный Комитет по науке, технологиям и индустриальному развитию национальной обороны, а в 2016 году Центральный военный комитет Китая создал еще одну Комиссию по науке и технологиям. Эти структуры призваны обеспечить интеграцию гражданских и военных технологий и дать рост технологиям двойного назначения. В 2016 году глава Китая Си Цзиньпин заявил, что военным следует уделять особое внимание развитию стратегических передовых технологий для вооруженных сил. Китайское общество должно стать инновационно ориентированным. В 2016 году в рамках пятилетнего плана (2016-2020) были обозначены и направления, на которых следовало сосредоточить усилия военному комплексу. Они включали в себя работу над космическими и авиационными двигателями, квантовыми технологиями, гиперзвуком, автоматизацией и робототехникой, нанотехнологиями, искусственным интеллектом и космическими исследованиями.
В июле 2017 года Государственный совет КНР опубликовал подробную стратегию по превращению Китая к 2030 году в «лидера и глобальный центр инноваций в области искусственного интеллекта». Она включает в себя обещания инвестировать в исследования и разработки, которые «будут укреплять с помощью ИИ национальную оборону, обеспечивать и защищать национальную безопасность». В данной стратегии особое внимание уделялось применению искусственного интеллекта в области автоматизации боевых действий и прогнозирования. В стратегии Пекина указывалось, что страна стать мировым лидером в области ИИ к 2030 году.
Эрик Шмидт, бывший председатель совета директоров материнской компании Google Alphabet заявил:
«Поверьте мне, китайцы очень хороши в ИИ. И они будут использовать эту технологию как для коммерческих, так и для военных целей со всеми возможными последствиями. Все очень просто. К 2020 году они нас догонят, к 2025 году они будут лучше нас, а к 2030 году они будут доминировать в индустриях, связанных с искусственным интеллектом».
О реальных примерах применения Китаем искусственного интеллекта в военной сфере известно немного.
В декабре прошлого года на выставке в Шанхае китайцы представили самый быстрый в мире морской беспилотник «Тяньсинь-1». Судно водоизмещением в 7,5 тонн и длиной в 12,2 метров предназначено для морского патрулирования и снабжено дистанционно управляемым боевым модулем. Скорее всего на вооружении будет стоять модуль ORW-1, представляющий собой 12,7-мм пулемет Тип-88 (Type-88 (QJC88)) и оптико-электронную станцию. Данный модуль имеет также режим полной автономности, систему стабилизации для работы на воде и способен вести прицельную стрельбу на расстоянии в 1500 метров. Считается, что Китай (как и другие страны) работает над внедрением искусственного интеллекта в стрелковые модули подобного рода, которые бы позволяли им принимать решение об открытии огня в автономном режиме, исходя из автоматической оценки ситуации и выборе целей из «библиотеки данных».
СМИ Китая со ссылкой на разработчиков также сообщали, что в военно-морских силах страны ведутся работы над внедрением искусственного интеллекта в системы управления ядерных подводных лодок Поднебесной. По мнению китайских экспертов, электронная начинка существующих подводных лодок сильно отстает от возможностей «железа», и у Китая есть хороший шанс при разработке новых подводных лодок сразу закладывать в электронику возможности искусственного интеллекта. Пока у ВМС Китая нет планов сокращать экипаж ядерных подводных лодок, искусственный интеллект должен стать помощником в управлении и принятии решений, а не заменять человека. Чжу Мин, сотрудник Института акустики Академии наук Китая, отмечает, что тема искусственного интеллекта для подводных операций в последние несколько лет стала популярна в стране. Это связано с тем, что разрыв между теорией и реальными прикладными возможностями технологии постепенно сокращается. Искусственный интеллект может в корне изменить баланс сил подводных флотов ведущих стран. С другой стороны, Чжу Мин предупреждает, что недостаток контроля над искусственным интеллектов в области ядерных вооружений может выйти боком, и никому не нужна «беглая» самообучающаяся автономная подводная лодка с ядерным оружием на борту, которая способна «уничтожить континент».
Тема искусственного интеллекта на подводных лодках не нова. Еще в прошлом году Джо Марино, глава одной из компаний, поставляющей продукцию для подводного флота США, заявил, что применение искусственного интеллекта на подводных лодках России и Китая может нести угрозу господству США на море, потому что вероятный противник будет принимать более точные информированные решения быстрее американцев. Марино пытается привлечь внимание военно-морского руководства США к необходимости изучения вопросов по применению искусственного интеллекта в подводной войне.
ИИ может помочь и военно-индустриальному комплексу Китая. В прошлом году McKinsey Global Institute (MGI) опубликовал доклад «Искусственный интеллект и его значение для Китая». В MGI предсказали, что в Китае до 50% труда может быть автоматизировано, что делает страну потенциально самым крупным игроком на рынке применения ИИ. Глобальный рынок применения ИИ оценивают в 127 млрд долларов к 2025 году. В 2016-м году в ИИ влили 6 млрд долларов венчурных инвестиций. Подсчитали, что внедрение ИИ в производства может увеличить рост китайского ВВП на 1,4% пунктов в год. Применение искусственного интеллекта в промышленности может значительно ускорить развитие военного индустриального комплекса, создание и вывод на рынок или поле боя военной техники.
Американские эксперты отмечают, что амбиции у Пекина, конечно, большие, но гонка за военный искусственный интеллект еще только набирает обороты, так что предсказать что-либо трудно.
Пока американцы опережают всех, но, тем не менее, к заявлениям подобного рода в США относятся серьезно и многие считают, что Китай догоняет Штаты. В 2017 году китайцы подали на 641 патент в области искусственного интеллекта, а США — 130. В 2012 году американские ученые представили 41% статей для престижной Ассоциации по развитию искусственного интеллекта (Association for the Advancement of Artificial Intelligence, AAAI), а китайские — всего 10%. В 2017 году картина выглядела уже иначе: у американцев было 34%, у китайцев — уже 23%.
Главный тормоз развития для Китая в этой области — отсутствие специалистов. Только около 40% китайских специалистов в области искусственного интеллекта имеют соответствующий стаж работы свыше 10 лет, в то время как в США этот показатель превышает 70%. По этой причине одна из целей Пекина — это привлечение в страну зарубежных специалистов по робототехнике и искусственному интеллекту.
Концентрация Пекина на искусственном интеллекте не ускользает и от внимания соседей по региону. Недавно стало известно, что Индия и Япония планируют объединить усилия в разработке военных наземных беспилотных машин и военных роботов в противовес Китаю. Представитель индийского Центра искусственного интеллекта и робототехники (CAIR) заявил, что цель совместной работы — экипирование вооруженных сил самодостаточными адапитируемыми и отказоустойчивыми роботизированными системами.
Россия
У России до недавнего времени не было четкой стратегии по военной робототехнике. Все изменилось в 2014 году, появилась программа вооружений до 2025 года с учетом использования беспилотных систем, была создана специальная комиссия при Министерстве обороны по развитию военной и специальной робототехники. С 2016 года проходит ежегодная Военно-научная конференция «Роботизация Вооруженных сил Российской Федерации». За последние три года было создано 10 крупных научно-исследовательских институтов и центров в Вооруженных силах России, как заявил глава Минобороны генерал армии Сергей Шойгу. В данных научных институтах и центрах проводятся исследования в различных сферах, в том числе IT, робототехники и беспилотных летательных аппаратов. Россия стремится стандартизировать производственную линейку, убрать дублирующие процессы и выбрать ряд базовых беспилотных платформ из множества предлагаемых. Правительственная Военно-промышленная комиссия поставила целью роботизировать 30% военной техники 2025 году.
По мнению Сэма Бендетта, специалиста по российским вооруженным силам из Военно-морского аналитического центра, Россия уступает Китаю и США в области применения новых технологий, автоматизации и искусственного интеллекта, однако она расширяет свои вложения в эту сферу благодаря принятой в 2008 году программе по модернизации вооруженных сил. «Россия отстала и сейчас наверстывает упущенное», — говорит Бендетт.
В отличие от США, как отметил Бендетт, что бюрократическая машина военно-промышленного комплекса России становится более эффективной и работает быстрее в сфере создания беспилотных систем, получает больше ресурсов и поощряет разработки. Кроме ВПК над данными задачами работает и масса гражданских институтов и лабораторий.
Цель номер один для России в этой области, по мнению американцев, — создание своего ударного дрона дальнего радиуса действия. Еще одна задача — это полностью уйти от зависимости от иностранных компонентов.
Зарубежные эксперты выделили два перспективных направления развития беспилотных систем в России. Первое — это использование искусственного интеллекта и роев дронов. Второе — это совмещение средств радиоэлектронной борьбы с беспилотными системами.
Российская технологическая отрасль относительно мала по сравнению с американской и с китайской, что уменьшает ее шансы в гонке. Однако в России сохраняется мощная академическая традиция в области естественных и технических наук. Вдобавок технологическое совершенство — это еще не все. Не менее важно, как ты используешь то, что у тебя есть.
Сотрудник независимого аналитической организации Центр новой американской безопасности Грегори Аллен предполагает, что Россия, возможно, будет готова агрессивнее использовать ИИ и машинное обучение в разведывательных и пропагандистских кампаниях, чем ее противники. Автоматизация, по его мнению, может усилить потенциал хакерских операций и действий в социальных сетях.
В марте этого года в министерстве обороны России прошла первая конференция «Искусственный интеллект: проблемы и пути решения». Первый заместитель министра обороны РФ Руслан Цаликов заявил:
«Искусственный интеллект будет развиваться практически во всех сферах деятельности Вооруженных сил. Начнем с того, что отдельные элементы искусственного интеллекта или системы интеллектуального управления в Вооруженных силах уже активно применяются, например, в беспилотных системах и робототехнике… Мы собрали конференцию на базе министерства обороны, потому что у нас уже идет практическая реализация того, что даже до конца научно не исследовано и не оформлено. Именно такое движение одновременное и практическое применение уже разработанных систем и технологий и их дальнейшее развитие по научной линии внушает надежду, что мы всегда будем двигаться впереди всех».
Можно предположить, что в первую очередь сегодня искусственный интеллект внедряются в России в системы ПВО И ПРО (о чем и говорилось выше), и данные системы исключают человека из цепочки принятия решений из-за низкой скорости реакции человеческих операторов, в системы ведения огня наземными роботизированными платформами (чем занят и Китай) и в системы работы с информацией, поступаемой с беспилотников.
Начальник Главного управления развития информационных и телекоммуникационных технологий Министерства обороны России генерал-майор Олег Масленников отметил:
«Военными и разведывательными ведомствами разных стран широко внедряются так называемые интеллектуальные боевые роботы – разновидности автоматических видов вооружений. Примерами систем искусственного интеллекта военного назначения служат интеллектуальные системы военного назначения для сбора и анализа данных; интеллектуальные системы военного назначения для дополнения информационного пространства большим объёмом искусственно созданных данных (для формирования виртуальной «истины»); радиолокационные системы с искусственным интеллектом; тактическое оружие с искусственным интеллектом; беспилотники и дроны с искусственным интеллектом и др.».
За и против
Плюсы наличия автономных военных ИИ-систем понятны. Они позволяют сохранить жизнь военнослужащих, повышенная точность применения сокращает потери среди мирного населения, а сам факт существования такой системы может служить инструментом предотвращения начала конфликта.
Риски же критики обычно сводят к пяти вопросам: кто контролирует ИИ-систему? можно ли ее хакнуть? кто принимает решение о нанесении удара? будет ли система ошибаться? кто понесет ответственность за ошибки?
Первый вопрос еще можно сформулировать так: не захватят ли военные роботы власть над человечеством? В обозримом будущем вероятность такого сценария ничтожно мала.
Хакнуть машину, которая в будущем сама конфигурирует свои алгоритмы, — маловероятно.
Нужен ли человек для финального решения? Там, где важна скорость, человек становится обузой. ИИ-система может быть вооружена нелетальным оружием, критерии применения оружия без команды человека могут быть строго прописаны.
Ошибки? Люди совершают гораздо больше ошибок. ИИ-система, возможно, совершит ошибку, а человек это сделает наверняка.
Главная опасность в том, что многочисленные ИИ-системы могут одновременно сделать одну и ту же ошибку. Например, запускающие праздничный фейерверк люди будут определены ИИ-системой как террористы. Но это уже вопрос тестирования и обучения системы до надлежащего уровня.
Кто будет виноват в случае ошибки? Производители военных ИИ-систем или командование операцией? Нужно ли разделить ответственность на финансовую (для компаний-производителей) и персональную (для военного руководства)? Это все обсуждается.
Ясно одно: риски пока не перевешивают выгоду, поэтому однозначно, что работы над созданием военных ИИ-систем будут только набирать обороты.
«Автономные системы, в отличие от своих аналогов, управляемых человеком, характеризуются иными свойствами и смогут изменить не только способ развертывания войск США по всему миру, но и отношение политиков к применению данного вида систем вооружения. Перед вооруженными силами США открываются огромные возможности в будущем, если политики сделают правильный выбор. Существует большая опасность, что неправильные решения и недостаточное понимание новых тенденций приведет вооруженные силы США к ненужным рискам», — резюмирует Боб Уорк.
Высказывает свои опасения и американская аналитическая компания RAND Corporation, которая недавно опубликовала исследование, согласно которому искусственный интеллект сможет потенциально привести мир к ядерной войне к 2040 году. «ИИ может подорвать геополитическую стабильность и нарушить статус ядерного оружия как средства сдерживания», — говорится в исследовании. По мнению аналитиков, если вооруженные силы будут все больше полагаться на ИИ, то в случае ошибочной оценки ситуации, система может принять неверное решение и запустить маховик обмена ядерными ударами.
Бывший главнокомандующий силами НАТО в Европе Джеймс Ставридис говорит об искусственном интеллекте так: «Бойтесь! Очень-очень бойтесь!». Ставридис предупреждает, что мир стремительно идет к самому важному в истории войн перелому, когда войну будет вести искусственный интеллект, а общество, скорее всего, к этому просто не готово.
Когда-нибудь противостояние машин под управлением искусственного интеллекта в бою будет происходить быстрее, чем это будет осознавать человек.
Илья Плеханов
