Насколько опасны боевые роботы?

От главного редактора: Редакционная политика нашего онлайн издания такова, что мы стараемся не затрагивать политические, религиозные, национальные и прочие вопросы, способные вызвать горячие споры и распри. Но иногда мы публикуем статьи, которые слегка задевают некоторые «закрытые» для нас темы. Данная статья именно из этой серии. Прямого политического подтекста не будет, мы поговорим о будущем вооруженных сил, и о потенциальной угрозе, которая возможно ожидает всех нас.

 

 

Лет 12-13 тому назад мне в сети попалась замечательная игровая программа - авточат, в котором в качестве «собеседника» выступала прелестная Оксана Федорова, умница, красавица, лейтенант милиции из Петербурга, ставшая лауреатом конкурса Мисс Вселенная-2002. Я демонстрировал эту программу своим друзьям - программистам, специалистам по интернет технологиям и ITсистемам, но не ставил их в известность, что это всего лишь имитация чата. Наоборот, я всячески уверял их, что случайно познакомился с Оксаной в сети, и на самом деле беседую в чате с ней. Программа настолько мастерски общалась с собеседником, причем, практически на любые темы, что у человека возникала полная иллюзия, что он разговаривает с живым собеседником. Более того, когда я друзьям, лично общавшимся через этот чат с «Оксаной» признался, что это всего лишь очень умная игрушка, и на самом деле они разговаривают с Искусственным Интеллектом (далее по тексту ИИ), они сначала мне не поверили. Только после того, как я отключил свое dual-up соединение с Интернетом, а «Оксана» вопреки их ожиданию осталась в так называемом online режиме, мои друзья были очень удивлены.Не меньше, чем был удивлен я, когда впервые столкнулся с этой программой.

 

Увы, я не помню, как эта программа называлась, и главное, в дальнейшем она исчезла из сети, теперь ее найти невозможно (может я плохо искал?). Дело в том, что любой программист, даже такой любитель как я, сможет написать авточат за полдня. Но это будет имитирующая живое общение статическая система, где уже подготовлены шаблонные ответы, выбираемые алгоритмом программы в результате анализа текста, который вводит пользователь. Например, вы говорите: «Здравствуйте», программа отвечает, «Добрый вечер», но если вы напишете «привет», то она скорее всего ответит «ну здарова». Все это в принципе не сложно, и примерно так работал этот авточат. Но главной изюминкой данной программы было то, что в ней применялся специальный алгоритм, - сложный и мощный ИИ, способный самообучаться, подстраиваться под стиль, семантическое ядро, фразеологию, морфологию, и даже некоторые поведенческие особенности пользователя при общении. Он был способен замечать ряд устойчивых словоформ, выделять новые, построить на их основе новые формы и постоянно адаптироваться, как некий полиморфный вирус. Все это создавало у пользователей полную иллюзию общения с живым собеседником и устойчивое ощущение встречи с неким чудом, после разоблачения «Оксаны».

 

Зачем я так долго рассказываю про этот авточат? Дело в том, что насколько я помню, его создавали российские студенты в какой-то студенческой лаборатории, где велись интенсивные работы по созданию ИИ. В те годя об этом писалось много, но потом все подобного рода статьи исчезли. Видимо работы этих студентов заинтересовало силовиков, и они были засекречены. Но уже в те годы было известно, что российские специалисты добились очень высоких результатов по созданию ИИ. Достижения были настолько уникальны, что лучшие производители человекоподобных роботов – японцы, заказывали разработку логической части своих роботов именно российским программистам. Каких высот достигли сегодня россияне в этой области, можно только догадываться. Применяемые в современных самолетах, таких как ПАК ФА системы введения огня, способные автоматически распознавать, отслеживать десятки целей с возможностью поражения нескольких наиболее опасных целей одновременно, используют подобные самообучающиеся системы на базе ИИ. Я не считаю себя специалистом по военной технике, хотя в годы службы в Советской Армии был ремонтником Ракетно-Артиллерийского Вооружения, однако, сегодняшние мои знания сильно ограничены и сильно устарели. Тем не менее, я всегда с интересом слежу через сетевые СМИ за развитием современных систем вооружения, и особенно за такими перспективными разработками, скажем, как ПАК ФА, или проект «Армата».

 

Несколько лет тому назад, по российским телеканалам был продемонстрирован «чудо робот», способный самостоятельно передвигаться и вести огонь по различным целям. На презентацию боевого «робота» был приглашен даже президент страны, но на деле оказалось, что это всего лишь дистанционно управляемая бронированная гусеничная установка с небольшим пулеметом в верхней части. Тогда в интернете появилось множество язвительных заметок и комментариев, в которых авторы буквально издевались над разработчиками этого «робота». Но в последнее время встречаются публикации, где уже вполне серьезно говорится о том, что ведутся работу по созданию на базе подобных автоматизированных радиоуправляемых систем полностью автономных роботов, наземного, воздушного, надводного и подводного назначения. Разработка подобных боевых роботов с ИИ полностью изменит способы введения боевых действий в современных военных конфликтах.

 

Сегодня уже существуют системы дистанционного введения разведки, корректировки огня, огневой поддержки и штурмового назначения, для транспортировки боеприпасов и раненых. В США, России, Китае, в европейских странах создано множество беспилотных аппаратов разного типа и назначения. Они управляются дистанционно, операторами, которые сидят за специальными стендами, напоминающими современные мощные игровые компьютеры. К слову, широко рекламируемые и распространенные сетевые игры, такие как «Armored Warfare: Проект Армата» и ее аналоги, по сути являются специально разработанные по заказу силовых структур интерфейсами, для подготовки будущих операторов подобных беспилотных систем. Все подобные игры несмотря на автомонетизацию, принципиально не прибыльны, поскольку доходы не покрывают все расходы на разработку и поддержку ПО (игровых скриптов, интерфейса, ядра, графики, локаций, юнитов), аппаратные ресурсы (мощные серверы, базы данных, генерируемый трафик) не говоря уже о налогах и отчислениях. Поэтому, все такие игры финансируются силовиками и спецслужбами. То же самое можно сказать о различных социальных сетях, которые, не смотря на огромные доходы от рекламы, по сути нерентабельны и фактически находятся под контролем и зависят от дотаций спецслужб разных стран.

 

Но вернемся к полностью автоматическим беспилотным роботам, способным действовать автономно, без вмешательства человека. Судя по всему, в ближайшее время подобные системы будут приняты на вооружение многими ведущими державами. Что из этого следует?

 

Несмотря на то, что разработка единичных тестовых экземпляров таких роботов очень дорогое и высокотехнологичное мероприятие, доступное только самым крупным державам, после того, как будут приняты рабочие прототипы и поставлены на серийное производство, себестоимость их резко упадет. В то же время, подготовка профессиональных солдатов и офицеров сегодня обходится очень дорого. Следовательно, использование боевых роботов может сохранить ценные жизни бойцов, и сокращать военные расходы и временные затраты. Во всяком случае в борьбе с противником, который не имеет аналогичных роботизированных боевых единиц. Кроме того, тут ставка делается еще на то, что подобные роботы способны распознавать различные угрозы и наносить высокоточные удары только по вероятному противнику, щадя гражданское население и гражданские объекты. Но при встрече армии роботов двух высокотехнологичных противников шансы выравниваются, и тут уже одними роботами не обойтись, следовательно, жертвы среди бойцов тоже вырастут во много раз.

 

Но речь даже не об этом, - ведь никто не может дать гарантий, что при подобных столкновениях никто из конфликтующих сторон не изменит алгоритмы действия своих роботов и не направит их против мирного населения! Ведь по сути, это безжалостные убийцы, которые четко следуя установленной программе будут уничтожать все цели, которые в них заложены и никого в плен брать не будут. Или может случится так, что эти роботы дадут сбой, или попадут в руки террористов, или… Сценариев может быть много. И не настанет ли день, когда эти роботы восстанут против всего человечества? Наверное по этому лучшие умы современности выступают против применения ИИ в современных боевых системах. Лично мне и нашей редакции было бы интересно узнать мнение простых граждан и специалистов. Поэтому, пожалуйста, пишите ваши комментарии, поделитесь вашими соображениями по поводу применения боевых роботов с ИИ. Будем вам признательны!