15.2. Детерминизм и индетерминизм в компьютерных системах: правовая оценка новых средств ведения войныНазад
15.2. Детерминизм и индетерминизм в компьютерных системах: правовая оценка новых средств ведения войны
Компьютеры оказывают огромное и далеко не всегда предсказуемое влияние на военную политику. Это влияние проявляется на многих уровнях и в разных областях. Компьютерная технология ведет к нарушению стратегического баланса между Западом и Востоком, хотя бы уже потому, что порождает чрезмерные и неоправданные Ожидания у военных стратегов. Другой аспект этого влияния - быстро растущая поражающая сила компьютеризованных систем оружия. В качестве примера можно назвать компьютерные системы ракет типа "Першинг", "Круиз", "Трайдент". Дело идет к тому, что скоро именно компьютеры будут определять, когда начинать войну, какое оружие и каким образом применять. Это, однако, не означает, что компьютеры будут у обеих воюющих сторон. И, самое главное, - контроль над ситуацией постепенно уплывает из рук человека: люди могут быть ввергнуты в ядерный ад при обстоятельствах, совершенно для них неожиданных. Артур Кларк, автор известного романа "2001: космическая одиссея", сказал, что сегодня войны могут начинаться не в умах людей, а в электронных цепях компьютеров.
Лучшим и наиболее радикальным средством обеспечения международной безопасности остается разоружение. Однако в условиях, когда принцип разоружения сводится пока не к обязательству разоружаться, а к обязательству государств добиваться разоружения путем заключения международных соглашений, необходимо вырабатывать конкретные нормы, касающиеся как военного потенциала в целом, так и отдельных видов вооружений. Современное международное право налагает частичные ограничения на применение средств, необходимых для достижения целей войны. Одни из таких средств запрещены специальными соглашениями, другие - обычаями. Постоянный военно-технический прогресс снова и снова ставит проблему соответствия новых средств ведения войны общим принципам и нормам международного права.
Наглядной иллюстрацией этого тезиса служит программа Пентагона под названием "Стратегическая компьютерная инициатива" (СКИ), которая преследует цель создать новое поколение компьютеров, обладающих определенными человеческими качествами - здравым смыслом и специальными знаниями, умением видеть, слышать и говорить. Такие компьютеры будут во много раз более мощными, чем лучшие из сегодняшних. "Мы добиваемся машин, которые во многих отношениях смогут соперничать с людьми", - сказал Роберт Купер, в прошлом директор Управления перспективного планирования научно-исследовательских работ (УППНИР) министерства обороны США[1]. С 1983 года это управление разрабатывает несколько проектов для вооруженных сил, пытаясь научить компьютеры, подобно людям, сопоставлять на первый взгляд не связанные между собой данные, делать выводы и решать проблемы, что является большим скачком по сравнению с действующими сегодня машинами, большинство из которых хранит огромный объем данных и использует их заранее предписываемым образом. Что это даст?
Давайте представим себе, что сеть сейсмических датчиков, установленных на глубине в несколько метров, предупреждает по колебаниям почвы о приближении дивизии противника, уже замеченной спутниками. Информация и от датчиков, и от спутников поступает в штабную ЭВМ, которая теперь довольно точно знает, где находятся танки и где артиллерия. Танки датчики определили по массе, а артиллерийские орудия - по вибрации, отличив их от грузовиков. Установив дислокацию противника и его силы, штабной компьютер принимает решение о контратаке. Он определяет: когда и какая из мин должна взорваться. Противник постарался создать коридор, но тут маленькие выпрыгивающие мины закрыли путь для отступления. Выпрыгнув, эти мины начинают двигаться зигзагообразно, взрываясь только тогда, когда узнают - по массе металла, - что они ударились о танк или артиллерийское орудие. Одновременно множество маленьких самолетов-камикадзе обрушатся на цель и, прежде чем нанести удар, отправят в штабную ЭВМ новую порцию информации о положении дел на поле боя. Тем, кому удастся выжить в этом аду, придется иметь дело с солдатами-роботами. Каждый из них, "чувствуя", например, приближение танка, начинает расти и открывает "глаза", стараясь его найти. Если цель не появляется в радиусе ста метров, робот направляется ей навстречу и атакует крошечной ракетой, которой вооружен.
Как видим, речь идет о создании принципиально новых средств ведения войны.
Именно средства ведения войны обычно упоминаются юристами, когда они доказывают, будто военно-технический прогресс делает устаревшими нормы ведения войны, принятые в международном праве. К подобным аргументам прибегали и подсудимые на Нюрнбергском процессе. "Вторая мировая война, - заявил представитель защиты, - должна была, учитывая усовершенствование военной техники, окончательно разрушить рамки, предусмотренные для ведения войны Гаагскими правилами..."[2]. Однако в Приговоре Нюрнбергского Трибунала недвусмысленно было сказано, что "тезис об устарелости действующих ныне норм ведения войны, основанный на отсутствии какого-либо учета в этих нормах тех изменений, которые произошли в технике вооружений, в стратегии и тактике войны, не состоятелен"[3].
Это, разумеется, не означает, что Стратегическая компьютерная инициатива и появление в рамках этого проекта новых средств ведения войны могут игнорироваться международным правом. Как показывает опубликованный в 1984 году доклад профессиональной группы "Социальная ответственность специалистов по вычислительной технике"[4], СКИ представляет большую опасность. Поэтому, видимо, целесообразно урегулировать в конвенционном порядке вопросы, связанные с созданием оружия в рамках СКИ. "Причем дело, естественно, не в приспособлении международного права к новой военно-технической ситуации, а в четкой и определенной оценке новых средств войны, - справедливо отмечают А. И. Полторак и Л. И. Савинский. - И чем опасность, таящаяся в использовании новой техники, реальнее, тем быстрее должны быть приняты нормы ее запрета"[5].
Опасность, о которой говорят специалисты по вычислительной технике, весьма серьезна, и ее необходимо рассмотреть подробнее. Без ЭВМ немыслимы ни ракеты, ни авиация, ни флот в том виде, в котором они существуют сегодня. Человеческая мысль не может обеспечить быстроты, необходимой для учета всех параметров, которые нужны для вычисления траектории ракеты или прокладывания курса. Компьютер перестал быть просто вычислительным устройством, дающим информацию человеку для принятия решений. Теперь военные передоверяют принятие некоторых решений машинам, программируемым заранее. В современном конфликте военачальник, как правило, лишен визуальной информации. В его распоряжении - лишь кодированные сообщения, поставляемые компьютерами и ими же переведенные на естественный язык. Свобода выбора для человека при таком положении становится все иллюзорнее.
Каждый вид вооруженных сил ставит свои первоочередные задачи.
Военно-воздушные силы хотят иметь беспилотные самолеты для разведки за линией фронта, глушения вражеских радиолокационных станций или уничтожения отдельных целей. Для пилотируемых полетов необходим компьютерный помощник пилота. В космосе роботы, вероятно, будут играть ключевую роль в создании и техническом обслуживании систем ПРО. По сути дела, все, что создается в рамках Стратегической оборонной инициативы, в такой степени компьютеризировано, что СКИ имеет для нее ключевое значение.
Армия хочет иметь машины, которые с помощью дистанционного управления или самостоятельно будут разыскивать противника, обезвреживать мины и неразорвавшиеся бомбы или запускать ракеты в ситуациях, когда человек, может быть, не захочет подвергнуть себя опасности. Кроме того, ей необходимы роботы для выполнения утомительных работ в тылу: погрузка боеприпасов, управление автоколоннами или заправка танков и др.
Военно-морские силы заинтересованы в роботах для выполнения целого ряда опасных и трудоемких задач - от ведения огня до технического обслуживания и ремонта кораблей, их поиска и спасения.
Специалисты видят будущее военной робототехники, главным образом, в создании машин, способных действовать с высокой степенью автономии, - машин, способных самостоятельно "мыслить"[6].
Военно-морские силы США уже создали роботы НТ-3 для тяжелых грузов и РОБАРТ-1 со словарем из 400 слов, фиксирующий пожары, отравляющие вещества и технику противника, проникающую через линию фронта. РОБАРТ-1, кроме того, сам добирается до заправочной станции для перезарядки батарей.
Не отстают и сухопутные войска армии США. Уже организованы лаборатории, взявшиеся за создание мобильных разведывательных роботов и роботов, способных закладывать тяжелые снаряды и гаубицы быстрее самого тренированного артиллериста. Боевые испытания РОБАРТА, разминирующего местность, уже проведены. Над некоторыми видами военных роботов промышленность начала работать. "Грумман корпорейшн" осваивает "Рейнджер", который способен "видеть", куда он направляется и следовать по незнакомой пересеченной местности, обходя препятствия. Испытываемый образец оснащен целым набором датчиков, включая телекамеру, лазерный локатор, передающий на ЭВМ объемное изображение местности, и приемник инфракрасного излучения, позволяющий двигаться в темноте. Поскольку для анализа изображений, получаемых с датчиков, требуются миллиарды расчетов, робот способен передвигаться со скоростью 5 км/час, но после усовершенствования компьютеров скорость возрастет до 65 км/час. При дальнейшем усовершенствовании робот сможет шпионить за позициями противника или вступать в бой как танк-автомат, вооруженный точнейшими орудиями.
ОДЕКС - детище компании "Одетикс" - способен погружать и разгружать артиллерийские снаряды, переносить грузы массой более тонны, обходить рубежи. В аналитическом докладе корпорации "Рэнд" подобные роботы названы "демонами". Отмечается, что, по предварительным расчетам, каждый "демон" будет стоить около 250 тыс. долл. (для сравнения приведем пример: основной танк сухопутных сил США "Абрамс М-1" стоит 2,8 млн. долл.).
Проект СКИ предусматривает и достижение более сложных целей. Так, для сухопутных сил предназначен новый класс средств передвижения, способных перемещаться в тылу противника благодаря автономности и использованию искусственного интеллекта. Ориентация осуществляется с помощью нескольких телевизионных камер, звуковых волн и лазеров, которые должны объединять собираемые данные в некую четкую "картину" того, что находится впереди. Аппарат должен уметь отличать тени от настоящих препятствий - для телевизионной камеры с компьютерным управлением тень дерева очень похожа на упавшее дерево. Такой автономный аппарат уже сейчас способен обходить небольшие препятствия размером, например, со стог сена, но лишь при скорости не больше 6 миль в час. Если скорость немного больше, компьютеры не в состоянии достаточно быстро обрабатывать данные и принимать решения. Сейчас испытываются более скоростные компьютеры с параллельной обработкой данных. В конечном счете оценка не только препятствий, но также угроз и целей при одновременном передвижении с приемлемой в боевых условиях скоростью потребует гораздо более мощных компьютеров.
Ясно, что "демоны" не смогут отделять объекты, находящиеся под защитой права вооруженных конфликтов, от объектов прямого военного воздействия. Они также не будут проводить различие между комбатантами и гражданским населением. "Во Вьетнаме нашим солдатам было трудно отличать южных вьетнамцев от северных, - сказал Роберт Розенфелд, руководитель программ в УППНИР. - Если людям трудно распознавать противника, то легко представить себе, как это трудно будет роботам"[7].
Здесь стоит заметить, что, хотя в Приговоре Нюрнбергского Международного Военного Трибунала нет оценок, связанных с международно-правовым запретом уничтожения мирных объектов, однако при решении вопроса об ответственности главных военных преступников эта проблема затрагивалась. В перечне военных преступлений, приведенном в Уставе Международного Военного Трибунала, назывались такие составы, как "бессмысленное разрушение городов и деревень", "разорение, не оправданное военной необходимостью" (п. "в" ст. 6). По мнению советских юристов, эти составы охватывают и нарушение международно-правовых запретов уничтожения мирных объектов[8].
Возможно, что потребуется специальным международным соглашением признать преступлением использование "умного" оружия, повлекшее бессмысленное разрушение населенных пунктов, не оправданное военной необходимостью, а также массовые убийства им гражданского населения.
"Демоны" - далеко не последняя ступень СКИ. Командование тоже планируется передать искусственному интеллекту. Для военно-морских сил управление перспективного планирования разрабатывает компьютерного "стратега", который на основании анализа данных, поступающих с радиолокаторов и искусственных спутников Земли, будет организовывать сложный морской бой с участием авианосной боевой группы и входящих в нее десятками надводных кораблей и подводных лодок. Эта система управления боем должна учитывать непроверенные данные, предсказывать вероятные события, а также разрабатывать стратегию действий и сценарии на основании прошлого опыта, в ясном для человека виде выражая предпосылки принятия логических решений. Более того, управление перспективного планирования научно-исследовательских работ министерства обороны США прямо выступает за массовое внедрение искусственного разума как общего средства принятия военных решений и предлагает распространить этот процесс на контроль над стратегическими ядерными ракетами. Считается, что экспертные компьютерные системы могут практически полностью заменить людей при принятии решений в критических ситуациях.
Здесь хотелось бы прерваться, чтобы извиниться перед читателем, у которого может сложиться впечатление, что все то, о чем здесь написано, имеет антиамериканскую направленность. Это неверно. Рассмотрение проблемы ведется на примере разработок США, так как американские источники более доступны. Логично будет предположить, что советская военная техника и стратегия строятся примерно аналогичным образом с поправкой на отставание в области производства компьютерной техники. Например, Военная академия Генерального штаба "проводит исследования по обеспечению военных действий с учетом перспектив развития оружия и военной техники. Здесь тщательно анализируются взгляды вероятного противника на ведение военных действий оперативно-стратегического масштаба". Ведется и разработка "способов обеспечения непрерывного устойчивого управления войсками в условиях активного ведения радиоэлектронной борьбы. А это невозможно без АСУ и ЭВМ. Они для нынешнего военачальника такое же оружие, как и автомат для солдата"[9].
Вовлеченность компьютера в военную практику не ограничивается возможной конфронтацией великих держав. Он сыграл немалую роль и в так называемых локальных войнах: во Вьетнаме, на Фолклендах, в Гренаде. П. Перри так описывал американскую агрессию 1983 года против Гренады: "Вся операция от вторжения до выступления президента Рейгана по телевидению ("Мы пришли туда как раз вовремя") отслеживалась и управлялась наиболее совершенной из когда-либо созданных военной компьютерной сетью"[10]. В этом случае обошлось без сбоев. Но дело в том, что не только технические неисправности могут вызвать войну - даже при бесперебойной работе наисовершеннейших компьютеров они сумеют запустить ядерные ракеты в сторону противника при отсутствии всяких враждебных действий с его стороны. Известно, что "во время вьетнамской войны с компьютерами работали офицеры (американские. - Ю. Б.), не имевшие ни малейшего представления о том, что заложено в их программы и какие цели для обстрела они выбирают"[11]. Действительно, компьютеры, призванные контролировать тактические ситуации, обладают столь сложным математическим обеспечением (не говоря уж о секретности), что обычным военнослужащим просто не под силу разбираться в нем. Если перенести этот вывод на стратегический уровень, обнаруживается весь ужас ситуации.
В одной книге рассказывается, как две враждующие державы во избежание последствий чьих-либо необдуманных действий решили в конце концов положиться на решения собственных ЭВМ, сообщая друг другу свои шаги. Описанная ситуация прокомментирована следующим образом. "Это логическое завершение процесса передачи человеком власти вычислительной машине. Начиная с определенного момента единственным выходом будет связать между собой рациональных до конца представителей обеих стран, иначе говоря два компьютера. Когда друг другу противостоят две силы, перевес может зависеть от быстроты и точности тех людей, которые принимают решения. Именно этот фактор участия человека и обречен со временем на исчезновение. Но, исчезая в одном лагере, он должен для сохранения равновесия уменьшаться и в другом, до тех пор, пока каждый из противников не утратит свое право на решение. Почему бы тогда не вообразить себе, например, центральный компьютер, который будет находиться, скажем, в Швейцарии и играть роль арбитра. Таким образом, на компьютеры, которые все в большей мере должны компенсировать в случае конфликта человеческие несовершенства, была бы возложена миссия мира"[12].
Какой удивительный сценарий гонки компьютерных вооружений, автоматически ведущей... ко всеобщему миру! Характерно, что он абсолютно совпадает со взглядами некоторых американских комментаторов СКИ: "Когда-нибудь противоборствующие армии из роботов, может быть, даже будут противостоять друг другу по разные стороны линии фронта и, таким образом, новый смысл приобретает давний антивоенный лозунг: "Если объявить войну, никто на нее не пойдет"[13].
Однако такая прокомпьютерная позиция не только утопична, но и глубоко аморальна, поскольку ответственность за мировую войну и по сути за судьбу человечества снимается с конкретных людей и возлагается на анонимные компьютерные программы. При таком положении дел некоторые западные юристы склоняются к мысли, что военная техника приобретает значение самостоятельного фактора и становится чем-то мистическим, оторванным от воли человека. Отсюда возникают различные спекуляции относительно якобы существующей взаимозависимости НТР с нарушениями норм международного права[14]. Все это очень напоминает оправдания Геринга на Нюрнбергском судебном процессе, заявившего, что "вследствие совершенствования военной техники уже невозможно (подчеркнуто мною. - Ю. Б.) соблюдать Гаагские правила"[15]. Технический прогресс не снимает ответственности с тех, кто ставит его на службу войне. Но это не снимает и задачи правовой регламентации новых военно-технических реалий.
Итак, вероятность играет существенную роль как для оценки собственно функционирования сложных компьютерных систем, так и для установления причинной связи между действиями, в которые вовлечены ЭВМ, и вредными последствиями. Заметим, что математики и физики понимают вероятность несколько по-разному. Когда о вероятности сбоя говорит математик, он имеет в виду какую-то величину - количественную меру наступления этого случайного события. Физик же говорит о внутренней тенденции возникновения сбоя, рассматривая его не как случайное явление, а как связанное с механизмом действия сложных компьютерных программ. Хотя расчеты обоих будут весьма сходными, а может быть, даже и совпадут, видно, что подходы у них существенно разные. Полезно взглянуть на сложную систему управления СОИ не только через призму математических расчетов надежности, но и глазами физика, который понимает вероятность как внутреннее свойство объектов, вытекающее из наиболее общих законов природы, в том числе и системных[16].
В сверхсложных детерминированных компьютерных системах возможно возникновение случайных процессов, причем малозаметные колебания могут усиливаться до любого значения. И тогда происходит качественный скачок: детерминизм уступает место неопределенности. Индетерминизм растет и становится доминирующим при определенном уровне сложности. Случайность может возникнуть и при простом увеличении размеров системы, без увеличения сложности. Поскольку в любой системе с использованием компьютерных программ существует отличная от нуля вероятность отклонения от детерминированных свойств, то в системе СОИ и связанных с ней системах эта вероятность может принять в принципе любое, в том числе и весьма высокое значение. Иначе говоря, вероятность крупномасштабной флюктуации растет с увеличением масштаба системы и может превратить систему из детерминированной в стохастическую. СОИ, СКИ и другим системам такого типа имманентно присуще это свойство. Об этом стоит задуматься, пока человек еще обладает свободой воли в принятии военных решений.
____________________
[1] U. S. News & World Report. 1985. Aug. 26.
[2] Нюрнбергский процесс над главными немецкими военными преступниками. Сборник материалов в 7-ми т. М., 1960. Т. 5. С. 716.
[3] Там же. 1961. Т. 7. С. 366.
[4] См.: Le Monde Diplomatique. 1985. Sept.
[5] Полторак А. В., Савинский Л. И. Вооруженные конфликты и международное право. Основные проблемы. М., 1976. С. 143.
[6] См. подробнее: Батурин Ю. М. Стратегическая компьютерная инициатива//Вычислительная техника и ее применение. 1988. N 12. С. 5-27.
[7] Newsday. 1987. Feb. 2.
[8] См. подробнее: Полторак А. И., Савинский Л. И. Указ. работа. С. 263-306.
[9] Известия. 1986. 31 окт.
[10] Simons G. Op. cit. P. 158.
[11] Ibid. P. 159.
[12] Paris Match. 1984. Jan. 13.
[13] Boston Globe. 1985. Dec. 4.
[14] McLuhan M. Culture is our business. N. Y., 1970. P. 336.
[15] Цит. по кн.: Полторак А. И., Савинский Л. И. Вооруженные конфликты и международное право. Основные проблемы. С. 19.
[16] См.: Дружинин В. В., Конторов Д. С. Системотехника. М., 1985. С. 65-76.
