ПРОЩАЙ, ОРУЖИЕ!

Победитель не получает ничего
Эрнест Хемингуэй

Проблема эволюции терроризма

 

Нынешний терроризм есть лишь отражение актуальной политики. Демобилизация ветеранов мировой политики может привести на руководящие посты уже представителей иных финансовых групп, для которых лозунги сегодняшних экстремистов пустой звук.

Каким ожидается облик терроризма ближайшего будущего?

Будут ли террористы по-прежнему угрожать людям, обмотавшись “поясами шахидов и поминая всуе Аллаха? Не хотелось бы заниматься неблагодарным делом политического прогноза, лишь отметим, что помимо энергоносителей, неотделимых от имени Аллаха, на Земле имеются и другие остро дефицитные ресурсы, конкуренция за которые может обостриться в ближайшие же годы и принять экстремальные формы. Например, запасы пресной воды. Смысл в том, что политика и её неизбежное продолжение в форме терроризма будут всегда. Следовательно, и на вызовы терроризма будущего следует отвечать, работая на опережение. Но политики с их спецназом и прессой могут спокойно пропустить весь нижеследующий материал- для немедленной реакции на события реального времени в нём нет ничего срочного.

Прежде, чем обсуждать эволюцию терроризма, об арсенале средств отпора ему.

На самом деле, существуют всего два способа охоты: 1) преследование и 2) засада, включая всевозможные силки, ловушки и капканы, красные флажки и волчьи ямы.

В связи с отпором террористам чаще говорится об их преследовании.

В частности, такова акция “Несокрушимая свобода”, объявленная администрацией США по итогам атаки террористов на офисы Нижнего Манхеттена и Пентагона.

Колоссальная по размаху и затратам, она, тем не менее, не смогла предотвратить рецидивов терроризма. Потому что по своему смыслу это не столько военная операция, сколько PR-акция “Возмездие”. Впрочем, если отвлечься от кошмарных подробностей, то и терракт в “день 9/11” тоже был PR-акцией: нападавшие не выдвинули никаких требований, никто не взял на себя ответственность за нападение, виновные были определены не в состязании обвинения с защитой в суде, а решением администрации США- при этом полностью провалившиеся руководители администрации и спецслужб не только не были уволены в отставку, но даже не получили взысканий. Преследование бин Ладена чуть не всеми спецслужбами на свете сопровождается его регулярными телевизионными интервью.

Всё это наводит на мысль, что гоняться за террористами по всему миру, возможно, не столь уж и эффективно.

Преследование означает “ответ”. Ответ означает “запаздывание”.

А запаздывание является косвенным поощрением террористов и неизбежно влечёт новые жертвы.

Но что можно эффективно противопоставить террористам?

С нынешней – этно-религиозной – волной терроризма вс более или менее ясно. Рано или поздно (впрочем, скорее позже, чем раньше) руководители стран, в наибольшей степени пострадавших от терроризма, наконец-то, договорятся о согласованных действиях и ликвидируют источник финансирования исламского терроризма. Об идентификации этого источника речь не идёт.

Подумаешь, бином Ньютона” – сказал бы классик. Просто терроризм финансируется Саудовской Аравией, главным поставщиком дешёвой нефти на мировые рынки, а главным потребителем нефти в мире являются США. Потому до поры одиозному режиму Саудовской Аравии разрешалось пребывать в средневековой дикости.

Этой своей позиции США не изменили, даже когда выяснилось, что 16 из 19 камикадзе, атаковавших Америку 11 сентября 2001 г., оказались выходцами из Саудовской Аравии, как, впрочем, и главный подозреваемый по этому делу саудовский шейх Осама бин Ладен. Но нести возрастающий политический и военный риск ради сдерживания цены на нефть рано или поздно станет экономически нецелесообразным для США, всё благосостояние которых основано на искусственной дешевизне саудовской нефти. Убытки Америки от терракта судного дня 9/11 уже, наверное, перекрыли экономию от пресловутой дешевизны за весь XX век. Постоянных друзей в этом достаточно паршивом мире нет ни у кого, одни лишь только постоянные экономические интересы, потому реален военно-политический сценарий “зачистки” паразитического саудовского режима. По политическому прецеденту операции НАТО “Решительная сила” в 1999 г. на Балканах. И на этом закончится исто

рия этно-религиозного терроризма мусульманских отморозков. Появившийся после мирового энергетического кризиса 1973 года, он вырос и тридцать лет успешно паразитировал на страхе Запада перед новым повторением кошмара арабского нефтяного эмбарго. Конечно, политическая ликвидация несовместимого с цивилизацией режима саудитов ликвидирует и материальную базу нынешнего терроризма, но вряд ли уменьшит остроту противоречий на этой перенаселённой планете с её ограниченными ресурсами.

Потому уже сейчас надо думать – каковы возможные цели терроризма будущего? Нынешний терроризм есть следствие фундаментальных различий в цене человеческой жизни в разных системах ценностей. Ислам, ни во что не ставящий человеческую жизнь, во всех эпизодах террора предлагал властям демократических государств один и тот тип сделки: человеческие жизни в обмен на политические преференции. Не станем обсуждать эту коллизию, она ясна, а её решение, повторим, всего лишь вопрос политической воли. Легко додумать, как будет однажды ликвидирована этно-религиозная угроза гуманизму. Не исключено – той же коалицией стран, которая в своё время ликвидировала глобальную угрозу, исходившую от национал-социализма. Допустим, исламский терроризм исчезнет. Однако источник конфликтов – политические противоречия в мире всё равно останутся.

После ликвидации терроризма, направленного ПРОТИВ ЛЮДЕЙ, его место займёт тоже порождение западной цивилизации – терроризм, направленный ПРОТИВ СИСТЕМ. По сравнению с бесчеловечным, но всё-таки относительно предсказуемым и локальным исламским терроризмом, “новый терроризм” потенциально гораздо более опасен. И если заранее не подготовиться к его появлению, он способен стать глобальным по масштабам и соизмеримым с мировой войной по последствиям.

Но будет ли эффективна против “нового терроризма” стратегия преследования? Вряд ли, ведь такой террорист никуда не убегает, он действует из безопасного укрытия. Значит засада? Да, если угодно, именно засада – в форме мониторинга террористической активности во всех критически важных системах энергетики, транспорта, обороны, но, в первую очередь, – в системах жизнеобеспечения. Строго говоря, мониторинг – не только и не столько засада, это онлайновый, работающий в реальном времени, комплекс средств, нацеленный на локализацию и блокированию террористической угрозы на ранних стадиях её возникновения и развития. Но эффективна ли стратегия мониторинга в принципе?

К примеру, лихорадочное переоснащение техническими средствами мониторинга аэропортов, станций метро и приёмных государственных учреждений, начавшееся в США после терракта 11 сентября, пока что не привело к поимке ни одного террориста, но уже вылилось в бешенные затраты. Более того, тут же нашлись люди, взявшие на себя труд продемонстрировать, что они способны легко обмануть любой биометрический контроль, а от досмотра же, как давно известно, находчивый человек всегда сумеет уклониться. Что ж, выходит, мониторинг бессилен против опытного бойца? Так точно! В противостоянии человеку даже самые развитые технические системы способны достигать лишь единичных успехов. То есть, нынешнего террориста никакими средствами мониторинга не проймёшь. Однако нужно различать принципиально разные угрозы “старого” и “нового” терроризма. Целями “нового терроризма” станут высокотехнологические объекты жизнеобеспечения, такие как транспорт, городская инфраструктура, связь и энергетика. Способом нападения станет запуск критических режимов функционирования указанных систем. Т.е. идеология “нового терроризма” базируется на переносе из виртуального пространства в физическое методологии проектирования самовоспроизводящихся вредоносных логических структур. Если угодно, это уже другой тип противостояния – не техника против человека, а техника против техники, точнее процесс мониторинга против процесса критического режима. Ведь смысл и логика действий “новых террористов” будет заключаться в том, чтобы вызывать цепные реакции в МАКРОМИРЕ. Сделать это можно не как угодно, а лишь определённым способом, характерным для каждой из систем на особицу, потому у мониторинга против такого способа нападения есть теоретические шанса не проиграть. Надо только научиться оперативно различать начало критического режима. Задача сложная, но не безнадёжная.

В связи с “новым терроризмом” можно всерьёз говорить о “казуальном оружии”, появление которого выведет из игры традиционные виды оружия, являющиеся средством продолжения политики НАСИЛЬСТВЕННЫМИ средствами. Достигнутое в современном мире равновесие средств нападения и защиты, а также изменения настроений в обществе в отношении насилия, как метода политики, снижают эффективность применения оружия в его традиционном смысле, как специализированного средства уничтожения живой силы и техники. “Казуальное оружие” выводит ситуацию из этого тупика. Именно потому опасен “новый терроризм”, что он опирается на ещё не освоенный интеллектуальный ресурс.

Нападение на WTC и Министерство обороны США примером “нового терроризма” может быть названо лишь отчасти. Да, в отличие от акций традиционного терроризма, оно проявилось в форме логической цепочки действий в технологической среде. Но главными мишенями нападавших были всё-таки люди, а не системы. Хотя, возможно, это нападение не было первым. Есть основания предполагать, что “новый терроризм” вначале напал на демократическую систему США, когда во время президентских выборов 7 ноября 2000 г. имел место отказ технической процедуры демократического выбора. Логика подобного скрытого нападения могла заключаться в следующем. Чтобы произошёл сбой в процедуре волеизъявления, следовало бы максимально приблизить условия голосования на выборах к условиям известной “теоремы о невозможности” (K.J. Arrow). Именно это и произошло на деле, а в результате даже не был идентифицирован сам факт нападения.

“Новый терроризм” (НТ) имеет ряд специфических особенностей, вызывающих необходимость научной постановки вопроса. Тезисно суть проблемы НТ в следующем.

1. НТ не связан с выдвижением политических требований и/или с заявлениями об ответственности за акты террора. В этом смысле он смыкается с действиями создателей вредоносных программ для компьютеров. Иными словами, НТ является разновидностью бесцельного и анонимного вандализма. Политическая аморфность этого явления делает бесполезной борьбу против него политическими средствами. Администрация Дж.Буша, не раздумывая, предложила общественности политическую трактовку террористического акта 11 сентября 2001 года. Возможно, здесь была совершена онтологическая ошибка.

2. В отличие от “традиционного терроризма”, преследующего традиционные цели (политические, корыстные, национальные), НТ нападает не на политические институты и олицетворяющих их лидеров, а на СИСТЕМЫ. Однако системы при этом могут оказаться политическими, социальными, технологическими или экологическими. Притом НТ не имеет ничего общего с луддитами (wreckers, Luddites, frame-breakers), в форме вандализма выражавших протест против нового технологического способа производства. Деятели НТ, в отличие от луддитов, не преследуют экономических целей. “Новые террористы”, как и распространители вредоносных компьютерных программ, своими, террористическими по сути, актами нападения осуществляют самовыражение маргинальной субкультуры.

3. Парадоксально, но в долгосрочной перспективе НТ имеет меньше шансов, чем “традиционный терроризм”. Последний является спонтанным по форме и любительским по содержанию, чем чрезвычайно затрудняет его профилактику. Известно, что как раз именно непрофессионалы доставляют больше всего хлопот полиции. В то же время, НТ, являясь действием маргинальным и антигуманным в социальном смысле, требует всё же определённых знаний, а также владения технологиями планирования для осуществления нападений на высокотехнологические системы и процессы. Это делает НТ отчасти всё же предсказуемым. Так, в частности, можно говорить о достигнутом равновесии в борьбе между бесчисленными и анонимными любителями, пишущими вредоносные программы, и относительно немногочисленными профессиональными создателями средств защиты.

4. Можно говорить о том, что объектом нападения НТ является функция Ляпунова той или иной системы. Значит, больший риск несут системы, обладающие “уязвимыми” функциями Ляпунова. Отсюда – стратегия защиты от НТ. Если кратко, это разновидность fool-proof, но с элементами искусственного интеллекта, позволяющими индивидуально определять уязвимые места критически важных систем и, соответственно, потенциально опасные с точки зрения нападения НТ элементы системы. Суть в том, что НТ не может напасть на устойчивость системы в произвольной точке, он может напасть только на тот элемент системы, который является “чувствительным” с точки зрения её устойчивости.

5. Работа по сертификации уязвимости критически важных объектов транспорта, энергетики и городской инфраструктуры потребует колоссальных усилий. Альтернативой является риск скрытого нападения НТ на эти системы. Драматическим является именно скрытый характер нападения, поскольку без специальной экспертизы отличить случайную катастрофу от систематического нападения НТ практически невозможно.

6. Для оценки риска, а также для идентификации возможно уже происходящего в текущем времени нападения НТ могут быть использованы уже существующие технологии на базе искусственного интеллекта. Но разработка соответствующей методологии защиты от НТ должна получить государственную финансовую и научную поддержку раньше, чем НТ обзаведётся инфраструктурой, кадрами и станет действительно массовым бедствием.

Попытаемся обосновать выдвинутые тезисы – если не в теории, то на примерах.

Логика “нового терроризма”

Логика действий “новых террористов” выводится из ответа на вопрос: как следует изменить условия технологической среды, чтобы в ней запустился критический режим?

Например, как вызвать режим функционирования потребителей электроэнергии такой, чтобы воспроизвести условия выхода из строя городского электроснабжения? На все подобные вопросы в принципе уже заготовлены разнообразные и развёрнутые ответы. Варианты ответов на вопросы о структуре планируемого террористического акта могут быть сгенерированы по специальной методике в диалоге с базой знаний. Методика эта известна как “диверсионный анализ”. Она была придумана в СССР около 20 лет тому назад, а теперь получила определённое распространение уже и в США¹.

Методика “диверсионного анализа” является обоюдоострым оружием: она может служить как для планирования террористических актов, так и для логического вскрытия замыслов террористов и расстановки защитных механизмов в потенциально уязвимых местах таких систем жизнеобеспечения, как транспорт, городская инфраструктура, связь и энергетика. Предупреждён – значит вооружён. Следовательно, попытка напасть на режим функционирования той или иной технологической системы будет равнозначна нападению мухи на липучую бумагу. В том случае, конечно, если и мониторинг активности НТ тоже будет основан на “диверсионном анализе”. Но является ли мониторинг НТ необходимым и достаточным условием безопасности общества от анонимных угроз критически важным системам его жизнеобеспечения? Ответить на этот вопрос, исходя из исторического опыта борьбы с терроризмом “традиционным”, правильно невозможно. Нужна теория.

Тезис данной работы заключается в следующем: “окном уязвимости” общества, является совершенствование технологий. Ниже покажем, что разновидность терроризма, которая здесь определяется как новая, способна эффективно угрожать обществу именно через указанное выше “окно уязвимости”. Тезис возник в качестве ответа на следующий проблемный вопрос: какова должна быть стратегия защиты общества от угрозы того, что террористической деятельностью займутся не фанатики-самоучки, а профессионалы?

В самом деле, люди, использующие для достижения своих целей “адские машины” и руководящиеся в выборе этих своих целей политическими, корыстными, национальным или конфессиональными мотивами, являются, как правило, маргиналами и любителями. Непрофессионалы с их непредсказуемой психологией являются проблемой полиции всего мира. Этот тип терроризма, который мы подразумеваем “старым”, остаётся полицейской проблемой, которую мы здесь не обсуждаем. Профессионалы же, способные планировать операции и использовать высокие технологии, и не выдвигающие притом политических, корыстных и прочих подобных требований, заведомо не являются ни маргиналами, ни любителями. Таким образом, различать “новый” и “старый” виды терроризма станем не только и не столько по историко-политическим эпохам, сколько по типу контингента, рекрутируемого в террористический бизнес и, соответственно, его целевым установкам, а также возможным последствиям его активности. В целом, перспективы борьбы с НТ можно определить как оптимистические, в то же время, его последствия – как весьма и весьма пессимистические, где-то соизмеримые по масштабу с мировой войной. Оптимизм коренится в том, что образ действий деятелей “нового терроризма” в меньшей степени определяется психологией, политикой, религией и прочими субъективными факторами, в большей степени – объективными законами развития технологий, что позволяет привлечь для борьбы с НТ научные ресурсы. Однако прямая аналогия между НТ и компьютерным вандализмом не совсем точна: вандалы – почти всегда любители и одиночки, в то время как НТ предполагает планирование и, соответственно, оптимизацию своих операций, что подразумевает координирование действий на уровне, не доступном никаким любителям. Впрочем, профессионализм является не только фактором угрозы “нового терроризма” и его наиболее характерным признаком, он также определяет и стратегию защиты общества от этой опасности, существующей пока что потенциально.

В данной постановочной по смыслу работе основное внимание уделено не столько произошедшим и потому бесспорным актам террора, сколько потенциально возможным операциям “нового терроризма”, которые, к счастью ещё, не произошли, а потому могут кому-то показаться абсурдными и нереальными. Для страховки от неверного восприятия излагаемых ниже идей предлагается следующий психологический тест. Если какое-то из обсуждаемых здесь предложений покажется вам абсурдным и потому не заслуживающим обсуждения, попытайтесь в порядке мысленного эксперимента допустить, что терракт от 11 сентября 2001 года ещё не состоялся, а только планируется, а допустив, попытайтесь оценить правдоподобие этого замысла и найти в нём уязвимые места. Сказать по правде, замысел террористов страдал крайним неправдоподобием, а план был очень уязвимым. Но воплощение этого неправдоподобного и уязвимого плана превратило фантазии Голливуда в скучные анекдоты, а концепцию общественной безопасности – в фантазии Голливуда.

Проиллюстрируем главный тезис работы – “окном уязвимости” общества, является дальнейшее совершенствование технологий. Оговоримся, “окно уязвимости” действует до тех пор, пока не идентифицируется и не ликвидируется средствами точных наук. Однако, до самого момента ликвидации, оно является источником угрозы. “Новый терроризм” по своей сути – не преодоление барьеров защиты, а использование их органических свойств. Можно говорить о том, что “старый терроризм” нападал на общество, а исход схватки решался в единоборстве сил террора и противостоящих им полицейских сил. Короче, как в полицейских боевиках, в противостоянии побеждал сильнейший. Развивая спортивную метафору, действия НТ также можно уподобить действиям спортсмена, но не всякого. В частности, парашютиста, сёрфера или горнолыжника, – того, чьё мастерство проявляется в грамотном исполнении им не силовых, а так называемых “уступающих движений”. Оптимально управлять вектором инерции, а не противостоять ускоряющему действию силы инерции – признак мастерства спортсмена, атакующего снежный склон, воздушный поток или океаническую волну. Оптимальное использование ресурса атакуемой системы и есть отличительный признак НТ, который не пытается ломать, взрывать или захватывать атакуемую систему. Зачем её разрушать? Можно модифицировать атакуемую систему так, чтобы затем с её помощью нанести максимальный ущерб обществу – такова логика НТ. Притом подобная модификация атакуемой НТ системы может, парадоксальным образом, совпадать с направлением технического прогресса собственно системы. Отсюда следует, что есть общее свойство разных систем, потенциально способное стать предметом атаки.

И здесь ещё одно – чисто психологическое – отступление. Атака терроризма в его нынешней ипостаси есть стремительная суета бородатых людей в камуфляже, громкие вопли “Allakhu akbar!” и беспорядочная стрельба из Калашниковых. Атака НТ на систему может развиваться месяцами, но и её последствия могут оказаться невообразимо тяжкими. Как в известном выражении: “Эти животные настолько медлительны, что часто застают человека врасплох”. Именно характерный темп препятствует распознаванию риска НТ.

Общим местом абсолютно разных по принципу действия технологических систем является их динамическая устойчивость. Добиться потери устойчивости пассажирского авиалайнера, ракеты, телевышки, химического реактора, финансово-банковской системы, ТЭЦ, турбоэлектрогенератора, телефонного трафика, компьютерной сети или системы жизнеобеспечения высотного здания – фактически означает напасть на тех людей, чья безопасность определяется динамической устойчивостью режима функционирования этих или каких-то иных технологических систем современной городской инфраструктуры.

Возможность появления групп людей, покушающихся на устойчивость систем, как и вероятные последствия таких систематических действий достаточно очевидны. Мотивы, по которым это может быть проделано, выходят за рамки данной работы. Обсудим только источники угрозы технологическим системам и продемонстрируем существование метода нападения, т.е. возможности посредством систематических действий добиваться опасной потери устойчивости в системе. Также продемонстрируем возможность систематического образа действий и в защите от нападения на устойчивость систем.

Примеры, иллюстрирующие роль устойчивости, приводимые ниже, иллюстрируют характерную особенность: неустойчивость является расплатой за стремление к прогрессу.

Парадокс? Скорее закономерность. Просто о ней не всегда помнят.

Пример №1. Центробежный регулятор Уатта.

Это устройство было изобретено Джеймсом Уаттом примерно в 1782 году, в связи с необходимостью регулировать работу паровых машин. Идея регулятора в следующем. Когда скорость вращения вала паровой машины падает ниже определенной величины, вращающиеся шары регулятора опускаются, что приводит к открытию заслонки, которая начинает пропускать больше пара в машину. Когда же вал машины начинает вращаться слишком быстро, вращающиеся шары поднимаются и закрывают заслонку, что уменьшает поток пара в машину. Равновесный угол отклонения системы вращающихся шаров в итоге определяется балансом силы тяжести и центробежной силы, обусловленной вращением.

Центробежные регуляторы успешно работали приблизительно в течение столетия. В середине XIX века только в Англии их количество измерялось десятками тысяч. Успех технологического нововведения, революционизировавшего производство и транспорт, по логике внутреннего развития, послужил стимулом его дальнейшего прогресса. Прогресс в качестве обработки рабочих поверхностей регулятора и увеличении равномерности хода его подвижных частей самым парадоксальным образом привёл к проблемам. Регуляторы стали сталкиваться с проблемой неустойчивости. По-видимому, первое описание этого явления дал английский астроном Г.Б. Эйри ²в 1840 г., основываясь на наблюдениях за поведением экваториала – устройства, автоматически перемещавшего ось телескопа за видимым движением звезды по небесной сфере. Экваториал, являвшийся разновидностью регулятора Уатта, иногда без внешних побудительных причин вдруг терял устойчивость, в нём начинали нарастать быстрые колебательные движения, которые выводили из строя систему телескоп-экваториал. “Рыскание” регулятора, приводящее к тому, что постоянная скорость в машине так и не устанавливалась, научились устранять установлением вязких демпферов на регуляторах, а теоретическое объяснение феномену дал в 1876 году русский инженер И.А. Вышнеградский³, который прояснил роль вязкости и предложил способ её численного определения. Смысл был в том, что по мере роста размеров паровых машин и в связи с прогрессом технологий обработки металла улучшились такие показатели, как трение и неравномерность в конструкции регулятора. По Вышнеградскому именно эти две величины оказались критериальными. Иными словами, однажды должны были построить новую машину с улучшенными характеристиками регулятора, которая пойдет “вразнос”. Что и произошло на практике. Поскольку проблемы автоматического управления имеют огромное значение в приложениях, проблема устойчивости регулятора Уатта приковала к себе пристальный интерес математиков и ныне является классически разработанной. По современным воззрениям, потеря устойчивости регулятором происходит в условиях так называемой бифуркационной теоремой Хопфа⁴. Согласно одному из вариантов развития неустойчивости в соответствии с теоремой Хопфа уменьшение коэффициента трения до значений, попадающих в критическую область, в системе регулятор-машина возникают и могут сосуществовать неустойчивые периодические решения и стационарное состояние. Последние доставляют механизм, который позволяет малым, но конечным по амплитуде возмущениям нарастать. Движение системы становится фактически неуправляемым. В экспериментах наблюдается нарастание возмущений, ограничиваемое лишь физическими причинами. Результаты теории бифуркаций, конечно, несколько запоздали по отношению к развитию паровых машин, но они оказываются полезными в ряде смежных приложений, в том числе и тех, которые представляют интерес в смысле темы данной работы.

Например, те же методы анализа применимы для сервомеханизмов, управляющих установкой подвижных элементов крыла современного авиалайнера. Достижение высокой степени подвижности сервомеханизмов требует работы вблизи границы неустойчивости. Нужно так рассчитать конструкцию системы, чтобы в случае потери устойчивости в ней рождались только устойчивые периодические решения малой амплитуды. При этом ещё сохраняется некоторая возможность управлять системой и в некоторых случаях этого оказывается достаточно. В то же время, имеются примеры внезапной потери устойчивости авиалайнеров в полёте. В частности, известен инцидент с президентским самолетом C-130 Hercules генерала Зия уль Хака, происшедший 17 августа 1988 г. Согласно наблюдениям с борта самолета сопровождения, тяжелая машина, потеряв устойчивость, стала испытывать усиливающиеся рыскания по крену, после чего перешла в крутое пике, завершившееся катастрофой. Если допустить, что данный инцидент кем-то планировался, то указанный эффект мог бы быть реализован, например, снижением демпфирования в сельсинах крыла. Тогда, если не предусмотреть специальных мер безопасности, в системе управления могут возникнуть неустойчивые периодические решения, приводящие к утрате управления.

Пример №2. Избирательная система.

Демократические выборы являются важнейшим атрибутом цивилизации. Однако до самого последнего времени теория общественного выбора существовала отдельно от социальной практики. Между тем, свыше полста лет тому назад Кеннет Джозеф Эрроу⁵ показал, что демократический выбор в стандартных (подразумеваемых) предположениях невозможен. В своей книге “Социальный выбор и индивидуальные ценности” (1951) Эрроу сформулировал условия, при которых групповые решения не могут быть выведены из индивидуальных предпочтений никаким рациональным (демократическим) путём.

В практической плоскости вопрос ставится так: можно ли создать такую систему голосования, чтобы она была рациональной, решающей и демократичной одновременно? Математики, философы и экономисты, исследовавшие этот вопрос в течение десятков лет после опубликования Эрроу фундаментального результата, склоняются к отрицательному ответу. Голосование может быть избавлено от произвольности, безвыходных положений или неравноправия, но оно не может избегнуть всех этих недостатков одновременно. Этот теоретический вывод, известный как “теорема о невозможности” есть “окно уязвимости” демократических институтов современных демократических стран. В практике бумажных бюллетеней проявление неустойчивости коллективного выбора как бы микшировалось, но с появление компьютеров и сетей, условия процедуры волеизъявления воспроизводят как раз те самые условия, в которых теоретически “прописан” запрет на этот способ принятия коллективных решений. От компьютерного усовершенствования технологии выборов как раз и следовало бы ожидать предсказанных теорией неприятностей. Теорема Эрроу честно предупреждает: “очень хорошо – тоже плохо”. Но, по-видимому, потребуется статистика отказов электронных систем голосования, прежде чем политики осмыслят ситуацию.

А пока что рационально мыслящие “новые террористы” могут без особенных даже затруднений вызвать крах избирательной системы, притом в первую очередь в странах, продвинутых в технологическом отношении, с развитыми демократическими институтами и “прозрачными” избирательными процедурами. Возможно, именно этот крах фактически и произошёл в форме отказа демократической процедуры на выборах 2000 года в США, когда Президента США, по сути дела, назначил Верховный Суд (перевесом в один голос).

Этими двумя примерами пока и ограничимся, хотя их число легко множить.

Промежуточный вывод: направления атак “новых террористов” будут задавать не фанатики, а теоретики, но лишь тогда эти атаки не станут неожиданными и фатальными, если будет заранее проведена сертификация отказоопасных (критических) технологий.

Управляемая неустойчивость

Вообще говоря, понятие “управляемая неустойчивость” – это типичная катахреза⁶, ведь лавинообразные процессы по определению неуправляемы. Однако проблема состоит в другом и сводится к вопросу: можно ли вызвать неустойчивость в нужное время и в нужном месте, управляя параметрами системы или среды, в которую она погружена?

Допустим, ответ положительный. В таком случае алгоритм управления указанными параметрами задаёт не что иное, как атаку на систему. Если к тому же потребовать, чтобы возникающая в результате атаки неустойчивость приводила к разрушительным для системы последствиям, и чтобы для реализации самой атаки не требовалось привлечения внешних по отношению к системе ресурсов и, к тому же, чтобы такую атаку всегда можно было реализовать скрытно, то получается некий образ стратегии. Такую стратегию будем в дальнейшем называть “скрытой атакой”. Выясним осуществимость скрытой атаки (СА).

Логично предположить, что если только СА в принципе осуществима, то должны быть и примеры её стихийной реализации. В частности, примером СА может служить известный из истории эпизод, когда рота солдат, идущая строевым шагом, обрушила мост, по которому проходила. Принцип этой СА заключался в том, чтобы возбудить растущие колебания в конструкции моста за счёт эффекта резонанса. Ресурсом явились собственные колебания конструкции моста, стратегия же атаки заключалась в управлении параметрами “частота” и “амплитуда” возбуждающего колебания. Результатом СА явилось нарастание амплитуды возбуждаемых колебаний по мере приближения колебаний возбуждающих к резонансной частоте, которое в итоге превысило предел прочности несущей конструкции. Возможность скрытой атаки резонансного типа теперь учтена и при переходе через мосты военнослужащим, идущим в строю, командиры подают команду идти не в ногу.

Будем считать, что этот исторический пример указывает на существование некой разновидность стратегий СА. Будем предполагать существование класса “резонансных” стратегий, таких, которые основаны на сближении реальных условий функционирования атакуемой системы с теоретически опасными режимами. “Резонансные” стратегии почти всегда реализуются стихийно. Это обусловлено тем, что в ходе технического прогресса те или иные новации зачастую опережают теоретически наработки. Примером служит такое опасное явление как “флаттер” или “шимми”, губившее экспериментальные самолёты. Условия возникновения этого явления на момент создания новых образцов авиатехники не были известны, потому сближение с опасными режимами происходило по неведению. Не были также известны и причины неустойчивого поведения, зачастую приводившего к авариям регуляторов Уатта, неотъемлемой части паровых машин, быстро развивавшихся в период индустриальной революции XIX века. В ходе технического прогресса опасность всегда вначале проявлялась в авариях и катастрофах, причины которых затем выяснялись теорией и лишь затем локализовывались в конструкциях. А возможен ли обратный ход прогресса? Несомненно. Теоретические разработки, описывающие невозможность тех или иных процессов и/или технологий зачастую оказываются опережающими по отношению к техническому прогрессу. Тем не менее, реализация “резонансных” стратегий даже в таких случаях происходит тоже стихийно. Типичным примером как раз может служить ситуация на президентских выборах в США 2000-го года. Отказ избирательной процедуры логично произошёл как следствие компьютеризации процедур голосования, сблизившей реальные условия функционирования электоральной системы с теми условиями, для которых Эрроу давно и теоретически доказал несуществование выбора. В итоге (стихийно?) реализовался вариант резонансной стратегии. Но в отличие от катастрофических ситуаций, в которых фактор риска возникал в результате недостаточности научного знания, социальный выбор теоретически был хорошо исследован. Тем не менее, распознавания этого фактора риска не произошло даже после отказа электоральной системы, и это в стране, где к проблемам демократического выбора относятся не просто очень внимательно, а с почти религиозным почтением. Это позволяет сделать здесь, по крайней мере, два немаловажных вывода.

Во-первых, СА из класса “резонансных стратегий” можно применить более одного раза. В частности, отметим, стихийная реализация атаки на избирательную систему США не вызвала адекватной реакции руководства и экспертов. Ситуацию сочли юридическим казусом, который можно устранить за счёт совершенствования законодательства, а также путём улучшения технических средств фиксации индивидуального выбора избирателя. Системный аспект остался за пределами внимания ответственных лиц. Это означает, что теперь сложились условия для организации новой, – теперь уже направленной, – атаки на избирательную систему США. Просто в этой стране уже de facto сложились условия для реализации “запрета Эрроу” и потому, в ситуации, когда, например, проигрывающий кандидат в президенты заинтересован в срыве выборов, он теперь сможет прибегнуть к услугам специалистов по критическим ситуациям в электоральном процессе, которые уже, несомненно, уловили смысл ловушки, обусловленной “теоремой о невозможности”.

Во-вторых, эта СА развивалась в параметрах УЛУЧШЕНИЯ технологии выборов. Ниже вернёмся к этому положению.

А пока попытаемся выяснить, могут ли существовать другие классы стратегий СА?

Логика подсказывает, что если можно реализовать стратегию скрытой атаки через изменение параметров самой атакуемой системы, то, наверное, возможна и стратегия СА через параметры среды, в которую эта система погружена. Назовём гипотетический класс стратегий этого типа “энвайронментальным”. Многочисленные примеры такого рода атак, по-видимому, хранят архивы различных спецслужб. Известны случаи, когда спецслужбы применяли против тех или иных персон яды. В системном смысле – меняли условия среды обитания соответствующих персон, что в итоге сказывалось на функциях (параметрах) их организмов в требуемом спецслужбам смысле. Основу деятельности любой спецслужбы составляет скрытность. Атака спецслужбы обязательно должна быть скрытой. В силу этих требований специалистами были разработаны такие рецепты ядов, которые либо, по прошествии времени, исчезают из организма, либо принимаются столь малыми дозами, что оказываются незаметными при однократном приёме, но накапливаются в организме и, в итоге, вызывают кумулятивный эффект. Но наиболее интересной с точки зрения данной работы идеей является методика создания кумулятивного эффекта не от воздействия ядов, а от приёма комплекса лекарств, каждое из которых является физиологичным, однако в некоторой совокупности – вредоносным фактором. Отметим особенность подобного типа СА, её целью является УЛУЧШЕНИЕ состояние организма.

А существуют ли в принципе ещё какие-то классы стратегий СА, кроме названных выше “резонансного” и “энвайронментального”? Не пытаясь охватить в настоящей работе всю полноту классификации СА, укажем на ещё, по меньшей мере, два подразумеваемых класса стратегий: первый из них определим как “социальный”, второй как “инженерный”. В первом случае подразумеваются атаки, направленные на уязвимые места социальных систем, во втором – на взаимодействие между инженерными системами. Вообще, с любой классификацией связаны проблемы, но в данном случае, классификация осложняется тем, что объект (или субъект) СА может иметь трактовку в несмежных предметных областях. Приведём в качестве иллюстрации пример СА, которую можно отнести не только к тому классу, который мы определили как “энвайронментальный”, но также и к “резонансным” стратегиям. Пример описывают многие авторы, но процитируем работу В.И. Арнольда⁷, в которой автор утверждает дословно следующее: “оптимизация параметров плана может приводить (и приводит во многих случаях, из которых наша модель – лишь простейший пример) к полному уничтожению планируемой системы вследствие возникающей из-за оптимизации неустойчивости”.

Отметим, это как раз то, что и требуется по условиям организации СА: достигнуть полного уничтожения атакуемой системы под прикрытием благих целей УЛУЧШЕНИЯ условий её функционирования посредством её оптимизации в том смысле, который в это понятие вкладывают ЛПР, ответственные за состояние данной системы.

Смысл примера, обсуждаемого Арнольдом, – в определении оптимальной квоты вылова промысловой рыбы. В принципе здесь возможны три ситуации: недолов, перелов и некий оптимальный уровень промысловой нагрузки на эксплуатируемый рыбный косяк. Оптимальность в контексте оптимизационной задачи у Арнольда понимается в смысле так называемой “биоэкономики”, прикладной дисциплины, трактующей об экономической целесообразности меры эксплуатации биоресурсов. Ясно, что недолов и перелов приносят убытки бизнесу, связанному с рыбным промыслом. Поэтому логичнее строить бизнес на оптимальных соотношениях между скоростью естественного прироста косяка и выловом. Та же логика прослеживается и в политике налогообложения хозяйствующих субъектов, в эксплуатации государством научного сообщества, вообще, любой популяции, в том числе и населения страны. Свободная, неэксплуатируемая популяция характеризуется нулевой квотой C=0. Стремясь к увеличению квоты эксплуатации, любая разумная планирующая организация не должна превосходить критический уровень C > 1/4 Это – относительная скорость прироста даже в неэксплуатируемой популяции. Однако стационарный режим для оптимального значения квоты неустойчив и даже небольшое случайное уменьшение численности косяка, например, вследствие браконьерства или неблагоприятных условий погоды, приводит к полному уничтожению популяции за конечное время. Уничтоженная популяция не восстанавливается даже установлением чрезвычайно высоких стандартов среды её обитания. Пример: практическое исчезновение германской науки, произошедшее в результате известных исторических событий; оно так и не сменилось восстановлением, несмотря на усилия нескольких поколений руководителей этой страны и колоссальные экономические затраты. Квотой можно, в частности, считать и раздающиеся требования об обязательной пользе науки, её самоокупаемости. Долгосрочная выгода от эксплуатации популяции промысловой рыбы или научного сообщества при оптимизации по критерию полезной отдачи от эксплуатируемой популяции во внимание, зачастую, не принимается. Как следствие возникает неустойчивость стационарного состояния, что равноценно СА.

Отметим, совершенно не связанные между собой предметные области поставляют примеры, содержащие логическую цепочку “оптимизация --> неустойчивость --> крах”. Чтобы затем попытаться выяснить, насколько реализуема такая цепочка в общем случае, рассмотрим ещё один пример из работы Арнольда, но проинтерпретируем его как СА.

Классическим уже стал пример разрушения Советского Союза скрытой атакой под названием “перестройка”. Эта СА против всех политических и социально-экономических институтов режима развивалась как УЛУЧШЕНИЕ, совершенствование, обновление. Это обновление, направленное на оптимизацию политической системы, привело к её полному и необыкновенно быстрому по любым историческим меркам уничтожению.

На рисунке фиг.1 изображена заимствованная из цитированной работы Арнольда схема движения СССР из исходного состояния “административная система” к состоянию “рыночная экономика” с более высоким уровнем экономического преуспевания.

Описывая этот процесс, Арнольд сближает политическое понятие “перестройка” и аналогично звучащее математическое понятие из предметной области нелинейных систем, акцентируя внимание на их частичном сходстве. В частности, математик указывает на тот факт, что прежде, чем улучшиться, состояние системы должно ухудшиться (см. фиг.1). Но в целом же, после того, как система покинула область притяжения начального состояния и преодолела спад на пути к новому состоянию, далее она, по мнению корифея наук, будет уже притягиваться новым устойчивым состоянием и процессы улучшения ускорятся. Как следует из анализа реальных событий, система “провалилась” по уровню благосостояния гораздо ниже уровня предполагавшегося (трансформационного) спада и “застряла” там. Что же произошло в реальности? Ответ на вопрос даёт анализ жизненного цикла системы (фиг.2), в котором “точке уязвимости” отвечал этап эволюционной зрелости СССР, как развивающейся системы, на момент начала политического процесса “перестройки”.

Смысл: эволюционно зрелые не поддаются оптимизации. Или, как формулирует данное практическое наблюдение народная мудрость, “учёного учить – только портить”.

Если свести поведение подобной системы исключительно к способности осваивать ресурсы, в частности, финансовые, то оптимизация этой относительно простой модели (т.е. изменение её внутренних параметров) приводит вот к какому эффекту – фиг.3.

Иными словами, движение из начальной точки в конечную по схеме Арнольда для рассматриваемого академиком примера перестройки СССР не предусматривало сценария возникновения осцилляций. Тем не менее, они вполне закономерны и, как показала жизнь, оказались губительными для перестраиваемой системы.

Вопросы о том, был ли обречён СССР, состоялось ли его разрушение как сценарий, разработанный в каких-то интеллектуальных центрах и т.п. жгучие вопросы опускаем. Но представляет несомненный интерес возможность направленного запуска разрушительных сценариев, т.е. алгоритм “скрытой атаки” – главного оружия “нового терроризма”.

Алгоритм скрытой атаки

Рассмотрим пример возможной “скрытой атаки” в одном из реальных эпизодов. На самом деле, подобные рассмотрения не должны являться пособием для террористов. Здесь мы выбрали пример, в котором мониторинг безопасности, безусловно, уже отслеживает подобный тип угрозы, а потому данная информация не станет know-how для террористов.

Речь идёт о катастрофе аэробуса A300-600 компании American Airlines, рейс 587 от 12 ноября 2001 г. из аэропорта им. Кеннеди в Нью-Йорке в Доминиканскую республику. В этой авиакатастрофе, произошедшей сразу после взлёта аэробуса, погибло 265 человек. Не будем никак комментировать ни официальную версию National Transportation Safety Board (NTSB), ни высказывания официальных лиц Federal Aviation Administration, ни экспертов. Тем более что мнения этих людей, зачастую, противоречивы. Осуществим собственную реконструкцию событий, приведших к катастрофе, по принципу what-if.

Итак, что необходимо было бы сделать “новому террористу”, если бы он добивался тех результатов, которые были официально зарегистрированы 12 ноября 2001 г.? Прежде, чем произвести реконструкцию, восстановим ситуацию, связанную с рейсом 587.

Как известно, упавший 12 ноября на Queens аэробус был, как и положено, оснащён “чёрными ящиками”, которые и помогли восстановить картину происшедшей катастрофы (но не её причины). Кратко проиллюстрируем официальные данные о катастрофе.

Итак, рейс 587 после более чем часовой задержки вылетел из аэропорта JFK в 9.13 по местному времени. Борт должен был прибыть в аэропорт Санто-Доминго в 12.48pm.

Аэробус A300, как часто подчёркивалось, в американской прессе, не американской постройки. Эксплуатировался с 1988 года. Перед взлётом прошёл необходимый контроль. Оба двигателя компании General Electric GE.N серии CF680C2 незадолго до полёта были подвергнуты профилактике: правый (номер 2) двигатель прошёл капитальный ремонт, левый (номер 1) – профилактический.

Непосредственно сразу после катастрофы, по итогам анализа данных и переговоров пилотов компанией American Airlines была распространена информация о том, что после взлёта аэробус попал в сильный турбулентный поток, обусловленный не рассеявшимся спутным следом другого авиалайнера. Диспетчер аэропорта по трафику подтвердил, что правилами безопасности предусматривается интервал не менее 2 мин 20 сек между двумя взлётами лайнеров, в то время как фактически этот интервал перед взлётом A300 оказался меньшим: примерно за 1 мин 45 сек до аэробуса рейса 587 стартовал японский “джамбо”.

Короче, официальной точкой зрения стала турбулентность, которая и срезала киль высотой 27 футов, выполненный из композитных материалов. Киль во время взлёта, как принято считать, испытывает экстремальные нагрузки и потому его разрушение ветровой нагрузкой, вообще говоря, является достаточно правдоподобной версией.

Первый сигнал о неполадках с борта прошёл на 107-й секунде, когда по голосовому каналу связи был зафиксирован грохочущий звук, а ещё через 14 секунд – второй такой же сигнал. Связь с бортом окончательно прекратилась через 2 мин 24 сек после взлёта.

Предполагается, что эти звуки сопровождали поочерёдные отрывы двигателей.

Аэробус А300 рейс 587 мог “въехать” в спутный след от японского “джамбо” лишь за 28 секунд до того момента, как прекратили свою работу бортовые самописцы и выйти из него 11 секунд спустя после того, как самолёт, потеряв управляемость, уже упал.

Это не единственная загадка. Непонятно осталось, как оказался в бухте Jamaica Bay отделившийся первым киль. Неясно, откуда взялся мощный боковой атмосферный вихрь ("tornado like lateral force"), срезавший киль аэробуса словно ножом (см. Photo/AP).

Отдельно о конструкции киля и его креплении к фюзеляжу (см. рисунок).

Как видно на схеме, к фюзеляжу неметаллический киль крепится в 6 точках. Этим точкам соответствуют металлические коннекторы, которые фиксируются металлическими же болтами. Насколько можно судить по фото информационного агентства AP, киль после катастрофы остался цел, а разрыв произошёл именно по металлическим конструкциям его крепления к фюзеляжу. Таковы официальные данные.

Теперь версия по принципу “что бы я сделал, если бы был на месте террориста”.

На месте террориста, понимая, что киль – это самая уязвимая часть конструкции, надо было бы ослабить эту часть конструкции так, чтобы она сломалась даже в условиях не экстремальных, а вполне штатных нагрузок. Но, по условиям обсуждаемой тематики, это нападение должно быть осуществлено скрытно. А ведь меры безопасности тогда после дня 9/11 уже были, понятное дело, приняты повышенные. Тем более, в аэропорту.

Как же можно было осуществить скрытное нападение в этих условиях?

Очень кратко, чтобы случайно не оказать консалтинговую услугу террористам.

По физическому смыслу терракта такого рода требовалось нанести по максимально уязвимой конструкции аэроплана термоудар холодом. То есть, обработать металл в точках крепления киля к фюзеляжу хладагентом (даже не обязательно криогенным), с тем, чтобы металл болтов потерял свойство упругости. Такое свойство именуется хладноломкостью, и в разной степени характерно для всех сортов стали. Хладноломкость металла обшивки, как известно, стала основной причиной гибели “Титаника”, когда вместо вмятины лайнер получил пробоину – и всё это исключительно из-за неучёта специфики высоких широт, в которых температура забортной воды всё-таки заметно ниже, чем у берегов Испаньолы.

С физикой понятно. Чисто технически же решение вообще лежит на поверхности. Перед вылетом самолёт моют специальной пеной. Это необходимо для того, что снизить аэродинамическое сопротивление машины и тем сэкономить на авиационном керосине. Моют специальные фирмы, специализирующиеся на этих услугах. Помыть снаружи джет такого типа, как A300 сравнительно недорого: $145 за помывку фюзеляжа, киля и всего, что есть снаружи, $30 – за уборку салона, включая протирку иллюминаторов изнутри.

Наверное, среди многочисленных предложений в Интернете можно отыскать даже и более выгодные, выше были указаны цены услуг первой попавшейся фирмы-мойщика. В этих же сетевых ресурсах описана и технология мойки. Она проста: мойщик поливает из шланга внешние поверхности самолёта (см. фотографию с рекламного проспекта).

Если лайнер опаздывал вылетом, как это было с рейсом 587, предполётный осмотр труднее провести с полным соблюдением мер безопасности. Но даже при полном объёме предполётных проверок обнаружить факт термоудара непросто. Композитная поверхность киля не теплоёмка, соответственно, её температура быстро возвращается к норме, зато структурные изменения в металле глубоко охлаждённых болтов будут законсервированы этим свойством композита, который после проведения термоудара выполняет рот термоса. Далее всё понятно. Во время рулёжки по ВПП и предполётной проверки все бортовые системы A300 показали норму. Но, когда аэробус оторвался от ВПП и стал на траекторию набора высоты, атмосферные нагрузки на киль, передающиеся на болты через 27-футовый рычаг киля, срезали оказавшийся хрупким металл болтов, а скоростной напор вырвал киль из коннекторов на фюзеляже. Изменившаяся аэродинамика вызвала вибрацию, которая превысила предел прочности конструкции пилонов, что привело к отрыву двигателей и катастрофе. Таким образом, машина могла потерять устойчивость и управляемость ещё до входа в спутный след стартовавшего ранее лайнера. Турбулентность только усиливает все описанные факторы, но первопричиной катастрофы остаётся ослабление конструкции.

Понятна и логика расследования. Эксперты, находящиеся под прессингом событий двухмесячной давности, ищут следы взрывчатки, используемой террористами и, ясное дело, ничего не находят. Но срезанные болты? Их списывают на сильный порыв ветра. Очень сильный порыв. К тому же точно поперёк курса, так что киль унесло аж в залив (см. схему) далеко в сторону от курса. По-видимому, болты, крепящие киль срезались вначале только с одной стороны. Это привело к возникновению быстрой неустойчивости и вызвало мощный момент по крену, который и отбросил киль эффектом пращи.

Это типичная скрытая атака на устойчивость системы (аэроплан в данном случае), имеющая целью вызвать разрушительные колебания в конструкции воздушного судна. Вполне могла бы быть проведена путём незаметного для существующих средств контроля безопасности полётов воздействия на самое уязвимое место конструкции.

Таким образом, алгоритм скрытой атаки в рассмотренном примере не выходит за рамки обоснованной выше схемы "оптимизация --> неустойчивость --> крах". Детали алгоритма, по самым очевидным соображениям, приходится опустить. Отметим лишь, что скрытая атака на воздушное судно, возможно, была организована в рамках оптимизации процесса предполётной подготовки.

Резюме: данная реконструкция отнюдь не является вызовом экспертам, изучавшим обстоятельства катастрофы A300; она лишь иллюстрация того, как могла бы развиваться акция НТ. Скрытая атака на устойчивость системы (аэроплан в данном случае), имеющая целью вызвать разрушительные колебания в конструкции воздушного судна, могла бы быть в принципе быть проведена путём незаметного для существующих средств контроля безопасности полётов воздействия на самое уязвимое место конструкции. Но если такие действия, действительно были кем-то спланированы, худшее, что могли бы быть сделать власти, - скрыть обстоятельства, приведшие к катастрофе A300 от 12 ноября 2001 г.

1. Frenklach, Gregory (1998) "Diversionary" Method http://www.triz-journal.com/archives/1998/04/a/
2. Airy G.B. On the regulation of the clockwork for effective uniform movement of equatorials. - Mem. Roy. Astron. Soc., 1840, 1, p.249-287; 1851, 20, p.115-119.
3. Vyshnegradskii I.A. Sur la theorie des regulateurs. C.R. Acad. Sci. Paris, 1876, 83, p.318-321.
4. Hassard B.D., Kazarinoff N.D. and Wan Y.-H. Theory and applications of Hopf bifurcation. - Cambridge Univ. Press, Cambridge, 1981. - 311p.
5. Arrow, Kenneth J. Individual Choice and Social Values, Wiley, 1951.
6. КАТАХРЕЗА (греч. katachresis - злоупотребление) - сочетание несовместимых по значению слов, тем не менее, образующих смысловое целое (например: рак свистнул). - Прим. автора.
7. Арнольд В.И. "Жёсткие" и "мягкие" математические модели. - М.: МЦНМО, 2000. - 32 с.