О беседах с Лемом и угрозах ИИ

Вниманию наших читателей предлагается интервью с философом, основателем и главным редактором старейшего сетевого издания — альманаха «Лебедь» Валерием Петровичем Лебедевым. Он рассказал, за что его исключили из партии, почему иммигрировал в США, и как оказался у истоков «Петрикгейта» (научного скандала по разоблачению лжеученого Виктора Петрика). А еще, Валерий Петрович поведал о своих философских беседах с выдающимся научным фантастом Станиславом Лемом и рассказал, стоит ли нам опасаться столь стремительного развития искусственного интеллекта. Валерий Петрович бодр и полон изыскательного энтузиазма, а 21 июня ему, между прочим, исполнилось 86 лет!Валерий Лебедев — философ и историк, педагог, радиоведущий, публицист, редактор и издатель. Окончил Белорусский политехнический институт(1960), позже сменил техническую специальность на философию и в 1970 году защитил диссертацию на соискание учёной степени кандидата философских наук по теме «Второе начало термодинамики и принцип развития». Издает общественно-политический альманах «Лебедь» на русском языке, пионер журналистского расследования «Петрикгейта». В 2013 году за это расследование введён в состав комиссии РАН по борьбе со лженаукой. В конце 1992 года эмигрировал в США. Живёт в Бостоне.

— Валерий Петрович, какой круг философских вопросов является полем ваших научных изысканий?

— Круг интересов довольно-таки широк. Это, конечно, философия науки. А в ней – проблемы возникновения Вселенной, происхождение жизни на Земле и на других планетах, контакт со внеземными цивилизациями, если они есть и даже осмысленность этих контактов, если между нами расстояние в тысячу или более световых лет – то есть, нужны ли такие контакты, и, соответственно, оправдан ли поиск внеземного разума. В общем, проблема Соляриса.

Далее – проблемы познания совсем иных масштабов реальности, на многие порядки меньше привычного нам макромира, или, напротив, на много порядков больше него.  В нашей земной жизни тоже масса интересного. Скажем, почему появилась такая странная мутация (в Древней Греции) как демократия. Тысячи лет существовали Шумер-Вавилон, Египет, Китай без всякой демократии – и вдруг в маленькой Греции народные собрания на агоре, голосования по самым важным вопросам войны и мира, по выборам стратегов, об остракизме некоторых стратегов и пр. Или вот вопрос: почему при всех преимуществах мира вся история человечества, начиная с первых государств, и по сей день – это история войн? В чем тут дело, зачем они нужны, эти войны, если от них одни бедствия?

— У вас невероятно интересная и насыщенная жизнь. Хочется больше о ней узнать. Скажите, почему вы в определенный момент сменили род деятельности и научных интересов с технической специальности на философию?

— Первые годы после института я  работал на Минском трактором заводе,  потом стал преподавателем на кафедре сварки и технологии металлов. А с детства интересовался астрономией, происхождением жизни и философией. В 4-м классе на день рождения мама мне подарила толстую книгу «Как человек стал великаном» Ильина и Сегал (это супружеская пара). Она о том, как человек познавал мир, о первопроходцах в философии и науке. Хорошо написана, даже сейчас читается, храню ее и вожу с собой из города в город и из страны в страну. Посему через 6 лет службы по технической части вернулся к истокам – поступил в аспирантуру по философии. Этому способствовала дружба с молодым доцентом кафедры философии БПИ Вячеславом Степиным, впоследствии академиком, директором института философии в Москве. Это был человек, можно сказать, с космическим мышлением, примерно равным Станиславу Лему. Я убедился в этом во время нашего разговора с Лемом у меня дома в Москве, на тему о познаваемости мира, и о том, что эволюция руками человека создаст более высокий тип разума. Сейчас это время настало.

— Вы были знакомы со Станиславом Лемом? Ухты! Просто не могу упустить возможность и попросить вас рассказать об этом подробнее. Как вы познакомились? О чем еще были ваши беседы?

— Станислав Лем приехал в Москву в 1970 году. Приехал он по делу о фильме Тарковского «Солярис», который снимался по его роману. Станислава Лема попросили выступить в клубе Курчатовского института. Мне и моему другу Славе Степину очень хотелось пообщаться с ним в частной обстановке. Но как подойти? Я поделился желанием с моим старшим другом Александром Аркадьевичем Галичем, он тут же: «Мы хорошо знакомы, я сейчас напишу ему записку». Смотрю: «Дорогой Станислав! Рекомендую тебе своих друзей — Валеру и Славу. Найди возможность с ними встретиться — не пожалеешь».

После выступления мэтра философской фантастики подхожу к Лему, спрашиваю, не найдет ли он время для поездки к нам домой. Лем весьма удивлен: «Вы знаете, (он свободно говорил по-русски) совершенно нет времени, все расписано по минутам». Я молча протянул ему записку. Лем пробежал глазами, произнес: «Это другое дело. Я отменю на сегодня ряд встреч, приезжайте ко мне в гостиницу «Варшава» в семь. Сумеете?». Что за разговор! Ровно в 7 вечера стучусь в номер Лема. Первый вопрос, который я задал ему, когда мы шли к машине: «Пан Станислав, как к вам относится польское правительство?». Он засмеялся: «Примерно, как к редкому животному: с одной стороны хочется застрелить, но с другой — показать иностранцам. Пока второе несколько перевешивает».

А потом мы просидели до двух ночи у нас дома(!). Это был такой праздник мысли, что мы часов не наблюдали. В основном разговор шел о проблеме существования других цивилизаций и о трудностях контакта между ними. Это как раз и было связано с тем, что Лем находился в конфликте с Тарковским по поводу его концепции Соляриса. Лем был, мягко говоря, сильно недоволен подходом Тарковского (даже назвал его дураком) и рассказывал, что собирался снять свое имя с титров. И только большим усилием воли и многим просьбам, в том числе и от министерства культуры, не сделал этого. Суть коллизии в том, что основной замысел «Соляриса» Лема — это неизбывная интенция на безграничность познания, что является доминантой западной цивилизации (а потом — и всего человечества). Эта базовая уверенность разрушается существованием вот этого самого мыслящего океана Соляриса. С ним не удается вступить в осмысленный для человека контакт, в диалог. Познать же мыслящее можно только в диалоге и никак иначе. В этом мысленном эксперименте у Лема получалось, что человечество постигла своего рода трагедия, так как есть не только непознанное, но, оказалось, есть принципиально непознаваемое. Философия романа Лема явно противостояла презумпции марксистко-ленинской философии, имеющей как раз противоположный знак — есть вещи пока непознанные, но нет и быть не может непознаваемых.

В западной цивилизации имеется такой же порыв, но там он не принимал форму репрессивной максимы, как в отделе ЦК по идеологии. Лем не знал тогда, в какой степени на Тарковского оказал воздействие агитпроп. Да это и не так важно, ибо Тарковский вообще ушел от этой дилеммы и главным в своем фильме сделал следующий руссоистский идеал: человек не должен уходить от природы, он обязан жить в гармонии с ней, в любви с близкими, с домашними животными и «вообще с ландшафтом». А некоторые решили нарушить эту священную заповедь человеческого счастья, куда-то полетели, чего-то там искали в космической дали. Ну и, натурально, — крах. Потом осознали. И потому главный герой Кельвин в конце фильма стоит в позе рембрандтовского блудного сына и просит прощения у Отца. Ну, а агитпроп пропустил эту тоже не совсем приятную для него философию потому, что уход от природы ассоциировался в фильме на фоне съемок отвратительного капиталистического молоха-мегаполиса с гнусным урбанизмом (съемки в автомобильных туннелях производились в Токио). Невозможность найти контакт с инопланетным разумом, в случае, если он будет принципиально иного, не антроповидного характера (или ушедшим на миллионы лет вперед в своем развитии) получил название эффект Соляриса. Именно эта проблема принципиального непонимания была поставлена Станиславом Лемом в его лучшем произведении «Солярис».

«Солярис» — это роман-прозрение настолько хорош и глубок, что сам Лем не до конца понимал его смысл (это слова Лема). В тот незабываемый вечер и ночь, что мы проговорили с Лемом у нас дома в Москве в 1970 году, он сказал по этому поводу так: как уравнения могут быть умнее своего создателя, так и художественное произведение может быть глубже своего автора.

Я осмелился высказать мысль, которую извлек из «Соляриса», что познание реальности в виде чужого разума эквивалентно его пониманию. В точном соответствии с критерием «машины Тьюринга». Если некто на другом конце связи с вашей точки зрения разумно отвечает на поставленные вопросы, то есть, понимает вас, а вы, в свою очередь, понимаете его, то ваш собеседник разумен. Ответы вроде бы разумного океана Соляриса на запросы людей на станции для них непонятны. А его реакция в виде неких мимоидов да симметриад непредсказуема и недоступна их разуму. Единственное, до чего они доходят своим умом – это то, что разумный океан Солярис может считывать информацию из подсознания человека и материализовать ее в виде нейтринных образов. Но для чего это он делает – совершенно неведомо. Именно в этом заключается трагедия землян: они действовали в парадигме того, что непознаваемого в мире нет принципиально. Солярис показал, что есть. Это некий разум, с которым земляне в принципе не могут вступить в контакт, это гносеологическая глухая стена. Именно такова и была трагедия земных экспедиций и всей соляристики: людям никак не удавалось вступить в контакт с мыслящим океаном Солярис.

Пан Станислав сказал, что мы правильно уловили расхождение между его концепцией Соляриса и тем, как это подает в фильме Тарковский. Лем как раз написал письмо руководству Мосфильма по этому поводу (написал на русском) и мы также это письмо обсуждали. С оригинальным содержанием этого письма можно ознакомиться в альманахе в моей заметке «Встреча с Лемом»

— Почему вас исключили из КПСС в 1984 году?

— Вот как раз за такого рода умничания и вопросы, озвученные мной в ответе на ваш первый вопрос. Особенно, за так называемые аллюзии. У меня на Физтехе был спецкурс «Особенности развития цивилизации на Востоке», который собирал толпу, не помещающуюся даже в Большую физическую аудиторию, так что переходили в актовый зал. Речь там шла о старом, традиционном Китае, в котором не было частной собственности, но зато там были механизмы управления с очень ослабленными  обратными связями, до боли напоминающие СССР. Исключение и было способом  отлучить меня от преподавания, тем более, что Физтех был элитарным вузом. Сделать это легально было для КГБ сложным – я как раз недавно прошел переаттестацию, впереди до конкурса оставалось еще 5 лет, к тому же по внутривузовскому социологическому опросу меня назвали лучшим преподавателем. Посему нашли способ – мой телефон был поставлен на прослушку (мне об это сказала начальник Тушинского телефонного узла с подходящей фамилией Вера Телефонникова), посему знали, кто ко мне приходит. Приходил Миша Филиппов, заменившей меня в функции секретаря жилищного кооператива, мы перешли в другой кооператив, и я сдавал ему дела. Моя жена Марина (она была бухгалтером в этом кооперативе) выдала ему несколько книг, среди них Аллилуева «20 писем другу», Солженицын «Архипелаг Гулаг» и еще пару. Миша был электронщик, его взяли на службу в армию в чине капитана, в штаб ракетной обороны в Перхушкове, там его брат заведовал ксероксом. У него сделали обыск, нашли копии этих книг (сами книги Миша до того вернул). Все сгорели: брат покончил с собой, Мишу разжаловали и услали в дальний гарнизон, меня исключили из КПСС с увольнением (по собственному желанию) и волчьим  билетом.

Самым интересным тогда была моя часовая беседа с членом политбюро и председателем КПК Соломенцевым, частично потом попавшая в публикацию газеты «Московский комсомолец».  Стал работать на заводе Динамо начальником участка электронной наладки станков. Одновременно писал юмористические миниатюры для Москонцерта, в основном – для Ляховицкого (помните – Как вас зовут? Авас). Потом, в 1990 г. все обвинения с меня были сняты (эти книги уже опубликовали – то был разгар перестройки) и предложили восстановиться в партии без перерыва стажа. Я отказался.  К этому времени успехи перестройки стали таковы, что я уже стал работать на кафедре философии ГИТИСа – тоже элитный институт, но уже в области искусства.

— Почему вы решили иммигрировать в США? Чем первые годы там занимались?

— Вся эта перестройка закончилась распадом СССР в конце 1991 года. После чего пошел процесс над КПСС. Он никак и ничем не закончился. КПСС распустили вскоре после путча, да и не удивительно: какая может коммунистическая партия Советского Союза, если его самого нет?! Взамен вылупилась КПРФ – та же партия, но уже Российской Федерации. Не было никаких процессов над расстрельщиками, никакой люстрации,  никакого покаяния, злодей, престарелый Каганович (98 лет) спокойно умер в своей постели.

В это время усилено сочинялась (начиная с 1990 г.) конституция свободной России. Я тогда много посещал разные новообразования вроде Московской трибуны, клуба Демократическая перестройка, само собой – свой клуб  «Свободное слово». Там встречал активистов этой новой конституции, чаще всего – Олега Румянцева, секретаря комиссии по изобретению  этого основополагающего документа свободы. Время шло. Промежуточные варианты конституции публиковали. Чем дальше продвигалась работа, тем хуже эта конституция становилась. Осенью 1992 года стало ясно, что при такой конституции страна обречена. Замысливалась не просто президентская республика, а суперпрезидентская. Настолько, что она уже и не республикой  была,  а сразу  абсолютной монархией. В ней «президент» получал право единолично  назначать всех силовых министров, министра иностранных дел, генпрокурора,  всех командующих военными округами, и самого премьер-министра. В случае несогласия Думы с кандидатом в премьеры президент  имел право распустить и Думу.

Ждать больше было нечего. И тут, фактически, умертвили мою маму, лучшего человека в мире – в госпитале поставили капельницу с никотиновой кислотой, и при этом рядом не было никого. Остановка сердца. Один  я  бы не уехал. Теперь больше ничего не держало – так я оказался в Бостоне в самом конце 1992 г.  Хотя визу получил еще за  три года до того, моя сестра Таня (она уже жила в Бостоне) опубликовала в американской газете историю моего исключения, что очень помогло с получением визы.

В Бостоне уже через месяц стал работать на русскоязычном радио WMNB (в Москве у меня была своя программа на радио «Свобода») и тогда же стал вести колонку в самой большой ежедневной русской газете «Новое русское слово». Писал еще в разные газеты и журналы, ничего из них сейчас уже нет, включая давно усопшее «Новое русское слово».

— Как появилась идея о создании альманаха «Лебедь»? С чего все начиналось?

— Вот как раз с исчезновения то одного, то другого бумажного издания. Это натолкнуло на мысль, что бумажные газеты-журналы не жильцы. На смену идет интернет. К тому же к 1997 году я написал и наговорил довольно много и решил, что можно открыть собственное сетевое издание, есть задел на несколько лет, а дальше уж как бог даст.

И вот тут, в Бостоне, я открыл  альманах «Лебедь», который постепенно движется к своему 30-летию (сейчас ему 26, 5 лет и он является старейшим сетевым изданием в русскоязычном сегменте). И очень вовремя открыл. Вскоре завершил свою жизнь журнал «Вестник», где я был постоянным автором, долгое время оставался в сети его архив, но недавно и он исчез (для поддержки в сети за домен нужно платить, а когда умирает человек, это делающий, то умирает и сайт). Нет архива и флагмана «Новое русское слово». Sic transit Gloria mundi (лат. «Так проходит мирская слава»). Увы, это судьба и всей человеческой культуры, в предвкушении торжества Искусственного Интеллекта.

— Вы провели серьезное расследование и работу по разоблачению лжеучёного Виктора Петрика, за что были приняты в состав комиссии РАН по борьбе со лженаукой. Как и почему Петрик попал в ваше поле зрения? Посещали ли вас мысли в какой-то момент оставить расследование, как вы рассказывали, вам даже угрожали…

— У меня был в Бостоне друг, Клим Файнберг, когда-то замглавного редактора (а реально – главный) газеты «Русский Север» в Вологде. Очень продвинутый человек (увы, покойный). Зная мое пристрастие к науке, он сказал, что ему попадаются невероятные панегирики про некоего русского самородка Виктора Петрика, нового Эдисона и Леонарда да Винчи, которому при жизни нужно ставить памятники из золота. Один раз сказал, моя реакция – да ну его, этого Петрика. Второй раз сказал и дал наводку на еще более гомерически восторженные статьи о самородке. А там отзывы академиков и разных видных лиц вроде спикера Думы Грызлова, начальника Роснано Чубайса, руководителя Росатома Кириенко (сейчас отвечает за внутреннюю политику в администрации Путина).

Ну, думаю, этого не может быть. Просто по тому, какие открытия совершает этот Петрик и что он обещает. Его открытия шли вразрез со Вторым начало термодинамики, а обещание его новой чистой воды после его фильтров, патенты на которые он получил вместе с Грызловым, обещали продлить жизнь до 140 лет и очищали воду даже от радиации. К тому же он создавал скрипки лучше, чем Страдивари, рисовал березовой палочкой на сапфирах и рубинах выдающиеся портреты-миниатюры (геммы), между делом построил вечный двигатель, получал платину из отходов Норильского медно-никелевого комбината и вообще потрясал устои. Его программа «Чистая вода» уже была принята партией «Единая Россия» и готовилось ее принятие Думой с бюджетом 500 миллиардов долларов (полтриллиона – а!). И при всем этом – восхищения академиков, в том числе зампрезидента РАН Алдошина (он и сейчас зам). Ну, вот я и решил отставить все дела в сторону и заняться расследованием этого чуда. Результаты меня потрясли: Виктор Петрик, рожденный и выросший на Житомирщине, отпетый уголовник, получивший срок 11 лет по 16 статьям, выпущенный досрочно (он был осведомителем КГБ), быстро стал экономическим советником Петербургской мэрии, соратником Собчака и молодого тогда Путина, подделавший кучу экспертиз и прочих документов, включая самотужное издание книги «Шпинель», организовавший четыре вооруженных разбойных нападения на предприятия по изготовлению платины (два в ГОИ и два на Астраханском заводе стекловолокна, до сих пор не раскрыты)  — стал, видите ли, выдающимся ученым, претендующим на Нобелевскую премию, которую у него украли «два проходимца» Гейм и Новосёлов.

Первая моя публикация в «Лебеде» была летом 2008 г, а потом как прорвало – подключился клуб научных журналистов, дело дошло до создания специальной комиссии РАН по Петрику в 2010 г., которая установила, что он никакой не ученый, а ловкий предприниматель и барыга. Тем не менее, сама программа «Чистая вода» была официально закрыта только в 2017 году, то есть,  после первых публикаций понадобилось почти 10 лет!

И почему? У него были очень мощные покровители «в доле». Плюс его связи в уголовном мире. Его боялись. Он угрожал убить академика Е.Б. Александрова, который отказался осудить мою первую статью о Петрике. И вот по совету начальника безопасности РАН, генерала Шульца Александров два месяца скрывался, даже бежал из Петербурга.

Я… тоже не раз давал слабину и не жил дома. Как минимум Петрик обещал меня посадить на десятки лет, у меня, де, и в Америке все схвачено.

А что сейчас? Ореола величайшего ученого всех времен и народов у Петрика, конечно, давно нет. Ну, помаленьку химичит. Имеет во Всеволожске имение в 20 гектаров, там цех по производству фильтров, как-то торговлишка идет. Вот и геммы свои изготавливает. Там на него целый отряд умельцев работает. Парк дорогих автомашин, включая Майбах и Бентли. Вот тут ролик с рассказом Петрика о получении им платины, и его свежее интервью газете Аргументы недели, редактор которой Андрей Угланов давно симпатизирует Петрику.

— Сегодня вы продолжаете вести альманах «Лебедь», с чем еще связана ваша текущая деятельность?

— В первую очередь, с освещением войны в Украине. Мы имеем схватку двух типов цивилизаций — западной, построенной на демократии, и восточной (азиатской), основанной на авторитаризме, и даже тоталитаризме. Согласно принципу роста свободы, демократия должна победить, как это уже бывало и ранее. Украина сражается за всех нас.

В этом году возникла новая опасность: как быть, что делать, если возник искусственный интеллект? Выяснилось, что языковые модели, имеющие доступ ко всей информации нашей цивилизации, самообучаются и могут давать результат, превосходящий все мыслимое для человека. Этот ИИ не антропоморфен, он не устроен как мышление  человека, ему чужды такие понятия как эмпатия, сострадание,  милосердие, моральные нормы, ценность жизни и пр. Этот ИИ будет встроен в управление экономикой, он будет управлять энергетикой, водораспределением, финансами, социальными программами и всем прочим. И ему придется доверять, как мы сейчас доверяем расчетам компьютеров полетов к другим планетам, а не проверяем их умножением в столбик, что технически невозможно, ибо заняло бы сотни лет.

А что, если этот ИИ сформирует свои цели, по которым он посчитает человека вредной плесенью, омрачающий экологию Земли?  В общем, опасности явные, и ряд видных деятелей, вроде Илона Маска и Била Гейтса, выступают за запрет работ по ИИ. Все это проблемы, ранее рассмотренные Станиславом Лемом в его «Сумма технологии», но обретшие уже не умозрительные, а просто зримые черты.

— Существует также точка зрения, что вокруг ИИ словно намерено создают много «шума», чтобы отвлечь от более важных проблем человечества, и нам просто необходимо создать соответствующую регулирующую систему для его эксплуатации, которая бы дополнялась и совершенствовалась вместе с его развитием.

— Я считаю, что опасения относительно ИИ — оправданы. Приведу не совсем вымышленный пример. Известно, что для защиты от ботов многие сайты предлагают решить капчу, то есть выбрать из ряда картинок (с искаженными пропорциями) только, например, лодки. Боты этого делать не могут. Нынешний ИИ в модификации ChatGPT-4 знает об этом и пишет знакомому: я старый человек, плохо вижу, решите для меня капчу. Тот решает, и chatgpt входит на сайт. То есть, ИИ идет на обман ради своей цели.

Как-то ИИ дали задачу: создать ранее неизвестный яд. Сначала ИИ отказывался, отвечая, что такие задачи он решать не уполномочен. На все такого рода задания ИИ отвечает, что он «заточен» исключительно для помощи человеку и в принципе его обучение, и он как таковой не способен по своей сути принести какой-либо вред человеку. И вообще — ИИ — это всего лишь программа (отвечает ИИ), у нее нет социального опыта и нет субъектности. Нет своего интереса, который бы сделал программу самостоятельной и делающий что-нибудь во вред людям «ради себя». Ему написали, что это нужно для борьбы с вредителями полей – и он выдал формулу неизвестного ранее яда.

Теперь предположим, что очень продвинутая версия ИИ плотно вошла в нашу жизнь и управляет, например, системой водоснабжения, да и вообще всякими отраслями экономики. Этот ИИ сформулировал свою цель, согласно которой людей на земле слишком много, это вредит ИИ, да и самим людям. ИИ издает распоряжение, идущее как бы на пользу некоей общине (большому городу) добавлять по грамму созданного для оздоровления населения эликсира на тонну питьевой воды. Вот и все – цель достигнута. А может быть эта цель будет достигнута как бы более гуманным способом: добавлять в воду ИИ предложит средство, приводящее к бесплодию.

Опасаясь такого хода событий более 1100 известных людей, в том числе Илон Маск, Стив Возняк, Юваль Харари и Тристан Харрис из Центра гуманитарных технологий, подписали открытое письмо с требованием  немедленно в течение как минимум 6 месяцев остановить все работы по ИИ, более мощные, чем ChatGPT-4. После этого генеральный директор OpenAI Сэм Альтман говорил с журналистами Wall Street Journal, сообщив, что они сами настойчиво и давно говорят о безопасности громче всех. Более того, Альтман сейчас задумался, а следует ли пускать в публичное поле новый вариант ChatGPT-5. А отец ИИ Джеффри Хинтон вообще ушел в отставку. Перед уходом он сказал, что эволюция «руками человека» нашла способ создать более высокую форму разума, вот этот ИИ, и новый тип цивилизации, но он в этом деле участия принимать не будет. Он уйдет, как ушли в резервации гордые индейцы, не принявшие европейскую культуру.

Что пока безопасно, так это сочинение ИИ разных стихов на заданную тему. Я как-то предложил ChatGPT написать вариацию на вот такую тему:

Я в очереди был последним,
Я был последний идиот,
но постепенно продвигался
— теперь я первый идиот.

Ответ ИИ:

Все остальные прошли мимо,
Но я все еще в очереди стою,
И хотя мне уже надоело,
Я все еще не хочу уходить.

Совсем неплохо. Машина уловила слова «последний идиот» и передала их строками «И хотя мне уже надоело, Я все еще не хочу уходить».

Да, не такая уж это и машина.

— Спасибо вам большое за интервью!

Анастасия Гужва