Чума искусственного интеллекта

Началом дискуссии послужили вот эти строки из моего интервью журналу «Гранит науки»( https://un-sci.com/ru/2023/07/08/ob-isklyuchenii-iz-partii-besedah-s-lemom-i-ugrozah-ii-intervyu-s-filosofom-valeriem-lebedevym/):

В этом году возникла новая опасность: как быть, что делать, если возник искусственный интеллект? Выяснилось, что нейросети, языковые модели, имеющие доступ ко всей информации нашей цивилизации, самообучаются и могут давать результат, превосходящий все мыслимое для человека. Этот ИИ не антропоморфен, он не устроен как мышление  человека, ему чужды такие понятия как эмпатия, сострадание,  милосердие, моральные нормы, ценность жизни и пр. Этот ИИ будет встроен в управление экономикой, он будет управлять энергетикой, водораспределением, финансами, социальными программами и всем прочим. И ему придется доверять, как мы сейчас доверяем расчетам компьютеров полетов к другим планетам, а не проверяем их умножением в столбик, что технически невозможно, ибо заняло бы сотни лет. (

А что, если этот ИИ сформирует свои цели, по которым он посчитает человека вредной плесенью, омрачающий экологию Земли?  В общем, опасности явные, и ряд видных деятелей, вроде Илона Маска и Била Гейтса, выступают за запрет работ по ИИ. Все это проблемы, ранее рассмотренные Станиславом Лемом в его «Сумма технологии», но обретшие уже не умозрительные, а просто зримые черты.

Эдуард Бернгард 

ВЛ, вы пишете: "Невозможность найти контакт с инопланетным разумом в случае, если он будет принципиально иного, не антроповидного характера (или ушедшим на миллионы лет вперед в своем развитии)..."

Хм. Если цивилизация гораздо старше нашей, в этом случае нельзя установить с ней основанный на взаимопонимании контакт? Почему, собственно? Очень даже можно. Так же как мы смогли бы контактировать с более молодой по сравнению с нами цивилизацией. К слову, учёный интеллектуал может ведь общаться с пигмеем, причём обе стороны хотя бы в чём-то поймут друг друга и хоть что-то вынесут для себя из этого диалога.

А что касается "не антроповидного характера" - вполне осмысленный контакт устанавливается у человека с приматами, кошками, собаками, многими другими видами животных, а также с птицами. Смею утверждать, что в этих случаях (на протяжении всей истории) имеет место определённое, пусть и не полноценное, ВЗАИМОПОНИМАНИЕ - не через язык, но посредством чувств, эмоций, жестикуляции.

Валерий Лебедев:

Ваши примеры и соображения относятся к земным формам жизни. Европеец и пигмей - это вообще ближайшие родственники. Естественно, они могут найти некое взаимопонимание. Да и собаки наша родня. Более того, даже крокодилы, виду которых 80 млн. лет - это тоже (дальние) родственники. Поэтому вы вполне можете понять его, например, то, что он хочет вас сожрать.

Между какой-то бактерией и нами гораздо больше общего, чем между Крисом Кельвиным и Солярисом. Ибо весь куст жизни имеет один исток, белковые молекулы построены по одному плану, равно как и ДНК. И то...
У вас есть сведения о том, что человек общался с осьминогом? А ведь это - приматы моря. У них развитый мозг и есть эффекторы. Был какой-то осьминог Клаус или Карл в Германии, который предсказывал результаты футбольных игр. Знаете как? Он сидел в своем аквариуме и шевелил щупальцами, а некто расшифровывал это как предсказания. А ведь нас разделяет всего-то каких-то 500 млн. лет.

Представьте себе, что может существовать жизнь не на основе углерода, а , скажем, кремния. И те существа живут при температурах в сотни градусов Цельсия (как саламандры). Или вообще какие-то плазмоиды, как-то измысленные Лефевром. Да что там плазмоиды, если Лем уже провел мысленный эксперимент с Солярисом.

Если нет общности происхождения чего-то мыслящего в самих основах, то, скорее всего, не будет и понимания. В наше время - это ИИ. Похоже, что мы не сможем понять "тайных замыслов" этого будущего ИИ. А он нас? Пожалуй, тоже. Так, какая-то плесень, которая стремится размножаться и пожирать все вокруг себя, которую нужно ликвидировать.

Эдуард Бернгард 

Ваши рассуждения изящны. Тем не менее. Есть у меня (почему-то) такая уверенность, что обитаемые миры во Вселенной хотя бы отдалённо (скорее, не слишком отдалённо) похожи на наш - для такого предположения имеются основания, ибо физические "законы" действуют (одинаково) во всей Вселенной, состоящей повсюду из того же "материала", а коли так, то везде должны действовать и все прочие "законы", кои суть производные от физических (и химических). То есть природа, где бы она ни возникала, возникает благодаря определённой (биогенной) совокупности-комбинации веществ и факторов - вот как на нашей планете.

Многие писатели-фантасты не учитывают, упускают из виду то обстоятельство, что жизнь не ограничивается одним (т. н. разумным) видом - поэтому и в других обитаемых мирах наверняка имеет место быть, по условному аналогу с Землёй, богатая, разнообразная фауна-флора, причём - это относится сугубо к фауне - с неизбежной иерархией, построенной исходя из умственных и телесных возможностей. И весьма вероятно, что разумным и эволюционным (способным к развитию) видом являются существа, не слишком отличающиеся от нас, также и анатомически - просто потому, что это удобно, так сказать. Рационально и функционально. Мы можем, например, очень многое делать руками и пальцами, что недоступно почти всем остальным живым (а тем более неживым) созданиям. Исключение составляют обезьяны - и это не случайно.

Вы допускаете и даже предпочитаете существование принципиально иных форм разумной жизни, с коими коммуницировать нам невозможно по определению. Что ж, и такого исключать нельзя. Но существование близких нам по облику и устремлениям (к примеру, достижение успеха и благополучия) цивилизаций исключать нельзя тем более. Вы пишете: "Лем уже провел мысленный эксперимент с Солярисом." - - Не уверен, можно ли "чистую" фантастику возвести в ранг эксперимента. Это всё-таки не эксперимент, это игра воображения, капризы фантазии.

Вы (как и многие другие) выражаете озабоченность по поводу так называемого искусственного интеллекта и его будущих "тайных замыслов". Признаться, меня эта озабоченность озадачивает. Ведь пресловутый ИИ - "всего лишь" созданная людьми программа (пусть сложная, разветвлённая). У неё нет собственно интеллекта - своего. Она не мыслит и не осознаёт себя. Она не живёт. Так с какой стати следует опасаться каких-то (потенциально) враждебных нам планов, зловещих "тайных замыслов" этой неживой программы, НЕСПОСОБНОЙ ДЕЙСТВОВАТЬ САМОСТОЯТЕЛЬНО И ОСОЗНАННО? Или Вы считаете, что в результате её невесть как зародившегося самосознания, автономного (без участия человека) развития и самосовершенствования она обретёт реальную экзистенцию, глубоко осмыслит себя, свои интересы и - решит, что непременно должна каким-то образом пакостить нам, да? Если поселится в ней дух, он обязательно будет злой? А может, появится этакий милый Хоттабыч?  Ладно.

P.S. По поводу осьминога Пауля: он не просто "шевелил щупальцами"; в его аквариуме размещалась кормушка - два разделённых куба (бокса) из прозрачного пластика; снаружи на стекле аквариума перед очередным матчем напротив каждого куба устанавливали (прицепляли) большие флаги стран-участниц. И почти всегда осьминог как бы предугадывал победителя, хотя это всё чепуха, конечно же. Никакой мистики. Причуды случая.

Валерий Лебедев:

Эдуард, ваш тезис: "ИИ — «всего лишь» созданная людьми программа (пусть сложная, разветвлённая). У неё нет собственно интеллекта — своего. Она не мыслит и не осознаёт себя. Она не живёт".

Это не так. В том то и дело, что у ИИ есть интеллект. Уже вариант ChatGPT-5 планируют подключить ко всей data base цивилизации, к примеру, ко всей библиотеке Конгресса и еще к ряду крупнейших хранилищ информации.

ИИ вовсе не программа, как вы ее понимаете по прошлому опыту. Это самообучающаяся система, нейросеть, которая, как полагают, сможет иметь собственные цели. Я уже писал, что интеллект ИИ не такой, как у нас. Наш произрос на базе ощущений, восприятий, рефлексов,  инстинктов, первичных форм конкретного мышления. То есть под ним лежит миллиард лет биологической эволюции.
У нас неокортекст занимает всего 2 проц. всей деятельности мозга, остальные 98 проц.занимаются управлением телом.
Тела у ИИ нет, и ее основанием сразу является вся информация человечества. Нет у ИИ никакого обмена веществ, в этом смысле ИИ "не живет". А вот энергия ИИ нужна. И вот как раз тут может возникнуть конфликт между человеком и ИИ.
Условно говоря, ИИ - это как бы вторая ступень ракеты. Она никак не связана со стартовым столом на земле. Она не знает сопротивления атмосферы, ее ареал - космос.

Что такое этот ИИ в своем развитии мы не можем сказать. Можем только думать, что ему не будет свойственна никакая эмпатия, помощь ближнему и так наз. любовь. Эффекторами ИИ на первых порах будут сами люди - они ведь будут вынуждены выполнять решения ИИ по управлению экономикой. Вот как сейчас космонавт в корабле выполняет команды бортового компа.

А вот каковы буду решения ИИ в близком будущем - никто не только не знает, но и представить не может. Отсюда и опасения и почти паника ученых мужей.

Эдуард Бернгард 

В таком случае мы уже утрачиваем понимание того, что такое интеллект. Может быть, тогда лучше вернуться к более ясному понятию РАЗУМ? Ну хоть здесь согласитесь со мной - нет у ИИ разума, не правда ли?

Кстати, каюсь: много лет назад в одной статье я выразился так (воспроизвожу в точности): интеллект и ум - разные "вещи"; интеллектом может обладать и компьютер, но ума у него нет. Видите! Я признавал наличие интеллекта даже у простого (по нынешним меркам) компа - правда, в шутку (нарочито). А если серьёзно: разум (включая самосознание, чувства, ощущения, желания, потребности) - порождение биосферы, продукт эволюции биоматерии, причём процесс "построения" разума природой, как известно, не сказать чтоб короткий - три-четыре миллиарда лет. Да-с.

Выходит, всё дело в том, ЧТО именно подразумевать под интеллектом. Это устранило бы кое-какие недоразумения. Если допустить такую возможность, что интеллект может быть неживым, тогда... тогда дискуссия сходит на нет. Но остаётся чувство... неуюта, что ли.

Валерий Лебедев:

Вы как бы определяете разум как нечто, включающее в себя самосознание, чувства, ощущения, желания, потребности. Вот все перечисленное – это и есть разум. Пусть так. И тогда выходит, что разума у ИИ нет и бояться поэтому его нечего.

Это у нас давняя привычка, идущая от схоластики, давать всему подряд дефиниции и говорить, что то, что не подпадает под вот это определение, оно – другое и даже не существует.

Кроме разума есть еще понятие «мышление», есть «сознание», есть близкое «понимание». И каждому из них дается десяток и больше определений.
Вот навскидку:

Мышление – это сущностное свойство человека. Декарт утверждал: «Я мыслю, следовательно, я существую». Результатом мышления является мысль (понятие, смысл, идея, гипотеза). Мышление противопоставляют «низшим» способам освоения мира в форме ощущения или восприятия, которые свойственны в том числе и животным.

Созна́ние — состояние психической жизни организма, выражающееся в субъективном переживании событий внешнего мира и тела организма, а также в отчёте об этих событиях и ответной реакции на эти события.

Есть ли все это у ИИ? Можно сказать – нет. А можно, что некие части названного есть. Исчезнет ли при этом опасность от ИИ? Не исчезнет.

Я писал выше, что у ИИ нет обмена веществ. Разве что, если не считать потребпения им энергии и выделения при этом тепла. Вот такой как бы аналог обмена веществ. Но как-то это не совсем то, не правда ли?

Берем одно из определений жизни (их много):
ЖИЗНЬ- специфическая форма организации материи, сопровождающая совокупность явлений, происходящих в живых организмах, и характеризующаяся единством трех моментов: 1) наследственной программой, записанной в совокупности генов (геном), т.е. в соответствующих последовательностях нуклеотидов дезоксирибонуклеиновой кислоты (ДНК); 2) обменом веществ, специфика которого определяется наследственной программой; 3) самовоспроизведением в соответствии с этой программой.

Ничего из этого в ИИ нет. Стало быть, ИИ – нечто неживое. А раз так, то разума, мышления и сознания у него нет. Хорошо-то как!

Вы знаете, ничего этого нет и у вирусов. Они, некоторым образом, неживые и способность к размножению получают только попав в живую клетку. Впрыскивают в нее свою РНК и производят редупликацию.
А представляют ли некоторые вирусы угрозу человеку? Ответ очевиден. Вот тут есть аналогия с ИИ. Он и неживой, и разума-мышления-сознания у него нет, а вот опасность – есть.
Запретить? Именно это и предлагают столпы вроде Илона Маска. Кстати, петицию о запрете ИИ уже подписали около 40 тысяч человек и подписи растут как снежная лавина. Вместе с тем, выгоды использования ИИ в разных областях экономики, и в военном деле таковы, что никакая ведущая страна от этого не откажется. Примерно, как в свое время от атомной бомбы.
Ну вот и будем жить как есть, пока бог даст.

Эдуард Бернгард 

Немного мягкой иронии. Знаете, мне очень понравилось Ваше сравнение ИИ с вирусом, честное слово. Замечательное сравнение. Особенно если учесть, что вирус - идеально безмозглый. И даже не очень живой. Потому и не осознаёт себя и чувств у него тоже нет, как Вы верно подметили. Однако, усмотрел я тут некое противоречие: ведь провозглашается, что ИИ неотвратимо захочет продвигать какие-то свои интересы, причём непременно вразрез с интересами человечества (хотя в самом человечестве постоянно происходят столкновения интересов, нередко смертоносные, без всякого ИИ), но как может лишённый мышления и довольно-таки мёртвый вирус чего-то хотеть и уж тем более какие у него могут быть интересы. И уж тем более интересы касательно миропорядка. Причём ему (как уверяют бьющие тревогу) нужен именно гнусный миропорядок, только чтобы посильнее нагадить создавшему его человеку - этакий Люцифер, предавший Творца своего.
Славно Человек вырастил в своих НИИ вирус ИИ - полезного и опасного помощника, головокружительная карьера коего увенчается (предопределённой) ролью босса, а там, глядишь, и демиурга. И чего от него ждать - лишь он один об этом и ведает. Неисповедимы пути ИИ. Как и того, другого ИИ (тот ещё жук Иисус Иосифович, извиняюсь за неуместную ассоциацию). Итак, пути ИИ неисповедимы, но почему-то многие важные публичные персоны ждут от него именно чего-то плохого, ужасного (словно ИИ коварен и деструктивен по "природе" своей) и, главное, лютой ненависти к нам, гомо как бы сапиенсам. Вот обретёт он глобальные властные полномочия и давай ОСОЗНАННО творить зло...
А теперь позволю себе такое суждение: думается, вовсе нет никакого искусственного интеллекта - это абстракция, умозрительная конструкция. Вот взяли и назвали по прихоти очень продвинутую электронную систему искусственным интеллектом - звучит ведь! А коли вот это вот есть интеллект, то он на всякое способен... - жди от него бед. Ладно, уже рефренирую и немного утрирую.
Да, кстати, я не утверждал (и это видно по той формулировке), что самосознание, чувства, ощущения, желания, потребности являются (исчерпывающими) составляющими разума, я имел в виду, что разум ТАКЖЕ включает в себя и названные свойства. Там ещё много других.

Валерий Лебедев

Хорошо, продолжу аналогию с вирусами. Мы знаем, что у вирусов и микробов нет никакого целеполагания. Но их жизнедеятельность, тем не менее, может быть выражена в категориях цели. Их цель – занимать все более широкую экологическую нишу, для чего заражать все большее число людей, повышать свою вирулентность (заразность), плодиться и размножаться. Смерть человека есть следствие жизнедеятельности бацилл, выделения ими токсинов, а не «цель» умертвить чем больше людей. Но  ничто не мешает нам метафизически считать, что у неких враждебных людям сил есть стратегическая цель: извести род людской. В Средние века примерно так и полагали, объясняя чумные эпидемии карой Господа за грехи человека.

В принципе, чума легочной формы дает стопроцентную летальность. Она останавливалась тогда только потому, что полностью вымирало поселение, оттуда никто не выходил, в него никто не входил. Потом туда входили очень редкие люди с иммунитетом против чумы в черных балахонах, в масках с клювами (в них помещали «целебную» траву против заразы), сжигали все тела и вещи вместе с переносчиками чумы – блохами, и вот так эпидемия заканчивалась. При нынешней мобильности населения дело могло бы закончиться полным вымиранием. Получилось бы: цель наказания людей за их грехи достигнута. То, что при этом исчезли бы и бациллы – не имеет значения, некая высшая цель наказания реализована.

Теперь ситуация с ИИ в чем-то схожа, но есть и важное отличие: ИИ обладает интеллектом, и это очевидно по тому, что он вполне осмысленно ведет диалог с человеком. Более того, дает советы и указания, как и что делать (например, в сфере финансов или энергетики). Поэтому ликвидация народонаселения (если таковая начнется) уже не будет  трактоваться как кара за грехи и переноситься в некие надмирные сферы, а будет истолковываться как злонамеренная цель ИИ. На самом же деле, у нас нет других понятий, кроме как «цель» для понимания деятельности ИИ. Но ИИ может действовать по совсем иным мотивам, для которых у нас просто нет понятийного аппарата. Элиминация людей может быть просто побочным следствием функционирования ИИ.

В качестве аналогии: когда выяснилось, что электрон, излученный из электронной пушки, при одних и тех же условиях попадает в разные места экрана, то была выдвинута гипотеза о свободе воли электрона. Вот было тогда понятие о свободе воли, взятое из сферы человеческого выбора. Только потом ввели понятие вероятности как характеристики, правильно описывающей суть «жизни» электрона.

Что-то вы этом духе может иметь место с пониманием действий ИИ, с той только разницей, что у нас в принципе не будет адекватного языка для понимания происходящего.