Новый ум
07-02-2024- Сегодня – 27 лет жизни альманаха. Чего можно ожидать еще через 27 лет? Ниже – дискуссия на эту тему.
- В. П. Лебедев (ВЛ)
- Вопрос о дальнейшей судьбе человека, если не считать христианской эсхатологии — Страшный суд и «окончательное решение человеческого вопроса» — (кого навечно в рай, кого — на вечные муки в ад) первый раз на отличном философском и научном уровне поставлен в «Сумме технолгии» Станислава Лема. Писал он этот труд, конгениальный «Сумме теологии» Аквината, в свои 38-39 лет, что само по себе поразительно.
- Лем очень подробно развивает свою логику о том, что время человека истекает и что он эволюционирует в сторону сращения с искусственым интеллектом с заменой части своих органов не нечто, более работоспособное, плюс вживление чипов в позг. Возникает то, что называют киборгом.
- Но и это промежуточный результат. Биологическая составляющая человека-киборга — это переходный этап. Белковые молекулы, из коих состоит тело и сам мозг, и его ДНК как носитель программы конструкции тела — отжившее свое достижение эволюции. Потом эволюция руками человека породит следующий этап интеллекта — это ИИ, который пока имеет своей материальной базой мощные серверы, даже суперкомпьютеры, но в дальнейшем это могут быть квантовые компы, а еще дальше — нечто нам непредставимое.
- А наша участь — жить в доме призрения под присмотром сверхумных сиделок суперцивилизации. А может быть, тихий вечный сон в приюте сладких отдохновений.Когда-то, в доисторическое время, мы с моим другом (потом акад.) Славой Степиным много часов проговорили с Лемом у нас дома, и я мысль о том, что человек сам породит своего сменщика, как ранние гоминиды совместными усилиями «создали» человека, до которой к 1970 г. я дошел своим умом (но Лем раньше — его фунтаментальная работа вышла в Польше в 1963 г. и к тому же очень аргументированно) и осмелился высказать пану Станиславу. Его ответ меня подбодрил: пожалуй, если упрощенно говорить, именно так и произойдет. Это будет автоэволюция.Человек слишком перегружен наследием предыдущих нескольких миллиардов лет эволюции, всеми этими инстинктами, врожденной агрессией, борьбой за выживание, за территорию, вообще доминированием и прочими наслоениями биологии. Мышлением у человека занимается всего 2 проц. работы мозга, остальное — управление телом. На этом в будущее не уедешь.
- Алексей Буров АБ
- Ваше рассуждение, дорогой Валерий Петрович, упускает то качество, что отличает субъекта от объектов — сознание, картезианское cogitatio, наличие у человека себя, что и отличает человека принципиально от всех прочих сущностей, включая ИИ. У ИИ себя нет, и это принципиально, хотя со временем все труднее это будет доказывать. Но для сохранения себя перед угрозой уничтожения нас ИИ, человечество должно постоянно прилагать к тому серьезные усилия. ИИ представляет опасность не потому, что может захотеть нас устранить (не может, там некому хотеть), но потому что это система с практически бесконечным числом степеней свободы, которые всегда могут сыграть самым неблагоприятным для нас образом. Это могучий раб, который всегда может сойти с ума.
- ВЛ
- Почтенный Алексей, я в этом постинге никак не затрагивал тему сознания и самосознания. Ранее немного об этом писал. Пока можно сказать, что ИИ будущего (не теперешний ИИ) будет обладать самосознанием. Оно возникнет как бы само собой, при соотнесении электронных кодов в суперкомпе с объектами, которыми будет управлять мощный ИИ. Вот это отношение и станет их сознанием.
Ситуация чем-то будет напоминать приобретение сознания (а потом и самосознания) ребенком. Ведь сразу после рождения и первые месяцы у него нет сознания. Оно появляется к 2 годам. А самосознание — к трем. И знаете как? Через действия ребенка с собственными ручками-ножками, соской, с игрушками, ложкой, еще всякими предметами типа платка, зеркальца и пр. Одновременно слыша обозначения этих предметов словом. - АБ
- Валерий Петрович, эта гипотеза о само собой возникающем сознании в чисто физической системе, на мой взгляд, того же рода, что и прочие предположения о выскакивании бытия из ничего. Понимаю, что в это можно верить, но стоит подчеркнуть, что сие есть именно беспримесная вера. Пенроуз отмечал ее абсурдность, напомню)))ВЛ
Алексей, я вполне разделяю вашу веру в то, что Дизайнер в своем проекте мира предусмотрел такой феномен как сознание, что эквивалентно появлению человека вида Homo sapiens sapiens. Но возникновение каждого индивидуального сознания у детенышей этого Хомо (да и у него как вида), это, уж увольте, не дело Высшего Разума.
Тут Он тоже предусмотрел вполне рабочие механизмы того, как это происходит. Ну, дело обстоит примерно также как с законами природы. Они появились до того, как возникли объекты, которые живут и действуют по этим законам, уже без неусыпного контроля и вмешательства Творца.Как возникает индивидуальное сознание — об этом сказано в работах Пиаже, а экспериментально показали Мещеряков и философ Ильенков, взяв небольшую группу слепоглухонемых детей в приюте Загорска и доведя их до уровня не просто некоего первичного и примитивного сознания, но до студентов психологического факультета МГУ. Это для одного из них закончилось трагедией — он все же не мог состязаться с нормой, оказался невостребованным и покончил с собой, ибо имел уже высокий уровень самосознания и не мог примириться со своей ущербностью.
Вскоре и сам Ильенков добровольно ушел из жизни, чему способствовало его осознание того, что дав сознание как бы человеческим существам, он сделал их несчастными вдвойне.Надо добавить, что эксперимент с получением сознания в Загорской группе Мещерякова-Ильенкова не был чистым – они отобрали 4 детей, которые потеряли зрение и слух в возрасте от двух до четырех лет, то есть, сознание у них уже успело возникнуть, а далее его только совершенствовали. А остальные 50 пациентов приюта в Загорске, слепоглухонемых от рождения, так и оставались зверьками. И вообще науке не известно ни одного случая приобретения сознания у таких детей. То есть, слово – услышанное или написанное – должно быть первичным. Когда ребенок начинает говорить самые первые слова, эти слова как раз и свидетельствуют: сознание рождается. Да, "вначале было Слово".
АБ
Валерий Петрович, героические опыты Ильенкова, о которых вы говорите, показывают лишь то, что у человека, даже слепоглухонемого, можно пробудить сознание, установить с ним контакт как с субъектом. Эти опыты не имеют никакого отношения к странной вере в то, что в переплетениях железа, пластика и стекла вдруг зародится сознание.
ВЛ
Что вы, Алексей. Ни о каких медных проводах, пластике и стекле в будущих системах для ИИ не может быть и речи. Уже сейчас в квантовых компах речь идет о фотонах, ионах, всяких элементарных частицах, говорят уже и о биологических молекулах, находящихся в состоянии суперпозиции. Вот цитирую:
Физически кубиты представляют собой объекты, которые могут находиться в двух квантовых состояниях: одно из них условно обозначают «0», а другое — «1». В некотором смысле, квантовый объект находится одновременно и в том, и в другом состоянии ( суперпозиции).
Элементной базой квантовых компьютеров (то есть, «носителями» кубитов) могут быть ядерные спины атомов фосфора в монокристаллическом кремнии, в молекулах трихлорэтилена, атомы в резонаторах электромагнитного поля.
Квантовые компьютеры будут способны решать задачи, недоступные ни одному из существующих суперкомпьютеров, работающих на классических принципах. Например, за пару секунд-минут такой компьютер сможет прочитать любой шифр.
Символической вехой является достижение «квантового превосходства», то есть — создание квантового компьютера общего назначения, который может выполнять задачу, которую не может сделать классический компьютер.Для очень заметного превосходства нужно иметь 1000 кубитов, пока до этого далеко, сообщали о числе работающих кубитов где-то под сотню. Сложность с этими квантовыми компьютерами еще и в том, что кубиты более-менее работают только при очень низких температурах, ниже минус 200 Цельсия, так что при компьютере нужно иметь мощную холодильную установку. Можно предположить, что при температурах близких к абсолютному нулю, при минус 273 градусах (без сотых) тепловые шумы уже не будут разрушать кубиты, и квантовый компьютер покажет себя во всем блеске. Вот только холодильный агрегат будет стоить как атомный реактор.
Видите, Алексей, тут уж не до стекла и пластика с пучком проводов. А чем будет материальный носитель будущего ИИ никому не известно. Но по сложности он может сильно превосходить наш бедный белковый мозг.
АБ
Валерий Петрович, «железо и пластик» в моем комменте — метафора любой физической системы, системы, исчерпывающе описываемой законами физики и рандомностью. В этом смысле квантовые компьютеры — тоже «железо и пластик». Предполагать, что в завязанных один на другой кубитах вдруг появится сознание, столь же странно, как предполагать, что оно вдруг появится в любой электротехнической схеме.
ВЛ
Квантовый комп — это я привожу как пример некоей продвинутости относительно конторских счетов или арифмометра «Феликс», коих вы по молодости лет не помните. А главное упование — на какой-то будущий носитель ИИ, нам пока неизвестный, который на порядки превозойдет по сложности мозг.
- АБ
- Сколь бы сложной ни была физическая система, Валерий Петрович, она остается физической системой, всецело описываемой физическими законами и рандомностью. А сознание есть принципиальный выход за законы и рандомность. Вот метафора: никакое количество идиотов не заменит одного гения, как их ни организуй, какими обратными связями ни обеспечивай.
- ВЛ
- Наше расхождение, дорогой Алексей, начинает приобретать теологический и метафизический характер. У вас, фактически, пробивается библейское убеждение: человек создан по образу и подобию Творца. То есть, он есть венец творения и ничего лучше уже появиться не может.
Это, при всем почтении к традиции, несколько антропоморфный взгляд на Создателя. Ибо если человек есть образ и подобие Бога, то Он и сам тогда есть что-то вроде человека. Ну вот такой, как в изображении Микеланджело — почтенный старец с седой бородой, большой и добрый. Такой как бы дароносец дедушка Мороз. - Но в своих физико-богословских работах вы рисуете другой образ: это бесплотная Идея мира (визуально непредставимая), идеальный план мироздания, в которой предусмотрен также познающий субъект, некто, способный понять замысел Вселенной и всяких ее составных частей. Для чего Демиургом был запущен процесс эволюции как самой Вселенной, так и ее составляющих, — к примеру, планеты Земля, на которой возникла жизнь, приведшая к появлению Хомо Сапиенса.Для чего это понадобилось Создателю — вопрос совсем уж эсхатологический. Согласно почти что герменевтическому христианскому подходу — для того, чтобы в дальнейшем спасать мир двойной тягой — Богом и созданным им как бы своим помощником Хомо. Это, вроде, излишне, учитывая такой абсолютный атрибут Бога как Всемогущество. Ну, еще человек может был создан для того, чтобы славить Вседержителя. Но Он мог бы, казалось, обойтись и без этого мелкого тщеславия — Он и так самодостаточен. Да, Темная история. Хотя очевидно, что никакие естественные науки не отвечают на вопрос: какова цель у Вселенной? Для чего она возникла? Какой в ней смысл? Здесь простор для философии. Может быть, точнее - религиозной философии.Я же исхожу из того, что полностью замысел Мира нам неизвестен и можно легко предположить, что эволюция сознания вовсе не остановилась на Хомо, перегруженного атавизмами и рудиментами. У которого мышлением занято всего-то 2 проц. его мозга, а 98 занято телесными отправлениями и разными мерзостями вроде агрессии и уничтожением себе подобных. Наш пацифист В.М. Славинский про это пишет очень ярко и с отвращением. Можно сказать, что цель Вселенной - это сознание, и, тем самым, познание самой Вселенной. И себя. Это уже Гегель. А мы можем добавить, что уровня сознания человека для этого недостаточно, нужно кое-что гораздо более совершенное.
Так вот, на этапе технологической цивилизации включается автоэволюция, и природа — уже руками человека — начинает создавать продолжение своего белкового мозга и своего сознания – вот этого ИИ (это одна из центральных идей «Суммы технологии» Лема). А дальше уж он своими силами, своей автоэволюцией продвинется черт знает куда. Вполне возможно, начнет управлять расширением Вселенной и капитальным ремонтом Провала — чтобы тот не слишком проваливался.АБВалерий Петрович, в этой ветке мой аргумент не теологический, а физический. Не буду его повторять в третий раз, чтобы не ходить по кругу. Что же касается планов Творца относительно будущего развития человечества в связи с ИИ — думаю, что человечество ждут большие сюрпризы, но появления сознания в физических системах я все же не жду, как не жду замещения одного гения даже и миллионами идиотов, снабженных новейшими датчиками, автоматами и обратными связями. g— и тогда человек — уже социальная система.
- ВЛ
- Конечно, Алексей, в нынешних информационных машинах сознания нет и быть не может. Вы вот так и пишете : «появления сознания в физических системах я все же не жду». В таких как сейчас — да. Но ведь и отдельный человек — тоже физическая система. Однако «людишек» много и они в кооперации между собой, и тогда человек — уже социальная система.
- Вы в будущем что-то такое смутно все же допускаете, пишете: «относительно будущего развития человечества в связи с ИИ — думаю, что человечество ждут большие сюрпризы». Я предполагаю, что этим сюрпризом будет как раз новый вид мыслящих субъектов. Не ораву идиотов с датчиками, а что-то вроде живого и мыслящего Сверхчеловека.
На этом я свои потуги завершаю, у меня слабый белковый мозг, не совсем удачная конструкиция с врожденными дефектами. Я вот думаю, что как-то ночью, во сне, вас привезли в Neuralink Илона Маска и там внедрили мощные чипы (как в свое время Дм. Быкову). Так что вам виднее, что там потом будет. - АБ
- «Но ведь и отдельный человек — тоже физическая система.» Это распространенный предрассудок, Валерий Петрович. Физические системы, приходится подчеркнуть еще раз, полностью описываются физическими законами и рандомной случайностью. Человек же обладает свободой воли и творческим даром, что принципиально иное, чем физические системы.
- ВП
- На уровне физиологии человек — физическая система. И химическая. А феномен сознания — это отдельный рывок в мироздании, по значимости равный самому творению Вселенной. Я тоже об этом писал, о свободе воли — даже несколько раз. К пример, тут
Свобода воли https://lebed.com/2022/8430.htm
Свобода воли и христианство https://lebed.com/2022/8431.htmАБВалерий Петрович, вы пишете: «А феномен сознания — это отдельный рывок в мироздании, по значимости равный самому творению Вселенной». Вот и я о том. Отсюда же и следует, что никакого сознания из наращивания числа кубитов, их датчиков и взаимосвязей не родится, как из роста площади двумерной фигуры не родится третье измерение (еще одна метафора). Но вот где возможности существующего сознания будут радикально меняться — это встраивание в человеческий мозг и в тело новых высокотехнологичных элементов. Вот тут — простор фантазии утопий и антиутопий.Почтенный Алексей, я уповаю на что-то произошедшее в будущем, а квантовый комп упоминается просто как пример того, что тут идет стремительный прогресс. Вы же напираете на нынешнее состояние информационных машин, и говорите, что от них никаких прорывов к идеальному ждать нечего - с чем я согласен. Но все же в дискуссии есть и проблема : сознание запланировано в начале времен, но в самом процессе эволюции (которая задумана тогда же) есть механизм того, как поэтапно просыпается дух.Мои соображения — это не инструкция и не пошаговый план того, как может появиться сознание у ИИ. Это не более, чем показ направления — дескать, идти вот в ту сторону. Как если бы мы с вами стояли на горе, впереди — целая горная страна, некие Гималаи, и я говорю: вон там, за сотню километров белая шапка Эвереста. Нам — туда. Но как именно пройти через пропасти, отвесные стены, камнепады, снежные штормы и лавины, — не известно. Но — туда.
Вы имеете дело с обычными компами. У них никогда никакого мышления не возникнет. А я имел в виду ИИ, материальной базой которого будет не нынешний комп, а нечто вроде квантового компа, который есть смесь аналоговой и цифровой машины. А скорее — еще что-то, нам неведомое. И вот там будет протекать тот процесс, который вы процитировали. Там тоже будет идти своя эволюция через маленькие мутации и отбор. Но эта эволюция уже займет не сотни миллионов лет, а, возможно, всего несколько десятков или сотен лет.
- АБ
- Валерий Петрович, думаю, что мы задели с вами тему многоуровневости бытия: трансцендентное-материальное-живое-мыслящее-рациональное-познающее всю эту схему-творящее новое.Творческий уровень человека до сих пор был ограничен новым пониманием и манипуляциями с материальным в меру понимания оного. Тут есть большие успехи, о которых я не раз писал. А вот создание жизни из неорганики и субъекта из немыслящего до сих пор было не просто за пределами возможности человека, а до такой степени за, что даже масштаб этих разрывов не осознается.Когда вы сравнили рождение сознания с Большим Взрывом, то сказали самое главное, с чем я мог только согласиться. Но тогда, если следовать этой глубокой метафоре, человек столь же далек от создания наделенного субъектностью ИИ, сколь он далек от создания жизни из неживого и создания новых вселенных.
Рейтинг комментария: 7 17
Рейтинг комментария: 5 15
Рейтинг комментария: 14 12
Рейтинг комментария: 6 12
Рейтинг комментария: 5 2
Рейтинг комментария: 3 14
Рейтинг комментария: 6 5
Рейтинг комментария: 7 3
Рейтинг комментария: 10 2
Рейтинг комментария: 7 1
Рейтинг комментария: 3 2
Рейтинг комментария: 2 5
Рейтинг комментария: 13 4
Рейтинг комментария: 4 12
Рейтинг комментария: 8 2
Рейтинг комментария: 5 10
Рейтинг комментария: 14 7
Рейтинг комментария: 9 4
Рейтинг комментария: 10 32
Рейтинг комментария: 8 2
Рейтинг комментария: 0 4
Рейтинг комментария: 4 15
Рейтинг комментария: 4 13
Рейтинг комментария: 4 15
Рейтинг комментария: 0 9
Рейтинг комментария: 64 1
Рейтинг комментария: 1 12
Рейтинг комментария: 0 3
Рейтинг комментария: 74 1
Рейтинг комментария: 0 6
Рейтинг комментария: 3 1
Рейтинг комментария: 3 14