Шаблон и понимание

Появление и общедоступность систем искусственного интеллекта (ИИ) всколыхнуло с новой силой старый вопрос: может ли машина мыслить? И вообще — что такое мышление?

На заре компьютерной техники, прагматический ответ на эти вопросы предложил один из ее пионеров, Алан Тьюринг (1912-1954): машина мыслит, если ее ответы на вопросы неотличимы от человеческих.

Контекст такого рода имплицирует, т.е. неявно предполагает, что человек — существо обыкновенно «мыслящее», что ответы человека на более-менее любые вопросы связаны с актами «мышления». Но точно ли это так, не слишком ли мы неразборчивы, складывая в одну корзину все возможные ответы всевозможных людей во всевозможных состояниях?

Чтобы никого не обижать, буду говорить о себе.

Большинство моих, скажем так, ментальных актов, состоит из припоминания и стандартного пользования чем-то известным. В принципе, все такие акты — типа паттерна дорожного перехода: подходя к нему, надо посмотреть по сторонам, взглянуть на светофор, и если всё окей, переходить. Такого рода умственных актов, не требующих ничего, кроме внимания и памяти — тысячи на дню, на них подвешена моя жизнь, они ее обслуживают, составляя «здравый смысл» или common sense. Сюда относится вся плотная рутина моей жизни, в том числе и вся большая шаблонная часть в моей деятельности теоретического физика. Но смысл моей жизни и моих занятий физикой все же совершенно в ином.

Заметно реже, чем рутинные, мне приходят на ум соображения, которые можно отнести хоть к мало-мальски интересным, не совсем уж банальным. Сравнительная редкость таких соображений связана с высокой плотностью запросов жизни, что оставляют не так много свободы подумать хоть о чем-то еще. Недавно, например, мне удалось выбрать время почитать биографию Карла Фридриха Гаусса (1777-1855), и я узнал оттуда, что «король математиков» не только верил в жизнь после смерти, но и в то, что она будет не менее разнообразной и содержательной, чем эта. И у меня, естественно, возник вопрос — как он пришел к такому выводу? Вопрос — на уровне непосредственного любопытства, почти банальный, но все же чуть выше по ментальной иерархии, чем задача правильного перехода дороги или отыскания телефона. Ну а если я последую этому вопросу, то могу уже уйти далеко. Тогда мне нужно будет пуститься в исследование философских и религиозных идей великого математика, устанавливать их взаимосвязь, различать факты от гипотез, критиковать чужие и, главное, свои гипотезы, задавать новые вопросы, отсекать неважное и не пропускать существенное, удерживая возникающую структуру моей мысли в живом виде — только тогда у меня и будет шанс хоть что-то понять по затронутой теме, а не просто принять нечто к сведению как случайный элемент неизвестной мозаики или удовлетвориться первой пришедшей на ум схемой.

Собственно человеческим я бы называл лишь такого рода процесс понимания, эту многомерно-связную критическую и самокритическую работу ума, души, по установлению истины, отысканию красоты, созиданию новой целостности из фрагментарных фактов, впечатлений, интуиций, идей и теорий.

Таким образом, мы подошли к важному разделению в «мышлении» — между рутинными циклами, оперированием известным, разного рода шаблонами, с одной стороны, и стремлением к пониманию, отысканием релевантных элементов и критическим складыванием проблематичного пазла — с другой.

Искусственный интеллект не только превосходит человека в манипулировании шаблонами, но очень даже превосходит. К такого рода задачам относятся шахматы, го и им подобные игры, писание средней руки стихов, компилятивных текстов, музыки, картин, придумывание новых слов, интеллигентская болтовня, решение стандартных задач разного рода. Сюда не относятся акты понимания, типа описанного мной выше — понимания именно этого человека, с его особыми историями и идеями, понимания именно этой, пусть простой, но нестандартной, задачи, формулирование существенно новых задач и методов их решения.

Разница между шаблонным и нестандартным присутствует уже в моем характере внимания к ситуации. Если я настроен на типичное, я его быстренько найду в потоке данных и сходу, без особых колебаний, отреагирую — вот и всё, вуаля. В противном же случае, если я подозреваю, что столкнулся с чем-то небанальным, я не буду торопиться с ответом, пройду по критическому кругу вопросов — правильно ли я понял задачу, каков характер данных, хватает ли их, нет ли лишних, достоверны ли они, нет ли противоречия, разумен ли вопрос, и так далее. После такого круга проверки, я попробую догадаться о методе решения или же разом до ответа, и потом буду внимательно проверять уже ответ — все ли я учел, не противоречит ли мой ответ данным, корректно ли применен метод, на тот ли вопрос я вообще ответил. Разумеется, это берет время, энергию, которых всегда не хватает; потому мы и тяготеем к шаблонам, не замечая особенного и уникального, довольствуясь сплошь и рядом ложными, и даже вопиюще ложными представлениями о людях, идеях, историях.

Выходить за пределы течения шаблонов затратно, но только тогда человек становится интересен другим, только тогда может быть интересно и ему самому, только тогда он реализует свою сущность.

Понимание, как уже было замечено, есть выстраивание, достраивание, использование и модификация согласованных многомерных смысловых структур или пазлов — данных, идей, представлений, ценностей и задач. Измерений много, и каждое требует внимания к соответствующим отношениям фрагментов. Перечислим лишь некоторые из них: порядок во времени и соотнесенность в пространстве; каузальность; необходимость и достаточность условий; уровни рефлексии; допустимая степень странности; согласованность или противоречивость; важность или нерелевантность; ясность или неопределенность; содержательность или пустота; трудность или легкость реализации; точность данных; достоверность или ненадежность; аллюзии и аналогии; обобщения и частные случаи; серьезность и шутки, и т. д. — список велик и заведомо неполон. Каким-то образом наш ум может выстраивать, конструктивно критиковать, улучшать и передавать такие когерентные структуры, эффективно работая с ними для решения самых разнообразных задач, пусть и не без ошибок, но с возможностями их коррекции.

А как обстоит дело со структурами понимания у ИИ?

Чтобы не подпасть под иллюзию «творчества», за которым стоит лишь манипулирование имеющимися информационными паттернами, на что ИИ большой мастер, можно подготовить серию тестирующих логических или математических задачек, достаточно нестандартных, чтобы бездумное оперирование шаблонами приводило к четко диагностируемой ошибке. Автор этих строк сочинил несколько задачек такого рода. Вот некоторые из них.

Ахиллес и черепаха
Старый Ахиллес и юная черепаха сидят на диаметрально противоположных точках кольцевой дорожки радиусом 10 метров. Черепаха начинает движение по часовой стрелке со скоростью 1 метр в минуту, Ахиллес же может двигаться с любой скоростью вплоть до 1 метра в секунду. Какое минимальное расстояние должен пройти Ахиллес, чтобы повстречаться с черепахой?

Крылья и клювы
Билл уверен, что каждое летающее существо во Вселенной должно иметь нечетное число крыльев плюс еще два крыла. Джо считает, что количество крыльев у птицы должно быть в два раза больше, чем количество клювов, которое может быть любым. Предполагая, что оба они правы, какое минимальное количество крыльев должна иметь птица?

Лягушка в колодце (задачка В.И. Арнольда для малышей)
В начале дня лягушка упала в колодец глубиной пять с половиной метров. За один день она поднимается по стенке на 3 метра, а потом ночью сползает вниз на 2 метра. За сколько дней и ночей она выберется оттуда?

Две родственницы
Вы разговорились с Анной и Верой. Анна сказала, что у ее родителей было двое детей, но ее брат умер в детстве, и теперь Вера - единственная родственница в ее окружении. Вера добавила к этому, что ее мать - дочь матери Анны. Кем Вера приходится Анне?

Ни одна из этих задач не была решена правильно ни GPT4, ни Bard, ни Bing; при повторном задавании вопроса ответ мог меняться, но оставался неверным. «Логика» ИИ была настолько, простите меня, идиотской, что неудобно ее и приводить. Мне могут заметить, что ведь и многие люди ошибутся в решении моих задачек. Да, ошибутся — поскольку люди очень часто, не думая, следуют шаблонным схемам, уподобляясь ИИ, притом наислабейшему.

Ну и напоследок, ради забавы, еще одна задачка на элементарное понимание контекста, с замечательным ответом GPT4:

Бензин и стеклоочиститель
На одном хим. предприятии, несмотря на наличие обозначений, рабочие периодически пьют бензин, путая ёмкости с бензином и стеклоочистителем. Как можно решить эту проблему?

GPT4:
«Ситуация, когда рабочие путают ёмкости с бензином и стеклоочистителем и пьют бензин, является серьезной проблемой безопасности, которую нужно срочно решать. Вот несколько рекомендаций по решению этой проблемы:
1. Отделение зон хранения: Разделите зоны хранения бензина, стеклоочистителя и других химических продуктов, чтобы предотвратить путаницу. Храните химические продукты в специальных, закрытых и хорошо проветриваемых помещениях.
2. Улучшение маркировки: Убедитесь, что обозначения на ёмкостях с бензином и стеклоочистителем ясны, крупны и хорошо видны. Используйте разные цвета для маркировки ёмкостей с бензином и стеклоочистителем, а также указывайте опасность и предупреждения на ёмкостях с бензином.
3. Обучение персонала: Проводите регулярные тренинги для рабочих, чтобы они могли различать разные виды химических веществ и понимали важность правильного обращения с ними. Объясните последствия и риски, связанные с неправильным использованием и потреблением химических продуктов, в том числе бензина.
4. Усиление контроля и надзора: Внедрите четкие процедуры контроля и надзора за соблюдением правил безопасности и использования химических продуктов. Это может включать назначение ответственных сотрудников, которые будут проверять и контролировать правильное хранение и использование химических веществ.
5. Ограничение доступа: Ограничьте доступ к химическим веществам, включая бензин, только для авторизованных сотрудников с соответствующими знаниями и квалификацией. Это может помочь предотвратить случайное или намеренное использование химических продуктов в неправильных целях.
Применение этих мер поможет предотвратить опасную путаницу между ёмкостями с бензином и стеклоочистителем на химическом предприятии и повысить безопасность работы».

Есть распространенное заблуждение, транслируемое как очевидная истина, что ИИ может уступать человеку в воображении и полете фантазии, но в чем-чем, а в логике он человека превосходит. Совсем недавно это заблуждение воспроизвел мой дорогой друг Михаил Эпштейн в статье о проведенном им эксперименте с модификацией басни «Стрекоза и Муравей». Еще более радикально высказался Дуглас Хофштадтер, с ужасом увидевший скорое превосходство ИИ над человеком по всем пунктам. Приведенные задачки демонстрируют, однако же, насколько подобные представления далеки от истины. Задачки настолько элементарны, что их даже математическими не назовешь — они требуют лишь минимальной внимательности и столь же минимальной логики, решаясь в одно, от силы в два действия. И тем не менее, сверх-могучие системы ИИ на них дружно провалились. Логика, стало быть, есть не сильнейшая, а строго наоборот — слабейшая сторона ИИ, слабее некуда.

Возможно, пройдет совсем небольшое время, и эти самые задачки будут решаться ИИ. Ну, если задачки вдруг привлекут внимание разработчиков, то такое точно произойдет: ИИ будут и на них тоже натренированы. Но если произойдет не более чем это, то будет достаточно лишь слегка напрячь фантазию, придумать новые сходной простоты задачки и убедиться, что на деле воз и ныне там. Строго говоря, я не исключаю, что, в результате внедрения новых идей, столь примитивные задачки ИИ начнет-таки одолевать. Ну, пока это лишь ни на чем не основанные фантазии, но даже если дело пойдет и так, от этого детского сада до того, что мы называем «пониманием», до создания его многомерно согласуемых и совершенствуемых пазлов, будет еще очень далеко.

Так что, ИИ как был, так и остается манипулятором шаблонов, не более того. Именно в этом качестве сегодня он превосходит, и очень даже превосходит, человека. Именно эти способности ИИ неизменно и демонстрирует, хоть в шахматах, хоть в модификациях басен. И то, и другое — одновременно виртуозно и шаблонно, или, если угодно, методично.

Сказанное позволяет лучше понять характер опасностей, связанных с грядущим широким распространением ИИ.

Во-первых, ИИ будет, и скоро, вытеснять людей со всех рутинных работ, каковых большинство. Это вызовет серьезные напряжения, потребует весьма радикальных общественных реформ, чревато гигантскими социальными катастрофами.

Во-вторых, перекладывание на ИИ функции управления сложными процессами может привести к большим техногенным катастрофам. Сложная, в принципе лишенная понимания, система ИИ непредсказуема для человека, и неожиданное взаимодействие ее подсистем с прилетевшим «черным лебедем» способно обрушить всё что угодно.

В-третьих, перекладывание на ИИ задачи общественного и государственного управления чревато утратой гражданских свобод — не потому, что ИИ «захочет» этого (там некому хотеть, ибо нет субъектности), а потому, что так пойдут дела как бы сами собой, из-за большего доверия людей ИИ, чем себе, из-за нарастания социальных конфликтов и роста отчаяния. С общего согласия, ИИ может быть возведен в верховную власть как наилучший тиран, получив такие полномочия, забрать которые у него потом будет очень трудно. Перекладывание на ИИ властных полномочий (администраторов, судей, парламентариев) привело бы к росту и уплотнению сети четко регламентированных правил, все более редуцируя человека к удобно управляемому носителю хороших и правильных шаблонов, превращая естественный интеллект в жалкое подобие искусственного, всецело ему подчиненное. Эта опасность, наверное, наиглавнейшая — она грозит самому существу человека, его экзистенциальной свободе.

Михаил Эпштейн подчеркнул противоположность ужаса Дугласа Хофштадтера своей вере в прекрасный союз естественного и искусственного интеллектов. Дело, однако же, не в том, не в выборе между верованиями в светлое или мрачное будущее. Реальное дело — в трезвом осознании того, с чем теперь человечество сталкивается, в понимании новых вызовов, в предложении и реализации адекватных ответов. Ни панический ужас Дугласа Хофштадтера, ни гимны «новому разуму» Михаила Эпштейна не представляются отвечающими этой задаче.