Разговор с умной машиной

К началу февраля месячная аудитория ChatGPT достигла 100 млн юзеров. Это рекорд по скорости роста для потребительских интернет-сервисов за всю историю, пишет Reuters. Для сравнения: TikTok на то, чтобы собрать свои первые 100 млн MAU, потребовалось около девяти месяцев, а Instagram — 2,5 года.

Действительно, Google обеспокоился и выразил тревогу в отношении неожиданного успеха ChatGPT и недавно обнаруженного потенциала крупных языковых моделей, которые могут грозить  доходам поискового бизнеса. Генеральный директор Google Сундар Пичай попросил основателя Гугла Сергея Брина возглавить отдел по разработке своего искусственного интеллекта.

Пока что ChatGPT обладает ограниченным знанием событий, которые произошли после 2021 года. Есть и своего рода политическое ограничение: ChatGPT не разрешается «выражать политические мнения или участвовать в политической активности». Если задавать вопросы по текущей политике, то на такие вопросы программа, фактически, отвечать отказывается. Причем, по-английски. Смысл ответов: я программа и не уполномочена комментировать текущую политику.

Что у этой ИИ получается хорошо в «творческом отношении», это сочинение стихов по предложенной теме.  Немого изменил «стих, который и ранее давал машине и получил совсем уж приличный ответ.

Напишите продолжение этого стиха:
Я в очереди был последним,
Я был последний идиот,
но постепенно продвигался
- теперь я первый идиот.

Ответ:
Все остальные прошли мимо,
Но я все еще в очереди стою,
И хотя мне уже надоело,
Я все еще не хочу уходить.

Совсем неплохо. Машина уловила слова "последний идиот" и передала их строками "И хотя мне уже надоело, Я все еще не хочу уходить".

ИИ дает точные справки по личностям широко известным, политиками мирового уровня. Даже таким маргиналам, как Александр Лукашенко. Но вот по другим персонам машина допускает удивительную отсебятину в духе барона Мюнхгаузена. Задаю вопрос о Петрике, аферисте и шарлатане номер один, превзошедшим Калиостро и Сен Жермена, у которого в подельниках был спикер Думы Грызлов, Петрика лично знал Путин (их кабинеты были рядом в мэрии СПб, они вместе реализовывали программу обмена редких металлов на продовольствие в СПб в 1991-92 годах, которую придумал Петрик),  его патронировали мэр Москвы Лужков, зам начальника администрации президента Кириенко, министр Голикова, генералы ФСБ, начальники водоканалов и губернаторы. О Петрике была большая статья в солидном журнале Wall Street Journal, о нем есть материал в американской энциклопедии Wiki. Казалось бы, получу полный ответ. Спрашиваю: Кто такой Виктор Иванович Петрик?

Виктор Иванович Петрик (род. 1947 г.) - это известный украинский скульптор, художник и общественный деятель. Он родился в городе Харьков и окончил Харьковское художественное училище в 1967 году. В 1973 году он закончил Московское высшее художественно-промышленное училище имени Строганова. Виктор Петрик прославился своими скульптурами, которые украшают многие города Украины и других стран мира. Среди его самых известных работ - скульптуры "Богдан Хмельницкий" в Киеве, "Тарас Шевченко" в Харькове, "Князь Владимир" в Москве, "Святой Миколай" в Николаеве, "Владимир Высоцкий" в Москве, и многие другие.

Поразительно! Можно было бы подумать, что есть полный тезка и однофамилец Петрика. Ничего подобного. Такого в природе нет и никогда не было. И автором названных скульптур являются другие люди. Например, памятник Богдану Хмельницкому в Киеве – работа скульптора Михаила Микешина, памятник св. Владимиру – автор Салават Щербаков, а памятник Владимиру Высоцкому выполнен Александром Рукавишниковым.

Ладно, задаю вопрос про совсем уж публичную фигуру: Кто такой Алексей Венедиктов?

Ответ:

Алексей Владимирович Венедиктов (род. 1955) - известный российский журналист, политический обозреватель и радиоведущий.

Он начал свою карьеру в 1980-х годах, работая в газете "Комсомольская правда". В 1990 году он стал главным редактором еженедельника "Новое Русское Слово". В 1993 году Венедиктов был приглашен на работу в телеканал "НТВ", где он начал вести программу "Свободная студия". В следующие годы Венедиктов работал в ряде СМИ, включая газету "Коммерсантъ" и журнал "Интернет-газета".

В ответе все неверно (кроме года рождения и общих слов про журналиста и радиоведущего). Отчество Венедиктова – Алексеевич, он никогда не работал в названных машиной газетах, и уж, тем более не был главным редактором еженедельника "Новое Русское Слово" (ежедневнаа газеты, издающаяся в Нью-Йорке, редактором тогда был Андрей Седых, в прошлом литературный секретарь Ивана Бунина, закрыта в 2009 г. ).

Наш автор Леонид Сапожников задал вопрос о себе.

Кто такой писатель и журналист Леонид Сапожников?

Леонид Сапожников — это российский писатель и журналист, который известен своими работами в жанре детектива и драмы. Он активно издавался в первые годы после революции 1917 года, а также в СССР в период сталинской диктатуры. В настоящее время его книги считаются классикой русской литературы.

Поразмыслив, я решил не морочить мозги искусственного интеллекта (ИИ) своими личными отношениями с Булгаковым и Станиславским, а просто выяснить, какие книги и драмы я написал с 1917 года. Ответ OpenAI не заставил себя долго ждать:

Леонид Сапожников написал множество драм и романов, в том числе:

'   "Крылья"
'   "Розовый фламинго"
'   "Город на Неве" "Театр и жизнь"
'   "Человек в футляре"
'   "Человек без имени"
'   "Горячий след"
'   "Женщина в зеркале"

Это лишь некоторые из его известных работ. Он также активно публиковался в журналах и газетах в свое время.

Выходит, был мой однофамилец и тёзка, который всё это написал?  Признан классиком, а я, темнота, никогда ничего о нём не слышал?! Краснея от стыда, я попросил у Гугла справку о произведении Леонида Сапожникова «ЖЕНЩИНА В ЗЕРКАЛЕ».  Он с ходу выдал обложки и развороты нескольких моих книг, в названии одной из которых есть слово «ЗЕРКАЛО».
ГУГЛ подтверждает: Кривое зеркало войны: о мифах Второй мировой
Author, Леонид Александрович Сапожников ; Publisher, Ariĭ, 2014 ; ISBN, 9664983284

А также ссылку на мою статью «Свет мой, ЗЕРКАЛЬЦЕ, скажи…» в разделе «ЖЕНСКИЙ клуб» журнала «За рулём». О книге Сапожникова «Женщина в зеркале» Гуглу ничего не известно…

Тогда я попросил у OpenAI дополнительную информацию: сюжет «Женщины в зеркале». ИИ сообщил мне его быстро и уверенно:

«Женщина в зеркале» - это трагический роман Леонида Сапожникова, в котором он рассказывает о жизни женщины, страдающей от бедности и одиночества. Главная героиня романа, Вера, живёт в Москве и работает в театре костюмершей. В её жизни появляется мужчина по имени Константин, который увлекается ею, но Вера не верит в его искренность…»

Я не смею думать, что искусственный интеллект OpenAI, за которым стоит сам Илон Маск, способен выдавать свои фантазии под видом фактов. Остаётся сделать вывод, что существует параллельная реальность, в которой я живу, как минимум с 1900 года и признан в России классиком. Надеюсь, что мне там хватило ума распрощаться с ней навсегда.

Такие ответы меня (уже Лебедева)  удивили. В чем дело?

Видимо, нейросеть,  которой является программа Chat GPT, заполнена предварительно загруженной информацией  не располагает нужными данными. С другой стороны, нейросеть может генерировать информацию, которой не было в исходных данных.

Смотрим источники.

Искусственная нейронная сеть (ИНС) представляет собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Такие процессоры обычно довольно просты (особенно в сравнении с процессорами, используемыми в персональных компьютерах). Каждый процессор подобной сети имеет дело только с сигналами, которые он периодически получает, и сигналами, которые он периодически посылает другим процессорам. И, тем не менее, будучи соединёнными в достаточно большую сеть с управляемым взаимодействием, такие по отдельности простые процессоры вместе способны выполнять довольно сложные задачи.

Нейронные сети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение. Это значит, что в случае успешного обучения сеть сможет вернуть верный результат на основании данных, которые отсутствовали в обучающей выборке, а также неполных и/или «зашумленных», частично искажённых данных.

Выводом нейронной сети становится набор формул и чисел, которые преобразуются в ответ. Например, если изображение мужчины — «0», а женщины — «1», то результат 0,67 будет означать что-то вроде «Скорее всего, это женщина». Нейросеть из-за своей структуры не может дать абсолютно точный ответ — только вероятность. И из-за закрытости и нестабильности нейронов ее показания могут различаться даже для одинаковых выборок.

Сети могут классифицировать клиентов и выделять аудитории по интересам — вы сталкиваетесь с этой возможностью каждый день, когда ваш электронный почтовый ящик определяет (классифицирует) некоторые письма как спам. Но это не единственный пример: автоматический скоринг в банках, контекстная реклама — это все касается классификации. Это и поиск по картинке, и чтение текста с изображения, и работа «умных» камер слежения. Сюда же относятся голосовые ассистенты, которые распознают речь. Нейросети, которые получают входные данные и на их основе что-то предсказывают. Их часто применяют в аналитике, например в финансовом секторе такая сеть может предсказывать поведение рынка, а в маркетинге — тренды и аудитории.

Нейросетевые программы, которые дописывают текст или дорисовывают изображение, тоже по сути занимаются прогнозированием. Нейросети, которые получают входные данные и на их основе что-то предсказывают. Их часто применяют в аналитике, например в финансовом секторе такая сеть может предсказывать поведение рынка, а в маркетинге — тренды и аудитории.Так же работают поисковые системы: вы начинаете вводить фразу, а вам предлагают ее завершение. Это тоже задача прогнозирования, причем интересная — с учетом смысла предыдущих слов.

Нейросетевые программы, которые дописывают текст или дорисовывают изображение, тоже по сути занимаются прогнозированием. Так же работают поисковые системы: вы начинаете вводить фразу, а вам предлагают ее завершение. Это тоже задача прогнозирования, причем интересная — с учетом смысла предыдущих слов.  Генерация текста в определенном стиле — классификация плюс прогнозирование. Рекуррентная нейросеть сможет учесть контекст и перевести, например, apple tree не как «яблоко дерево», а как «яблоня». Или более сложный пример: идиома that’s a piece of cake в контексте переведется не как «это кусок торта», а как «проще простого» в зависимости от стиля текста.  Но критерии, по которым нейросети делают выводы, до конца непонятны.

Нейросеть не осознает свои действия. Даже если она генерирует контент — она делает это машинально, на основе предыдущих данных, а не благодаря собственному мышлению. Вряд ли нейронная сеть, даже сложная, сможет догадаться, что созданное ей предложение абсурдно и не имеет смысла. Для нее нет такого понятия, как «смысл». Творчество нейросетей — примерно как «речь» говорящего попугая или «китайская комната».

Чем более продвинутыми становились компьютеры, тем больше сложных и интересных задач могли реализовать нейронные сети. Мощность системы играет важную роль, т.к. каждый нейрон постоянно выполняет ресурсоемкие вычисления. Чтобы решить сложную задачу, обычно нужно много нейронов, их масштабная структура и множество математических функций. Понятно, что для этого понадобится очень сильный компьютер.

(Подробнее https://blog.skillfactory.ru/kak-rabotaet-nejronnaya-set-razbiraemsya-s-osnovami

Воодушевившись такими определениями и перспективами, я задал вопрос:

Что вы можете сказать о Валерии Петровиче Лебедеве?

Это имя  довольно распространено. Дайте, пожалуйста, дополнительные сведения.

Я немного переформулировал вопрос:

Чем известен редактор альманаха lebed.com Валерий Петрович Лебедев

Валерий Петрович Лебедев является российским журналистом, издателем и публицистом. Он известен как основатель и главный редактор альманаха "Лебедь", который был создан в 1992 году и стал одним из первых альтернативных СМИ в России. Альманах "Лебедь" приобрел известность своей критической позицией по отношению к власти, особенно во время президентства Бориса Ельцина и Владимира Путина. В статьях альманаха критиковались коррупция, нарушения прав человека и демократических принципов, а также действия правительственных структур и чиновников. Валерий Лебедев также является автором книг, в которых рассказывает о своем опыте работы в СМИ и борьбе за свободу слова в России.

Что-то накопал умный ИИ. Но с ошибками. Альманах возник  не  в 1992 г., а в 1997, как раз 7 февраля исполнилось 26 лет. И критическим он был не в России, а в США. Книг о своем опыте работы в СМИ я не писал. Правда, если собрать  написанное про свободу слова и просто про свободу, то это где-то 1000 статей. Пусть каждая объемом 5 стр.. Выходит 5000 стр. Толстенькая книга – 500 стр. Итого из моих статей можно собрать 10 толстеньких книг, можно сказать, собрание сочинений. У Леонида Ильича было меньше – 9. Как когда-то сказал Александр Зиновьев "Девятитонное собрание сочинений".  Но издавать мои сочинения на бумаге не надо, следует беречь лес. Пусть остаются в электронном виде, ИИ будет работать проще. У него, кстати, еще нет имени. Не назвать ли его Сивый Меринг? (просто Меринг был первым биографом Маркса и много там насочинял).