Разговор с умной машиной

19-02-2023
  • Нейронная сеть 
  • Пресса пишет, что такого хайпа, как вокруг ChatGPT, технорынок не видел уже давно. Чат-бот от OpenAI уже успели провозгласить «убийцей Google», сам Google объявил внутри компании «красный код» и вернул к работе Сергея Брина, а о разработке собственных конкурирующих чат-ботов объявили, кажется, все уважающие себя IT-компании.

    К началу февраля месячная аудитория ChatGPT достигла 100 млн юзеров. Это рекорд по скорости роста для потребительских интернет-сервисов за всю историю, пишет Reuters. Для сравнения: TikTok на то, чтобы собрать свои первые 100 млн MAU, потребовалось около девяти месяцев, а Instagram — 2,5 года.

    Действительно, Google обеспокоился и выразил тревогу в отношении неожиданного успеха ChatGPT и недавно обнаруженного потенциала крупных языковых моделей, которые могут грозить  доходам поискового бизнеса. Генеральный директор Google Сундар Пичай попросил основателя Гугла Сергея Брина возглавить отдел по разработке своего искусственного интеллекта.

    Пока что ChatGPT обладает ограниченным знанием событий, которые произошли после 2021 года. Есть и своего рода политическое ограничение: ChatGPT не разрешается «выражать политические мнения или участвовать в политической активности». Если задавать вопросы по текущей политике, то на такие вопросы программа, фактически, отвечать отказывается. Причем, по-английски. Смысл ответов: я программа и не уполномочена комментировать текущую политику.

    Что у этой ИИ получается хорошо в «творческом отношении», это сочинение стихов по предложенной теме.  Немого изменил «стих, который и ранее давал машине и получил совсем уж приличный ответ.

    Напишите продолжение этого стиха:
    Я в очереди был последним,
    Я был последний идиот,
    но постепенно продвигался
    - теперь я первый идиот.

    Ответ:
    Все остальные прошли мимо,
    Но я все еще в очереди стою,
    И хотя мне уже надоело,
    Я все еще не хочу уходить.

    Совсем неплохо. Машина уловила слова "последний идиот" и передала их строками "И хотя мне уже надоело, Я все еще не хочу уходить".

    ИИ дает точные справки по личностям широко известным, политиками мирового уровня. Даже таким маргиналам, как Александр Лукашенко. Но вот по другим персонам машина допускает удивительную отсебятину в духе барона Мюнхгаузена. Задаю вопрос о Петрике, аферисте и шарлатане номер один, превзошедшим Калиостро и Сен Жермена, у которого в подельниках был спикер Думы Грызлов, Петрика лично знал Путин (их кабинеты были рядом в мэрии СПб, они вместе реализовывали программу обмена редких металлов на продовольствие в СПб в 1991-92 годах, которую придумал Петрик),  его патронировали мэр Москвы Лужков, зам начальника администрации президента Кириенко, министр Голикова, генералы ФСБ, начальники водоканалов и губернаторы. О Петрике была большая статья в солидном журнале Wall Street Journal, о нем есть материал в американской энциклопедии Wiki. Казалось бы, получу полный ответ. Спрашиваю: Кто такой Виктор Иванович Петрик?

    Виктор Иванович Петрик (род. 1947 г.) - это известный украинский скульптор, художник и общественный деятель. Он родился в городе Харьков и окончил Харьковское художественное училище в 1967 году. В 1973 году он закончил Московское высшее художественно-промышленное училище имени Строганова. Виктор Петрик прославился своими скульптурами, которые украшают многие города Украины и других стран мира. Среди его самых известных работ - скульптуры "Богдан Хмельницкий" в Киеве, "Тарас Шевченко" в Харькове, "Князь Владимир" в Москве, "Святой Миколай" в Николаеве, "Владимир Высоцкий" в Москве, и многие другие.

    Поразительно! Можно было бы подумать, что есть полный тезка и однофамилец Петрика. Ничего подобного. Такого в природе нет и никогда не было. И автором названных скульптур являются другие люди. Например, памятник Богдану Хмельницкому в Киеве – работа скульптора Михаила Микешина, памятник св. Владимиру – автор Салават Щербаков, а памятник Владимиру Высоцкому выполнен Александром Рукавишниковым.

    Ладно, задаю вопрос про совсем уж публичную фигуру: Кто такой Алексей Венедиктов?

    Ответ:

    Алексей Владимирович Венедиктов (род. 1955) - известный российский журналист, политический обозреватель и радиоведущий.

    Он начал свою карьеру в 1980-х годах, работая в газете "Комсомольская правда". В 1990 году он стал главным редактором еженедельника "Новое Русское Слово". В 1993 году Венедиктов был приглашен на работу в телеканал "НТВ", где он начал вести программу "Свободная студия". В следующие годы Венедиктов работал в ряде СМИ, включая газету "Коммерсантъ" и журнал "Интернет-газета".

    В ответе все неверно (кроме года рождения и общих слов про журналиста и радиоведущего). Отчество Венедиктова – Алексеевич, он никогда не работал в названных машиной газетах, и уж, тем более не был главным редактором еженедельника "Новое Русское Слово" (ежедневнаа газеты, издающаяся в Нью-Йорке, редактором тогда был Андрей Седых, в прошлом литературный секретарь Ивана Бунина, закрыта в 2009 г. ).

    Наш автор Леонид Сапожников задал вопрос о себе.

    Кто такой писатель и журналист Леонид Сапожников?

    Леонид Сапожников — это российский писатель и журналист, который известен своими работами в жанре детектива и драмы. Он активно издавался в первые годы после революции 1917 года, а также в СССР в период сталинской диктатуры. В настоящее время его книги считаются классикой русской литературы.

    Поразмыслив, я решил не морочить мозги искусственного интеллекта (ИИ) своими личными отношениями с Булгаковым и Станиславским, а просто выяснить, какие книги и драмы я написал с 1917 года. Ответ OpenAI не заставил себя долго ждать:

    Леонид Сапожников написал множество драм и романов, в том числе:

    '   "Крылья"
    '   "Розовый фламинго"
    '   "Город на Неве" "Театр и жизнь"
    '   "Человек в футляре"
    '   "Человек без имени"
    '   "Горячий след"
    '   "Женщина в зеркале"

    Это лишь некоторые из его известных работ. Он также активно публиковался в журналах и газетах в свое время.

    Выходит, был мой однофамилец и тёзка, который всё это написал?  Признан классиком, а я, темнота, никогда ничего о нём не слышал?! Краснея от стыда, я попросил у Гугла справку о произведении Леонида Сапожникова «ЖЕНЩИНА В ЗЕРКАЛЕ».  Он с ходу выдал обложки и развороты нескольких моих книг, в названии одной из которых есть слово «ЗЕРКАЛО».
    ГУГЛ подтверждает: Кривое зеркало войны: о мифах Второй мировой
    Author, Леонид Александрович Сапожников ; Publisher, Ariĭ, 2014 ; ISBN, 9664983284
    Сапожников Кривое зеркало войны

     

    А также ссылку на мою статью «Свет мой, ЗЕРКАЛЬЦЕ, скажи…» в разделе «ЖЕНСКИЙ клуб» журнала «За рулём». О книге Сапожникова «Женщина в зеркале» Гуглу ничего не известно…

    Тогда я попросил у OpenAI дополнительную информацию: сюжет «Женщины в зеркале». ИИ сообщил мне его быстро и уверенно:

    «Женщина в зеркале» - это трагический роман Леонида Сапожникова, в котором он рассказывает о жизни женщины, страдающей от бедности и одиночества. Главная героиня романа, Вера, живёт в Москве и работает в театре костюмершей. В её жизни появляется мужчина по имени Константин, который увлекается ею, но Вера не верит в его искренность…»

    Я не смею думать, что искусственный интеллект OpenAI, за которым стоит сам Илон Маск, способен выдавать свои фантазии под видом фактов. Остаётся сделать вывод, что существует параллельная реальность, в которой я живу, как минимум с 1900 года и признан в России классиком. Надеюсь, что мне там хватило ума распрощаться с ней навсегда.

    Такие ответы меня (уже Лебедева)  удивили. В чем дело?

    Видимо, нейросеть,  которой является программа Chat GPT, заполнена предварительно загруженной информацией  не располагает нужными данными. С другой стороны, нейросеть может генерировать информацию, которой не было в исходных данных.

    Смотрим источники.

    Искусственная нейронная сеть (ИНС) представляет собой систему соединённых и взаимодействующих между собой простых процессоров (искусственных нейронов). Такие процессоры обычно довольно просты (особенно в сравнении с процессорами, используемыми в персональных компьютерах). Каждый процессор подобной сети имеет дело только с сигналами, которые он периодически получает, и сигналами, которые он периодически посылает другим процессорам. И, тем не менее, будучи соединёнными в достаточно большую сеть с управляемым взаимодействием, такие по отдельности простые процессоры вместе способны выполнять довольно сложные задачи.

    Нейронные сети не программируются в привычном смысле этого слова, они обучаются. Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными алгоритмами. Технически обучение заключается в нахождении коэффициентов связей между нейронами. В процессе обучения нейронная сеть способна выявлять сложные зависимости между входными данными и выходными, а также выполнять обобщение. Это значит, что в случае успешного обучения сеть сможет вернуть верный результат на основании данных, которые отсутствовали в обучающей выборке, а также неполных и/или «зашумленных», частично искажённых данных.

    Выводом нейронной сети становится набор формул и чисел, которые преобразуются в ответ. Например, если изображение мужчины — «0», а женщины — «1», то результат 0,67 будет означать что-то вроде «Скорее всего, это женщина». Нейросеть из-за своей структуры не может дать абсолютно точный ответ — только вероятность. И из-за закрытости и нестабильности нейронов ее показания могут различаться даже для одинаковых выборок.

    Сети могут классифицировать клиентов и выделять аудитории по интересам — вы сталкиваетесь с этой возможностью каждый день, когда ваш электронный почтовый ящик определяет (классифицирует) некоторые письма как спам. Но это не единственный пример: автоматический скоринг в банках, контекстная реклама — это все касается классификации. Это и поиск по картинке, и чтение текста с изображения, и работа «умных» камер слежения. Сюда же относятся голосовые ассистенты, которые распознают речь. Нейросети, которые получают входные данные и на их основе что-то предсказывают. Их часто применяют в аналитике, например в финансовом секторе такая сеть может предсказывать поведение рынка, а в маркетинге — тренды и аудитории.

    Нейросетевые программы, которые дописывают текст или дорисовывают изображение, тоже по сути занимаются прогнозированием. Нейросети, которые получают входные данные и на их основе что-то предсказывают. Их часто применяют в аналитике, например в финансовом секторе такая сеть может предсказывать поведение рынка, а в маркетинге — тренды и аудитории.Так же работают поисковые системы: вы начинаете вводить фразу, а вам предлагают ее завершение. Это тоже задача прогнозирования, причем интересная — с учетом смысла предыдущих слов.

    Нейросетевые программы, которые дописывают текст или дорисовывают изображение, тоже по сути занимаются прогнозированием. Так же работают поисковые системы: вы начинаете вводить фразу, а вам предлагают ее завершение. Это тоже задача прогнозирования, причем интересная — с учетом смысла предыдущих слов.  Генерация текста в определенном стиле — классификация плюс прогнозирование. Рекуррентная нейросеть сможет учесть контекст и перевести, например, apple tree не как «яблоко дерево», а как «яблоня». Или более сложный пример: идиома that’s a piece of cake в контексте переведется не как «это кусок торта», а как «проще простого» в зависимости от стиля текста.  Но критерии, по которым нейросети делают выводы, до конца непонятны.

    Нейросеть не осознает свои действия. Даже если она генерирует контент — она делает это машинально, на основе предыдущих данных, а не благодаря собственному мышлению. Вряд ли нейронная сеть, даже сложная, сможет догадаться, что созданное ей предложение абсурдно и не имеет смысла. Для нее нет такого понятия, как «смысл». Творчество нейросетей — примерно как «речь» говорящего попугая или «китайская комната».

    Чем более продвинутыми становились компьютеры, тем больше сложных и интересных задач могли реализовать нейронные сети. Мощность системы играет важную роль, т.к. каждый нейрон постоянно выполняет ресурсоемкие вычисления. Чтобы решить сложную задачу, обычно нужно много нейронов, их масштабная структура и множество математических функций. Понятно, что для этого понадобится очень сильный компьютер.

    (Подробнее https://blog.skillfactory.ru/kak-rabotaet-nejronnaya-set-razbiraemsya-s-osnovami

    Воодушевившись такими определениями и перспективами, я задал вопрос:

    Что вы можете сказать о Валерии Петровиче Лебедеве?

    Это имя  довольно распространено. Дайте, пожалуйста, дополнительные сведения.

    Я немного переформулировал вопрос:

    Чем известен редактор альманаха lebed.com Валерий Петрович Лебедев

    Валерий Петрович Лебедев является российским журналистом, издателем и публицистом. Он известен как основатель и главный редактор альманаха "Лебедь", который был создан в 1992 году и стал одним из первых альтернативных СМИ в России. Альманах "Лебедь" приобрел известность своей критической позицией по отношению к власти, особенно во время президентства Бориса Ельцина и Владимира Путина. В статьях альманаха критиковались коррупция, нарушения прав человека и демократических принципов, а также действия правительственных структур и чиновников. Валерий Лебедев также является автором книг, в которых рассказывает о своем опыте работы в СМИ и борьбе за свободу слова в России.

    Что-то накопал умный ИИ. Но с ошибками. Альманах возник  не  в 1992 г., а в 1997, как раз 7 февраля исполнилось 26 лет. И критическим он был не в России, а в США. Книг о своем опыте работы в СМИ я не писал. Правда, если собрать  написанное про свободу слова и просто про свободу, то это где-то 1000 статей. Пусть каждая объемом 5 стр.. Выходит 5000 стр. Толстенькая книга – 500 стр. Итого из моих статей можно собрать 10 толстеньких книг, можно сказать, собрание сочинений. У Леонида Ильича было меньше – 9. Как когда-то сказал Александр Зиновьев "Девятитонное собрание сочинений".  Но издавать мои сочинения на бумаге не надо, следует беречь лес. Пусть остаются в электронном виде, ИИ будет работать проще. У него, кстати, еще нет имени. Не назвать ли его Сивый Меринг? (просто Меринг был первым биографом Маркса и много там насочинял).

Комментарии
  • Д.Ч. - 19.02.2023 в 09:29:
    Всего комментариев: 632
    Непонятно, зачем "Лебедь" присоединяется к настырной рекламе именно микрософтовского чат-бота. Такого рода автоматических составителей текстов уже давным давно Показать продолжение
    Рейтинг комментария: Thumb up 6 Thumb down 5
    • AnatRik - 19.02.2023 в 23:51:
      Всего комментариев: 533
      “..Лебедь присоединяется к настырной рекламе именно микрософтовского чат-бота.“ - это не реклама, результаты экспериментов вполне объективны
      Рейтинг комментария: Thumb up 5 Thumb down 4
  • someone - 19.02.2023 в 09:41:
    Всего комментариев: 637
    У меня давно были подозрения, что ChatGPT имеет интеллект как у исполнительного, усердного идиота. Т.е. набор фактов в памяти огромный, но связать их между собой он не в Показать продолжение
    Рейтинг комментария: Thumb up 8 Thumb down 1
  • someone - 19.02.2023 в 10:42:
    Всего комментариев: 637
    ChatGPT требует номер телефона при регистрации на сайте. Далее, по характеру задаваемых вопросов можно составить полное представление о владельце этого номера. Показать продолжение
    Рейтинг комментария: Thumb up 7 Thumb down 1
  • Serg - 19.02.2023 в 13:40:
    Всего комментариев: 1507
    Интересно, обратная связь имеется? Программа предусматривает оценку ответа спрашивающим человеком? Если такое есть, то сеть будет обучаться и дальше, и качество Показать продолжение
    Рейтинг комментария: Thumb up 4 Thumb down 1
  • Морис Собакин - 19.02.2023 в 13:52:
    Всего комментариев: 580
    Взрослые люди, а маетесь дурью как пионэры...
    Рейтинг комментария: Thumb up 2 Thumb down 2
  • Меломан - 19.02.2023 в 18:25:
    Всего комментариев: 230
    Ещё немного о сути дела: dtf.ru/life/1604086-napisannyy-s-pomoshchyu-chatgpt-diplom-studenta-proverit-rukovodstvo-vuza-sam-chat-bot-predlozhili-zapretit
    Рейтинг комментария: Thumb up 0 Thumb down 0
  • ChP - 19.02.2023 в 21:50:
    Всего комментариев: 431
    «Ах, какое полезное изобретение!» (Жорж Милославский) - Иван Васильевич меняет профессию. Западные политики-выскочки уже пользуются услугами ChatGPT. Так, глава МИД Показать продолжение
    Рейтинг комментария: Thumb up 4 Thumb down 3
    • Serg - 20.02.2023 в 00:12:
      Всего комментариев: 1507
      "ночью наши ученые чуть-чуть изменят гравитационное поле земли - и твоя страна будет под водой..." - Жириновский
      Рейтинг комментария: Thumb up 3 Thumb down 2
      • GG - 20.02.2023 в 03:20:
        Всего комментариев: 11
        из-под земли
        Рейтинг комментария: Thumb up 0 Thumb down 0
    • Морис Собакин - 20.02.2023 в 12:47:
      Всего комментариев: 580
      "...Бербок заявила, что поворот Москвы на «360 градусов» осчастливит мир." ----- Для такого вывода ей понадобилась помощь ИИ? А у нее самой-то какой IQ, интересно было бы Показать продолжение
      Рейтинг комментария: Thumb up 0 Thumb down 0
  • PP - 20.02.2023 в 18:54:
    Всего комментариев: 930
    В.П., а вы не пробовали задать вопрос, на который получили глупый или неточный ответ, по-английски ? Было бы интересно сравнить результаты.
    Рейтинг комментария: Thumb up 0 Thumb down 0
    • redactor - 20.02.2023 в 20:53:
      Всего комментариев: 1817
      Я задал вопрос (повторно) о Викторе Петрике. Первый раз ответ был полностью фантазийный о некоем скульпторе, авторе разных известных монументов. На этот раз я Показать продолжение
      Рейтинг комментария: Thumb up 5 Thumb down 0
  • scholast - 20.02.2023 в 20:17:
    Всего комментариев: 247
    Валерий Петрович, так вот вы, оказывается, чем занимаетесь! :^) Только что выяснилось. Вопрос чатботу: Чем известен редактор альманаха lebed.com Валерий Петрович Показать продолжение
    Рейтинг комментария: Thumb up 6 Thumb down 0
    • redactor - 20.02.2023 в 20:31:
      Всего комментариев: 1817
      Да, Алексей, чат сочиняет в духе барона Мюнхгаузена. Я уже дал ему имя "Сивый Меринг". Между прочим,никто не может точно знать, какие фокусы выкинет чат.В его прямых и Показать продолжение
      Рейтинг комментария: Thumb up 6 Thumb down 0
  • Джон До - 21.02.2023 в 02:29:
    Всего комментариев: 18
    Его на английском надо допрашивать. Тогда он, говорят, демонстрирует воканутость и политкорректность, как и положено академическому творению, чтоб финансирования Показать продолжение
    Рейтинг комментария: Thumb up 1 Thumb down 0
  • ВС - 21.02.2023 в 12:54:
    Всего комментариев: 1009
    "В 1991 американский филантроп Хью Лобнер стартовал ежегодное Loebner Prize соревнование, обещая $100,000 приз первому компьютеру, который выдержит тест Тьюринга и награду Показать продолжение
    Рейтинг комментария: Thumb up 4 Thumb down 1
  • Serg - 21.02.2023 в 18:12:
    Всего комментариев: 1507
    Описанная в статье нейросеть только обучается. Это не законченное творение, а как и любой интеллект, постоянно совершенствуется. В шахматах сейчас наиболее Показать продолжение
    Рейтинг комментария: Thumb up 0 Thumb down 3

Добавить изображение