Что даст людям ИИ ?

Мы стоим на пороге перемен, сопоставимых с появлением человеческой жизни на Земле.

                Вернор Виндж

Я часто задумывался о том, что случится с современным дикарем, если из верховий Амазонки перенести его в Гарвард и попытаться рассказать, как по современным воззрениям устроен мир. Или подобную процедуру виртуально проделать со средневековым человеком? Или даже человеку, родившемуся в начале ХХ века, рассказать, какой путь проделали Искусственный Интеллект (ИИ) или Интернет за прошедшие десятилетия?

Зачем так сложно? Возьмите среднестатистического современника и расскажите ему, что происходит сегодня на переднем крае науке и каким станет мир в ближайшие 30-50 лет. Сможет ли он усвоить или поверить самому лучшему прогнозисту и футурологу, коим многие считают технического директора Google и президента Университета Сингулярности Рэя Курцвейла?

Кто такой Рэй Курцвейл? Это современный гений, давший обоснование технологической сингулярности — так он назвал феноменально быстрый научно-технический прогресс, основанный на мощном искусственном интеллекте (многократно превосходящем человеческий), а также обосновавший Закон Самоускоряющегося развития, согласно которому некоторые эволюционные системы, включая развитие наук и технологий, развиваются экспоненциально (то есть в геометрической прогрессии). Это, однако, не относится к разуму человека, который способен делать только линейные экстраполяции. В эссе «Закон ускоряющейся отдачи» Рэй Курцвейл развил эту идею, предположив, что закон Мура (наблюдение, согласно которому количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца) можно расширить на многие другие технологии. Согласно указанному закону, более развитые цивилизации способны прогрессировать с бОльшей скоростью, чем менее развитые — именно потому, что они более развитые. Если в Средневековье столетия мало что меняли, то в наши дни человечество едва поспевает за переменами.

И если сегодня большинство живущих не ощущает ничего сверхъестественного (как ученые до недавнего времени ничего не знали о расширении нашей Вселенной с ускорением), то только по причине непонимания того, как в ближайшие годы будет развиваться ИИ. Между тем, по мнению Тима Урбана, нынешняя революция Искусственного интеллекта — это открывшийся человечеству путь к Супер-интеллекту.

Очевидно, что средневековый человек, виртуально перенесенный в наши дни, чувствовал бы себя ошеломленным или обезумевшим, причем вряд ли бы ему удалось приспособиться к нашему времени, как Маугли, родившемуся среди обезьян — заговорить. Даже люди, родившиеся в первой половине прошлого века (как это показано в фильме «Назад в будущее»), были бы поражены существованием персональных компьютеров, Интернета, сотовых телефонов, социальных сетей и т. п. Научный анализ темпов развития новых технологий показывает, что если брать заданный исторический период, скажем, тридцатилетие, то средняя скорость прогресса с каждым новым тридцатилетием будет непрерывно увеличиваться. То есть научное, техническое и технологическое продвижение вперед с каждым новым десятилетием становится всё значительнее и быстрее.

Рэй Курцвейл пришел к заключению, что степень прогресса, реализованная за весь ХХ век, эквивалентна прогрессу за первое двадцатилетие ХХI века, то есть нынешняя скорость прогресса в 5 раз быстрее средней скорости прогресса в ХХ веке. Более того, Курцвейл оценил, что в реальности такая же степень прогресса, как в ХХ веке, уже была реализована между 2000 и 2014 гг., а следующая «ХХ-вековая» ступень прогресса была пройдена уже к 2021 году, то есть через каких-то 7 лет. Через пару десятков лет после этого, по его расчетам, «ХХ-вековая» ступень прогресса будет реализовываться по нескольку раз в течении единственного года, а затем — и вообще — в течение месяца. Короче, в результате реализации Закона Самоускоряющегося развития, по теории Курцвейла, к концу XХI века степень развития человечества в 1000 раз (!!!) превысит степень развития человечества в ХХ веке. Это очень трудно не только осознать, но и поверить этому.

Если Р. Курцвейл и многие другие, согласные с ним, правы, тогда, возможно, у нас снесет башку от 2030-го года в той же степени, что и у обитателя из 1750 года, оказавшегося в 2015-м. Иначе говоря, следующая «смертельная доза прогресса» может потребовать всего пару десятков лет, а в 2050 году мир может настолько измениться, что мы его, возможно, даже не сможем в полной мере осознать. Причем всё это не научная фантастика, а результат прогнозирования человека, почти все предсказания которого до сих пор сбывались с высокой степень вероятности. И все эти ошеломляющие прогнозы должны наводить нас на мысль о чем-то значительном, неуклонно приближающимся к нам из ближайшего будущего.

Тим Урбан задает читателям вопрос: «Так почему, когда вы слышите, когда я говорю что-то типа «мир через 35 лет может быть абсолютно непостижим», вы думаете «Круто, конечно, но….не знаю...». И отвечает: «Вот причины, по которым мы скептически относимся к головокружительным прогнозам будущего»:

1. Когда речь идет об истории, мы думаем линейно. Когда мы представляем себе прогресс на следующие 30 лет, мы оглядываемся на предыдущие 30 лет и используем их как индикатор того, сколько всего должно произойти. Когда мы думаем о степени прогресса в ХXI веке, мы просто берем всё, что собрали в ХХ веке, и добавляем это к 2000 году. Это очень естественно — думать линейно, в то время, когда мы должны мыслить экспоненциально.
2. Наш опыт делает нас старыми упертыми невеждами, когда речь заходит о будущем. Мы основываемся в своих идеях о мире на наш собственный опыт, и этот опыт прочно укоренил в нашем сознании восприятие скорости прогресса в недавнем прошлом в шаблоны, вроде «вот так это бывает». Мы также ограничены нашим воображением, которое использует наш опыт для формирования фантазий о будущем. Однако, то, что мы знаем, как правило, ни дает нам нужных инструментов, чтобы предсказывать будущее. Когда мы слышим предсказание, которое противоречит нашему «глубокому убеждению» о том, как «это бывает», оно инстинктивно блокируется нашим сознанием.

Что такое искусственный интеллект? Не будем анализировать это очень сложное понятие по фильмам, автопилотам, роботам или бытовым определениям будущего. В 1993 году Вернор Винж, чья мысль вынесена в эпиграф к этой статье, написал эссе, в котором определял вышеупомянутую сингулярность, как момент в будущем, когда интеллект наших технологий превысит наш собственный, человеческий — момент, когда жизнь, которую мы знаем, совершенно изменится и нормальные правила перестанут работать. К настоящему времени существует много типов ИИ и поэтому стоит выделить главные типы Искусственного интеллекта, различающиеся по масштабу. Ниже рассмотрены три категории масштаба Искусственного Интеллекта:

1. Специализированный Искусственный Интеллект (СИИ). Иногда его называют слабым ИИ. Это тот Искусственный Интеллект, который специализируется в одной области. Есть ИИ, который побьет чемпиона мира по шахматам, но это — единственная вещь, которую он умеет. Если спросить его, как лучше сохранить данные на жестком диске, ответом будет тишина.
2. Общий Искусственный Интеллект (ОИИ). Иногда его называют сильным ИИ или Интеллектом человеческого уровня. Это такой интеллект, который может составить конкуренцию человеку во всех областях. Создание ОИИ — задача гораздо более сложная, чем создание СИИ, и нам еще предстоит это сделать Заслуженный профессор университета штата Делавэр Линда Готфредсон описывает разумность, как «широкие ментальные способности, которые среди прочего включают способности к рассуждению, планированию, решению проблем, абстрактному мышлению, пониманию сложных идей, к быстрому обучению и возможности учиться на ошибках». ОИИ будет способен делать эти вещи также легко, как это делает человек.
3. Супер-интеллект. Оксфордский профессор и ведущий эксперт по ИИ Ник Бостром определяет Супер-интеллект, как «интеллект, который превосходит лучшие человеческие умы во всех областях, включая научную креативность, «общечеловеческую» мудрость и социальный интеллект». Понятие «Супер-интеллект» включает в себя как компьютер, намного превосходящий разум человека, так и машину, которая в миллиарды раз умнее. Абсолютно по всем показателям. Супер-интеллект — главная причина, по которой сама тема Искусственного Интеллекта имеет настолько важное значение.

На сегодняшний день человечество смогло совладать с первым уровнем ИИ — Специализированным Искусственным Интеллектом. Он — реальность во многих областях, существуя, фактически, повсюду. Революция Искусственного Интеллекта — это путь от СИИ через ОИИ к Супер-интеллекту. Это путь, который еще необходимо пройти и который, в конечном счете, изменит ВСЁ.

Давайте посмотрим, пишет далее Тим Урбан, что ведущие умы нашего времени в области Искусственного Интеллекта говорят об этом Пути и почему эта революция может произойти быстрее, чем все мы думаем. Ныне мы живем в мире, который существует благодаря работе СИИ: Специализированный Искусственный Интеллект — это интеллект, превосходящий человеческий интеллект или эффективность в узкой области. Он уже получил большое распространение в айфонах, электронной почте, автопилотах, Гугл-переводчиках, Амазоне… Поиск Гугла по сути — один большой СИИ, использующий невероятно сложные алгоритмы ранжирования страниц и решающий, что именно показать пользователю. Так же он работает и для ленты новостей Facebook. И это — только мир потребителей. Сложные системы СИИ широко используются в производстве, военном деле, финансах (на долю роботизированных СИИ-трейдеров приходится более половины оборота фондового рынка США). Экспертные системы, помогающие докторам ставить диагноз, и наиболее известный из них — суперкомпьютер Ватсон. Все это — Специализированный Искусственный Интеллект.

Все существующие СИИ-СИСТЕМЫ не несут серьезной опасности для человека — опасности ИИ, которой запугивают обывателя пессимисты и консерваторы. В самом худшем случае, плохо настроенная система СИИ может вызвать локальную катастрофу, вроде обесточивания какой-нибудь электроподстанции, нештатной работы атомной электростанции или запуска обвала на финансовом рынке. Чего, к сожалению, сегодня нельзя сказать о Супер-интеллекте, потому что он превосходит возможности человеческого разума и поэтому его взаимодействие с ним непредсказуемо.

Путь от Специализированного к Общему Искусственному Интеллекту, который еще только предстоит создать, чрезвычайно сложен. И причина тому одна: прежде чем это случится, необходимо детально разобраться в том, как работает человеческий мозг, действия которого он будет сначала копировать и затем превосходить.

А человеческий мозг — самый сложный объект во Вселенной, о котором нам известно. Гугл сейчас тратит миллиарды долларов для того, чтобы это реализовать. По словам специалиста по компьютерам Дональда Кнута, «искусственный интеллект преуспел сегодня во всем, что требует «мышления», но провалился в задачах, которые люди и животные делают, не задумываясь». Увы, вещи, которые нам кажутся простыми, на самом деле очень сложны. И кажутся простыми только потому, что определенные способности развились у нас (и многих животных) за сотни миллионов лет Эволюции. Вам кажется, что многие ваши действия происходят само собой, потому что «программное обеспечение» в вашей голове оптимизировало свою работу за многие годы. И всё, о чем мы сейчас говорили, касается только статичной информации. Чтобы быть разумным, как человек, компьютер должен будет научиться распознавать незначительные оттенки выражений лица, различия между понятиями «удовлетворен», «довольный», «обнадежен» и «рад». Но как же туда добраться?

Для того, чтобы ОИИ стал возможным, необходимо увеличение мощности компьютерного железа, или, говоря более точно, — оно должно сравняться с человеческим мозгом по вычислительной мощности. Один из способов выразить эту характеристику — общее количество операций в секунду (cps), которые мозг способен реализовать. Рэй Курцвейл разработал методику определения этой величины и оценил ее в 10 в 16 степени, или в 10 квадриллионов операций в секунду. На сегодняшний день самый быстрый компьютер, китайский Tianhe-2, превзошел этот показатель со своими 34 квадриллионами операций в секунду. Но Tianhe-2 существенно проигрывает мозгу по другим параметрам, например, по потребляемой энергии (24 Мвт) против 20 вт мозга. Такой суперкомпьютер совершенно не пригоден для широкой эксплуатации, да и для большинства индустриальных или коммерческих задач тоже не годится. Всё тот же Р. Курцвейл предлагает оценивать компьютеры, исходя из того, какую скорость (cps) мы приобретаем за $1000. И когда мы сможем приобрести за $1000 «человеческие» 10^16 cps, вот тогда можно будет считать, что Общий Искусственный Интеллект сможет стать частью нашей жизни.

Закон Мура — исторически подтвержденное правило, гласит, что максимальная мировая вычислительная мощность удваивается примерно за 2 года, означая, что развитие компьютерного железа, также, как и общее развитие человеческой цивилизации, происходит экспоненциально. Мы в данный момент находимся на уровне 10 триллионов (10^13) cps за $1000. Это означает, что необходимого уровня быстродействия удастся достичь в ближайшие 10 лет. Однако, вычислительная мощность сама по себе не сделает компьютер разумным — следующий вопрос: как мы объединим интеллект человеческого уровня и эту вычислительную мощность? Но все равно останется проблема, как при этом сделать компьютер разумным — ученые все еще спорят о том, как приблизить «интеллект» компьютера к человеческому уровню. На сей счет есть несколько теорий, а также надежда на то, что одна из них сработает. Вот три наиболее продвинутые из них:

1. Скопировать человеческий мозг.
Оптимистичные прогнозы подсказывают, что это можно будет сделать к 2030-му. Более того, уже предложено несколько технических решений решения этой задачи, описанных Тимом Урбаном. Как нам далеко до полной имитации человеческого мозга? На сегодняшний день получилось имитировать работу мозга 1мм-червяка, состоящего из 302 нейронов. Человеческий мозг содержит 86 миллиардов нейронов, сообщающихся между собой посредством сотен триллионов синапсов (связей) Это запутанная сеть нейронных связей, в глубине которой таятся наши сознание, мысли чувства, воспоминания и индивидуальность. Может показаться, что это бессмысленная борьба, но вспомните о силе экспоненциального прогресса: сейчас мы победили маленького червяка, скоро, возможно, догоним муравья, а затем — и мышь. И вдруг конечная цель станет совсем реальной.

2. Попытаться заставить Эволюцию сделать для компьютера то, что она уже делала для нас.
Мы уже знаем, что построить компьютер, равный по производительности человеческому мозгу — возможно и реально. Но если сам мозг слишком сложен для копирования, мы могли бы вместо этого скопировать методы эволюции. Часто оказывается, что машины эффективней создавать с нуля, используя современный математически оптимизированный подход, вместо прямого копирования биологических процессов. Но как мы можем симулировать Эволюцию для создания ОИИ? Метод, называемый «генетические алгоритмы» должен работать таким образом: необходимо запустить процесс выполнения операций и последующей оценки его эффективности (точно такой же, который происходит в биологическом мире, когда живые создания проживают жизнь, и «оцениваются» в результате успешного или не успешного размножения. Группа компьютеров воспроизводила бы некоторую работу, а наиболее успешные из них «спаривались» между собой, объединяясь по половине своего программного кода в новый компьютер. Менее успешные уничтожались бы. В результате большого, очень большого количества подобных итераций, эта селекция производила бы все более совершенные компьютеры. Сложность задачи заключается в том, чтобы создать автоматический процесс оценки и размножения, чтобы этот процесс смог развиваться сам по себе. Минус такого метода в том, что эволюционные процессы длятся миллиард лет, а нам хотелось бы уложиться в пару десятилетий. Но у нас есть и преимущества перед эволюцией. Во-первых, эволюция происходит бессистемно, производя гораздо больше ненужных мутаций, чем полезных. А мы могли бы контролировать и направлять процесс, так что он бы продвигался в сторону действительно необходимых улучшений. Во-вторых, у Эволюции нет цели, в том числе — достижения разума. Иногда Эволюция работает даже против интеллекта (т. к. мозг использует большое количество энергии). Мы бы напротив, могли бы направить этот процесс именно в сторону увеличения интеллекта. И, в-третьих, если бы Эволюция избрала себе путь развития интеллекта, ей бы пришлось оптимизировать дополнительно кучу дополнительных вещей — вроде пересмотра процесса производства энергии в клетке. В то время как мы могли бы просто избавиться от решения этой задачи, используя внешнее электричество. Никаких сомнений, мы с этой задачей справились бы лучше, чем Эволюция. Однако, до сих пор непонятно, сможем ли мы эволюционно развить Искусственный Интеллект в достаточной степени.

3. Сделать все эти трудности проблемой компьютера, а не нашей.
Такой вариант всплывает, когда отчаявшиеся ученые начинают пытаться заставить задачу решить саму себя. Интересно, но возможно это и есть самый многообещающий метод. Идея состоит в том, чтобы построить компьютер, чьей основной задачей было бы делать исследования в области Искусственного Интеллекта и перепрограммировать себя, позволив ему не просто учиться, но улучшать свою собственную архитектуру. Мы бы научили компьютеры быть учеными-компьютерщиками, так, чтобы они смогли сами управлять процессом собственного совершенствования. И это было бы их единственной задачей: разобраться, как сделать самих себя более разумными.

Всё это может случиться очень скоро. Интенсивные улучшения компьютерного железа и инновационные эксперименты в области программного обеспечения происходят постоянно, и Общий Искусственный Интеллект может стать явью очень быстро и неожиданно по двум главным причинам:

1. Экспоненциальный рост происходит очень быстро и то, что выглядит едва заметным улучшением, может быстро стать всеохватывающей лавиной.
2. Когда дело касается программного обеспечения, прогресс может быть медленным, но затем какое-то неожиданное открытие мгновенно меняет скорость развития (как например, длительное время человечество испытывало большие сложности с пониманием устройства Солнечной Системы, а затем открытие, что все планеты движутся вокруг Солнца, неожиданно сделало все гораздо проще). Или если вопрос касается компьютера, который улучшает сам себя, то в этом случае нам может казаться, что система в самом начале пути, а через момент времени оказывается, что она уже в 1000 раз более эффективна и приближается к уровню интеллекта человека.

Продолжение следует