Актуальность темы связана с необходимостью исследования возрастающего влияния компьютерных и коммуникационных технологий, определяющих конфигурации современного мира и формирующих весь универсум человеческого бытия. Перспективы и опасности технологического прогресса находят отражение в фантастических фильмах. Как правило, такие фильмы повествуют о будущем, в котором технологический прогресс в области компьютерных и коммуникационных технологий вывел общество на качественно новый уровень жизни. Люди в этом мире имеют иные ценности и взгляды, по отношению к сегодняшнему дню. Общество находится в содружестве с различными интеллектуальными системами (ИС), вроде искусственного интеллекта (ИИ), которым доверили управление ресурсами всей планеты с целью экономного их использования. Заменив человеческий труд машинами, человек стал жить значительно лучше, чем самые богатые люди живут сегодня. Вместе с искусственными помощниками люди ищут ответы на самые разнообразные вопросы бытия. Этому качественно новому уровню жизни человека предшествует некий технологический рубеж – технологическая сингулярность. Целью нашей статьи и является исследование технологической сингулярности, возможных путей ее возникновения посредством системного подхода через выделение комплекса критериев.
Начнем с определения. Технологической сингулярностью называется предположительная точка во времени, после которой развитие технического прогресса станет настолько быстрым и сложным, что сама техника окажется недоступной пониманию человека [5]. Предпримем краткий исторический экскурс в историю вопроса, обозначив временные границы исследования данного явления. Размышления о технологической сингулярности начались с середины XX века и продолжаются по настоящий момент; причем, показательным является расширение аудиторий, охват которых включает не только крупных ученых [4; 1], но и затрагивает СМИ [21; 6], а также перекочевывает в студенческие аудитории [8; 27], пробуждая интерес молодежи.
Исследование начались с работ известного специалиста по кибернетике Фон Неймана. Еще в 40 – 50-е годы XX века, наблюдая взрывной рост компьютерной техники, он предположил, что дальнейшее развитие технологий (компьютерных, коммуникационных) приведет к своеобразной сингулярности в развитии человечества. Он имел в виду радикально новый этап перехода человека в новое качество. В дальнейшем идеи Фон Неймана были неким образом переработаны и в рамках кибернетики: многие из его коллег, учеников ставили вопросы о возможностях развития компьютерных систем, развития интеллектуальных систем и о том, что это означает для человечества.
Д.А. Медведев в курсе лекций [20] отмечает три основных критерия технологической сингулярности:
– прогресс вертикальный;
– появление сверхразума;
– невозможность предсказания.
Рассмотрим подробнее данные критерии. Итак, выясним, что понимается под «прогрессом вертикальным». Ускорение темпов научно-технического развития стало столь очевидным, что не нужно быть специалистом, чтобы это не заметить. Но так было не всегда. Люди долго вообще не знали, что прогресс существует, не говоря уж о том, что он ускоряется. До XVII-XVIII веков существовало только две концепции истории человечества. Одна – это цикличная, когда развитие человечества проходит один за другим цикл, повторяя прежнюю историю, никуда не двигаясь. Вторая – это деградация от мифического золотого века, когда все было хорошо, уровень искусства и технологии был очень высоким, люди жили по тысячи лет в гармонии с природой, пока, наконец, все не разрушили. В XVII-XVIII веках, по мере реализации просветительского проекта, появлением теории прогресса в работах А.Роберта Тюрго и Ж. Антуана Кондорсе [11], человек впервые предположил, что может возникнуть ситуация бесконечного совершенствования, улучшения, прогресса, критерием которого является человеческий разум; поэтому наглядным является пример науки и технологий, репрезентирующих современный этап развития науки.
Рей Курцвейл занимается проблемой научно-технического прогресса более 30 лет [1]. Изучая тенденции технического прогресса и, отслеживая, где, когда и какая технология применяется, он начал создавать для этих исследований математические модели. В книге «Эпоха духовных машин» Курцвейл предложил «Закон ускоряющейся отдачи», согласно которому некоторые эволюционные системы, включая развитие технологий, развиваются экспоненциально. Р. Курцвейл объясняет экспоненциальное развитие взаимозависимостью технологий. В рамках процесса создается новая технология, процесс берет ее на вооружение и переходит на новую ступень. Продемонстрируем эту мысль, отталкиваясь от биологической эволюции [25].
В биологической эволюции процесс возникновения ДНК занял несколько миллиардов лет. Но как только эволюция получила в руки ДНК механизм – средство хранения, обработки информации – оно сразу вывело процесс на качественно новый уровень. Поэтому «Кембрийский взрыв», результатом которого явилось создание проектов тел всех современных живых существ, занял лишь десять миллионов лет. Скорость эволюции выросла в двести раз. Затем эволюция воспользовалась созданными проектами тел для создания высших когнитивных функций, ускоряясь далее. Возник человек разумный, первый вид живых существ, обладающий развитыми когнитивными функциями, отстоящим большим пальцем, обеспечивающим возможность более сложных манипуляций с предметами, благодаря чему обозначается путь к предметной деятельности, предполагающий научение, и созданию технологий. Люди научились манипулировать средой, научились координировать движения, пользоваться когнитивными моделями для создания технологий и изменения мира. Эволюция вида Homo Sapience заняла сотни тысячи лет; и в итоге, биологическая эволюция, связанная с эволюцией данного вида, стала основанием, своеобразной точкой нового витка эволюционного процесса, новым шагом на пути технологической эволюции. На создание каменных орудий, укрощение огня, создание колеса ушло десять тысяч лет. Причем, скорость все время возрастала. Мы постоянно пользовались технологиями последнего поколения, для создания новых, более продвинутых технологий. Печатный станок, разработанный Гутенбергом, был внедрен всего за сто лет [7]. Первые компьютеры проектировались с помощью карандаша и бумаги [16], теперь новые компьютеры на компьютерах. И скорость прогресса все время возрастает.
Можно сделать вывод, что ускорение есть основное свойство эволюционного прогресса. Этот вывод есть результат эмпирических обобщений; своеобразный закон природы. П. Капица утверждал: «Современное интенсивное развитие науки объясняется только тем, что, как известно, всякий процесс, который следует экспоненциальному закону, в конечном итоге всегда приобретает характер взрыва» [12]. Фиксируется, действительно, взрыв – экспоненциальный взрыв. Сегодня информационные технологии удваивают такие характеристики, как объем памяти, производительность. Каждый год растет пропускная способность, улучшается соотношение цена-мощность. Стоимость изготовления транзистора в 1968 году составляла $0.15, но сыграл роль закон Мура, и на сегодняшний момент стоимость изготовления составляет $0.0000003 [13]. Закон Мура – это лишь часть экспоненциального роста. Он описывает интегральные микросхемы и уменьшение размеров транзисторов. По ходу развития произошло несколько смен парадигм. В частности, начиналось все с электромеханических калькуляторов, компьютеров, построенных на реле. После были построены компьютеры на электровакуумных лампах. Затем появились компьютеры на дискретных транзисторах. Каждый раз, когда технология достигала пределов развития, человечество переходило на другую технологию, чтобы продолжить экспоненциальный рост. Сначала уменьшались размеры ламп, но маленькие лампы перестали удерживать вакуум, и, как результат смены парадигм, появились транзисторы. Когда той или иной парадигме приходит конец, возникает закономерно новая парадигма, в рамках которой и объясняются открытия и изобретения.
К сожалению, законы физики сильнее условностей, которые придумали люди, и для Закона Мура есть ограничения. Создав транзисторы в несколько атомов, их уже нельзя будет уменьшать, это и будет закатом для закона Мура, но не концом экспоненциального роста вычислительных мощностей. Поскольку до того, как данный закон себя исчерпает, произойдет смена парадигмы, и человечество от классических компьютеров перейдет к таким экзотическим в настоящее время, как оптические и квантовые компьютеры, возможности и мощности которых до конца не понятны исследователям, а тем более последствия их применимости. Последнее выводит нас на социальные и культурные последствия внедрения этих квантовых компьютеров. Подобное экспоненциальное развитие касается и секвенирования ДНК, томографии мозга, Интернета, все, что можно выразить количественно, а это сотни параметров обработки информации производительность, время внедрения; все это удваивается каждые 12 – 18 месяцев в зависимости от области.
Стоит отметить и проблему, которую несет экспоненциальный рост – «информационный взрыв» [21]. По мере накопления человечеством данных об окружающем, все больше «возрастает потребность превращений данных из реального мира в информацию о реальном мире» [14]. «Информационный взрыв таит в себе не меньшую опасность, чем демографический. Это кризис не перенаселенности, а недопонимания, кризис родовой идентичности. Человечество может себя прокормить – но может ли оно себя понять, охватить разумом индивида то, что создано видовым разумом? Хватит ли человеку биологически отмеренного срока жизни, чтобы стать человеком?» [24].
В свою очередь А. Жаров в статье «Будущее. Эволюция продолжается» [9], считает, что темпы развития подчиняются не экспоненциальной зависимости, а зависимости в виде S-образного графика. Он говорит, что точка «сингулярности» – совсем не коллапс, а такая точка на графике развития, в которой скорость этого самого развития максимальна. Рассматривая замедления роста народонаселения планеты и ускоряющийся рост развития, Жаров приводит как альтернативу человеку появление «электронных личностей» – неких разумных программ, заменяющих сотни миллионов людей в общественном производстве. Сегодня труд многих людей тесно связан с компьютерами. Не видно причин, почему бы соответствующие «разумные» программы, если они появятся, не заменили бы этих людей совсем. Вот и получается, что замедление роста народонаселения, будет всё больше компенсироваться поначалу компьютерными технологиями, программами. Их главная функция аналогична – ускорение Организации Материи. Вскоре, возможно, и массовое появление «электронных личностей», а затем и ИИ. Проведем аналогию. «Количество конных экипажей (число лошадей на душу населения) в прошлом веке неуклонно увеличивалось. Если бы в 1875 году мы экстраполировали эту тенденцию на сто лет вперед, получилось бы, что в первой половине ХХ века все улицы – от стенки до стенки – должны быть забиты лошадьми, а все городское население должно превратиться в кучеров...» [10]. Причём, так и произошло – в каждом автомобиле десятки и даже сотни «виртуальных лошадей» (лошадиных сил), и практически все люди стали «кучерами» (водителями). Количество реальных лошадей резко сократилось, как когда-то (возможно, уже лет через 200) сократится и количество самих людей.
Не должна ли наша цивилизация, в конце концов, прийти к такому же исходу? Когда мы начнём более широко применять автоматизацию и кибернетизацию, то не только промышленные рабочие, но и большинство профессионалов могут быть заменены машинами. Даже сегодня наиболее дальновидные писатели и футуристы принимают такую, трудную на первый взгляд, перспективу замены роботами хирургов, инженеров, управленцев, пилотов и других специалистов [18]. В конечном итоге, все это может привести к существенному замедлению роста народонаселения. Мы имеем дело не с революцией, а с продолжением длительного процесса, начавшегося тысячи лет назад. Просто на каком-то этапе некоторые элементы эволюционирующей системы могут стать ненужными – как стали ненужными конные экипажи, только теперь этими элементами будем мы.
Родоначальники биосферы – прокариоты (безъядерные малые клетки типа бактерий) – могли жить только в условиях бескислородной атмосферы (какая и была первые 2 млрд. лет истории Земли), но они в процессе фотосинтеза выделяли кислород, а он для них – смертельный яд. Этот процесс все время нарастал: атмосфера все более и более наполнялась кислородом, однажды она стала непригодна для жизни прокариотов. Но появился новый тип жизни – эукариоты (большие клетки с ядром, образовавшиеся в результате слияния бактерий различной функциональности) – способные к кислородному дыханию, и жизнь на Земле не просто сохранилась, но и получила новые стимулы для своего развития. Прокариоты же отошли на второй план, сохранив за собой функцию «фундамента живого вещества» [22]. Человек уже с самых первых шагов своего «победного шествия» по страницам истории планеты стал чем-то напоминать своих далеких предшественников прокариотов, активность которых подготовила закат их эры.
Прогресс живого естественного вещества неминуемо приводит к появлению искусственного – Сверхразума. Итак, вертикальный, все ускоряющийся прогресс, позволит, в конечном итоге, создать искусственный интеллект человеческого уровня. К сверхинтеллекту можно прийти по четырем основным направлениям. Первые два связаны с усилением человеческого интеллекта:
– интерфейс мозг-компьютер;
– биологическое усиление.
Другие два относятся к развитию ИИ:
– (спонтанное) поумнение сетей;
– создание искусственного интеллекта.
Рассмотрим каждое из этих направлений. Итак, Интерфейс мозг-компьютер. Данный путь к сверхинтеллекту человек уже давно начал осваивать. Типичными примерами таких интерфейсов на настоящий момент являются интерфейсы «человек-инструментальная система». В качестве инструментальных систем сегодня выступают компьютерные системы автоматизированного проектирования (САПР), различного рода программы компьютерной графики, редакторы текстов, базы данных, шлемы виртуальной реальности и т.д. Хотя инструментальными системами являются также и обычный листок бумаги с карандашом, позволяющий провести сложные вычисления, которые мы не можем выполнить в уме; или обыкновенная книга, позволяющая использовать огромные объемы информации, которые мы не в состоянии помнить. В этом смысле человеческий интеллект давно уже не является вполне «естественным»; он является инструментальным. Мы имеем полное право сказать, что такой симбиоз «человек-инструментальная система» даже в настоящее время в некотором роде является сверхинтеллектом для, например, XX века.
Следующее направление – биологическое усиление. Некоторые люди считают, что наш интеллект не достаточно развит, чтобы понимать самого себя. Если бы мы были умнее, то и мозг у нас был бы сложнее, и мы никогда бы не научились понимать его устройство. Но мы понимаем. Мы учимся понимать биологию в информационных терминах. Мы учимся понимать, как работают программы, управляющие нашим телом. Они были разработаны эволюцией в иные времена, хотелось бы научиться их менять. В будущем, ДНК не просто расшифруют, ее смогут корректировать по своему желанию, поэтому все сегодняшние недостатки живых организмов можно будет устранить. Будут разработаны биологические препараты, ускоряющие работу мозга. Возможно, и будет найден и путь к бессмертию, по крайней мере, представители существующего направления – трансгуманизма – совершенно серьезно это обсуждают [15].
(Спонтанное) поумнение сетей – направление, тесно связанное с эпистемологией сложного. На протяжении последних 15 лет мы наблюдаем, как компьютерная сеть становятся более сложной, возрастает объем обработки информации в Интернет, ее организованность, ее структурированность. Сеть берет на себя новые функции по поиску, по интеллектуальному анализу того, что происходит с этой информацией. И в принципе, возможно, многие исследователи Интернета предположили, что так и произойдет. Что в какой-то момент мы проснемся утром и обнаружим, что сеть интернет стала разумной. Это не значит, что в ней проснется где-то, в каком-то месте искусственный разум, это означает, что способности сети Интернет по обработке информации, по принятию творческих решений в какой-то момент станут не меньше, чем у человека. В каких-то специализированных областях это уже так, никакой даже самый лучший библиотекарь не может искать информацию также хорошо, как поисковая система; никакой даже хороший полиглот не может переводить между таким количеством языков, как компьютерный переводчик, по крайней мере, не может это делать столь же быстро. Но в определенных областях, прежде всего, связанных с творчеством, с анализом информации, человек все еще впереди.
И последнее направление – Создание ИИ с нуля. Имеется два принципиально разных направления, в которых можно ожидать решения задачи. Первое направление можно назвать синтетическим. Это разработка программ, где интеллектуальные функции реализуются в основном независимо от того, как они реализованы в мозге. Они реализуются способом, наиболее адекватным архитектуре современных компьютеров. Другое направление называется обратной инженерией мозга. Здесь основная надежда возлагается на то, что, просто скопировав «в железе» функциональную структуру мозга, искусственный интеллект возникнет «сам собой».
Предложено достаточно большое количество универсальных принципов, описывающих, с точки зрения исследователей, работу разумных систем. Это некоторые принципы, лежащие в основе системы распознавания образов, это некоторые принципы искусственных нейронных сетей, основанные на нейронных сетях в мозгу человека и других живых существ. С использованием этих базовых принципов, возможно, создать искусственный интеллект с нуля, запрограммировать его. По этому пути идут, например, программисты ИИ для компьютерных игр, ИИ для интеллектуальных агентов для общения в интернет, в системах телефонного общения и т.д.
Отношение к перспективам создания ИИ разное. С одной стороны, есть достаточное количество оптимистов считающих, что создание ИИ является чисто технической задачей, решение которой будет обеспечено ростом мощности вычислительной техники [1; 4]. С другой стороны, многим постепенно стало понятно, что задача является чрезвычайно сложной междисциплинарной проблемой, затрагивающей фундаментальные проблемы бытия. Первые из них представлены сторонниками, так называемой технологической сингулярности [1; 4], другие – преимущественно Роджером Пенроузом [2; 3] и его последователями.
В своей работе Р. Курцвейл [1] говорит о том, что как только мощность коммерческих компьютеров, выраженная в операциях в секунду (в оригинале – количество операций в секунду за одну тысячу долларов), превзойдет совокупную вычислительную мощность мозга всего человечества, ИИ будет создан, и технологическая сингулярность станет реальностью. В тоже время теорема Пенроуза об искусственном интеллекте запрещает реализацию всех без исключения ментальных способностей человека на базе архитектуры классического компьютера. Дело в том, что для того чтобы создать ИИ, мало иметь достаточно мощное компьютерное железо. Надо знать, как это сделать. Нужны соответствующие методы, программное обеспечение, понимание того, какую именно задачу надо решить. Но программное обеспечение гораздо более консервативно, чем аппаратное обеспечение. Ничего похожего на закон Мура здесь нет. Еще даже не выполнена задача моделирования нервной системы крохотного червячка C.elegans, которая, для гермафродитных особей, состоит всего из 302 нейронов [19]. Проблема мощности компьютера здесь заведомо не играет никакой роли. Однако, несмотря на то, что работы по моделированию ведутся с начала 1990-х гг., результаты крайне ограничены. Еще одной проблемой является почти катастрофический рост объема (в байтах, в строках программного кода) программного обеспечения без радикального роста его интеллектуальности (достаточно сравнить первые версии Microsoft Word, которые «весили» один-два мегабайта с современными мультигигабайтными дистрибутивами). Это говорит о том, что даже небольшое продвижение в интеллектуальности оплачивается экспоненциальным ростом объемов кода программ [17]. Хотя в принципе нет ничего невозможного, чтобы человек где-то через 15, может быть, 30-40 лет разобрался бы полностью в базовых принципах работы любых интеллектуальных систем, не только человека и воспроизвел бы их на компьютерном носителе, создав тем самым искусственный. Первоначально ИИ специализированный, затем близкий по способностям к человеку, а затем превышающий человеческие способности.
Очерченные выше оптимистические перспективы сопровождает непредсказуемость. Известный американский фантаст и математик Вернор Виндж обнаружил, что существует большое количество фантастических произведений, в которых действие происходит на протяжении тысяч лет в будущем, но там развитие технологий практически остановилось. Такие произведения содержат, прежде всего, единичные изменения по сравнению с сегодняшним днем, а все остальное остается таким же, как и сегодня. Виндж обратил внимание, что фантасты не знают, как предсказывать будущее с учетом реальных тенденций, которые можно предсказать. В своей статье [4] Вернор Виндж связал идею непредсказуемости с идеей ускоряющего развития, предположив при этом, что закон Мура продолжит действовать на протяжении нескольких десятков лет. Начиная с какого-то момента, возможности компьютеров позволят смоделировать искусственный интеллект человеческого уровня или выше, возможно с помощью загрузки сознания живых людей в компьютеры, возможно с помощью моделирования искусственного интеллекта с нуля. ИИ позволит создать искусственных разработчиков для создания новых компьютеров. Грубо говоря, переместить весь коллектив компании Intel в некий виртуальный мир, компьютерный мир, где они смогли бы работать над своими проектами. Важным преимуществом было бы то, что скорость их субъективной работы зависела бы от скорости компьютеров; после того как уже загруженный в этот компьютер искусственный интеллект провел бы 18 месяцев, разрабатывая сверхбыстрые компьютеры, следующий этап бы (учитывая закон Мура) занял всего 9 месяцев, следующий 4.5, следующий примерно 2 месяца. Данная сходящая последовательность заканчивается примерно через 3-4 года после появления искусственного интеллекта человеческого уровня.
Вернор Виндж высказал следующую идею: когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий. Виндж предположил, что это произойдет в первой половине XXI века, где-то между 2005 и 2030 годами. Естественно, его предположения актуализируют проблемы мировоззренческого уровня, сводящиеся к рефлексии относительно роли человека в современном мире. Квинтэссенция этой рефлексии может быть обозначена как проблема соотношения естественного и искусственного, имеющая в качестве интенции артикуляцию проблемы постчеловеческого измерения цивилизации [23].
Рассмотренные выше три критерия технологической сингулярности связаны друг с другом: все ускоряющийся (вертикальный) прогресс создаст условия возникновения сверхинтеллекта, что в свою очередь приведет к невозможности прогнозирования (предсказания) его развития. На данный момент, для возникновения ИИ существует очень много нерешенных вопросов (некоторые из которых были приведены выше). Однако технологическая сингулярность есть неминуемое событие.