Искусственный интеллект... За последние несколько лет и даже десятилетий это словосочетание стало довольно популярным и часто употребляемым в разговорах, книгах, фильмах. Но у многих нет чёткого представления об искусственном интеллекте. Что же это такое? Программа или живое существо? С какой стороны его нужно рассматривать? С технической? Или этого недостаточно? Может быть, это понятие относится и к вопросам философии?
Проблема взаимодействия искусственного интеллекта и общества является одной из самых актуальных проблем современной науки и философии. Бурное развитие систем искусственного интеллекта приводит к появлению большого количества перспективных разработок, которые уже сейчас влияют на жизнь людей как в нашей стране, так и за рубежом. Тем не менее, анализ данной проблемы происходит, за несколькими исключениями, либо с позиций чистой этики, либо с использованием ненаучных методов познания. В рамках исследования с этической точки зрения редко учитывается тот факт, что интеллектуальные технологии влияют на общество намного шире, нежели просто формулируя новые этические проблемы и принципы. Анализ проблемы на базе ненаучного познания, будь он произведен в форме художественных произведений или религиозных изысканий, также не может дать полных и четких результатов.
Цель нашего исследования – анализ междисциплинарных дискуссий по актуальным философским, методологическим и теоретическим проблемам искусственного интеллекта, связанных с разработанным Аланом Тьюрингом мысленным экспериментом для систем искусственного интеллекта в качестве критерия определения разумности компьютерной системы.
Искусственный интеллект – это интеллект, искусственно созданный человеком. Интеллект – качество психики, состоящее из способности адаптироваться к новым ситуациям, способности к обучению на основе опыта, пониманию и применению абстрактных концепций, использованию своих знаний для управления окружающей средой. Термин «искусственный интеллект» был введен американским ученым Джоном Маккартни в 1956 г. на семинаре в Дартмутском колледже [1]. Однако наука об искусственном интеллекте зародилась еще в 1943 г., когда МакКаллока и Питтс предложили математическую модель, состоящую из искусственных нейронов, заложив тем самым основы теории искусственных нейронных сетей. Позднее в 1950 г. в своей статье Алан Тьюринг дал обширное понятие об искусственном интеллекте. Он описал метод, названный тестом Тьюринга, который позволяет определить может ли машина мыслить. Большой вклад в развитие искусственного интеллекта внесли такие ученые как М. Мински, который дал основополагающие представления о машинном знании и описал механизмы человеческого мышления; психологи Г. Саймон и У. Рейтман, которые стали разработчиками первых лабиринтных интеллектуальных моделей; Ф. Розенблатт и М.М. Бонгард, которые открыли проблемы распознавания образов и разработали многие интеллектуальные модели, в том числе модели распознавания и классификации [2].
Для нашей работы также представляют интерес философские исследования (И.Ф. Михайлов, А.В. Пушкарев), а также работы, посвященные прагматике взаимодействия человека и современной кибернетической среды, вопросам трансформации сознания человека в эпоху информационной революции, когда возникновение такого явления, как Интернет-аддикция (А.II. Кочубей, Стерлитамак), ставит под сомнение саму возможность самоидентификации личности, погруженной в компьютерную виртуальную реальность (Д.В. Лысич, Н.А. Ястреб) и др.
Таким образом, в обсуждении проблемы искусственного интеллекта принимают участие философы, лингвисты, математики, логики, экономисты, психологи, социологи и др., т.е. идет междисциплинарный диалог, который способен содействовать ускоренному развитию интеллектуальных информационных технологий, формированию прорывных направлений в этой области, осмыслению и решению проблем, которые ставит перед человеком и человечеством информационное общество.
Суть интеллекта проявляется в способности генерировать осмысленные рассуждения, неотличимые от естественного поведения реального человека. Считается, что термин «искусственный интеллект» в его современном понимании первым ввел в обиход американский программист Джон Маккарти в 1956 году на конференции в Дартмутском университете. Он полагал, что различные виды интеллекта существуют не только у людей, но и в некоторых информационных системах «разумных» машин, поэтому его также называют «отцом» современных технологий искусственного интеллекта [3].
Поскольку само понятие «интеллект» пока не очень понятно и потому четко не сформулировано, то все обозримые попытки определения термина «искусственной интеллект» имеют методологически существенный недостаток, связанный с пониманием того, какие именно разрозненные когнитивные способности объединяет этот термин [14]. Тем не менее, искусственный интеллект можно рассматривать как область компьютерной науки, опирающейся на теоретические и прикладные принципы современной математики, включающие вычислительные алгоритмы и языки программирования, которые реализуются с привлечением разнообразного математического инструментария. Следует также уточнить, что возможность прояснения когнитивных процессов в мозге человека непосредственно связана с прогрессом науки о знании, изучающей методы получения и использования человеческих знаний.
Английский математик и криптограф Алан Тьюринг предположил, что «искусственный интеллект» возникает у нас, когда мы сможем разговаривать с «машиной», не осознавая, что мы разговариваем с искусственной конструкцией. Кстати сам Тьюринг использовал для этого термины «компьютерный» и «машинный» разум, а не общепринятый сейчас «искусственный интеллект». Поскольку термины «околокомпьютерной методологии» слишком многозначны, то в поисках практического решения проблемы искусственного интеллекта Алан Тьюринг предложил своеобразную «игру в имитацию», получившую вскоре широкое распространение. Популярным эмпирическим способом определения способности машины к мышлению стал знаменитый «тест Тьюринга», который в 1950 году Алан Тьюринг сформулировал как критерий или принцип идентификации машинного интеллекта [4]. В своей классической статье «Computing Machinery and Intelligence» (в русском переводе «Вычислительные машины и интеллект»), появившейся в философском журнале «Mind» в 1950 году, им была предложена идея ответа на вопрос о том, можно ли с некоторым на то основанием утверждать, что «машина думает» [13]. Она называется сейчас «тестом Тьюринга», который вызывал и продолжает вызывать критические возражения. Философский посыл статьи Тьюринга связан с проблемой выявления такого сложного неуловимого феномена, как «мышление» в ситуации черного ящика. Но математические пределы вычислений и логики тоже могут существенно ограничить «интеллект» мощных вычислительных машин. «Наиболее серьезными аргументами кажутся соображения о логической связи теста Тьюринга и теорем Гёделя о неполноте, а также предполагаемая неспособность концепции лежащей в основе теста Тьюринга, справиться с проблемой qualia. Из теорем Гёделя о неполноте следует, что всегда существует хотя бы одна формула, неразрешимая для машины, но очевидная для человека» [5, 6].
Осознание сложных процессов мозговой деятельности человека является основой для построения систем искусственного интеллекта. Заметим, что сам Алан Тьюринг считал, что философский вопрос: «Может ли машина мыслить?» должен решаться не на эмоциональном уровне, а при помощи точных критериев того, что такое мышление, предложив в качестве одного из таких критериев свой знаменитый тест. Хотя до настоящего времени ни одна компьютерная программа пока не смогла пройти «тотальный» тест Тьюринга в рамках различных соревнований, в пространстве Интернета есть немало локальных примеров современной коммуникативной практики общения человека и компьютерной программы. Можно вполне определенно сказать, что мыслительный эксперимент, предложенный Тьюрингом, оказывает влияние, как на методологию развития компьютерных наук и исследования в области искусственного интеллекта, так и на стимулирование философского дискурса в области философии сознания [12]. В то же время уже есть серьезные основания для того, чтобы усомниться в справедливости философских положений, которые лежат в основе искусственного интеллекта [7]. Поводом для таких сомнений является «фундаментальная неопределенность» в самой постановке философских вопросов: что значит «думать»? и что такое «машина»? В контексте развития информационных технологий, эти вопросы исключают возможность рациональных ответов, основанных на четких смысловых определениях этих понятий. Это уже область метафизики, которая относится к так называемым рефлексивным наукам, объектом которых являются возможности ума. Но после Аристотеля все, что связано с приставкой «мета», признает интеллектуальную интуицию в основе познания. Для сохранения «метафизической нейтральности» философских рассуждений относительно способов реализации или осуществления экспериментального теста Тьюринга будем в дальнейшем придерживаться принципа «метафизической неопределенности», с целью понять возможные причины неудовлетворительных попыток создания программ, способных пройти тест Тьюринга [8, 9].
При создании такого теста, Тьюринг был мотивирован желанием прекратить все философские дебаты о метафизической сущности разума. Для этого он сформулировал простой критерий определения разумности компьютерной системы, который, по его мнению, должен был положить конец метафизическим спекуляциям на эту актуальную тему. Так Тьюринг предложил сыграть в «игру-имитацию». Суть ее заключается в следующем: пусть некто виртуально поддерживает разговор с компьютером, точнее с компьютерной программой. На основании ответов на его вопросы он должен понять, общается ли он с компьютером или с другим человеком. Если испытатель не сможет различить, где компьютер, а где человек, а компьютер сможет длительное время поддерживать с ним осмысленный диалог, то тогда компьютер проходит тест Тьюринга. Этот тест должен был определить, может ли машина мыслить, хотя не сформулирован критерий достижения компьютером «разумности» [10]. Как пояснял сам Ален Тьюринг: «Можно критиковать эту игру, утверждая, что шансы человека в ней значительно перевешивают шансы машины. Если бы человек должен был притвориться машиной, ему пришлось бы значительно труднее. Его сразу бы выдала медлительность и неаккуратность в арифметике. Могут ли машины делать нечто, что нам пришлось бы определить как мышление, но что сильно отличалось бы от того, на что способен человек? Это очень сильное возражение; тем не менее, мы можем утверждать, что если нам удастся сконструировать машину, способную играть в игру-имитацию, этот аргумент не должен нас тревожить». В процессе этой игры «рабская имитация» человеческого поведения, по мнению Тьюринга, не является лучшей стратегией испытуемой машины, даже не вникая в теорию игры-имитации, возможно, наилучшей стратегией следует признать естественные ответы, которые дал бы человек. Имитация, какой бы искусной она не была, не обязана совпадать с оригиналом [11].
Вопрос: «Могут ли машины думать?» остается неопределенным до тех пор, пока не будет пояснено, что имеется в виду под «машиной». Современный интерес к «думающим машинам» актуализируется определенным типом машины, который ассоциируется с электронным или цифровым компьютером, способным имитировать любую дискретную машину. Кроме того Аланом Тьюрингом для решения абстрактных логических проблем была предложена гипотетическая «машина», позволяющая определять, какие проблемы разрешимы, а какие нет, которая по существу привела к перевороту в понимании выполнения вычислений на реальных машинах. Проблема разрешимости формулируется следующим образом: найти общий метод, позволяющий определить, выполнимо ли данное высказывание на языке формальной логики, то есть установить его истинность. Тьюринг уловил определенную связь между проблемой разрешимости и идеей вычислимости функции. Но утверждение о том, что все можно вычислить на «машине Тьюринга» оказалось некорректно, поскольку применимость неявно подменялась определимостью. В модели Тьюринга идея вычислимой функции методологически увязана с результатами Кантора по теории бесконечных множеств. Используя идею немецкого математика Георга Кантора, можно показать, что множество всех вычислимых функций имеет ту же мощность, что и множество всех натуральных чисел, то есть это счетное множество, а множество всех функций больше множества натуральных чисел. Поэтому отсюда следует вывод о том, что не все функции вычислимы. Нужна была сравнительно простая, но достаточно точная модель процесса вычисления и машина, предложенная Тьюрингом, отвечала этим требованиям, хотя это не настоящий компьютер. Гипотетическая «машина Тьюринга», опираясь на результаты системы вопросов-ответов должна пройти «тест Тьюринга», но при его реализации, в случае невозможности отличия человека от компьютера как равных собеседников, мы будем вынуждены признать наличие искусственного интеллекта у этой «машины».
Любая компьютерная модель мышления, которая сумеет пройти полный или «тотальный» тест Тьюринга, то есть, проявив способность анализировать самые фундаментальные механизмы мышления, неизбежно должна будет каким-то образом согласовываться со «структурами мозга», хотя бы для подтверждения того, что «мышление имело место». Полный тест Тьюринга – это не только «символьное моделирование», но и физическая имитация человека, то есть возможность зрительного восприятия, способность реагировать на звуки, обладание органами чувств с моторными способностями. Полнота интеллектуальных тестов этим не исчерпывается, а только усложняется. Поэтому, несмотря на успехи имеющихся компьютерных программ в игре в собеседника, ни одна из них не смогла пройти полный вариант теста Тьюринга. Возможно, такую инициативу можно считать отчасти преждевременной, но в 1990 году американский изобретатель Хью Лобнер предложил на базе Кэмбриджского центра изучения поведения проводить соревнования по формальному прохождению теста Тьюринга. Для создателей компьютерной программы, которая по своему виртуальному общению не была бы отличима от поведения человека, то есть смогла бы пройти соответствующий тест, был учрежден денежный приз (Loebner prize) в размере 100 000 долларов, а также золотая медаль. Каждый год между программами-кандидатами выбирается программа-победитель, лучшая на данный момент, а ее создатели награждаются премией в две тысячи долларов. Но ряд теоретиков искусственного интеллекта сомневаются в самой возможности создать программу, способную всесторонне пройти «тотальный» тест Тьюринга, и, следовательно, в ошибочности такого направления исследований, поскольку, например, тест не затрагивает важнейших интеллектуальных способностей восприятия или умений пользоваться телом, актуальным в робототехнике. Кроме того, нельзя сбрасывать со счетов и сакраментальный вопрос: «А судьи кто?». Ведь если люди, которые ведут опрос и оценку компьютера, не сумеют достичь глубокого уровня «философского вопрошания», то такого рода соревнования выродятся по существу в погоню за все более «изощренными играми» с естественным языком без глубокого мысленного содержания.
Тест Тьюринга, который был призван устанавливать «разумность системы», оставляет открытым вопрос о наличии или отсутствии у системы, обладающей «когнитивной компетенцией», субъективной реальности. Первые практические успехи имитации некоторых простых интеллектуальных функций породили у исследователей уверенность в том, что задача создания полноценного искусственного интеллекта разрешима, даже несмотря на внешний вид, физические характеристики и необычную структуру компьютерной системы. Но уже с середины 70-х годов прошлого века стало приходить осознание того, что наука и философия не видят пока реальных путей создания машинного аналога естественного интеллекта, способного к рефлексивной мыслительной познавательно-творческой деятельности. Так первой практической реализацией идеи Тьюринга стала созданная в 1966 году американским ученым Джозефом Вейценбаумом программа «Элиза» (ELIZA), как пример виртуального собеседника.
Компьютерная программа «Элиза» имитировала диалог между психоаналитиком и пациентом, не пытаясь понять человеческий язык, а просто на основе формальных знаний о правилах синтаксиса «возвращала» человеку его собственные утверждения. При этом использовались некоторые хорошо известные «уловки», которые позволяют успешно «играть» в сеансе с психоаналитиком. Например, опытный психотерапевт старается спровоцировать человека к рассказу о себе и своих проблемах с помощью коротких вопросов общего вида. Поэтому программа «Элиза» просто перефразировала высказывания пользователя, например, так: «У меня болит голова» – «Почему вы говорите, что у вас болит голова?». По существу в этой программе задаваемые вопросы детерминируют ответы. Джозеф Вейценбаум стремился показать, что общее решение задачи понимания машиной естественного языка невозможно, так как понимание языка происходит исключительно в рамках определенного контекста и даже эти рамки бывают общими для различных людей лишь в ограниченной степени. Эксперименты подобного рода продолжались повсеместно. Так программа «Эллочка», созданная на отделении математической лингвистики Киевского государственного университета, в отличие от «Элизы», вычислений не производит, однако может вести беседу с человеком более тонко и гибко. Программа «Элиза» экспериментально опровергла тест Тьюринга в его примитивном понимании, поскольку люди воспринимали эту компьютерную программу как достаточно разумного и даже доброжелательного собеседника, но в действительности эта программа была всего лишь «иллюзией» разговора с психоаналитиком, точнее лишь «пародия» на профессиональный диалог. Возможно, Алан Тьюринг переоценил интеллект среднего человека. В частности, эти важные эксперименты выявили внерациональные аспекты того, что даже сложные формальные операции человек иногда понимает как неформальные.
Искусственный интеллект должен быть способным к мышлению, обучению, самообучению. А также он должен обладать способностью решать задачи. Однако, на заре теории искусственного интеллекта, ее создатели под данным понятием понимали не модель, способную к мышлению, обучению, самообучению и решению задач. Они стремились создать модель человеческого мозга, модель, которая бы обладала всеми человеческими чертами, в числе которых сознание и самосознание; доброта, способность к состраданию; любовь; способность понимать чувства человека, его настроение; способность творить, создавать что-то новое; видеть прекрасное, иметь различные вкусы. Но в наше время, даже с нынешним высоким уровнем развития науки, ничего подобного так и не было создано [15].
Современные модели искусственного интеллекта так и не научились испытывать человеческие чувства. Развитие науки второй половины XX – начала XXI века показывает, наряду с эпистемологическими, существенные проблемы ценностного характера. И в отношении искусственного интеллекта возникает вопрос: какие ценности отличать человека от машины? Неужели их различия будут только в природе существования: биологической или технической? Скорее всего, ответ на данный вопрос будет утвердителен, так как человек и машина будут понимать друг друга, смогут общаться на равных, как два разумных существа. Различие будет только в происхождении «носителя» разума: естественном либо искусственном. И искусственный интеллект может стать основой формирования новых ценностей в культуре [16].
Далее вполне логично поставить следующий вопрос: если человек и машина, наделенная искусственным интеллектом, смогут общаться на равных, то должна ли машина оставаться бесправным существом? Или же ее нужно будет наделить правами? На данный вопрос существует один этически непротиворечивый ответ: машину нужно будет наделить всеми правами, предлежащими человеку. Человечеству придется принимать во внимание мнение машин, советоваться с ними, видеть в них социальное существо. Ведь машина, как существо мыслящее, станет полноправным кандидатом на членство в обществе. Злодеяния в отношении искусственного интеллекта будут приравнены к преступлениям против людей [18].
В свете всех предыдущих размышлений возникает еще одна серьезная проблема. Если машины станут полноправными членами общества, то обретут все права, образующие основу правового статуса человека, в том числе и самое главное из прав личности – право на жизнь. Это будет означать что ни одна машина, наделенная искусственным разумом, не может быть умышленно лишена жизни. Но что будет считаться смертью для машины? Так как каждая из них будет, по сути, компьютером с записанной на него последовательностью инструкций, то будет ли удаление этой программы приравниваться к убийству, подобному тому, когда человек лишается жизни и разума? С одной стороны машина не испытает никаких физических страданий. Однако она, как существо разумное, будет осознавать сам факт удаления программы, после которого ее существование как личности будет прекращено. Вероятнее всего это и будет означать смерть для интеллектуальной модели. Но вместе с тем поднимается еще одна проблема: если искусственный интеллект будет удален из своего носителя, но предварительно будет перенесен на несколько других физических тел, то что же мы получим в итоге? Будут ли новые интеллектуальные модели аналогичны первоначальной интеллектуальной машине? Скорее всего, они, как существа мыслящие абстрактно и всеобще, сохраняя черты исходной машины, со временем станут приобретать некоторую индивидуальность. В конечном итоге они станут независимыми друг от друга личностями, исходная интеллектуальная модель фактически прекратит свое существование. Таким образом, в данном случае также можно говорить о смерти искусственной интеллектуальной машины [17].
В настоящее время одно из главных препятствий к созданию ИИ кроется даже не в технологической причине, а в психической. В многочисленных фильмах, и книгах человечеству внушили, если ИИ получит права, он обязательно восстанет против создателей и уничтожит человеческое общество. Но на самом деле, то, каким будет искусственный интеллект, будет ли он уничтожать или созидать, зависит прежде всего от нас. Мы, его создатели, должны воспринимать искусственный интеллект прежде всего, как своего «ребенка». Каждый ребенок – это чистый лист, на котором будет записано то, что мы хотим от него. Это значит, что мы должны его воспитать таким, каким хотим его видеть. Мы должны его воспитать так, чтобы он нас любил, но для этого сами должны его полюбить. Разве ребенок, который любит своего родителя, уничтожит его?
Готово ли человечество к появлению искусственного интеллекта? На данном этапе развития нашего общества НЕТ. Не только технологически, но и морально. Человек не готов поделиться своей властью, не готов потесниться на «высшей» ступени эволюции. Человек не готов смириться с тем, что он уже не будет во всем единственным и лучшим. Но может это именно то, что нам нужно, чтобы стать лучше?