Все попытки создания искусственного интеллекта заканчивались изобретением очередной программы, обеспечивающей выполнение только одной четко определенной функции. Компьютеры так и не научились обобщать или проявлять гибкость. Даже создатели программ отмечали, что их детища не могут мыслить, как человек. Некоторые проблемы искусственного интеллекта поначалу казались простыми, но со временем так и не были найдены способы их решения. Даже сегодня ни один компьютер не может воспринимать речь так же легко, как трехлетний ребенок, или видеть так же хорошо, как, скажем, мышь.
После многолетних усилий, несбыточных надежд и отсутствия какого-то ощутимого прогресса идея искусственного интеллекта потеряла былую привлекательность. Ученые, отдавшие годы жизни исследованиям и разработкам в данной области, сменили сферы научных интересов. Предпринимательские инициативы, основанные на применении мыслящих компьютеров, тоже терпели неудачи. Финансирование подобных проектов значительно сократилось. Складывалось впечатление, что воссоздание таких базовых человеческий функций, как восприятие, речь или осмысленная деятельность, вообще не представляется возможным. Это продолжается и по сей день. Как я уже отмечал, у идеи искусственного интеллекта остались некоторые сторонники, но большинство ученых считает его создание невозможным.
Не стоит возлагать вину за провал на первопроходцев этой теории. Алан Тьюринг был гением, его универсальная машина, без преувеличения, совершила революцию в мире технологий, хотя и не помогла создать искусственный интеллект.
Мой скептицизм в отношении создания искусственного интеллекта соотносится с периодом, когда я подавал документы для поступления в Массачусетсский технологический институт. Джон Сирл, один из наиболее именитых преподавателей философии Калифорнийского университета (Беркли), в свою очередь утверждал, что у компьютера разума нет и быть не может. В доказательство своих взглядов в 1980 году он предложил провести эксперимент, который назвал «Китайской комнатой». Эксперимент состоял в следующем.
Представьте комнату со щелью в стене. За столом в комнате сидит человек, который владеет исключительно английским языком. На столе перед ним лежат карандаши, большой учебник и стопка листов бумаги. Полистав учебник, испытуемый выясняет, что это написанное на английском языке руководство, подробно разъясняющее, как писать, различать и сравнивать китайские иероглифы. Заметьте, что значения иероглифов не приводятся, речь идет лишь о правилах воспроизведения символов.
Другой человек находится вне описанной комнаты. Время от времени он просовывает сквозь щель в стене записки. На них по-китайски написан рассказ и вопросы к нему. Испытуемый, не имеющий никакого представления о китайском языке, по условиям эксперимента должен взять руководство к действию и поработать над полученными записками. Он старается и пыхтит, четко выполняя инструкции из книги. Иногда в инструкциях стоит указание написать определенные символы на листике бумаги, иногда он должен переставить или убрать символы. Шаг за шагом, неуклонно следуя инструкциям, человек пишет одни иероглифы, убирает или переставляет другие, пока не выполнит задание до конца. Так создается целая страница новых символов, которые являются ответами на вопросы, заданные на китайском языке. Разумеется, сам автор страницы этого не осознает. В книге содержится указание отдать исписанный листок бумаги сквозь щель в стене. Участник эксперимента так и делает, недоумевая, в чем же суть столь странного задания.
Полученный от испытуемого лист с иероглифами дают прочитать китайцу, который отмечает, что все ответы – верны, а некоторые из них впечатляют своей глубокомысленностью. Если мы спросим у китайца, считает ли он, что ответы написал разумный человек, который понял прочитанный рассказ, он ответит утвердительно. Как вы думаете, он прав? Кто понял рассказ? Однозначно, не человек, сидящий в комнате, ведь он не знает китайского, а значит, не имеет ни малейшего представления, о чем шла речь в исходной записке. Так на какой стадии было достигнуто понимание? Ответ Сирла: ни на какой. Все, что происходило в комнате, – это бездумное листание страниц и рисование. А сейчас проведем параллель: «Китайская комната» – это аналог цифрового компьютера, руководство по написанию иероглифов есть не что иное, как «компьютерная программа», соответственно, ее авторы – «программисты». Таким образом, все старания смоделировать искусственный интеллект напрасны. Участник эксперимента, подобно компьютеру, манипулирует символами, но не может придать им какого бы то ни было смысла. Следовательно, заключил Сирл, машина, или физическая система способная выполнять определенные функции, не может стать разумной и действовать осознанно. Сирл отмечал, что он затрудняется дать определение понятию разума, однако полон уверенности, что, независимо от определения, компьютеры разумом не обладают и обладать не могут.
Выводы Сирла спровоцировали войну между философами и сторонниками проблем искусственного интеллекта. Последние выдвигали десятки контраргументов. Вот, например один из них: хотя ни одна из составляющих «Китайской комнаты» не понимала китайского, сама комната как целое понимала язык, т. е. испытуемый понимал китайский язык, сам того не осознавая. Что касается меня самого, то я вполне разделяю точку зрения Сирла и считаю, что в эксперименте под названием «Китайская комната» налицо лишь манипуляция символами, но не истинное понимание. Давайте определим, что же такое «понимание».
Чтобы понять рассказ, человеку достаточно его прочесть. С другой стороны, если я не подам виду, что понял рассказ, то вы не сможете заключить из моего поведения, владею ли я языком, на котором написан рассказ, или нет, а также усвоил ли я предложенную информацию. Чтобы выяснить это, вы можете задать вопросы. Однако заметьте, что мне придется отвечать на них сейчас, а рассказ-то я понял намного раньше, еще во время чтения. Ключевой тезис моей книги: понимание не поддается оцениванию на основе наблюдения внешних реакций. Из следующих глав вы узнаете, что понимание является внутренней матрицей, которая формируется в мозге при запоминании информации и в дальнейшем используется для построения прогнозов. Компьютер Deep Blue, испытанный в «Китайской комнате», и многочисленные компьютерные программы не способны осознавать выполняемые ими функции. А единственным способом оценки разумности машины является ее «поведение».
И, наконец, последний аргумент в пользу искусственного интеллекта. Теоретически компьютеры могли бы имитировать работу всего живого мозга. Возможно, что когда-то наука дойдет до создания компьютерной модели, имитирующей работу нейронов и взаимодействие между ними. Если бы такое действительно произошло, то человеческий разум и искусственный интеллект можно было бы назвать равноценными. Хотя в реальной жизни вряд ли возможна столь совершенная имитация живого ума, но с теоретической точки зрения она выглядит вполне корректно. Беда в том, что исследователи, занимающиеся созданием искусственного интеллекта, не пытаются имитировать его живой прототип, а программы, которые они создают, по сути своей не могут проявлять разум. Не понимая того, как работает живой мозг, ни один ученый не сможет создать его искусственный аналог.
Получив отказы в компании Intel и Массачусетсском технологическом институте, я пребывал в растерянности. Решив придерживаться одной из моих жизненных стратегий – не зная, как лучше действовать, лучше ничего не менять до тех пор, пока не прояснятся возможные варианты выбора, – я продолжал работать в индустрии информационных технологий. Мне нравился Бостон, но жена настояла на переезде в Калифорнию, что и свершилось в 1982 году (данное событие также вполне соответствовало моему жизненному кредо – всегда избирать путь наименьшего сопротивления). Я нашел работу в Силиконовой долине, в новой компании Grid Systems. Именно в этой фирме был создан первый портативный компьютер – отличное устройство, ставшее первым экспонатом в коллекции Музея современного искусства в Нью-Йорке. Сначала я работал в отделе маркетинга, потом – в инженерном отделе. Я разработал новый язык программирования под названием GridTask, принесший компании большой успех, и моя карьера быстро пошла в гору.