Взлет и падение искусственного интеллекта

The New Times magazine logo / Логотип журнала Новое Время

Сегодня российский журнал “Новое Время” (The New Times) опубликовал мою научно-популярную статью об истории исследований в области так называемого искуственного интеллекта.

http://newtimes.ru/magazine/2008/issue052/art_0005.xml

Artificial Intelligence

Взлет и падение искусственного интеллекта. Терминатора–4, –5 не будет. Шварценеггеру остается играть роли губернаторов. Розовая мечта человечества — создать машину, которая сможет встать вровень с человеком, — потерпела крах

Юрий Панчул, Силиконовая долина, США

С давних времен люди мечтали создать искусственных рабов-роботов — для военных, материальных или сексуальных целей. Только в середине ХХ века у исследователей появилось ощущение, что эта задача осуществима, причем в течение десяти или двадцати лет. Новое направление исследований назвали «искусственным интеллектом» (artificial intelligence). Эта область вызвала ажиотаж у всех: у Пентагона, который профинансировал создание робота-солдата; у венчурных капиталистов, которые кинулись вкладывать средства в многообещающее направление; у японцев, которые объявили искусственный интеллект национальным проектом; и, разумеется, у самих ученых.

Alan TuringТьюринг и Элиза

Одним из отцов искусственного интеллекта стал английский математик Алан Тьюринг, который предложил так называемый тест Тьюринга: машина должна быть признана разумной, если при разговоре с ней обычный собеседник не сможет определить, разговаривает он с человеком или с машиной. А одну из первых программ для демонстрации способности машины к общению1 создал в 1966 году Джозеф Вейзенбаум из MIT2. Программа «разговаривала» с человеком через телетайп, распознавая простые шаблоны речи. Если человек печатал «Я люблю сыр», программа спрашивала: «Почему вы любите сыр?»

Сам Вейзенбаум рассматривал свою программу как пародию на работу психоаналитика и был очень удивлен, когда люди воспринимали ее всерьез. Например, секретарши «разговаривали» с программой часами и скрывали распечатки разговоров от своих боссов. Потомки «Элизы» живут до сих пор: в российском интернете недавно обсуждали возможность создания программы, которая при разговоре в чате с девушкой была бы способна получить от собеседницы номер ее телефона.

John McCarthyЛисп и боевые роботы

Как ни странно, в 60-е годы «Элиза» вызывала интерес не только у секретарш, но и у серьезных людей в погонах. Дело в том, что «Элиза» была написана на диалекте языка программирования Lisp, который стал почти синонимом искусственного интеллекта. Все исследования, связанные с Лиспом, финансировались американским военным ведомством DARPA3, которое получило огромный бюджет из-за советского спутника и войны во Вьетнаме. Лисп был создан Джоном МакКарти, который придумал и сам термин «искусственный интеллект». До появления Лиспа в 1958 году люди рассматривали компьютеры как большие арифмометры. Лисп стал одним из первых языков для манипуляции текстовыми символами и списками (Lisp — сокращенное от List Processing, т.е. «обработка списков»).

Джон МакКарти считался отцом искусственного интеллекта в Стэнфорде. В MIT отцом искусственного интеллекта был Марвин Минский. У Минского и МакКарти был конкурент — Франк Розенблатт из Корнельского университета. Розенблатт вместо манипулирования словами с помощью программ на Лиспе попытался смоделировать работу нейронов человеческого мозга, создав персептрон — программу, которая училась распознавать образы (например, буквы).

Ученые против ученых

Военным были интересны персептроны, например, для распознавания силуэтов летящих самолетов. Поэтому Марвин Минский и его коллега по MIT Сеймур Паперт написали книгу, в которой раскритиковали персептроны, чтобы отсечь Розенблатта от военных долларов. В результате персептроны были забыты на 10 лет, после чего на некоторое время воскресли в виде «нейронных сетей».

В это же самое время у Минского и МакКарти появился другой враг — философ Губерт Дрейфус, тоже из MIT. Дрейфус утверждал, что логическое манипулирование символами не приведет к созданию разумных машин, так как большая часть человеческого интеллекта — это интуиция, которая не может быть сведена к механическому манипулированию словами. Статьи Дрейфуса настолько вредили имиджу группы Минского, что они объявили Дрейфусу бойкот и даже не садились с ним рядом в институтской столовой.

Дрейфус сделал тактическую ошибку: он заявил, что искусственный интеллект никогда не сможет хорошо играть в шахматы. Тогда коллега Минского Ричард Гринблатт вызвал Дрейфуса играть против шахматной программы. Неожиданно для всех Дрейфус проиграл: он не ожидал, что перебор вариантов, осу- ществляемый шахматной программой, может победить его интуицию. Не вынеся насмешек коллег, Дрейфус переехал в Калифорнию, где продолжил преподавать философию в университете Беркли.

Синица в руке

Но в начале 70-х военные все равно прекратили финансирование большинства проектов в области искусственного интеллекта. Последней каплей был провал проекта мобильного робота Shakey, разрабатываемого при Стэнфордском университете. Разработчики обещали, что робот будет способен распознавать препятствия на своем пути и принимать решения по их преодолению. Пять лет разработок принесли ничтожные результаты.

В 70-х исследователи искусственного интеллекта отказались от поиска «журавля в небе» в виде думающей машины и попытались решить прикладные задачи. Например, создали программы, которые помогали искать нефтяные месторождения и ставить медицинские диагнозы. Такие программы назвали «экспертными системами». Одной из первых стала MYCIN, разработанная Эдвардом Фейгенбаумом в 1970 году в Стэнфорде. Эта система помогала диагностировать бактериальные заболевания. При том что MYCIN часто работала не хуже, чем многие врачи, она все же учитывала только текущее состояние пациента, без его медицинской истории. По сути, тот же результат можно было получить, оснастив человека, не имеющего отношения к медицине, справочником, который бы содержал 800 правил диагностики (именно столько правил содержала MYCIN).

Инженеры знаний

А потом к власти в США пришел Рональд Рейган. Он начал программу «звездных войн», и у военных появились лишние деньги. В то же время мощные компьютерные рабочие станции и прикладные экспертные системы типа MYCIN привлекли внимание коммерческих клиентов. Кредитные компании попытались использовать искусственный интеллект, чтобы отсеивать ненадежных клиентов, налоговые службы — чтобы искать уклоняющихся от уплаты налогов.

В обстановке экономического бума любители Лиспа из Массачусетса и Стэнфорда стали получать многомиллионные инвестиции. Возникла новая профессия — «инженер знаний». Такой специалист интервьюировал медика или биржевого спекулянта и переводил его экспертизу в набор правил, которые можно было засунуть в оболочку экспертной системы, сделав ее «разумной».

В 1981 году японское правительство объявило национальный проект «Компьютеры пятого поколения». К 1990-му Япония предполагала стать мировым лидером в области искусственного интеллекта, а японские компьютеры дожны были понимать человеческую речь и давать разумные ответы.

Проснулись и последователи Розенблатта и его персептронов, которые начали получать инвестиции на «нейронные сети», хотя к этому времени стало ясно, что Розенблатт ошибался и настоящие нейроны мозга работают по-другому. Но терять броское название новые предприниматели не хотели: кто же даст денег на «ациклические взвешенные графы с гиперболической функцией»?

Компания Symbolics решила создать специальные Лисп-машины и продавать их корпоративной Америке. Основатели Symbolics обещали, что за 10 лет они изменят мир.

Но в начале 90-х компании начали понимать, что Дрейфус был прав: интуицию эксперта невозможно заменить даже очень быстрыми Лисп-машинами. Symbolics обанкротилась, другие компании поменяли профиль. О японском проекте «компьютеров пятого поколения» просто забыли, тем более что в Японии начался экономический кризис.

Утраченные иллюзии

Тем не менее история искусственного интеллекта не прошла впустую. Во-первых, люди поняли, что многие виды интеллектуальной активности (например, шахматы или распознавание простых образов) не требуют человеческого разума — его может заменить быстрый перебор вариантов. Во-вторых, стало очевидно, что чрезвычайно важной для разума является не логика, а интуиция, возможно, даже эмоции и осознание собственного «я»: к этой составляющей разума ученые даже не прикоснулись, считая, что сознание собственного «я» магическим образом возникнет у достаточно мощного компьютера. В-третьих, в проектах, связанных с искусственным интеллектом, родились многие современные методы программирования — их просто перестали называть «искусственным интеллектом» и начали называть «хорошим программированием».

Да в конце концов, совсем не факт, что искусственный интеллект невозможен. По крайней мере, одна разумная конструкция из молекул и атомов существует — это человек.

Послесловие редакции

Машина — интеллектуальная или «не совсем» — уже подорвала монополию человека на право принимать решения. Без мощного нейрокомпьютера не обходится ни один уважающий себя банк. Российский федеральный бюджет рассчитывают с использованием системы, созданной в НИИ искусственного интеллекта. «Машинным разумом» нашпигована военная техника. В Бразилии существует программа «Электронный судья», позволяющая анализировать показания свидетелей и вещественные доказательства и выносить приговор по несложным делам вроде ДТП. В последнее время на рынке очень популярны умные пылесосы, которые самостоятельно перемещаются по квартире, собирая мусор и объезжая препятствия. Японцы придумали роботовнянек, присматривающих за детьми. В общем, искусственный интеллект существует хотя бы потому, что за него начали платить деньги.

_____________
1 Программу назвали «Элиза» (Eliza).
2 Массачусетский технологический институт, один из крупнейших научных центров США, своего рода мекка компьютерных технологий.
3 Агентство передовых оборонных разработок Пентагона.

Куски, которые не вошли в статью из-за ограничения по размеру

Китайская комната

В 1980-м году один из критиков искуственного интеллекта Джон Сирл (John Searle) выдвинул элегантный аргумент, получивший название «китайская комната». Предположим, что в будущем появилась версия программы «Элиза», говорящая на китайском языке настолько хорошо, что китайцы не смогли бы отличить компьютер от человека. Теперь предположим, что некто переписал бы эту программу в толстенную книгу с механическими инструкциями для человека – если видишь иероглиф A и до этого видел иероглиф B, то вытащи из ящика иероглиф C. Теперь посадим некоего человека, не знающего китайский язык, в закрытую комнату с этой книгой и будет просовывать ему под дверью таблички с иероглифами, содержащими вопросы на китайском. Следуя механическим инструкциям из книги, человек будет находить в ящике и просовывать обратно другие таблички с иероглифами. С точки зрения внешнего наблюдателя, комната будет «понимать» и «разговаривать» на китайском. Но кто же является носителем этого разума? Ведь исполнитель не понимает китайский?

Джон МакКарти и другие ветераны искуственного интеллекта тут же заявили, что разум и даже сознание проявится в «виртуальной личности» или в «процессе», осуществляемой в этой комнате. Одним из элегантных аргументов против Джона Сирла выдвинули философы Пол и Патриция Чёрчлэнд (Paul and Patricia Churchland). Как мы знаем из физики, утверждали Чйрчлэнды, свет – это электромагнитная волна. Предположим, что некий скептик начнет двигать рукой магнит, не увидит света и начанет утверждать, что свет невозможен. На самом деле, чтобы получить свет, необходимо махать магнитом со скоростью 450 миллиардов взмахов в секунду. Так и разумное сознание, утверждали Чёрчлэнды, возникнет в «китайской комнате», если исполнитель будет достаточно проворен.

Интересно, что украинский фантаст Днепров описал аналог “Китайской комнаты” еще в 1950-е годы.

Еще про Symbolics:

Symbolics переманили инженеров из MIT и приобрели в лаборатории искуственного интеллекта (MIT Lab) права на их Лисп-систему. К сожалению, одним из ключевых инженеров Symbolics стал ни кто иной как Ричард Столмэн (Richard Stallman), основатель движения за бесплатное программное обеспечение и бог современных линуксоидов. Столмэн ненавидел идею коммерческого программного обеспечения и скрытно воровал код из Symbolics, копируя его в бесплатный продукт в MIT. Когда это вскрылось, Столмэн послал е-мейл в Symbolics, угрожая взорвать компанию динамитом. В конечном итоге Столмэн ушел из Symbolics и MIT, основал Free Software Foundation и получил премию от MacArthur Foundation как компьютерный гений. Парадоксально, что премию в в 240 тысяч долларов получил человек, который считал, что труд программистов не должен оплачиваться.

Источники информации

1. The Brain Makers by HP Newquist

2. What Computers Still Can’t Do: A Critique of Artificial Reason by Hubert L. Dreyfus

3. John McCarthy’s Home Page http://www-formal.stanford.edu/jmc

4. Wikipedia

5. Личные встречи с John McCarthy в 1993

6. Работа с Владом Арлазаровым (создателе советской шахматной программы Каисса, победившей мировой чемпионат среди шахматных программ; распознавательной программы Tiger / Cuneiform, Cognitive Technology)

7 thoughts on “Взлет и падение искусственного интеллекта

  1. Здравствуйте, прочитал вашу статью и подумал, что вы можете помочь в создании статьи русского раздела wikipedia.org. Тем более, что в сами являетесь пользователем этого замечательного интернет ресурса. Статья посвящена Эдварду Фейгенбауму.

    Reply

    Yuri Panchul reply on November 21st, 2008 8:40 pm:

    Спасибо, я подумаю об этом (к сожалению сейчас очень занят).

    Reply

  2. Ochen horoshaya statya , izvinite vi ne mogli bi mne pomoch,ya pishu dissertatasiyu po teme iskusvenniy intellek v nauchnoi fantastike .Mojete podelitsya kamkimi nibud idyemiyami, budu ochen rad .

    Reply

Leave a Reply