Машины, которые ничего не понимают

Случайно натолкнулся на список научных, исторических и экономических мифов, который восхитил меня “разоблачениями”. Оказывается, Милликен не измерял заряд электрона, Леверье не открывал Нептун “на кончике пера”, а в средние века люди были уверены, что Земля имеет форму шара!

Господа разоблачители! Почти любое утверждение, сформулированное в одном предложении или даже одном абзаце, можно априори считать ложным. Это равно относится и к “строго научным” высказываниям, и к их опровержениям. Нет, человек не произошел от обезьяны, Земля не имеет форму шара, а Эйнштейн никогда не говорил, что “все относительно”.

Любое сжатие информации с потерями, которое составляет суть популярного изложения всего чего угодно: от причин катастрофы на Саяно-Шушенской ГЭС до влияния солнечной активности на самочувствие, — по определению искажает эту самую информацию. Популяризация, исходящая из уст непрофессионала, — главный источник массовых мифов, тех самых, из-за которых находятся фанатичные защитники креационизма, исторических “теорий” Фоменко, нанофильтров Петрика, психоанализа и прочей лабуды, облеченной в наукообразную форму.

Но не все мифы вредны. Человек не может быть специалистом во всех явлениях окружающего мира, с которыми ему приходится сталкиваться. Потому принятие решений на основе мифологического представления о таких явлениях доминирует в повседневной практике. Самое интересное, что и сама наука не представляет исключения: в ее основе всегда лежит миф.

Одним из таких мифов было представление о том, что само мышление поддается аналитическому знанию и его можно смоделировать, создав “искусственный разум”. Идея создания искусственного разума привлекала вполне серьезных мыслителей от Раймунда Луллия до Лейбница и Джорджа Буля. А в середине XX века она обрела прочную материальную базу в компьютерных науках и необычайно расцвела.

ПОНИМАЮЩИЕ МАШИНЫ

Изобретение компьютеров практически никто не предсказал (если не считать отдельных случайных прозрений, как в “Красной звезде” А. А. Богданова), и потому человечество оказалось к их появлению совершенно не готово. Осознание того, что это далеко не просто усовершенствованный арифмометр, пришло совсем не сразу, и все новые области применения технической новинки возникали прямо на ходу: я уже писал, как И. Бруку пришлось обосновывать очевидное теперь использование компьютеров как управляющих машин.

Появление компьютеров превратило “искусственный разум” в “искусственный интеллект” (ИИ), а “познание законов мышления” перешло в практическую плоскость: задачей было создание программ, имитирующих процесс решения интеллектуальных задач человеческим мозгом. Самое же интересное в этом процессе — то, что до совсем недавнего времени мало кто сомневался в принципиальной возможности создания “искусственного разума”.

В 1950-е годы энтузиазм в этом направлении был просто удивительный, ему поддавались многие заслуженные ученые, такие, как В.М.Глушков или один из крупнейших математиков XX века А.Н.Колмогоров. Очень уважаемый мною Анатолий Иванович Китов, один из основоположников советских компьютерных наук, писал в книге “Электронные цифровые машины” (1956): “После того, как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей”.

Прозорливый Станислав Лем в “Сумме технологий” возражал такому шапкозакидательскому подходу: “Либо машины будут действовать “понимающе”, либо по-настоящему эффективных машин-переводчиков не будет вообще”. Их и не появилось по сей день, хотя над привлекательной задачей создания машинного переводчика уже полвека бьются ученые и программисты.

ЧТО ТАКОЕ ИНТЕЛЛЕКТ

Математик мне справедливо возразит, что в общем случае задача ИИ просто не поставлена. Поколения бились над строгими определениями таких понятий, как “мышление”, “понимание” и собственно “интеллект”, и ничего сделать не смогли. Тест Тьюринга (предложение отличить диалог с машиной от диалога с человеком “слепым” методом) — это слабая попытка подойти к проблеме позитивистски, с позиций “черного ящика”, которая ничего не проясняет. Тест Тьюринга и стал столь знаменит потому, что ничего лучшего никто так и не предложил.

Но это не значит, что над проблемой не работали. В СССР в области искусственного интеллекта в 1960—70 гг. была создана одна из самых мощных в мире научных школ, которую хорошо знали и уважали на Западе. В 1974 году мировой чемпионат по шахматам среди компьютерных программ выиграла советская программа “Каисса”, созданная в Институте проблем Управления АН СССР, и это не было просто спортивным достижением. Подобно тому, как компьютерные игры стали двигателем прогресса в компьютерной графике, так и шахматы тогда были ареной отработки новых идей в искусственном интеллекте. Среди разработчиков “Каиссы” был В. Л. Арлазаров, теперь — член-корреспондент РАН и технический руководитель Cognitive Technologies, а также один из самых известных отечественных программистов, недавно скончавшийся Михаил Донской.

Возникает, однако, полное впечатление, что современные разработчики всяких умных программ и слыхом не слыхивали даже о Марвине Мински, не то что о Г.С.Поспелове или Д.В.Поспелове, и никак их достижения не используют. Почему?

Один из ответов есть в воспоминаниях известного лингвиста и психолога Р. М. Фрумкиной про Михаила Моисеевича Бонгарда, одного из самых ярких отечественных исследователей ИИ. Фрумкина цитирует Бонгарда: “Гипотеза должна быть сформулирована в виде алгоритма. Далее мы смотрим, работает ли он. Если работает, гипотеза верна”.

Бонгард искренне старался перевести исследования в области ИИ в практическую плоскость — этому посвящена его блестящая, переведенная, в том числе, и на английский книга “Проблема узнавания”. Значительная часть его труда ушла на собственно формулировку задач. Ученые получили огромное количество результатов, пытаясь найти решение этих задач, но так и не дошли до формулировок “гипотез в виде алгоритма”. Проблема “искусственного разума” растворилась в частностях, которые никак не поддавались решению, а общей постановки задачи так и не возникло.

ЛЕДИ АДА

Сейчас совершенно неясно, что мешало сэкономить кучу времени и средств, сразу поставив проблему ИИ надлежащим образом. Ведь ответы на незаданные до поры вопросы уже были даны задолго до появления электронных компьютеров. Есть люди, которые склонны считать само существование “первой программистки” Ады Лавлейс мифом — чем-то вроде отечественного Ломоносова из учебников, который пооткрывал все на свете. Но сомнения рассеиваются, если почитать те самые примечания к описанию итальянцем Менабреа аналитической машины Бэббиджа, благодаря которым леди Ада и вошла в историю.

Читая их, все время приходится себе напоминать, что все это было во времена Пушкина и Монте-Кристо. Там есть даже указания на применения машины вне рамок чисто вычислительных задач, для обработки информации “вообще”: “Машина может обрабатывать и комбинировать цифровые величины, точно так же, как если бы они были буквами или любыми символами общего характера...” (примечание E).

В примечании G, во втором абзаце, и содержится практически исчерпывающая формулировка ответа на вопрос “может ли машина мыслить?”:

“Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы”.

КОНЕЦ МИФА?

Джон Серль в 1980-м задвинул проблему как минимум в долгий ящик, показав в своей “китайской комнате”, что можно успешно имитировать процесс мышления без какого-то проблеска понимания, чем ты, собственно, занимаешься.

Но не нужно недооценивать толчок, который дало существование ИИ для решения практических задач. Попытки заставить машину мыслить двинули вперед психологию и лингвистику, создали науку семиотику, способствовали развитию математики, военных наук и возникновению множества практических приложений. Серль не уничтожил ИИ — он просто направил мозги исследователей в правильном направлении, разделив направление на “сильный” и “слабый” ИИ. Под первым и понимается воспроизведение процесса мышления, создание “искусственного разума”. В мире осталось очень немного групп, которые всерьез работают над этим: одним из последних всплесков стала книга Джеффа Хокинса, создателя наладонников Palm, погрузившегося в нейрологию.

А “слабый ИИ” — это все известные нам интеллектуальные функции компьютеров, и неважно, что они “мыслят” совсем иначе, главное — результат, и здесь достижения вполне ощутимые. На самом деле, проблема “искусственного разума” быстро перешла в ведение журналистов и фантастов, а практики изобретали интерфейсы человеко-машинного взаимодействия (Энгельбарт), выигрывали машинные чемпионаты мира по шахматам, исследовали нейронные сети и кропотливо долбали распознавание образов, превратившееся, в конце концов, в пресловутый Fine Reader.

Так закончил свое существование один из самых заманчивых научных мифов в истории человечества. Правда, физик Пенроуз еще много лет назад предсказал возрождение темы “сильного ИИ” с изобретением квантовых компьютеров. Пока еще до этого очень далеко: ну, а вдруг и в самом деле?

Юрий РЕВИЧ