Случайно натолкнулся на список научных, исторических и экономических мифов, который восхитил меня «разоблачениями». Оказывается, Милликен не измерял заряд электрона, Леверье не открывал Нептун «на кончике пера», а в средние века люди были уверены, что Земля имеет форму шара!
Господа разоблачители! Почти любое утверждение, сформулированное в одном предложении или даже одном абзаце, можно априори считать ложным. Это равно относится и к «строго научным» высказываниям, и к их опровержениям. Нет, человек не произошел от обезьяны, Земля не имеет форму шара, а Эйнштейн никогда не говорил, что «все относительно».
Любое сжатие информации с потерями, которое составляет суть популярного изложения всего чего угодно: от причин катастрофы на Саяно-Шушенской ГЭС до влияния солнечной активности на самочувствие, – по определению искажает эту самую информацию. Популяризация, исходящая из уст непрофессионала, – главный источник массовых мифов, тех самых, из-за которых находятся фанатичные защитники креационизма, исторических «теорий» Фоменко, нанофильтров Петрика, психоанализа и прочей лабуды, облеченной в наукообразную форму.
Но не все мифы вредны. Человек не может быть специалистом во всех явлениях окружающего мира, с которыми ему приходится сталкиваться. Потому принятие решений на основе мифологического представления о таких явлениях доминирует в повседневной практике. Самое интересное, что и сама наука не представляет исключения: в ее основе всегда лежит миф.
Одним из таких мифов было представление о том, что само мышление поддается аналитическому знанию и его можно смоделировать, создав «искусственный разум». Идея создания искусственного разума привлекала вполне серьезных мыслителей от Раймунда Луллия до Лейбница и Джорджа Буля. А в середине XX века она обрела прочную материальную базу в компьютерных науках и необычайно расцвела.
ПОНИМАЮЩИЕ МАШИНЫ
Изобретение компьютеров практически никто не предсказал (если не считать отдельных случайных прозрений, как в «Красной звезде» А. А. Богданова), и потому человечество оказалось к их появлению совершенно не готово. Осознание того, что это далеко не просто усовершенствованный арифмометр, пришло совсем не сразу, и все новые области применения технической новинки возникали прямо на ходу: я уже писал, как И. Бруку пришлось обосновывать очевидное теперь использование компьютеров как управляющих машин.
Появление компьютеров превратило «искусственный разум» в «искусственный интеллект» (ИИ), а «познание законов мышления» перешло в практическую плоскость: задачей было создание программ, имитирующих процесс решения интеллектуальных задач человеческим мозгом. Самое же интересное в этом процессе – то, что до совсем недавнего времени мало кто сомневался в принципиальной возможности создания «искусственного разума».
В 1950-е годы энтузиазм в этом направлении был просто удивительный, ему поддавались многие заслуженные ученые, такие, как В.М.Глушков или один из крупнейших математиков XX века А.Н.Колмогоров. Очень уважаемый мною Анатолий Иванович Китов, один из основоположников советских компьютерных наук, писал в книге «Электронные цифровые машины» (1956): «После того, как составлен машинный словарь и разработана система четких правил для работы машины, составление самой программы машинного перевода, несмотря на ее чрезвычайную громоздкость (она содержит несколько тысяч команд), не представляет принципиальных трудностей».
Прозорливый Станислав Лем в «Сумме технологий» возражал такому шапкозакидательскому подходу: «Либо машины будут действовать «понимающе», либо по-настоящему эффективных машин-переводчиков не будет вообще». Их и не появилось по сей день, хотя над привлекательной задачей создания машинного переводчика уже полвека бьются ученые и программисты.
ЧТО ТАКОЕ ИНТЕЛЛЕКТ
Математик мне справедливо возразит, что в общем случае задача ИИ просто не поставлена. Поколения бились над строгими определениями таких понятий, как «мышление», «понимание» и собственно «интеллект», и ничего сделать не смогли. Тест Тьюринга (предложение отличить диалог с машиной от диалога с человеком «слепым» методом) – это слабая попытка подойти к проблеме позитивистски, с позиций «черного ящика», которая ничего не проясняет. Тест Тьюринга и стал столь знаменит потому, что ничего лучшего никто так и не предложил.
Но это не значит, что над проблемой не работали. В СССР в области искусственного интеллекта в 1960–70 гг. была создана одна из самых мощных в мире научных школ, которую хорошо знали и уважали на Западе. В 1974 году мировой чемпионат по шахматам среди компьютерных программ выиграла советская программа «Каисса», созданная в Институте проблем Управления АН СССР, и это не было просто спортивным достижением. Подобно тому, как компьютерные игры стали двигателем прогресса в компьютерной графике, так и шахматы тогда были ареной отработки новых идей в искусственном интеллекте. Среди разработчиков «Каиссы» был В. Л. Арлазаров, теперь – член-корреспондент РАН и технический руководитель Cognitive Technologies, а также один из самых известных отечественных программистов, недавно скончавшийся Михаил Донской.
Возникает, однако, полное впечатление, что современные разработчики всяких умных программ и слыхом не слыхивали даже о Марвине Мински, не то что о Г.С.Поспелове или Д.В.Поспелове, и никак их достижения не используют. Почему?
Один из ответов есть в воспоминаниях известного лингвиста и психолога Р. М. Фрумкиной про Михаила Моисеевича Бонгарда, одного из самых ярких отечественных исследователей ИИ. Фрумкина цитирует Бонгарда: «Гипотеза должна быть сформулирована в виде алгоритма. Далее мы смотрим, работает ли он. Если работает, гипотеза верна».
Бонгард искренне старался перевести исследования в области ИИ в практическую плоскость – этому посвящена его блестящая, переведенная, в том числе, и на английский книга «Проблема узнавания». Значительная часть его труда ушла на собственно формулировку задач. Ученые получили огромное количество результатов, пытаясь найти решение этих задач, но так и не дошли до формулировок «гипотез в виде алгоритма». Проблема «искусственного разума» растворилась в частностях, которые никак не поддавались решению, а общей постановки задачи так и не возникло.
ЛЕДИ АДА
Сейчас совершенно неясно, что мешало сэкономить кучу времени и средств, сразу поставив проблему ИИ надлежащим образом. Ведь ответы на незаданные до поры вопросы уже были даны задолго до появления электронных компьютеров. Есть люди, которые склонны считать само существование «первой программистки» Ады Лавлейс мифом – чем-то вроде отечественного Ломоносова из учебников, который пооткрывал все на свете. Но сомнения рассеиваются, если почитать те самые примечания к описанию итальянцем Менабреа аналитической машины Бэббиджа, благодаря которым леди Ада и вошла в историю.
Читая их, все время приходится себе напоминать, что все это было во времена Пушкина и Монте-Кристо. Там есть даже указания на применения машины вне рамок чисто вычислительных задач, для обработки информации «вообще»: «Машина может обрабатывать и комбинировать цифровые величины, точно так же, как если бы они были буквами или любыми символами общего характера...» (примечание E).
В примечании G, во втором абзаце, и содержится практически исчерпывающая формулировка ответа на вопрос «может ли машина мыслить?»:
«Аналитическая машина не претендует на то, чтобы создавать что-то действительно новое. Машина может выполнить все то, что мы умеем ей предписать. Она может следовать анализу, но она не может предугадать какие-либо аналитические зависимости или истины. Функции машины заключаются в том, чтобы помочь нам получить то, с чем мы уже знакомы».
КОНЕЦ МИФА?
Джон Серль в 1980-м задвинул проблему как минимум в долгий ящик, показав в своей «китайской комнате», что можно успешно имитировать процесс мышления без какого-то проблеска понимания, чем ты, собственно, занимаешься.
Но не нужно недооценивать толчок, который дало существование ИИ для решения практических задач. Попытки заставить машину мыслить двинули вперед психологию и лингвистику, создали науку семиотику, способствовали развитию математики, военных наук и возникновению множества практических приложений. Серль не уничтожил ИИ – он просто направил мозги исследователей в правильном направлении, разделив направление на «сильный» и «слабый» ИИ. Под первым и понимается воспроизведение процесса мышления, создание «искусственного разума». В мире осталось очень немного групп, которые всерьез работают над этим: одним из последних всплесков стала книга Джеффа Хокинса, создателя наладонников Palm, погрузившегося в нейрологию.
А «слабый ИИ» – это все известные нам интеллектуальные функции компьютеров, и неважно, что они «мыслят» совсем иначе, главное – результат, и здесь достижения вполне ощутимые. На самом деле, проблема «искусственного разума» быстро перешла в ведение журналистов и фантастов, а практики изобретали интерфейсы человеко-машинного взаимодействия (Энгельбарт), выигрывали машинные чемпионаты мира по шахматам, исследовали нейронные сети и кропотливо долбали распознавание образов, превратившееся, в конце концов, в пресловутый Fine Reader.
Так закончил свое существование один из самых заманчивых научных мифов в истории человечества. Правда, физик Пенроуз еще много лет назад предсказал возрождение темы «сильного ИИ» с изобретением квантовых компьютеров. Пока еще до этого очень далеко: ну, а вдруг и в самом деле?
Следите за обновлениями Slon.ru в вашей социальной сети:
ВКонтакте или
Facebook.
Ваша статья, понятно, отчасти об истории развития computing, с историей не поспоришь, но с выводами и взглядами на текущеее положение вещей и на будущее согласиться сложно.
В китайской комнате Сирль создает артифакт, который очевидно не обладает знанием китайского языка, и на этом основании делает вывод, что артифакт не обладает разумом. Да, безусловно, китайская комната является правильной критикой теста Тюринга – успешное прохождение теста Тюринга не доказывает наличие человеческого интеллекта у подопытного. Но артифакт китайской комнаты, тем не менее, может обладать интеллектом, только не человеческим. Вопрос в том, что такое интеллект и как определить наличие интеллекта у испытуемого, не являющегося человеком.
Совершенно неправильно называть только Джеффа Хокинса как единственного, который сегодня занимается ИИ. Деятельность Сан-Диегского Neurosciences Institute Эдельмана, включая работы нашего замечательного Евгения Ижикевича, Генри Маркрам, Терри Сейновский. Люди стараются не обещать много, т.к. обещания, данные поколением Марвина Минского не были выполнены. Но работа идет очень активно и хорошо финансируется, потому что есть понимание ее огромной важности.
Возьмите интервью у Ижикевича или Дунина-Барковского, будет интересно.
Учтите, что сюда не вошло и малой доли доказательств "против". Весь сильный ИИ сводится к философской болтовне, которая внезапно начинает определять главное: постановку задачи. Вона Налимов, о котором я собираюсь написать, полагал, что любая постановка задачи, подчиняющейся теореме Геделя (а любой алгоритм ей подчиняется), автоматически исключает возможность создавать таким путем новое знание. Новое – это лишь неалгоритмизируемая неизвестность, содержащаяся в невыразимой на математическом языке неоднозначности мышления. Иными словами, опять все та же старая мысль: машину на основе булевой алгебры научить мыслить (= создавать новое) невозможно в принципе.
А что касается нечеловеческого интеллекта, то оставьте это поклонникам Толкиена. С людьми, которые всерьез об это заговорили, даже не хочется общаться. Даже больше, чем с теми, кто бы заговорил об антигравитации или телепортации: в это поверить легче. Не, я не спорю, что инопланетяне могут существовать, но мы об этом даже гадать не можем. По одной простой причине: мы не в состоянии выбраться из своего мышления. Для того, чтобы строить догадки о других интеллектах, нужен метаинтеллект и метаязык: нужно стать богом, короче. Иначе просто ничего не получится. Но за наводку все-таки спасибо: надо же, есть и такие.
Нисколько не сомневаюсь, что вы не привели всех аргументов "против". Ровно как и я не привел всех аргументов за. Но вы упомянули Пенроуза, что заметно снижает уровень ваших аргументов. Пенроуз, безусловно, выдающийся физик, но его предположение не выдерживает даже слабой критики.
Не надо вешать ярлыки про "поклонников Толкиена". Вы отрицаете наличие зачатков интеллекта у дельфинов и бонобо или считаете их интеллект человеческим? Вы пишете об *искусственном* интеллекте, то есть по определению нечеловеческом, но вы боитесь слова "нечеловеческий"? Вы говорите "мы не в состоянии выбраться из своего мышления" и что с того? Мы не можем выбраться из пределов Солнечной системы и трех пространственных измерений, но это не мешает Пенроузу изучать многомерные бесконечные миры. И при этом он не является богом, хотя, согласно вашей логике, должен был бы быть и бесконечномерным, и бесконечноразмерным :-)
Развешивания ярлыков вместо ответов по существу не делает общение интересным.
История науки – ваша сильная сторона. Но пожалуйста не приводите в качестве аргументов исследования времен Марвина Мински или М.В. Ломоносова.
Абсолютно согласен с критиком автора блога. Вопрос в том, что понимать под словом "интеллект". С моей точки зрения животные обладают интеллектом. И дело не в том, что они не пишут компьютерных программ. Просто их интеллект не подразумевает цели создания "чего-то нового, не поддающегося математическому описанию". Эволюция человека начиналась с бактерий, не обладавших интеллектом в нашем понимании. Но они потом доросли до динозавров, которые судя по поведению сохранившихся до наших дней некоторых их видов, вполне уже были разумными. Так что проблема искусственного интеллекта совсем не закрыта. Более того, она решается даже быстрее, чем некоторые этого хотят. Компьютерные вирусы – это начало эволюции машин. По моему мнению совсем не так уж долго ждать, когда они превратятся в динозавров. По крайней мере это произойдет гораздо быстрее, чем проходила эволюция в живой природе.
Ну что сказать Историку науки? Наука меняется быстрее, чем её история. Аргументы Пенроуза, Минского (он "прервал полёт мысли" великого Девида Марра), а тем более Гёделя – вообще непонятно про что. Они сродни знаменитому высказыванию Л.Д. Ландау о том, что он "мыслящих людей" не встречал. А тут – машины. – Бред! А ресурсы на то, чтобы попытаться докопаться сейчас до всех (информационных) деталей механизмов мозга нужны весьма скромные. Но – целевые. Авось, у нас получится...
RSS
6
экспорт в блог
Следите за обновлениями Slon.ru в вашей социальной сети:
