Взгляды Хьюберта Дрейфуса на искусственный интеллект - Hubert Dreyfus's views on artificial intelligence

Обложка книги в мягкой обложке 1979 г.

Хуберт Дрейфус был критиком исследований искусственного интеллекта . В серии статей и книг, в том числе « Алхимия и искусственный интеллект» (1965) , « Что компьютеры не могут делать» ( 1972 ; 1979 ; 1992 ) и « Разум важнее машины» (1986) , он представил пессимистическую оценку прогресса ИИ и критику философские основы области. Возражения Дрейфуса обсуждаются в большинстве введений в философию искусственного интеллекта , включая Russell & Norvig (2003) , стандартный учебник по ИИ, и в Fearn (2007) , обзоре современной философии.

Дрейфус утверждал, что человеческий интеллект и опыт зависят в первую очередь от бессознательных процессов, а не от сознательных символических манипуляций, и что эти бессознательные навыки никогда не могут быть полностью отражены в формальных правилах. Его критика была основана на идеях современных континентальных философов, таких как Мерло-Понти и Хайдеггер , и была направлена на первую волну исследований ИИ, которые использовали формальные символы высокого уровня для представления реальности и пытались свести интеллект к манипулированию символами.

Когда идеи Дрейфуса были впервые представлены в середине 1960-х годов, они были встречены насмешками и откровенной враждебностью. К 1980, однако, многие из его перспективы были обнаружены исследователями , работающими в области робототехники и новой области коннекционизма -approaches теперь называется « суб-символическая » , потому что они избегают внимания ранние исследования ИИ на символы высокого уровня. В 21 веке подходы к машинному обучению, основанные на статистике, моделируют способ, которым мозг использует бессознательные процессы для восприятия, выявления аномалий и быстрого принятия решений. Эти методы очень успешны и в настоящее время широко используются как в промышленности, так и в академических кругах. Историк и исследователь искусственного интеллекта Даниэль Кревье пишет: «Время доказало точность и проницательность некоторых комментариев Дрейфуса». В 2007 году Дрейфус сказал: «Я полагаю, что выиграл, и все кончено - они сдались».

Критика Дрейфуса

Грандиозные обещания искусственного интеллекта

В алхимии и AI (1965) и Каких компьютеры не обойтись (1972) , Дрейфус обобщил историю искусственного интеллекта и высмеивал необузданный оптимизм , который пронизан поле. Например, Герберт А. Саймон после успеха своей программы General Problem Solver (1957) предсказал, что к 1967 году:

Компьютер стал бы чемпионом мира по шахматам.
Компьютер обнаружит и докажет новую важную математическую теорему.
Большинство теорий в психологии принимает форму компьютерных программ.

Пресса сообщала об этих прогнозах в ярких сообщениях о скором появлении машинного интеллекта.

Дрейфус считал этот оптимизм совершенно необоснованным. Он считал, что они основаны на ложных предположениях о природе человеческого интеллекта. Памела МакКордак объясняет позицию Дрейфуса:

[A] Большое недоразумение объясняет общественное заблуждение относительно мыслящих машин, недоразумение, совершаемое нереалистичными заявлениями исследователей в области ИИ, заявлениями о том, что мыслящие машины уже здесь или, по крайней мере, не за горами.

Эти прогнозы были основаны на успехе модели разума «обработки информации», сформулированной Ньюэллом и Саймоном в их гипотезе о физических системах символов , а затем расширились до философской позиции, известной как вычислительный подход такими философами, как Джерри Фодор и Хилари Патнэм . Полагая, что они успешно смоделировали основной процесс человеческого мышления с помощью простых программ, казалось, что до создания полностью интеллектуальных машин был короткий шаг. Однако Дрейфус утверждал, что философия, особенно философия 20-го века , обнаружила серьезные проблемы с этой точкой зрения на обработку информации. Согласно современной философии, разум - это не что иное, как цифровой компьютер.

Четыре предположения Дрейфуса об исследованиях искусственного интеллекта

В книгах «Алхимия и ИИ» и « Что компьютеры не могут делать» Дрейфус выделил четыре философских предположения, которые поддерживали веру ранних исследователей ИИ в то, что человеческий интеллект зависит от манипулирования символами. «В каждом случае, - пишет Дрейфус, - это предположение принимается работниками [AI] как аксиома, гарантирующая результаты, тогда как на самом деле это одна из гипотез, которая должна быть проверена успехом такой работы».

Биологическое предположение: Мозг обрабатывает информацию дискретными действиями с помощью некоего биологического эквивалента переключателей включения / выключения.

На заре исследований в области неврологии ученые поняли, что нейроны активируются импульсами типа "все или ничего". Некоторые исследователи, такие как Уолтер Питтс и Уоррен МакКаллох , утверждали, что нейроны функционируют аналогично тому, как работают логические вентили, и поэтому могут имитироваться электронными схемами на уровне нейрона. Когда в начале 50-х годов стали широко использоваться цифровые компьютеры, этот аргумент был расширен и позволил предположить, что мозг представляет собой обширную систему физических символов , манипулирующую двоичными символами нуля и единицы. Дрейфус смог опровергнуть биологическое предположение, сославшись на исследования в области неврологии, которые предполагали, что действие и время срабатывания нейронов имеют аналоговые компоненты. Но Даниэль Кревье отмечает, что «немногие все еще придерживались этой веры в начале 1970-х, и никто не возражал против Дрейфуса» по поводу биологического допущения.

Психологическое предположение: Разум можно рассматривать как устройство, оперирующее битами информации в соответствии с формальными правилами.

Он опроверг это предположение, показав, что многое из того, что мы «знаем» о мире, состоит из сложных установок или тенденций, которые заставляют нас склоняться к одной интерпретации над другой. Он утверждал, что, даже когда мы используем явные символы, мы используем их на бессознательном фоне здравого смысла и что без этого фона наши символы перестают что-либо значить. Этот фон, по мнению Дрейфуса, не реализовывался в индивидуальном мозге как явные индивидуальные символы с явными индивидуальными значениями.

Гносеологическое предположение: Все знания можно формализовать.

Это касается философского вопроса эпистемологии или изучения знания . Даже если мы согласимся с тем, что психологическое предположение ложно, исследователи ИИ все равно могут утверждать (как это сделал основатель ИИ Джон Маккарти ), что машина для обработки символов может представлять все знания, независимо от того, одинаково ли люди представляют знания. Дрейфус утверждал, что этому предположению нет оправдания, поскольку большая часть человеческих знаний не является символической.

Онтологическое предположение: Мир состоит из независимых фактов, которые можно представить независимыми символами.

Дрейфус также выявил более тонкое представление о мире. Исследователи искусственного интеллекта (а также футуристы и писатели-фантасты) часто предполагают, что формальным научным знаниям нет предела, потому что они полагают, что любое явление во Вселенной можно описать символами или научными теориями. Это предполагает, что все, что существует, можно понимать как объекты, свойства объектов, классы объектов, отношения объектов и так далее: именно те вещи, которые можно описать логикой, языком и математикой. Изучение бытия или существования называется онтологией , и поэтому Дрейфус называет это онтологическим предположением. Если это неверно, тогда возникают сомнения в том, что мы в конечном итоге можем знать и какие интеллектуальные машины в конечном итоге смогут помочь нам в этом.

Знание-хау против знания-то: примат интуиции

В книге Mind Over Machine (1986) , написанной в период расцвета экспертных систем , Дрейфус проанализировал разницу между человеческим опытом и программами, которые претендовали на его использование. Это расширило идеи из книги « Что компьютеры не могут делать» , где он привел аналогичный аргумент, критикуя школу « когнитивного моделирования » в исследованиях искусственного интеллекта, практикуемую Алленом Ньюэллом и Гербертом А. Саймоном в 1960-х годах.

Дрейфус утверждал, что решение человеческих проблем и опыт зависят от нашего фонового понимания контекста, того, что является важным и интересным в данной ситуации, а не от процесса поиска комбинаций возможностей, чтобы найти то, что нам нужно. Дрейфус описал бы это в 1986 году как разницу между «знанием-то» и «знанием-хау», основываясь на различении Хайдеггером « настоящего» и « готового к употреблению» .

Знание - это наши осознанные, поэтапные способности решать проблемы. Мы используем эти навыки, когда сталкиваемся с трудной проблемой, которая требует от нас остановиться, сделать шаг назад и поискать идеи по очереди. В такие моменты идеи становятся очень точными и простыми: они становятся контекстными символами, которыми мы манипулируем с помощью логики и языка. Это навыки, которые Ньюэлл и Саймон продемонстрировали как в психологических экспериментах, так и в компьютерных программах. Дрейфус согласился, что их программы адекватно имитируют навыки, которые он называет «знанием этого».

С другой стороны, ноу-хау - это то, как мы обычно справляемся с вещами. Мы совершаем действия, вообще не используя сознательных символических рассуждений, например, когда мы узнаем лицо, заставляем себя работать или находим правильные слова. Кажется, мы просто переходим к соответствующему ответу, не рассматривая никаких альтернатив. В этом суть опыта, утверждал Дрейфус: когда наша интуиция натренирована до такой степени, что мы забываем правила, просто «оцениваем ситуацию» и реагируем.

Согласно Дрейфусу, человеческое восприятие ситуации основано на наших целях, нашем теле и нашей культуре - всей нашей бессознательной интуиции, взглядах и знаниях о мире. Этот «контекст» или «фон» (связанный с Dasein Хайдеггера ) - это форма знания, которая хранится в нашем мозгу не символически, а каким-то образом интуитивно. Это влияет на то, что мы замечаем и чего не замечаем, что мы ожидаем и какие возможности мы не рассматриваем: мы различаем то, что является важным и несущественным. Несущественные вещи относятся к нашему «второстепенному сознанию» (заимствуя фразу из Уильяма Джеймса ): миллионы вещей, о которых мы знаем, но на самом деле мы не думаем прямо сейчас.

Дрейфус не считает, что программы искусственного интеллекта в том виде, в каком они были реализованы в 70-х и 80-х годах, могли бы уловить этот «фон» или быстро решить проблемы, которые он позволяет. Он утверждал, что наше бессознательное знание никогда не может быть зафиксировано символически. Если ИИ не мог найти способ решить эти проблемы, то он был обречен на провал, упражнение в «лазании по деревьям, не сводя глаз с луны».

История

Дрейфус начал формулировать свою критику в начале 1960-х, когда он был профессором Массачусетского технологического института , в то время центра исследований в области искусственного интеллекта. Его первая публикация на эту тему представляет собой возражение на полстраницы против выступления Герберта Саймона весной 1961 года. Дрейфуса, как философа, особенно беспокоило то, что исследователи ИИ, казалось, были на грани решения многих давние философские проблемы в течение нескольких лет с использованием компьютеров.

Алхимия и искусственный интеллект

В 1965 году Дрейфус был нанят (с помощью своего брата Стюарта Дрейфуса ) Полом Армером, чтобы провести лето на предприятии RAND Corporation в Санта-Монике, где он должен был написать « Алхимию и искусственный интеллект», первый залп своей атаки. Армер думал, что нанимает беспристрастного критика, и был удивлен, когда Дрейфус подготовил резкую бумагу, призванную разрушить основы поля. (Армер заявил, что не знал о предыдущей публикации Дрейфуса.) Армер отложил ее публикацию, но в конце концов понял, что «только потому, что она пришла к выводу, который вам не нравится, не является причиной не публиковать ее». В конце концов он вышел как RAND Memo и вскоре стал бестселлером.

В статье резко высмеиваются исследования искусственного интеллекта, сравнивая их с алхимией : ошибочная попытка превратить металлы в золото, основанная на теоретической основе, которая была не более чем мифологией и принятием желаемого за действительное. Он высмеивал грандиозные прогнозы ведущих исследователей ИИ, предсказывая, что существуют пределы, за которыми ИИ не сможет развиваться, и давая понять, что эти пределы скоро будут достигнуты.

Реакция

По словам Памелы МакКордак, газета «вызвала бурю негодования». Ответ сообщества ИИ был насмешливым и личным. Сеймур Паперт отклонил одну треть газеты как «сплетню» и заявил, что каждая цитата была намеренно вырвана из контекста. Герберт А. Саймон обвинил Дрейфуса в том, что он играет в «политику», чтобы присвоить своим идеям престижное имя RAND. Саймон сказал: «Что меня возмущает по этому поводу, так это имя RAND, прикрепленное к этому мусору».

Дрейфус, преподававший в Массачусетском технологическом институте , вспоминает, что его коллеги, работающие в области искусственного интеллекта, «не осмеливались быть замеченными за обедом со мной». Джозеф Вайценбаум , автор ELIZA , считал, что его коллеги обращались с Дрейфусом непрофессионально и по-детски. Хотя он был откровенным критиком позиции Дрейфуса, он вспоминает: «Я стал единственным членом сообщества ИИ, которого видели обедающим с Дрейфусом. И я сознательно дал понять, что их позиция - не способ обращения с людьми».

Эта статья была предметом короткометражки в журнале The New Yorker 11 июня 1966 года. В статье упоминалось утверждение Дрейфуса о том, что, хотя компьютеры могут играть в шашки, ни один компьютер еще не может играть приличную партию в шахматы. Он с ироничным юмором (как и Дрейфус) сообщил о победе десятилетнего ребенка над ведущей шахматной программой с «даже большим, чем его обычное самодовольство».

В надежде восстановить репутацию ИИ, Пейперт организовал шахматный матч между Дрейфус и Ричард Гринблатт «s Mac Hack программы. Дрейфус проиграл, к большому удовлетворению Паперта. В бюллетене Ассоциации вычислительной техники использовался заголовок:

«Десятилетний ребенок может победить машину - Дрейфус: Но машина может победить Дрейфуса »

Дрейфус жаловался в печати, что он не сказал, что компьютер никогда не будет играть в шахматы, на что Герберт А. Саймон ответил: «Вы должны признать, что некоторые из тех, кого укусила ваша острозубая проза, вероятно, в силу своей человеческой слабости, чтобы укусить ... Могу ли я осмелиться предположить, что вы вполне можете начать охлаждение - восстановление вашего чувства юмора будет хорошим первым шагом ".

Подтвержден

К началу 1990-х годов некоторые радикальные взгляды Дрейфуса стали общепринятыми.

Неудачные прогнозы . Как и предполагал Дрейфус, грандиозные предсказания первых исследователей искусственного интеллекта не сбылись. Полностью интеллектуальные машины (теперь известные как « сильный ИИ ») не появились в середине 1970-х, как предполагалось. HAL 9000 (чьи способности к естественному языку, восприятию и решению проблем были основаны на советах и мнениях Марвина Мински ) не появился в 2001 году. «Исследователям ИИ», пишет Николас Ферн, «явно нужно кое-что объяснить». Сегодня исследователи гораздо более неохотно делают прогнозы, которые были сделаны в первые дни. (Хотя некоторые футуристы, такие как Рэй Курцвейл , все еще придерживаются такого же оптимизма.)

Биологическое предположение , хотя и распространенное в сороковых и начале пятидесятых годов, больше не принималось большинством исследователей ИИ к тому времени, когда Дрейфус опубликовал « Что компьютеры не могут делать» . Хотя многие до сих пор утверждают, что необходимо реконструировать мозг, моделируя действие нейронов (таких как Рэй Курцвейл или Джефф Хокинс ), они не предполагают, что нейроны по сути являются цифровыми, а скорее, что действие аналоговых нейронов может быть смоделированы цифровыми машинами с разумным уровнем точности. ( Алан Тьюринг сделал то же наблюдение еще в 1950 году.)

Психологические предположения и бессознательные навыки . Многие исследователи ИИ согласились с тем, что человеческое мышление не состоит в основном из манипуляции символами высокого уровня. Фактически, с тех пор, как Дрейфус впервые опубликовал свою критику в 60-х годах, исследования ИИ в целом отошли от манипулирования символами высокого уровня или « GOFAI », к новым моделям, которые предназначены для большей части нашего бессознательного рассуждения. Даниэль Кревье пишет, что к 1993 году, в отличие от 1965 года, исследователи искусственного интеллекта «больше не делали психологического допущения» и продолжали двигаться вперед без него.

В 1980-х годах эти новые « субсимволические » подходы включали:

Парадигмы вычислительного интеллекта , такие как нейронные сети , эволюционные алгоритмы и т. Д., В основном направлены на моделирование бессознательного мышления. Сам Дрейфус согласен с тем, что эти субсимволические методы могут улавливать те «тенденции» и «отношения», которые он считает важными для интеллекта и опыта.
Исследования здравого смысла были сосредоточены на воспроизведении «фона» или контекста знания.
Исследователи робототехники, такие как Ханс Моравек и Родни Брукс, были одними из первых, кто осознал, что реинжиниринг бессознательных навыков будет наиболее трудным. (См . Парадокс Моравека .) Брукс возглавил движение в конце 80-х, которое было направлено на использование высокоуровневых символов, под названием Nouvelle AI . Расположен движение в области робототехники исследований попытки захватить наши бессознательные навыки в восприятии и внимании.

В 1990-х и в первые десятилетия 21-го века статистические подходы к машинному обучению использовали методы, связанные с экономикой и статистикой, чтобы позволить машинам «гадать» - делать неточные, вероятностные решения и прогнозы, основанные на опыте и обучении. Эти программы моделируют то, как наши бессознательные инстинкты способны воспринимать, замечать аномалии и делать быстрые суждения, подобно тому, что Дрейфус называл «оценивать ситуацию и реагировать», но здесь «ситуация» состоит из огромного количества числовых данных. Эти методы очень успешны и в настоящее время широко используются как в промышленности, так и в академических кругах.

Это исследование продолжалось без какой-либо прямой связи с работой Дрейфуса.

Знание и знание того . Исследования в области психологии и экономики показали, что предположение Дрейфуса (и Хайдеггера) о природе решения человеческих проблем было по сути правильным. Даниэль Канеманн и Амос Тверски собрали огромное количество убедительных доказательств того, что люди используют два совершенно разных метода для решения проблем, которые они назвали «системой 1» и «системой 2». Первая система, также известная как адаптивное бессознательное , работает быстро, интуитивно и бессознательно. Система 2 медленная, логичная и продуманная. Их исследования были собраны в книге « Мыслить, быстро и медленно» и вдохновили Малькольма Гладуэлла на создание популярной книги « Моргание» . Как и в случае с искусственным интеллектом, это исследование было полностью независимым как от Дрейфуса, так и от Хайдеггера.

Игнорируется

Хотя очевидно, что исследования ИИ пришли к согласию с Дрейфусом, МакКордак утверждал, что «у меня сложилось впечатление, что этот прогресс произошел по частям и в ответ на жесткие заданные проблемы и ничем не обязан Дрейфусу».

Сообщество ИИ, за некоторыми исключениями, предпочло не отвечать Дрейфусу напрямую. «Он слишком глуп, чтобы воспринимать всерьез», - сказала Памеле МакКордак исследователь. Марвин Мински сказал о Дрейфусе (и других критических замечаниях, исходящих от философии ), что «они неправильно понимают, и их следует игнорировать». Когда Дрейфус расширил « Алхимию и ИИ» до длины книги и опубликовал ее под названием « Что компьютеры не могут делать в 1972 году», никто из сообщества ИИ не ответил (за исключением нескольких критических обзоров). МакКордак спрашивает: «Если Дрейфус настолько заблуждается, почему люди, занимающиеся искусственным интеллектом, не приложили больше усилий, чтобы ему опровергнуть?»

Часть проблемы была своего рода философии , что Дрейфус использовал в своей критике. Дрейфус был знатоком современных европейских философов (таких как Хайдеггер и Мерло-Понти ). Напротив, исследователи ИИ 1960-х годов основывали свое понимание человеческого разума на принципах инженерии и эффективных методах решения проблем, связанных с наукой об управлении . На фундаментальном уровне они говорили на другом языке. Эдвард Фейгенбаум жаловался: «Что он предлагает нам? Феноменология ! Этот клубок пуха. Этот сахарный песок!» В 1965 году был слишком большой разрыв между европейской философией и искусственным интеллектом , разрыв, который с тех пор был заполнен когнитивной наукой , коннекционизмом и исследованиями робототехники . Пройдет много лет, прежде чем исследователи искусственного интеллекта смогут обратиться к вопросам, важным для континентальной философии, таким как ситуативность , воплощение , восприятие и гештальт .

Другая проблема заключалась в том, что он утверждал (или, казалось, утверждал), что ИИ никогда не сможет уловить человеческую способность понимать контекст, ситуацию или цель в форме правил. Но (как позже объяснят Питер Норвиг и Стюарт Рассел ) аргумент такой формы не может быть выигран: просто потому, что невозможно вообразить формальные правила, которые управляют человеческим интеллектом и опытом, это не означает, что таких правил не существует. Они цитируют ответ Алана Тьюринга на все аргументы, аналогичные аргументам Дрейфуса:

«мы не можем так легко убедить себя в отсутствии полных законов поведения ... Единственный известный нам способ найти такие законы - это научное наблюдение, и мы, конечно, не знаем никаких обстоятельств, при которых мы могли бы сказать:« Мы достаточно исследовали . Нет таких законов ».

Дрейфус не ожидал, что исследователи ИИ осознают свою ошибку и начнут работать над новыми решениями, отойдя от символических методов, которые критиковал Дрейфус. В 1965 году он не предполагал, что когда-нибудь будут созданы такие программы, поэтому утверждал, что искусственный интеллект невозможен. В 1965 году исследователи ИИ не предполагали, что такие программы необходимы, поэтому заявили, что ИИ почти завершен. Оба были неправы.

Более серьезной проблемой было впечатление, что критика Дрейфуса была неисправимо враждебной. МакКордак писал: «Его насмешка была настолько провокационной, что он оттолкнул любого, кого мог просветить. И это жаль». Даниэль Кревье заявил, что «время доказало точность и проницательность некоторых комментариев Дрейфуса. Если бы он сформулировал их менее агрессивно, конструктивные действия, которые они предлагали, могли быть предприняты гораздо раньше».

Languages

In other projects