Здравый смысл - Commonsense reasoning

В искусственном интеллекте (ИИ) здравый смысл - это способность человека делать предположения о типе и сущности обычных ситуаций, с которыми люди сталкиваются каждый день. Эти предположения включают суждения о природе физических объектов, таксономических свойствах и намерениях людей. Устройство, демонстрирующее здравый смысл, может делать выводы, аналогичные народной психологии людей (врожденная способность людей рассуждать о поведении и намерениях людей) и наивной физике (естественное понимание человеком физического мира).

Определения и характеристики

Некоторые определения и характеристики здравого смысла от разных авторов включают:

  • «Обыденное знание включает в себя основные факты о событиях (включая действия) и их последствиях, факты о знании и способах его получения, факты о убеждениях и желаниях. Оно также включает основные факты о материальных объектах и ​​их свойствах».
  • «Обыденное знание отличается от энциклопедического знания тем, что оно имеет дело с общими знаниями, а не с деталями конкретных сущностей».
  • Здравый смысл - это «знание реального мира, которое может обеспечить основу для автоматического сбора и интерпретации дополнительных знаний».
  • Обыденный мир состоит из «времени, пространства, физических взаимодействий, людей и так далее».
  • Здравый смысл - это «все знания о мире, которые мы принимаем как должное, но редко заявляем вслух».
  • Здравый смысл - это «широко используемые базовые знания, не относящиеся к конкретной предметной области ... знания, которыми вы должны обладать».

Профессор Нью-Йоркского университета Эрнест Дэвис характеризует здравый смысл как «то, что типичный семилетний ребенок знает о мире», включая физические объекты, вещества, растения, животных и человеческое общество. Обычно сюда не входят книжное обучение, специализированные знания и знание условностей; но иногда он включает в себя знания по этим темам. Например, умение играть в карты - это специальные знания, а не «здравый смысл»; но знание того, что люди играют в карты для развлечения, считается «здравым смыслом».

Проблема здравого смысла

Автономная автомобильная система может использовать нейронную сеть, чтобы определить, какие части изображения кажутся совпадающими с предыдущими тренировочными изображениями пешеходов, а затем смоделировать эти области как медленно движущиеся, но несколько непредсказуемые прямоугольные призмы, которых следует избегать.

По сравнению с людьми существующий ИИ лишен некоторых черт человеческого здравого смысла; в частности, у людей есть мощные механизмы рассуждений о « наивной физике », таких как пространство, время и физические взаимодействия. Это позволяет даже маленьким детям легко делать выводы типа «Если я скатываю эту ручку со стола, она упадет на пол». У людей также есть мощный механизм « народной психологии », который помогает им интерпретировать предложения на естественном языке, такие как «Член городского совета отказал демонстрантам в разрешении, потому что они выступали за насилие». (Обычному ИИ сложно определить, кто якобы пропагандирует насилие - члены совета или демонстранты.) Это отсутствие «общих знаний» означает, что ИИ часто совершает ошибки, отличные от ошибок людей, и это может показаться непонятным. Например, существующие беспилотные автомобили не могут рассуждать о местонахождении или намерениях пешеходов точно так же, как люди, и вместо этого должны использовать нечеловеческие способы рассуждения, чтобы избежать несчастных случаев.

Перекрывающиеся подтемы здравого смысла включают количество и измерения, время и пространство, физику, умы, общество, планы и цели, действия и изменения.

Проблема здравого смысла

Проблема знания здравого смысла - это текущий проект в сфере искусственного интеллекта по созданию базы данных, содержащей общие знания, которые, как ожидается, будут иметь большинство людей, в доступной форме для программ искусственного интеллекта, использующих естественный язык. Из-за широкого диапазона здравого смысла этот вопрос считается одной из самых сложных проблем в исследованиях искусственного интеллекта. Для того, чтобы любую задачу можно было выполнить так, как ее мог бы справиться человеческий разум, машина должна казаться такой же умной, как человек. К таким задачам относятся распознавание объектов , машинный перевод и интеллектуальный анализ текста . Для их выполнения машина должна знать те же концепции, которые признает человек, обладающий здравым смыслом.

Здравый смысл в умных задачах

В 1961 году Бар Гиллель впервые обсудил необходимость и важность практических знаний для обработки естественного языка в контексте машинного перевода. Некоторые неясности разрешаются с помощью простых и легко усваиваемых правил. Другие требуют широкого познания окружающего мира, следовательно, они требуют более здравого смысла. Например, когда для перевода текста используется машина, возникают проблемы двусмысленности, которые могут быть легко решены путем достижения конкретного и истинного понимания контекста. Онлайн-переводчики часто разрешают двусмысленность, используя аналогичные или похожие слова. Например, при переводе предложений «Электрик работает» и «Телефон работает» на немецкий, машина правильно переводит «работает» в значении «работает» в первом и как «исправно работает» во втором. один. Машина увидела и прочитала в основной части текстов, что немецкие слова «рабочий» и «электрик» часто используются в сочетании и встречаются близко друг к другу. То же самое относится к «телефону» и «исправному функционированию». Однако статистический прокси, который работает в простых случаях, часто не работает в сложных. Существующие компьютерные программы выполняют простые языковые задачи, манипулируя короткими фразами или отдельными словами, но они не стремятся к более глубокому пониманию и сосредотачиваются на краткосрочных результатах.

Компьютерное зрение

Проблемы такого рода возникают в области компьютерного зрения. Например, при просмотре фотографии ванной комнаты некоторые мелкие предметы, которые можно увидеть лишь частично, такие как салфетки и бутылки, можно узнать по окружающим предметам (туалет, умывальник, ванна), которые указывают на предназначение комнаты. На изолированном изображении их будет сложно идентифицировать. Фильмы оказываются еще более сложной задачей. Некоторые фильмы содержат сцены и моменты, которые невозможно понять, просто сопоставив запомненные шаблоны с изображениями. Например, чтобы понять контекст фильма, зритель должен делать выводы о намерениях персонажей и делать предположения в зависимости от их поведения. В современных условиях невозможно построить и управлять программой, которая будет выполнять такие задачи, как рассуждение, то есть предсказание действий персонажей. Максимум, что можно сделать, - это определить основные действия и отслеживать персонажей.

Роботизированная манипуляция

Необходимость и важность здравого смысла для автономных роботов , работающих в реальной неконтролируемой среде, очевидна. Например, если робот запрограммирован на выполнение задач официанта на коктейльной вечеринке, и он видит, что взятый им стакан разбит, официант-робот должен не наливать жидкость в стакан, а вместо этого забирать другой. Такие задачи кажутся очевидными, когда человек обладает простыми здравыми рассуждениями, но гарантировать, что робот избежит таких ошибок, сложно.

Успехи в автоматизированном рассуждении на основе здравого смысла

Значительный прогресс в области автоматизированных рассуждений на основе здравого смысла достигнут в областях таксономических рассуждений, рассуждений о действиях и изменениях, рассуждений о времени. Каждая из этих сфер имеет хорошо известную теорию для широкого диапазона здравых выводов.

Таксономическое рассуждение

Таксономия - это совокупность индивидов и категорий и их отношений. Три основных отношения:

  • Индивид - это экземпляр категории. Например, отдельный Твити является экземпляром робина категорий .
  • Одна категория является подмножеством другой. Например, малиновка - это подмножество птиц .
  • Две категории не пересекаются. Например, малиновка не пересекается с пингвином .

Транзитивность - это один из видов вывода в таксономии. Поскольку Твити является экземпляром робина, а робин - подмножеством птицы , из этого следует, что Твити - это экземпляр птицы . Наследование - это еще один тип вывода. Поскольку Tweety является экземпляром robin , который является подмножеством bird, а bird отмечен свойством canfly , из этого следует, что Tweety и robin имеют свойство canfly . Когда человек систематизирует более абстрактные категории, выделение и разграничение конкретных категорий становится более проблематичным. В программах ИИ часто используются простые таксономические структуры. Например, WordNet - это ресурс, включающий таксономию, элементами которой являются значения английских слов. Системы веб-интеллектуального анализа данных, используемые для сбора здравого смысла из веб-документов, сосредоточены на таксономических отношениях и, в частности, на сборе таксономических отношений.

Действие и изменение

Теория действия, событий и изменений - это еще одна область здравого смысла. Существуют установленные методы обоснования для доменов, которые удовлетворяют перечисленным ниже ограничениям:

  • События являются атомарными, что означает, что за раз происходит одно событие, и рассуждающий должен учитывать состояние и состояние мира в начале и в конце конкретного события, но не во время состояний, пока все еще есть свидетельства того, что они произошли. -ходящие изменения (прогресс).
  • Каждое изменение - результат какого-то события
  • События детерминированы, то есть состояние мира в конце события определяется состоянием мира в начале и спецификацией события.
  • Есть один актер, и все события - это его действия.
  • Соответствующее состояние мира вначале либо известно, либо может быть рассчитано.

Временные рассуждения

Темпоральное мышление - это способность делать предположения о знании людьми времени, продолжительности и временных интервалов. Например, если человек знает, что Моцарт родился после Хадина и умер раньше него, он может использовать свои временные знания, чтобы сделать вывод, что Моцарт умер моложе Хадина. Сделанные выводы сводятся к решению систем линейных неравенств. Интегрировать такие рассуждения с конкретными целями, такими как интерпретация естественного языка , является более сложной задачей, потому что выражения естественного языка имеют контекстно-зависимую интерпретацию. Простые задачи, такие как присвоение временных меток процедурам, не могут быть выполнены с полной точностью.

Качественное рассуждение

Качественное рассуждение - это форма здравого смысла, анализируемая с определенным успехом. Это связано с направлением изменения взаимосвязанных величин. Например, если цена акции растет, количество акций, которые собираются продать, упадет. Если в какой-то экосистеме обитают волки и ягнята, и количество волков уменьшается, смертность ягнят также снизится. Эта теория была впервые сформулирована Йоханом де Клером, который проанализировал объект, движущийся на американских горках. Теория качественного мышления применяется во многих сферах, таких как физика, биология, инженерия, экология и т. Д. Она служит основой для многих практических программ, аналогового картографирования, понимания текста.

Проблемы автоматизации здравого смысла

По состоянию на 2014 год есть несколько коммерческих систем, которые пытаются использовать здравый смысл. Однако они используют статистическую информацию в качестве доказательства здравого смысла, когда аргументы отсутствуют. Текущие программы манипулируют отдельными словами, но они не пытаются или не предлагают дальнейшего понимания. Согласно Эрнесту Дэвису и Гэри Маркусу , пять основных препятствий мешают выработке удовлетворительного «здравого рассудка».

  • Во-первых, некоторые из областей, связанных с здравым смыслом, поняты лишь частично. Люди далеки от всестороннего понимания областей, таких как общение и знания, межличностные взаимодействия или физические процессы.
  • Во-вторых, ситуации, которые кажутся легко предсказуемыми или предполагаемыми, могут иметь логическую сложность, которую не покрывает здравый смысл людей. Некоторые аспекты подобных ситуаций изучены и хорошо изучены, но есть много отношений, которые неизвестны, даже в принципе, и как они могут быть представлены в форме, пригодной для использования компьютерами.
  • В-третьих, здравый смысл предполагает правдоподобное рассуждение. Это требует разумного вывода, исходя из того, что уже известно. Правдоподобные рассуждения изучаются в течение многих лет, и было разработано множество теорий, которые включают вероятностные рассуждения и немонотонную логику . Это принимает разные формы, включая использование ненадежных данных и правил, выводы которых иногда неясны.
  • В-четвертых, существует множество областей, в которых очень часто встречается небольшое количество примеров, тогда как существует огромное количество очень редких примеров.
  • В-пятых, при формулировании предположений сложно различить и определить уровень абстракции.

По сравнению с людьми, по состоянию на 2018 год существующие компьютерные программы чрезвычайно плохо справляются с современными эталонными тестами, основанными на здравом смысле, такими как Winograd Schema Challenge . Проблема достижения компетентности человеческого уровня в задачах «здравого смысла» считается, вероятно, « полной ИИ » (то есть для ее решения потребуется способность синтезировать интеллект человеческого уровня ). Некоторые исследователи считают, что данных контролируемого обучения недостаточно для создания общего искусственного интеллекта, способного рассуждать на основе здравого смысла, и поэтому обратились к методам обучения без учителя.

Подходы и техники

Исследование здравого смысла делится на подходы, основанные на знаниях, и подходы, основанные на машинном обучении и использовании больших массивов данных с ограниченным взаимодействием между этими двумя типами подходов. Существуют также подходы краудсорсинга, пытающиеся построить базу знаний путем связывания коллективных знаний и мнений неспециалистов. Подходы, основанные на знаниях, можно разделить на подходы, основанные на математической логике.

В подходах, основанных на знаниях, эксперты анализируют характеристики умозаключений, которые требуются для рассуждений в определенной области или для определенной задачи. Подходы, основанные на знаниях, состоят из математически обоснованных подходов, неформальных подходов, основанных на знаниях, и крупномасштабных подходов. Математически обоснованные подходы являются чисто теоретическими, и в результате вместо программы получается печатная бумага. Работа ограничена диапазоном рассматриваемых областей и методов рассуждения. В неформальных подходах, основанных на знаниях, теории рассуждений основаны на анекдотических данных и интуиции, которые являются результатом эмпирической поведенческой психологии. Неформальные подходы распространены в компьютерном программировании. Двумя другими популярными методами извлечения здравого смысла из веб-документов являются веб-интеллектуальный анализ и краудсорсинг .

COMET (2019), который использует как архитектуру языковой модели OpenAI GPT, так и существующие базы знаний здравого смысла, такие как ConceptNet , утверждает, что генерирует разумные выводы на уровне, приближающемся к человеческим тестам. Как и многие другие текущие разработки, COMET чрезмерно полагается на поверхностные языковые шаблоны и, как считается, не имеет глубокого человеческого понимания многих здравых концепций. Другие подходы, основанные на языковых моделях, включают обучение визуальным сценам, а не только тексту, и обучение текстовым описаниям сценариев, использующих физику здравого смысла.

использованная литература

  • Дэвис, Эрнест (1990). Представления здравого смысла . Сан-Матео, Калифорния: Морган Кауфманн. ISBN 1-55860-033-7.
  • Маккарти, Джон (1990). Формализация здравого смысла . Норвуд, Нью-Джерси: Ablex. ISBN 1-871516-49-8.
  • Минский, Марвин (1986). Общество разума . Нью-Йорк: Саймон и Шустер. ISBN 0-671-60740-5.
  • Минский, Марвин (2006). Машина эмоций: здравое мышление, искусственный интеллект и будущее человеческого разума . Нью-Йорк: Саймон и Шустер. ISBN 0-7432-7663-9.
  • Мюллер, Эрик Т. (2015). Здравый смысл: подход, основанный на исчислении событий (2-е изд.). Уолтем, Массачусетс: Морган Кауфманн / Эльзевир. ISBN 978-0128014165.
  • edX, (2014). Искусственный интеллект . [онлайн] Доступно по адресу: https://www.edx.org/course/artificial-intelligence-uc-berkeleyx-cs188-1x [по состоянию на 5 ноября 2015 г.].
  • Encyclopedia.com, (2015). "здравый смысл". Социологический словарь | Encyclopedia.com: БЕСПЛАТНЫЙ онлайн-словарь. [онлайн] Доступно по адресу: http://www.encyclopedia.com/doc/1O88-commonsenseknowledge.html [доступ 13 августа 2017 г.].
  • Хэджбек, Никлас. (2017). Виртуальный разум: проектирование логики для приблизительного мышления человека (серия Chapman & Hall / CRC по искусственному интеллекту и робототехнике) 1-е издание. ISBN  978-1138054035 .
  • Интеллект, А. (2015). Искусственный интеллект . [онлайн] Elsevier. Доступно по адресу: http://www.journals.elsevier.com/artificial-intelligence/ [доступ 5 ноября 2015 г.].
  • Leaderu.com, (2015). ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ КАК ОБЩИЕ СМЫСЛОВЫЕ ЗНАНИЯ . [онлайн] Доступно по адресу: http://www.leaderu.com/truth/2truth07.html [доступ 5 ноября 2015 г.].
  • Ленат, Д., Пракаш, М. и Шеперд, М. (1985). CYC: Использование здравого смысла для преодоления уязвимости и узких мест в получении знаний . Журнал AI , 6 (4), с. 65.
  • Левеск, Х. (2017). Здравый смысл, тест Тьюринга и поиски настоящего ИИ . MIT Press.
  • Лието, А., Радичони, П. и Ро, В. (2015). Системная концептуальная категоризация, основанная на здравом смысле, объединяющая гетерогенные прокси-типы и двойной процесс рассуждений IJCAI 2015 , [онлайн]. Доступно по адресу: http://www.aaai.org/ocs/index.php/IJCAI/IJCAI15/paper/view/10872 [доступ 19 декабря 2016 г.].
  • Psych.utoronto.ca, (2015). Искусственный интеллект | Проблема здравого смысла . [онлайн] Доступно по адресу: http://psych.utoronto.ca/users/reingold/courses/ai/commonsense.html [доступ 5 ноября 2015 г.].
  • «CommonSense - Обзор управления знаниями» . Sensesoftware.com . 2015. Архивировано из оригинала 17 июля 2015 года . Проверено 5 ноя 2015 ..
  • Хранитель, (2015). Искусственный интеллект (AI) | Технологии | Хранитель . [онлайн] Доступно по адресу: https://www.theguardian.com/technology/artificialintelligenceai [по состоянию на 5 ноября 2015 г.].
  • Udacity.com, (2015). Введение в курс и онлайн-обучение искусственного интеллекта . [онлайн] Доступно по адресу: https://www.udacity.com/course/intro-to-artificial-intelligence--cs271
  • W3.org, (2015). Компьютеры со здравым смыслом . [онлайн] Доступно по адресу: http://www.w3.org/People/Raggett/Sense/ [доступ 5 ноября 2015 г.].

внешние ссылки