концепции

Поделиться статьей в социальных сетях:

в избранное

Логика и искусственный интеллект

Ссылка на оригинал: Stanford Encyclopedia of Philosophy

Впервые опубликовано 27 августа 2003, существенно переработано 2 ноября 2018.

Искусственный интеллект (в дальнейшем мы будем использовать аббревиатуру «ИИ») — подобласть информатики, отведенная развитию программ, позволяющих компьютерам демонстрировать поведение, которое можно (в широком смысле) характеризовать как «разумное». Большая часть исследований ИИ посвящена достаточно узким сферам применения, таким как планирование или перевод «речь-в-речь» в ограниченных, строго определенных областях задач. Но сохраняется значительный интерес к долгосрочной цели разработки автономных агентов, способных к решению общих интеллектуальных задач, пусть даже цель создать полностью человекоподобный интеллект труднодостижима и редко ставится эксплицитно и как таковая.

В течение своей относительно короткой истории ИИ подвергся сильному влиянию логических идей. Исследование ИИ черпает из множества исследовательских методологий: ценность и относительная важность логических формализмов ставится под сомнение некоторыми ведущими учеными и время от времени обсуждается в тематической литературе. Но большинство членов сообщества ИИ согласились бы, что логика играет важную роль в (по крайней мере) некоторых центральных сферах исследования ИИ, а влиятельное меньшинство считает логику самым важным фактором, позволяющим осуществить стратегические, фундаментальные прорывы.

Отношения между ИИ и философской логикой — лишь часть более феномена. Сложно найти такую значительную философскую тему, которая не переплеталась бы с вопросами относительно рассуждения. Импликатуры, например, должны соответствовать выводам (inferences), выполняемым рациональным интерпретатором дискурса. Чем бы ни являлась причинность, каузальные связи должны быть выводимы в повседневных условиях, соответствующих здравому смыслу. Чем бы ни являлись убеждения, рациональные агенты должны быть способны делать правдоподобные выводы об убеждениях других агентов. Цели и действующие ограничения, влияющие на поведение рационального агента, должны позволять формировать обоснованные планы.

В каждом из этих случаев соответствие с адекватной теорией релевантного рассуждения необходимо для успешной философской теории. Но методы современного философского инвентаря слишком грубы, чтобы предоставить что-либо похожее на адекватную теорию процесса рассуждения, достаточно сложную и сообщающуюся с широкой сферой знаний о мире.

Применяя эклектический набор концептуальных инструментов к проблеме идеализированного рассуждения в реалистичных условиях и используя компьютеры для моделирования и проверки теории, исследование ИИ перевернуло изучение рассуждений — особенно практических рассуждений от здравого смысла. Этот процесс и его результат хорошо задокументированы в Russell & Norvig 2010.

Новые соображения и теории, выведенные из ИИ, имеют огромную потенциальную ценность, влияя на множество областей философского исследования и ограничивая их. Особый случай философской логики, составляющий тему этой статьи, может служить тому подтверждением. Хотя логика в ИИ выросла из философской логики, в своем новом контексте она породила новые теории и амбициозные программы, невозможные вне сообщества, посвящающего себя построению полномасштабных вычислительных моделей рациональной агентности.

Эта статья адресована публике, состоящей главным образом из философов, мало или же совсем не знакомых с ИИ. Статья сосредотачивается на проблемах, возникающих при использовании логики в интерпретации проблем разумного рассуждения и проектировании механизированных систем рассуждения. Логика в ИИ на данный момент является очень большим и не вполне четко разделенным полем — настоящая статья далека от полного обзора. Разделы 3 и 4 дают некоторый обзор с историческими и техническими деталями, касающимися немонотонной логики и рассуждений о действии и изменениях — темах, не только важных для ИИ, но и имеющих значительный интерес для философов. Остальные разделы представляют короткие и более или менее неполные наброски избранных тем со ссылками на первоисточники.

Minker 2000b — исчерпывающее собрание обзорных статей и статей, вносящих вклад в сферу основанной на логике ИИ, с обширным набором ссылок. Введение Джека Минкера (Minker 2000a) ориентирует читателя в сфере ИИ и является хорошей начальной точкой для читателей, желающих исследовать эту тему дальше. Брахман и Левеск (Brachman & Levesque 2004a) предоставляют введение в сферу представления знаний в форме учебника. Davis 1991a и Mueller 2006a — монографии, посвященные сложной проблеме формализации рассуждений на основе здравого смысла. Antonelli 2012a полезен в качестве введения для читателей, интересующихся немонотонной логикой, а Shanahan 2009a — полезное обсуждение проблемы фреймов. Wooldridge 2000a рассматривает логические формализации рациональных агентов.

Логика и искусственный интеллект

Роль логики в сфере искусственного интеллекта

Теоретическая информатика выросла из логики, теории вычисления (если ее можно считать дисциплиной, отличной от логики) и некоторых родственных сфер математики. Так что информатики, ориентированные на теории, хорошо осведомлены о логике, даже не являясь логиками. Информатики в целом знакомы с идеей, что логика дает методики для анализа инференциальных свойств языка, а также с различием между высокоуровневым логическим анализом задачи формирования рассуждений и ее выполнениями.

Это делает возможным задействование логики в различной степени в приложениях ИИ — от относительно слабых использований, где логика аналитически информирует процесс реализации, до сильных использований, где можно продемонстрировать корректность и полноту алгоритма реализации. В некоторых случаях работающая система формируется под влиянием идей из сферы логики и приобретает свойства, которые сначала могут показаться логически проблематичными, но затем объясняются с развитием новых идей в логической теории. Подобное происходило, например, в сфере логического программирования.

В частности, логические теории в сфере ИИ независимы от своих реализаций. Их можно использовать для детального анализа задачи формирования рассуждения, не влияя непосредственно на реализацию. Прямые реализации идей из сферы логики — приемы доказательства теорем и построения моделей — используются в сфере ИИ, но теоретики ИИ, опирающиеся на логику для моделирования своих проблемных областей, могут использовать и другие техники реализации. Так, Роберт Мур (Moore 1995b: ch. 1) различает три применения логики в ИИ: как инструмент для анализа, как основу репрезентации знаний и как язык программирования.

Значительная часть усилий по разработке ограниченно-объективных систем рассуждения вкладываются в управление крупными, сложными массами декларативной информации. В сфере ИИ в целом принимается, что представление этой информации и сопровождающие ее рассуждения следует рассматривать как отдельную задачу, со своими собственными исследовательскими проблемами.

Эволюция экспертных систем служит поясняющим примером: самые ранние экспертные системы, такие как MYCIN (программа, рассуждающая о бактериальных инфекциях, см. Buchanan & Shortliffe 1984), были полностью основаны на крупных системах процедурных правил, лишенных отдельных представлений фонового знания — например, таксономия возбудителей инфекций, о которых рассуждала система, представлена не была.

Экспертные системы поздних поколений показывают бóльшую модулярность в своих проектах. Отдельный компонент репрезентации знаний полезен в целях разработки ПО — куда лучше располагать единым представлением общего факта, который может иметь множество разных применений, поскольку это позволяет с большей легкостью разрабатывать и модифицировать систему. Данный тип проекта, позволяя этим системам предоставлять объяснения наряду с простыми заключениями, оказывается крайне важен.

Репрезентация знаний

В ответ на необходимость проектирования этого декларативного компонента в 1980-х годах возникла подсфера ИИ, известная как репрезентация знаний. Представление знаний главным образом занимается репрезентационными сложностями и сложностями в рассуждениях касательно этого отдельного компонента. Знания об этой подсфере можно подчерпнуть из отчетов всреч, проводящихся раз в два года, см.: Brachman et al. 1989, Allen et al. 1991, Nebel et al. 1992, Doyle et al. 1994, Aiello et al. 1996, Cohn et al. 1998, Cohn et al. 2000, Fensel et al. 2002, Dubois et al. 2004, Doherty et al. 2006, Brewka & Lang 2008, Lin et al. 2010, Eiter et al. 2012, Baral et al. 2012 и Baral et al. 2016.

Типичные доклады на конференциях, посвященных представлению знаний и рассуждений, посвящены следующим темам:

1.      Темы в теории логики и теории вычисления, в том числе

a.      Немонотонная логика

b.      Теория сложности вычислений

2.      Исследования в прикладных областях, в том числе

a.      Темпоральные рассуждения

b.      Формализмы для рассуждения о планировании, действии и изменении, причинности

c.      Метарассуждения

d.      Рассуждения о контексте

e.      Рассуждения о ценностях и желаниях

f.       Рассуждения о ментальных состояниях других агентов, в особенности о знании и убеждении

g.      Пространственные рассуждения

h.      Рассуждения о смутности

3.      Аргументация и теория аргументации

4.      Различные проблемы объединения, такие как объединения не соответствующих друг другу источников знаний

5.      Исследования техник применения, в том числе

a.      Логическое программирование

b.      Дескрипционная логика

c.      Доказательство теорем

d.      Построение моделей

6.      Исследование крупномасштабных применений, в том числе

a.      Когнитивная робототехника

b.      Слияние, актуализация и исправление баз знаний

Эти темы едва ли совпадают с содержанием журнала Journal of Symbolic Logic, основного архива исследований математической логики. Но они в значительной мере пересекаются в том, что касается теоретической эмфазы, с Journal of Philosophical Logic, в котором значительная часть статей касается таких тем, как темпоральная логика, эпистемическая логика, логические подходы к практическим рассуждениям, изменение убеждений и смутность. Но лишь немногие статьи в JPL касаются теории сложности или потенциальных применений в сфере автоматических рассуждений.

Философская логика

История философской логики только ожидает своего часа. Хотя философскую логику традиционно отличают  от логики математической, это различие вполне может быть случайным по отношению к общим целям этих предметов, так как техническая строгость и использование математических методов кажутся необходимыми во всех сферах логических исследований. Однако различия между двумя подсферами заостряются за счет различий видов профессиональной подготовки логиков и взглядов отдельных лиц на то, что важно для их области деятельности.

Программное заявление, представленное в Journal of Symbolic Logic (1936, vol. 1, № 1), постулирует объединение математиков и философов, работающих в сфере логики, в качестве одной из задач нового журнала. Вероятно, в то время и математики, и философы разделяли мнение, что их коллегами считают их предмет несколько маргинальным, и вполне могли сохранять верность логике как предмету, а не какой-либо научной дисциплине. Статьи в первом номере JSL были разделены пополам между профессиональными математиками и философами, и ранние номера JSL не демонстрируют каких-либо значительных различий в теме в двух группах.

Это положение дел изменилось в 1960-х. Номер JSL от 1969 года включал в себя 39 статей, написанных математиками, и только 9 — философами. К началу 1970-х многие философы считали, что философские исследования на тему логики не имели серьезных шансов быть принятыми к публикации в JSL, а если они и оказались бы опубликованы, их бы вряд ли прочитали философы. К тому моменту цели двух групп значительно разошлись. Математики стремились к развитию все более специального и сложного корпуса методов и теорем. Множество философов считало, что это стремление все менее сообразовывалось с целью прояснения философских вопросов. Эти несогласия привели к основанию Journal of Philosophical Logic в 1972 году. Список тем, приведенных в качестве примера в первом номере, включает в себя:

1. Работы в областях логической теории, непосредственно связанных с философскими проблемами, таких как индуктивная логика, модальная логика, деонтическая логика, квантовая логика, темпоральная логика, свободная логика, логика вопросов, императивная логика, логика предпочтений, условная логика, многозначная логика, логика определения релевантности;
2. Работы, касающихся философских дискуссий, использующие инструменты формальной логики…;
3. Обсуждения философских вопросов, касающихся логики и логической структуры языка…;
4. Философские исследования, касающиеся частных наук…

Большинство статей в последующие 28 лет существования JPL относятся к первой категории из четырех. Но описание, с которого начинается этот список, не вполне ясно: почему эти темы должны представлять интерес для философов? Их главная общая черта — осознание того, что, несмотря на успехи в формализации сфер математической логики, сфера логики оставалась строго ограниченной. Существуют нерешенные проблемы в формализации нематематических наук, требующие, по-видимому, размышлений о новых, отличных логических вопросах (например, таких как квантовая логика и логика индукции). Остальные темы покрывают по крайней мере часть более насущных проблем, касающихся распространения логической теории на вненаучные рассуждения. Основной целью философской логики, таким образом, является распространение логических методов на нематематические сферы рассуждения. У этой цели есть теоретическое измерение, если (как считают, по-видимому, множество философских логиков) она требует переработки и углубления логических формализмов.

Логика в сфере ИИ и философская логика

Грубое сравнение содержания главных публикаций в сфере логического ИИ и философской логики в разделе 1.2 дает нам следующую картину. Содержания теоретической работы в логическом ИИ и философской логике в значительной мере совпадают. Обе сферы занимаются развитием неметаматематических применений логики, и их основные темы очень схожи. Это совпадение происходит не только из-за общности интересов, но и из-за прямого влияния философской логики на логический ИИ; существует также достаточно подтверждений того, что первое поколение логиков ИИ читали литературу по философской логике и испытывали ее влияние.

С тех времен специализации двух сфер разошлись. Новые логические теории возникли в сфере логического ИИ (немонотонная логика — самый значительный пример), не получив широкой известности в философской логике. Другие различия проистекают из интереса сообщества ИИ к теоретическому анализу алгоритмов и, конечно же, из того обстоятельства, что в сфере ИИ очень важны реализации. Некоторые различия касаются развития в информатике амбициозных приложений, использующих беспрецедентно многочисленные логические аксиомы. Одни лишь масштабы этих приложений порождают новые проблемы и методологии. Другие различия проистекают из интереса философских логиков к ряду тем (например, метафизическим), в первую очередь опирающимся на чисто философские соображения.

Внимание к приложениям может иметь огромное влияние на способ выполнения и репрезентации исследований. Традиция философской логики предшествует приложениям в сфере автоматизированных рассуждений и до сих пор мало ими интересуется. Ее методология зависит от интуиций, но она не прибегает к какой-либо общепринятой методологии их выражения и использования. Идеи подкрепляются надуманными маломасштабными примерами и вытекают из них. В целом философская литература не рассматривает воплощение, или эффективность, рассуждений или какие-либо свойства процесса рассуждения. Также сложно найти случаи, где философские теории подкрепились бы или тестировались с помощью реалистичных крупномасшабных проблем формирования рассуждений.

Эти различия, однако, касаются в большей степени стиля, чем содержания или стратегических целей исследования. Сложно тщательно проработать детали процесса рассуждения без конкретизующих этот процесс вычислительных инструментов, точно так же сложно разработать крупномасштабные формализации задач формирования рассуждений без вычислительных инструментов для ввода, тестирования и поддержания формализаций. Так как основные теоретические темы (модальная, кондициональная и темпоральная логики, ревизия/пересмотр убеждений и логика контекста) столь схожи и так как окончательная цель (формализация нематематических рассуждений) едина, можно рассматривать логику в сфере ИИ как продолжение традиции философской логики.

Раннее влияние философской логики на логику в ИИ было глубоким. Библиография McCarthy & Hayes 1969, одной из самых влиятельных статей в сфере логического ИИ, служит тому доказательством. В библиографии 58 работ, из них 35 отсылают к работам по философской логики (17 — к информатике, одна — к математической логике, одна — к экономике, одна — к психологии). Эта статья была написана в то время, когда в литературе по информатике логической ИИ едва ли упоминался. Естественно, по мере развития ИИ как раздела информатики доля междисциплинарного цитирования упала. Выборка статей первого сборника конференции «Репрезентация знаний» в Brachman et al. 1989 показывает только 12 упоминаний работ по философской логики из 522 в выборке; выборка статей из Cohn et al. 1998 показывает 23 упоминания работ по философской логики из 468.

Несмотря на значительное снижение количества прямых цитат, современная литература в сфере логического ИИ отражает косвенное знакомство с ранней литературой по философской логике, так как она оказала влияние на большинство статей вычислительных наук, цитируемых в современных работах. Конечно же, это влияние становится все более отдаленным по прошествии времени, и данный тренд только увеличивается за счет того, что в сфере логического ИИ были разработаны новые темы, в лучшем случае смутно представляемые в философской литературе.

Хотя философская логика теперь является относительно небольшой сферой в сравнении с логическим ИИ, она остается жизнеспособной сферой исследования, и в ней регулярно появляются новые работы. Но отсылки к современным исследованиям по философской логике редки в литературе, посвященной ИИ. Также статьи, ныне публикуемые в Journal of Philosophical Logic, по крайней мере не выдают особого влияния сферы ИИ. В Европе линии профессиональных разделений среди логиков провести сложнее: некоторые европейские журналы, особенно Journal of Logic, Language, and Information, успешно удерживают фокус на логике, привлекая при этом авторов из всех дисциплин, где представлена логика.

Роль искусственного интеллекта в логике

Важность прикладных применений в логическом ИИ и масштаб этих применений составляет новую методологию для логики — такую, что была бы невозможной без механизированного рассуждения. Данная методология заставляет теоретиков продумывать проблемы в новом масштабе и на новом уровне детализации, что, в свою очередь, имеет глубочайший воздействие на возникающие в результате теории. Следствия этой методологии будут проиллюстрированы в разделах ниже, касающихся различных тем в логическом ИИ. Но смысл этого ясным образом демонстрируется в рассуждениях о действии и изменении. Данная тема исследовалась в философской литературе.

Рудольф Карнап (1959) попытался прояснить интенсиональные анализы языкового значения и обосновать их с методологической точки зрения, представляя, как анализ можно применить к языковой практике гипотетического робота. Карнап надеялся, что тот факт, что мы можем представить, что мы знаем внутреннее устройство робота, поможет убедительнее обосновать эмпирическую науку о семантике. Надежда оказалась неоправданной; философская задача, о которой рассуждал Карнап, остается спорной и по сей день, а мысленные эксперименты с роботами были не особенно плодотворны для ее решения. Настоящие роботы с настоящими применениями же — совсем другое дело. Хотя сложно сказать, будут ли они полезны в прояснении основных философских проблем, они предоставляют лабораторию логики, революционную с точки зрения потенциального влияния на эту тему исследований. Они провоцируют развитие всецело новых логических теорий, которые должны оказаться столь же важными для философии, как и фундаментальные разработки в логике конца XIX века.

Возникновение отдельных узких математических и философских специальностей внутри логики не было чем-то полностью полезным для данной области. «Придание строгости» математической логики и доказательство пользы различных способов достижения математических целей, которые столь успешно были осуществлены в первой половине XX века, представляют собой последовательное совершенствование логической методологии. Все логики должны быть довольны и гордиться тем, что логика теперь является наукой с корпусом задач и результатов, столь же существенных и сложных, что и в большинстве разделов математики.

Но эти методологические успехи были достигнуты в ущерб охвату. В конце концов, логика занимается рассуждениями, однако сравнительно малая часть наших рассуждений является математическими, тогда как почти все математические рассуждения, проводимые нематематиками, являются просто вычислениями. Чтобы обладать как строгостью, так и охватом, логика должна совместить обе свои стороны в единой дисциплине. В последнее время ни математическая, ни философская профессии — в особенности это верно для США — не прилагают усилия ради такого единства. Но нужды информатики и вычислительных наук предоставляют серьезные мотивы для объединения. Профессиональные стандарты логического исследования в информатике, конечно же, требуют строгости, но исследователи также вступают в сферы рассуждений, не являющиеся строго математическими, что создает необходимость для инновационного логического теоретизирования.

Самой инновационной и амбициозной сферой информатики с точки зрения ее охвата рассуждений и самой близкой по духу к философской логики является ИИ. В этой статье мы попытаемся предоставить введение для неспециалистов, знакомых с логикой, в те аспекты ИИ, которые близки традиции философской логики. Эта сфера логики заслуживает изучения историками науки и испытывает в нем нужду. Однако настоящая статья обойдет историю идей стороной.

Джон Маккарти и логицизм здравого смысла

Логический ИИ

Самой влиятельной фигурой в сфере логического ИИ является Джон Маккарти. Маккарти был одним из основателей ИИ как науки и выступал за исследовательскую методологию, использующую логические методы для формализации задач формирования рассуждений, которые необходимо решить ИИ. Все работы исследовательской программы Маккарти за исключением самых последних можно найти в сборнике Лифшица вместе с введением в его работу (Lifschitz 1990b), дополнительные исторические сведения см. в работе Israel 1991.

Методологическая позиция Маккарти несильно изменилась с момента ее первого изложения в McCarthy 1959 и ее разъяснения и дополнения в McCarthy & Hayes 1969.

Утверждается, что без понимания сути задач формирования рассуждения невозможно выполнить их решения. Сколь бы правдоподобным ни выглядел этот платонический аргумент, в контексте ИИ он спорен; альтернативная методология стремилась бы обучению желаемому поведению или его развитию. Репрезентации и рассуждения, которые бы породила эта методология, могли бы быть слишком сложными, чтобы понять или охарактеризовать их на концептуальном уровне.

Из McCarthy & Hayes 1969 ясно, что Маккарти считал, что его методология для ИИ в значительной степени совпадает с традиционной философией, но добавлял к ней необходимости рассматривать проектирование программ, способных показывать сильный интеллект. Эта идея вполне конгениальна некоторым философам (см., напр., Карнап 1959 (с. 349–353) и Pollock 1995). На практике теории, возникшие из методологии Маккарти, больше всего испытали влияние со стороны работ по философской логике, и исследовательская традиция логического ИИ представляет более или менее непосредственное продолжение этих работ с некоторыми изменениями в акцентах. Настоящий обзор сосредоточится на логическом ИИ в его отношении к философской логике и не будет комментировать его отношение к философии в целом или возможности разработки разумных систем человеческого уровня.

Формализация здравого смысла

Долгосрочной целью Маккарти была формализация рассуждений здравого смысла, донаучных рассуждений, используемых для решения повседневных задач. Ранним примером такой задачи, упомянутым в McCarthy 1959, была поездка из дома в аэропорт. Другие примеры включают:

1.      Нарративное понимание. Рассуждение, задействованное в реконструкции имплицитной информации из повествований, как, например, в выстраивании последовательности событий и выведении причинных связей.

2.      Диагностика. Например, обнаружение неполадок в физических устройствах.

3.      Пространственные рассуждения. Например, рассуждения о частях твердых тел и их формах, а также их отношении к форме целого.

1. Рассуждения об установках других агентов. Например, выстраивание обоснованных предположений об убеждениях и желаниях других агентов не за счет «подглядывания», но за счет диалоговых «подсказок», полученных из краткой интерактивной беседы.

Прямо заявленная цель — формализовать здравый смысл, — вероятно, покажется возмутительной большинству философов, привыкших думать о здравом смысле как о довольно неуловимой вещи. Но вне зависимости от того, является ли окончательная цель достижимой, конкретные проекты формализации, возникшие в рамках этой программы, оказались успешными в нескольких отношениях. Они успешно завоевали новые территории для логики, расширяя спектр задач формирования рассуждений, к которым можно с успехом применить логические методы. Они продемонстрировали, что логические методы могут помочь решить конкретные задачи в сфере ИИ — планирование является главной из них, но некоторые успехи были достигнуты и в других областях. Они формируют основу одного из подходов к развитию полноценных автономных агентов. Они также пролили свет на множество конкретных форм ненаучного рассуждения — например, квалитативного рассуждения о поведении физических устройств.

Хотя Маккарти выступал за эту программу формализации с 1959 года — почти доисторическая дата для ИИ, — она лишь недавно была принята в качестве исследовательской программы специальным сообществом. Исследования в этой сфере приобрели большой размах начиная с 1990 года. Дальнейшее обсуждение и детали см. в разделе 8.

Немонотонные рассуждения и немонотонная логика

Немонотонность

Аристотель считал, что большинство рассуждений, включая рассуждения об образе действий и о подлунных естественных феноменах, касаются вещей, происходящих «всегда одинаковым образом или по большой части». Но аристотелевская логика касается только инференциальных паттернов, не имеющих исключения. У самых истоков логики мы видим несоответствие между логической теорией и рассуждениями здравого смысла. Немонотонная логика — первая устойчивая попытка исправить это несоответствие изнутри логической теории. Как таковая, она имеет потенциал для масштабного расширения охвата логики, а также получения значительных технических результатов.

Отношения следования в классической логике монотонны. То есть, если из множества Г, состоящего из формул, вытекает следствие С, то из большего множества Γ ∪ A также будет следовать С. Логика является немонотонной, если отношение следования в ней не имеет этого свойства. Предпочитаемые модели предоставляют общий метод для получения немонотонного отношения следования. Введем функцию, производящую для каждого Г подмножество MΓ моделей Г; в общем будет ожидаемо, что MΓ  является собственным подмножеством этих моделей. Мы затем утверждаем, что из Γ следует С, если С удовлетворяется каждой моделью в MΓ. Покуда мы не предполагаем, что MΓ∪{A} ⊆ MΓ, мы можем получить отношение импликации между Г и С, не навязывая это отношение супермножествам Γ.

Это модельно-теоретическое поведение соответствует рассуждению, руководимому ожиданием (expectation-guided reasoning), где ожидания позволяют игнорировать некоторые возможности. Здесь мы видим важную разницу между здравым смыслом и математикой. Математиков учат опровергать доказательство в каждом индивидуальном случае, если только эти случаи не исчерпывают все возможности, но типичные рассуждения здравого смысла игнорируют некоторые альтернативы. Регулярно игнорировать маловероятные возможности вполне разумно: стоя на кухне в Калифорнии и прикидывая, хватит ли времени помыть посуду перед уходом на работу, можно не принимать во внимание возможность землетрясения.

В рассуждениях здравого смысла есть, по-видимому, множество оснований игнорировать некоторые случаи. Качественное суждение о ничтожной вероятности некоего случая — одна из причин. Но, например, в контексте планирования может оказаться разумным пренебречь даже немалыми вероятностями, если в планировании этих случаев нет никакого практического смысла.

Немонотонность мотивированна несколькими сложными факторами, среди них можно указать следующие: вероятность (возможно, в каком-то качественном смысле), нормальность, разумные ожидания (в том смысле отсутствия оснований порицать того, кто их питает), взаимное принятие и факторы, связанные с ограниченной рациональностью. Вполне возможно, что никто не смог успешно распутать и прояснить эти мотивирующие факторы. На ранних этапах возникновения логического ИИ множество исследователей, по-видимому, считало немонотонные рассуждения общим способом рассуждения о неопределенности, но к концу 1980-х годов внедрение полностью количественных вероятностных рассуждений было не только возможно в принципе, но и явно предпочтительно во множестве применений относительно методов, использующих немонотонную логику. Убедительное и реалистичное обоснование немонотонной логики должно стать частью более полной картины рассуждений о неопределенности, также включающей вероятностные рассуждения.

Историческая мотивировка

Три важные статьи о немонотонной логике появились в 1980 году: McDermott & Doyle 1980, Reiter 1980 и McCarthy 1980. Представленные в каждой из этих статей формализмы были результатом по меньшей мере нескольких лет работы. Чтобы точно выявить факторы исторического влияния, следует провести интервью с авторами, чего не было сделано. Но, по-видимому, их работы мотивировало два фактора: стратегические соображения, касающиеся долгосрочных целей ИИ, и более конкретные тактические соображения, проистекающие из анализа систем рассуждения, используемых в 1970-х годах.

В разделе 2.2 мы акцентровали внимание на предложенной Маккарти цели формализации рассуждений здравого смысла. Краткое обсуждение выше в разделе 3.1 указывает, что монотонность может препятствовать достижению этой цели. Дополнительный мотив можно наблюдать в статье Минского (Minsky 1974), широко известной в то время. Статья представляет серию вызовов для ИИ, прежде всего концентрируясь на задаче понимания естественных языков. Минский выступает за фреймовые методы репрезентации знания и (рассматривая использование этих репрезентаций как альтернативу логике) выдвигает несколько слабо связанных между собой задач для логического подхода, включая задачи построения крупномасштабных репрезентаций, эффективности рассуждений, представления контрольного знания и предоставления гибкого пересмотра оспоримых убеждений. В наши дни множество исследователей ИИ согласились бы, что перечисленные задачи являются общими проблемами для любой исследовательской программы ИИ (включая ту, за которую выступал в то время сам Минский) и что логические методы — важный элемент для ответа на некоторые из этих вопросов, а возможно, и на все. (Например, хорошо структурированная логическая схема может значительно увеличить масштаб репрезентации знаний.)

Минский, скорее всего, хотел представить общие аргументы против логических методов в разработке ИИ, но статьи McDermott & Doyle 1980 и McCarthy 1980 прочитывают статью Minsky 1974 в качестве вызова, на который можно ответить разработкой логик, которые были бы лишены свойства монотонности. Возможно, отнюдь того не желая, Минский предоставил в своей статье некоторый стимул немонотонным логикам, указав на монотонность в качестве источника заявленных недостатков логики. Термин «монотонность», по-видимому, в первый раз появился в печати именно в статье Минского 1974 года.

Развитие немонотонной логики также многим обязано прикладной стороне ИИ. Необходимость немонотонного анализа некоторых ИИ-приложений была столь же убедительной, сколь и некоторые стратегические соображения, выдвинутые Маккарти, и во многом даже больше повлияли на форму возникших формализмов. Здесь мы упоминаем три из таких приложений, оказавшихся важными для ранних немонотонных логиков: пересмотр убеждений, рассуждения в замкнутом мире и планирование.

Пересмотр убеждений

Дойл (Doyle 1979) предоставляет анализ и алгоритм для «системы обеспечения истины». «СОИ» отвечает на общее требование, предоставляя механизм для актуализации «убеждений» баз знаний. Идея СОИ состоит в том, чтобы следить за основаниями убеждений и использовать протокол этих отношений опоры, когда будет необходимо пересмотреть убеждения.

В СОИ часть опор для убеждения может состоять из отсутствия какого-либо иного убеждения. Это вводит немонотонность. Она, например, вводит условия «по умолчанию» — то, что среда по умолчанию является днем собраний, означает, что убеждение, будто собрание пройдет в среду, зависит от отсутствия особых убеждений, из которых следует, что оно пройдет не в среду.

Алгоритм СОИ и его усовершенствование оказали значительное влияние на приложения ИИ, что создало необходимость для логического аналза. (Даже в достаточно простых случаях при отсутствии аналитических инструментов может быть сложно заметить, какие результаты должна выдать СОИ.) Это обстоятельство предоставило естественную и в высшей степени конкретную задачу для исследователей, желающих разработать немонотонную логику. СОИ также предоставило конктретные интуиции: идея того, что ключ к немонотонности связан с выводами, основанными на недоказуемости, была вана для модальных подходов к немонотонной логике и для логики умолчания. А акцент, который СОИ ставит на взаимодействиях между аргументами, положил начало теме в немонотонной логике, остающейся важной и по сей день (см. обсуждение основанных на аргументации подходов в разделе 3.4 ниже).

Рассуждения в замкнутом мире

Исследование баз данных относится к информатике в целом, а не к сфере ИИ в особенности. Но одна из исследовательских парадигм в научном анализе баз данных использует логические модели представлений и рассуждений (см. Minker 1997, недавний обзор этой области), и эта парадигма взаимодействует с логическим ИИ. Парадигма дедуктивных баз данных обрела форму примерно в то время, когда множество исследователей ИИ размышляли о проблемах немонотонной логики, и предоставила несколько конкретных примеров немонотонных рассуждений, требовавших анализа. Из них, возможно, самым важным является предположение о замкнутости мира, согласно которому — по крайней мере в том, что касается простых фактов, представляемых в базе данных как положительные или отрицательные литералы — система предполагает, что знает все, что можно знать. Именно предположение о замкнутости мира обосновывает отрицательный ответ на вопрос «существует ли прямой рейс из Детроита в Болонью», когда система не находит подобного рейса в своих данных. Таков еще один случай вывода из отсутствия доказательства; отрицание доказывается, в сущности, провалом систематической попытки доказать утверждение. Эта идея, исследуемая в таких статьях, как Reiter 1978 и Clark 1978, также составила проблему для немонотонной логики, не говоря уже о конкретных интуициях — заметьте, что здесь мы снова сталкиваемся с идеей правил вывода, зависящих от отсутствия доказательства.

Планирование

Рациональное планирование невозможно без способности рассуждать о результатах ряда рассматриваемых действий. Предсказательные рассуждения такого рода локальны; в сложном мире со множеством свойств мы предполагаем, что большинство вещей окажутся неизменны с выполнением действия. Но эту локальность сложно формализовать. Проблема формализации этой «причинной инерции» известна как проблема фреймов.

Весьма естественно предпологать, что инерция подходит по умолчанию; переменные не меняются с выполнением действия, если нет особой причины полагать, что они изменятся. Это указывает на то, что немонотонные темпоральные формализмы должны предоставить подходящую основу для рассуждений о действии и изменении. Следовательно, попытки формализовать рассуждения, необходимые для планирования, также требуют немонотонных логик. Одна из самых ранних попыток формализовать немонотонные рассуждения, Sandewall 1972, занимается проблемой фреймов. Инерционное умолчание — особенно важный и поучительный кейс; его детальное обсуждение будет представлено в разделе 4.4 ниже.

Ранние формализмы

Три статьи 1980 года, упомянутые в начале раздела 3.2, представляют три подхода к немонотонной логике, остающиеся важными ее подобластями и по сей день: ограничение (Маккарти), модальные подходы (Дойл и Макдермот) и логика умолчания (Рейтер).

В McCarthy 1993a Маккарти призывает к тому, чтобы при рассматрении ранней истории ограничении принять во внимание три статьи: McCarthy 1986, 1980 и 1987. Первая статья связывает стратегические идеи статьи McCarthy & Hayes 1969 с необходимостью немонотонной логики и набрасывает логические идеи ограничения областей, что теперь считается самым простым случаем ограничения. Вторая статья предоставляет более тщательные логические основания и вводит более общий и мощный подход ограничения предикатов. Третья статья концентрируется на развитии методов формализации сложных примеров из сферы здравого смысла.

Все формы ограничения включают в себя сужение внимания до моделей, в которых некоторые множества минимизированы; по этой причине ограничение может быть отнесено к подходам к монотонности, основываемым на предпочитаемых моделях (см. раздел 3.4). Формализм Маккарти достаточно консервативен; хотя он поднимает интересные логические вопросы в логике высокого порядка и сложности, он использует знакомые логические парадигмы. Наибольшее внимание уделяется методам формализации. Другие варианты немонотонной логики, включая логику умолчания и модальную немонотонную логику, поднимают вопросы, знакомые философским логикам, связанные с разработкой новых логик, систематическим исследованием вопросов валидности и контролем за ростом числа альтернативных логик.

Как указывает обсуждение обеспечения истины выше, вполне естественно мыслить о немонотонных выводах как о подстрахованных. То есть немонотонный вывод может требовать не только наличия ряда доказанных заключений, но и отсутствия некоторых других заключений. Общая форма такого правила такова:

Правило по умолчанию:

При {A1,…,An} и в отсутствие {B1,…,Bn}, вывод — С.

Важным частным случаем ППУ является нормальное правило по умолчанию, простое правило, согласно которому С верно по умолчанию при условии допущений A1,…,An. Его можно формализовать, считая условие, которое должно отсутствовать, за отрицание заключения.

Нормальное правило по умолчанию

При {A1,…,An} и в отсутствие ¬C, вывод — С.

На первый взгляд неясно, как формализовать это понятие немонотонного умозаключения, так как оно будто бы требует кругового определения доказуемости, которое нельзя заменить индуктивным определением, как в немонотонном случае. Сложность с ранней теорией из Sandewall 1972 заключается в том, что она не дает успешного ответа на эту проблему. McDermott & Doyle 1980 и Reiter 1980 используют для ее решения определения с неподвижной точкой. В обоих случаях логическая задача состоит в (1) разработке формализма, способного выразить такие правила, как ППУ, и (2) определении отношения между теорией ТПУ (способной содержать такие правила) и теориями Е, которые могут считаться обоснованными следствиями ТПУ. В ставшей впоследствии стандартной терминологии нам следует определить отношение между теорией ТПУ и ее расширениями.

Ретроспективно мы можем выявить два вида подходов к немонотонной логике: основанные на предпочтении и основанные на противостоянии. Теории первого вида (такие как ограничение) включают в себя относительно простые изменения обычного теоретико-модельного определения логического следствия, принимающего во внимание отношение предпочтения на моделях. Теории второго вида (такие как логика умолчания) более радикально пересматривают логические идеи. Возможность множества расширений — множества возможных когерентных, инференциально полных наборов выводов, выводимых из одного и того же набора предпосылок, — означают, что нам следует мыслить логическое следствие не как ю принимающую набор аксиом в свое логическое замыкание, но как отношение между набором аксиом и альтернативными логическими замыканиями. Так как логическое следствие является столь основополагающим элементом, это представляет собой крупное теоретическое отступление. С множеством расширений мы все еще можем получить отношение следствия между теорией и формулой различным способами, самый простой из которых — утверждать, что из ППТ немонотонно следует С, если С является членом каждого расширения ТПУ. И все же теория следования, основанная на противостоянии, имеет куда более богатую внутреннюю структуру, чем теория, основанная на предпочтении.

Рейтер подходит к проблеме формализации консервативно. Немонотонность не выражается языком логики умолчания, тождественным языку логики первого порядка. Но теория может включать в себя набор правил по умолчанию — правил формы ППУ. Reiter 1980 предоставляет определение с неподвижной точкой расширений такой теории и развивает теоретическую основу для такого подхода, доказывая несколько базовых теорем.

Из этих теорем мы упомянем в частности одну, используемую в разделе 4.5 в связи с Йельской проблемой выстрела. Идея состоит в том, чтобы взять предполагаемое расширение (множество T*) и использовать это множество для проверок на согласованность в процессе, похожем на доказательство, последовательно применяющим правила по умолчанию в <W,D> к этапам, начинающимся с W.

Мы определяем процесс доказательства по умолчанию T0,T1,… для W, D, относительных к T*, следующим образом.

1. Допустим, что T0 = W.
2. Если в D нет правила по умолчанию, содержательно (nonvacuously) применимого к Ti по отношению к T*, то Ti+1 = ThFOL(Ti), где ThFOL(T) является логическим замыканием T внутри логики первого порядка.
3. Иначе выберем некое правило по умолчанию

A : B1,…, Bn

C

1. содержательно применимое к Ti относительно T*, и пусть
2. Ti+1 = ThFOL(Ti∪{ C}).

Другими словами, пока мы можем содержательно замкнуть поле работы под влиянием применимого правила по умолчанию, мы делаем это, а если нет — мы не делаем ничего. Одна из теорем Рейтера гласит, что в этих условиях:

T является расширением <W, D> тогда и только тогда, когда есть средство доказательства T0, T1,... для W, D, относительноre T, так что

T =

∪ 0≤ i

Ti .

Tаким образом, мы можем показать, что T является расширением за счет (1) использования T для проверок согласованности в процессе рассуждения из <W, D> по умолчанию, (2) нахождения предела этого процесса T′ и (3) верификации, что T′ = T.

Модальный подход представляет собой «высший уровень немонотонной вовлеченности» по сравнению с логикой умолчания. Построение недоказуемости ререзентировано в терминологии эксплицитно, с помощью модального оператора L, произвольно интерпретируемого как «доказуемый» (или, как в McDermott & Doyle 1980, дублером этого оператора). Хотя терминология Макдермота и Дойла отличается от рейтеровской, их логические идеи очень схожи — суть их подхода, как и подхода Рейтера, заключается в определении с неподвижной точкой расширений немонотонной логики. Включение немонотонности в язык-объект создает некоторые дополнительные сложности, которые в раннем модальном подходе сказываются главным образом в росте числа логик и сложности при оценке достоинств альтернатив. С открытием лучшего основания для модального подхода стало возможным предоставить ожидаемые теоремы касательно эквивалентности модальных формализмов в логике умолчания.

Статья Reiter 1980 возникла, по-видимому, главным образом из тактических соображений. Ранняя статья Reiter 1978 в первую очередь обсуждает запросы баз данных. В отличие от других оригинальных статей по немонотонной логике, статья Рейтера демонстрирует следы специфического влияния ранней и независимой работы на тему немонотонности в логическом программировании — она, по-видимому, была мотивирована необходимостью предоставить логические основания немонотонных рассуждений в дедуктивных базах данных. Статья Дойла и Макдермота демонстрирует как стратегические, так и тактические мотивы — цитируя раннюю литературу по логицистскоому ИИ, они делают немонотонную логику частью программы моделирования рацональности здравого смысла. Но на их теорию также явно повлияла необходимость предоставить формальное объяснение поддержания истины.

Подходы к немотонной логике

Немонотонная логика — сложное, динамичное поле исследований. Его обзор усложняется ввиду существования множества различных основополагающих парадигм для формализации немонотонных рассуждений, и отношения между этими парадигмами непростые. Удовлетворительное описание некоторой значительной части этого поля требует целой книги. Несколько книг уже написано, среди них можно назвать Łukaszewicz 1990, Brewka 1991, Besnard 1992, Marek & Truszczynski 1994, Antoniou 1997, Brewka et al. 1997, Schlechta 1997, Antonelli 2005, Makinson 2005b и Horty 2012. Два сборника особенно полезны: Ginsberg 1987 и Gabbay et al. 1994. Первый полезен читателям, интересующихся ранней историей темы, в нем также есть прекрасное введение. Главы справочника Gabbay et al. 1994 предоставляют обзор главных тем и подходов. На данный момент я бы порекомендовал читателям, интересующихся быстрым и доступно написанным введением в эту тему, Brewka et al. 1997 и избранные на их собственное усмотрение главы из Gabbay et al. 1994. Среди других источников есть также Bochman 2004, Makinson 2005, Antoniou and Wang 2007, Bochman 2007 и Schlechta 2007. Мы используем их в качестве источника информации о технических аспектоах, но сконцентрируемся на интеллектуальных мотивах, основных идеях и потенциальной долгосрочной значимости для логики.

Семантика предпочтительного выбора

В начале раздела 3.1 было упомянуто, как предпочитаемые модели могут быть использованы для описания немонотонного отношения следования. Эта общая теория моделей немонотонности возникла в труде Shoham 1988 спустя пять лет после работ, обсуждаемых в разделе 3.2, и представляет собой более общий и абстрактный подход.

Преференциальная семантика основывается на функции S, включающей множество моделей К в подмножество S(K) в K. Ключевое определение следования предпочтения гласит, что A — (немонотонное) последствие Г, если из каждой модели М в S(Models(Γ)) следует А. Теория Шоама основана на частичном порядке ≼ над моделями: S(K) тогда можно охарактерзовать как множество моделей в К, являющихся в К ≼-минимальными. Чтобы гарантировать, что из множества не может предпочтительно следовать противоречие, если из него не следует противоречие классически, бесконечные нисходящие цепи ≼ следует отклонить.

Такое толкование немонотонности схоже с ранними модальными семантическими теориями кондиционалов — сходство прослеживается наиболее отчетливо при использовании более обобщенных теорий семантики кондиционалов, вроде тех, что представлены в Chellas 1975. Конечно, отношение следования в классической логике кондиционалов монотонно, и семантика кондиционалов использует возможные миры, а не модели. Но левая немонотонность условных высказываний (тот факт, что из A C не следует [A ∧ B] C) создает проблемы, подобные тем, что возникают в немонотонной логике. Ранние работы по немонотонной логике, по-видимому, не замечают эту схожесть с логикой кондиционалов. Но взаимосвязи между обеими стали важной темой позднее, см., напр., Gärdenfors & Makinson 1994, Boutilier 1992, Pearl 1994, Gabbay 1995, Benferat et al. 1997, Delgrande 1998, Arlo-Costa & Shapiro 1992, Alcourrón 1995, Asher 1995 и Thomason 2007.

Семантика предпочтения предоставляет возможность для формулирования и доказательства теорем, связывающих ограничения на отношения предпочтения со свойствами абстрактного отношения следования. Эта линия исследования берет начало в работе Lehmann & Magidor 1992.

Модальные и эпистемические теории

Ни Дойл, ни Макдермот не продвинули модальный подход за пределы начальных стадий статей McDermott 1982 и McDermott & Doyle 1980. Однако, следуя полезному указанию Роберта Сталнакера (см. Stalnaker 1993), Роберт Мур произвел модальную теорию, во многом превосходящую прежние идеи. Мур дает модальному оператору своей системы эпистемическую интерпретацию, которая основывается на таком истолковании правила по уполчанию, которое позволяет рассуждающему сделать вывод, если какие-то знания рассуждающего не препятствуют этому выводу. В автоэпистемической логике Мура расширение E теории Т является стабильным, то есть дедуктивно замкнутым супермножеством Т, удовлетворяющим следующие два правила:

1.      Если A∈E, то □A∈E.

2.      Если A∉E, то ¬□A∈E.

Также обычно автоэпистемическим расширениям Т задается условие обоснованности, гарантирующее, что каждый член расширения имеет некоторое основание, берущее начало в Т. Были рассмотрены различные подобные условия. Самое простое из них ограничивает расширения теми, что удовлетворяют условие:

3.      Е является множеством немодальных следствий T∪{A : □A∈E} ∪ {¬□A : A∉E}.

Автоэпистемическая логика остается популярным подходом к немонотонной логике отчасти благодаря тому, что она предоставляет теоретические основания логического программирования. Более новая литература — Marek & Truszczynski 1991, Moore 1995b, Marek & Truszczynski 1989, Konolige 1994, Antoniou 1997, Moore 1993 и Deneker et al. 2003.

Эпистемологическая логика вдохнивила другие подходы к немонотонной логике. Как и другие модальные теории немонотонности, они используют модальность, чтобы отобразить последовательность языка-объекта и позволить выразить правила по умолчанию типа ППУ. Но вместо последовательности они используют незнание. См. Halpern & Moses 1985 и Levesque 1987, где излагаются вариации на данную тему. Эти теории объясняются и сравниваются с другими немонотонными логиками в Meyer & van der Hoek 1995. В более поздней работе идеи Левеска систематически представляются и применяются к теории баз знаний, см. Levesque & Lakemeyer 2000.

Дальнейшие темы

Это краткое историческое введение в немонотонные логики оставляет нетронутым некоторое количество общих тем, которые были бы интересны неспециалисту, такие как подходы к немонотонной логике, основанные на графах и теории доказательства, результаты, связывающие вместе различные формализмы, результаты сложности, легкоразрешимые особые случаи немонотонного рассуждения, отношения между немонотонными и абдуктивными рассуждениями, отношения к логикам вероятности, логические интуиции и видимые паттерны валидности, лежащие в основе немонотонных логик, и техники, используемые для формализации областей с использованием немонотонных логик. Для представления об этих и других темах читатель отсылается к литературе — для начала мы в высшей степени рекомендуем главы в Gabbay et al. 1994.

Рассуждения о действии и изменении

Темпоральная логика Прайора

Время и темпоральные рассуждения ассоциируются с логикой со времен начала науки логики в работах Аристотеля. Идея логики времени (tense) в ее современном смысле известна по крайней мере со времен работ Яна Лукасевича (см., напр., Łukasiewicz 1970), но форма того, что ныне называется временной логикой, была стандартизирована в работах Артура Прайора в 1950-х и 1960-х: см. Prior 1956, 1967, 1968. По мере развития этой темы в философской логике темпоральная логика оказалась разновидностью логики модальной. На работу Прайора оказали значительное влияние Хинтикка и Крипке, а также идея того, что истина темпорально-логических формул относительна к состояниям мира или темпоральным стадиям мира; они являются темпорально-теоретическими (tense-theoretic) аналогами безвременных возможных миров обыкновенной модальной логики. Следовательно, центральные логические проблемы и приемы темпоральной логики были заимствованы из логики модальной. Например, темой исследований стала разработка отношений между аксиоматическими системами и соответствующими модельно-теоретическими органичениями темпоральных упорядочений. См., напр., Burgess 1984 и van Benthem 1983.

Прайорианская темпоральная логика разделяет с модальной логикой специальный фокус на вопросах, возникающих в связи с использованием теории отношений первого порядка и для объяснения логических феноменов; и ожидание, что важные темпоральные операторы окажутся кванторами над состояниями мира, и достаточно отдаленный и основополагающий подход к действительным примерам темпорального рассуждения. Конечно же, эти темпоральные логики производят валидности, такие как

A→PFA

(если А, то имеет место то, что будет иметь место А), без сомнения интуитивно валидные. Но они могут в лучшем случае играть общую основополагающую роль в объяснении реалистических рассуждений о времени. Сложно придумать реалистичные примеры, в которых они играют ведующую роль.

Модальная логика, конечно же, разделяет это свойство с большинством традиционных и современных логических теорий — ее связь с повседневными рассуждениями достаточно слаба. Хотя современные логические методы в некоторой мере успешно объясняют рассуждения, задействованные в математических доказательтвах и логических задачах, они не объясняют другие случаи специального или обыкновенного рассуждения от здравого смысла детально или правдоподобно. Даже в случае юридических рассуждений, где логики и ориентированные на логики теоретики права вложили много сил в формлизацию рассуждений, полезность результатов довольно спорна.

Задачи планирования и ситуационное исчисление

Задачи планирования предоставляют одно из самых плодотворных образцов совмещения логического анализа с приложениями ИИ. С одной стороны, существует множество практически значимых применений автоматического планирования, а с другой — логические формализации планирования действительно полезны в понимании проблем и разработке алгоритмов.

Классическое представление задачи планирования в сфере ИИ, описанное в Amarel 1968, очевидно, берет свое начало в ранней работе Герберта Саймона, опубликованной в техническом отчете CMU за 1966 год (Simon 1966). В такой задаче агент в изначальном состоянии мира снабжен набором действий, рассматриваемых как частичные функции, меняющие одни состояния мира на другие. Действия выполнимы только в состояниях мира, отвечающих некоторым ограничениям. (Эти ограничения теперь называются «предварительными условиями» действия.) Задача планирования затем становится поиском ряда выполнимых действий, успешно преобразующих изначальное состояние мира в желаемое.

Ситуационное исчисление, разработанное Джоном Маккарти, является источником большинства поздних работ по формализации рассуждений о действиях и изменениях. Оно было впервые описано в 1969 году, см. McCarthy 1983; первая доступная широкой публике публикация на эту тему — McCarthy & Hayes 1969.

По-видимому, темпоральная логика Прайора не повлияла на Amarel 1968. Но между состояниями мира Амареля и состояниями в логике Прайора нет существенной разницы. «Ситуации» ситуационного исчисления являются теми же самыми состояниями мира под другим названием. Они похожи на возможные миры модальной логики, поскольку предоставляют абстрактные локусы, поддерживающие непротиворечивые и полные собрания истин. Как и в темпоральной логике, эти локусы упорядочены, и изменение представляется с помощью вариации истин от локуса к локусу. Ключевым различием между ситуационным исчислением и темпоральной логикой является то, что изменение ситуации динамично — изменения не просто происходят, но у них есть основание.

Это различие, конечно же, навеяно предполагаемым использованием ситуационного исчисления: оно предназначено для формализации саймоновского представления задачи планирования, в которой один агент рассуждает о сценариях, где производится ряд действий. Согласно этой модели, изменениями движет выполнение действий, так что основное модельно-теоретическое отношение — отношение

RESULT(a,s,s′)

между действием а, изначальной ситуацией s, в которой выполняется а, и вытекающей ситуацией s′, непосредственно следующей за выполнением действия. Обычно (хотя это не абсолютно необходимо), делается детерминистское допущение, что s′ уникальна. В общем действия могут успешно выполняться только в некоторых ограниченных обстоятельствах. Это можно смоделировать, отведя место случаям, в которых нет s′, так, чтобы RESULT(a,s,s′). Но обычно предполагается, что RESULT является всюду определенной функцией, но что в случаях, в которых s не соответствует «предварительным условиям» а, нет ограничений на s′, удовлетворяющую RESULT(a,s,s′), так что причинные следствия а будут в таких случаях полностью неограниченными.

Задача планирования начинается с ограниченного репертуара действий (где множества предварительных условий и следствий ассоциируются с каждым действием), изначальной ситуации и цели (которую можно рассматривать как формулу). Задача планирования — вопрос нахождения ряда действий, которые достигнут цели при данной изначальной ситуации. То есть при наличии цели G и изначальной ситуации s проблема будет состоять в нахождении последовательности действий s1,...,sn, превращающей s в конечную ситуацию, удовлетворяющую G. Это значит (при условии, что RESULT — функция), что G будет удовлетворена ситуацией sn, где s0 = s и si+1 является s′, так что RESULT(ai+1,si,s′). Задача планирования, по сути, является поиском последовательности действий, соответствующей этим условиям. Условия успеха поиска можно охарактеризовать таким формализмом, как ситуационное исчисление, которое позволяет выражать информацию о результатах действия.

Ничего пока что не было сказано о языке ситуационного исчисления. Здесь очень важен способ выражения изменения. Памятуя о темпоральной логике, было бы естественным привлечь модальность типа [a]A, с условием истинности

⊨s[a]A, если и только если ⊨s′A, где RESULT(a,s,s′).

Эта формализация в стиле динамичной логики на деле является ведущей, см. раздел 4.7 ниже.

Но статья McCarthy & Hayes 1969 использует язык куда ближе к логике первого порядка. (Этот стиль формализации характерен для работ Маккарти; см. McCarthy 1979.) Действия рассматриваются как индивиды. А некоторые пропозиции, чьи истинностные значения могут меняться со временем (пропозиционные флюэнты), тоже рассматриваются как индивиды. Если s — ситуация, а f — флюэнта, Holds(f,s) означает, что f верна в s.

Формализация микромиров

Со времен передовых работ логиков XIX и начала XX веков процесс формализации математических областей стал по большому счету обыденным. Хотя (как в случае теории множеств) могут быть споры о том, какие аксиомы и какая логическая инфраструктура лучше всего служат формализации области математики, методы формализации и критерии для их оценки отнсительно непроблематичны. Эта методологическая ясность не простирается на другие области; даже формализация естественых наук сопряжена со сложными проблемами, которые пока не имеют решения.

Формализация темпоральных рассуждений, особенно рассуждений о действиях и планах, — самая развитая из успешных применений современных методов формализации к областям помимо математических теорий. Этот шаг потребовал создания новых методологий. Мы рассмотрим одно методологическое введение в разделе 4.5: разработку базы различных ситуаций для тестирования достаточности различных формализмов и создание специализованных областей, таких как мир многогранников, служащих в качестве лабораторий для тестирования идей. Допольнительную информацию о мире многогранников см. в Genesereth & Nilsson 1987; Davis 1991. Идеи Маккарти об устойчивости к разработке (McCarthy 1999) представляет собой интересную попытку предоставить критерий достаточности формализации. Также во время формализации областей «здравого смысла» возникла идея о важности эксплицитной онтологии в этой связи, см., напр., Fikes 1996 и Lenat & Guha 1989. Также в этой связи были исследованы потенциальная полезность эксплицитных представлений контекста, см. Guha 1991, и использование техник симуляции, см., напр., Johnstone & Williamson 2007.

Прогнозирование и проблема фрейма

Чтобы понять, достигнет ли план своей цели, необходимо понять, заключена ли цель в конечном состоянии плана. Для этого требуется прогнозирующее рассуждение — вид рассуждения, оставленный без внимания в литературе по темпоральной логике. Как и в механике, прогнозирование связано с выведением поздних состояний из ранних. Но (по крайней мере в случае простых задач планирования) динамика задается действиями, а не дифференциальными уравнениями. Исследование этой качественной формы темпорального рассуждения и связанных видов рассуждения (т.е. распознавания планов, стремящегося вывести цели из наблюдаемых действий, и повествовательного объяснения, стремящегося заполнить пробелы темпорального повествования имплицитной информацией) — одна из самых внушительных глав в короткой истории логицизма здравого смысла.

Суть прогнозирования — это проблема выведения того, что соответствует ситуации, следующей из выполнения действия при данной информации об изначальной ситуации. Зачастую предполагается, что агент обладает исчерпывающим знанием об изначальной ситуации, — это допущение зачастую принимается в классических формализациях планирования.

Значительная часть квалитативных динамик, необходимых для планирования, состоит в выведении факторов, которые не меняются. Возьмем простой план: напечатать слово «кот» в текстовом редакторе. Естественный план в этом случае — ввести «к», затем «о», затем «т». Часть уверенности касательно этого плана проистекает от того, что действия не зависят друг от друга: введение «о» не стирает «к». Требуемый вывод можно представить как форму инерции. Проблема фрейма — проблема того, как формализовать необходимые инерционные рассуждения.

Проблема фрейма получила свое название и была представлена в статье McCarthy & Hayes 1969. В отличие от большинства философски интересных специальных проблем, возникших в сфере ИИ, она привлекла-таки внимание философов; большинство соответствующих статей и общих положений можно найти в Ford & Pylyshyn 1996; Pylyshyn 1987. Оба тома посвящены взаимодействиям между областями ИИ и философии.

Качество этих взаимодействий удручает. Как и любая реалистичная задача формирования рассуждений здравого смысла, проблема фрейма допускает множество решений и может зависеть от множества обстоятельств. Если вы положите $ 20 в кошелек, а кошелек в карман, и пойдете в магазин, вы можете с уверенностью предположить, что $ 20 все еще в кошельке. Но если вы оставите $ 20 на стойке кассы в магазине, пока ходите за покупками, вы не можете с уверенностью предположить, что они все еще будут там позднее. Это может объяснить тот соблазн, из-за которого некоторые философы хотят построить проблему фрейма в очень обобщенных чертах, так что она становится неотличимой от проблемы формализации общего здравого смысла в произвольных областях. Подобное общее построение может послужить для введения спекулятивных дискуссий о природе ИИ, но оно теряет всякую связь с подлинными новыми логическими проблемами в темпоральных рассуждениях, открытых ИИ-сообществом. Оно предоставляет сцену для отыгрывания некоторых знакомых философских тем, но не приносит в философию ничего нового. Этот метод интерпретации проблемы фрейма оставляет желать лучшего, потому что философии пригодится любая помощь — сообщество изучающих ИИ успешно использовало выдающиеся и значимые для философии меры для расширения и обогащения применения логики к рассуждениям здравого смысла. Самый ясный отчет об этом можно найти в сборнике под редакцией Пылышина, в статье Morgenstern 1996. Более детальное рассмотрение см. в Shanahan 1997; также см. Sandewall 1994 и Shanahan 2009.

Чисто логическую проблему фрейма можно решить с помощью монотонной логики, просто прописывая аксиомы, утверждающие, что именно не меняется при выполнении действия. Этот метод можно с успехом применить к достаточно сложным проблемам формализации. Но немонотонные решения были широко изучены и применены; они привели к новым интересным линиям логического развития.

Некоторые философы (Fodor 1987, Lormand 1996) почувствовали, что натянутые пропозиции составят особые проблемы в связи с проблемой фрейма. Как утверждает Шанахан в Shanahan 1997 ([стр. 24]), пример «холодильникона» (fridgeon) Фодора легко формализуется в ситуационном исчислении и не составляет проблемы. Но, как утверждает Лорманд, примеры Гудмена (Goodman 1946) создают проблемы, если допустить их в качестве флюэнт; появятся аномальные расширения, в которых объекты меняются от синих к зеленом, чтобы сохранить свою «силеность» (grueness).

Это лишь одно из нескольких замечаний о проблеме фрейма, сделанных философом и составляющих подлинную труность для формальных решений. Но данная сложность второстепенна, так как его пример нереалистичен. Вспомните: флюэнты представляются как индивиды первого порядка. Хотя флюэнты являются ситуационно-зависимыми функциями, к ним не допускается аксиома выделения. Обычно предполагается, что область флюэнтов будет весьма ограниченным множеством в тотальности ситуационно-зависимых функций; обычно она является относительно малым конечным множеством переменных, репрезентирующих свойства области, считающейся важной. В частных случаях они выбираются так же, как и множество переменых в статистическом моделировании.

В литературе ИИ, по-видимому, нет систематического подхода к тому, как выбрать подходящее множество флюэнтов, но если бы он был, его частью, безусловно, являлось бы то, что все флюэнты соответствуют проектируемым предикатам в смысле Гудмена.

Немонотонные обсуждения инерции и пакет задач

Идея, стоящая за немонотонными решениями проблемы фреймов, такова: рассматривать инерцию как царящую по умолчанию; предполагается, что изменения имеют место только тогда, когда на это есть особое основание. В теории изменения, сфокусированной на действии, это означает, что отсутствие изменения предполагается при выполнении действия, если основания изменения нельзя найти в аксиомах действия.

Для ясности проиллюстрируем формализацию рейтеровской логикой умолчания. Вспомните, что в теории Рейтера обстоящее по умолчанию представляется в качестве правил, а не формул, так что они не подвержены квантификации. Чтобы формализовать инерцию, следовательно, нам необходимо использовать схемы правил по умолчанию. Для каждой флюэнты f, действия a и ситуации s множество этих схем будет включать в себя пример следующей схемы:

IR(f, a, s)

T : Holds(f,s) ↔ Holds(f,RESULT(a,s))

Holds(f,s) ↔ Holds(f,RESULT(a,s))

Этот метод делает каждый случай, в котором флюэнта меняет истинностное значение, аномалией prima facie. Но из рейтеровской теории расширений следует, что подобные условия по умолчанию переопределяются при конфликте с монотонной теорией динамики ситуации. То есть если, например, существует монотонная причинная аксиома дейстия почернить, обеспечивающая то, что чернение кубика сделает его черным в ситуации после чернения, то соответствующая схема IR будет неэффективной и не будет иметься расширения, в котором белый кубик остался бы белым после чернения.

Проблема фрейма каким-то образом смогла завладеть вниманием большого сообщества, однако тем, кто интересуется истолкованием сложных проблем, возникающих при обощении таких формализмов, как ситуационное исчисление, в то же время гарантирующим, что они предоставляют правдоподобные решения для широкого спектра сценариев, полезнее будет рассмотреть большее количество задач и проблем.

Проблема квалификации возникает главным образом в связи с формализацией обобщений здравого смысла. Обычно они содержат исключения, и эти исключения — особенно если мы хотим учесть маловероятные условия — могут быть практически бесконечными. Тот же самый феномен, называемый «проблемой обобщений ceteris paribus» [при прочих равных условияъ (лат.)], знаком многим по аналитической философии. Он также играет роль в семантике общих построений в естественных языках. В некотором смысле на эту проблему отвечает на общем уровне немонотонная логика, которая — хотя она не предоставляет способа перечисления исключений — позволяет сформулировать обобщения здравого смысла в виде правил по умолчанию, а также добавлять дальнейшие условия без какого-либо ущерба. В идеальном случае, следовательно, изначальное обобщение можно изложить как аксиому, а ограничения можно добавлять постепенно в виде дальнейших аксиом.

Проблема квалификации была поднята в статье McCarthy 1986, где она главным образом обосновывается обобщениями, касающимися последствий действий. Маккарти детально рассматривает обобщение о том, что поворот ключа в зажигании запустит мотор машины. Подобное, впрочем, можно сказать о практически любом действии, даже о помещении одного кубика на другой — стандартном действии, используемом в качестве примера в ситуационном исчислении. Ограничивающий подход к проблеме квалификации представлен в Lifschitz 1987; там в формализм эксплицитно вводится отношение предварительного условия между действием и его предварительными условиями, и предварительные условия ограничивающе минимизируются за счет отсеивания из предпочитаемых моделей каких-либо «неизвестных предварительных условий», способных сделать действие неэффективным.

Некоторые аспекты проблемы квалификации остаются общими сложными исследовательскими задачами. Для начала — не каждая немонотонная логика предоставляет изящные механизмы квантификации. Логика умолчания, например, не производит интуитивно желаемых выводов. Допустим следующую формализацию рассуждения здравого смысла о том, что, по умолчанию, если нажать клавишу «а» на клавиатуре, напечатается буква «а»:

T : VALUE(text, RESULT(Press-a,s)) = VALUE(text,s) + ‘a’

VALUE(text, RESULT(Press-a,s)) = VALUE(text,s) + ‘a’

Если мы затем таким же образом формализуем исключение из этого обобщения, также по умолчанию, что если нажать клавишу «а», когда зажата клавиша «Alt», то курсор перемещается в начало печатаемого предложения, то мы получим два расширения: одно, в котором нажатие «а» при зажатой клавише «Alt» добавляет в текст «а», и другое — в котором оно перемещает курсор.

Проблема в том, что в логике умолчания более конкретные условия по умолчанию не «пересиливают» более общие. Этот принцип конкретности в деталях обсуждался в литературе. Включение его в немонотонную логику может значительно усложнить теорию, см., напр., Asher & Morreau 1991 и Horty 1994. И, как указывает статья Elkan 1995, пpоблема квалификации приводит к сложностям в вычислении.

Относительно мало внимания, по сравнению с другими проблемами темпорального рассуждения, было уделено проблеме квалификации для характеризации действий. В частности, стандартные объяснения безуспешных действий в некотором роде лишены интуитивности. Например, в формализации, предложенной в статье Lifschitz 1987, действя с некоторыми неудовлетворенными предварительными условиями отличаются от действий, чьи предварительные условия удовлетворяются только тем, что обычные последствия действия будут гарантированы только при удовлетворении предварительных условий. Как будто бы действие траты $ 1 000 000 может быть совершено в любой момент — хотя если этих денег у вас нет, результаты не гарантированы. И нет никакого различия между действиями, которые невозможно даже попытаться предпринять (напр., сесть на самолет в Лондоне, если вы — в Сиднее), действиями, которые можно предпринять, но в которых попытка может провалиться (напр., снять деньги при недостатке средств на счету), действиями, которые можно предпринять с разумной надеждой на успех, и действиями, которые можно предпринять с гарантированным успехом. Как пояснил Дж. Л. Остин в Austin 1961, рассуждения о том, как можно попытаться предпринять действие и как могут провалиться попытки действия, являются хорошо разработанной частью. рассуждений здравого смысла. Очевидно, если мы размышляем о плане, в который входят действия, могущие провалиться, следует продумать последствия провала. Формализация отклонения действий, предоставление систематической теории о формах провала действий и содержащих действия планов было бы полезным добавлением к формализмам планирования, которое прояснило бы важные философские темы.

Вызов, брошенный проблемой разветвления (впервые представленной в Finger 1987), состоит в формализации косвенных последствий действий, где «косвенные» последствия не отсрочены, но немедленны и при этом каузально производны. Если некто входит в комнату, прямое последствие этого состоит в том, что он теперь находится в комнате. Есть множество косвенных последствий: например, его рубашка тоже теперь находится в комнате.

Отсюда можно видеть, что формулировка этой проблемы подразумевает различие между прямыми последствиями действий (связанные непосредственно с действием и обеспеченные удачным его выполнением) и другими последствиями. Это допущение в общем безусловно принимается в литературе ИИ, посвященной формализму действий. Можно с успехом выступать за ее правдоподобность с точки зрения здравого смысла: например, множество слов, обозначающих действия («нагреть», «выпрямить», «утвердить»), происходят от последствий, обычно с ними ассоциируемых. И в этих случаях подразумевается успех: если кто-то что-то нагрел, отсюда следует, что оно стало горячим. Типичный пример обсуждается в Lin 1995: у чемодана есть два замка, и он открыт, если и только если окрыты оба замка. Так (при условии, что действия не выполняются одновременно), открытие одного замка откроет чемодан, если и только если второй замок открыт. Здесь открытие замка является действием с прямыми последствиями; открытие же чемодана — не действие, но косвенное следствие.

Конечно же, проблема разветвления тесно связана с проблемой фрейма. В подходах, принимающих немонотонные решения проблемы фрейма, инерционные условия по умолчанию должны быть пересилены заключениями о разветвлениях, чтобы были получены правильные результаты. В случае, например, если левый замок на чемодане закрыт и производится открытие правого замка, то заключение по умолчанию о том, что чемодан останется закрытым, следует каким-то образом обойти. Некоторые подходы к проблеме разветвления зависят от развития теории причинности здравого смысла, а следовательно, тесно связаны с причинными подходами к рассуждениям о времени и действиях, обсуждаемых ниже в разделе 4.6. См., напр., Giunchiglia et al. 1997, Thielscher 1989, Lin 1995.

Философские логики довольствовались иллюстрацией своих посредством маломасштабных примеров. Формализация даже крупномасштабных математических теорий в целом не составляет проблемы. Логицистский ИИ — первая область логики, предпринимающая попытку формализации крупномасштабных примеров, включающих в себя нетривиальные рассуждения здравого смысла. Поступая так, логики этой области должны изобретать новые методы. Важной частью методологии, возникшей в формализации действия и изменения, является отведение большого значения задачам-испытаниям, сформулированным в виде сценариев. Эти сценарии представляют проблемы формализации, обычно состоящие из относительно простых реалистичных примеров, составленных для определенного рода испытаний логических теорий. Обычно имеются некоторые ясные разумные выводы, которые следует сделать этих случаях. Испытание состоит в том, чтобы выстроить логический формализм, предоставляющий общие, должным образом мотивированные решения этих задач-ориентиров.

Среди множества сценариев, обсуждаемых в литературе, таких как сценарий с ребенком, сценарий поездки на автобусе, сценарий шахматной доски, сценарий паромного сообщения, сценарий сборки мебели, сценарий спрятавшейся индейки, сценарий кухонной раковины, сценарий русской индейки, загадка стэнфордского убийства, сценарий доставки в Стокгольм, сценарий угнанной машины, сценарий душной комнаты, сценарий оштрафованной машины, сценарий идущей индейки и Йельская проблема выстрела. Их описания можно найти в Shanahan 1997 с Sandewall 1994; см. в особенности Sandewall 1994 [главы 2 и 7].

Множество этих сценариев разработаны для тестирования продвинутых проблем, которые здесь не будут обсуждаться — например, проблемы сложности при обращении со множественными агентами или с постоянными изменениями. Здесь мы сконцентрируемся на одном из ранних и, возможно, самом изящном из этих сценариев — Йельской проблеме выстрела, впервые описанной в Hanks & McDermott 1985 и опубликованной в Hanks & McDermott 1986; Hanks & McDermott 1987.

В йельской проблеме выстрела три действия: зарядить, стрелять и ждать. Пропозициональный флюэнт заряжен отслеживает, заряжен ли некоторый пистолет, другой флюэнт, жив, отслеживает, жив ли некий человек, назовем его Фред. У действия зарядить нет предварительных условий, единственный его результат — заряжен. Флюэнт стрелять имеет в качестве предварительного условия заряжен и в качестве отрицательного результата — жив, у ждать нет предварительных условий и результатов.

Причинно-следственную информацию об аксиомах можно формализовать следующим образом:

Зарядить

∀sHolds(заряжен, RESULT(зарядить,s))

Стрелять 1

∀s[Holds(заряжен,s) → Holds(¬жив, RESULT(стрелять,s))]

Стрелять 2

∀s[Holds(заряжен,s) → Holds(¬заряжен, RESULT(стрелять,s))]

Нет аксиомы ожидания — то есть, у ждать нет предварительных условий и результатов.

Мы формализуем инерционное рассуждение в этом сценарии, используя немонотонную логику — если конкретнее, логику умолчания Рейтера. Множество условий по умолчанию в этой теории состоит из всех случаев инерционной схемы ИП. В изначальной ситуации Фред жив, а пистолет не заряжен.

ИУ1

Holds(жив,s0)

ИУ2

¬Holds(заряжен,s0)

Монотонная теория этого сценария W состоит из (1) аксиом действия Зарядить, Стрелять 1 и Стрелять 2 и (2) изначальных условий ИУ1 и ИУ2. Пусть s1 = RESULT(зарядить,s0), s2 = RESULT(ждать,s1), and s3 = RESULT(стрелять,s2).

Йельская проблема выстрела возникает потому, что данная теория отводит место расширению, в котором разворачиваются действия зарядить; стрелять; ждать, a в финальной ситуации пистолет разряжен, но Фред жив. Изначальная ситуация при этом аномальном развитии событий и три действия с их вытекающими ситуациями можно представить следующим образом.

s0

зарядить →

s1

ждать →

s2

стрелять →

s3

Естественное и ожидаемое последствие этих аксиом состоит в том, что после ожидания пистолет заряжен, а Фред — жив, так что выстрел влечет за собой ситуацию, в которой Фред убит, а пистолет разряжен. Нет никакой сложности в том, чтобы показать, что это соответствует некоему расширению; проблема в другом, аномальном расширении, которое выглядит следующим образом.

Жив ¬Заряжен s0

зарядить →

Жив Заряжен s1

ждать →

Жив ¬Заряжен s2

стрелять →

Жив ¬Заряжен s3

Вот словесное изложение этого расширения: сначала Фред жив, а пистолет не заряжен. После заряжания пистолет заряжен, а Фред все еще жив. После ожидания пистолет становится разряженным, а Фред остается живым. Действие стрельбы становится пустым, так как пистолет не заряжен, так что после стрельбы Фред остается живым, а пистолет — незаряженным.

То, что это вариант расширения, будет лучше всего видно, если рассмотреть доказательство. Но и менее формальном ключе видно, что ожидаемое расширение нарушает только одно условие по умолчанию: фрейм Жив по умолчанию нарушается, когда Фред меняет состояние на последнем шаге. Но аномальное расширение также нарушает только одно условие по умолчанию: фрейм Заряжен по умолчанию нарушается, когда пистолет спонтанно разряжается при ожидании. Так что если ориентироваться на количество нарушенных условий по умолчанию, равно годны оба расширения.

Йельская проблема выстрела — серьезная преграда на пути разработки теории прогнозирующих рассуждений. Правдоподобное и хорошо мотивированное логическое решение проблемы фрейма идет вразрез с простым и ясным примером, в котором оно явно приводит к неверным результатам. Естественно, литература, касающаяся этой проблемы, обширна. Обзоры некоторых работ с библиографическими ссылками можно найти в Shanahan 1997; Morgenstern 1996.

Некоторые новые схемы

Для решения проблем, описанных в предыдущем разделе, было предложено множество формализмов. Некоторые из них ныне преданы забвению. Некоторые из все еще отстаиваются ведущими экспертами; некоторые из них связаны с исследовательскими группами, интересующимися не только развитием логической теории, но и приложениями в сфере планирования и когнитивной робототехники.

Ведущие подходы предлагают решения главных проблем, описанных в разделе 4.5, и множества сценариев, разработанных для испытания и объясненения теорий рассуждений о действии и изменении. Существует консенсус, что хорошие решения должны быть обобщаемы на случаи более сложные, чем ранние формализмы планирования, и что, в частности, предлагаемые ими решения должны быть пригодны к использованию даже при допущении непрерывного времени, одновременных действий и разных видов незнания. Также сложился консенсус по поводу того, что формализмы должны поддерживать несколько видов рассуждения и, в частности, не просто прогнозирование и подтверждение плана, но и ретрогнозирование, то есть построение последовательности состояний и действий и частичной информации, представленной в повествовательной форме.

Здесь мы описываем четыре подхода: (1) Характеристики и флюэнты (Сандевал), (2) Мотивированная теория действий (Моргенштерн и Стайн), (3) Минимизация состояний в событийном исчислении (Шанахан) и (4) Теории причинности (Лифшиц и другие). Изложение первых трех будет достаточно кратким; к счастью, каждый из этих подходов тщательно задокументирован в одном источнике. Четвертый подход скорее всего покажется интересным философам и будет важен и в дальнейшем вне зависимости от будущего развития событий в этой области.

Характеристики и флюэнты

Этот подход, описанный в Sandewall 1994, использует семантику предпочтений как способ организации немонотонных решений проблем рассуждений о действии и изменении. Вместо того, чтобы ввести единую логическую структуру, Сандевал рассматривает несколько темпоральных логик, включая те, что используют дискретное, непрерывное и разветвляющееся время. Свойства логик систематически испытываются с помощью широкого набора тестовых сценариев.

Мотивированная теория действий

Эта теория выросла из прямого рассмотрения проблем временного рассуждения, описанного выше в разделе 4.5, и особенно Йельской проблемы выстрела. В Morgenstern & Stein 1994 Моргенштерн и Стайн пытаются найти общую интуитивно мотивированную логическую систему, которые бы справилась с этими сложностями. Они останавливаются на идее о минимизации немотивированных действий, где действие («действие» здесь рассматривается достаточно обобщенно и включает в себя любое изменение) может мотивироваться непосредственно, то есть аксиомой, или косвенно, через цепи мотивации. Ключевой идеей статьи является (достаточно сложное) определение мотивации в рамках основанной на интервалах темпоральной логики. В Morgenstern 1996 Моргенштерн представляет краткое изложение теории вместе с причинами, по которым следует отвергнуть ее каузальных соперников. Главной из них является то обстоятельство, что эти теории, основанные на ситуационном исчислении, по-видимому, не распространяются на случаи, отводящие место одновременности и незнанию. Она также указывает на неспособность ранних теорий причинности объяснить ретрогнозирование.

Минимизация состояний в событийном исчислении

В Baker 1989 Эндрю Бейкер представил решение версии Йельской проблемы стрельбы в ситуационном исчислении, используя ограничивающую инерционную аксиому. Очень краткое изложение ограничения выше в разделе 3 показало, что ограничение использует предпочитаемые модели, в которых минимизированы расширения некоторых предикатов. В ходе этой минимизации некий набор параметров (включая, конечно же, предикаты, подлежащие минимизации) может варьироваться; остальные неизменны. Какие параметры варьируются, а какие неизменны — определяет приложение.

В ранних ограничительных решениях проблемы фрейма инерционное правило ОИП выражается с помощью предиката ненормальности.

ОИП

∀f∀s∀a[¬Ab(f,a,s) → [Holds(f,s) ↔ Holds(f,RESULT(a,s))]]

Аксиома использует двустороннюю импликацию, так что ее можно использовать для ретрогнозирования; это типично для недавних формулировок инерции здравого смысла. В ограничении предикат ненормальности минимизируется, когда предикату Holds позволено вариироваться, а все остальные параметры фиксированы. Эта формулировка не решает Йельскую проблему выстрела, так же как и логика умолчания. (Ограничение не включает в себя множество расширений, и проблема возникает как проблема невыводимости заключения, что Фред жив после выстрела.)

В бейкеровской переформулировке проблемы отдельные аксиомы обеспечивают существование ситуации, соответствующей каждой булевой комбинации флюэнт, и функции RESULT позволено вариироваться, тогда как предикат Holds остается неизменным. При этих условиях функцию RESULT следует определить для «контрфактических» действий — в частности, как для стрельбы, так и для ожидания в Йельской проблеме выстрела. Это свойство отсеивает неверную модель этого сценария, см. Baker 1989 и Shanahan 1997: ch. 6.

Эта идея, называемая Шанаханом «минимазацией, основанной на состояниях», была разработана и дополнена в Shanahan 1997 в контексте темпоральной логики, выведенной из событийного исчисления Ковальски и Серго, см. Kowalski & Sergot 1986. Формализм Шанахана имеет то преимущество, что он тесно связан с приложениями, использующими логическое программирование.

Каузальные теории

Вспомните, что в аномальной модели Йельской проблемы выстрела пистолет разряжается после выполнения действия ждaть, действия без каких-либо стандартных последствий — пистолет, следовательно, разряжается беспричинно. В контексте немонотонной логики — а вне такой логики Йельская проблема выстрела не возникла бы — естественно формализовать это, рассматривая беспричинные события как аномалии, которые следует минимизировать.

Этой стратегией занялся Гектор Геффнер в Geffner 1992, 1990, где он формализует это простое каузальное решение Йельской проблемы выстрела. Но решение представлено в контексте амбициозного общего проекта в немонотонной логике, который не только разрабатывает свойства метода предпочитаемой модели и показывает, как применить ее к нескольким задачам формирования рассуждения, но и связывает немонотонную логику с вероятностями, используя идеи, выведенные из Adams 1975. В статье Geffner 1992 представлен набросок каузальной теории, недостаточно разработанный для демонстрации ее способности решить ряд проблем, представленных выше, в частности, о проблеме разветвления речь не заходит вообще.

Работа, начинающаяся с Lifschitz 1987, внесла свой вклад в непрерывную линию исследования каузального подхода — не только Лифшицем и его студентами, такими как Энрико Джункилья и Хадсон Тернер, но и другими исследователями в других учреждениях. Работы в этой сфере и дальнейшие ссылки: Thielscher 1989, Gustaffson & Doherty 1996, Baral 1995, Nakashima et al. 1997, Lifschitz 1997, Giunchiglia & Lifschitz 1998, Lin 1995, Haugh 1987, Lifschitz 1998, Turner 1999, McCain & Turner 1995, Elkan 1991, McCain & Turner 1997, Thielscher 1996 и Gelfond & Lifschitz 1998.

Здесь мы кратко опишем некоторые теории, выдвинутые Texas Action Group, и приведшие к каузальному решению, представленному в статье Turner 1999. Тернер возвращается к идеям статьи Geffner 1992, но помещает их в более простой логический контекст и применяет их к формализации более сложных сценариев, иллюстрирующих взаимодействие каузальной инерции с другими соображениями, в особенности с проблемой разветвления.

Разветвление вызывается присутствием статических законов, связывающих непосредственные последствия действий с другими изменениями. Рассмотрим сценарий заведения машины, чтобы наглядно продемонстрировать имеющиеся сложности. Есть одно действие, завести, включающее зажигание. Предположим, у него нет предварительных условий. Имеется флюэнт Заж, отслеживающий, включено ли зажигание, флюэнт Cел, отслеживающий, села ли батарея, и флюэнт Пуск, отслеживающий, запущен ли мотор. (Предположим, что любой иной возможный источник неудачи ислючен, и единственной возможной причиной незапуска двигателя может быть батарея.) Мы хотим рассмотреть переход, в котором завести выполняется в ситуации, когда зажигание выключено, батарейка не села и машина не заведена.

Конечно же, мы хотим, чтобы планирующий агент мог в таком случае сделать вывод, что из выполнения завести последует ситуация, в которой зажигание включено, батарейка не села и мотор заведен. Но контрапозиция законов делает выработку принципиального решения сложной. Эта сложность, если не прибегать к формализации, такова: мы можем заключить, контрапозиционируя наш единственный статический закон, что если зажигание включено, а мотор не работает, то батарея села. Этот закон не только верен в нашем сценарии, но и используется для объяснения провалившейся попытки завести машину. Но если мы позволим использовать его для прогноза, сложно понять, как исключить результат завести, в котором зажигание включено, батарейка села и мотор не работает. Батарейка в этом сценарии садится из-за каузальной инерции. Мотор не работает из-за контрапозиционированного каузального закона.

Читатели, желающие исследовать в деталях проблемы внедрения немонотонного решения проблемы фрейма в относительно экспрессивных языках действий, могут обратиться к Gelfond & Lifschitz 1998. В этой статье описывается развитие сложного языка действий с добавлением (по мере развития) все более широких возможностей. Их язык включает в себя ad hoc или по крайней мере отчасти синтакcическое решение проблемы разветвления.

Теория в языке В состоит из двух наборов аксиом:

1.      Статичные законы формы F→L, где L — литерал, а F — сопряжение литералов или является T.

2.      Динамичные законы формы «A Вызывает L, если F», где А — терм действия, а F — булева формула.

Гелфонд и Лифшиц налагают условие слабого замыкания на статические законы: если s — множество литералов, s ограниченно замкнуто по отношению к В-теории Т, RBClT(s), если и только если каждый литерал, который подлежал добавлению, если начать с s и пройтись по прямой логической цепочке через статичные законы В, уже является частью s. Иными словами:

RBClT(s), если и только если для всех статичных законов F→L в T, если из s следует F, то L∈s.

Операция замыкания, вызванная этим условием, используется в определении RESULT(a,s) для языка В. Конечно же, это решение рассматривает логически эквивалентные статичные законы иначе; например, теория, чей единственный статичный закон [P ∧ ¬Q] →R, определяет в общем функцию RESULT, в корне отличающуюся от определяемой теорией, чей единственный статичный закон — [P ∧ ¬R] →Q.

Это имеет несколько контринтуитивных последствий. В примере с заводящейся машиной язык В Гелфорда и Лифшица действительно выдает желаемое заключение, что машина заведется, если есть один днамичный закон,

завести Вызывает заж если Т,

когда единственный статичный закон

[Заж ∧ ¬Сел] → Пуск,

когда изначальное состояние s = {¬Заж, ¬Сел, ¬Пуск} и когда выполняется действие завести.

Однако, если мы добавляем верный статичный закон, гласящий, что зажигание выключено, мотор не работает и батарея села, мы получаем аномалию. С добавлением этого закона возникает модель, в которой сохранность того факта, что машина не заведена, приводит к тому, что батарея садится, когда включается зажигание.

Если два статичных закона, [Заж ∧ ¬Сел] → Пуск и [Заж ∧ ¬Пуск] → Сел, переформулировать как каузальные, первый будет верным, а второй — отчетливо проблематичным; сравните:

Если батарея не села, то включение зажигания приведет к запуску мотора.

с

Если мотор не запущен, но включение зажигания приведет к тому, что сядет батарея.

Следовательно, весьма правдоподобно предположить, что источник проблемы лежит в неадекватной репрезентации базовой каузальной информации в языке В.

Гелфонд и Лифшиц затем описывают другой язык действий, С, который вводит эксплицитное понятие причинности — отчасти мотивированное, вероятно, необходимостью предложить более принципиальное решение проблемы. Вместо того, чтобы описать этот язык, мы обсудим схожую теорию из статьи Turner 1999.

Идея Тёрнера — рассматривать Caused как модальный оператор [ c ], сделав из этого основу модальной немонотонной логики. В предпочитаемых моделях этой логики имеющие причины (caused) пропозиции совпадают с пропозициями истинными, и это должно быть единственной возможностью, согласующейся с экстенсиональной частью модели. Для ясности — вспомните, что в интерпретации S5, прибегающей к идее возможных миров, возможные миры поддаются идентификации с помощью дескрипций состояний, которые мы можем представить как множества литералов I (атомарных формул и их отрицаний). Следовательно, предпринимая эту идентификацию, мы можем рассматривать модель как пару <I, S>, где S является множеством интерпретаций (полных, непротиворечивых множеств литералов), включая I. Модальному оператору [ c ] дается стандартная семантика: где S — множество интерпретаций и I ∈ S, S ⊨I [ c ] A, если и только если S ⊨I′ A для каждого I′ ∈S. <I, S> удовлетворяет множество формул T, если и только если S ⊨I A для каждой A ∈ T.

Тёрнеровские предпочитаемые модели Т — пары <I, S>, такие что: (1) <I, S> удовлетворяет T, (2) S = {I} и (3) <I, S> является единственной интерпретацией <I′, S′>, отвечающей условиям (1) и (2), так что I′ =I. Условие (2) гарантирует «всеобщность каузации»; оно утверждает A ↔ [ c ]A. Условие (3) обосновывает причинность в не-каузальной информации (в моделях, которые нас интересуют, эту роль играет информация об осуществлении событий) в наисильнейшем возможном смысле: она определяется исключительно этой информацией.

Хотя из формулировки это далеко не очевидно, тёрнеровская теория предпочитаемых моделей связана с построениями более общих немонотонных логик, таких как логика умолчания. Детали см. в Turner 1999.

Аксиомы, устанавливающие последствия действий, рассматривают эти действия как имеющие причину; аксиоматическая схема заряжания, например, выглядела бы так:

Причинно-зарядить

[ c ]Holds(зарядить, RESULT(зарядить, s))[33]

Ответвления непосредственных последствий действия также рассматриваются как имеющие причину. А схемы немонотонной инерционной аксиомы принимают вид

[[[ c ]Holds(f,s)] ∧ Holds(f,RESULT(a,s))] → [ c ]Holds(f,RESULT(a,s))

и

[[[ c ]¬Holds(f,s)] ∧ ¬Holds(f,RESULT(a,s))] → [ c ]¬Holds(f,RESULT(a,s)).

Tаким образом, истинная пропозиция может иметь причину, либо являясь прямым или непрямым последствием действия, либо будучи связанной с сохранением (persistence) имеющей причину пропозиции. Изначальные условия также рассматриваются как имеющие причину.

Чтобы проиллюстрировать работу этого подхода, рассмотрим простейший случай инерции: возьмем язык с одной константой, обозначающей флюэнту, f, и одной константой, обозначающей действие, ждать. Как и в Йельской проблеме выстрела, для ждать нет аксиом, это действие можно выполнить в любой момент, и с ним не сопряжены никакие последствия. Пусть s1 будет RESULT(ждать,s 0). Теория Т содержит изначальное условие для f, Holds(f,s0) и утверждение, что изначальное условие имеет причину, [ c ] Holds(f,s 0), а также инерционные схемы.

Две модели Т удовлетворяют условиям (1) и (2):

M1 = <I1,{I1}> и M2 = <I2,{I2}>,

где I1 = {Holds(f,s0), Holds(f,s1)} и I2 = {Holds(f,s0), ¬Holds(f,s1)}.

M1 — предназначенная (intended) модель, в которой ничего не меняется. Она удовлетворяет условие (3), так как если <I1, S> удовлетворяет T, то оно удовлетворяет [ c ]Holds(f,s 1) ввиду инерционной аксиомы

[[[ c ]Holds(f,s)] ∧ Holds(f,s1)] → [ c ]Holds(f,s 1).

Следовательно, S = {I1}.

M2 — аномальная модель, в которой флюэнт спонтанно прекращается. Эта модель не удовлетворяет условие (3), так как M3 = <I2,{I1, I2}> также удовлетворяет T; в частности, она удовлетворяет инерционной аксиоме для f потому, что она не удовлетворяет Holds(f,s1). Следовательно, M1 является предпочитаемой моделью, а M2 — нет.

Подход Тёрнера избегает проблемы контрапозиции, придавая каузальным связям вид

[ФОНОВЫЕ-УСЛОВИЯ ∧ ПРИЧИНА] → [ c ]СЛЕДСТВИЕ.

В контрапозиции она становится

[ПРИЧИНА∧ ¬[ c ] СЛЕДСТВИЕ] → ¬ФОНОВЫЕ-УСЛОВИЯ,

Эта формулировка не имеет форму причинного закона. Такое решение менее, чем полностью удовлетворительно в решении интуитивных сложностей, так как семантика Тёрнера с интуитивной точки зрения, по-видимому, обосновывает такие формулы, как

[ c ][[¬Сел∧ Заж] → Пуск],

а в этой форме контрапозиция восстанавливается. Задача прояснения основ каузальных теорий действия и изменения может быть еще не завершенной.

Но видимая полезность «принципа всеобщей каузальности» в объяснении спектра проблем квалитативных рассуждений здравого смысла покажется философам привлекательной, а каузальная теория, разработанная Геффнером и дополненная Тёрнером, имеет множество интересных детальных свойств. Например, тогда как философские исследования каузальности фокусируются на отношении причинности, эта работа в сфере логического ИИ показывает, что можно достигнуть многого, используя только нереляционный каузальный предикат.

Отношения между каузальностью и кондиционалами могут исследоваться и использоваться разными способами. Lewis 1977 предпринимает попытку объяснить причинность c помощью кондиционалов. И наоборот, Lent and Thomason 2015 используют каузальный подход Тернера, чтобы выстроить модели для логики кондиционалов в ограниченном случае, когда антецедент является сопряжением выражения действия и простых ситуационных условий. Эта идея мотивирована тем, что эксплицитное решение проблемы фрейма автоматически предоставляет семантику для таких кондиционалов.

Моргенштерн критикует каузальный подход рассуждения о действиях на двух основаниях — так как он не предоставляет полноценную теорию объяснения и так как логический контекст, в котором он работает (ситуационное исчисление), ограничен. По мере продолжения работы над этим подходом прогресс достигается и в этих областях. Но требования, которым должна соответствовать успешная логика действия и изменения, столь сложны, что изначальная концентрация на ограниченных логических условиях кажется обоснованной исследовательской методологией.

Разбор другого подхода к немонотонным каузальным рассуждениям, основанного на логике ввода-вывода (Makinson & van der Torre 2000), см. в Bochman 2004.

Формализмы действия и естественный язык

Хотя для многих логиков ИИ целью формализмов действия является освещение важных аспектов рассуждений здравого смысла, большинство их исследований не принимает во внимание важный источник интуиций о взглядах на время из парадигмы здравого смысла — а именно естественный язык. Лингвисты, занимающиеся семантикой темпоральных построений в естественном языке, как и сообщество ИИ, начали строить свои теории, основываясь на идеях философской логики, но пришли к выводу, что эти идеи следует изменить, чтобы разобраться с феноменами. Основным открытием логиков ИИ является важность действий и их отношения к изменению. Точно так же основным исследованием «логиков естественного языка» является важность различных видов событий (включая структурированные составные события) для интерпретации естественного языка. Из подобных работ выросла идея «метафизики естественного языка» (см., напр., Bach 1989).

Цель формулировки логической системы, подогнанной под репрезентационную систему, мотивированную систематическими сведениями о значениях в естественных языках, не признается всеми лингвистами — специалистами по семантике. Тем не менее она является важной темой в лингвистической литературе. Эта цель весьма похожа на цели логики здравого смысла, но методология исследования полностью отлична.

Могут ли результаты этих разных традиций быть согласованы и сведены воедино? Возможно ли внести уточнения в теории темпоральной репрезентации и рассуждения с помощью результатов и методологий обеих традиций? В Steedman 1995 и 2000 обсуждаются эти важные вопросы и развивается теория, расширяющая формализмы действия, такие как ситуационное исчисление, и включающая в себя множество результатов из линвистической семантики. Проект, описанный в Steedman 2000, все еще не закончен, но результаты, приведенные в статье, убедительно показывают: основанные на событиях идеи лингвистики можно плодотворно совместить с сосредоточенными на действиях формализмах в литературе ИИ. Возможность этого объединения — одно из самых интересных развитий событий в этой сфере, сводящее вместе двух независимых преемников ранних работ в сфере логики времени.

Каузальные рассуждения

В разделе 4.6 мы проследили причины развития теорий, включающих причинность, до исследований рассуждений о действии и изменении. Это не единственная сфера ИИ, частью которой стала каузальность. Причинность фигурирует в квалитативных рассуждениях об устройствах; о важных работах Герберта Саймона в этой сфере, начавшихся еще в 1950-х, см. Simon 1952; 1977; Iwasaki & Simon 1986. Обе эти традиции важны. Но самой устойчивой и высокоразвитой программой в сфере ИИ, относящейся к каузальности, является программа Джудеа Перла и его студентов и коллег, вытекающая из статических методов, известных как структурные модели уравнений. Статья Halpern and Pearl 2001 вводит идею, что причинные отношения между событиями можно вывести из этих моделей: байесовы сети доверия можно рассматривать как каузальные сети.

Программа Перла выросла в далеко идущую кампанию по реабилитации каузальности в статистическом мышлении. Мы не будем здесь обсуждать эту тему: во-первых, этот обзор не рассматривает вероятностные рассуждения в ИИ, а во-вторых, взгляды Перла на причинность систематически и исчерпывающе представлены в недавней книге, Pearl 2000.

Но важно показать, что работы, посвященные каузальности и рассмотренные в разделе 4.6, разделяют некоторые общие положения с идеями Перла. В обоих подходах ключевую роль играет действие. Также они главным образом рассматривают причинность как инструмент мысли, отчасти необходимый из-за ограниченности ресурсов. Другая важная тема — использование и систематическое исследование формализмов, в которых каузальность связывается с другими конструктами (в частности, с вероятностью и качественными изменениями) и рассматривается ряд реалистичных задач рассуждения.

Эти общие черты вселяют надежду на то, что из исследований ИИ возникнет наука о причинности, которая объединит вклады вероятностной и немонотонной традиций и квалитативной физики, и которая прольет свет на различные фазы причинного рассуждения.

Недавнее важное исследование в этом направлении — Halpern 2016, книга, разрабатывающая и применяющая общую теорию событийной причинности, возникающую из метода причинных сетей. Хотя Халперн — информатик, значительная часть книги носит скорее философский характер, исследуя такие понятия, как виновность (blame) и объяснение. Но книга также исследует практические применения этого подхода, которыми бы не занялись философы, например, в таких сферах, как диагностика неисправностей ПО.

То, как рассматривается каузальность — как основной конструкт в естественной науке или основной феномен, относящийся к здравому смыслу, — зависит от того, как мы рассматриваем природу: представляем ли мы ее как идеализированную и описываемую дифференциальными уравнениями, или же как ту, с которой мы соотносим свои действия, будь то в повседневности или же в рамках разработки лабораторных экспериментов). Тот факт, что, как сказал Бертран Рассел (1987), причинность нельзя обнаружить в качестве теоретического элемента в современных физических теориях, идет вразрез с ее кажущейся важностью в столь многих сферах рассуждения. Строгие теории, появляющиеся в сфере ИИ и проливающие свет на механизм причинности, важны не только сами по себе, но и ввиду своей способности прояснить более общие философские проблемы.

Пространственные рассуждения

В литературе по философской логике, выходившей до появления вычислительных наук, почти не рассматриваются пространственные вопросы, в отличие от, скажем, вопросов темпоральных. Необходимость поддержки вычислительных рассуждений о пространстве в таких сферах приложения, как планирование движения и манипуляций в физическом пространстве, индексирование и получение изображений, географические информационные системы, диаграмматические рассуждения и дизайн высокоуровневых графических программ, привела к новому интересу к пространственным репрезентациям и рассуждениям. Конечно же, геометрическая традиция предоставляет исключительно богатый математический ресурс для этого предприятия. Но как и во многих других связанных с ИИ областях, далеко не так ясно, что имеющиеся математические теории подходят для этих приложений, и множество информатиков считают разработку новых основ стоящим предприятием. Некоторые из этих трудов тесно связаны с исследованиями квалитативных рассуждений, упомянутыми в разделе 2.2 выше, и в некоторых случаях за ними стоят одни и те же люди.

Литература, посвященная пространственным рассуждениям обширна, ссылки на литературу по некоторым не обсуждаемым здесь темам см. в работах Stock 1997, Kapur & Mundy 1988, Hammer 1995, Wilson 1998, Osherson & Lasnik 1990, Renz & Nebel 1999, Yeap & Jeffries 1999, Forbus et al. 1991, Chen 1990, Burger & Bhanu 1992, Allwein & Barwise 1996, Glasgow et al. 1995 и Kosslyn 1990. Здесь мы обсуждаем только одну тенденцию, тесно связанную с паралелльными работами в философской логике.

Квалитативные подходы к пространству были введены в логической литературе в начале XX века Лесьневским, см. статью Lesniewski 1916, представляющую идею мереологии, или квалитативной теории отношения часть–целое в физических индивидах. Эта идея логической теории отношений между областями пространства или занимающими их объектами, не зависящая от построения областей как множеств точек, осталась активной областью философской логики, даже привлекая относительно мало исследователей. Более новые работы философской литературы, особенно Casati & Varzi 1999, Simons 1987, Casati & Varzi 1996, Clarke 1981, Clarke 1985, прямо повлияли на нынешную работу в сфере вычислительной логики.

Исчисление областных связей (ИОС), разработанное информатиками университета Лидса, основано на первообразной функции С, связывающей области пространства: подразумеваемая интерпретация C(x, y) состоит в том, что пересечение замыканий значений x и y не пусто. (См. Cohn et al. 1997 и Cohn 1996 для деталей и ссылок.) Одна из сфер исследования касается определяемости форм в ИОС. Объем того, что можно определить с помощью этой простой функции, удивителен, но технические детали быстро становятся слишком сложными, см., напр., Gotts 1994, Gotts 1996. Работы, цитируемые в Cohn et al. 1997, описывают методы распространения ограничений и кодировки интуиционистской пропозициональной логики как способы поддержания внедренных рассуждений, основанных на ИОС и некоторых его расширениях. Более недавние работы, основанные на ИОС, исследуют представления движения и рассуждения о нем, что, конечно же, совмещает пространственные и темпоральные вопросы, см. Wolter & Zakharyaschev 2000. Дальнейшие сведения о квалитативных теориях движения с отсылкой к другим подходам см. в Galton 1997.

Рассуждения о знании

Эпистемическая логика — еще одна область, где на логику компьютерных наук повлияла философская логика. Классический источник эпистемической логики — Hintikka 1962, где Яакко Хинтикка показал, что модальный подход к эпистемическим установкам одного агента может быть информативным и приносящим результаты. В этой работе подробно обсуждается вопрос о том, какие именно ограничения подходят для знания и убеждения, когда эти установки рассматриваются как эксплицированные модельно-теоретическим отношением над возможными мирами; в обоих случаях Хинтикка выступает за операторы типа S4.

В нескольких статьях (включая McCarthy 1979) Джон Маккарти рекомендует методику формализации знания, использующую логику первого порядка, квантифицирующую эксплицитно только над такими вещами, как индивидуальные понятия. В этом разделе мы рассмотрим подход, принятый большинством информатиков, использующих, в отличие от Маккарти, модальный язык для формализации пропозициональных установок.

Логические аспекты модальной эпистемической логики не претерпели значительных изменений после изложения Хинтикки в 1962 году. Вместо этого философская литература (скудная по сравнению со множеством других тем в этой области) сфокусировалась на вопросе гиперинтенсиональности, или замыкания эпистемических установок относительно логического следствия. Данная тема особенно сложна и оказывается тесно связанной с семантическими парадоксами, и философская литература не пришла к определенным результатам. Интуиции касательно нее идут вразрез друг с другом, и сложно найти способы моделирования значимых феноменов с помощью логических методов.

Fagin et al. 1984 начинает традицию в вычислительной логике, возрождающую модальный подход к эпистемической логике, развивая обобщенные логические основы и приложения, не пришедшие в голову философам. Идея состоит в том, чтобы упростить модальность, используя S5 (или деонтическую S5 для убеждений), но ввести множество агентов и сконцентрироваться на рассуждениях, касающихся установок агентов относительно установок друг друга. Подобные логики имеют непосредственное применение в анализах распределенных систем, в которых изменение вызывается действиями по сообщению, меняющими знание агентов согласно правилам, определенным протоколом взаимодействий.

Как таковая эта работа относится к отдельной области информатики, которая, впрочем, частично совпадает с ИИ. Позднее она пересекалась с исследовательской традицией в экономике, касающейся роли знания в играх и ведении переговоров, см., напр., Geanakopolos 1994; Osborne & Rubenstein 1994 [ch. 5].

По какой-то причине сценарий с множеством агентов не пришел в голову философским логикам. Это еще один пример того, как необходимость применения (в данном случае — необходимость в теории распределенных систем) дает стимул для важного логического открытия. Логические детали исчерпывающе и систематически записаны в Fagin et al. 1995; это необходимое чтение для каждого исследователя, всерьез интересующегося данной темой.

Множество междисциплинарных работ, касающихся приложений логики знания, описаны в протоколах серии конференций, начатых в 1986 году с Halpern 1986. Во время этих конференций имело место одно из самых масштабных сотрудничеств философов с логиками в области информатики, хотя группа философов была сравнительно мала. Центр внимания конференций постепенно сместился от информатики к экономике.

Приложения ИИ имеют дело со знанием в форме сохраненных (stored) представлений, и обсуждаемая здесь традиция ИИ рассматривает рассуждение как манипуляцию символическими представлениями. Также проблема ограниченной рациональности стала важной темой в основном благодаря ИИ, предоставляя противовес идеализациям философии и экономики. Казалось бы, логическая модель пропозициональных установок, принимающая обязательство по замыканию относительно логических последствий, должна быть крайне непопулярной в ИИ. Но дело обстоит иначе; подход возможных миров в применении к установкам не только является ведущей теорией в областях, обсуждаемых в Fagin et al. 1995, но за его применение также выступают в робототехнике, см. Rosenschein & Kaelbling 1995; Rosenschein 1989. Тем не менее вопрос гиперинтенсиональности исследовался в литературе ИИ; см. Perlis 1985; Konolige 1986; Lakemeyer 1997; Levesque 1984. Хотя здесь есть несколько положительных результатов, работа ИИ в этой области привела по большей части к столь же малому количеству определенных результатов, что и в философии.

Философская литература на связанную тему — тему логики восприятия — не является обширной; главным источником служит Hintikka 1970. Но ощущение исследуется в недавних работах в области ИИ, касающихся развития логических структур для общих применений в сфере робототехники. Главная идея в этой сфере — добавление действия ощущения в репертуар формализма планирования, подобный тому, что обсуждался в разделе 4. Самые ранние работы в этой сфере проводились в 1980-х Робертом Муром, см. Moore 1995b; Moore 1985. Ряд современных работ в сфере когнитивной робототехники: Baral et al. 2000, Bacchus et al. 1999, Golden & Weld, 1996, Pirri & Finzi 1999 и Thielscher 2000.

К формализации здравого смысла

Эксплицитная долгосрочная цель Джона Маккарти — формализация здравого смысла — была принята относительно небольшим, но активным сообществом исследователей ИИ. Более крупную группу (занимающуюся репрезентацией знания, когнитивной робототехникой и квалитативной физикой) можно рассматривать как занимающуюся специализированными проектами, ставящими более широкие цели. Мы столь далеки от достижения чего-либо, напоминающего формализацию здравого смысла — если она вообще достижима, — что невозможно даже примерно представить, когда эта задача будет исполнена. Однако с 2001 года (дата симпозиума о рассуждениях здравого смысла, проведенного The Courant Institute — см. домашнюю страницу Common Sense 2001) начали предприниматься совместные долговременные усилия в этом направлении. Они приводят к тому, что мы стали лучше понимать, как выстроить рабочую методологию для формализации здравого смысла и как разделить большую проблему на более решаемые части. Большинство статей, представленных на этой конференции, были напечатаны в расширенной форме в 2004 в номере Artificial Intelligence. Введение к этому номеру, Davis & Morgenstern 2004, предоставляет полезный обзор и дают оценку общей сферы исследования.

Это совместное усилие по формализации (1) стремится объяснить слишком много сфер знания и в то же время (2) пытается показать, как такое формализованное знание может помочь в решении задач рассуждения здравого смысла средней сложности. Первая книга, посвященная данной теме, Davis 1991, разделяет общую проблему на следующие подтемы.

• 1.      Количества и меры

• 2.      Время

• 3.      Пространство

• 4.      Физика

• 5.      Сознания

• 6.      Планы и цели

• 7.      Общество

Некоторые из них совпадают с вопросами квалитативной физики и сообщества квалитативных рассуждений. Хотя сложно сказать, где заканчивается здравый смысл и начинается физика, формализацию рассуждений здравого смысла можно рассматривать как более общий проект формализации, способный черпать из традиции квалитативной физики, прошедшей долгий период развития и теперь являющейся достаточно зрелой.

Некоторые же из них частично совпадают с работами по формализации планирования, описанных выше в разделе 4. Сознания и общество, однако, являются новыми, особыми темами; первая касается психологии здравого смысла и ее применения в интроспективных и межличностных рассуждениях, а вторая, конечно же, связана с социальным и политическим знанием и рассуждением, но это — наименее развитая область формализованного знания здравого смысла: глава, посвященная этой теме в Davis 1991, имеет очень малый объем и обсуждает взаимные установки и коммуникацию. Недавно Эндрю С. Гордон и Джерри Хоббс предприняли крупномасштабную амбициозную формализацию психологии здравого смысла. См., напр., Hobbs & Gordon 2005.

Более недавняя книга о формализации здравого смысла, Mueller 2006, следует похожему образцу. Более половины книги посвящено рассуждениям о действиях и изменении. В книге также есть короткие главы, посвященные пространству и ментальным состояниям, и более длинное обсуждение рассуждений по умолчанию. Хотя логические приемы и методы формализации играют центральную роль в этой книге, в ней также содержится материал, посвященный нелогическим методам и применениям формализаций.

Формализация знаний, даже в умеренных масштабах, оказывает значительное давление на ресурсы даже самых мощных логических систем, разработанных для формализации математики. Как мы попытались показать на особом примере действия и планирования в разделе 4, это давление может подтоклнуть нас на поиск логик, способных облегчить проект формализации: например, немонотонных логик и логик, эксплицитно репрезентирующих контекст.

Когда предпринимаются крупномасштабные формализации, возникают другие сложности, подобные тем, которые пытается решить инженерия ПО. Даже небольшие программы и системы аксиомы сложны для понимания и могут быть в высшей степени непредсказуемыми, иметь неожиданные последстви и пересечения. Создание и использование крупных программ и формализаций поднимает вопрос о том, как позволить командам разработчиков произвести консистентные результаты при интеграции модулей, как поддерживать и тестировать крупные системы и как использовать источники знаний, такие как словари и базы знаний, чтобы автоматически генерировать аксиомы.

Можно представить себе философскую методологию, которая предоставляет анализ как собрание попыток формализовать, хотя бы частично, различные понятия из области здравого смысла. Эти попытки обладают куда меньшим масштабом, менее систематичны и гомогенны, чем параллельные им усилия в сфере ИИ. Философы так и не остановились на конкретной области, сравнимой с областью планирования, чтобы предпринять последовательную попытку ее формализации вместе с сопутствующей попыткой разработать соответствующие логики. И неважно, какими сложными были понятия, которыми философы занимались: они не позволяли своим анализам достигнуть той сложности, где появлялись бы методологические проблемы, схожие с теми, что возникают при разработке и сопровождении крупных систем ПО.

Методы, возникающие в ИИ, имеют огромную потенциальную важность для философии, так как легко предположить, что множество философски важных феноменов сложны настолько, что разобраться в них можно, только приняв проблемы, сопровождающие разработку сложных формализаций. Ограниченность философских методов, используемых в течение XX века, да и поныне, могут сделать производство теорий, которые бы воздавали должное данной теме, невозможным.

Следовательно, большой ошибкой со стороны философов было бы недооценивать и игнорировать крупномасштабные формулировки, возникающие в сфере ИИ, так как эти попытки порождают вопросы, связанные с иженерией. Вполне может быть, что хотя философия требует от нас строгого рассмотрения сложных феноменов, традиционные философские методы способны воздать должное сложности. К методам, обещающим нам это, стоит отнестись серьезно.

Среди прочих методов, позаимствованных из информатики, сообщество исследователей здравого смысла разработало пакеты «модельных задач». Идея в том, чтобы предать огласке сложные, но решаемые проблемы, чтобы побудить сообщество создать различные решения и сравнить их.

Возможно, самой хорошо изученной проблемой на данный момент является «проблема разбивания яйца» Эрнеста Дэвиса. Вот так она сформулирована на сайте Common Sense Reasoning Problem:

Вместе с проблемой полагаются три решения: Shanahan 2004, Lifschitz 1998b и вариант Morgenstern 2001. Сравнение решений полезно: общего в них больше, чем различий. Все авторы рассматривают проблему как проблему планирования и используют версии ситуационного исчисления или событийного исчисления в формализации. Каждая аксиоматизация модулярна, в каждой из них, например, имеются отдельные модули, посвященные соответствующим геометрическим и материальным свойствам. Каждый автор предоставляет «доказательство концепции» для формализации, показывая, что аксиомы поддерживают доказательство верности плана разбить яйцо в простом случае. Ни один из авторов не рассматривает все дэвисовские разработки проблемы, но аксиомы выстроены так, чтобы эти разработки были возможны, и некоторые разработки действительно рассматриваются. Неясно, почему ни один из авторов не осуществил формализацию (напр., с помощью системы автоматического доказательства теорем).

Случай разбивания яйца поднимает вопрос оценки умеренно крупномасштабных формализаций проблем здравого смысла. Моргенштерн и Шанахан прямо описывают эту проблему. Моргенштерн утверждает, что важными критериями являются (1) эпистемологическая адекватность (соответствие интуитивным рассуждениям в восприятии людей, которые их предпринимают), (2) соответствие реальному миру, (3) возможность повторного использования и (4) способность к дальнейшей разработке. Неясно, являются ли первые два критерия слишком субъективными для использования. К ним Шанахан добавляет (5) применяемость, возможно, подразумеваемую под третьим критерием Моргенштерн.

Согласно отдельным мнениям, широкое ИИ-сообщество несколько скептически относится к этим исследовательским проектам — а если не скептически, то по крайней мере не знает, как их оценивать. Рассматривая эти сомнения, необходимо оценить сложность этих проблем формализации и предварительный статус исследовательской программы. Тем не менее данная критика в чем-то обоснована, сообщество исследователей рассуждений здравого смысла чувствительно к ней и работает на развитие и улучшение методов и критериев для оценки этой работы.

Пока проблемы формализации остаются относительно простыми, мы можем относиться к ней как к искусству, а не как к дисциплине с явно выраженной методологией. Но обсуждаемые нами тенденции показывают, что формализация реалистичных задач формирования рассуждений здравого смысла, даже небольших, не является просто искусством. Подобно тому, как системы программирования, экспертные системы и базы знаний создали соответствующие дисциплины в сфере инженерии ПО, крупномасштабные формализации требуют тщательно продуманной и испытанной методологии.

Логические подходы к естественному языку и коммуникации

В течении последних двадцати пяти лет или около того было открыто множество глубоких отношений между логикой и грамматикой. Вычислительная лингвистика (или обработка естественного языка) являеся областью ИИ, и вполне естественно классифицировать некоторые из этих достижений под рубрикой «логика и ИИ». Но многие из них также относятся к независимой традиции логических оснований лингвистики, и во множестве случаев сложно (и бессмысленно) предпринять их классификацию. Этот набросок сфокусируется на достижениях, относящихся к рассуждениям о лингвистике; другие применения логики в лингвистике описаны в van Benthem & ter Meulen 1996.

Синтаксический анализ и дедукция

Грамматические формализмы — специализированные системы для описания лингвистических систем и подсистем — можно рассматривать как логики, разработанные для аксиоматизации связывания лингвистических структур со строками символов. Из такой системы можно вывести, например, что «назначения» — множественная форма субстантива от глагола «назначить». Так что можно рассмотреть процесс анализа (парсинга) строки слов — поиска ассоциирующихся с ней лингвистических структур, если таковые есть, — как поиск доказательства в определенной логической системе.

Этот подход в высшей степени успешен как аналитический инструмент. Он делает так, что модельно-теоретические техники оказываются применимы к лингвистическим рассуждениям. Так, лежащие в их основе задачи формирования рассуждения оказываются куда более прозрачными, и делается возможным применение множества хорошо развитых областей логики к грамматическим формализмам. Дальнейшие сведения по этим темам см. в Buszkowski 1996; Shieber 1992.

Логика признаковых структур

Полезность и охват логических методов по отношению к лингвистике значительно возрасли с развитием техник анализа того, как информация приписывается лингвистическим единицам. Очень естественно представлять эту информацию как приписывающуюся, скажем, лексической единице в форме множества функций (или атрибутов), производящих значения в некоей лингвистической области. У местоимения x может быть число, лицо и падеж: если x=«мы», то

·число(х) = множественное

·лицо(х) = первое

·падеж(х) = именительный.

В более общих случаях значения этих функций могут сами быть лингвистическими единицами, принимающими некоторые значения дляя некоторых атрибутов.

Если позволить этим функциям быть частичными, то тем самым будет предоставлена полезная информационная репрезентация этапов синтаксического анализа — значительная часть анализа состоит из дополнения этой частичной информации, подверженной ограничениям, наложенным лингвистическими условиями согласия. Признаковые структуры — множества идентичностей, служащие для оценки лингвистических признаков, — имеют естественную алгебраическую интерпретацию, и существует изящное изложение их логики. Для информации и ссылок см. Rounds 1996.

Логика и дискурс

Рассуждения, ассоциируемые с дискурсом, возможно, являются наименее распространенной и понятой областью вычислительной лингвистики. Хотя логические методы не играют пока что значительную роль в дискурсе, они, по-видимому, составляют один из самых многообещающих методов предоставления единого объяснения множества форм рассуждения, задействованных в производстве и интерпретации языка в интерактивном разговоре.

Мы коротко упомянем три вклада в эту область. Опираясь на тот факт, что правила, управляющие разговором, полны исключений, Алекс Ласкаридес и Николас Ашер разработали методы формализации феноменов дискурса, основанные на немонотонной логике (Asher & Lascarides 1994, Asher & Lascarides 1997). Джерри Хобс и различные его сотрудники рассматривают инференциальные процессы, используемые в дискурсе, как абдуктивные и предлагают формализовать абдукцию как поиск доказательства, в котором могут быть сделаны некоторые «низкозатратные» допущения, служащие в качестве данных или же дополнительных аксиом для доказательства. Hobbs et al. 1993 показывает, как впечатляющий спектр феноменов дискурса можно формализовать с помощью этой идеи. На практике это абдуктивное объяснение похоже на объяснение Ласкаридеса и Ашера, так как в нем используются аксиомы о дискурсе (в форме правил хорновского дизъюнкта, сопровождающихся весовыми коэфициентами, дающими издержки предположения предпосылок), являющиеся по сути немонотонными.

В более актуальной работе Мэтью Стоун показывает (Stone 1998), как модальная логика может освещать сложные рассуждения, используемые при формировании естественного языка. Формирование связного текста в соответствующих выражениях, с пользой выполняющего проблемно-ориентированную коммуникационную задачу, сложно формализовать, потому что оно требует интеграции сложных данных о предметной области с планированием дискурса, моделированием пользователей и лингвистическими ограничениями. Стоун показывает, что модальную логику можно использовать, чтобы модуляризовать формализацию информации, требуемой в этой задаче. Он также показывает, как модальное доказывание теорем может быть использовано для реализации рассуждения.

Таксономическая репрезентация и рассуждение

Концептуальная классификация

Традиционно задача репрезентации крупных объемов данных о предметной области для неспециальных рассуждений являлась одной из самых важных областей репрезентации знания. Системы, использующие интуитивную таксономическую организацию областей, полезны для этих целей; таксономические иерархии не только помогают организовать процесс приобретения знаний, но и предоствляют полезную связь с рассуждениями, основанными на правилах.

В областях, в которых сложные определения являются естественным способом организации информации, службы разработки систем знаний, основанные на определении понятий, оказались крайне успешны. Как и свободные от переменных версии логики первого порядка (см., напр., Quine 1960), эти системы сосредоточены на понятиях или предикатах первого порядка и предоставляют некоторое количество механизмов для их определения. Основной алгоритм, ассоциируемый с этими таксономическими логиками, — классификатор, вводящий систему определений и выводящий отношения следования между определенными и элементарными понятиями. Экскурс в эти системы см. в работах Woods & Schmolze 1992 и Brachman et al. 1991.

Простейшие таксономические логики можно рассматривать как подсистемы логик первого порядка со сложными предикатами; но они имеют многочисленные расширения, и вопросы, поднимаемые во множестве этих расширений, совпадают во множестве случаев с темами философской логики.

Немонотонное наследование

Куда более сложные логические вопросы возникают, когда организации области на иерархии позволено иметь исключения. Один способ подойти к этой теме — исследовать, как сделать таксономическую логику немонотонной, но немонотонное наследование является отдельной темой. Хотя оно обладает сильным сродством с немонотонной логикой, немонотонная логика в большей мере основывается на репрезентациях с опорой на графы, а не на традиционных логических идеях, и, по-видимому, предоставляет значительно более подробный подход к немонотонным рассуждениям, поднимающий совершенно новые вопросы и быстро становящийся проблематичным. По этой причине системы немонотонного наследования обычно экспрессивно слабы, и их отношение к более мощной немонотонной логике никогда не были полностью прояснены. Для информации на эту тему см. работы Thomason 1992, Horty 1994.

Контекстуальные рассуждения

В традиции философской логики, имеющей дело с контекстуальными воздействиями на интерпретацию выражений, а также в более недавней традиции динамической логики, контекст главным образом формализуется как приписывание переменным значений, а язык разрабатывается, чтобы сделать эксплицитные рассуждения о контексте либо очень ограниченными, либо и вовсе невозможными.

Интерес в сфере ИИ к репрезентации крупных и, по-видимому, гетерогенных областей и к интеграции разнородных источников знания, а также интерес к формализации здравого смысла в том понимании, в котором он обсуждался выше в разделе 2.2, привели к стремлению в сообществе ИИ к формализации языков, эксплицитно принимающих во внимание контекст.

В McCarthy 1993b Маккарти рекомендует изучать языки, содержащие конструкт

ist(c,φ),

где ist читается как «является-истинным». Это аналогично конструкту Holds в ситуационном исчислении, но с обозначает контекст, а φ — (возможно) сложную пропозициональную репрезентацию, референт которой многими (включая Маккарти) рассматривается в качестве предложения.

Здесь есть аналогии как в модальной логики, так и в языках с эксплицитным предикатом истинности. Но приложения, предусматриваемые для логики контекста, создают во многом новые возможности и проблемы. Работа над логикой контекста после изначального предложения Маккарти включает McCarthy & Buvac 1998, Guha 1991, и некоторые из статей в конференционных сборниках Akman et al. 2001, Bouquet et al. 1999. Расширения интенсиональной логики Ричарда Монтегю, мотивированные предложениями Маккарти, см. в Thomason 2003 и 2005.

По какой-то причине дальнейшая работа над эксплицитными формализациями контекста не велась в вычислительном сообществе. Философский интерес к контексту и особенно к взаимодействию контекста с пропоизициональными установками и модальными суждениями продолжает быть высоким, но общие логические структуры для формализации контекста, задуманные Маккарти, пока не были использованы философами.

Перспективы для логической теории практического разума

Есть основания надеяться, что сочетание логических методов и приложений планирования в ИИ дадут толчок к развитию куда более исчерпывающей и точной теории практических рассуждений, чем возможно было ранее. Как и в случае со множеством проблем, касающихся рассуждений здравого смысла, масштаб и сложность требуемых формализаций выходят за пределы традиционных методик философской логики. Однако с вычислительными методами внедрения и тестирования формализации и с областями, такими как когнитивная робототехника, в качестве лабораторий для разработки и тестирования идей мы можем надеяться на радикальное продвижение проблемы, решение которой от нас практически столь же далеко, как и в момент самой первой своей формулировки Аристотелем: проблеме разработки формализации практических рассуждений, действительно применимой к задачам формирования рассуждения здравого смысла.

Классическая работа в области деонтической логики, начатая фон Вригтом (см. von Wright 1983), является одним из источников идей, см. Horty 2001, van der Torre 1997. На деле, как показывает актуальная работа в области деонтической логики, немонотонная логика дает естественное и полезное дополнение к классической деонтической логике. Одна недавняя работа (Horty 2012) стремится основать деонтическую логику на приоритизированной версии рейтеровской логики умолчания.

Еще более прочная теория практического рассуждения начинает проявляться, если эти идеи дополняются работами об основаниях планирования и рассуждений о действиях, обсуждаемых в разделе 4 выше. Но эту линию развития можно продвинуть и дальше, расширяя формализм, чтобы включить предпочтения и намерения (интенции).

В конце концов нам требуется модель разумного рассуждающего и действующего агента. Развитие такой модели не должно быть полностью вопросом логики, но, согласно одному направлению мысли, логике следует играть в этом центральную роль; см., напр., Baral & Gelfond 2000, Wobcke et al. 1998, Rao & Georgeff 1991, Burkhard et al. 1998.

Библиография

·            Карнап, Рудольф, 1959, Значение и необходимость, Москва, Изд-во иностранной литературы.

·            Рассел, Бертран, 1987, «Мистицизм и логика» в Почему я не христианин, Москва, Политиздат.

·            Adams, Ernest W., 1975, The Logic of Conditionals, Dordrecht: D. Reidel Publishing Co.

·            Aiello, Luigia Carlucci, Doyle, Jon, and Shapiro, Stuart (eds.), 1996, KR’96: Principles of Knowledge Representation and Reasoning, San Francisco: Morgan Kaufmann.

·            Akman, Varol, Bouquet, Paolo, Thomason, Richmond, and Young, Roger A. (eds.), 2001, Modeling and Using Context, Berlin: Springer-Verlag, ISBN 3-540-42379-6.

·            Alcourrón, Carlos E., 1995, “Defeasible logics: Demarcation and affinities”, in Conditionals: From Philosophy to Computer Science, Gabriella Crocco, Luis Fari nas del Cerro, and A. Herzig, eds., Oxford: Oxford University Press, 67–102.

·            Allen, James F., Fikes, Richard, and Sandewall, Erik (eds.), 1989, KR’89: Principles of Knowledge Representation and Reasoning, San Francisco: Morgan Kaufmann.

·            Allen, James F., Fikes, Richard, and Sandewall, Erik (eds.), 1991, KR’91: Principles of Knowledge Representation and Reasoning, San Mateo, California: Morgan Kaufmann.

·            Allwein, Gerard and Barwise, Jon (eds.), 1996, Logical Reasoning With Diagrams, Oxford: Oxford University Press.

·            Amarel, Saul, 1968, “On representations of problems of reasoning about actions”, in Machine Intelligence 3, D. Mitchie, ed., Chichester, England: Ellis Horwood, 131–171.

·            Antonelli, Aldo G., 2005, Grounded Consequence for Defeasible Logic, Cambridge, England: Cambridge University Press.

·            Antonelli, G. Aldo, 2012, “Non-Monotonic Logic”, The Stanford Encyclopedia of Philosophy, Edward N. Zalta, ed.

·            Antoniou, Grigoris, 1997, Nonmonotonic Reasoning, Cambridge, Massachusetts: The MIT Press.

·            Antoniou, Grigoris and Wang, Kewen, 2007, “Default logic”, in Handbook of the History of Logic, Volume 8: The Many-Valued and Nonmonotonic Turn in Logic, Dov Gabbay and John Woods, eds., Amsterdam: Elsevier Science Publishers, 517–555.

·            Arlo-Costa, Horacio and Shapiro, Scott, 1992, “Maps between nonmonotonic logic and conditional logic”, in KR’92. Principles of Knowledge Representation and Reasoning: Proceedings of the Third International Conference, Bernhard Nebel, Charles Rich, and William Swartout, eds., San Mateo, California: Morgan Kaufmann, 553–564.

·            Asher, Nicholas, 1995, “Commonsense entailment: A conditional logic for some generics”, in Conditionals: From Philosophy to Computer Science, Gabriella Crocco, Luis Fari nas del Cerro, and A. Herzig, eds., Oxford: Oxford University Press, 103–145.

·            Asher, Nicholas and Lascarides, Alex, 1994, “Intentions and information in discourse”, in Proceedings of the Thirty-Second Meeting of the Association for Computational Linguistics, James Pustejovsky, ed., Association for Computational Linguistics, San Francisco: Morgan Kaufmann, 35–41.

·            Asher, Nicholas and Lascarides, Alex, 1997, “Lexical disambiguation in a discourse context”, in Lexical Semantics: The Problem of Polysemy, James Pustejovsky and Brian Boguraev, eds., Oxford: Oxford University Press, 69–108.

·            Asher, Nicholas and Morreau, Michael, 1991, “Commonsense entailment: a modal theory of nonmonotonic reasoning”, in Proceedings of the Twelfth International Joint Conference on Artificial Intelligence, J. Mylopoulos and R. Reiter, eds., Los Altos, California: Morgan Kaufmann, 387–392.

·            Austin, John L., 1961, “A plea for excuses”, in Philosophical Papers, J.O. Urmson and G.J. Warnock, eds., Oxford: Oxford University Press.

·            Baader, Franz, Calvanese, Diego, McGuinness, Deborah L., Nardi, Daniele, and Patel-Schneider, Peter (eds.), 2004, The Description Logic Handbook: Theory, Implementation and Applications, Cambridge, England: Cambridge University Press.

·            Bacchus, Fahiem, Halpern, Joseph Y., and Levesque, Hector J., 1999, “Reasoning about noisy sensors and effectors in the situation calculus”, Artificial Intelligence, 111(1–2): 171–208.

·            Bach, Emmon, 1989, Informal Lectures on Formal Semantics, Albany, NY: State University of New York Press.

·            Baker, Andrew B., 1989, “A simple solution to the Yale shooting problem”, in KR’89: Principles of Knowledge Representation and Reasoning, Ronald J. Brachman, Hector J. Levesque, and Raymond Reiter, eds., San Mateo, California: Morgan Kaufmann, 11–20.

·            Baral, Chitta, 1995, “Reasoning about actions: Non-deterministic effects, constraints, and qualification”, in Proceedings of the Fourteenth International Joint Conference on Artificial Intelligence, Chris Mellish, ed., San Francisco: Morgan Kaufmann, 2017–2023.

·            Baral, Chitta and Gelfond, Michael, 2000, “Reasoning agents in dynamic domains”, in Logic-Based Artificial Intelligence, Jack Minker, ed., Dordrecht: Kluwer Academic Publishers, 257–279.

·            Baral, Chitta, McIlraith, Sheila, and San, Tran Cao, 2000, “Formulating diagnostic reasoning using an action language with narratives and sensing”, in KR2000: Principles of Knowledge Representation and Reasoning, Anthony G. Cohn, Fausto Giunchiglia, and Bart Selman, eds., San Francisco: Morgan Kaufmann, 311–322.

·            Baral, Chita, Delgrande, James, and Wolter, Frank (eds.), 2016, KR2016: Principles of Knowledge Representation and Reasoning, Menlo Park, California: AAAI Press.

·            Baral, Chita, De Giacomo,, Giuseppe, and Eiter, Thomas (eds.), 2014, KR2014: Principles of Knowledge Representation and Reasoning, Menlo Park, California: AAAI Press.

·            Belnap, Jr., Nuel D., 1996, “Agents in branching time”, in Logic and Reality: Essays on the Legacy of Arthur Prior, Jack Copeland, ed., Oxford: Oxford University Press, 239–271.

·            Benferat, Salem, Dubois, Didier, and Prade, Henri, 1997, “Nonmonotonic reasoning, conditional objects, and possibility theory”, Artificial Intelligence, 92(1–2): 259–276.

·            Besnard, Philippe, 1992, Default Logic, Berlin: Springer-Verlag.

·            Birnbaum, Lawrence, 1991, “Rigor mortis: A response to Nilsson’s ‘Logic and artificial intelligence’”, Artificial Intelligence, 47(1–3): 57–77.

·            Bochman, Alexander, 2004, “A causal approach to nonmonotonic reasoning”, Artificial Intelligence, 160(1–2): 105–143.

·            Bochman, Alexander, 2007, “Non-monotonic reasoning and belief change”, in Handbook of the History of Logic, Volume 8: The Many-Valued and Nonmonotonic Turn in Logic, Dov Gabbay and John Woods, eds., Amsterdam: Elsevier Science Publishers, 557–632.

·            Boolos, George, 1993, The Logic of Provability, Cambridge, England: Cambridge Universoti Press.

·            Bouquet, Paolo, Serafini, Luigi, Brézillon, Patrick, Benerecetti, Massimo, and Castellani, Francesca (eds.), 1999, Modeling and Using Contexts: Proceedings of the Second International and Interdisciplinary Conference, CONTEXT’99, Berlin: Springer-Verlag.

·            Boutilier, Craig, 1992, “Conditional logics for default reasoning and belief revision”, Tech. Rep. KRR-TR-92-1, Computer Science Department, University of Toronto, Toronto, Ontario.

·            Boutilier, Craig, 1996, “Iterated revision and minimal change of conditional beliefs”, Journal of Philosophical Logic, 25(3): 263–305.

·            Boutilier, Craig, Dean, Thomas, and Hanks, Steve, 1996, “Planning under uncertainty: Structural assumptions and computational leverage”, in New Directions in AI Planning, Malik Ghallab and Alfredo Milani, eds., Amsterdam: IOS Press, 157–171.

·            Brachman, Ronald J., Levesque, Hector J., and Reiter, Raymond (eds.), 1989, KR’89: Principles of Knowledge Representation and Reasoning, San Mateo, California: Morgan Kaufmann.

·            Brachman, Ronald J., McGuinness, Deborah L., Patel-Schneider, Peter F., and Resnik, Lori A., 1991, “Living with CLASSIC: When and how to use a KL-ONE-like language”, in Principles of Semantic Networks, John F. Sowa, ed., San Mateo, California: Morgan Kaufmann, 401–456.

·            Brachman, Ronald J. and Levesque, Hector J., 2004, Knowledge Representation and Reasoning, Amsterdam: Elsevier.

·            Brewka, Gerhard, 1991, Nonmonotonic Reasoning: Logical Foundations of Commonsense, Cambridge, England: Cambridge University Press.

·            Brewka, Gerhard, Dix, Jürgen, and Konolige, Kurt, 1997, Nonmonotonic Reasoning: An Overview, Stanford: CSLI Publications.

·            Brewka, Gerhard and Lang, Jérôme (eds.), 2008, KR2008: Proceedings of the Eleventh National Conference, Menlo Park, California: AAAI Press.

·            Buchanan, Bruce and Shortliffe, Edward H., 1984, Rule-Based Expert Systems: The MYCIN Experiments of the Stanford Heuristic Programming Project, Reading, Massachusetts: Addison Wesley.

·            Burger, Wilhelm and Bhanu, Bir, 1992, Qualitative Motion Planning, Dordrecht: Kluwer Academic Publishers, ISBN 0792392515.

·            Burgess, John P., 1984, “Basic tense logic”, in Handbook of Philosophical Logic, Volume II: Extensions of Classical Logic, Dov Gabbay and Franz Guenther, eds., Dordrecht: D. Reidel Publishing Co., 89–133.

·            Burkhard, Hans-Dieter, Hannebauer, Markus, and Wendler, Jan, 1998, “Belief-desire-intention deliberation in artificial soccer”, The AI Magazine, 1998(3): 87–93.

·            Buszkowski, Wojciech, 1996, “Mathematical linguistics and proof theory”, in Handbook of Logic and Language, Johan van Benthem and Alice ter Meulen, eds., Amsterdam: Elsevier, 683–736.

·            Carlson, Greg N. and Pelletier, Francis Jeffry (eds.), 1995, The Generic Book, Chicago, IL: Chicago University Press.

·            Casati, Roberto and Varzi, Achille C., 1996, Holes and Other Superficialities, Cambridge, Massachusetts: The MIT Press, ISBN 0262032112.

·            Casati, Roberto and Varzi, Achille C., 1999, Parts and Places: The Structures of Spatial Representation, Cambridge, Massachusetts: The MIT Press, ISBN 026203266X (alk. paper).

·            Chellas, Brian, 1975, “Basic conditional logic”, Journal of Philosophical Logic, 4(2): 133–154.

·            Chen, Su-Shing (ed.), 1990, Advances in Spatial Reasoning, Volume 1, Norwood, New Jersey: Ablex.

·            Clancey, William J., 1983, “The epistemology of a rule-based expert system: a framework for explanation”, Artificial Intelligence, 20: 215–251.

·            Clark, Keith L., 1978, “Negation as failure”, in Logic and Data Bases, H. Gallaire and Jack Minker, eds., New York: Plenum Press, 293–322.

·            Clarke, Bowman L., 1981, “A calculus of individuals based on ‘connection’”, Notre Dame Journal of Formal Logic, 22(3): 204–218.

·            Clarke, Bowman L., 1985, “Individuals and points”, Notre Dame Journal of Formal Logic, 26(1): 61–75.

·            Cohen, Philip R. and Levesque, Hector J., 1990, “Intention is choice with commitment”, Artificial Intelligence, 42(3): 213–261.

·            Cohn, Anthony G., 1996, “Qualitative spatial representation and reasoning techniques”, in KI-97, Advances in Artificial Intelligence, Gerhard Brewka, Christopher Habel, and Bernhard Nebel, eds., Berin: Springer-Verlag, 1-30.

·            Cohn, Anthony G., Bennett, Brandon, Gooday, John, and Gotts, Nicholas M., 1997, “Representing and reasoning with qualitative spatial relations”, in Spatial and Temporal Reasoning, Oliviero Stock, ed., Dordrecht: Kluwer Academic Publishers, 97–134.

·            Cohn, Anthony G., Giunchiglia, Fausto, and Selman, Bart (eds.), 2000, KR2000: Principles of Knowledge Representation and Reasoning, San Francisco: Morgan Kaufmann.

·            Cohn, Anthony G., Schubert, Lenhart, and Shapiro, Stuart C. (eds.), 1998, KR’89: Principles of Knowledge Representation and Reasoning, San Francisco: Morgan Kaufmann.

·            Copeland, B. Jack, 1996, “Arthur Prior’s life and legacy”, in Logic and Reality: Essays on the Legacy of Arthur Prior, Jack Copeland, ed., Oxford: Oxford University Press, 1–40.

·            Davis, Ernest, 1991, Common Sense Reasoning, San Francisco: Morgan Kaufmann.

·            Davis, Ernest and Morgenstern, Leora, 2004, “Introduction: Progress in formal commonsense reasoning”, Artificial Intelligence, 153(1–2): 1–12.

·            Davis, Martin, 1988, “Mathematical logic and the origin of modern computers”, in The Universal Turing Machine: A Half-Century Survey, Rolf Herkin, ed., Oxford: Oxford University Press, 149–174.

·            DeJong, Gerald D. and Bennett, Scott W., 1989, “Permissive planning: Extending classical planning to uncertain task domains”, Artificial Intelligence, 89(1–2): 173–217.

·            Delgrande, James P., 1998, “Conditional logics for defeasible logics”, in Handbook of Defeasible Reasoning and Uncertainty Management Systems, Volume 2, Dov M. Gabbay and Philippe Smets, eds., Dordrecht: Kluwer Academic Publishers, 135–174.

·            Deneker, Marc, Marek, Victor W., and Truszczyński, Miroslaw 1998, “Uniform semantic treatment of default and autoepistemic logics”, Artificial Intelligence, 143(1): 79–122.

·            Dennett, Daniel, 1987, “Cognitive wheels: The frame problem of AI”, in The Robot’s Dilemma: The Frame Problem in Artificial Intelligence, Zenon Pylyshyn, ed., Norwood, New Jersey: Ablex Publishing Co., 41–64.

·            Doherty, Patrick, Fikes, Richard, and Sandewall, Erik (eds.), 2006, KR’2006: Proceedings, Tenth International Conference on Principles of Knowledge Representation and Reasoning, Palo Alto: AAAI Press.

·            Doherty, Patrick, Mylopoulos, John, and Welty, Christopher A. (eds.), 2006, KR2006: Principles of Knowledge Representation and Reasoning, Menlo Park, California: AAAI Press.

·            Dowty, David R., 1977, “Toward a semantic analysis of verb aspect and the English ‘imperfective’ progressive”, Linguistics and Philosophy, 1(1): 45–77.

·            Doyle, Jon, 1979, “A truth maintenance system”, Artificial Intelligence, 12(3): 231–272.

·            Doyle, Jon, Sandewall, Erik, and Torasso, Pietro (eds.), 1994, KR’94: Principles of Knowledge Representation and Reasoning, San Francisco: Morgan Kaufmann.

·            Doyle, Jon and Thomason, Richmond H., 1999, “Background to qualitative decision theory”, AI Magazine, 20(2): 55–68.

·            Dubois, Didier, Welty, Christopher, and Williams, Mary-Anne (eds.), 2004,KR2004: Principles of Knowledge Representation and Reasoning, Palo Alto: AAAI Press.

·            Eiter, Thomas, McIlraith, Sheila, and Brewka, Gerhard (eds.), 2012, KR2012: Principles of Knowledge Representation and Reasoning, Menlo Park, California: AAAI Press.

·            Elkan, Charles, 1991, “Reasoning about action in first-order logic”, in Proceedings of the Conference of the Canadian Society for Computational Studies of Intelligence (CSCSI), Canadian Society for Computational Studies of Intelligence, San Francisco: Morgan Kaufman, 221–227.

·            Elkan, Charles, 1995, “On solving the qualification problem”, in Working Notes of the AAAI Spring Symposium on Extending Theories of Action: Formal Theories and Applications, Menlo Park, California: American Association for Artificial Intelligence.

·            Fagin, Ronald, Halpern, Joseph Y., Moses, Yoram, and Vardi, Moshe Y., 1995, Reasoning about Knowledge, Cambridge, Massachusetts: The MIT Press.

·            Fagin, Ronald, Halpern, Joseph Y., and Vardi, Moshe Y., 1984, “A model theoretic analysis of knowledge”, in Proceedings of the Twenty-Fifth Annual Symposium on the Foundations of Computer Science, 268–278.

·            Fensel, Dieter, Giunchiglia, Fausto, McGuinness, Deborah, and Williams, Mary-Anne (eds.), 2002, KR2002: Principles of Knowledge Representation and Reasoning, San Francisco, California: Morgan Kaufmann.

·            Fikes, Richard, 1996, “Ontologies: What are they, and where’s the research?”, in KR’96: Principles of Knowledge Representation and Reasoning, Luigia Carlucci Aiello, Jon Doyle, and Stuart Shapiro, eds., San Francisco, California: Morgan Kaufmann, 652–654.

·            Finger, Jeffrey J., 1987, Exploiting Constraints in Design Synthesis, Ph.D. dissertation, Department of Computer Science, Stanford University, Stanford, California.

·            Fodor, Jerry A., 1987, “Modules, frames, fridgeons, sleeping dogs, and the music of the spheres”, in The Robot’s Dilemma: The Frame Problem in Artificial Intelligence, Zenon Pylyshyn, ed., Norwood, New Jersey: Ablex Publishing Co., 139–149.

·            Forbus, Kenneth D., 1988, “Qualitative physics: Past, present, and future”, in Exploring Artificial Intelligence, Howard E. Shrobe, ed., San Mateo, California: Morgan Kaufmann, 239–296.

·            Forbus, Kenneth D., Nielsen, Paul, and Faltings, Boi, 1991, “Qualitative spatial reasoning: The CLOCK project”, Artificial Intelligence, 51(1–3): 417–471.

·            Ford, Kenneth M. and Pylyshyn, Zenon (eds.), 1996, The Robot’s Dilemma Revisited: The Frame Problem in Artificial Intelligence, Norwood, New Jersey: Ablex Publishing Co., ISBN 1567501435 (pbk).

·            Gabbay, Dov, Hogger, Christopher J., and Robinson, J. A. (eds.), 1994, Handbook of Logic in Artificial Intelligence and Logic Programming, Volume 3: Nonmonotonic Reasoning and Uncertain Reasoning, Oxford: Oxford University Press.

·            Gabbay, Dov M., 1995, “Conditional implications and non-monotonic consequence”, in Conditionals: From Philosophy to Computer Science, Gabriella Crocco, Luis Fari nas del Cerro, and A. Herzig, eds., Oxford: Oxford University Press, 337–359.

·            Galton, Anthony, 1997, “Space, time, and movement”, in Spatial and Temporal Reasoning, Oliviero Stock, ed., Dordrecht: Kluwer Academic Publishers, 321–352.

·            Gärdenfors, Peter and Makinson, David, 1994, “Nonmonotonic inferences based on expectations”, Artificial Intelligence, 65(2): 197–245. Uses selection functions and “expectation relations” to model expectations. Relations between theory revision and nonmonotonic logic.

·            Geanakopolos, John, 1994, “Common knowledge”, in Handbook of Game Theory, Volume 2, Robert Aumann and S. Hart, eds., Amsterdam: Elsevier Science Publishers, chap. 40.

·            Geffner, Hector, 1990, “Causal theories of nonmonotonic reasoning”, in Proceedings of the Eighth National Conference on Artificial Intelligence, Thomas Dietterich and William Swartout, eds., American Association for Artificial Intelligence, Menlo Park, CA: AAAI Press, 524–530.

·            Geffner, Hector, 1992, Default Reasoning: Causal and Conditional Theories, Cambridge, Massachusetts: MIT Press.

·            Gelfond, Michael and Lifschitz, Vladimir, 1998, “Action languages”, Electronic Transactions on AI, 3. Available at http://www.ep.liu.se/rs/cis/1998/016/.

·            Genesereth, Michael and Nilsson, Nils J., 1987, Logical Foundations of Artificial Intelligence, San Mateo, California: Morgan Kaufmann.

·            Ginsberg, Matthew L. (ed.), 1987, Readings in Nonmonotonic Reasoning, Los Altos, California: Morgan Kaufmann. (Out of print.).

·            Giunchiglia, Enrico, Kartha, G. Neelakantan, and Lifschitz, Vladimir, 1997, “Representing action: Indeterminacy and ramifications”, Artificial Intelligence, 95(2): 409–438.

·            Giunchiglia, Enrico and Lifschitz, Vladimir, 1998, “An action language based on causal explanation”, in Proceedings of the Fourteenth National Conference on Artificial Intelligence and the Ninth Innovative Applications of Artificial Intelligence Conference, Ted Senator and Bruce Buchanan, eds., American Association for Artificial Intelligence, Menlo Park, California: AAAI Press, 623–628.

·            Glasgow, Janice, Narayanan, N. Hari, and Chandrasekaran, B. (eds.), 1995, Diagrammatic Reasoning, Cambridge, Massachusetts: The MIT Press.

·            Golden, Keith and Weld, Daniel, 1996, “Representing sensing actions: The middle ground revisited”, in KR’96: Principles of Knowledge Representation and Reasoning, Luigia Carlucci Aiello, Jon Doyle, and Stuart Shapiro, eds., San Francisco, California: Morgan Kaufmann, 174–185.

·            Goodman, Nelson, 1946, Fact, Fiction and Forecast, Harvard University Press, fourth ed.

·            Gotts, N.M., 1994, “How far can we ‘C’? defining a doughnut using connection alone”, in KR’94: Principles of Knowledge Representation and Reasoning, Jon Doyle, Erik Sandewall, and Pietro Torasso, eds., San Francisco, California: Morgan Kaufmann, 246–257.

·            Gotts, N.M., 1996, “Topology from a single primitive relation: Defining topological properties and relations in terms of connection”, Tech. Rep. 96.24, School of Computer Studies, University of Leeds, Leeds.

·            Guha, Ramanathan V., 1991, “Contexts: a formalization and some applications”, Tech. Rep. STAN-CS-91-1399, Stanford Computer Science Department, Stanford, California.

·            Gustaffson, Joakim and Doherty, Patrick, 1996, “Embracing occlusion in specifying the indirect effects of actions”, in KR’96: Principles of Knowledge Representation and Reasoning, Luigia Carlucci Aiello, Jon Doyle, and Stuart Shapiro, eds., San Francisco, California: Morgan Kaufmann, 87–98.

·            Halpern, Joseph Y. (ed.), 1986, Theoretical Aspects of Reasoning about Knowledge: Proceedings of the First Conference (TARK 1986), Los Altos, California: Morgan Kaufmann Publishers, Inc.

·            Halpern, Joseph L., 2016, Actual Causality, Cambridge, Massachusetts: The MIT Press.

·            Halpern, Joseph Y. and Moses, Yoram, 1985, “Towards a theory of knowledge and ignorance”, in Logics and Models of Concurrent Systems, Krzysztof R. Apt, ed., Berlin: Springer-Verlag, 459–476.

·            Halpern, Joseph, and Pearl, Judea, 2001, “Causes and Explanations: A Structural-Model Approach”, in Uncertainty in Artificial Intelligence. Proceedings of the Seventeenth Conference, San Francisco: Morgan Kaufmann, 194–202.

·            Hammer, Eric M., 1995, Logic and Visual Information, Stanford, California: CSLI Publications.

·            Hanks, Steven and McDermott, Drew, 1985, “Temporal reasoning and default logics”, Tech. Rep. YALEU/CSD/RR#430, Department of Computer Science, Yale University, New Haven, Connecticut.

·            Hanks, Steven and McDermott, Drew, 1986, “Default reasoning, nonmonotonic logics and the frame problem”, in Proceedings of the Fifth National Conference on Artificial Intelligence, Tom Kehler and Stan Rosenschein, eds., American Association for Artificial Intelligence, Los Altos, California: Morgan Kaufmann, 328–333.

·            Hanks, Steven and McDermott, Drew, 1987, “Non-monotonic logics and temporal projection”, Artificial Intelligence, 33(3): 379–412.

·            Haugeland, John, 1981, “Semantic engines: An introduction to mind design”, in Mind Design, John Haugeland, ed., Cambridge, Massachusetts: The MIT Press, 1–34.

·            Haugh, Brian, 1987, “Simple causal minimization for temporal persistence and projection”, in Proceedings of the Seventh National Conference on Artificial Intelligence, Kenneth Forbus and Howard Shrobe, eds., American Association for Artificial Intelligence, Menlo Park, California: AAAI Press, 218–223.

·            Hintikka, Jaakko, 1962, Knowledge and Belief, Ithaca, New York: Cornell University Press.

·            Hintikka, Jaakko, 1970, “Objects of knowledge and belief: Aquaintances and public figures”, The Journal of Philosophy, 67(21): 869–883.

·            Hintikka, Jaakko, 1986, “Reasoning about knowledge in philosophy: The paradigm of epistemic logic”, in Theoretical Aspects of Reasoning about Knowledge: Proceedings of the First Conference, Joseph Y. Halpern, ed., Los Altos, California: Morgan Kaufmann Publishers, Inc., 63–80.

·            Hobbs, Jerry, et al., Mark, Appelt, Douglas, and Martin, Paul, 1993, “Interpretation as abduction”, Artificial Intelligence, 63(1–2): 69–142.

·            Hobbs and Gordon, Hobbs, Jerry and Gordon, Andrew (2005) Encoding Knowledge of Commonsense Psychology. 7th International Symposium on Logical Formalizations of Commonsense Reasoning. May 22–24, 2005, Corfu, Greece.

·            Horty, John F., 1994, “Some direct theories of nonmonotonic inheritance”, in Handbook of Logic in Artificial Intelligence and Logic Programming, Volume 3: Nonmonotonic Reasoning and Uncertain Reasoning, Dov Gabbay, Christopher J. Hogger, and J. A. Robinson, eds., Oxford University Press, 111–187.

·            Horty, John F., 2001, Agency and Deontic Logic, Oxford: Oxford University Press, ISBN 0195134613.

·            Horty, John, 2012, Reasons as Defaults, Oxford: Oxford University Press.

·            Israel, David J., 1991, “A short sketch of the life and career of john McCarthy”, in Artificial Intelligence and Mathematical Theory of Computation: Papers in Honor of John McCarthy, Vladimir Lifschitz, ed., San Diego, California: Academic Press.

·            Iwasaki, Yumi and Simon, Herbert, 1986, “Causality in device behavior”, Artificial Intelligence, 29(1): 3–32.

·            Johnston, Benjamin and Williams, Mary-Anne, “A Generic Framework for Approximate Simulation in Commonsense Reasoning Systems”, AAAI 2007 Spring Symposium on Commonsense Reasoning, American Association for Artificial Intelligence, Menlo Park, 2007.

·            Kapur, Deepak and Mundy, Joseph L., 1988, “Geometric reasoning and artificial intelligence: Introduction to the special volume”, Artificial Intelligence, 37(1–3): 1–11.

·            Konolige, Kurt, 1986, “What awareness isn’t: A sentential view of implicit and explicit belief”, in Theoretical Aspects of Reasoning about Knowledge: Proceedings of the First Conference, Joseph Y. Halpern, ed., Los Altos, California: Morgan Kaufmann Publishers, Inc., 241–250.

·            Konolige, Kurt, 1988, “On the relation between default and autoepistemic logic”, Artificial Intelligence, 35(3): 343–382. (See also errata, Artificial Intelligence 41(1): 115.).

·            Konolige, Kurt, 1994, “Autoepistemic logic”, in Handbook of Logic in Artificial Intelligence and Logic Programming, Volume 3: Nonmonotonic Reasoning and Uncertain Reasoning, Dov Gabbay, Christopher J. Hogger, and J. A. Robinson, eds., Oxford: Oxford University Press, 217–295.

·            Konolige, Kurt and Pollack, Martha, 1993, “A representationalist theory of intention”, in Proceedings of the Thirteenth International Joint Conference on Artificial Intelligence, Ruzena Bajcsy, ed., San Mateo, California: Morgan Kaufmann.

·            Kosslyn, Stephen Michael, 1990, “Visual cognition: Introduction”, in An Invitation to Cognitive Science. Volume 2: Visual Cognition and Action, Daniel N. Osherson and Howard Lasnik, eds., Cambridge, Massachusetts: The MIT Press, 3–4.

·            Kowalski, Robert A. and Sergot, Marek J., 1986, “A logic-based calculus of events”, New Generation Computing, 4: 67–95.

·            Krifka, Manfred, Pelletier, Francis Jeffrey, Carlson, Gregory, ter Meulen, Alice, Chierchia, Gennaro, and Link, Godehard, 1995, “Genericity: An introduction”, in The Generic Book, Gregory Carlson and Francis Jeffrey Pelletier, eds., Chicago, IL: Chicago University Press, 1–124.

·            Kuipers, Benjamin, 1993, “Reasoning with qualitative models”, Artificial Intelligence, 59(1–2): 125–132.

·            Lakemeyer, Gerhard, 1997, “Limited reasoning in first-order knowledge bases”, Artificial Intelligence, 71(2): 213–255.

·            Lascarides, Alex, 1992, “The progressive and the imperfective paradox”, Synthese, 87(6): 401–447.

·            Laux, Armin and Wansing, Heinrich (eds.), 1995, Knowledge and Belief in Philosophy and Artificial Intelligence, Berlin: Akedemie Verlag.

·            Lehmann, Daniel and Magidor, Menachem, 1992, “What does a conditional knowledge base entail?”, Artificial intelligence, 55(1): 1–60.

·            Lenat, Douglas B. and Guha, R.V., 1989, Building Large Knowledge-Based Systems: Representation and Inference in the CYC Project., Reading, Massachusetts: Addison-Wesley Publishing Company.

·            Lent, Jeremy and Thomason, Richmond, 2015, “Action models for conditionals”, Journal of Logic, Language, and Information, 24(2): 211–231.

·            Lesniewski, Stanisaw, 1916, “Podstawy ogólnej teorii mnogosci I”, English Title: “Foundations of a general set theory I.”.

·            Levesque, Hector and Lakemeyer, Gerhard, 2000, The Logic of Knowledge Bases, Cambridge, Massachusetts: The MIT Press, ISBN 0-262-12232-4 (hardback).

·            Levesque, Hector J., 1984, “A logic of implicit and explicit belief”, in Proceedings of the Fourth National Conference on Artificial Intelligence, American Association for Artificial Intelligence, 198–202.

·            Levesque, Hector J., 1987, “Taking issue: Guest editor’s introduction”, Computational Intelligence, 3(3): 149–150.

·            Levy, Alon Y., 2000, “Logic-based techniques in data integration”, in Logic-Based Artificial Intelligence, Jack Minker, ed., Dordrecht: Kluwer Academic Publishers, 575–595.

·            Lewis, David, 1977, “Causality”, Journal of Philosophy, 70(17): 556–567.

·            Lin, Fangshen, Sattler, Ulrike, and Truszczynski, Miroslaw (eds.), 2010, KR2010: Principles of Knowledge Representation and Reasoning, Menlo Park, California: AAAI Press.

·            Lifschitz, Vladimir, 1987, “Formal theories of action: Preliminary report”, in Proceedings of the Tenth International Joint Conference on Artificial Intelligence, John McDermott, ed., Los Altos, California: Morgan Kaufmann.

·            Lifschitz, Vladimir (ed.), 1990a, Formalizing Common Sense: Papers by John McCarthy, Norwood, New Jersey: Ablex Publishing Corporation.

·            Lifschitz, Vladimir, 1990b, “Understanding common sense: McCarthy’s research in artificial intelligence”, in Formalizing Common Sense: Papers by John McCarthy, Vladimir Lifschitz, ed., Norwood, New Jersey: Ablex Publishing Corporation, 1–8.

·            Lifschitz, Vladimir, 1997, “On the logic of causal explanation”, Artificial Intelligence, 96(2): 451–465.

·            Lifschitz, Vladimir, 1998, “Situation calculus and causal logic”, in KR’98: Principles of Knowledge Representation and Reasoning, Anthony G. Cohn, Lenhart Schubert, and Stuart C. Shapiro, eds., San Francisco, California: Morgan Kaufmann, 536–546.

·            Lin, Fangzhen, 1995, “Embracing causality in specifying the indirect effects of actions”, in Proceedings of the Fourteenth International Joint Conference on Artificial Intelligence, Chris Mellish, ed., San Francisco: Morgan Kaufmann, 1985–1991.

·            Lin, Fangzhen, Sattler, Ulrike, and Truszczynski, Miroslaw (eds.), 2010, KR2010: Proceedings of the Twelfth International Conference, Palo Alto: AAAI Press.

·            Lormand, Eric, 1996, “The holorobophobe’s dilemma”, in The Robot’s Dilemma Revisited: The Frame Problem in Artificial Intelligence, Kenneth M. Ford and Zenon Pylyshyn, eds., Norwood, New Jersey: Ablex Publishing Co., 61–88.

·            Łukasiewicz, Jan, 1970, Jan Łukasiewicz, Selected Writings, North-Holland. Edited by Ludwik Borowski.

·            Łukaszewicz, Witold, 1990, Non-Monotonic Reasoning: Formalization of Commonsense Reasoning, New York: Ellis Horwood, ISBN 0136244467.

·            Makinson, David, 2005a, “How to go non-monotonic”, in Handbook of Philosophical Logic (Volume 12, Second edition), Dov Gabbay and Franz Guenthner, eds., Berlin: Springer-Verlag, 175–278.

·            Makinson, David, 2005b, Bridges from Classical to Nonmonotonic Logic, London: King’s College Publications.

·            Makinson, David C. and Leendert van der Torre “Input/Output Logics”, Journal of Philosophical Logic, 29(4): 383–408.

·            Marek, Victor and Truszczynski, Mirosaw, 1991, “Autoepistemic logic”, Journal of the Association for Computing Machinery, 38(3): 588–619.

·            Marek, Wictor and Truszczynski, Mirosaw, 1989, “Relating autoepistemic and default logics”, in KR’89: Principles of Knowledge Representation and Reasoning, Ronald J. Brachman, Hector J. Levesque, and Raymond Reiter, eds., San Mateo, California: Morgan Kaufmann, 276–288.

·            Marek, Wictor and Truszczynski, Mirosaw, 1994, Nonmonotonic Logic: Context-Dependent Reasoning, Berlin: Springer-Verlag.

·            McCain, Norman and Turner, Hudson, 1995, “A causal theory of ramifications and qualifications”, in Proceedings of the Fourteenth International Joint Conference on Artificial Intelligence, Chris Mellish, ed., San Francisco: Morgan Kaufmann, 1978–1984.

·            McCain, Norman and Turner, Hudson, 1997, “Causal theories of action and change”, in Proceedings of the Thirteenth National Conference on Artificial Intelligence and the Eighth Innovative Applications of Artificial Intelligence Conference, Howard Shrobe and Ted Senator, eds., American Association for Artificial Intelligence, Menlo Park, California: AAAI Press, 460–465.

·            McCarthy, John, 1959, “Programs with common sense”, in Proceedings of the Teddington Conference on the Mechanization of Thought Processes, London: Her Majesty’s Stationary Office, 75–91.

·            McCarthy, John, 1979, “First order theories of individual concepts and propositions”, in Machine Intelligence 9, J.E. Hayes, D. Mitchie, and L.I. Mikulich, eds., Chichester, England: Ellis Horwood, 129–148.

·            McCarthy, John, 1980, “Circumscription: A form of non-monotonic reasoning”, Artificial Intelligence, 13: 27–39.

·            McCarthy, John, 1983, “Situations, actions, and causal laws”, Tech. Rep. Memo 2, Stanford Artificial Intelligence Project, Stanford University.

·            McCarthy, John, 1986, “Applications of circumscription to formalizing common sense knowledge”, Artificial Intelligence, 13: 27–39.

·            McCarthy, John, 1987, “Epistemological problems of artificial intelligence”, in Readings in Nonmonotonic Reasoning, Matthew L. Ginsberg, ed., Los Altos, California: Morgan Kaufmann, 46–55.

·            McCarthy, John, 1993a, “History of circumscription”, Artificial Intelligence, 59: 23–26.

·            McCarthy, John, 1993b, “Notes on formalizing contexts”, in Proceedings of the Thirteenth International Joint Conference on Artificial Intelligence, Ruzena Bajcsy, ed., San Mateo, California: Morgan Kaufmann, 555–560.

·            McCarthy, John, 1999, “Elaboration tolerance”, Http://www-formal.stanford.edu/jmc/elaboration.html.

·            McCarthy, John and Buvac, Saša, 1998, “Formalizing context (expanded notes)”, in Computing Natural Language, Atocha Aliseda, Rob van Glabbeek, and Dag Westerståhl, eds., Stanford, California: CSLI Publications, 13–50.

·            McCarthy, John and Hayes, Patrick J., 1969, “Some philosophical problems from the standpoint of artificial intelligence”, in Machine Intelligence 4, B. Meltzer and D. Michie, eds., Edinburgh: Edinburgh University Press, 463–502.

·            McDermott, Drew, 1982, “Nonmonotonic logic II: Nonmonotonic modal theories”, Journal of the Association for Computing Machinery, 29(1): 33–57.

·            McDermott, Drew, 1987, “Critique of pure reason”, Computational Intelligence, 3(3): 149–160.

·            McDermott, Drew and Doyle, Jon, 1980, “Non-monotonic logic I”, Artificial Intelligence, 13: 41–72.

·            Meyer, John-Jules Ch. and van der Hoek, Wiebe, 1995, Epistemic Logic for AI and Computer Science, Cambridge: Cambridge University Press, ISBN 052146014X (hardback).

·            Minker, Jack, 1997, “Logic and databases: Past, present and future”, AI Magazine, 18(3): 21–47.

·            Minker, Jack, 2000a, “Introduction to logic-based artificial intelligence”, in Logic-Based Artificial Intelligence, Jack Minker, ed., Dordrecht: Kluwer Academic Publishers, 3–33.

·            Minker, Jack (ed.), 2000, Logic-Based Artificial Intelligence, Dordrecht: Kluwer Academic Publishers.

·            Minsky, Marvin, 1974, “A framework for representing knowledge”, Tech. Rep. 306, Artificial Intelligence Laboratory, MIT. Republished in several places, including Haugeland 1981.

·            Moore, Johanna, 1995, Participating in Explanatory Dialogues, The MIT Press.

·            Moore, Robert C., 1985, “A formal theory of knowledge and action”, in Formal Theories of the Commonsense World, Jerry R. Hobbs and Robert C. Moore, eds., Norwood, New Jersey: Ablex Publishing Corporation, 319–358.

·            Moore, Robert C., 1993, “Autoepistemic logic revisited”, Artificial Intelligence, 59(1–2): 27–30.

·            Moore, Robert C., 1995b, Logic and Representation, Cambridge, England: Cambridge University Press.

·            Morgenstern, Leora, 1996, “The problem with solutions to the frame problem”, in The Robot’s Dilemma Revisited: The Frame Problem in Artificial Intelligence, Kenneth M. Ford and Zenon Pylyshyn, eds., Norwood, New Jersey: Ablex Publishing Co., 99–133.

·            Morgenstern, Leora, 2001, “Mid-Sized Axiomatizations of Commonsense Problems: A Case Study in Egg Cracking”, Studia Logica, 67(3):333–384.

·            Morgenstern, Leora and Stein, Lynn, 1994, “Motivated action theory: a formal theory of causal reasoning”, Artificial Intelligence, 71(1): 1–42.

·            Mueller, Erik T., 2006, Common Sense Reasoning, Elsevier.

·            Nakashima, Hideyuki, Matsubara, Hitoshi, and Osawa, Ichiro, 1997, “Causality as a key to the frame problem”, Artificial Intelligence, 91(1): 37–50.

·            Nebel, Bernhard, Rich, Charles, and Swartout, William (eds.), 1992, KR’: Principles of Knowledge Representation and Reasoning, San Francisco: Morgan Kaufmann.

·            Nilsson, Nils J., 1991, “Logic and artificial intelligence”, Artificial Intelligence, 47(1–3): 31–56.

·            Nilsson, Nils J., 1995, “Eye on the prize”, Available at http://robotics.Stanford.EDU/~nilsson/.

·            Ohrstrom, Peter and Hasle, Per F.V., 1995, Temporal Logic from Ancient Ideas to Artificial Intelligence, Dordrecht: Kluwer Academic Publishers.

·            Osborne, Martin J. and Rubenstein, Ariel, 1994, A Course in Game Theory, Cambridge, Massachusetts: The MIT Press.

·            Osherson, Daniel N. and Lasnik, Howard (eds.), 1990, An Invitation to Cognitive Science. Volume 2: Visual Cognition and Action, Cambridge, Massachusetts: The MIT Press.

·            Pearl, Judea, 1994, “From Adams’ conditionals to default expressions, causal conditionals, and counterfactuals”, in Probability and Conditionals: Belief Revision and Rational Decision, Ellery Eells and Brian Skyrms, eds., Cambridge, England: Cambridge University Press, 47–74.

·            Pearl, Judea, 2000, Causality: Models, Reasoning, and Inference, Cambridge, England: Cambridge University Press, ISBN 0-521-77362-8.

·            Perlis, Donald, 1985, “Languages with self-reference I: Foundations”, Artificial Intelligence, 25: 301–322.

·            Pirri, Fiora and Finzi, Alberto, 1999, “A preliminary approach to perception in theory of agents”, in Proceedings of the IJCAI-99 Workshop on Nonmonotonic Reasoning, Action and Change, Michael Thielscher, ed., IJCAI, Murray Hill, New Jersey: International Joint Conference on Artificial Intelligence, 49–56.

·            Pollack, Martha, 1992, “The uses of plans”, Artificial Intelligence, 57(1): 43–68.

·            Pollock, John L., 1995, Cognitive Carpentry: A Manual for How to Build a Person, Cambridge, Massachusetts: The MIT Press.

·            Prior, Arthur, 1956, Time and Modality, Oxford: Oxford University Press.

·            Prior, Arthur, 1967, Past, Present and Future, Oxford: Oxford University Press.

·            Prior, Arthur, 1968, Papers on Time and Tense, Oxford: Oxford University Press.

·            Pylyshyn, Zenon (ed.), 1987, The Robot’s Dilemma: The Frame Problem in Artificial Intelligence, Norwood, New Jersey: Ablex Publishing Co., ISBN 0893913715.

·            Quine, Willard V.O, 1960, “Variables explained away”, in Selected Logic Papers, Willard V. Quine, ed., Cambridge, Massachusetts: Harvard University Press, 227–235.

·            Rao, Anand S. and Georgeff, Michael P., 1991, “Modeling rational agents within a BDI-architecture”, in KR’91: Principles of Knowledge Representation and Reasoning, James F. Allen, Richard Fikes, and Erik Sandewall, eds., San Mateo, California: Morgan Kaufmann, 473–484.

·            Reiter, Raymond, 1978, “On closed world data bases”, in Logic and Data Bases, H. Gallaire and J. Minker, eds., New York: Plenum Press, 55–76.

·            Reiter, Raymond, 1980, “A logic for default reasoning”, Artificial Intelligence, 13: 81–32.

·            Reiter, Raymond, 1993, “Proving properties of states in the situation calculus”, Artificial Intelligence, 64: 337–351.

·            Reiter, Raymond, 2001, Knowledge in Action: Logical Foundations for Specifying and Implementing Dynamical Systems, Cambridge, Massachusetts: The MIT Press.

·            Renz, Jochen and Nebel, Bernhard, 1999, “On the complexity of qualitative spatial reasoning: A maximal tractable fragment of the region connection calculus”, Artificial Intelligence, 108(1–2): 69–123.

·            Rosenschein, Stanley J., 1989, “Synthesizing information-tracking automata from environment descriptions”, in KR’89: Principles of Knowledge Representation and Reasoning, Ronald J. Brachman, Hector J. Levesque, and Raymond Reiter, eds., San Mateo, California: Morgan Kaufmann, 386–393.

·            Rosenschein, Stanley J. and Kaelbling, Leslie Pack, 1995, “A situated view of representation and control”, Artificial Intelligence, 73(1–2): 149–173.

·            Rounds, William C., 1996, “Feature logics”, in Handbook of Logic and Language, Johan van Benthem and Alice ter Meulen, eds., Amsterdam: Elsevier, 475–533.

·            Russell, Stuart and Norvig, Peter, 2010, Artificial Intelligence: A Modern Approach, Englewood Cliffs, New Jersey: Prentice Hall, 3 ed., ISBN-10 0136042597.

·            Russell, Stuart J. and Wefald, Eric, 1991, Do the Right Thing, Cambridge, Massachusetts: The MIT Press.

·            Sadek, M.D., 1992, “A study in the logic of intention”, in KR’92. Principles of Knowledge Representation and Reasoning: Proceedings of the Third International Conference, Bernhard Nebel, Charles Rich, and William Swartout, eds., San Mateo, California: Morgan Kaufmann, 462–473.

·            Sandewall, Eric, 1972, “An approach to the frame problem, and its implementation”, in Machine Intelligence 7, D. Michie and B. Meltzer, eds., Edinburgh University Press, 195–204.

·            Sandewall, Erik, 1994, Features and Fluents: A Systematic Approach to the Representation of Knowledge About Dynamical Systems, Oxford: Oxford University Press.

·            Schlechta, Karl, 1997, Nonmonotonic Logics, Berin: Springer-Verlag, ISBN 3-540-62482-1.

·            Schlechta, Karl, 2007, “Non-monotonic logics: A preferential approach”, in Handbook of the History of Logic, Volume 8: The Many-Valued and Nonmonotonic Turn in Logic, Dov Gabbay and John Woods, eds., Amsterdam: Elsevier Science Publishers, 451–516.

·            Schubert, Lenhart, 1990, “Monotonic solution of the frame problem in the situation calculus; an efficient method for worlds with fully specified actions”, in Knowledge Representation and Defeasible Reasoning, Henry Kyburg, Ronald Loui, and Greg Carlson, eds., Dordrecht: Kluwer Academic Publishers, 23–67.

·            Seligman, Jerry and Moss, Lawrence S., 1996, “Situation theory”, in Handbook of Logic and Language, Johan van Benthem and Alice ter Meulen, eds., Amsterdam: Elsevier, 239–307.

·            Shanahan, Murray, 1997, Solving the Frame Problem, Cambridge, Massachusetts: The MIT Press.

·            Shanahan, Murray, 2004, “An attempt to formalise a non-trivial benchmark problem in common sense reasoning”, Artificial Intelligence, 153(1–2): 141–165.

·            Shanahan, Murray, 2009, “The Frame Problem”, The Stanford Encyclopedia of Philosophy, Edward N. Zalta, ed.

·            Shieber, Stuart, 1992, Constraint-Based Grammar Formalisms: Parsing and Type Inference for Natural and Computer Languages, Cambridge, Massachusetts: The MIT Press.

·            Shoham, Yoav, 1988, Reasoning About Change: Time and Causation From the Standpoint of Artificial Intelligence, Cambridge, Massachusetts: The MIT Press.

·            Simon, Herbert, 1952, “On the definition of the causal relation”, The Journal of Philosophy, 49: 517–528.

·            Simon, Herbert, 1966, “On reasoning about action”, Tech. Rep. Complex Information Processing Paper #87, Carnegie Institute of Technology, Pittsburgh, Pennsylvania.

·            Simon, Herbert A., 1977, Models of Discovery, Dordrecht: D. Reidel Publishing Co.

·            Simon, Herbert A., 1982a, Models of Bounded Rationality, Volume 1, Cambridge, Massachusetts: The MIT Press.

·            Simon, Herbert A., 1982b, Models of Bounded Rationality, Volume 2, Cambridge, Massachusetts: The MIT Press.

·            Simons, Peter, 1987, Parts: A Study in Ontology, Oxford: Oxford University Press.

·            Stalnaker, Robert C., 1993, “A note on non-monotonic modal logic”, Artificial Intelligence, 64(2): 183–196. Widely circulated in manuscipt form, 1980 to 1992.

·            Steedman, Mark, 1995, “Dynamic semantics for tense and aspect”, in Proceedings of the Fourteenth International Joint Conference on Artificial Intelligence, Chris Mellish, ed., San Francisco: Morgan Kaufmann, 1292–1298.

·            Stefik, Mark J., 1995, An Introduction to Knowledge Systems, San Francisco: Morgan Kaufmann.

·            Stock, Oliviero (ed.), 1997, Spatial and Temporal Reasoning, Dordrecht: Kluwer Academic Publishers, ISBN 0792346440 (paper).

·            Stone, Matthew, 1998, Modality in Dialogue: Planning, Pragmatics and Computation, Ph.D. dissertation, Computer Science Department, University of Pennsylvania, Philadelphia, Pennsylvania.

·            Thielscher, Michael, 1989, “Ramification and causality”, Artificial Intelligence, 89(1–2): 317–364.

·            Thielscher, Michael, 1996, “Causality and the qualification problem”, in KR’96: Principles of Knowledge Representation and Reasoning, Luigia Carlucci Aiello, Jon Doyle, and Stuart Shapiro, eds., San Francisco, California: Morgan Kaufmann, 51–62.

·            Thielscher, Michael, 2000, “Representing the knowledge of a robot”, in KR2000: Principles of Knowledge Representation and Reasoning, Anthony G. Cohn, Fausto Giunchiglia, and Bart Selman, eds., San Francisco: Morgan Kaufmann, 109–120.

·            Thomason, Richmond H., 1992, “NETL and subsequent path-based inheritance theories”, in Semantic Networks in Artificial Intelligence, Fritz Lehmann, ed., Oxford: Pergamon Press, 179–204.

·            Thomason, Richmond, 2003, “Dynamic contextual intensional logic: logical foundations and an application”, in Modeling and Using Context: Fourth International and Interdisciplinary Conference, Patrick Blackburn, Chiara Ghidini, and Roy Turner, eds., Berlin: Springer-Verlag, 328-341.

·            Thomason, Richmond, 2005, “Making contextual intensional logic nonmonotonic”, in Modeling and Using Context: Fifth International and Interdisciplinary Conference, Anind Dey, Boicho Kokinov, David Leake, and Roy Turner, eds., Berlin: Springer-Verlag, 502–514.

·            Thomason, Richmond, 2007, “Conditionals and Action Logics”, in AAAI 2007 Spring Symposium on Commonsense Reasoning, Eyal Amir, Vladimir Lifschiz and Rob Miller, eds., Menlo Park, California: AAAI Press, 156–161.

·            Turner, Hudson, 1999, “A logic of universal causation”, Artificial Intelligence, 113(1–2): 87–123.

·            van Benthem, Johan, 1983, The Logic of Time, Dordrecht: D. Reidel Publishing Company.

·            van Benthem, Johan and ter Meulen, Alice, 1996, Handbook of Logic and Language, Amsterdam: Elsevier Science Publishers.

·            van der Torre, Leendert W.N., 1997, Reasoning about Obligations: Defeasibility in Preference-Based Deontic Logic, Amsterdam: Thesis Publishers.

·            van Harmelen, Frank, Lifschitz, Vladimir, and Porter, Bruce (eds.) 2008,Handbook of Knowledge Representation, Amsterdam: Elsevier.

·            von Wright, Georg Henrik, 1983, Practical Reason: Philosophical Papers, Volume 1, Ithaca: Cornell University Press, ISBN 0801416736.

·            Weld, Daniel S. and de Kleer, Johan (eds.), 1990, Qualitative Reasoning about Physical Systems, San Mateo, California: Morgan Kaufmann.

·            Wilson, Randall H., 1998, “Geometric reasoning about assembly tools”, Artificial Intelligence, 98(1–2): 237–279.

·            Wobcke, Wayne, Pagnucco, Maurice, and Zhang, C. (eds.), 1998, Agents and Multi-Agent Systems—Formalisms, Methodologies, and Applications, Berlin: Springer-Verlag.

·            Wolter, Frank and Zakharyaschev, Michael, 2000, “Spatio-temporal representation and reasoning based on RCC-8”, in KR2000: Principles of Knowledge Representation and Reasoning, Anthony G. Cohn, Fausto Giunchiglia, and Bart Selman, eds., San Francisco: Morgan Kaufmann, 3–14.

·            Woods, William A. and Schmolze, James G., 1992, “The KL-ONE family”, in Semantic Networks in Artificial Intelligence, Fritz Lehmann, ed., Oxford: Pergamon Press, 133–177.

·            Wooldridge, Michael J., 2000, Reasoning about Rational Agents, Cambridge, England: Cambridge University Press.

·            Yeap, Wai K. and Jeffries, Margaret E., 1999, “Computing a representation of the local environment”, Artificial Intelligence, 107(2): 265–301.