Эффект ELIZA - ELIZA effect

Эффект ELIZA в информатике - это тенденция бессознательно предполагать, что поведение компьютера аналогично поведению человека; то есть антропоморфизация .

Обзор

В своей особой форме эффект ELIZA относится только к «восприимчивости людей к тому, чтобы читать гораздо больше понимания, чем гарантируется в цепочках символов, особенно слов, соединенных вместе компьютерами». Тривиальный пример особой формы эффекта Элизы, приведенный Дугласом Хофштадтером , включает в себя банкомат, который отображает слова «СПАСИБО» в конце транзакции. (Очень) случайный наблюдатель может подумать, что машина на самом деле выражает благодарность; однако аппарат печатает только заранее запрограммированную строку символов.

В более общем смысле, эффект ELIZA описывает любую ситуацию, когда, основываясь исключительно на выходных данных системы, пользователи воспринимают компьютерные системы как обладающие «внутренними качествами и способностями, которых программное обеспечение, управляющее (выходными данными), не может достичь», или «предполагают, что [выходы] отражают большая причинность, чем они есть на самом деле ". Как в своей конкретной, так и в общей формах, эффект ELIZA примечателен тем, что он возникает даже тогда, когда пользователи системы осведомлены об определенном характере вывода, производимого системой. С психологической точки зрения эффект ELIZA является результатом тонкого когнитивного диссонанса между осведомленностью пользователя об ограничениях программирования и его поведением в отношении результатов программы . Открытие эффекта ELIZA было важным достижением в области искусственного интеллекта , продемонстрировав принцип использования социальной инженерии, а не явного программирования для прохождения теста Тьюринга .

Источник

Эффект назван в честь чат-бота ELIZA 1966 года , разработанного компьютерным ученым Массачусетского технологического института Джозефом Вайценбаумом . При выполнении сценария ВРАЧА Вайценбаума ЭЛИЗА пародировала психотерапевта Роджера , в основном перефразируя ответы «пациента » в виде вопросов:

Человек: Ну, мой парень заставил меня приехать сюда.
ЭЛИЗА: Твой парень заставил тебя приехать сюда?
Человек: Он говорит, что я большую часть времени в депрессии.
ЭЛИЗА: Мне жаль слышать, что вы в депрессии.
Человек: Это правда. Я несчастлив.
ЭЛИЗА: Как вы думаете, приезд сюда поможет вам не быть несчастным?

Хотя сценарий ELIZA DOCTOR был разработан строго как механизм для поддержки «разговора на естественном языке» с компьютером, он оказался на удивление успешным в получении эмоциональных откликов от пользователей, которые в процессе взаимодействия с программой начали приписывать понимание и мотивацию вывод программы. Как позже писал Вейценбаум: «Я не осознавал ... что чрезвычайно короткое воздействие относительно простой компьютерной программы может вызвать сильное бредовое мышление у вполне нормальных людей». Действительно, код ELIZA изначально не был разработан для того, чтобы вызывать такую ​​реакцию. При наблюдении исследователи обнаружили, что пользователи бессознательно предполагают, что вопросы ELIZA подразумевают интерес и эмоциональную вовлеченность в обсуждаемые темы, даже когда они сознательно знали, что ELIZA не имитирует эмоции .

Значение автоматизированного труда

ELIZA убедила некоторых пользователей думать, что машина - это человек. Этот сдвиг в человеко-машинном взаимодействии ознаменовал прогресс в технологиях, имитирующих человеческое поведение. Уильям Мейзел выделяет две группы чат-ботов как «общих личных помощников » и «специализированных цифровых помощников». Общие цифровые помощники были интегрированы в личные устройства и обладают такими навыками, как отправка сообщений, создание заметок, проверка календарей и установка встреч. Специализированные цифровые помощники «работают в очень определенных областях или помогают с очень конкретными задачами». Цифровые помощники, которые запрограммированы на повышение производительности, принимая поведение, аналогичное человеческому.

Джозеф Вейценбаум считал, что не все аспекты человеческого мышления можно свести к логическим формализмам и что «есть некоторые мыслительные действия, которые должны предприниматься только людьми». Он также заметил, что мы развиваем эмоциональную привязанность к машинам, если взаимодействуем с ними как с людьми. Когда чат-боты антропоморфизируются, они склонны изображать гендерные особенности как способ, с помощью которого мы устанавливаем отношения с технологией. «гендерные стереотипы используются для управления нашими отношениями с чат-ботами», когда человеческое поведение запрограммировано в машинах.

Феминизированный труд, или женский труд , автоматизированный антропоморфными цифровыми помощниками, подкрепляет «предположение о том, что женщины обладают естественной склонностью к служебной работе и эмоциональному труду». Определяя нашу близость к цифровым помощникам с помощью их человеческих качеств, чат-боты становятся гендерными сущностями.

Смотрите также

Заметки

  1. ^ a b Хофштадтер, Дуглас Р. (1996). «Предисловие 4 Неистребимый эффект Элизы и его опасности, эпилог» . Жидкие концепции и творческие аналогии: компьютерные модели фундаментальных механизмов мышления . Основные книги. п. 157. ISBN. 978-0-465-02475-9.
  2. ↑ Фентон-Керр, Том (1999). "GAIA: экспериментальный педагогический агент для изучения мультимодального взаимодействия". Вычисление метафор, аналогий и агентов . Конспект лекций по информатике. 1562 . Springer. п. 156. DOI : 10.1007 / 3-540-48834-0_9 . ISBN 978-3-540-65959-4. Хотя Хофштадтер подчеркивает здесь текстовый режим, «эффект Элизы» можно увидеть почти во всех режимах взаимодействия человека и компьютера.
  3. ^ Ekbia, Хамид Р. (2008). Искусственные сны: поиски небиологического интеллекта . Издательство Кембриджского университета. п. 8 . ISBN 978-0-521-87867-8.
  4. Перейти ↑ King, W. (1995). Антропоморфные агенты: друг, враг или глупость (Технический отчет). Вашингтонский университет. М-95-1.
  5. ^ Роуз, Уильям Б.; Бофф, Кеннет Р. (2005). Организационное моделирование . Wiley-IEEE. С. 308–309. ISBN 978-0-471-73943-2. Это особая проблема в цифровой среде, где «эффект Элизы», как его иногда называют, заставляет взаимодействующих лиц предполагать, что система более интеллектуальная, чем она есть, полагать, что события отражают большую причинность, чем они есть на самом деле.
  6. ^ Ekbia, Хамид Р. (2008). Искусственные сны: поиски небиологического интеллекта . Издательство Кембриджского университета. п. 156 . ISBN 978-0-521-87867-8. Но люди хотят верить, что программа «видит» футбольный матч на некотором приемлемом уровне абстракции. Слова, которыми манипулирует (программа), настолько полны ассоциаций у читателей, что они НЕ МОГУТ быть лишены всех своих образов. Коллинз, конечно, знал, что его программа не имеет отношения к чему-либо, напоминающему двумерный мир плавно движущихся точек (не говоря уже об упрощенных человеческих телах), и, по-видимому, он думал, что его читатели тоже поймут это. Однако он не мог предположить, насколько силен эффект Элизы.
  7. ^ Траппл, Роберт; Петта, Паоло; Пайр, Сабина (2002). Эмоции у людей и артефактов . Кембридж, Массачусетс: MIT Press. п. 353. ISBN. 978-0-262-20142-1. «Эффект Элизы» - склонность людей относиться к программам, которые на них реагируют, так, как будто они обладают большим интеллектом, чем они есть на самом деле (Weizenbaum 1966), является одним из самых мощных инструментов, доступных создателям виртуальных персонажей.
  8. ^ Güzeldere, Güven; Франки, Стефано. «диалоги с колоритными личностями раннего ИИ» . Архивировано 25 апреля 2011 года . Проверено 30 июля 2007 .
  9. ^ Weizenbaum, Джозеф (январь 1966). "ELIZA - компьютерная программа для изучения естественного языка общения между человеком и машиной" . Коммуникации ACM . Массачусетский технологический институт . 9 : 36. DOI : 10,1145 / 365153,365168 . Проверено 17 июня 2008 .
  10. ^ Сучман, Люси А. (1987). Планы и установленные действия: проблема человеко-машинного общения . Издательство Кембриджского университета. п. 24. ISBN 978-0-521-33739-7. Проверено 17 июня 2008 .
  11. ^ Weizenbaum, Джозеф (1976). Компьютерная мощь и человеческий разум: от суждения к расчету . WH Freeman. п. 7 .
  12. ↑ Billings, Lee (16 июля 2007 г.). «Возникновение робоэтики» . Семя . Архивировано 28 февраля 2009 года. (Джозеф) Вайценбаум неожиданно обнаружил, что, даже если они полностью осознают, что они разговаривают с простой компьютерной программой, люди, тем не менее, будут относиться к ней так, как если бы это было реальное, мыслящее существо, которое заботится об их проблемах - явление, теперь известное как Элиза Эффект ».CS1 maint: неподходящий URL ( ссылка )
  13. ^ a b Дейл, Роберт (сентябрь 2016 г.). «Возвращение чат-ботов» . Инженерия естественного языка . 22 (5): 811–817. DOI : 10.1017 / S1351324916000243 . ISSN  1351-3249 .
  14. ^ Weizenbaum, Джозеф (1976). Компьютерная мощь и человеческий разум: от суждения к расчету . Сан-Франциско, Калифорния. ISBN 0-7167-0464-1. OCLC  1527521 .
  15. ^ Коста, Педро. Рибас, Луиза. Беседы с ELIZA: о гендере и искусственном интеллекте. Из (6-я конференция по вычислениям, коммуникации, эстетике и X 2018 г.) (февраль 2021 г.)
  16. ↑ Эстер, Хелен. 2016. «Технологии ей становятся». Новые перспективы 3 (1): 46-50.

Рекомендации

  • Хофштадтер, Дуглас. Предисловие 4: Неистребимый эффект Элизы и его опасности. (из Жидких концепций и творческих аналогий : компьютерные модели фундаментальных механизмов мышления , Basic Books: New York, 1995)
  • Теркл, С., Эффект Элизы: склонность воспринимать ответы компьютера как более разумные, чем они есть на самом деле (из жизни на экране - Идентичность в эпоху Интернета , Феникс в мягкой обложке: Лондон, 1997)
  • Эффект ELIZA из файла жаргона , версия 4.4.7. По состоянию на 8 октября 2006 г.