Автоматизированное принятие решений - Automated decision-making

Автоматизированное принятие решений (ADM) включает использование данных, машин и алгоритмов для принятия решений в различных контекстах, включая государственное управление, бизнес, здравоохранение, образование, право, занятость, транспорт, средства массовой информации и развлечения, с различной степенью человеческого надзор или вмешательство. ADM включает в себя крупномасштабные данные, полученные из баз данных, текста, социальных сетей, датчиков, изображений или речи, которые обрабатываются с использованием ряда технологий, включая компьютерное программное обеспечение, алгоритмы, машинное обучение , обработку естественного языка , искусственный интеллект , расширенный интеллект и робототехнику . Все более широкое использование автоматизированных систем принятия решений (ADMS) в различных контекстах представляет множество преимуществ и проблем для человеческого общества, требующих учета технических, правовых, этических, социальных, образовательных и экономических последствий.

Обзор

В то время как некоторые определения ADM предполагают, что он включает решения, принимаемые с помощью чисто технологических средств, в действительности ADM может принимать различные формы, начиная от систем поддержки принятия решений, которые дают рекомендации для лиц, принимающих решения, и которые иногда известны как расширенный интеллект или `` совместное принятие решений ''. принятия », до полностью автоматизированных процессов принятия решений, которые принимают решения от имени учреждений или организаций без участия человека. Модели, используемые в автоматизированных системах принятия решений, могут быть такими простыми, как контрольные списки и деревья решений, вплоть до искусственного интеллекта и глубоких нейронных сетей (DNN).

С 1950-х годов компьютеры прошли путь от базовой обработки до способности выполнять сложные, неоднозначные и высококвалифицированные задачи, такие как распознавание изображений и речи, игровой процесс, научный и медицинский анализ и логический вывод из множества источников данных. В настоящее время ADM все чаще используется во всех секторах общества и в самых разных областях, от развлечений до транспорта.

Данные и технологии

Автоматизированное принятие решений использует ряд источников данных и технологий для принятия решений, которые определяют поведение сложных систем во многих различных контекстах, включая беспилотные автомобили, робототехнику, системы безопасности, государственное управление, здравоохранение, право и торговлю.

Качество данных

Качество данных, которые доступны и могут быть использованы в системах ADM, имеет основополагающее значение для результатов и часто является весьма проблематичным по многим причинам. Наборы данных часто сильно различаются, контролируются корпорациями или правительствами, ограничены по соображениям конфиденциальности или безопасности, неполны, предвзяты, ограничены по времени или охвату, измеряются и описываются разными способами и по многим другим вопросам.

Для того, чтобы машины могли учиться на данных, часто требуются большие корпуса, которые может быть трудно получить или вычислить, однако, если они доступны, они обеспечили значительные прорывы, например, в диагностике рентгеновских снимков грудной клетки.

Машинное обучение

Основная статья: Машинное обучение

Машинное обучение (ML) включает обучение компьютерных программ с использованием больших наборов данных и примеров для изучения опыта и решения проблем. Машинное обучение может использоваться для генерации и анализа данных, а также для выполнения алгоритмических вычислений и применяется для распознавания изображений и речи, переводов, текста, данных и моделирования. Хотя машинное обучение существует уже некоторое время, оно становится все более мощным благодаря недавним достижениям в обучении глубоких нейронных сетей (DNN) и резкому увеличению емкости хранилища данных и вычислительной мощности с помощью сопроцессоров GPU и облачных вычислений.

Приложения

ADM используется для замены или расширения процесса принятия административных решений в организациях государственного и частного секторов по ряду причин, в том числе для повышения согласованности, эффективности и поиска новых решений сложных проблем.

В правовых системах по всему миру алгоритмические инструменты, такие как инструменты оценки рисков (RAI), используются для дополнения или замены человеческих суждений судей, государственных служащих и полицейских во многих контекстах. В Соединенных Штатах RA используются для расчета баллов для прогнозирования риска рецидивизма при предварительном заключении и вынесении приговоров, оценки условно-досрочного освобождения заключенных и прогнозирования «горячих точек» для будущих преступлений. Эти оценки могут иметь автоматический эффект или могут использоваться для информирования о решениях, принимаемых официальными лицами в системе правосудия. В Канаде ADM используется с 2014 года для автоматизации определенных действий, проводимых иммиграционными служащими, и для поддержки оценки некоторых заявлений иммигрантов и посетителей.

Цифровые информационные и развлекательные платформы все чаще предоставляют пользователям автоматизированные рекомендации ( рекомендательные системы ) на основе демографической информации, предыдущего выбора, совместной фильтрации или фильтрации на основе содержимого. Сюда входят музыкальные и видеоплатформы, научные публикации, советы по здоровью, базы данных продуктов и поисковые системы. Многие рекомендательные системы предоставляют пользователям автономию в принятии рекомендаций и включают алгоритмические циклы обратной связи на основе данных, основанные на действиях пользователя системы.

Автономные транспортные средства, такие как беспилотные автомобили и другие виды транспорта, являются еще одной областью, где автоматизированные системы принятия решений используются для замены различных аспектов человеческого контроля, начиная от уровня 0 (полное управление человеком) до уровня 5 (полностью автономное). На уровне 5 машина может принимать решения по управлению транспортным средством на основе моделей данных и геопространственного картографирования, а также датчиков в реальном времени и обработки окружающей среды. Автомобили с 1 по 3 уровни уже доступны на рынке. Беспилотные автомобили поднимают много вопросов с точки зрения ответственности и этичного принятия решений в случае аварии, а также вопросов конфиденциальности. В 2016 году правительство Германии создало «Комиссию по этике автоматизированного и подключенного вождения», которая представила отчет с 20 этическими правилами по адаптации автоматизированного и подключенного вождения.

Этические и юридические вопросы

Автоматизированные системы принятия решений имеют множество социальных, этических и юридических последствий. Высказанные опасения включают отсутствие прозрачности и оспариваемости решений, посягательства на неприкосновенность частной жизни и наблюдение, обострение системной предвзятости и неравенства из-за предвзятости данных и алгоритмов , прав интеллектуальной собственности, распространения дезинформации через медиа-платформы, административной дискриминации, рисков и ответственности, безработицы и многие другие. По мере того как ADMS становится все более распространенной, возрастает потребность в решении этических проблем для обеспечения надлежащего управления в информационном обществе.

Системы ADM часто основаны на машинном обучении и алгоритмах, которые нелегко просмотреть или проанализировать, что вызывает опасения, что они являются системами «черного ящика», которые не являются прозрачными или подотчетными.

В отчете лаборатории Citizen в Канаде содержится аргумент в пользу критического анализа прав человека применения ADM в различных областях, чтобы гарантировать, что использование автоматизированного принятия решений не приводит к нарушениям прав, включая права на равенство и недискриминацию; свобода передвижения, выражения мнений, религии и ассоциаций; права на неприкосновенность частной жизни и права на жизнь, свободу и безопасность человека.

Законодательные ответы на ADM включают:

  • Европейский общий регламент защиты данных ( GDPR ), введенный в действие в 2016 году, представляет собой постановление в законе ЕС о защите данных и конфиденциальности в Европейском союзе (ЕС). Статья 22 (1) закрепляет право субъектов данных не подчиняться решениям, имеющим юридические или другие существенные последствия, основанным исключительно на автоматическом индивидуальном принятии решений.

Смотрите также

использованная литература