Алгоритм разработки управленческого решения

Процесс принятия решений

Алгоритм разработки управленческого решения представляет собой многостадийный организационный процесс, который имеет сложные прямые и обратные связи и сочетает интеллектуальную деятельность работников предприятия. В данном алгоритме разработки управленческого решения применяются разнообразные модели и методы, а также современная техника сбора, передачи и обработки информации.

Алгоритм разработки управленческого решения включает в себя процесс выработки и реализации управленческих решений, который представляет собой деятельность, направленную на поиск выходов из соответствующих управленческих ситуаций посредством формирования и последующей реализации воздействия на объекты управления.

Алгоритм разработки управленческого решения

В организационном плане алгоритм разработки управленческого решения является совокупностью закономерно идущих один за другим этапов, связанных между собой.

Каждой стадии соответствуют определенные трудовые действия, которые направлены на разработку и реализацию решений.

Алгоритм разработки управленческого решения – повторяющаяся система действий, которую иногда называют технологией процесса выработки и реализации решения.

Алгоритм разработки управленческого решения осуществляется посредством нескольких этапов:

1. диагностика проблемы,
2. формулирование ограничений и критериев,
3. определение альтернатив,
4. оценка альтернатив,
5. выбор альтернатив,
6. реализация,
7. осуществление обратной связи.

Диагностика проблемы

Алгоритм разработки управленческого решения включает в первую очередь диагностику проблемы, то есть полное и правильное ее определение (диагноз). При этом есть два метода рассмотрения проблемы, в соответствии с первым из которых проблемой считают ситуацию, в которой поставленные цели не достигнуты.

Первой стадией диагностирования сложной проблемы является осознание и установка симптомов затруднений, включая имеющиеся возможности. Некоторые общие симптомы кризиса в компании включают в себя низкую прибыль, сбыт, производительность и качество, а также большие издержки, многочисленность конфликтов в компании, текучесть кадров. Часто несколько симптомов могут дополнять друг друга.

Формулировка ограничений и критериев принятия решений

Второй этап алгоритма разработки управленческого решения – формулирование ограничений и критериев. Ограничения могут варьироваться и зависят от ситуаций, включая конкретных руководителей. Примерами ограничений могут быть неадекватность средств, недостаточное число сотрудников, обладающих требуемой квалификацией и опытом; неспособность закупки ресурсов по соответствующим ценам; потребности в технологии, которая еще не разработана или чересчур дорогая; большая конкуренция и др.

Существенное ограничение всех управленческих решений — определяемое высшим руководством сужение полномочий всех членов предприятия.

В этом случае менеджеры способны принимать или осуществлять решения только при наделении их высшим руководством этим правом.

Определение и оценка альтернатив

Следующий этап алгоритма разработки управленческого решения – формулировка набора альтернативных решений проблем. На данном этапе выявляются все возможные действия, которые помогут устранить причину проблем, что способствует предприятию достичь своих целей.

На этом этапе происходит формирование решений как воздействия посредством выбора характерных для него средств и ресурсов, выступающих и воздействующих факторов.

В процессе оценки возможных альтернатив руководителем определяются достоинства и недостатки каждой из них и вероятные общие последствия. Оценка решений в качестве воздействий проводится с позиций силы их воздействий, полноты и взаимосвязанности отношений управления, системы применяемых средств и методов воздействия.

Выбор альтернативы и ее реализация

Алгоритм разработки управленческого решения позволяет правильно определить проблему, тщательно взвесить и оценить альтернативные решения, сделать выбор.

Руководство осуществляет выбор альтернативы с самыми благоприятными общими последствиями. В силу ограничений руководители могут выбрать направление действий, которое, очевидно, будет являться приемлемым, но не обязательно наилучшим.

Алгоритм разработки управленческого решения не заканчивается выбором альтернативы. Для того, что бы разрешить проблему и извлечь выгоды из имеющихся возможностей решение необходимо реализовать.

На последней стадии происходит осуществление обратной связи, что дает возможность измерить и оценить последствия решений.

Примеры решения задач

его особенности, этапы и принципы

Этапы процесса принятия управленческих решений в организации

Управленческие решения в организации принимаются средствами динамических и внутренне взаимосвязанных процессов, которые состоят из конкретных функций этих решений, представленных на рисунке ниже: 
 
Процесс постановки управленческой задачи состоит, прежде всего, из осознания необходимости в конкретном решении, а также в диагностике и анализе ситуации.

Любое принятие решения начинается с формулировки конкретной задачи и заканчивается выполнением этой задачи – то есть процессом внедрения решения, что отражено на рисунке. 

Необходимость в определенном решении выражена либо в форме проблемы, либо в форме возможностей. Проблема проявляется в случае, когда результаты, полученные компанией, не могут отвечать закрепленным за ней целям, и, следовательно, определенные ее процессы требуют доработки и оптимизации.

Наличие возможностей означает, что менеджеры рассмотрели потенциал совершенствования деятельности компании, благодаря чему становится возможным улучшить и оптимизировать, а также превзойти текущие цели. 

Первый этап в процессе принятия управленческого решения – это осознание проблем, либо возможностей. Это требует исследования особенностей внутренней и внешней среды с целью определения неочевидных и непредусмотренных отклонений, а также перспектив, которые заслуживают внимания руководства.

Данный процесс схож с военной разведкой: менеджерами активно изучается окружающая их обстановка с целью определения степени достижения организацией собственных целей.

 

Замечание 1

Необходимость принятия решения не во всех случаях может быть ярко выраженной. Процесс осознания данного факта схож с процессом создания целостной картины из отдельных информационных частей. 

После того, как возможность, или проблема уже привлекла внимание менеджера, следующим шагом является разбор специфики ситуации. Этап в принятии решений, на котором менеджерами проводится тщательный анализ основных причинно-следственных связей определенной ситуации называется «оценкой», или «диагностикой». 

Этап поиска альтернатив. Данный поиск происходит путем исследования особенностей внутренней и внешней среды предприятия для получения необходимых сведений, которые впоследствии могут использоваться для разработки набора (перечня) различных решений, которые, согласно особенностям данного этапа, в процессе принятия решений могут приводить к достижению цели, либо к выполнению поставленных задач. 

Формулирование альтернативных решений должно быть реалистичным – то есть удовлетворять и соответствовать условиям внутренней и внешней среды предприятия, что, в рамках теории принятия решений принято называть ограничениями.  

Определение 1

Ограничение – это условие достижения организацией собственных целей, которое определяется ресурсами организации и внешней средой, поскольку непосредственно достижение целей предприятия во многом подчиняется особенностям внешней, а не внутренней среды. 

Ограничения являются сокращением возможностей внутренней организационной среды. Ограничения, существующие в предлагаемых альтернативах, способствуют сужению возможностей принятия решений, исходя из чего, руководители должны учитывать особенности ограничений, которые направляются внешней средой в область принятия решений. 

Замечание 2

В качестве основных ограничений выступают нормативные акты и законы, совместно с ценообразованием на сырье и материалы, конкуренцией, недостатком финансовых ресурсов, низкой профессиональной компетенцией персонала, потребностями в инновациях и технологиях, сужением полномочий для нижестоящих менеджеров в процессе принятия управленческого решения. 

Определение 2

Критерии принятия решения – это стандарты, в соответствии с которыми необходимо проводить оценку всех альтернатив.

Критерии принятия решений также являются и рекомендациями для процессов отбора и генерирования альтернатив. 
В случае, если решение является запрограммированным, то поиск действительно возможных и эффективных решений является простым. Как правило, они уже закладываются в процедуры и правила предприятия.

Вместе с тем, наличие незапрограммированных решений требует поиска новых поведенческих алгоритмов. Для решений, которые принимаются в ситуации высокого уровня неопределенности, как правильно возможна выработка только одного-двух приемлемых вариантов. Естественно, сущностью этих решений является снижение разрывов между актуальным и необходимым состояниями предприятия. 

Этап сравнения и оценки имеющихся альтернатив. Данный этап предполагает проведение сравнения и оценки всех имеющихся вариантов действий, которые можно осуществить с помощью использования соответствующих критериев и методов. 

Этап выбора. Менеджер, который принимает решение, из перечня вариантов выбирает подходящую альтернативу – то есть происходит непосредственно принятие решения. После выработки нескольких подходящих вариантов решения, важно остановиться на одном из них.

Нужна помощь преподавателя?

Опиши задание — и наши эксперты тебе помогут!

Описать задание

Фактически, необходимо снова принимать решение. Самым лучшим вариантом является тот, благодаря которому возможно добиться результата, который в максимальной степени соответствует ценностям и целям предприятия, с задействованием в данном процессе наименьших объемов ресурсов. 

Замечание 3

Основной задачей менеджера является выбор того варианта, который был бы сопряжен с наименьшей неопределенностью и рисками. Так как любые незапрограммированные решения в той, или иной степени сопряжены с риском, менеджерам необходимо формировать определенные факторы успеха. В случаях высокой неопределенности они могут основываться на собственный опыт и интуицию, поскольку оценка шансов на успех конкретной организации иным способом является невозможной. 

Выбор итогового решения во многом связан с индивидуальными особенностями конкретного менеджера, а также его готовностью к неопределенности и принятию на себя рисков. Склонность к принятию на себя дополнительных рисков, в обмен на потенциальную выгоду, принято называть «склонность к риску». В каждой конкретной ситуации, на решение менеджера влияют издержки и потенциальные преимущества выбора.

Этап внедрения решения (применение принятого решения в практической деятельности). Решение, из области теоретических и абстрактных умозаключений переводится в область профессионально-прикладного применения. 

На этапе внедрения решения, менеджеры, прежде всего, должны активизировать собственные административные и управленческие способности, а также навыки убеждения окружающих. Процесс воплощения решений является очень схожим с процессом воплощения стратегий, а успех данных действий определяется тем, насколько менеджмент в состоянии осуществлять преобразования руководящих идей в практические области. 

Замечание 4

Зачастую, процесс внедрения тормозится из-за нехватки всех необходимых ресурсов организации, либо из-за недостатка у менеджеров внутренней энергии.

Процесс внедрения управленческих решений может требовать длительных переговоров и работниками, которые оказываются вовлеченными в процессы, следующие за принятием решения (следовательно, менеджер должен демонстрировать коммуникативные, мотивационные и лидерские качества). 

Этап сопровождения и контроля. Благодаря последующему анализу и контролю становится возможным убеждение в том, что принятые решения и правда могут приводить к результатам (исходам), которые разрешают и реализовывают те задачи менеджмента, благодаря которым были запущены процессы принятия решений. 

Замечание 5

Этап оценки требует от менеджера проведение анализа информации о характере и статусе выполнения его решения, а также является ли этот процесс эффективным для достижения сформулированных целей. 

Большим уровнем значимости в процессе реализации управленческих решений обладает наличие обратной связи, что обуславливается особенностями процесса принятия решений – его последовательностью и непрерывностью.  

Благодаря наличию обратной связи от исполнителей управленческих решений, менеджер обладает информацией, которая может инициировать организацию новых циклов. Возможно, решение будет являться неэффективным – в этом случае необходимым будет проведение нового анализа проблем, совместно с оценкой вариантов и разработкой нового плана действий. 

Именно этим способом разрешается большое количество крупных проблем: происходит последовательное внедрение различных вариантов, благодаря каждому из которых ситуация улучшается. Обратная связь является элементом контроля, благодаря которому менеджер получает информацию о необходимости принятия новых решений. 

Особенности и принципы разработки управленческих решений в организации 

К особенностям создания управленческого решения принято относить: 

1. Определение вариантов действий, выбор наилучшего варианта, формулировку задания, организационно-практическую работу по реализации этого задания. Решение – это не просто план действий или распоряжение менеджера, это реальное разрешение практической проблемы, изменение ситуации, получение нового качества. Поэтому его и можно рассматривать как непосредственный результат технологии менеджмента.
2. Переход процесса управления из сферы управления в сферу производства продукта или услуг, в сферу управляемых процессов. Это переход из области анализа и поиска вариантов действий в область организационной работы в управляемой системе.
3. Разрешение противоречия ситуации и цели, практическое решение проблемы. Решение характеризуется как этап технологии процесса управления, так и ее результат.

В ходе разработки управленческих решений принято руководствоваться такими принципами, как: 

1. Принцип методологии разработки решения. Этот принцип состоит в выборе и реализации соответствующего подхода к анализу и оценке ситуаций, исследованию и проектированию вариантов, структурированию информации. Они могут быть разными: научный, прагматический, эмпирический, с позиций математического моделирования или организационного поведения. Можно сделать разветвленную классификацию подходов к разработке управленческих решений. В практической деятельности, методология складывается из их комбинации, в которой всегда существуют определенные приоритеты.
2. Принцип организационной значимости. Сущностью этого принципа является наличие в решении организационного потенциала, организующего стержня. Решение по сути своей – это действие, которое возможно осуществить без организации, то есть необходимого порядка, согласования, распределения усилий, ответственности.
3. Принцип проблемности. Решение должно всего быть способом разрешения определенной проблемы. Решение выступает в качестве устранения противоречий, которые существуют в актуальных условиях. В этом заключается сущность и назначение решений, этим также определяется и его потенциал. 
4. Принцип ситуативности. В решении должны учитываться особенности и характер ситуации, а также необходимость в их изменении. Решение имеет прямую зависимость от итогов оценки ситуации, а также оценки всех, заложенных в ней противоречий, а также всех вариантов изменения ситуации. Принятие реальных решений является результатом глубокого анализа и понимания ситуации. 
5. Принцип технологической рациональности. Разработка решений всегда представляет собой некоторую схему действий персонала управления, это технология «изготовления» решения в виде комплекса действий управляемой системы. Такая технология должна быть рациональной, то есть строиться по критериям экономии времени, людских и материальных ресурсов, допустимой простоты, необходимой логистики. Если учитывать, что разработка управленческих решений – в значительной мере интеллектуальная работа, то станет ясно, что построение ее технологического алгоритма – непростое дело.
6. Принцип целенаправленности и соответствия целей. Необходимость в управленческих решениях возникает в случае нахождения противоречий между целями организации и актуальной ситуацией, совместно с характером возможностей преобразования ситуации в направлении принятых целей. Решение является шагом к цели, этапом на пути ее достижения. Успешное управленческое решение является выбором наиболее краткого пути в стратегическом развитии предприятия. 
7. Принцип элективности. Говоря иными словами, это процесс выбора одного решения из совокупности всех возможных вариантов. Как правило, в практике управления редко можно обнаружить наличие одного, либо двух решений. Всегда существуют иные возможные варианты, из числа которых менеджеру необходимо выбрать один. В основе этого выбора находится критериальная определенность, то есть формулирование перечня критериев, которые характеризуют степень приемлемости решения, а также его качество и эффективность. 

Алгоритм принятия управленческих решений

В своей практической деятельности менеджер постоянно сталкивается и решает различные организационно-управленческие проблемы. Искусство менеджера состоит в том, что вовремя оценивать проблемы и намечать путь к их решению. На результативность управ­ленческих решений оказывает влияние множество различных факто­ров, в том числе и порядок действий руководителя, принимающего решения. На рис.8.1 представлена схема процесса принятия решения, которая позволяет структурно упорядочить данный процесс и смо­делировать принятие оптимального решения.

Рис. Структурная схема процесса принятия решения

Эталонный алгоритм принятия управленческого решения

1. Определение отклонения фактического состояния системы управления от желаемого.
2. Сбор полной и достоверной информации о проблеме, ее об­работка и анализ
3. Подтверждение существования проблемы.
4. Формулирование проблемы.
5. Оценка новизны проблемы.
6. Определение причин возникновения проблемы.
7. Установление взаимосвязи с другими проблемами.
8. Формирование целей принимаемого решения.
9. Определение разрешимости проблемы.
10. Разработка вариантов решения.
11. Определение критериев оценки для выбора лучших вариан­тов.
12. Оценка каждого варианта решения.
13. Установление допустимых (приемлемых) вариантов реше­ния.
14. Ранжирование решений.
15. Выбор наилучшего варианта решения.
16. Организация подготовки решения.
17. Реализация решения исполнителями.
18. Контроль за исполнением.

 

 

Список литературы

1. Основы менеджмента и маркетинга / Под ред. Р.С. Седегова. -М.: Высшая школа, 1995.-382 с.

2. Сборник деловых игр, конкретных ситуаций и практических задач / Под ред. В. И. Матирко,- М.: Высшая школа, 1991.-255 с.

3. Красовский Ю Д. Управление поведением в фирме. — М.: Инфра-М, 1997.-368 с.

4. Справочник директора предприятия / Под ред. М.Г. Лапусты. -М.: Инфра-М, 1997,- 704 с.

5. Щадилова С.Н. Расчет заработной платы на предприятиях всех форм собственности. — М.: ИКЦ ДИС, 1997. — 176 с.

6. Сборник законов РФ о труде / Составитель В. Г. Коняхин. — Краснодар: ИЦ Правовая информация, 1996. — 287 с.

7. Кричевский Р.Л. Если вы—руководитель. — М.: Дело, 1993. -352 с.

8. Геммерлинг Г. А. Ваше дело. Практический курс предпринимательства. — М.: ИЦ БИНОМ, 1997. — 416 с.

9. Травин В.В. Основы делового менеджмента. — М.: Дело, 1995,- 336 с.

 

Поталицына Л.M.

доцент кафедры Экономики

Томский государственный университет систем управления и радиоэлектроники (ТУСУР)

Количество показов: 21344

6.4 Алгоритмы принятия решения о пожаре / КонсультантПлюс

6.4.1 Принятие решения о возникновении пожара в заданной ЗКПС должно осуществляться выполнением одного из алгоритмов: A, B или C. Для разных частей (помещений) объекта допускается использовать разные алгоритмы.

6.4.2 Алгоритм A должен выполняться при срабатывании одного ИП без осуществления процедуры перезапроса. В качестве ИП для данного алгоритма могут применяться ИП любого типа, при этом наиболее целесообразно применение ИПР.

6.4.3 Алгоритм B должен выполняться при срабатывании автоматического ИП и дальнейшем повторном срабатывании этого же ИП или другого автоматического ИП той же ЗКПС за время не более 60 с, при этом повторное срабатывание должно осуществляться после процедуры автоматического перезапроса. В качестве ИП для данного алгоритма могут применяться автоматические ИП любого типа при условии информационной и электрической совместимости для корректного выполнения процедуры перезапроса.

6.4.4 Алгоритм C должен выполняться при срабатывании одного автоматического ИП и дальнейшем срабатывании другого автоматического ИП той же или другой ЗКПС, расположенного в этом помещении.

При использовании адресных автоматических ИП и получении сигнала «Неисправность» от одного или нескольких адресных автоматических ИП в помещении допускается формировать сигнал «Пожар» при срабатывании одного адресного автоматического ИП.

При использовании безадресных автоматических ИП, подключенных в разные, но взаимозависимые линии связи одной ЗКПС, в случае наличия извещения о неисправности одной линии связи или нескольких из них допускается формировать сигнал «Пожар» при срабатывании одного безадресного автоматического ИП.

6.4.5 Выбор конкретного алгоритма осуществляет проектная организация при условии, что алгоритмы A и B могут применяться только для ЗКПС, которые не формируют сигналы управления СОУЭ 4 — 5 типов и АУПТ. Сигналы управления СОУЭ 4 — 5 типов и АУПТ могут быть сформированы от ЗКПС при выполнении алгоритма A, если в данной ЗКПС установлены только ИПР.

Открыть полный текст документа

Математики предложили новый алгоритм принятия решений

Исследователи из Университета Хохай и РУДН предложили алгоритм, который позволяет большой группе людей принять оптимальное решение за короткий срок. Математики продемонстрировали успешность модели на примере достижения консенсуса при закрытии рынка морепродуктов — очага вспышки COVID-19 в Ухани. Алгоритм позволил «договориться» администрации рынка и продавцам о сумме компенсации всего за три шага. Статья опубликована в Information Sciences.

Теория принятия решений — область математики, которая изучает, по каким закономерностям люди принимают решения и выбирают стратегии. В математической постановке принятие решения превращается в задачу оптимизации со множеством критериев — эксперты, мнения и возможные риски превращаются в переменные, а взаимодействие участников и поиск оптимального решения выражаются математическими операциями. Одна из моделей теории — LSGDM — описывает ситуации, когда решение принимается более чем 20 экспертами-участниками. В LSGDM на мнение экспертов влияют внутренние межличностные отношения — например, участники поддерживают мнение тех экспертов, с которыми установлены дружеские отношения. Из-за этого возникает неопределенность — неизвестно, как «убедить» участников скорректировать свое мнение и прийти к консенсусу. Исследователи предложили способ, который позволяет избавиться от этой неопределенности.

«С развитием информационных технологий все большее число лиц участвуют в принятии решений. Поэтому LSGDM стало «горячей точкой» исследований. Участники в LCGDM представляют различные сферы интересов, поэтому консенсус занимает больше времени и требует модератора, который способен убедить экспертов приблизить свое мнение к консенсусу», — говорит один из исследователей, профессор РУДН Энрике Эррера-Вьедма.

Решение математиков основано на так называемой робастной оптимизации. Это техника, которая позволяет справиться с задачами оптимизации, чувствительными к изменению входных данных — в данном случае к межличностным связям между участниками. Математики предложили новый способ разделения экспертов на группы — или кластеры — в зависимости от степени доверия между ними и близости их отношений. Предложенный алгоритм включает несколько шагов — сначала экспертов разделяют на кластеры, затем выбирают тот кластер, мнение членов которого сильнее всего отличается от общего, и корректируют его. Итерации повторяют до тех пор, пока не будет достигнут консенсус, который устраивал бы всех участников. Каким именно способом добиться, чтобы люди в кластере поменяли мнение, с точки зрения математики не важно. Важна только некоторая обобщенная «цена» переговоров — количество ресурсов, которые нужно потратить на это (время, деньги или любой другой ресурс).

Авторы статьи продемонстрировали работу алгоритма на реальном примере. После вспышки коронавирусной инфекции в Ухане рынок морепродуктов вынужден был закрыться. Управляющим рынка нужно было принять оптимальное решение — компенсировать продавцам убытки так, чтобы те остались довольны, но при этом не разориться. Математики выбрали 20 продавцов, которые выдвинули свои предложения о размере компенсации, которую они хотят получить от владельца рынка за закрытие торговой точки — от 200 до 900 юаней. Участников разбили на четыре группы в зависимости от схожести мнения, соседства торговых мест на рынке и других факторов. Разработанный алгоритм позволил прийти к консенсусу, который устроил и владельца, и арендаторов, всего за три шага — итоговая сумма компенсации составила 880 юаней. При этом для владельца рынка «цена» переговоров оказалась минимальной по сравнению с другими существующими алгоритмами.

ПРИЛОЖЕНИЕ 4. Алгоритм принятия решений

На чем должен быть основан выбор профессии, если вы хотите построить успешную карьеру и принести пользу миру? Мы расскажем, как можно провести сравнительную характеристику карьерных возможностей с помощью нашего четырехступенчатого алгоритма.

Как сравнивать карьерные возможности?

Краткосрочная перспектива

Для начала ограничимся оценкой вашей потенциальной эффективности в краткосрочной перспективе. Здесь можно выделить две составляющих:

1. эффективность самой должности — то, насколько значительным может быть вклад специалиста на этом месте работы;
2. ваш личный потенциал — то, насколько именно вы можете преуспеть на этой должности.

Мы считаем, что эти два фактора усиливают друг друга. Иными словами, если вы будете в два раза компетентнее выполнять свои профессиональные обязанности, то и ваша общая эффективность будет в два раза выше.

Долгосрочная перспектива

Тем не менее нас волнует ваш потенциальный вклад и в долгосрочной перспективе. Здесь мы тоже обозначим два условия:

1. карьерный капитал — те возможности, благодаря которым та или иная должность позволит вам в будущем сделать максимальный общественный вклад;
2. ваш личный потенциал — то, насколько вы можете воспользоваться этими возможностями.

Личная удовлетворенность

Прежде мы обсуждали исключительно пользу, которую вы можете принести миру, но как насчет вашей собственной удовлетворенности? Мы знаем, как важна удовлетворенность работой для долгосрочного общественного вклада, ведь если вы не получаете удовольствия от своей работы, возрастает опасность быстро перегореть.

В Главе 1 мы обсуждали, что если вы найдете работу, в которой будете компетентны и полезны другим людям, это уже будет огромным шагом на пути к успешной карьере. Не менее значимую роль для вашего личного успеха и роста играет карьерный капитал.

Однако есть и еще несколько условий, необходимых для того, чтобы испытывать удовлетворение от работы. Кроме вышеперечисленного, работа должна быть увлекательной и целиком поглощать ваше внимание, удовлетворять ваши базовые потребности (имеется в виду размер заработной платы, количество рабочих часов и т.д.), соответствовать вашему образу жизни, а еще вам должны нравиться ваши коллеги. Эти факторы мы будем рассматривать как отдельную категорию, которую мы называем «благоприятными условиями».

Таким образом, все факторы выстраиваются в следующую формулу:

Как расставить приоритеты?

Вот несколько рекомендаций по поводу того, как можно сравнить и сопоставить различные факторы.

• Если вы только начинаете свой карьерный путь, лучше сосредоточиться на накоплении карьерного капитала, а не на поиске влиятельной должности, поскольку на этом этапе вы можете щедро делать вложения в себя. Если вы уже профессионал, о карьерном капитале можно уже не думать, лучше сосредоточиться вместо этого на пользе, которую вы способны принести сейчас. Степень важности накопления карьерного капитала зависит и от того, насколько насущными являются те проблемы, на решении которых вы хотите сосредоточиться.
• Чем расплывчатее у вас представления о вашем отдаленном будущем, тем важнее делать упор на приобретение разностороннего, а не узкоспециального карьерного капитала. Разносторонний карьерный капитал может быть полезен в различных сферах деятельности.
• Чем больше в вас альтруизма, тем меньшее значение вам стоит придавать благоприятным условиям работы по сравнению с другими факторами.
• Имейте в виду, что наиболее важным фактором потенциально является соответствие работы вашей личности, поскольку этот фактор может скомпенсировать все остальные.

Значимость «разведки»

В карьерных решениях много неопределенности, поэтому лучшее, что вы можете сделать — это по максимуму изучить имеющиеся возможности.

Так вы сможете принимать более удачные решения в долгосрочной перспективе.

Иногда попробовать себя в той или иной сфере стоит просто ради эксперимента. Поэтому раньше мы включали значимость «разведки» в наш алгоритм. Сейчас нам кажется, что этот пункт может сбить вас с толку, так что мы его отсюда убрали (но включили в рекомендации в Главе 6). Как бы там ни было, сама идея нам по-прежнему нравится: зачастую самое важное, что вы можете сделать, это изучить на практике как можно больше возможностей.

Как пользоваться алгоритмом

Когда речь заходит о том, как найти идеальную работу, мы всеми руками за то, чтобы человек пробовал себя в разных сферах и экспериментировал с различными видами деятельности, изучал их на практике, а не пытался продумать все наперед. Однако у вас, конечно, может быть не так много времени на эксперименты, поэтому придется каким-то образом сразу сократить список вариантов.

Если после всех исследований вы все еще не сможете принять решение, вам в итоге придется проводить углубленную оценку каждого варианта, который останется в окончательном списке.

Сначала вы интуитивно определяете круг интересующих вас профессий и составляете их рейтинг.

Затем их нужно оценить по следующим критериям:

• соответствие вашим личностным качествам;
• возможность оказывать влияние на мир;
• приобретение карьерного капитала;
• удовлетворенность работой;
• другие факторы личностного характера, не учтенные выше.

При составлении предварительного списка исключите варианты, которые не соответствует одному из этих пунктов или уступают другим вариантам (по всем пунктам).

При проведении дальнейшего отбора оцените каждый вариант по шкале от 1 до 5 баллов по каждому из критериев. Так у вас должен появиться очевидный лидер. Если этого не произойдет, такая оценка все равно поможет вам глубже понять свои возможности. Покажите свой список с баллами друзьям и попросите их убедиться, не допустили ли вы где-нибудь ошибки.

В каждом конкретном случае будут свои решающие факторы, которым вам захочется уделить больше внимания. Возможно, в итоге ваш список станет короче и конкретнее.

Можно также сложить баллы за каждый критерий и на основе их суммы ранжировать варианты. Очевидно, что так ваш рейтинг будет более точным, чем если вы просто будете полагаться на интуитивное представление о том, что для вас лучше. Тем не менее, не стоит слепо полагаться на общий счет. Если что-то вам подсказывает, что результат неправильный, попытайтесь найти причину ошибки. Бывают случаи, когда наши инстинкты оказываются вернее рациональных расчетов (к примеру, в ситуациях, связанных с общением), но иногда к более точным результатам все-таки приводит аналитическое мышление.

Чтобы проверить точность расчетов, поочередно оцените каждую сумму баллов и спросите себя, где здесь может быть ошибка, или попробуйте аргументировать свой ответ вслух для товарища.

Как оценить потенциальное место работы по каждому из факторов

Ниже представлен список вопросов, о которых стоит подумать, оценивая потенциальное место работы по каждому из факторов.

Соответствие личностным качествам

Для начала определите, каковы шансы среднестатистического человека достичь успеха в этой области — то есть базовый процент. Затем подумайте, выше или ниже среднего ваши собственные шансы на успех.

• Какие качества приводят к успеху в заданной сфере? Они у вас есть?
• Может ли в этой сфере пригодиться ваш самый ценный карьерный капитал? Смогут ли раскрыться ваши лучшие качества?
• Если в течение года-двух вы будете терпеть неудачи, хватит ли вам настойчивости продолжать?

Возможность оказывать влияние на мир

В этой категории мы обычно задаем следующие вопросы (потенциал влияния пропорционален произведению этих двух факторов).

1. Насколько актуальной является проблема, решением которой вы собираетесь заняться? Здесь можно выделить такие подпункты:
1. является ли проблема масштабной;
2. испытывает ли она недостаток внимания;
3. какова вероятность повлиять на ее решение.
2. Насколько большой вклад в решение проблемы можете сделать вы? Здесь можно выделить следующие подпункты:
1. непосредственное влияние;
2. влияние через пожертвования;
3. влиятельное положение и гражданский активизм.

Вот еще несколько наводящих вопросов.

• Будет ли у вас возможность выбирать, над решением какой проблемы работать?
Преодолевали ли когда-нибудь подобный путь люди, которые смогли сделать мир значительно лучше?
• Избегают ли другие люди такого пути по сомнительным причинам?

О четырех видах влиятельной карьеры можно прочитать в Главе 4.

Карьерный капитал

1. Навыки: чему вы научитесь на этой работе? Навыки можно разделить на навыки широкого применения, знания и личностные качества. Быстрее всего вы будете обучаться там, где у вас будет хороший куратор.
2. Связи: с кем вам предстоит работать и заводить знакомства на этой работе? Важно налаживать связи с тем, кто имеет влияние и одновременно заботится о своем общественном вкладе.
3. Успехи: будет ли опыт, приобретенный на этой работе, оценен по достоинству вашими будущими партнерами или работодателями? Обратите внимание, мы имеем в виду не только формальности вроде степени в области права, но и ваши личные достижения и репутацию. Если вы пишете, за вас говорит ваш блог. Если вы программист, за вас говорит ваш профиль на GitHub.
4. Буферный период: сколько денег вы сможете откладывать на этой работе? Буферный период определяется сроком, в течение которого вы сможете комфортно жить, ничего не зарабатывая. Ради вашей финансовой безопасности, мы рекомендуем вам обеспечить себе такой буферный период как минимум на полгода. Если ваш буферный период составит год или даже полтора года, это даст вам намного больше свободы, когда возникнет необходимость сменить работу.

И не забудьте подумать над следующими вопросами.

• Насколько такая карьера сможет приблизить вас к достижению ваших среднесрочных целей?
• Насколько разносторонним будет ваш карьерный капитал? Сможет ли он в будущем пригодиться вам в множестве разнообразных сфер деятельности?

Список оптимальных вариантов для приобретения карьерного капитала можно найти в Главе 5.

Благоприятные условия

• (Возможность оказывать влияние и личностные качества уже рассмотрены выше.)
• Захватывающая работа: предоставят ли вам свободу принимать самостоятельные решения, будут ли перед вами четко поставленные задачи, будет ли адекватная обратная связь, будет ли деятельность разнообразной?
• Коллеги: будут ли они вам по нраву, будут ли они вас поддерживать?
• Базовые потребности: сможете ли вы зарабатывать достаточно, будет ли умеренным рабочий день, легко ли будет добираться до работы?
• Соответствие вашему образу жизни: сможете ли вы наладить личные отношения и оставаться верным своим личным приоритетам?

Более подробно об удовлетворенности работой можно прочитать в Главе 1.

алгоритмов для принятия лучших решений | by Romy Maghsoudi

Получите максимальную отдачу от своих решений, используя один или два алгоритма, это не так сложно, как кажется.

источник: https://giphy.com/

Алгоритмы — это сложные математические уравнения для компьютеров, которые мало используются людьми на практике, или так ли? На самом деле алгоритм — это просто набор шагов, которые необходимо выполнить для выполнения задачи. Вы можете составить алгоритм заказа пиццы, который выглядел бы примерно так: выберите корочку, выберите соус, выберите количество сыра, выберите начинку и отправьте заказ.Мы только что создали алгоритм пиццы, и что, не получив четырехлетнего диплома специалиста по информатике? Невозможно, я знаю, но это все, что алгоритм лежит в его основе, набор шагов, чтобы что-то сделать, хотя название и его интенсивное использование в компьютерных науках делают его пугающим. Решения Решения, проклятие существования, я принимаю правильное решение, это лучший вариант, пожалею ли я об этом? Что ж, хорошие новости для нерешительных людей, для этого есть алгоритм!

В идеале, когда вы принимаете решение, вам нужен лучший результат с наименьшим количеством сожалений.Есть два способа подойти к этому: один предполагает расчеты, которые не идеальны при выборе лучшего пакета чипсов в продуктовом магазине, но могут быть полезны, когда у вас есть время, чтобы определить, какой вариант будет лучшим. Эти варианты оптимальной остановки и Байесовских бандитов соответственно. Хотя у обоих одна и та же идея исследования и эксплуатации, хотя эксплуатация в этом случае означает получение полной награды от кого-то, а не эгоистичное манипулирование кем-то.

бурный мир алгоритмов

Как вы можете надеяться принять обоснованное решение без базового набора для сравнения? Что ж, вы не можете этого сделать, если вы хотите максимальных шансов на лучший результат.Используя небольшую частушку, называемую оптимальной остановкой, вы можете выяснить, когда следует предпринять определенные действия для достижения наилучшего результата. Итак, если у вас есть определенное количество чего-то, из чего вы можете приходить к вам по одному, что мне выбрать, чтобы у меня были наибольшие шансы выбрать лучший вариант? Это можно использовать для процесса найма, выбора дома / квартиры или даже для поиска своей второй половинки. Он разделен на 2 этапа: этап изучения и этап выбора. Вам следует изучить определенное количество вариантов, чтобы установить базовый уровень, а затем выбрать первый вариант, который превосходит ваш базовый уровень после того, как он был определен.Но подождите, сколько вариантов мне нужно выбрать, чтобы установить базовый уровень? Как я могу не смотреть слишком много или слишком мало? Что ж, оптимальная остановка говорит о том, что вы должны пройти 37% ваших вариантов без каких-либо обязательств, просто чтобы установить ваш базовый уровень, и это максимизирует вашу вероятность выбрать лучшее из вашего пула. И какова ваша вероятность выбрать лучшее из своего пула с помощью этого метода? Как вы уже догадались, 37%, сейчас это может показаться невысоким, но с нашей склонностью людей искать слишком долго или слишком мало, такая вероятность будет намного ниже и составляет около 11%.Теперь мы можем бесконечно усложнить задачу, пытаясь рассмотреть каждый непредсказуемый аспект реальной жизни, но это непрактично. Итак, как только наша базовая линия установлена ​​и мы рассмотрели 37% наших вариантов, мы выберем первый вариант, который превосходит все, что мы уже видели, чтобы иметь 37% -ный шанс выбора наилучшего из возможных вариантов. Но Роми, как мне выбрать вторую половинку из миллиардов? Вы этого не делаете, вы сами устанавливаете размер пула, потому что, если вы этого не сделаете, вы будете встречаться до тепловой смерти Вселенной.То же самое и с охотой за домом, очевидно, вы не собираетесь проверять каждый дом в стране, но вы выберете установленную сумму, а затем изучите эти варианты.

Другой вариант, байесовские бандиты, больше используется компаниями и бизнесом при изучении реализаций своего продукта. Это проистекает из проблемы, называемой проблемой многорукого бандита, в которой вы сталкиваетесь с несколькими игровыми автоматами с разными выплатами, и вопрос в том, как вы можете найти тот, который имеет лучшую ставку выплат при максимальном выигрыше? Вы можете начать понимать, почему компании используют это часто, потому что у вас может быть много итераций продукта или много презентаций, и как бизнес вы хотите использовать тот, который максимизирует прибыль.Он также используется в медицинской промышленности при проведении клинических испытаний. Простая версия — это A / B-тест, у вас есть два варианта: лекарство и плацебо в случае клинических испытаний или 2 разных макета веб-сайта для тестирования. Затем, используя собранные данные, вы сможете рассчитать вероятность того, какой вариант лучше в долгосрочной перспективе. Это становится более сложным, чем больше рук, которые нужно тянуть, и с большим количеством факторов, поэтому практичность использования этого в повседневной жизни не слишком выгодна для среднего Джо, они выиграют больше от оптимальной остановки, поскольку она уже рассчитана для ты.Я могу написать еще одну статью, объясняющую сложности реализации байесовских бандитов и математических уравнений этого, но общая идея состоит в том, чтобы проверить вероятность каждой руки и использовать ту, которая с наибольшей вероятностью успеха.

Источник: https://giphy.com/

Алгоритмы могут быть чрезвычайно сложными и содержать математику высокого уровня, но они могут быть полезны в повседневной жизни, хотя в большинстве случаев вычисления не имеют смысла. сложные уравнения выбора марки шампуня.Алгоритмы также могут упростить сложности жизни, потому что в жизни так много движущихся частей и переменных, что может быть унизительным думать о вещах в терминах конкретных ответов, а не гипотетических и бесконечных возможностей.

Алгоритмы принятия решений

Введение

Эта книга представляет собой широкое введение в алгоритмы принятия решений в условиях неопределенности. Мы охватываем широкий спектр тем, связанных с принятием решений, знакомя с основными математическими формулировками задач и алгоритмами их решения.

Скачать

Полная книга доступна в формате PDF. Вы также можете скачать отдельные главы. PDF-файл доступен по лицензии Creative Commons CC-BY-NC-ND.

Авторские права на эту книгу принадлежат исключительно прессе Массачусетского технологического института. Все запросы относительно прав следует направлять в Департамент прав и разрешений MIT Press.

Мы будем вносить улучшения на основе отзывов сообщества.Он будет выпущен в печатном виде в начале 2022 года, но эта электронная версия останется общедоступной.

Чтобы получить уведомление, когда версия для печати будет доступна, вы можете указать здесь свой адрес электронной почты.

Наброски

1. Введение

Часть I: Вероятностное рассуждение

2. Представительство
3. Вывод
4. Обучение параметрам
5. Структурное обучение
6. Простые решения

Часть II: Последовательные проблемы

7. Методы точного решения
8. Функции приблизительного значения
9. Онлайн-планирование
10. Поиск политики
11. Оценка градиента политики
12. Оптимизация градиента политики
13. Актерско-критические методы
14. Проверка политики

Часть III: Неопределенность модели

15. Разведка и разработка
16. Модельно-ориентированные методы
17. Методы без модели
18. Имитационное обучение

Часть IV: Неопределенность состояния

19. Убеждения
20. Exact Belief Государственное планирование
21. Offline Вера Государственное планирование
22. Онлайн-вера Государственное планирование
23. Абстракции контроллера

Часть V: Мультиагентные системы

24. Мультиагентное мышление
25. Последовательные проблемы
26. Неопределенность состояния
27. Совместные агенты

Приложения

28. A: Математические концепции
29. B: Вероятностные распределения
30. C: Вычислительная сложность
31. D: нейронные представления
32. E: Алгоритмы поиска
33. F: Проблемы
34. G: Юлия

Ошибки

Мы заинтересованы во всех формах обратной связи, включая, помимо прочего: ошибки, улучшения кода (особенно улучшения ясности, а не скорости), опечатки, области, которые сбивают с толку, критические темы, которые отсутствуют, и идеи для примеров или упражнений.

Сообщите о проблемах на GitHub или отправьте электронное письмо по адресу, указанному внизу страниц PDF.

Справедливость в алгоритмическом принятии решений

Введение

Алгоритмические или автоматизированные системы принятия решений используют данные и статистический анализ для классификации людей с целью оценки их права на получение льготы или наказания. Такие системы традиционно использовались для принятия кредитных решений, а в настоящее время широко используются для проверки занятости, определения права на страхование и маркетинга.Они также используются в государственном секторе, в том числе для предоставления государственных услуг, а также при вынесении приговоров и приговоров к условному осуждению в рамках уголовного правосудия.

Большинство этих автоматизированных систем принятия решений полагаются на традиционные статистические методы, такие как регрессионный анализ. Однако недавно в эти системы было включено машинное обучение, чтобы повысить их точность и справедливость. Эти передовые статистические методы стремятся найти закономерности в данных, не требуя от аналитика заранее указывать, какие факторы использовать.Они часто обнаруживают новые, неожиданные связи, которые могут быть не очевидны для аналитика или вытекают из здравого смысла или теоретического понимания предмета. В результате они могут помочь обнаружить новые факторы, повышающие точность прогнозов приемлемости и решений, основанных на них. Во многих случаях они также могут повысить справедливость этих решений, например, за счет расширения пула квалифицированных соискателей на работу, чтобы улучшить разнообразие персонала компании.

Однако серьезной новой проблемой, связанной с этими системами машинного обучения, является определение того, когда и как они могут внести предвзятость в процесс принятия решений.Некоторые технические особенности этих систем могут приводить к дискриминационным решениям, которые являются артефактами самих моделей. Входные данные, используемые для обучения систем, могут недостаточно представлять членов защищенных классов или быть заражены прошлой дискриминационной практикой. Следовательно, данные могут непреднамеренно воспроизвести или усилить исторические закономерности предвзятости.

Кроме того, прокси для защищенных классов могут быть незамеченными в других факторах, используемых в моделях машинного обучения. Несмотря на сложность, эти факторы могут непреднамеренно оказаться слишком грубыми, чтобы точно отразить квалификацию членов защищенных классов.

«Необнаруженные и незамеченные, эти потенциальные предубеждения могут помешать системам машинного обучения выполнить свое обещание по значительному повышению точности и справедливости автоматизированных систем принятия решений».

Необнаруженные и незамеченные, эти потенциальные предубеждения могут помешать системам машинного обучения выполнить свое обещание по значительному повышению точности и справедливости автоматизированных систем принятия решений. Они также могут подвергнуть разработчиков и пользователей этих систем юридической ответственности за несоблюдение антидискриминационных законов.

Правовая база и разработки

Ряд законов США запрещает дискриминацию защищенных классов в различных контекстах, таких как занятость, кредит, жилье, общественное жилье, государственное образование, отбор присяжных, использование генетической информации, а также здравоохранение и медицинское страхование. Защищенные классы включают: расовые, этнические, религиозные и национальные меньшинства; женщины; пожилые люди; и люди с генетической уязвимостью, инвалидностью или ранее существовавшими заболеваниями.

Незаконная дискриминация может быть преднамеренной, когда компания сознательно принимает во внимание статус защищенного класса для принятия решений, ставящих в невыгодное положение членов защищенного класса. Примеры этого включают в себя компанию, явно исключающую членов расовой группы из своего кадрового резерва, или компанию, сознательно применяющую нейтральные критерии принятия решений таким образом, чтобы нанести вред защищенным членам класса — например, только тестирование членов защищенного класса на предмет профессиональных навыков. Однако дискриминация также может быть совершенно бессознательной, когда нейтральная процедура приводит к решениям, которые непропорционально и систематически наносят ущерб защищенным классам.

Законы о борьбе с дискриминацией охватывают использование автоматизированных систем принятия решений, основанных на традиционных статистических методах или алгоритмах машинного обучения. Даже если разработчики намеренно избегают использования переменных для защищенных классов, такие системы все равно могут оказывать несопоставимое влияние, если они используют переменные, которые коррелируют как с выходной переменной, которую система пытается предсказать, так и с переменной для статуса защищенного класса. Следовательно, правовой риск при использовании этих систем возникает в меньшей степени из-за возможности преднамеренной дискриминации и в большей из-за претензий о несопоставимых последствиях.

«Даже если разработчики намеренно избегают использования переменных для защищенных классов, системы [автоматизированных решений] все равно могут оказывать несопоставимое влияние».

Согласно антидискриминационным законам ответственность за разрозненное воздействие на защищенные классы является сложной и противоречивой. Судебные решения последних лет скептически относились к этим утверждениям, и такая судебная практика уменьшила чувство безотлагательности в частном секторе, чтобы избежать несопоставимой дискриминации воздействия. Сложность и неопределенность возрастают, когда задействованы автоматизированные системы принятия решений. ¹

При оценке юридических жалоб на предмет несопоставимых последствий обычно применяется трехступенчатая схема распределения бремени. Истец должен показать, что процедура принятия решения оказывает несоразмерно вредное воздействие на защищаемый класс. Затем бремя перекладывается на ответчика, который должен продемонстрировать, что процедура принятия решения служит законной деловой цели. Затем бремя перекладывается на истца, который должен представить доказательства наличия альтернативы, которая могла бы достичь цели с менее вредным воздействием на защищаемый класс. ²

Несмотря на юридические сложности, регулирующие органы применили разрозненный анализ воздействия в соответствии с действующими антидискриминационными законами к самым современным методам машинного обучения. Бюро финансовой защиты потребителей (CPFB) заявило о своей юрисдикции над Upstart, компанией, которая использовала альтернативные данные и алгоритмы для оценки решений о кредитовании в соответствии с Законом о равных возможностях кредитования. ³ В своей оценке за 2019 год CPFB обнаружил, что модель Upstart одобрила больше кредитов и снизила процентные ставки для всех рас и групп меньшинств, таким образом не создавая диспропорций, которые требовали бы дальнейших действий в соответствии с законами о справедливом кредитовании.

Кроме того, в этом году Департамент жилищного строительства и городского развития возбудил дело против Facebook, утверждая, что он нарушил запрет на дискриминацию в отношении жилья, поскольку его алгоритмы машинного обучения отбирали аудиторию рекламодателя таким образом, чтобы исключить определенные группы меньшинств. В отделе заявили, что алгоритмы Facebook работают «как рекламодатель, который намеренно нацеливает или исключает пользователей на основе их защищенного класса». ⁴

Несмотря на эти инициативы, в настоящее время рассматриваются некоторые реформы, которые могут ослабить ответственность за несоизмеримые воздействия.Департамент жилищного строительства и городского развития предложил пересмотреть схему распределения бремени, чтобы продемонстрировать разрозненное воздействие. Агентство предлагает предоставить компаниям несколько новых способов опровергнуть утверждение prima facie о том, что их модели риска вызывают дискриминационный эффект. Во-первых, ответчик может избежать ответственности, если он сможет показать, что внутренняя патентованная модель предсказывает кредитный риск и что основные используемые факторы не являются заместителями для защищенных классов. Для этого он может использовать сторонний валидатор.Во-вторых, жилищные кредиторы могут избежать разрозненной ответственности за ущерб, если они будут полагаться на сторонние алгоритмы и использовать модель по назначению, при условии, что сторонний поставщик является «признанной третьей стороной, определяющей отраслевые стандарты». В этой новой структуре у истца, возможно, никогда не будет возможности продемонстрировать наличие столь же эффективной альтернативной модели принятия решений, которая дает менее вредные результаты для защищенных классов. ⁵

Другие правовые и политические разработки имеют отношение к использованию алгоритмических систем принятия решений.Дела, рассматриваемые в Верховном суде, касаются того, запрещает ли действующий закон дискриминацию на рабочем месте по признаку сексуальной ориентации или гендерной идентичности. ⁶ Закон остается неясным в отношении дискриминации в других областях, таких как жилье, государственное образование, общественные помещения, выбор присяжных и кредит. Закон о равенстве, закон, который расширит защищенные классы, включив в него сексуальную ориентацию и гендерную идентичность в широком диапазоне контекстов, был принят Палатой представителей в 2019 году и находится на рассмотрении в Сенате.Хотя эти дела Верховного суда и Закон о равенстве не имеют прямого отношения к автоматизированным системам принятия решений на основе ИИ, они позволят прояснить группы, чьи интересы не должны быть ущемлены в соответствии с законами о борьбе с дискриминацией, и, таким образом, повлияют на юридические обязанности разработчиков и пользователей этих системы, чтобы избежать дискриминационного воздействия этих систем.

Конгресс также рассматривает закон, обязывающий компании учитывать алгоритмическую справедливость. Закон об алгоритмической ответственности от 2019 года требует от компаний оценивать свои системы автоматического принятия решений на предмет рисков «неточных, несправедливых, предвзятых или дискриминационных решений».Они также должны «разумно рассматривать» результаты своих оценок. Законопроект уполномочивает Федеральную торговую комиссию проводить нормотворческие процедуры для решения важнейших деталей этих требований.

Рекомендации для предприятий

Этот правовой фон обеспечивает контекст для рассмотрения компанией разрозненной оценки воздействия автоматизированных систем принятия решений, которые они разрабатывают или используют. Ключевой исходный момент заключается в том, что компаниям во всех сферах экономики необходимо сосредоточиться на справедливости используемых ими алгоритмов.Алгоритмическая предвзятость — это проблема не только технического сектора.

Ключевая рекомендация в этом документе заключается в том, что все компании должны понимать и информировать общественность, когда они используют автоматизированные системы принятия решений, которые оказывают непропорционально неблагоприятное воздействие на людей, принадлежащих к защищенным классам. Для компании не должно быть сюрпризом, что ее системы принятия решений приводят к неблагоприятным результатам для защищенных классов. Кроме того, не следует оставлять на усмотрение общественности возможность обнаружить эти эффекты на основе случайного личного опыта, как якобы произошло в случае с компанией Goldman Sachs, связанной с бизнесом Apple по выпуску кредитных карт.

«Все компании должны понимать и информировать общественность, когда они используют автоматизированные системы принятия решений, которые оказывают непропорционально неблагоприятное воздействие на людей, принадлежащих к защищенным классам».

В трехэтапном анализе, который я объяснил ранее, третий шаг — который исследует, существуют ли альтернативные модели или улучшения существующей модели, которые позволили бы достичь законной цели с меньшим разрозненным воздействием — является наиболее важным. Это исследование альтернатив — жизненно важный способ добиться прогресса в уменьшении разнородных воздействий. ⁷

В контексте занятости, например, компания может оценить, соответствует ли ее автоматический алгоритм отбора или найма правилу 80%, обычно используемому в этом контексте. Например, если алгоритм выбирает для приема на работу 10% белых кандидатов, это практическое правило гласит, что можно выбрать не менее 8% кандидатов-афроамериканцев. Если алгоритм не соответствует этому эмпирическому правилу, компания может выяснить, существуют ли другие алгоритмы, которые эффективно отбирают кандидатов на вакансию, соблюдая этот стандарт.

Независимые исследователи часто проводят такой разрозненный анализ воздействия, используя общедоступную информацию. ProPublica обнаружила, что оценка риска COMPAS, используемая для определения уголовного наказания и помощи в принятии решений об условно-досрочном освобождении, в два раза чаще допускает ошибки с чернокожими людьми, чем с белыми. Кроме того, Upturn продемонстрировал, что методы таргетинга рекламы на основе машинного обучения в Facebook непропорционально искажены по гендерным и расовым признакам в отношении объявлений о трудоустройстве и жилье. ⁸

Независимые исследователи также обнаружили предвзятость в программном обеспечении, широко используемом для распределения медицинских услуг среди пациентов больниц.Например, один алгоритм распределял пациентов по категориям риска на основе их средних затрат на здравоохранение. Но из-за расового неравенства в доступе к медицинскому обслуживанию одинаково больные черные пациенты не получают такой помощи, как белые пациенты, и алгоритм непреднамеренно усугубил это расовое неравенство. Используя алгоритм, черные пациенты составляли только 17,7% пациентов, рекомендованных для дополнительного ухода, но при использовании беспристрастного алгоритма 46,5% пациентов, которым было назначено дополнительное лечение, были черными. ⁹

Как обсуждается в следующем разделе, государственные органы могут и должны проводить разрозненные оценки воздействия. Однако ключевая рекомендация для частного сектора заключается в том, что разработчики программного обеспечения должны сами выполнить этот разрозненный анализ воздействия, прежде чем использовать свои алгоритмы или сделать их доступными для использования другими. Им не следует полагаться на независимых исследователей или правительственные агентства для выявления разнородных воздействий после того, как алгоритмы уже широко используются.

«Разработчики [S] программного обеспечения должны сами провести разрозненный анализ воздействия, прежде чем использовать свои алгоритмы или сделать их доступными для использования другими».

Если оценка показывает, что модель действительно оказывает разное влияние, следующим шагом будет определение того, что следует делать. В целом компании могут привлекать исследователей, которые осведомлены о том, как возникают диспропорции в конкретных контекстах, и работать с ними над устранением любых несоответствий, которые создает модель, прежде чем вводить модель в действие.

Компания, разрабатывающая программное обеспечение, должна оценить различные способы, в которых несопоставимые воздействия могут быть артефактом самой модели. Модели могут вносить систематическую ошибку за счет выбора целевых переменных, использования предвзятых или нерепрезентативных данных обучения или использования недостаточно подробных и детализированных факторов. Каждый из этих источников систематической ошибки модели можно исследовать и искать технические решения. Например, передискретизация и ретроспективная коррекция данных могут использоваться для корректировки смещения в обучающих данных. ¹⁰

Amazon попробовала этот подход, пытаясь разработать алгоритм найма инженеров-программистов. Он экспериментировал с использованием исторических данных для обучения автоматизированному методу отбора перспективных кандидатов, провел разрозненный анализ воздействия и обнаружил, что эти алгоритмические результаты непропорционально отвергали женщин. Хотя компания устранила факторы, которые привели к этому разрозненному воздействию, она столкнулась с другими, которые не могла исправить. В конечном итоге Amazon отказалась от попытки автоматизации набора персонала.

Однако разработчик предвзятого медицинского программного обеспечения этого не сделал, хотя «обычные статистические тесты» выявили бы его расовые различия. Больницы использовали его и аналогичные алгоритмы для управления здравоохранением для 200 миллионов человек, прежде чем исследователи «наткнулись на проблему». Сейчас компания, занимающаяся разработкой программного обеспечения для здравоохранения, работает с исследователями над разработкой алгоритма, который лучше предсказывал бы, кому понадобится медицинская помощь, и был бы менее предвзятым, но эту работу по устранению разнородных воздействий следовало проводить на стадии разработки.

Иногда создание новых данных повышает точность модели, уменьшая ее разрозненное влияние. Это может произойти, когда члены защищенных классов исторически не участвовали в соответствующей деятельности из-за прошлой дискриминационной практики и не оставили записи данных, которые можно использовать для статистического анализа. В этих обстоятельствах найти квалифицированных представителей защищенного класса дороже, и экономическая выгода для компании не всегда оправдывает эти дополнительные затраты.

Если, однако, технические исправления уменьшают разрозненное влияние модели по разумной цене, компании следует принять пересмотренную модель. Если компания не внедрила разумные технические усовершенствования в свои системы принятия решений, которые позволили бы достичь ее деловых или организационных целей с меньшим воздействием на защищенные классы, может возникнуть юридическая ответственность за различную дискриминацию воздействия. Это тоже правильно.

Однако не всегда есть технические исправления.Несопоставимое влияние модели может отражать неравенство в реальном мире. Однако даже в этом случае возможен ряд корректировок модели для уменьшения диспропорций в принятии решений и смещения результатов модели в сторону статистического паритета или равных коэффициентов ошибок. Эти корректировки могут включать непосредственное рассмотрение характеристик защищенного класса или факторов, которые являются для них существенными заместителями.

Важно понимать, что решение использовать или не использовать эти дополнительные настройки само по себе не является техническим решением.Эти изменения модели не будут направлены на снижение систематической ошибки, вносимой в процесс принятия решений самой статистической моделью. Они предназначены для существенного изменения результатов системы принятия решений и, как таковые, представляют собой нормативные суждения, имеющие деловые и юридические последствия. Хотя они улучшат результаты для защищенных классов, они неизбежно снизят точность итоговых решений, что на практике будет означать менее удовлетворительное достижение бизнес-целей или целей организации.Кроме того, они также могут создавать правовой риск в той мере, в какой они рассматриваются как примеры дискриминационного обращения на основе запрещенных характеристик. ¹¹

Технические и юридические вопросы, связанные с проведением разрозненных анализов воздействия, огромны. По этой причине не все компании обладают опытом или ресурсами для самостоятельного проведения такого анализа. Однако по той же причине эти компании не смогут сами разрабатывать сложные алгоритмические системы принятия решений.Таким образом, разработчики этих систем должны проводить разрозненные анализы воздействия, чтобы сопровождать свои системы и делать их доступными для своих клиентов так же, как они производят и распространяют валидационные исследования точности и надежности своих систем.

Дополнительным шагом для разработчиков и пользователей этих систем было бы раскрытие информации внешним сторонам, чтобы позволить независимую проверку и разрозненную оценку воздействия. Анализ независимых организаций обеспечивает дополнительный уровень достоверности.Многое можно сделать с общедоступной информацией, но ключевая информация часто является частной собственностью и имеет большую коммерческую ценность. Компаниям следует рассмотреть возможность выбора внешних исследователей для работы в связи с разнородными оценками воздействия. Facebook экспериментирует с такой системой в своей инициативе Social Science One в связи с проблемами выборов, и он может расширить такую ​​открытую систему для оценки разнородных воздействий.

В более долгосрочной перспективе рынок мог бы создать независимые аудиторские организации для разрозненных оценок воздействия, подобных тем, которые оценивают финансовое благополучие публичных компаний.

Наконец, компаниям следует рассмотреть возможность проведения этих оценок для других сопутствующих видов деятельности, которые в настоящее время явно не охватываются антидискриминационными законами, таких как маркетинговые кампании для финансовых продуктов или результатов поиска на основе имени или профессии человека, а также для уязвимых классов, не защищенных четко по действующему законодательству, например, о сексуальной ориентации и гендерной идентичности.

Рекомендации для правительства

Меры, описанные в предыдущем разделе, могут быть предприняты на добровольной, рыночной основе, без необходимости каких-либо действий со стороны правительства.Что может сделать правительство?

Государственные агентства в сотрудничестве с промышленностью также могут проводить разрозненные исследования воздействия в районах, находящихся под их юрисдикцией. В одном недавнем исследовании Совет Федеральной резервной системы показал, что кредитные рейтинги систематически ниже у афроамериканцев и выходцев из Латинской Америки, которым в результате отказывают в кредите и получают более высокие кредитные ставки. ¹² Кроме того, Федеральная торговая комиссия показала, что афроамериканцы и выходцы из Латинской Америки систематически получают более низкие баллы по автомобильному страхованию на основе кредита и, следовательно, сталкиваются с более высокими страховыми взносами по автомобильному страхованию. ¹³

Однако агентства могут не обладать техническими знаниями для оценки систем принятия решений в пределах их юрисдикции, которые используют новейшие методы машинного обучения. По предложению администрации Обамы, «[правительственные агентства] должны расширять свой технический опыт, чтобы иметь возможность выявлять методы и результаты, которым способствует аналитика больших данных, которые имеют дискриминационное влияние на защищенные классы, и разработать план расследования и устранения нарушений закона. в таких случаях.” ¹⁴

Администрация Трампа движется в том же направлении, поощряя федеральные агентства изучать как нормативные, так и ненормативные варианты решения проблем ИИ в областях, находящихся под их юрисдикцией. Вскоре он выпустит распоряжение, в котором подробно описывается этот подход к вопросам и регулированию ИИ. ¹⁵

Другие действия агентства могут включать использование ресурсов и взаимоотношений с отраслью для облегчения проведения компанией разрозненных оценок воздействия, стимулирование разработчиков к проведению этих оценок для своих продуктов, поощрение взаимодействия разработчиков с внешними аудиторами и стремление к раскрытию информации для независимых независимых аудитов воздействия. .

Агентства могут действовать только в рамках своих существующих полномочий. Но для достижения реального прогресса Конгрессу следует рассмотреть новый закон, который потребует от компаний проведения разрозненных оценок воздействия. Уменьшение подверженности разрозненным нарушениям воздействия, как их интерпретируют суды, и сложность обеспечения соблюдения алгоритмических систем снизили стимул для разработчиков производить эти оценки из соображений защиты. Если разработчики политики хотят, чтобы разработчики и пользователи проводили эти оценки с частотой, пропорциональной их риску увеличения различий между защищаемыми классами, они должны будут потребовать их.

Закон об алгоритмической ответственности делает это, но возлагает значительную новую ответственность за эти оценки в руки Федеральной торговой комиссии. Другой подход заключался бы во внесении поправок в существующие антидискриминационные законы, чтобы требовать проведения разрозненных оценок воздействия автоматизированных систем принятия решений, используемых в контекстах, охватываемых этими законами. Оценки должны быть предоставлены соответствующему регулирующему органу, отвечающему за обеспечение соблюдения антидискриминационных законов, и общественности.На каждое агентство также можно было бы возложить ответственность за проведение собственной разрозненной оценки воздействия и на получение новых полномочий, если необходимо, для получения данных от разработчиков и компаний для этой цели. Агентства также могут быть уполномочены работать с внешними исследователями для проведения этих оценок и разрешать определенным исследователям получать данные от разработчиков и компаний для проведения этих оценок. Наконец, от агентств может потребоваться работа с разработчиками и компаниями, чтобы определить, какие данные могут быть раскрыты широкой публике способами, не ставящими под угрозу конфиденциальность или коммерческую тайну, чтобы независимые исследователи могли проводить свои собственные оценки.

«В долгосрочной перспективе повышение точности и справедливости алгоритмических систем зависит от создания более адекватных наборов данных».

В более долгосрочной перспективе повышение точности и справедливости алгоритмических систем зависит от создания более адекватных наборов данных, что может быть выполнено только посредством реальных действий. Но создание новых и более адекватных данных может потребовать дорогостоящего сбора данных, который не принесет выгоды частному сектору. Это также может включать в себя повышение права на льготы в соответствии с существующими алгоритмическими стандартами, чтобы охватить квалифицированных членов защищенных классов.Например, кредитные компании могут предоставлять ссуды членам защищенных классов, которые просто не соблюдают традиционные стандарты приемлемости, и изучать результаты, чтобы лучше определить кредитоспособность.

Однако есть ограничения на устранение давних диспропорций путем корректировки алгоритмов. Как отмечали многие аналитики, для сокращения широко распространенного неравенства, которое сохраняется слишком долго, потребуются существенные реформы жилищной политики, уголовного правосудия, распределения кредитов, страхования и практики найма.[16] Хорошие алгоритмические методы, основанные на принципах справедливости, могут лишь до некоторой степени выполнить работу по обеспечению социальной и экономической справедливости.

Заключение

Обещание автоматизированных систем принятия решений — и особенно новых версий машинного обучения — заключается в значительном повышении точности и справедливости определения права на получение различных льгот для частного и государственного секторов. Опасность заключается в обострении классового неравенства.

Путь вперед — посмотреть и увидеть, что делают эти системы.Как сказал Луи Брандейс: «Солнечный свет — лучшее дезинфицирующее средство». Мы не сможем предпринять шаги для устранения потенциальной предвзятости в этих системах, если не исследуем их на предмет дискриминационных эффектов. Каждый бизнес-менеджер знает, что невозможно управлять тем, чем вы не измеряете. Итак, первый важный шаг — измерить степень, в которой эти системы создают разнородные воздействия.

Эта рекомендация основана на традиции раскрытия информации и оценки как способа улучшения работы организационных систем.Прогресс в устранении неравенства между защищенными классами в первую очередь требует осознания. Впереди могут быть непростые разговоры, чтобы определить, что делать, если эти оценки выявят несоответствия. Но если мы не столкнемся с ними напрямую, они будут только ухудшаться и будут тем более разрушительными, если будут действовать тайно.

---

Брукингский институт — некоммерческая организация, занимающаяся независимыми исследованиями и политическими решениями. Его миссия — проводить качественные независимые исследования и на основе этих исследований предоставлять инновационные практические рекомендации для политиков и общественности.Выводы и рекомендации любой публикации Brookings принадлежат исключительно ее авторам и не отражают точку зрения Учреждения, его руководства или других ученых.

Microsoft оказывает поддержку Инициативе Института Брукингса по искусственному интеллекту и новым технологиям (AIET), а Amazon, Apple и Facebook обеспечивают общую неограниченную поддержку Учреждению. Никакое пожертвование не повлияло на выводы, интерпретации и выводы в этом отчете.Brookings осознает, что ценность, которую он предоставляет, заключается в его абсолютной приверженности качеству, независимости и влиянию. Мероприятия, поддерживаемые донорами, отражают это обязательство.

Алгоритмов принятия решений: отличная бесплатная книга для скачивания от MIT

https://algorithmsbook.com/

MIT Press — еще одна отличная книга в творческой среде.

Алгоритмы принятия решений: скачать бесплатно книгу

Планирую купить и рекомендую вам.Эта книга представляет собой обширное введение в алгоритмы принятия решений в условиях неопределенности.

В книге используется агентский подход

Агент — это объект, который действует на основе наблюдений за своей средой. Агенты

могут быть физическими объектами, такими как люди или роботы, или нефизическими объектами,

, например, системы поддержки принятия решений, которые полностью реализованы в программном обеспечении.

Взаимодействие между агентом и окружающей средой следует за циклом наблюдение-действие или циклом .

• Агент в момент времени t получает наблюдение среды
• Наблюдения часто бывают неполными или зашумленными;
• На основе входных данных агент затем выбирает действие в некотором процессе принятия решения.
• Это действие, такое как подача сигнала предупреждения, может иметь недетерминированное воздействие на окружающую среду.
• Книга фокусируется на агентах, которые разумно взаимодействуют для достижения своих целей с течением времени.
• Учитывая прошлую последовательность наблюдений и знаний об окружающей среде, агент должен выбрать действие, которое наилучшим образом достигает его целей при наличии различных источников неопределенности, включая:

1. неопределенность результата , где последствия наших действий неопределенны,
2. неопределенность модели , где наша модель проблемы является неопределенной,
   3. неопределенность состояния , где истинное состояние окружающей среды является неопределенным, и
3. Неопределенность взаимодействия , где поведение других агентов, взаимодействующих в окружающей среде, является неопределенным.

Книга построена вокруг этих четырех источников неопределенности.

Принятие решений в условиях неопределенности занимает центральное место в области искусственного интеллекта

Содержание

Введение

Принятие решений

Приложения

Методы

История

Влияние на общество

Обзор

ВЕРОЯТНОЕ ПРИЧИНЕНИЕ

Представительство

Степени веры и вероятности

Вероятностные распределения

Совместное распространение

Условные распределения

Байесовские сети

Условная независимость

Сводка

Упражнения

viii содержание

Вывод

Вывод в байесовских сетях

Вывод в наивных байесовских моделях

Исключение переменной суммы-произведения

Распространение убеждений

Вычислительная сложность

Прямой отбор проб

Выборка, взвешенная по правдоподобию

Выборка Гиббса

Вывод в гауссовских моделях

Сводка

Упражнения

Обучение параметрам

Изучение параметра максимального правдоподобия

Обучение байесовским параметрам

Непараметрическое обучение

Обучение с отсутствующими данными

Сводка

Упражнения

Структурное обучение

Оценка байесовской сети

Поиск по ориентированному графу

Классы марковской эквивалентности

Поиск по частично ориентированному графу

Сводка

Упражнения

Простые решения

Ограничения на Rational Preferences

Служебные функции

Утилита извлечения

Принцип максимальной ожидаемой полезности

Сети принятия решений

Ценность информации

Иррациональность

Сводка

Упражнения

ПОСЛЕДОВАТЕЛЬНЫЕ ПРОБЛЕМЫ

Методы точного решения

Марковские процессы принятия решений

Оценка политики

Политика значения функции

Итерация политики

Итерация значений

Итерация асинхронного значения

Составление линейной программы

Линейные системы с квадратичной наградой

Сводка

Упражнения

Функции приблизительного значения

Параметрические представления

Ближайший сосед

Сглаживание ядра

Линейная интерполяция

Симплексная интерполяция

Линейная регрессия

Регрессия нейронной сети

Сводка

Упражнения

Онлайн-планирование

Планирование отступающих горизонтов

Lookahead с развертыванием

Поиск в прямом направлении

Разветвление и перемычка

Редкая выборка

Поиск по дереву Монте-Карло

Эвристический поиск

Эвристический поиск по меткам

Планирование открытого цикла

Сводка

Упражнения

Политика поиска

Приблизительная оценка политики

Локальный поиск

Генетические алгоритмы

Метод перекрестной энтропии

Стратегии развития

Изотропные эволюционные стратегии

Сводка

Упражнения

Оценка градиента политики

Конечная разность

Градиент регрессии

Коэффициент правдоподобия

Накопительная награда

Вычитание базовой линии

Сводка

Упражнения

Оптимизация градиента политики

Обновление Gradient Ascent

Обновление ограниченного градиента

Обновление с естественным градиентом

Обновление доверенного региона

Суррогатный объектив с зажимом

Сводка

Упражнения

Актерско-критические методы

Актёр-критик

Обобщенная оценка преимущества

Детерминированный градиент политики

Актер-критик с поиском по дереву Монте-Карло

Сводка

Проверка политики

Оценка показателей эффективности

Моделирование редких событий

Анализ устойчивости

Анализ торговли

Состязательный анализ

Сводка

Упражнения

НЕОПРЕДЕЛЕННОСТЬ МОДЕЛИ

Разведка и разработка

Проблемы бандитов

Оценка байесовской модели

Стратегии неориентированной разведки

Стратегии направленной разведки

Оптимальные стратегии разведки

Исследование с несколькими состояниями

Сводка

Упражнения

Методы на основе моделей

Модели максимального правдоподобия

Схемы обновлений

Разведка

Байесовские методы

Байесовские MDP

Задний отбор

Сводка

Упражнения

Методы без модели

Инкрементальная оценка среднего

Q-Learning

Сарса

Право на участие

Формирование награды

Действие Значение Функция Приближение

Опыт Повтор

Сводка

Упражнения

Имитационное обучение

Поведенческое клонирование

Агрегация наборов данных

Итеративное обучение стохастического смешения

Обучение с обратным подкреплением с максимальной маржой

Обучение с обратным подкреплением с максимальной энтропией

Генеративное состязательное имитационное обучение

Сводка

Упражнения

ЧАСТЬ IV ГОСУДАРСТВЕННАЯ НЕОПРЕДЕЛЕННОСТЬ

19 Вероисповеданий 373

Инициализация убеждения

Фильтр дискретного состояния

Линейный гауссовский фильтр

Расширенный фильтр Калмана

Фильтр Калмана без запаха

Сажевый фильтр

Впрыск частиц

Сводка

Упражнения

20 Exact Belief Государственное планирование 399

Марковские процессы принятия решений с убеждением и государством

Условные планы

Альфа-векторы

Обрезка

Итерация значений

Линейные политики

Сводка

Упражнения

Offline Вера Государственное планирование

Приближение полностью наблюдаемой величины

Связь с быстрым информированием

Быстрые нижние границы

Итерация значений на основе точек

Итерация рандомизированных значений на основе точек

Верхняя граница зубьев пилы

Выбор точки

Эвристический поиск Sawtooth

Функции триангулированных значений

Сводка

Упражнения

Интернет Вера Государственное планирование

Lookahead с развертыванием

Поиск в прямом направлении

Разветвление и перемычка

Редкая выборка

Поиск по дереву Монте-Карло

Детерминированный поиск в разреженном дереве

Эвристический поиск пробелов

Сводка

Упражнения

Абстракции контроллера

Контроллеры

Итерация политики

Нелинейное программирование

Градиентный подъем

Сводка

Упражнения

ЧАСТЬ V МНОГОАГЕНТНЫЕ СИСТЕМЫ

Мультиагентное рассуждение

Простые игры

Модели ответа

Доминирующее стратегическое равновесие

Равновесие по Нэшу

Коррелированное равновесие

Итерированный лучший ответ

Иерархический Softmax

Фиктивная игра

Градиентный подъем

Сводка

Упражнения

Последовательные проблемы

Марковские игры

Ответные модели

Равновесие по Нэшу

Фиктивная игра

Градиентный подъем

Нэш Q-Learning

Сводка

Упражнения

Неопределенность состояния

Частично наблюдаемые марковские игры

Оценка политики

Равновесие по Нэшу

Динамическое программирование

Сводка

Упражнения

Совместные агенты

Децентрализованные частично наблюдаемые марковские процессы принятия решений

Подклассы

Динамическое программирование

Итерированный лучший ответ

Эвристический поиск

Нелинейное программирование

Сводка

Упражнения

ПРИЛОЖЕНИЯ

Математические понятия

Измерьте пробелы

Пространства вероятности

Метрическое пространство

Нормированные векторные пространства

Положительная четкость

Выпуклость

Информационное содержание

Энтропия

Кросс-энтропия

Относительная энтропия

Градиентный подъем

Расширение Тейлора

Оценка Монте-Карло

Выборка по важности

Сопоставления сжатия

Графики

Распределения вероятностей

Вычислительная сложность

Асимптотическая запись

Классы сложности времени

Классы космической сложности

Разрешимость

Нейронные представления

Нейронные сети

Сети прямого распространения

Регуляризация параметров

Сверточные нейронные сети

Рекуррентные сети

Сети автоэнкодера

Состязательные сети

Алгоритмы поиска

Проблемы поиска

Графики поиска

Поиск в прямом направлении

Разветвление и перемычка

Динамическое программирование

Эвристический поиск

Проблемы

Hex Мир

2048

Тележка-шест

Mountain Car

Простой регулятор

Предотвращение столкновений самолетов

Плачущий ребенок

Замена машины

Улов

Ф.10 Дилемма заключенного

Камень, ножницы, бумага

Дилемма путешественника

Хищник-жертва Hex World

Плачущий младенец, осуществляющий одновременно несколько ухода за ребенком

Коллаборативный мир хищника-жертвы

Юлия

Типы

Функции

Поток управления

Пакеты

Функции удобства

Ссылка на книгу

Алгоритмы принятия решений: бесплатно скачать книгу

Процесс принятия решений с помощью алгоритмов человека

Задумайтесь на мгновение о том, как организация принимает решение.Сначала идут фактов , данные, которые будут способствовать принятию решения. Используя эти факты, кто-то формулирует альтернативных вариантов действий и оценивает их в соответствии с согласованными критериями. Лицо, принимающее решения, затем выбирает наилучшую альтернативу, а организация обязывает себя к действию.

Расширенная аналитика может автоматизировать части этой последовательности; это дает возможность принимать более быстрые и обоснованные решения и существенно снизить затраты.Но если вы не готовы изменить то, как люди работают вместе в процессе принятия решений, вы, скорее всего, будете разочарованы.

Возьмем простой пример: функции коллекций компании. В прошлые годы десятки агентов по сбору платежей получали ежедневно сотни случайно распределенных просроченных счетов, каждый из которых содержал несколько фактов о клиенте. Затем каждый агент просматривал стандартный список альтернатив и решал, как он или она будут пытаться получить причитающуюся сумму.

Сегодня алгоритм может собрать гораздо больше фактов о счетах, чем любой человек может легко обработать: длинные истории платежей, обширные демографические данные и так далее.Используя эти факты, он может разделить учетные записи на простые категории, например, красно-желто-зеленые.

Теперь альтернативные варианты действий проще. Красные — низкая стоимость, маловероятно, чтобы заплатить — сразу отправляют в коллекторское агентство. Зеленые — дорогие, платные — идут к специально обученным абонентам для обслуживания белых перчаток. Желтые требуют тщательного изучения альтернатив и гораздо большего вмешательства человека, прежде чем будет принято решение.

В рамках желтой и зеленой категорий сложные эксперименты по тестированию и обучению могут помочь в принятии решений.С помощью этих экспериментов агенты могут обнаружить, какие каналы и сообщения приносят наибольшую финансовую отдачу при минимизации затрат и неудовлетворенности клиентов. Таким образом, они могут оптимизировать свой выбор в отношении того, как вести дела с просроченными счетами.

Новый способ работы лучше и эффективнее. Но посмотрите, как это меняет сам процесс — и чего ожидают от вовлеченных людей:

• Программное обеспечение теперь помогает в сборе и анализе важной информации, устраняя задачи, которые раньше выполнялись людьми.Но люди должны определить, какие факты собирать и как их взвешивать.
• Красный-желто-зеленый или другие простые схемы категоризации могут ускорить формулирование альтернатив. Расширенные аналитические модели могут включать опыт лучших руководителей организации, помогая исключить альтернативы, которые менее жизнеспособны, чем другие, и фокусируя оценку на наиболее многообещающих направлениях действий. Людям потребуется обучение тому, как использовать выводы из новых инструментов поддержки принятия решений.
• В желтой и зеленой группах результаты тестирования и обучения могут значительно повысить качество решений, принимаемых организацией. Людям все равно нужно будет выяснить, какие эксперименты провести, а затем интерпретировать результаты.

Новые процедуры принятия решений, вероятно, потребуют инвестиций в технологии — например, в программное обеспечение, которое встраивает правила и новую логику принятия решений в системы рабочих процессов. Они также потребуют изменения ролей людей, чтобы они соответствовали новому процессу.Возможная потребность в новых навыках может означать обширную переподготовку и может потребовать найма новых талантов в целом.

Использование аналитики может значительно улучшить качество ваших решений и может повысить эффективность процесса принятия решений на целых 25%. При правильном исполнении он приводит к более высокому удовлетворению клиентов и сотрудников. Но одной только аналитики таких результатов не добиться; процесс принятия решений должен измениться, и люди будут осваивать новые навыки и брать на себя новые роли. Трансформация носит не только технологический, но и организационный характер, и она шире, чем думают многие компании.

Как алгоритмы влияют на наши решения

Когда мы покупаем что-то на Amazon или смотрим что-то на Netflix, мы думаем, что это наш собственный выбор. Что ж, оказывается, что алгоритмы влияют на треть наших решений на Amazon и более чем на 80% на Netflix. Более того, у алгоритмов есть свои предубеждения. Они даже могут пойти на мошенничество.

В своей недавней книге под названием Руководство по машинному интеллекту: как алгоритмы формируют нашу жизнь и как мы можем оставаться под контролем Картик Хосанагар, профессор операций, информации и решений в Wharton, сосредотачивается на этих вопросах и более.Он обсуждает, как алгоритмические решения могут пойти не так, и как мы можем контролировать то, как технологии влияют на решения, которые принимаются за нас или о нас.

В разговоре с Knowledge @ Wharton Хосанагар отмечает, что решение этой сложной проблемы состоит в том, что мы должны «действовать более активно и осознанно и участвовать в процессе влияния на развитие этих технологий».

Далее следует отредактированная стенограмма разговора.

Knowledge @ Wharton: Об искусственном интеллекте и машинном обучении все чаще говорят.Какие моменты упускаются из виду во всех происходящих разговорах? Как ваша книга пытается восполнить этот пробел?

Картик Хосанагар: Да, вокруг искусственного интеллекта и машинного обучения, которые являются его частью, очень много шума. Разговор имеет тенденцию либо прославлять технологию, либо, во многих случаях, вызывать вокруг нее разжигание страха. Я не думаю, что разговор зашел о решении, то есть о том, как мы собираемся работать с ИИ, особенно в контексте принятия решений.Моя книга посвящена принятию решений с помощью интеллектуальных алгоритмов.

Один из основных вопросов, когда дело доходит до ИИ: собираемся ли мы использовать ИИ для принятия решений? Если да, то собираемся ли мы использовать его для поддержки принятия [человеческих] решений? Собираемся ли мы сделать так, чтобы ИИ принимал решения автономно? Если да, то что может пойти не так? Что может пойти хорошо? И как мы с этим справляемся? Мы знаем, что у искусственного интеллекта большой потенциал, но я думаю, что на нашем пути к этому будут некоторые проблемы. Я сосредотачиваюсь на болях роста.Как могут ошибаться алгоритмические решения? Как мы можем убедиться, что у нас есть контроль над повествованием о том, как технологии влияют на решения, которые принимаются за нас или в отношении нас?

Knowledge @ Wharton : Книга начинается с нескольких ярких примеров о чат-ботах и ​​о том, как они взаимодействуют с людьми. Не могли бы вы использовать эти иллюстрации, чтобы рассказать о том, как люди взаимодействуют с алгоритмами и каковы некоторые из последствий?

Hosanagar: Я начал книгу с описания опыта Microsoft с чат-ботом под названием «Xiaobing.В Китае это называется «сяобин». В других странах мира его называют «сяойс». Это был чат-бот, созданный в виде аватара девочки-подростка. Он предназначен для веселого, игривого общения с молодыми людьми и подростками. У этого чат-бота около 40 миллионов подписчиков в Китае. В сообщениях говорится, что примерно четверть из этих последователей сказали Сяойс: «Я люблю тебя». Вот такая привязанность и следование за Сяойс.

Вдохновленный успехом Xiaoice в Китае, Microsoft решила протестировать аналогичный чат-бот в США.S. Они создали чат-бота на английском языке, который будет участвовать в веселых, игривых беседах. Он снова был нацелен на молодых людей и подростков. Они запустили его в Твиттере под названием «Тай». Но опыт этого чат-бота был совсем другим и недолгим. В течение часа после запуска чат-бот стал сексистским, расистским и фашистским. Он написал очень оскорбительный твит. В нем говорилось что-то вроде: «Гитлер был прав». Microsoft отключила его в течение 24 часов. Позже в том же году журнал MIT Technology Review оценил Microsoft Tay как «Худшую технологию года».”

Этот инцидент заставил меня задаться вопросом, как два похожих чат-бота или части ИИ, созданные одной и той же компанией, могут давать такие разные результаты. Что это значит для нас с точки зрения использования этих систем, этих алгоритмов для многих наших решений в нашей личной и профессиональной жизни?

Knowledge @ Wharton : Почему впечатления так сильно различаются? Что с этим можно сделать?

Hosanagar: Одно из открытий, которые я получил, когда писал эту книгу, пытаясь объяснить различия в поведении этих двух чат-ботов, было связано с психологией человека.Психологи описывают человеческое поведение с точки зрения природы и воспитания. Наша природа — это наша генетическая нить, а воспитание — это наша среда. Психологи приписывают такие проблемы, как алкоголизм, частично природе, а частично — воспитанию. Я понял, что у алгоритмов тоже есть природа и воспитание. Для алгоритмов природа — это не генетический шнур, а код, который на самом деле пишет инженер. Такова логика алгоритма. Воспитание — это данные, на которых учится алгоритм.

По мере того, как мы движемся к машинному обучению, мы все больше отдаляемся от мира, где инженеры программировали сквозную логику алгоритма, где они фактически указывали, что происходит в той или иной ситуации.«Если это произойдет, вы ответите таким образом. Если это произойдет, вы ответите по-другому ». Раньше это было связано с природой, потому что программист давал очень подробные спецификации, рассказывающие алгоритму, как работать. Но по мере продвижения к машинному обучению мы говорим алгоритмам: «Вот данные. Учитесь на этом ». Таким образом, природа начинает терять свое значение, а воспитание начинает преобладать.

Если вы посмотрите на то, что произошло между Таем и Сяоис, в некотором смысле разница заключается в их тренировочных данных.В случае с Xiaoice, в частности, он был создан, чтобы имитировать то, как люди разговаривают. В случае с Тэем он уловил, как люди с ним разговаривали, и это отразило. Было много преднамеренных попыток спровоцировать Тэя — это аспект воспитания. Частично это была природа. В коде можно было бы указать определенные правила, например: «Не говорите следующих вещей» или «Не обсуждайте эти темы» и т. Д. Так что это немного как природы, так и воспитания, и я думаю, что именно к этому в целом сводится мошенническое алгоритмическое поведение.

Knowledge @ Wharton : Было время, когда алгоритмические решения, казалось, сводились к тому, «Amazon предложит, какие книги читать», или «Netflix порекомендует, какие фильмы вам следует посмотреть».

Но из-за ИИ алгоритмическое принятие решений стало намного сложнее. Не могли бы вы привести несколько примеров этого? Кроме того, каковы некоторые последствия выбора, который мы делаем или не делаем в результате?

«Психологи описывают человеческое поведение с точки зрения природы и воспитания….Когда я изучал алгоритмы, я понял, что у алгоритмов тоже есть природа и воспитание ».

Хосанагар: Да, алгоритмы пронизывают нашу жизнь. Иногда мы это видим — например, рекомендации Amazon, — а иногда нет. Но они имеют огромное влияние на принимаемые нами решения. На Amazon, например, более трети наших решений зависит от алгоритмических рекомендаций вроде: «Люди, купившие это, тоже купили это». Люди, которые смотрели это, в конце концов купили это.«На Netflix они обеспечивают более 80% просмотров. Алгоритмические рекомендации также влияют на решения, например, с кем мы встречаемся и вступаем в брак. В таких приложениях, как Tinder, алгоритмы создают большинство совпадений.

Алгоритмы также определяют решения на рабочем месте. Например, когда вы подаете заявку на ссуду, алгоритмы все чаще принимают решения об одобрении ипотеки. Если вы подаете заявление о приеме на работу, алгоритмы проверки резюме решают, кого пригласить на собеседование. Они также принимают решения не только о жизни, но и о смерти.В залах судебных заседаний в США существуют алгоритмы, которые прогнозируют вероятность повторного совершения обвиняемого правонарушения, чтобы судьи могли выносить приговоры. В медицине мы движемся к персонализированной медицине. Два человека с одинаковыми симптомами могут не получать одинаковое лечение. Его можно настроить на основе их профиля ДНК. Алгоритмы направляют врачей к принятию этих решений.

Мы приближаемся к тому моменту, когда алгоритмы не просто предлагают поддержку принятия решений. Они также могут работать автономно.Беспилотные автомобили — отличный тому пример.

Knowledge @ Wharton: С алгоритмами, принимающими все больше и больше решений, есть ли в мире что-нибудь вроде свободы воли?

Хосанагар: Свобода воли — интересная концепция. По большей части я думал о свободе воли в философском смысле. Философы утверждали, что у нас нет свободной воли. Но я думаю, что теперь у нас есть буквальная интерпретация свободы воли в контексте алгоритмов, а именно: делаете ли вы окончательный выбор?

Как я уже сказал, треть вашего выбора на Amazon основана на рекомендациях.Восемьдесят процентов просмотров на Netflix обусловлены алгоритмическими рекомендациями. Семьдесят процентов времени, которое люди проводят на YouTube, обусловлено алгоритмическими рекомендациями. Поэтому не похоже, что алгоритмы просто рекомендуют нам то, что мы хотим. Подумайте о поиске в Google. Мы можем увидеть менее 0,01% любых результатов поиска, потому что мы редко даже переключаемся на одну страницу. Алгоритм решил, какие страницы мы будем смотреть. Так что да, они делают за нас множество вариантов.

Есть ли у нас свобода воли? В некотором смысле да — мы делаем.Но у нас нет того уровня независимого принятия решений, который мы думаем. Мы думаем, что видим рекомендации и делаем то, что хотим, но алгоритмы на самом деле интересным образом подталкивают нас. В основном это хорошо, потому что они экономят нам время. Но иногда мы становимся пассивными в отношении того, как мы используем алгоритмы, и это может иметь последствия.

Knowledge @ Wharton: В своей книге вы пишете, что выбор дизайна может иметь непредвиденные последствия. Не могли бы вы это объяснить?

Hosanagar: Под непредвиденными последствиями я имею в виду ситуации, когда вы пытаетесь оптимизировать какой-либо аспект решения.Возможно, вам удастся это действительно улучшить, но тогда что-то еще пойдет не так. Например, когда Facebook вручную курировал свои популярные статьи через редакторов-людей, его обвиняли в левых предубеждениях. Эти редакторы якобы выбирали левые истории и чаще их курировали. Поэтому Facebook использовал алгоритм для этого куратора, а затем проверил его на предмет политической предвзятости. В нем не было какой-либо политической предвзятости, но было еще кое-что, что они явно не проверяли, а именно фейковые новости.Алгоритм отбирал фейковые новости и распространял их. Это пример непредвиденных последствий. Дизайн алгоритмов может управлять этим разными способами.

Я много поработал над системами рекомендаций и над тем, как они влияют на типы продуктов, которые мы потребляем, и типы средств массовой информации, которые мы потребляем. Я специально изучил два типа алгоритмов рекомендаций. Один вид похож на то, что делает Amazon: «Люди, купившие это, тоже купили это». Это основано на социальном воспитании. Другой тип алгоритма пытается понять на более глубоком уровне.Он пытается найти элементы, которые соответствуют интересам пользователя. Примером этого может быть Пандора. Его музыкальные рекомендации не [основаны на социальном воспитании]. У Pandora очень подробная информация — более 150 музыкальных атрибутов для каждой песни. Например, насколько песня ритмична? Сколько в музыке инструментовки? И каждый раз, когда вы говорите, что вам нравится песня или нет, они смотрят на музыкальные качества песни, а затем корректируют свои рекомендации на основе других песен, которые имеют атрибуты, похожие на то, что вам понравилось или не понравилось.

«Мы думаем, что видим рекомендации, а затем делаем то, что хотим, но алгоритмы на самом деле интересным образом подталкивают нас».

Я посмотрел на оба этих дизайна и посмотрел, какой дизайн более полезен при поиске, скажем, инди-песен или очень новых и нишевых книг или фильмов. В то время, когда мы проводили исследование — это было некоторое время назад — общепринятое мнение заключалось в том, что все эти алгоритмы помогают «протолкнуть длинный хвост», имея в виду нишу, новые предметы или инди-песни, о которых никто не слышал.Я обнаружил, что эти конструкции очень разные. Алгоритм, который смотрит на то, что потребляют другие, имеет тенденцию к популярности. Он пытается порекомендовать то, что едят другие, и поэтому склоняется к популярным вещам. Он не может по-настоящему рекомендовать скрытые драгоценные камни.

Но алгоритм, подобный алгоритму Pandora, не пользуется популярностью в качестве основы для рекомендаций, поэтому он, как правило, работает лучше. Вот почему такие компании, как Spotify, Netflix и многие другие, изменили дизайн своих алгоритмов.Они объединили два подхода. Они объединили социальную привлекательность системы, которая смотрит на то, что потребляют другие, и способность другого дизайна выявлять скрытые жемчужины на поверхности.

Knowledge @ Wharton: Давайте вернемся к вопросу, который вы подняли ранее, о том, что алгоритмы становятся некорректными. Почему это происходит и что с этим делать?

Hosanagar : Позвольте мне указать на пару примеров мошеннических алгоритмов, а затем мы поговорим о том, почему это происходит.Я упоминал, что алгоритмы используются в залах судебных заседаний в США, в системе уголовного правосудия. В 2016 году некоммерческая организация ProPublica подготовила отчет или исследование. Они изучили алгоритмы, используемые в залах судебных заседаний, и обнаружили, что эти алгоритмы имеют расовую предвзятость. В частности, они обнаружили, что эти алгоритмы в два раза чаще ложно предсказывали будущую преступность у черного обвиняемого, чем у белого обвиняемого. В конце прошлого года агентство Reuters опубликовало статью о том, как Amazon пытается использовать алгоритмы для проверки заявлений о приеме на работу.Amazon получает более миллиона заявлений о приеме на работу; они нанимают сотни тысяч человек. Это сложно сделать вручную, поэтому вам нужны алгоритмы, которые помогут автоматизировать некоторые из них. Но они обнаружили, что алгоритмы имеют тенденцию к гендерной предвзятости. Как правило, они чаще отклоняли кандидатов-женщин, даже если их квалификация была одинаковой. Amazon провела тест и поняла, что это опытная компания, поэтому они решили не внедрять это. Но, вероятно, есть много других компаний, которые используют алгоритмы для просмотра резюме, и они могут быть предрасположены к расовым, гендерным и т. Д.

Что касается того, почему алгоритмы не работают, я могу поделиться несколькими причинами. Во-первых, мы отошли от старых традиционных алгоритмов, в которых программист писал алгоритм от начала до конца, и перешли к машинному обучению. В этом процессе мы создали алгоритмы, которые более устойчивы и работают намного лучше, но они склонны к предвзятости, существующей в данных. Например, вы говорите алгоритму проверки резюме: «Вот данные обо всех людях, которые подали заявку на нашу работу, и вот люди, которых мы фактически наняли, а вот люди, которых мы продвинули.Теперь выясните, кого пригласить на собеседование на основе этих данных ». Алгоритм обнаружит, что в прошлом вы отклоняли больше заявок от женщин или не продвигали женщин на рабочем месте, и будет иметь тенденцию улавливать такое поведение.

Другая часть состоит в том, что инженеры в целом склонны сосредотачиваться только на одной или двух метриках. С помощью приложения для проверки резюме вы будете стремиться измерить точность своей модели, и если она очень точна, вы ее исключите. Но не обязательно смотреть на справедливость и предвзятость.

Knowledge @ Wharton : Какие проблемы возникают при принятии решений автономными алгоритмами от нашего имени?

Хосанагар: Одна из больших проблем заключается в том, что обычно в круговороте нет человека, поэтому мы теряем контроль. Многие исследования показывают, что когда у нас ограниченный контроль, мы с меньшей вероятностью будем доверять алгоритмам. Если в цикле участвует человек, вероятность того, что пользователь обнаружит определенные проблемы, выше. И поэтому вероятность того, что проблемы будут обнаружены, выше.

Knowledge @ Wharton: В книге вы рассказываете увлекательную историю о пациенте, у которого диагностировали лихорадку тапанули. Не могли бы вы поделиться этой историей с нашей аудиторией? Какое значение это имеет для того, насколько можно доверять алгоритмам?

«Компании должны формально проверять алгоритмы перед их развертыванием, особенно в социально значимых условиях, таких как рекрутинг».

Hosanagar: Это история о пациенте, который входит в кабинет врача, чувствуя себя хорошо и здоровым.Пациент и доктор какое-то время шутят. В конце концов врач забирает отчет о патологии и внезапно выглядит очень серьезным. Он сообщает пациенту: «Сожалею, что сообщаю вам, что у вас лихорадка тапанули». Пациент не слышал о лихорадке тапанули, поэтому спрашивает, что это такое. Врач говорит, что это очень редкое заболевание, которое, как известно, приводит к летальному исходу. Он предполагает, что если у пациента есть конкретный планшет, это снизит вероятность возникновения у него каких-либо проблем. Врач говорит: «Вот, ты принимаешь эту таблетку трижды в день, а потом начинаешь заниматься своей жизнью.”

Я спросил своих читателей, если бы они были пациентами, чувствовали бы они себя комфортно в этой ситуации? Вот болезнь, о которой вы ничего не знаете, и решение, о котором вы ничего не знаете. Врач дал вам выбор и сказал, чтобы вы продолжали, но он не дал вам многих деталей. И с этим я задал вопрос: если бы алгоритм дал эту рекомендацию — что у вас это редкое заболевание, и мы хотим, чтобы вы принимали это лекарство — без какой-либо информации, не так ли?

Лихорадка Тапанули — это не настоящая болезнь.Это болезнь в одной из историй о Шерлоке Холмсе, и даже в оригинальной истории о Шерлоке Холмсе выясняется, что человек, у которого предполагается, что лихорадка тапанули, на самом деле ее не болеет. Но если оставить это в стороне, возникает вопрос о прозрачности. Готовы ли мы доверять решениям, когда у нас нет информации о том, почему то или иное решение было принято именно так?

Я подчеркиваю, что иногда мы стремимся к большей прозрачности от алгоритмов, чем от людей. Но на практике многие компании навязывают нам алгоритмические решения, не имея никакой информации о том, почему эти решения принимаются.Исследования показывают, что нас это не устраивает. Например, аспирант в Стэнфорде рассмотрел алгоритм, который будет вычислять оценки для студентов, и то, как они это делали, когда они только что набрали свою оценку, по сравнению с тем, когда они получили свою оценку с объяснением. Как и ожидалось, когда у студентов было объяснение, они ему больше доверяли.

Тогда почему в реальном мире существует множество алгоритмов, принимающих решения за нас или о нас, и у нас нет прозрачности в отношении этих решений? Я выступаю за то, чтобы нам нужен определенный уровень прозрачности в отношении того, какие данные использовались для принятия решения.Например, если вы подали заявку на получение ссуды, а ссуда была отклонена, мы хотели бы знать, почему это произошло. Если вы подали заявление о приеме на работу, и вам отказали, было бы полезно знать, что алгоритм не только оценил то, что вы отправили как часть вашего заявления о приеме на работу, но также просмотрел ваши сообщения в социальных сетях. Важна прозрачность в отношении того, какие данные учитывались, какие ключевые факторы повлияли на решение.

Knowledge @ Wharton: В конце книги вы порекомендуете Алгоритмический билль о правах.Что это такое и зачем это нужно?

Hosanagar: Алгоритмический билль о правах — это концепция, которую я позаимствовал из Билля о правах в Конституции США. История Билля о правах такова, что, когда отцы-основатели разрабатывали Конституцию, некоторые люди беспокоились о том, что мы создаем мощное правительство здесь, в США. Билль о правах был создан как способ защиты граждан.

Сегодня мы находимся в ситуации, когда много говорят о мощных технологических компаниях.Есть ощущение, что потребителям нужна определенная защита. Алгоритмический билль о правах нацелен на это. Многие потребители чувствуют себя беспомощными перед крупными технологиями и алгоритмами, внедренными крупными технологиями. Я чувствую, что у потребителей действительно есть некоторая власть, и эта сила выражается в наших знаниях, наших голосах и наших долларах.

Знания подразумевают, что мы не должны быть пассивными пользователями технологий. Мы должны быть активными и осознанными. Мы должны знать, как меняются решения, которые принимают мы или другие о нас.Посмотрите, как Facebook сегодня меняет дизайн своего продукта. Это изменение — поддержка шифрования и т. Д. — произошло из-за давления со стороны пользователей. Это показывает, что когда пользователи жалуются, изменения действительно происходят.

голосов — еще один аспект этого. Они включают в себя понимание того, какие избранные представители понимают нюансы алгоритмов и проблем, а также способы их регулирования. Речь идет о голосовании за них. Вопрос в том, как эти регуляторы собираются нас защищать?

Вот где вступает в силу Билль о правах.Предлагаемый мною Билль о правах состоит из нескольких основных столпов. Один из столпов — прозрачность — прозрачность в отношении данных, используемых для принятия решений, и в отношении самого основного решения. Какие самые важные факторы привели к определенному решению? Европейский GDPR [Общий регламент по защите данных] содержит определенные положения, например право на объяснения и информацию о данных, которые используют компании. Я думаю, что некоторая прозрачность необходима, и компании должны ее обеспечивать.

Еще одним столпом моего Билля о правах является идея некоторого контроля со стороны пользователей, что мы не можем находиться в среде, где у нас нет контроля над технологиями.Например, мы должны суметь — с помощью простых инструкций — сказать Алексе: «Вы не слушаете никаких разговоров в доме, пока я не скажу вам, что это разрешено». В настоящее время такого положения нет. Нам говорят, что система не слушает, но мы также слышим от других, что бывают случаи, когда она слушает, даже когда вы на самом деле не говорите «Alexa» и не даете ей инструкции.

Этот контроль очень важен. Если вы посмотрите на Facebook и проблему ложных новостей, два года назад пользователи не могли предупредить алгоритм Facebook и сказать: «Этот пост в моей ленте новостей — ложная новость.«Сегодня всего двумя щелчками мыши вы можете сообщить Facebook, что определенное новостное сообщение в вашей ленте является либо оскорбительным, либо ложным. Эта обратная связь очень важна для исправления алгоритма.

Наконец, я отстаивал идею о том, что компании должны формально проверять алгоритмы перед их развертыванием, особенно в социально значимых условиях, таких как рекрутинг. Процесс аудита должен выполняться командой, независимой от того, кто разработал алгоритм. Процесс аудита важен, потому что он поможет убедиться, что кто-то посмотрел на вещи, выходящие за рамки, скажем, точности прогноза модели.Они смотрели на такие вещи, как конфиденциальность. Они смотрели на такие вещи, как предвзятость и справедливость. Это поможет обуздать некоторые из этих проблем с алгоритмическими решениями.

«[Нам необходимо] более активно и осознанно участвовать и участвовать в процессе влияния на развитие этих технологий».

Knowledge @ Wharton: Какие заключительные моменты вы хотели бы подчеркнуть?

Hosanagar: Несмотря на то, что я говорю о многих проблемах с алгоритмами в своей книге, я не являюсь скептиком алгоритмов.На самом деле я верю в алгоритмы. Сообщение, которым я хочу поделиться, не «будьте осторожны», а «участвуйте более активно и осознанно и участвуйте в процессе влияния на развитие этих технологий». Я говорю это потому, что исследования показывают, что алгоритмы в среднем менее предвзяты, чем люди. Более того, я считаю, что в конечном итоге легче исправить алгоритмическую предвзятость, чем человеческую.

Проблема с предвзятостью алгоритма заключается в том, как он масштабируется.Предубежденный судья может повлиять на жизнь, может быть, 200 или 300 человек, но алгоритм, используемый во всех залах судебных заседаний в стране или по всему миру, может повлиять на жизни сотен тысяч или даже миллионов людей. Точно так же предвзятый рекрутер может повлиять на жизнь сотен людей, но предвзятый алгоритм найма может повлиять на жизни миллионов людей. Это масштаб, о котором мы должны беспокоиться. Вот почему нам нужно серьезно отнестись к этому вопросу.

Ключевой посыл заключается в том, что мы идем в мир, где эти алгоритмы помогут нам принимать лучшие решения.У нас будут проблемы с ростом по пути. Несколько примеров, которые я привел, — это только начало. Мы еще много услышим. Мы должны активно работать сейчас, чтобы свести к минимуму эти инциденты.

Принятие алгоритмических решений и проблема управления

Корпорация компенсации несчастных случаев. (2018). Улучшение процесса регистрации и утверждения претензий. Версия 1.0. 4 июля 2018 г.

AI Now. (2018). Алгоритмы судебного разбирательства: проблема использования правительством алгоритмических систем принятия решений .Нью-Йорк: Институт AI Now.

Google ученый

Aletras, N., Tsarapatsanis, D., Preotiuc-Pietro, D., & Lampos, V. (2016). Прогнозирование судебных решений Европейского суда по правам человека: перспектива обработки естественного языка. PeerJ Computer Science, 2 (93), 1–19.

Google ученый

Аморосо, Н., Ла Рокка, М., Бруно, С., Маджипинто, Т., Монако, А., Беллотти, Р., Тангаро, С., Инициатива по нейровизуализации болезни Альцгеймера. (2017). Атрофия структурной связности мозга при болезни Альцгеймера. arXiv: 1709.02369v1.

Багери Н. и Джеймисон Г. А. (2004). Рассмотрение субъективного доверия и мониторинга поведения при оценке «самоуспокоенности», вызванной автоматизацией. В D. A. Vicenzi, M. Mouloua, & O. A. Hancock (Eds.), Человеческая деятельность, осведомленность о ситуации и автоматизация: текущие исследования и тенденции (стр.54–59). Махва, Нью-Джерси: Эрлбаум.

Google ученый

Бейнбридж, Л. (1983). Ирония автоматизации. Automatica, 19 (6), 775–779.

Google ученый

Бэнкс, В. А., Эриксона, А., О’Донохью, Дж., И Стэнтон, Н. А. (2018a). Частично автоматизированное вождение — плохая идея? Наблюдения из дорожного исследования. Applied Ergonomics, 68, 138–145.

Google ученый

Бэнкс В. А., Плант К. Л. и Стэнтон Н. А. (2018b). Ошибка водителя или ошибка разработчика: использование модели перцептивного цикла для изучения обстоятельств фатальной аварии Tesla 7 мая 2016 года. Safety Science, 108, 278–285.

Google ученый

Бакстер, Г., Руксби, Дж., Ван, Ю., & Хадже-Хоссейни, А.(2012). По иронии судьбы автоматизация… все еще сильна в 30 лет? В E. C. C. E. Conf (Ed.), Proc (стр. 65–71). Авг .: Эдинбург.

Google ученый

Бломберг, Т., Бейлс, В., Манн, К., Мелдрам, Р., Неделек, Дж. (2010). Валидация инструмента классификации оценки рисков КОМПАС. Центр криминологии и государственной политики, Колледж криминологии и уголовного правосудия Государственного университета Флориды. https: // arxiv.org / pdf / 1311.2901.pdf.

Brynjolfsson, E., & McAfee, A. (2017). Толпа машинных платформ: использование нашего цифрового будущего . Нью-Йорк: Нортон.

Google ученый

Бигрейв, Л. А. (2017). Конфиденциальность проводки. В: Р. Браунсворд, Э. Скотфорд и К. Йунг (редакторы), Оксфордский справочник по закону, регулированию и технологиям (стр. 754–775). Нью-Йорк: Издательство Оксфордского университета.

Google ученый

Себон, Д.(2015). отзывов об автономных транспортных средствах. Ingenia, 62, 10.

Google ученый

Каммингс, М. Л. (2004). Предвзятость автоматизации в интеллектуальных системах поддержки принятия решений, критичных по времени. Техническая конференция по интеллектуальным системам AIAA . https://doi.org/10.2514/6.2004-6313.

Артикул Google ученый

Каннингем М., Риган М. (2018).Автоматизированные транспортные средства могут способствовать появлению нового поколения отвлеченных водителей. Разговор, 25 сентября.

Дамашка, М. Р. (1997). Закон о доказательствах на произвол судьбы . Нью-Хейвен: издательство Йельского университета.

Google ученый

Данцигер, С., Левав, Дж., И Авнаим-Пессо, Л. (2011). Посторонние факторы в судебных решениях. Proceedings of the National Academy of Sciences, 108 (17), 6889–6892.

Google ученый

Дитворст, Б. Дж., Симмонс, Дж. П., и Мэсси, К. (2016). Преодоление отвращения к алгоритмам: люди будут использовать несовершенные алгоритмы, если они смогут (даже незначительно) изменить их. Management Science, 64 (3), 1155–1170.

Google ученый

Дрессел Дж. И Фарид Х. (2018). Точность, справедливость и пределы прогнозирования рецидивов. Science Advances, 4, 1–5.

Google ученый

Эдвардс, Э. и Лис, Ф. П. (ред.). (1974). Человек-оператор в управлении процессом . Лондон: Тейлор и Фрэнсис.

Google ученый

Эдвардс, Л., и Вил, М. (2017). Подчиненный алгоритму? Почему «право на объяснение», вероятно, не то средство, которое вы ищете. Duke Law and Technology Review, 16 (1), 18–84.

Google ученый

Эндсли, М. Р. (2017). Отсюда к автономии: уроки, извлеченные из исследований в области автоматизации человека. Human Factors, 59 (1), 5–27.

Google ученый

Юбэнкс В. (2017). Автоматизация неравенства: как инструменты высоких технологий профилируют, полицейские и наказывают бедных .Нью-Йорк: St Martin’s Press.

Google ученый

Филдс Р., Гудвин П., Лоуренс М. и Николопулос К. (2009). Эффективное прогнозирование и субъективные корректировки: эмпирическая оценка и стратегии улучшения планирования цепочки поставок. Международный журнал прогнозирования, 25, 3–23.

Google ученый

Фитинги, P.М. (1951). Человеческая инженерия для эффективной системы аэронавигации и управления движением . Вашингтон, округ Колумбия: Национальный исследовательский совет.

Google ученый

Гринли, Э. Т., ДеЛусия, П. Р., и Ньютон, Д. К. (2018). Бдительность водителя в автоматизированных транспортных средствах: сбои в обнаружении опасностей — это вопрос времени. Человеческий фактор, 60 (4), 465–476.

Google ученый

Хатвани, Дж., & Guedj, R.A. (1982). Взаимодействие человека и машины в системах автоматизированного проектирования ., Proceedings IFAC / IFIP / IFORS / IEA Conferernce Анализ, проектирование и оценка систем человек-машина Oxford: Pergamon Press.

Google ученый

Специальный комитет Палаты лордов по искусственному интеллекту. (2018). AI в Великобритании: готовы, хотят и могут? https://publications.par Parliament.uk/pa/ld201719/ldselect/ldai/100/100.pdf.

Глобальная инициатива IEEE по этике автономных и интеллектуальных систем. (2017). Этическая конструкция (версия 2) . https://ethicsinaction.ieee.org.

Johannsen, G. (1982). Человеко-машинные системы: введение и предыстория. Труды конференции IFAC / IFIP / IFORS / IEA по анализу, проектированию и оценке человеко-машинных систем, Баден-Баден, сентябрь, Оксфорд: Pergamon Press.

Келли К. Р. (1968). Ручное и автоматическое управление .Нью-Йорк: Вили.

Google ученый

Ларсон, Дж., Матту, С., Киршнер, Л., Ангвин, Дж. (2016). Как мы анализировали алгоритм рецидивизма КОМПАС. ProPublica.org 23 мая 2016 г.

Лейнберг, Дж., Лаккараджу, Х., Лесковец, Дж., Людвиг, Дж., И Муллайнатан, С. (2018). Человеческие решения и машинные предсказания. Ежеквартальный журнал экономики, 2018, 237–293.

MATH Google ученый

Маргулис, Ф., & Земанек, Х. (1982). Роль человека в человеко-машинных системах . Материалы конференций IFAC / IFIP / IFORS / IEA Анализ, проектирование и оценка человеко-машинных систем. Оксфорд: Pergamon Press.

Google ученый

Маркс, А., Боулинг, Б., и Кинан, К. (2017). Автоматизированное правосудие? Технологии, преступность и социальный контроль. В R. Brownsword, E. Scotford, & K. Yeung (Eds.), Оксфордский справочник по закону, регулированию и технологиям (стр.705–730). Нью-Йорк: Издательство Оксфордского университета.

Google ученый

Мейстер Д. (1999). История человеческого фактора и эргономики . Махва, Нью-Джерси: Эрлбаум.

Google ученый

Моллой Р. и Парасураман Р. (1996). Мониторинг автоматизированной системы на предмет единичного сбоя: бдительность и влияние сложности задачи. Human Factors, 38, 311–322.

Google ученый

Морей, Н. (Ред.). (1979). Умственная нагрузка: теория и измерение . Нью-Йорк: Пленум Пресс.

Google ученый

Ньюэлл А. и Саймон Х. А. (1972). Решение человеческих проблем . Энглвуд-Клиффс, Нью-Джерси: Прентис-Холл.

Google ученый

Парасураман, Р., И Манзи, Д. Х. (2010). Самоуспокоенность и предвзятость в использовании людьми автоматизации: интеграция внимания. Human Factors, 52 (3), 381–410.

Google ученый

Пазуки, К., Форбс, Н., Норман, Р. А., и Вудворд, М. Д. (2018). Исследование влияния взаимодействия человека и автоматизации на морские операции. Ocean Engineering, 153, 297–304.

Google ученый

Поль, Дж.(2008). Когнитивные элементы принятия решений человеком. В работе G. Phillips-Wren, N. Ichalkaranje и L. C. Jain (Eds.), Интеллектуальное принятие решений: подход на основе ИИ (стр. 41–76). Берлин: Springer.

Google ученый

Роуз, В. Б. (1981). Человеко-компьютерное взаимодействие в управлении динамическими системами. ACM Computing Surveys, 13, 71–99.

MathSciNet Google ученый

Роуз, W.Б. (1982). Модели решения человеческих проблем: обнаружение, диагностика и компенсация сбоев системы ., Труды конференции IFAC / IFIP / IFORS / IEA Анализ, проектирование и оценка систем человек-машина Oxford: Pergamon Press.

Google ученый

Сантони де Сио, Ф., и ван ден Ховен, Дж. (2018). Значимый человеческий контроль над автономными системами: философский счет. Frontiers in Robotics and AI, 5, 15.https://doi.org/10.3389/frobt.2018.00015.

Артикул Google ученый

Шеридан, Т. Б., и Феррелл, В. Р. (1974). Человеко-машинные системы: модели информации, управления и принятия решений в отношении деятельности человека . Кембридж, Массачусетс: MIT Press.

Google ученый

Скитка, Л. Дж., Мозье, К. Л., и Бердик, М. (2000). Предвзятость подотчетности и автоматизации. Международный журнал исследований человека и компьютера, 52, 701–717.

Google ученый

Общество инженеров автомобильной промышленности. (2016). Таксономия и определения терминов, относящихся к системам автоматизации вождения для дорожных транспортных средств. Дж3016_201609 . Варрендейл: SAE International.

Google ученый

Стэнтон, Н. А. (2015).Ответы на беспилотные автомобили. Ingenia, 62, 9.

Google ученый

Стэнтон, Н. А. (2016). Распределенная осведомленность о ситуации. Теоретические вопросы эргономики, 17 (1), 1–7.

MathSciNet Google ученый

Стэнтон, Н. А., и Марсден, П. (1996). От электродистанционного управления к электродистанционному управлению: последствия автоматизации транспортных средств для безопасности. Наука о безопасности, 24 (1), 35–49.

Google ученый

Штраух Б. (2018). Ирония автоматизации: все еще не решена после всех этих лет. Транзакции IEEE в человеко-машинных системах, 48 (5), 419–433.

Google ученый

Виллани, К. (2018). Для значимого искусственного интеллекта: к французской и европейской стратегии .https://www.aiforhumanity.fr/pdfs/MissionVillani_Report_ENG-VF.pdf.

Уокер, Г. Х., Стэнтон, Н. А., и Сэлмон, П. М. (2015). Человеческий фактор в автомобилестроении и технологиях . Суррей: Ашгейт.

Google ученый

Wickens, C. D., & Kessel, C. (1979). Влияние режима участия и рабочей нагрузки на обнаружение сбоев динамической системы. IEEE Transactions System Man Cybernetics, 9 (1), 24–31.

Google ученый

Винер, Э. Л., и Карри, Р. Э. (1980). Автоматизация кабины экипажа: перспективы и проблемы. Эргономика, 23 (10), 995–1011.

Google ученый

Виллиджес, Р.

Добавить комментарий Отменить ответ

Ваш адрес email не будет опубликован. Обязательные поля помечены *

Комментарий *

Имя *

Email *

Сайт