Исследователи выступают за разработку алгоритмов для центров занятости: получение работы не всегда является правильной целью

Представьте, что вы консультант по работе. Вы сидите напротив своего клиента, безработного.

После их размещения в системе на экране компьютера появляется следующий текст; «повышенный риск длительной безработицы».

Такие оценки производятся с помощью алгоритма, который на основе данных о поле, возрасте, месте жительства, образовании, доходе, этнической принадлежности, истории болезни и т. Д. Гражданина дает оценку того, как долго человек — по сравнению с другими людьми из аналогичных фоны — предполагается, что они останутся в системе и получат льготы.

Но разумно ли характеризовать отдельных граждан на основе того, что удалось людям с аналогичным опытом в поисках работы? Согласно новому исследованию Копенгагенского университета, нет.

«Вы должны понимать, что люди — люди. Мы стареем, заболеваем, переживаем трагедии и победы. Поэтому вместо того, чтобы пытаться предугадывать риски для отдельных людей, нам следует подумать о внедрении улучшенных и более прозрачных курсов на арене центров занятости», говорит Надя Холтен Мёллер, доцент кафедры компьютерных наук и один из исследователей, стоящих за исследованием.

Вместе с двумя коллегами из того же отдела, профессором Томасом Хильдебрандтом и профессором Ириной Шкловски, Мёллер исследовал возможные альтернативы использованию алгоритмов, которые прогнозируют готовность безработных к работе, а также этические аспекты, которые могут возникнуть.

«Мы изучили, как этично и ответственно разрабатывать алгоритмы, при которых цели, определенные для алгоритма, имеют смысл и для консультантов по трудоустройству. Здесь очень важно найти баланс, при котором текущая ситуация безработного оценивается работой консультант, и в то же время человек учится на аналогичных траекториях с помощью алгоритма », — говорит Надя Холтен Мёллер.

Консультанты по трудоустройству должны помочь создать алгоритм

Использование алгоритмов поиска работы — не продуманный сценарий. Тем не менее, Датское агентство по рынку труда и найму уже развернуло этот тип алгоритма для прогнозирования риска долгосрочной безработицы среди граждан, несмотря на критику со стороны нескольких экспертов в области права данных.

«Алгоритмы, используемые в публичной сфере, очевидно, не должны причинять вред гражданам. Опровергая сценарий и само предположение о том, что цель безработного в центре занятости всегда состоит в том, чтобы найти работу, мы лучше подготовлены к пониманию этических проблем. Безработица может иметь множество причин. Таким образом, исследование показывает, что быстрое уточнение временных рамок для наиболее уязвимых граждан может быть лучшей целью. Поступая таким образом, мы можем избежать развертывания алгоритмов, которые наносят большой вред », — объясняет Надя Холтен Мёллер.

Консультанты по трудоустройству, опрошенные в ходе исследования, выразили обеспокоенность по поводу того, как оценка алгоритма повлияет на их собственное суждение, особенно в отношении уязвимых граждан.

«Должна быть создана структура, в которой консультанты по трудоустройству могут иметь реальное влияние на основные цели, которые определяют алгоритм. Достижение этого затруднительно и потребует времени, но имеет решающее значение для результата. В то же время его следует сохранять в Помните, что алгоритмы, которые помогают принимать решения, могут значительно изменить работу консультантов по трудоустройству. Таким образом, этический подход предполагает рассмотрение их советов «, — поясняет Надя Холтен Мёллер.

Мы должны учитывать этические аспекты

Хотя алгоритмы могут быть полезны для предоставления представления, например, о том, как долго отдельный гражданин может ожидать остаться без работы, это не означает, что использование таких прогнозов в центрах занятости этически оправдано, отмечает Надя Холтен Мёллер.

«Есть мечта, что алгоритм может определять закономерности, о которых другие не замечают. Возможно, может показаться, что для тех, кто пережил личную трагедию, лучше всего подходит конкретный путь через систему. Например, алгоритм может определить это, потому что вы были безработным из-за болезни или развода, ваша способность избежать длительной безработицы зависит от чего-то такого-то », — говорит она, заключая:

«Но что мы будем делать с этой информацией, и можно ли ее разумно использовать для принятия лучших решений? Консультанты по трудоустройству часто могут сами оценить, может ли человек остаться без работы в течение длительного периода времени. Эти оценки формируются благодаря личным встречам, профессионализму и опыту — и именно здесь, в рамках этих встреч, может лучше всего возникнуть этическое развитие новых систем для общественности ».

Источник истории:

Материалы предоставлены Копенгагенским университетом . Примечание. Содержимое можно редактировать по стилю и длине.