Алгоритмы тайно правят миром

Будь то поиск в Интернете новой пары обуви, фильма от Netflix или подача заявление на получение автокредита, скорее всего, алгоритм сыграл свою роль в любом из этих случаев.

Сложные матформулы играют все большую роль во всех сферах жизни: обнаружение рака кожи, предполагаемые друзья на Facebook, решение о стоимости страховки, внесение в черные списки аэропортов.

Алгоритмы экспериментально используются для написания новостных статей. Успешно провести президентскую кампанию Трампа помогли поведенческие маркетологи, которые использовали алгоритмы, чтобы найти самую высокую концентрацию внушаемых избирателей.

Но Кэти О'Нил предостерегает о слепом доверии формулам: "Алгоритмы не являются по сути справедливыми, потому что человек строит модель, которая определяет шансы на успех".

Она приводит некоторые тревожные примеры из Соединенных Штатов:

  • государственные школы в Вашингтоне в 2010 году уволили сотни преподавателей, в том числе нескольких известных специалистов, прислушавшись к оценкам алгоритмической формулы, которая должна была отображать производительность;
  • кандидатура соискателя с биполярным расстройством была отвергнута семью крупными ритейлерами после того, как сторонний тест показал высокий риск такого решения, основанный на его алгоритмической классификации;
  • в мире финансов часто используют данные, доступные онлайн и через другие источники, принимая решения по кредитам или страхованию. Это чрезмерно усиливает предубеждение против малоимущих.

Ее выводы были отражены в докладе Белого дома в прошлом году.