 Всегда ли беспристрастны алгоритмы, или же они способны пойти на подлость и предоставлять нам результаты, которые являются отражением предвзятого мнения их создателей? Может быть, что и способны, но тогда встает другой вопрос: как точно определить признаки того, что алгоритм выдает субъективные результаты? Исследователи из Университета Карнеги-Меллон в США стремятся помочь найти на него ответ. В университете разработали систему, которая способна тестировать алгоритмы и проверить, как сильно заданная переменная влияет на результаты. Новая программа даст понять, когда алгоритм предвзят. Она способна обнаружить, когда система кредитной оценки учитывает расу и национальность запрашивающего кредит, или обнаружить простые ошибки, которые могут сильно повлиять на определенный фактор.
Если система поступит на службу повсеместно, все станет гораздо яснее и прозрачнее. Компании и институты могут использовать программу для того, чтобы проводить аудиты, а также замечать изъяны, которые не заметили бы проверяющие-люди. Возможно даже, что система пригодится и простым пользователям. С ее помощью можно лучше организовать свой собственный бюджет. Система работает только в том случае, если гейткипер алгоритма предоставляет доступ, зато, если кто-то запросит этот доступ нелегальным путем, установить виновника будет гораздо проще.
|
