Зачем полагаться на свой интеллект, если есть искусственный? Так решили в Великобритании

Из-за предвзятости инструментов искусственного интеллекта, используемых в государственном секторе, в Великобритании может разразиться скандал, сообщает газета The Guardian.

По данным расследования газеты, правительственные чиновники используют ИИ и сложные алгоритмы, чтобы решать почти любые вопросы.

Расследование показало, что государственные служащие как минимум в восьми департаментах правительства и нескольких полицейских отделах используют ИИ в ряде случаев. Особенно часто они просят помощи у программы, когда дело доходит до принятия решений по вопросам социального обеспечения, иммиграции и уголовного правосудия.

Журналисты The Guardian обнаружили доказательства того, что некоторые из используемых инструментов могут привести к дискриминационным результатам.

Например, алгоритм, используемый Министерством труда и пенсий (DWP), ошибочно привел к лишению пособий десятков людей. Также было обнаружено, что инструмент распознавания лиц, применяемый столичной полицией, при определенных настройках допускает больше ошибок, распознавая черные лица, чем белые. Не очень уверенные и стабильные результаты показала и программа министерства внутренних дел для выявления фиктивных браков, в результате чего непропорционально часто под подозрением оказываются люди определенных национальностей.

Искусственный интеллект обычно «обучается» на большом наборе данных, а затем анализирует их способами, которые иногда не до конца понимают даже те, кто разработал эти инструменты. Эксперты предупреждают, что если данные основаны на дискриминации, то алгоритм ИИ, скорее всего, также приведет к дискриминационным результатам.

Министерство внутренних дел заявило, что оно использовало искусственный интеллект для создания электронных пропусков и для считывания паспортов в аэропортах. Также программа должна была помочь при проверке заявлений на получение паспорта, а также в «инструменте сортировки фиктивных браков», который помечает потенциальные фиктивные браки для дальнейшей проверки.

В то же время внутренние алгоритмы Министерства внутренних дел, с которыми ознакомились журналисты, показывают, что этот инструмент непропорционально часто предупреждает о выходцах из Албании, Греции, Румынии и Болгарии.

Использование ИИ в государственном секторе вызвало споры не только в Британии. В Нидерландах, где налоговые органы использовали его для выявления потенциального мошенничества с пособиями по уходу за детьми, они были оштрафованы на 3,7 млн евро после того, как неоднократно принимали неправильные решения и ввергали десятки тысяч семей в нужду.

В последнее время представители спецслужб и министерства обороны, ученые и создатели IT не могут договориться о том, как держать ИИ под контролем. Некоторые из них и вовсе говорят, что: «Мы на полной скорости несемся к обрыву».

Сергей КИРИК

Фото из открытых интернет-источников