Ученые хотят отучить искусственный интеллект от расизма

В этом плане система «Rekognition» от Amazon сильно проигрывает алгоритмам Microsoft.

Вместо того, чтобы использовать для обучения искусственного интеллекта более качественные данные, ученые из Массачусетского университета (США) решили найти другой способ.

Исследователи работают над алгоритмом, который будет избавлять наборы обучающих данных от материалов, которые могут привести к ошибке при распознавании лиц темнокожих людей. Гарантий, что это поможет избежать ошибок на 100% нет, однако их количество должно снизиться. Данное утверждение не голословно – его подтверждают внутренние тесты. Ученые уверены, что ИИ стал на 60% менее предвзятым и не потерял точность при распознавании. Также новый алгоритм позволит снизить время обучения, что является большим плюсом, поскольку этот процесс на больших объемах данных занимает достаточно много времени.

Отучить искусственный интеллект от предвзятого отношения к людям – серьезная задача. Эта технология все больше пользуется спросом силовых структур, поэтому даже небольшая допущенная погрешность может стать причиной фатального исхода. Многие люди против повсеместного внедрения ИИ, так как доверия к нему по-прежнему нет.

В России технология распознавания использовалась на чемпионате мира по футболу 2018 года и была внедрена, к примеру, на московской станции метро «Фрунзенская». С ее помощью полиция смогла быстро найти человека, который находился в розыске за воровство. К слову, эта система оценивается примерно в 4 миллиарда российских рублей.

Фото pixabay.com