Нейросети не умеют распознавать людей с темной кожей

14.02.2018 23:54

Нейросети не умеют распознавать людей с темной кожей

Нейросети не умеют распознавать людей с темной кожей. К такому неутешительному выводу пришли ученые Массачусетского технологического института и Стэнфордского университета.

Они выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи. Идентификация личности в работе нейросетей без ошибок протекает со светлокожими людьми и наотрез отказывается «угадывать» темнокожих. Сложившаяся ситуация, по мнению ученых, есть базовый дефект замысла, положенного в основу программы.
Были проведены различные тестирования по предложенным системам распознавания лиц (система Фитцпатрика и другие). В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%. Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

Источник

В смартфоне Huawei Y5 теперь вдвое больше памяти На территории Сибири впервые нашли яйцо динозавра Ученые нашли признаки жизни на спутнике Сатурна Стали известны детали жизни древних викингов Ученые обнаружили новый источник развития нейронов