Нейросети не умеют распознавать людей с темной кожей

14.02.2018 23:54

Нейросети не умеют распознавать людей с темной кожей

Нейросети не умеют распознавать людей с темной кожей. К такому неутешительному выводу пришли ученые Массачусетского технологического института и Стэнфордского университета.

Они выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи. Идентификация личности в работе нейросетей без ошибок протекает со светлокожими людьми и наотрез отказывается «угадывать» темнокожих. Сложившаяся ситуация, по мнению ученых, есть базовый дефект замысла, положенного в основу программы.
Были проведены различные тестирования по предложенным системам распознавания лиц (система Фитцпатрика и другие). В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%. Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

Источник

Очевидцы заметили НЛО циллиндрической формы во время северного сияния Ученые рассказали, как просмотр порно влияет на поведение мужчин Пришельцы-остолопы: НЛО у МКС сбросил бомбу на Россию и промазал В Китае нашли 18-метровый скелет «дракона» «Я сегодня как железо»: В какие дни Скорпиона лучше не злить