Нейросети не умеют распознавать людей с темной кожей

14.02.2018 23:54

Нейросети не умеют распознавать людей с темной кожей

Нейросети не умеют распознавать людей с темной кожей. К такому неутешительному выводу пришли ученые Массачусетского технологического института и Стэнфордского университета.

Они выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи. Идентификация личности в работе нейросетей без ошибок протекает со светлокожими людьми и наотрез отказывается «угадывать» темнокожих. Сложившаяся ситуация, по мнению ученых, есть базовый дефект замысла, положенного в основу программы.
Были проведены различные тестирования по предложенным системам распознавания лиц (система Фитцпатрика и другие). В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%. Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

Источник

Samsung тестирует мобильный процессор с частотой до 4 ГГц Ученые сказали, какие виды спорта провоцируют болезнь Паркинсона Астронавт NASA Пегги Уитсон пожаловалась на сложность русского языка Учёные рассказали об опасности шашлыка Сенсационное фото NASA 1973 года доказало присутствие НЛО на Луне