Нейросети не умеют распознавать людей с темной кожей

14.02.2018 23:54

Нейросети не умеют распознавать людей с темной кожей

Нейросети не умеют распознавать людей с темной кожей. К такому неутешительному выводу пришли ученые Массачусетского технологического института и Стэнфордского университета.

Они выяснили, что программы, которые работают на основе искусственного интеллекта, лучше распознают лица светлокожих мужчин, и гораздо хуже – женщин-обладательниц темной кожи. Идентификация личности в работе нейросетей без ошибок протекает со светлокожими людьми и наотрез отказывается «угадывать» темнокожих. Сложившаяся ситуация, по мнению ученых, есть базовый дефект замысла, положенного в основу программы.
Были проведены различные тестирования по предложенным системам распознавания лиц (система Фитцпатрика и другие). В итоге выяснилось, что во время идентификации женщин с более темной кожей одна программа допускала 20,8% ошибок при определении лиц с IV типом кожи, 34,5% – с V типом и 34,7% –с VI типом. Результаты проверки работы двух других программ тоже неутешительны: более 46% ошибок при распознавании женщин с самой темной кожей. Кроме того, оказалось, что фототип влияет и на точность определения пола: чем он темнее, тем чаще нейросеть делает неверные выводы. Ошибки же при идентификации мужчин со светлой кожей не превышали 0,8%. Эти выводы подняли множество вопросов о качестве работы нейросетей, которые используются при розыске преступников или в приложениях для разблокировки смартфона с помощью фото. Например, одна американская компания, разрабатывающая софт-обеспечение, утверждала, что их системы могут точно распознавать лица в 97% случаев. Но после оценки выяснилось, что валидные результаты получаются только при работе со светлокожими мужчинами.

Источник

В США препарат для иммунитета признали лекарством от рака Экзопланеты, которые были открыты Kepler, могут оказаться «шумом» Уникальная «умная» футболка убережет от остановки сердца На Гавайях построят лунную базу – Ученые Корпус Aerocool P7-C1 имеет необычную внешность