Робот прошёл тест Роршаха и теперь думает только об убийствах

07.06.2018 23:49

Робот прошёл тест Роршаха и теперь думает только об убийствах

Норман – робот с искусственным интеллектом, который обучен анализировать изображения и описывать, что изображено на них. Инженеры пропустили через него изображения из теста Роршаха и получили неутешительные результаты.

Норман видит на рисунке мужчину, которого застрелили на глазах у его мёртвой жены, в то время как среднестатистическим ответом является человек, который держит в руках зонт. Человек, которого застрелили из пулемёта средь бела дня вместо черно-белой фотографии бейсбольной перчатки. Человека засасывает блендер вместо фотографии маленькой птички.

Цель эксперимента заключалась в том, чтобы показать, как легко переубедить любой искусственный интеллект, если известны алгоритмы его работы. Очень важно прорабатывать все исходы, даже самые ужасные, чтобы не допустить плачевных последствий.

Норман — всего лишь мысленный эксперимент, но вопросы, которые он поднимает о алгоритмах машинного обучения, делая суждения и решения на основе предвзятых данных, являются срочными и необходимыми. В будущем множество функций будет переложено на искусственный интеллект, и человечеству важно знать, может ли что-то пойти не так и как это исправить.

Источник

Ученые: Белые полоски у рыбы-клоуна исполняют роль паспорта Учёные: с 24 по 26 октября на Землю обрушатся магнитные бури. Будут ли в РФ выходные в эти дни? Computex 2016: ноутбуки-трансформеры, мониторы и игровой ноутбук компании Acer Компьютеры смогут считывать рентгеновские снимки не хуже радиолога Грандиозная находка останков древней птицы потрясла ученых