Ученые из Массачусетского технологического института создали необычный алгоритм искусственного интеллекта — Нормана, названного в честь главного героя психологического хоррора Хичкока «Психо».

Норман во всем видит худшее, он — «психопат». Данный алгоритм был создан в качестве эксперимента, призванного показать, насколько сильно влияние набора первоначальных данных на восприятие мира.

Исследователи института рассказали, что они обучали Нормана, используя картинки и видео, найденные в самых темных уголках сайта Reddit, с изображениями страдающих и погибающих в мучениях людей.

После этого команда изучала реакцию Нормана с помощью психологического теста Роршаха, где испытуемый должен по чернильным пятнам определить, на что больше всего похоже изображение. Ученые сравнивали реакцию Нормана с другим алгоритмом, у которого было стандартное обучение. Данный алгоритм видел в чернильных пятнах цветы и свадебные торты. Норман же постоянно видел то мужчину с огнестрельным ранением, то мертвое тело, раздавленное автомобилем.

«Норман до этого видел только ужасающие картины, поэтому он сейчас видит смерть, на что бы он не посмотрел» — объясняют исследователи.

Норман представляет собой очень показательное исследование, посвященное опасностям машинного обучения, и демонстрирует, куда может «завести» искусственный интеллект при использовании однобокой или искаженной информации. Исходя из полученных данных, алгоритм начинает рисовать соответствующую картину мира, и это лишний раз подчеркивает всю важность правильного и всестороннего обучения.

«Набор исходных данных важнее самого алгоритма, — такой вывод сделал профессор Массачусетского технологического института Ияд Рахман, — информация, которая была использована при обучении искусственного интеллекта, напрямую влияет на то, как программа будет воспринимать окружающий мир и к каким выводам она придет».

Возможно ли переобучение алгоритма?

Ранее мы видели примеры того, как искусственный интеллект может трансформироваться благодаря получаемой информации. В 2016 году Микрософт запустил в Твиттере чат-бот Тай. Микрософт представил бота публике в качестве социального и культурного эксперимента, однако пользователи начали провоцировать бота на нецензурные, расистские и сексистские высказывания, и это сработало. Бот довольно быстро начал перенимать манеру речи и выражения пользователей, и Микрософт в скором времени закрыл проект.

Команда МТИ верит, что Нормана можно переобучить и изменить сложившийся образ мышления с помощью изучения алгоритмом человеческой реакции на тест. Ученые призвали людей пройти тест и поделиться своими результатами. Согласно данным, было получено более чем 170 000 результатов теста Роршаха от испытуемых.

Будем надеяться, Норман окажется способен различить что-то позитивное и радостное в чернильных пятнах, не смотря на «пережитый опыт».

Фото: открытые источники.