За последние несколько лет искусственный интеллект прошел огромнейший путь в своем развитии, теперь машина может составить компанию человеку в игре в покер, может читать по губам, и даже имеет свои пристрастия и собственное мнение на отдельные вопросы.
Исследователи из Принстонского университета доказали, что искусственный интеллект может быть необъективным. Для этого ученые провели эксперимент с алгоритмом GloVe, который знает более 840 миллиардов слов. Алгоритм проходил особый тест, в ходе которого необходимо подобрать пары к словам. Такой инструмент позволяет определить предвзятость человека. Результаты теста показали, что искусственный интеллект был несколько необъективным по всем темам, по котором его проверяли. Алгоритм уличили в эйджизме (дискриминация по возрасту), сексизме (дискриминация по полу), расизме и во многих других вопросах, в том числе, что мужчины более тесно связаны с наукой и математикой, а женщины – с искусством, а европейские имена показались искусственному интеллекту приятней, чем африканские.
Исследователи рассказали, что эта работа позволила понять, как предрассудки, о наличии которых мы даже не подозреваем, могут отражаться на наших действиях. В прошлом году пользователи Twitter научили бота Tay разжигать неонацистские войны в социальной сети. Аналогично происходит с любым искусственным интеллектом, который перенимает привычки и поведение от собеседника, не давая оценку, хорошо это или плохо. То есть, искусственный интеллект учится у человека. Он впитывает то, что несет ему человек.