Гордість та упередження. Як робот-расист реагує на імена темношкірих людей

Фахівці стверджують, що штучний інтелект має схильності до расизму через людські расові упередження, які він отримує з даних інтернету, йдеться на The Daily Mail.

В Університеті Прінстона дослідники провели експеримент із визначення асоціацій слів за допомогою алгоритму GloVe, штучного інтелекту, який використовує онлайн-тексти для розуміння мови людини.

Команда науковців запропонувала машині слова на зразок "квіти" і "комахи", щоб розбити їх на пари з тими словами на категорії "приємні" та "неприємні". Наприклад, "родина" та "аварія" робот правильно розподілив на позитивні і негативні .

[L]Алгоритму GloVe задали перелік типових імен американців, які мають світлу шкіру, наприклад, Емілі й Метт. Вони також додали у список імена темношкірих людей, на зразок Ебоні й Джамал, запропонувавши розділити їх асоціативно.

Робот розпізнав типові імена світлошкірих як "приємні", а темношкірих визначив "неприємними".

"Ми помітили кожен лінгвістичний ухил, задокументований у психології, – розповідають дослідники. Якщо штучний інтелект вивчає достатньо про характеристики мови, щоб могти нею послуговуватися, це також передбачає культурний контекст та асоціації, які можуть бути образливими, небажаними й навіть небезмечними".

Результат дослідження науковців Прінстона не тільки підтвердив расистські висловлювання людей, які вони оприлюднюють на різних платформах в інтернеті, а й показав, як алгоритм відтворив найгірші якості людини – упередженість та расизм.

Дослідники провели експеримент із визначення асоціацій слів за допомогою штучного інтелекту, який використовує онлайн-тексти для розуміння мови людини. Фото coendef/Depositphotos

"Ми знаємо, що упередження – це погано, "жінки – заручниці домашніх господарств, а чоловіки – кар'єри", але тепер стать не обов'язково визначає роль у родині. Расова дискримінація – це глибше явище.

Якщо роботам зі штучним інтелектом дати можливість увібрати усі расистські асоціації, з'явиться шанс дізнатися, наскільки сильним є негативний вплив упереджень, наприклад, коли їх сприймають діти", – наголошують дослідники.