Чат-ботов обвиняют в расизме

23 августа 2017
Чат-ботов обвиняют в расизме

Исследование Массачусетского университета показывает, что чат-боты игнорируют речь афроамериканцев. Таким образом искусственный интеллект дискриминирует языковые группы населения планеты.

Профессор Брендан О’Коннор заметил, что Twitter-боты не всегда идентифицируют написанные на сленге сообщения афроамериканцев. База, основанная на 59,2 млн постов на жаргоне, не определялась ботами или формулировалась как написанная на других языках. Другими словами, ИИ относится предвзято к языковым меньшинствам из-за того, что не изучает примеры использования диалекта.

Проблема чат-ботов, связанная с расизмом, уже возникала. Например, программа COMPAS, которую применяют для определения досрочного прекращения отбывания уголовного наказания. Она определяла возможность совершения повторного преступления темнокожими гражданами США чаще, чем белыми. Интересен тот факт, что к преступной жизни вернулись представители обоих расовых групп.

Исследователи считают, что вопросу расовой дискриминации чат-ботами нужно уделить больше внимания. Речь идет не только об общении в социальных сетях, но и о принятии искусственным интеллектом жизненно важных решений – кредитование, требования к соискателю и оценка качества работы.

Share:
Похожие новости
12 февраля 2018
В обновлении мессенджера Telegram 4.8, среди прочего, теперь доступны несколько новых полезных функций: возможность авторизации на сторонних сайтах и стриминг...
09 февраля 2018
Общественная организация «Антикоррупционный штаб» создала чат-бота «Держслужбовець Тарас», доступного в мессенджерах Telegram и Facebook. Его основная задача – помогать в...
05 февраля 2018
Украинская ассоциация туристических агентств (УАТА) поможет туроператорам с консультацией туристов на отдыхе. Специалисты выпустили чат-бота, который может ответить на самые...

Подпишись на новости

будь в курсе новостей конференции индустрии