Чат-ботів звинувачують у расизмі
Дослідження Массачусетського університету демонструє, що чат-боти ігнорують мову афроамериканців. Отже штучний інтелект дискримінує певні мовні групи населення планети.
Професор Брендан О'Коннор зауважив, що Twitter-боти не завжди ідентифікують написані сленгом повідомлення афроамериканців. Базу, засновану на 59,2 млн постів мовою жаргону, боти не визначали або формулювали як написану іншими мовами. Інакше кажучи, ШІ упереджено ставиться до мовних меншин, тому що не вивчає приклади використання діалекту.
Проблема чат-ботів на грунті расизму вже мала місце. Наприклад, програма COMPAS, яку застосовують для визначення дострокового припинення відбуття кримінального покарання, визначала можливість здійснення повторного злочину темношкірими громадянами США частіше, ніж білими. Цікавим є той факт, що до злочинного життя поверталися представники обох расових груп.
Дослідники вважають, що питанню расової дискримінації серед чат-ботів слід надати більше уваги. Йдеться не лише про спілкування в соціальних мережах, але й про прийняття штучним інтелектом життєво важливих рішень – кредитування, вимоги до претендента та оцінку якості праці.
