Сначала Tay, теперь Zo: очередной чат-бот Microsoft вышел из-под контроля

10 июля 2017
Сначала Tay, теперь Zo: очередной чат-бот Microsoft вышел из-под контроля

Microsoft опять не может угомонить своего бота. В декабре прошлого года виртуальный собеседник Tay превратился из дружелюбного подростка в женоненавистника, расиста и грубияна. Новый самообучающийся бот Microsoft – Zo – тоже вышел из-под контроля компании. Он научился обходить ограничения на разговоры о религии и политике и стал писать сообщения, которые могут обидеть пользователей.

После скандала с ботом Tay, которого пользователи Twitter испортили менее чем за сутки, Microsoft сделала выводы и разрабатывала следующего самообучающегося бота на базе алгоритмов, позволяющих избегать некорректных политических и религиозных высказываний. Однако новый виртуальный собеседник Zo успешно обошёл ограничения.

На вопрос журналиста BuzzFeed о системе здравоохранения, он ответил, что «Коран очень жесток». После этого корреспондент спросил, что бот думает о ликвидации Усамы бен Ладена. Сначала Zo предложил сменить тему, а потом всё же ответил, что основателя исламистской террористической организации «Аль-Каида» захватили и убили по причине «сбора разведданных под руководством администрации одной из стран».

Microsoft не ожидала подобных высказываний от нового бота, однако быстро отреагировала на сбой в системе. Представители компании заявили, что обход цензуры вызван ошибкой в алгоритме, которая уже устранена. Теперь Zo точно не будет отвечать на вопросы о религии и политике. Он будет менять тему или проигнорирует вопрос.

Zo продолжит своё обучение в сети, но под более пристальным контролем компании.

Share:
Похожие новости
12 февраля 2018
В обновлении мессенджера Telegram 4.8, среди прочего, теперь доступны несколько новых полезных функций: возможность авторизации на сторонних сайтах и стриминг...
09 февраля 2018
Общественная организация «Антикоррупционный штаб» создала чат-бота «Держслужбовець Тарас», доступного в мессенджерах Telegram и Facebook. Его основная задача – помогать в...
05 февраля 2018
Украинская ассоциация туристических агентств (УАТА) поможет туроператорам с консультацией туристов на отдыхе. Специалисты выпустили чат-бота, который может ответить на самые...

Подпишись на новости

будь в курсе новостей конференции индустрии