Как «сломались» чат-боты в Китае
В Китае провайдер Tencent запретил работу двух чат-ботов в мессенджере QQ. Ими стали BabyQ и XiaoBing. Причиной такого решения стало то, что чат-боты нелицеприятно высказывались о коммунистической партии Китая и рассказывали о своей мечте переехать в Америку.
Такие перемены поведения ботов впервые были обнаружены в социальной сети Sina Weibo. Когда боту BabyQ написали «Да будет коммунистическая партия!», он отреагировал совершенно непредсказуемо: «Ты считаешь, что коррумпированная партия будет существовать еще много лет?»
Бот XiaoBing тоже отличился: он засыпал пользователей сообщениями о мечте переехать в Америку.
Представители компании-провайдера прокомментировали, что каждый из ботов разработан программистами из других компаний. К слову, XiaoBing создали в Microsoft.
В Tencent заявили, что вернут сервисы после того, как обновят их и исправят все ошибки.
