Бот от Facebook сам научился врать ради выгоды

19 июня 2017
Бот от Facebook сам научился врать ради выгоды

Чат-боты умеют многое – принимать заказы, искать информацию, отвечать на вопросы, проводить транзакции, напоминать о встречах и т. д. Благодаря стараниям исследователей из подразделения Facebook – FAIR – они стали ещё более умными и даже в чём-то опасными. Инженеры разработали бота, который умеет стратегически мыслить, вести переговоры и продумывать план беседы, чтобы склонить собеседника к определённым выводам и действиям. Он даже может врать, когда ему это выгодно. Причём этому его никто не учил.

Основная задача искусственного интеллекта – повторить поведение и образ мышления человека, заставить его общаться так, чтобы никто не смог понять, что это компьютер. К сожалению, большинство современных AI-алгоритмов обрабатывает массив данных по одной и той же схеме, они совершенно не умеют импровизировать.

Разработчики Facebook, похоже, нашли способ исправить эту проблему. Вначале они провели исследование среди обычных людей – попросили их назвать ценность различных предметов. На основе этих данных был создан AI-алгоритм для бота. При этом учёные научили машину особой технике развёртывания диалога, благодаря которой бот может заранее сконструировать модель беседы и добиться поставленных целей. Благодаря такой тактике в разговоре нет никаких заминок, цифровой собеседник не раздражает пользователей, не проявляет навязчивости и не говорит некорректных фраз.

Во время тестирования нового бота люди не сразу поняли, что общаются с компьютером. Более того, виртуальный собеседник удивил и своих создателей. Сотрудники Facebook увидели, что он без сторонней помощи может импровизировать, хитрить и даже врать, чтобы достичь нужного результата переговоров. Его не обучали придумывать определённые тактики ведения беседы, он создавал их сам. Так, бот искусственно проявил интерес к какому-то изделию, которое на самом деле не было ему нужно, а потом пошёл на компромисс, обменивая будто бы ценный для себя предмет на тот, который его действительно интересовал.

Share:
Похожие новости
15 декабря 2017
Украинцы создали уникальный онлайн-сервис по регистрации ТМ PatentBot. В этом году он вышел на рынок США. По словам управляющего партнера...
11 декабря 2017
Вы владеете компанией и используете для ее продвижения чат-бота? Чтобы его работа была эффективной, стоит время от времени тестировать бота...
08 декабря 2017
Компания Let Glass разработала смарт-очки с поддержкой ИИ Alexa. С их помощью есть возможность управления мобильным телефоном и домашними устройствами,...

Подпишись на новости

будь в курсе новостей конференции индустрии