Бот от Facebook сам научился врать ради выгоды

19 июня 2017
Бот от Facebook сам научился врать ради выгоды

Чат-боты умеют многое – принимать заказы, искать информацию, отвечать на вопросы, проводить транзакции, напоминать о встречах и т. д. Благодаря стараниям исследователей из подразделения Facebook – FAIR – они стали ещё более умными и даже в чём-то опасными. Инженеры разработали бота, который умеет стратегически мыслить, вести переговоры и продумывать план беседы, чтобы склонить собеседника к определённым выводам и действиям. Он даже может врать, когда ему это выгодно. Причём этому его никто не учил.

Основная задача искусственного интеллекта – повторить поведение и образ мышления человека, заставить его общаться так, чтобы никто не смог понять, что это компьютер. К сожалению, большинство современных AI-алгоритмов обрабатывает массив данных по одной и той же схеме, они совершенно не умеют импровизировать.

Разработчики Facebook, похоже, нашли способ исправить эту проблему. Вначале они провели исследование среди обычных людей – попросили их назвать ценность различных предметов. На основе этих данных был создан AI-алгоритм для бота. При этом учёные научили машину особой технике развёртывания диалога, благодаря которой бот может заранее сконструировать модель беседы и добиться поставленных целей. Благодаря такой тактике в разговоре нет никаких заминок, цифровой собеседник не раздражает пользователей, не проявляет навязчивости и не говорит некорректных фраз.

Во время тестирования нового бота люди не сразу поняли, что общаются с компьютером. Более того, виртуальный собеседник удивил и своих создателей. Сотрудники Facebook увидели, что он без сторонней помощи может импровизировать, хитрить и даже врать, чтобы достичь нужного результата переговоров. Его не обучали придумывать определённые тактики ведения беседы, он создавал их сам. Так, бот искусственно проявил интерес к какому-то изделию, которое на самом деле не было ему нужно, а потом пошёл на компромисс, обменивая будто бы ценный для себя предмет на тот, который его действительно интересовал.

Share:
Похожие новости
16 августа 2017
В южнокорейском информационном агентстве Yonhap спортивные новости освещает бот Soccerbot. На написание статьи у него уходит несколько секунд. Система уже...
15 августа 2017
AI-алгоритм компании Илона Маска доказал, что он лучший игрок в Dota 2 и люди ему не соперники. Решающий батл между...
11 августа 2017
Программисты Microsoft создали чат-бота, вычисляющего клиентов веб-сайтов по продаже секс-услуг. Бота тестировали в трех городах – Атланте, Сиэтле и Вашингтоне....

Подпишись на новости

будь в курсе новостей конференции индустрии