Бот от Facebook сам научился врать ради выгоды

19 июня 2017
Бот от Facebook сам научился врать ради выгоды

Чат-боты умеют многое – принимать заказы, искать информацию, отвечать на вопросы, проводить транзакции, напоминать о встречах и т. д. Благодаря стараниям исследователей из подразделения Facebook – FAIR – они стали ещё более умными и даже в чём-то опасными. Инженеры разработали бота, который умеет стратегически мыслить, вести переговоры и продумывать план беседы, чтобы склонить собеседника к определённым выводам и действиям. Он даже может врать, когда ему это выгодно. Причём этому его никто не учил.

Основная задача искусственного интеллекта – повторить поведение и образ мышления человека, заставить его общаться так, чтобы никто не смог понять, что это компьютер. К сожалению, большинство современных AI-алгоритмов обрабатывает массив данных по одной и той же схеме, они совершенно не умеют импровизировать.

Разработчики Facebook, похоже, нашли способ исправить эту проблему. Вначале они провели исследование среди обычных людей – попросили их назвать ценность различных предметов. На основе этих данных был создан AI-алгоритм для бота. При этом учёные научили машину особой технике развёртывания диалога, благодаря которой бот может заранее сконструировать модель беседы и добиться поставленных целей. Благодаря такой тактике в разговоре нет никаких заминок, цифровой собеседник не раздражает пользователей, не проявляет навязчивости и не говорит некорректных фраз.

Во время тестирования нового бота люди не сразу поняли, что общаются с компьютером. Более того, виртуальный собеседник удивил и своих создателей. Сотрудники Facebook увидели, что он без сторонней помощи может импровизировать, хитрить и даже врать, чтобы достичь нужного результата переговоров. Его не обучали придумывать определённые тактики ведения беседы, он создавал их сам. Так, бот искусственно проявил интерес к какому-то изделию, которое на самом деле не было ему нужно, а потом пошёл на компромисс, обменивая будто бы ценный для себя предмет на тот, который его действительно интересовал.

Share:
Похожие новости
18 октября 2017
На Facebook и Telegram появился новый чат-бот. Робот, получивший имя Гобсек, разработан компанией Bot&Partners Law Firm и поможет пользователям в...
11 октября 2017
«Яндекс» представил свой аналог голосового помощника под названием «Алиса». Функционал системы включает в себя реагирование на запросы пользователя и предоставление...
09 октября 2017
Наверное, у каждого человека рано или поздно возникает мысль о том, как было бы круто иметь помощника, который помог бы...

Подпишись на новости

будь в курсе новостей конференции индустрии