Бот від Facebook сам навчився брехати заради вигоди
Чат-боти вміють багато – приймати замовлення, шукати інформацію, відповідати на запитання, здійснювати транзакції, нагадувати про зустрічі та ін. Завдяки зусиллям дослідників з підрозділу Facebook – FAIR – вони стали ще розумнішими та навіть десь небезпечними. Інженери розробили бота, який вміє стратегічно думати, проводити перемовини та продумувати план бесіди, щоб схилити співрозмовника до певних висновків і дій. Він навіть бреше, коли йому це вигідно. Більше того, його ніхто цьому не вчив.
Головне завдання штучного інтелекту – повторити поведінку і спосіб мислення людини, змусити її спілкуватися так, щоб ніхто не зрозумів, що це комп'ютер. На жаль, більшість сучасних AI-алгоритмів обробляє масив даних за однію схемою, вони зовсім не вміють імпровізувати.
Розробники Facebook, схоже, винайшли спосіб виправити цю проблему. Спочатку вони провели дослідження серед звичайних людей – попросили їх назвати цінність різних предметів. На основі цих даних створили AI-алгоритм для бота. Вчені навчили машину особливій техніці розвитку діалогу, завдяки якій бот здатен завчасно сконструювати модель бесіди та досягти намічених цілей. Завдяки такій тактиці у процесі розмови позбулися пауз, цифровий співрозмовник не дратує користувачів, не набридає та не висловлюється некоректно.
Під час тестування нового бота люди не одразу зрозуміли, що спілкуються з комп'ютером. Більше того, віртуальний співрозмовник здивував своїх розробників. Співробітники Facebook побачили, що він без сторонньої допомоги імпровізує, хитрує та навіть бреше задля досягнення потрібного результату в переговорах. Його не вчили придумувати певні тактики бесіди, він створював їх самостійно. Бот штучно виявив інтерес до якогось виробу, яке насправді йому було не потрібним, а потім пішов на компроміс, обмінюючи нібито цінний для себе предмет на той, який його справді цікавив.
