Постоянные пользователи виртуальных помощников (Siri, Alexa, Google Assistant, Алиса), в основном, используют их для решения мелких задач:
— узнать новости или прогноз погоды,
— включение музыки,
— устновка будильника / таймера,
— создание напоминаний,
— поиск ответов на маловажные вопросы.

Подобная ограниченная область применения показывает, что имеющаяся функциональность виртуальных помощников пока не даёт им возможности оказывать пользователям ощутимую поддержку.

Имеющиеся ограничения виртуальных помощников:
— Неспособность понять вводимые запросы
— Неспособность отвечать на вопросы
— Неправильные ответы
— Невозможность выполнить последовательность действий
— Вместо словесного ответа — переход на сайты разной степени полезности
— Неспособность понять запрос, учитывая контекст
— Необходимость в чёткой формулировке вопроса без намёка на двусмысленность
— Неспособность провести анализ и на его основе дать логичный ответ
— Не даёт инструкций по использованию
— Не подстраивается под конкретного пользователя
— Неспособность вставлять уместную информацию и вести разговор

Эти проблемы необходимо учитывать при разработке и создании своих проектов виртуальных помощников:
— пользователи будут рассматривать систему как интерфейс, источник знаний или ассистента (или всё сразу).
— нужно учесть представления пользователей, чтобы помочь им понять дизайн и привыкнуть к функциональности системы.
— перед созданием дизайна, нужно спрогнозировать, как представления пользователей повлияют на их ожидания.
— разрабатывать алгоритмы поведения помощника на основе представлений пользователей.
— нужно объяснить, чем система отличается от наиболее распространённых представлений пользователей.
— необходимо протестировать свою систему ИИ на реальных пользоватлях для решения реально существующих задач.

Ссылки
Что пользователи думают о виртуальных помощниках и как их мнения можно применить в разработке ИИ-продукта

По теме
Принципы Microsoft для создания хорошего виртуального помощника
Использование дизайн-мышления для изготовления роботов
Разработка скилов для голосового помощника Alexa от Amazon
Изменения в маркетинге с распространением голосовых помощников
Маркетинговые тренды 2017 и 2018 года
Digital Тренды 2018
Выступление Андрея Себранта о бизнесе в мире самообучающихся машин
Андрей Себрант: искусственный интеллект и профессии будущего
Игорь Ашманов о голосовых помощниках