Финансовый ассистент может получить гораздо больше данных, чем необходимо. Разделение общих вопросов и запросов, связанных с учётной записью, позволяет создать более сдержанный и безопасный пользовательский путь.
Пользователь ищет объяснение по поводу комиссии. Чтобы помочь ассистенту, он спонтанно прикрепляет скриншот своего счёта, содержащий его имя, баланс, последние операции, а иногда и контактные данные. Таким образом, общий вопрос приводит к сбору информации, которая, возможно, не требовалась для ответа.
Для продуктовых команд и руководителей клиентского сервиса первым решением должно стать определение информации, действительно необходимой для каждого запроса, ещё до выбора модели и работы над качеством текста ответов. Ассистент, способный прочитать полную выписку, не должен получать её по умолчанию.
Разделение общедоступной информации и личного дела
Национальная комиссия по информатике и свободам (CNIL) определяет минимизацию данных как « адекватные, релевантные и ограниченные тем, что необходимо для преследуемой цели ». Применительно к ассистенту этот принцип обязывает точно описывать предоставляемую услугу: объяснение понятия, поиск справочной страницы или анализ личной ситуации требуют разного контекста.
Рассмотрим гипотетический сценарий. Человек спрашивает у общего ассистента, где посмотреть общедоступную информацию о BYDFi, а затем добавляет скриншот своей личной истории. Первый запрос требует поиска документации, тогда как вложение представляет личное дело. В этом случае пользовательский путь должен предложить удалить этот документ и уточнить, когда следует перейти на подходящий официальный канал. Этот сценарий иллюстрирует выбор проектирования, не предполагая инструментов, используемых данной компанией.
Это разделение может быть видно уже на стартовой странице. Опция « понять услугу » открывает диалог без данных учётной записи, в то время как опция « получить помощь по моему делу » объясняет необходимую информацию и условия доступа к соответствующему сервису. Таким образом, посетитель заранее знает, чем можно поделиться, прежде чем начать писать.
Предотвращение сбора данных в интерфейсе
Указание, скрытое в условиях использования, мало помогает в момент прикрепления файла. Поэтому напоминание должно располагаться рядом с соответствующим полем: не передавать пароли, коды доступа или секретные ключи, а также удалять информацию, не относящуюся к запросу. Для общего вопроса можно начать с отключения функции вложений и предложить переформулировать вопрос без личных данных.
Когда документ необходим, запрос конкретного фрагмента ограничивает объём сбора данных. Экран должен объяснять, какие строки полезны, а какую информацию можно скрыть. Автоматическая проверка может обнаруживать определённый рискованный контент, но её ошибки нужно предусмотреть: номер может остаться незамеченным, а безобидный текст, быть заблокированным. Должен оставаться доступным альтернативный способ решения.
В своих рекомендациях по чат-ботам, опубликованных 19 февраля 2021 года, CNIL, в частности, советует предупреждать перед использованием и предусматривать механизм удаления, когда конфиденциальные данные предоставляются непреднамеренно. Эти рекомендации касаются категорий, считающихся чувствительными по смыслу GDPR, что не означает, что любая финансовая информация юридически относится к этой категории. Тем не менее, информация об учётной записи может требовать высокой степени защиты.
Отслеживание данных за пределами диалога и тестирование перед запуском
Удаление данных из отображаемого ответа не доказывает, что они исчезли из процесса обработки. Команда должна изучить, что было передано модели, добавлено в технические логи, сохранено в инструменте поддержки или включено в набор для оценки. Для каждой копии необходимо определить цель, круг уполномоченных лиц и правило хранения. CNIL напоминает, что срок хранения зависит от этой цели: поэтому диалог для общей ориентации и обмен, необходимый для рассмотрения жалобы, могут требовать разных сроков.
Контракт и настройки поставщика также заслуживают практической проверки. Кто имеет доступ к сообщениям? Существует ли повторное использование для улучшения модели? Как удаление применяется в различных системах? Ответы должны быть задокументированы для фактически используемой конфигурации, а затем пересмотрены при каждом изменении инструмента или цели.
Полезный рецепт начинается с обычных запросов, к которым намеренно добавляется избыточная информация: контактные данные в общем вопросе, слишком широкий скриншот, документ, касающийся третьего лица. Тестирование должно использовать фиктивные данные и проверять весь путь, от ввода до логов, а также предусмотренное удаление. Метрики могут отслеживать ненужно запрошенные вложения, данные, исключённые перед передачей, ошибки фильтрации и перенаправления к человеку-оператору.
