Un asistente financiero puede recibir muchos más datos de los necesarios. Separar las preguntas públicas de las solicitudes vinculadas a una cuenta permite diseñar un recorrido más sobrio y seguro.
Un usuario busca una explicación sobre unos cargos. Para ayudar al asistente, adjunta espontáneamente una captura de su cuenta, con su nombre, su saldo, sus operaciones recientes y a veces sus datos de contacto. Una pregunta general provoca así la recopilación de información que quizás no era necesaria para la respuesta.
Para los equipos de producto y los responsables de la relación con el cliente, la primera decisión debería centrarse en la información que cada solicitud necesita realmente, antes de la elección del modelo y la calidad redaccional de las respuestas. Un asistente capaz de leer un extracto completo no debería recibir ese extracto por defecto.
Separar la información pública del expediente individual
La Comisión Nacional de Informática y Libertades (CNIL) define la minimización mediante datos «adecuados, pertinentes y limitados a lo necesario para la finalidad perseguida». Aplicado a un asistente, este principio obliga a describir con precisión el servicio prestado: explicar un concepto, recuperar una página de ayuda o examinar una situación personal no requiere el mismo contexto.
Tomemos un escenario ficticio. Una persona le pregunta a un asistente generalista dónde consultar una información pública sobre BYDFi, y luego añade una captura de su historial personal. La primera solicitud requiere una búsqueda documental, mientras que el archivo adjunto introduce un expediente individual. El recorrido debería entonces proponer retirar ese documento y precisar cuándo es necesario pasar por un canal oficial adaptado. Este escenario ilustra una elección de diseño, sin presumir de las herramientas empleadas por esta empresa.
Esta separación puede aparecer desde la página de bienvenida. Una entrada «comprender un servicio» abre una conversación sin datos de cuenta, mientras que una entrada «obtener ayuda sobre mi expediente» explica la información necesaria y las condiciones de acceso al servicio correspondiente. El visitante sabe así lo que puede comunicar antes de empezar a escribir.
Prevenir la recopilación en la interfaz
Una instrucción enterrada en las condiciones de uso ayuda poco en el momento de adjuntar un archivo. El recordatorio debe colocarse, por tanto, cerca del campo correspondiente: no transmitir ninguna contraseña, código de conexión o secreto de acceso, y retirar la información ajena a la solicitud. Para una pregunta general, se puede empezar desactivando los archivos adjuntos y proponiendo una reformulación sin datos personales.
Cuando un documento es necesario, solicitar un extracto preciso limita el alcance de la recopilación. La pantalla debería explicar qué líneas son útiles y qué información puede ocultarse. Un control automático puede detectar ciertos contenidos de riesgo, pero sus errores deben preverse: un número puede pasar desapercibido y un texto anodino puede ser bloqueado. Una solución alternativa debe seguir siendo accesible.
En sus consejos sobre los chatbots publicados el 19 de febrero de 2021, la CNIL recomienda, entre otras cosas, una advertencia previa al uso y un mecanismo de purga cuando se proporcionan datos sensibles de manera imprevista. Estas recomendaciones conciernen a las categorías sensibles en el sentido del RGPD, lo que no significa que toda información financiera pertenezca jurídicamente a esta categoría. Una información de cuenta puede, no obstante, exigir una alta protección.
Seguir los datos más allá de la conversación, y luego probar antes de la apertura
Retirar un dato de la respuesta mostrada no prueba que haya desaparecido del tratamiento. El equipo debe examinar qué se ha transmitido al modelo, añadido a los registros técnicos, conservado en la herramienta de soporte o integrado en un conjunto de evaluación. Para cada copia, hay que identificar una finalidad, personas autorizadas y una regla de conservación. La CNIL recuerda que la duración de la conservación depende de esta finalidad: una conversación de orientación y un intercambio necesario para el seguimiento de una reclamación pueden, por tanto, requerir duraciones diferentes.
El contrato y los parámetros del proveedor también merecen una verificación concreta. ¿Quién accede a los mensajes? ¿Existe una reutilización para mejorar un modelo? ¿Cómo se aplica una supresión en los distintos sistemas? Las respuestas deben documentarse para la configuración realmente utilizada, y luego reexaminarse con cada cambio de herramienta o de finalidad.
Una receta útil comienza por solicitudes ordinarias, a las que se añaden voluntariamente informaciones superfluas: datos de contacto en una pregunta general, captura demasiado amplia, documento relativo a un tercero. Las pruebas deberían utilizar datos ficticios y verificar el camino completo, desde la entrada hasta los registros, así como la supresión prevista. Los indicadores pueden seguir los archivos adjuntos solicitados sin necesidad, los datos evitados antes de la transmisión, los errores de filtrado y las orientaciones hacia un interlocutor humano.
