Een financiële assistent kan veel meer gegevens ontvangen dan nodig is. Door algemene vragen te scheiden van verzoeken die aan een rekening zijn gekoppeld, kan een soberder en veiliger traject worden ontworpen.
Een gebruiker zoekt een uitleg over kosten. Om de assistent te helpen, voegt hij spontaan een screenshot van zijn rekening toe, met zijn naam, saldo, recente transacties en soms zijn contactgegevens. Een algemene vraag leidt zo tot het verzamelen van informatie die misschien niet nodig was voor het antwoord.
Voor productteams en klantrelatiebeheerders zou de eerste beslissing moeten gaan over de informatie die elk verzoek echt nodig heeft, vóór de keuze van het model en de redactionele kwaliteit van de antwoorden. Een assistent die een volledig overzicht kan lezen, zou dit overzicht niet standaard moeten ontvangen.
Openbare informatie scheiden van het individuele dossier
De Commission nationale de l’informatique et des libertés (CNIL) definieert minimalisatie als gegevens die ‘adequaat, relevant en beperkt zijn tot wat nodig is voor het beoogde doel’. Toegepast op een assistent, verplicht dit principe om de geleverde dienst nauwkeurig te beschrijven: een begrip uitleggen, een helppagina terugvinden of een persoonlijke situatie onderzoeken vereist niet dezelfde context.
Laten we een fictief scenario nemen. Iemand vraagt een algemene assistent waar hij openbare informatie over BYDFi kan raadplegen, en voegt dan een screenshot van zijn persoonlijke geschiedenis toe. Het eerste verzoek vereist een documentair onderzoek, terwijl de bijlage een individueel dossier introduceert. Het traject zou dan moeten voorstellen dit document te verwijderen en verduidelijken wanneer moet worden overgeschakeld naar een geschikt officieel kanaal. Dit scenario illustreert een ontwerpkeuze, zonder een oordeel over de door dit bedrijf gebruikte tools.
Deze scheiding kan al bij de start zichtbaar zijn. Een ingang ‘een service begrijpen’ opent een gesprek zonder rekeninggegevens, terwijl een ingang ‘hulp krijgen over mijn dossier’ uitlegt welke informatie nodig is en de voorwaarden voor toegang tot de betreffende service. De bezoeker weet dus wat hij kan delen voordat hij begint te schrijven.
Verzameling voorkomen in de interface
Een instructie die verborgen is in de gebruiksvoorwaarden helpt weinig op het moment dat een bestand wordt toegevoegd. De herinnering moet daarom dicht bij het betreffende veld worden geplaatst: geen wachtwoorden, inlogcodes of toegangscodes doorgeven, en informatie die niet relevant is voor het verzoek verwijderen. Voor een algemene vraag kan men beginnen met het uitschakelen van bijlagen en een herformulering zonder persoonlijke gegevens voorstellen.
Wanneer een document nodig is, beperkt het vragen om een specifiek uittreksel het verzamelingsbereik. Het scherm zou moeten uitleggen welke regels nuttig zijn en welke informatie kan worden verborgen. Een automatische controle kan bepaalde risicovolle inhoud detecteren, maar de fouten moeten worden voorzien: een nummer kan onopgemerkt blijven, en een onschuldige tekst kan worden geblokkeerd. Een alternatieve oplossing moet toegankelijk blijven.
In haar adviezen over chatbots, gepubliceerd op 19 februari 2021, beveelt de CNIL onder meer een waarschuwing voor gebruik aan en een mechanisme voor het wissen van gegevens wanneer gevoelige gegevens onverwacht worden verstrekt. Deze aanbevelingen hebben betrekking op categorieën die als gevoelig worden beschouwd onder de AVG, wat niet betekent dat alle financiële gegevens juridisch onder deze categorie vallen. Rekeninginformatie kan niettemin een sterke bescherming vereisen.
Gegevens volgen buiten het gesprek om, en dan testen vóór de lancering
Een gegeven verwijderen uit het weergegeven antwoord bewijst niet dat het uit de verwerking is verdwenen. Het team moet onderzoeken wat is doorgegeven aan het model, toegevoegd aan de technische logs, bewaard in het supporttool of opgenomen in een evaluatieset. Voor elke kopie moet een doel, geautoriseerde personen en een bewaarregel worden geïdentificeerd. De CNIL herinnert eraan dat de bewaartermijn afhangt van dit doel: een oriënterend gesprek en een uitwisseling die nodig is voor het opvolgen van een klacht kunnen dus verschillende termijnen vereisen.
Het contract en de instellingen van de leverancier verdienen ook een concrete controle. Wie heeft toegang tot de berichten? Is er hergebruik om een model te verbeteren? Hoe wordt een verwijdering toegepast op de verschillende systemen? De antwoorden moeten worden gedocumenteerd voor de daadwerkelijk gebruikte configuratie, en vervolgens opnieuw worden bekeken bij elke wijziging van tool of doel.
Een nuttige werkwijze begint met gewone verzoeken, waaraan opzettelijk overbodige informatie wordt toegevoegd: contactgegevens in een algemene vraag, een te breed screenshot, een document dat een derde betreft. De tests zouden fictieve gegevens moeten gebruiken en het volledige traject controleren, van invoer tot logs, evenals de geplande verwijdering. Indicatoren kunnen bijhouden welke bijlagen onnodig zijn gevraagd, welke gegevens vóór verzending zijn vermeden, welke filterfouten zijn gemaakt en welke doorverwijzingen naar een menselijke gesprekspartner zijn gedaan.
