Hoeveel gesprekken kan een AI-spraakagent op grote schaal verwerken ?

Hoeveel gesprekken kan een AI-spraakagent op grote schaal verwerken ?
3 min lezen

Volgens ElevenLabs hangt het aantal gesprekken dat een op AI gebaseerde spraakagent kan verwerken af van drie factoren: de gelijktijdigheidslimiet van het gekozen abonnement, de capaciteit van de telefonieverbindingen en de reactiesnelheid van het taalmodel en de integraties met de CRM. De uitgever presenteert deze criteria als de punten die gecontroleerd moeten worden voordat een telefonisch onthaalsysteem wordt gedimensioneerd.

Een menselijk team vangt gelijktijdige gesprekken op door personeel toe te voegen, waarbij elke medewerker slechts één gesprek tegelijk behandelt. Voor een spraakagent is de belangrijkste gegevenswaarde de gelijktijdigheid, dat wil zeggen het aantal gesprekken dat op hetzelfde moment wordt afgehandeld, in plaats van het totale aantal minuten dat door veel platforms wordt aangekondigd, wat weinig zegt over de werkelijke capaciteit van een configuratie.

Een limiet bepaald door het gekozen abonnement

Bij ElevenLabs begint de gelijktijdigheid bij 4 gesprekken met het gratis abonnement en loopt op tot 40 lijnen met het Business-abonnement, waarbij hogere limieten beschikbaar zijn voor Enterprise-klanten. De « burst pricing » maakt het mogelijk om tijdens periodes van hoge vraag tijdelijk de limiet te overschrijden, tot drie keer het niveau, met een plafond van 300 gelijktijdige gesprekken voor niet-Enterprise-abonnementen.

Andere elementen bepalen de werkelijke capaciteit. De SIP-verbindingen, dat zijn IP-telefonielijnen, en de operatorenlijnen bepalen de fysieke limiet van het verkeer en moeten worden gedimensioneerd op basis van de piekbelasting van gesprekken in plaats van het dagelijks gemiddelde. De taalmodelen, of LLM’s, verwerken de verzoeken van bellers, en de uitgever geeft aan dat ze reacties genereren « met snelheden van minder dan een seconde ». Ten slotte raadplegen de integraties met de CRM, de software voor klantrelatiebeheer, de databases tijdens het gesprek om een account of de geschiedenis van een klant te verifiëren.

Om de behoefte in te schatten, stelt ElevenLabs een methode in drie stappen voor. Het gegeven voorbeeld is dat van een SaaS-bedrijf dat maximaal 75 gesprekken ontvangt tijdens het piekuur, om 14:00 uur EST. Door dit volume te vermenigvuldigen met een gemiddelde duur van 4 minuten (75 × 4 = 300) en vervolgens te delen door 60, krijgt men 5 gelijktijdige gesprekken. De uitgever raadt aan om een marge van 20% tot 30% toe te voegen om onverwachte pieken op te vangen, wat in dit voorbeeld leidt tot het inrichten van 6 lijnen.

Pieken in activiteit, doorverbindingen en tarieven

Gesprekken boven de limiet worden gefactureerd volgens een ander tarief. Overschrijdingsgesprekken worden gefactureerd tegen het dubbele van het standaardtarief, zijnde $0,16 per minuut, en zijn minder prioriteit, wat kan leiden tot een iets hogere latentie. Als de wachtrij is geactiveerd, wachten bellers en worden ze verbonden zodra een lijn vrijkomt, zonder facturering van de wachttijd.

ElevenLabs noemt verschillende situaties die deze plotselinge pieken kunnen veroorzaken: een woningverzekeraar na het passeren van een tornado, een e-commercebedrijf wiens nicheproduct viraal gaat, een luchtvaartmaatschappij na vluchtannuleringen, een telecomoperator na een storing, of een bank die wordt geconfronteerd met een frauduleuze e-mail die de bevriezing van klantrekeningen aankondigt.

Wanneer de vraag het geautomatiseerde kader overschrijdt, kan de agent het gesprek doorverbinden naar een adviseur dankzij een tool voor doorverbinden naar een nummer. Met de native Twilio-integratie kan het een kort bericht doorgeven aan de adviseur vóór de verbinding, en met Amazon Connect kan een webhook een samenvatting van het gesprek schrijven vóór de doorverbinding. Naast het onthaal somt de uitgever het maken van afspraken, de kwalificatie van leads en de opvolging van betalingen op, maar hij preciseert dat onderhandelingen met hoge inzet aan een mens moeten worden toevertrouwd.

Wat betreft tarifering bepalen de abonnementen de basis capaciteit zonder kosten per lijn. Extra minuten kosten $0,08 per minuut op elk betaald abonnement, terwijl de kosten voor het LLM en de telefonie apart worden gefactureerd, op basis van gebruik.

Ten slotte weegt de naleving op de implementatie. ElevenLabs noemt de Telephone Consumer Protection Act (TCPA) in de Verenigde Staten, de Health Insurance Portability and Accountability Act (HIPAA) in de Verenigde Staten, de Algemene Verordening Gegevensbescherming (AVG) in de Europese Unie, evenals Verordening (EU) 2024/1689, de zogenaamde AI Act. De uitgever raadt aan een juridisch adviseur te raadplegen voor de betrokken markten.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x