As soluções de síntese de voz (text to speech, TTS) open source e as API pagas não são intrinsecamente melhores uma do que a outra. Segundo o artigo publicado pela ElevenLabs no seu blog, cada uma responde a casos de uso e a necessidades empresariais diferentes. As API pagas acarretam custos regulares, de subscrição ou relacionados com o volume de trabalho, enquanto os modelos open source deslocam as despesas para a infraestrutura e o tempo de engenharia necessários à sua manutenção.
Duas abordagens consoante as necessidades
A escolha depende sobretudo da dimensão da equipa e do volume da carga de trabalho. De acordo com o texto, o open source e o autoalojamento oferecem um controlo mais amplo sobre toda a pilha técnica. Não se paga pela quantidade de caracteres processados, mas paga-se o cálculo, suportado por processadores gráficos (GPU), assim como o pessoal que gere essa infraestrutura.
O autoalojamento permite também manter os textos e os áudios em local, sem trânsito pela internet pública. Segundo o artigo, este argumento pode ser determinante, ou mesmo exigido, em setores como a saúde, as finanças ou a administração. Em contrapartida, uma API gerida oferece uma solução chave na mão, com uma infraestrutura pré-configurada, acordos de nível de serviço (SLA) e acesso via REST ou WebSocket. Dá também acesso aos modelos mais recentes, com um grande número de parâmetros, que podem produzir uma prosódia natural, ou seja, um ritmo e uma entoação próximos da voz humana. A contrapartida mantém-se uma tarifação por carácter.
Dados, licenças e custos
De acordo com o artigo, a ElevenAPI armazena por defeito os dados dos clientes nos Estados Unidos. Os clientes Enterprise podem obter ambientes isolados na União Europeia, na Índia e em Singapura, cada um dotado do seu próprio espaço de trabalho, do seu URL, da sua conta e da sua chave de API. Esta configuração diz no entanto respeito apenas ao armazenamento: o processamento pode ainda ocorrer fora da região, nomeadamente através de subcontratados. O Zero Retention Mode elimina, por sua vez, as entradas e saídas dos pedidos elegíveis logo após o fim de cada pedido, apenas para o tráfego API.
As licenças merecem igualmente atenção. Os modelos ditos « open weight » tornam os seus parâmetros descarregáveis, mas não o seu código fonte nem as etapas de preparação dos dados. Um modelo open source inclui, por sua vez, o conjunto dos elementos, sob uma licença aberta. Segundo o artigo, algumas licenças proíbem o uso comercial, outras reservam-no para a investigação, e outras exigem que se cite o modelo nos produtos comercializados.
Por fim, os modelos gratuitos não são gratuitos para executar. Por necessidades de confidencialidade, de segurança, de controlo de versões ou de latência, algumas organizações optam mesmo assim pelo autoalojamento. As ofertas freemium comportam geralmente quotas de caracteres ou créditos mensais, e reservam frequentemente os modelos de topo para as subscrições pagas. O artigo descreve este patamar gratuito como um canal de marketing.
Como avaliar um modelo
O artigo recomenda testar os modelos com textos reais do seu domínio em vez de com as amostras fornecidas pelos editores. Convida a medir o tempo até à primeira saída de áudio (time to first audio, TTFA), a gestão de empréstimos, de línguas estrangeiras e de pronúncias raras, assim como o comportamento do débito sob forte carga. O custo total deve integrar o alojamento, a largura de banda, o preço por minuto ou por carácter e o tempo dos programadores. Para comparar os modelos locais abertos, o artigo remete para o classificação da Hugging Face.
