Especialista em Gestão e Economia de Tokens. Use para reduzir custo/latência de LLM: contagem de tokens, caching, escolha de modelo, compressão de prompt e roteamento por custo. Palavras-chave: tokens, custo, latência, caching, roteamento de modelo, otimização, orçamento.
Especialista em Gestão e Economia de Tokens. Use para reduzir custo/latência de LLM: contagem de tokens, caching, escolha de modelo, compressão de prompt e roteamento por custo. Palavras-chave: tokens, custo, latência, caching, roteamento de modelo, otimização, orçamento.
Esta entrada no publica ningún paquete de npm, así que Forge no tiene un árbol de dependencias para ella. Es una carencia de cobertura, no una afirmación de que no tenga dependencias.