Como Usar Menos Tokens no Claude: Dicas Simples para Reduzir o Uso e Economizar Dinheiro

1. Escolha o Modelo Certo

Uma das formas mais simples de reduzir a latência é selecionar o modelo adequado para o seu caso de uso. A Anthropic oferece uma gama de modelos com diferentes capacidades e características de desempenho.

Considere suas necessidades específicas e escolha o modelo que melhor se adapta às suas necessidades em termos de velocidade e qualidade de saída.

Para aplicações sensíveis à velocidade, o Claude Haiku 4.5 oferece os tempos de resposta mais rápidos, mantendo alta inteligência:

import anthropic

client = anthropic.Anthropic()

# Para aplicações sensíveis ao tempo, use Claude Haiku 4.5
message = client.messages.create(
    model="claude-haiku-4-5",
    max_tokens=100,
    messages=[{
        "role": "user",
        "content": "Resuma este feedback de cliente em 2 frases: [texto do feedback]"
    }]
)

2. Otimize o Comprimento do Prompt e da Saída

1. Seja Claro, mas Conciso

Procure transmitir sua intenção de forma clara e concisa no prompt. Evite detalhes desnecessários ou informações redundantes, lembrando que Claude não tem contexto sobre o seu caso de uso e pode não fazer as conexões lógicas pretendidas se as instruções não forem claras.

2. Peça Respostas Mais Curtas

Peça diretamente para o Claude ser conciso. A família de modelos Claude 3 melhorou a capacidade de direcionamento em relação às gerações anteriores. Se o Claude estiver gerando respostas indesejadas ou longas, peça para ele reduzir a verborragia.

Devido à forma como os LLMs contam tokens em vez de palavras, pedir por uma contagem exata de palavras ou um limite de palavras não é uma estratégia tão eficaz quanto pedir por limites de número de parágrafos ou frases.

3. Defina Limites Apropriados de Saída

Use o parâmetro max_tokens para definir um limite rígido sobre o comprimento máximo da resposta gerada. Isso impede que o Claude gere saídas excessivamente longas.

O parâmetro max_tokens permite definir um limite superior de quantos tokens o Claude gera. Aqui está um exemplo:

truncated_response = client.messages.create(
    model="claude-3-haiku-20240307",
    max_tokens=10,
    messages=[
        {"role": "user", "content": "Escreva-me um poema"}
    ]
)
print(truncated_response.content[0].text)

Quando a resposta atinge max_tokens, pode ser cortada no meio de uma palavra ou frase. Esse método abrupto geralmente requer pós-processamento e funciona melhor para respostas curtas ou perguntas de múltipla escolha, onde o conteúdo chave aparece no início.

Você pode verificar a propriedade stop_reason no objeto da mensagem para ver por que o modelo parou de gerar:

truncated_response.stop_reason

4. Experimente com a Temperatura

O parâmetro temperature controla a aleatoriedade da saída. Valores mais baixos (por exemplo, 0.2) podem levar a respostas mais focadas e curtas, enquanto valores mais altos (por exemplo, 0.8) podem resultar em saídas mais diversas, mas potencialmente mais longas.

A temperatura é um parâmetro que controla a aleatoriedade das previsões de um modelo durante a geração de texto. A temperatura tem um valor padrão de 1.

3. Use Ferramentas de Uso Eficiente de Tokens

Começando com Claude Sonnet 3.7, o modelo pode chamar ferramentas de forma eficiente em tokens. As requisições podem economizar uma média de 14 por cento em tokens de saída e, em alguns casos, até 70 por cento, o que também ajuda a reduzir a latência, dependendo do tamanho e formato da resposta.

O uso eficiente de ferramentas com tokens é um recurso beta para o Claude Sonnet 3.7 e requer o cabeçalho token-efficient-tools-2025-02-19. Todos os modelos Claude 4 suportam ferramentas eficientes em tokens por padrão, então não é necessário cabeçalho beta lá.

curl https://api.anthropic.com/v1/messages \
  -H "content-type: application/json" \
  -H "x-api-key: $ANTHROPIC_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "anthropic-beta: token-efficient-tools-2025-02-19" \
  -d '{
    "model": "claude-3-7-sonnet-20250219",
    "max_tokens": 1024,
    "tools": [
      {
        "name": "get_weather",
        "description": "Obter o clima atual em um local específico",
        "input_schema": {
          "type": "object",
          "properties": {
            "location": {
              "type": "string",
              "description": "A cidade e o estado, ex. São Francisco, CA"
            }
          },
          "required": [
            "location"
          ]
        }
      }
    ],
    "messages": [
      {
        "role": "user",
        "content": "Me diga o clima em São Francisco."
      }
    ]
  }' | jq '.usage'

4. Use Cache de Prompt para Contextos Repetidos

O cache de prompt é um dos métodos mais poderosos de otimização de tokens, reduzindo os custos de tokens de entrada em até90% quando o mesmo conteúdo é reutilizado em múltiplas requisições.

Quando você envia repetidamente grandes prompts do sistema, documentação ou bases de código, o Claude armazena esse conteúdo em um cache e cobra apenas 10% do custo normal de tokens de entrada para conteúdo armazenado em cache.

Como o Cache de Prompt Funciona:

• O cache persiste por 5 minutos após o último uso
• É necessário no mínimo 1.024 tokens para cache
• Os hits de cache custam 10% do preço normal de tokens de entrada
• Funciona automaticamente quando se usa blocos cache_control

Exemplo de Implementação:

import anthropic

client = anthropic.Anthropic()
# Designar conteúdo para cache com cache_control
message = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    system=[
        {
            "type": "text",
            "text": "Você é um assistente de IA para um grande repositório de código..."
        },
        {
            "type": "text",
            "text": "[Documentação de código grande - 50K tokens]",
            "cache_control": {"type": "ephemeral"}  # Cache este bloco
        }
    ],
    messages=[
        {"role": "user", "content": "Explique o sistema de autenticação"}
    ]
)

Quando Usar o Cache de Prompt:

• Grandes prompts do sistema que raramente mudam
• Documentação extensa ou repositórios de código
• Conversas de múltiplos turnos com contexto consistente
• Processamento em lote com instruções compartilhadas

Exemplo de Economia de Tokens:

5. Use Sequências de Parada

O parâmetro stop_sequence permite definir strings que dizem ao Claude quando parar de gerar. Quando o modelo produz uma dessas sequências, ele para imediatamente, o que ajuda a controlar o comprimento da saída e evitar texto extra desnecessário.

response = client.messages.create(
    model="claude-3-haiku-20240307",
    max_tokens=500,
    messages=[{"role": "user", "content": "Gere um objeto JSON representando uma pessoa com nome, e-mail e número de telefone."}],
    stop_sequences=["}"]
)
print(response.content[0].text)

A saída resultante não inclui o fechamento “}”, então você pode precisar adicioná-lo de volta para parsing. Você pode inspecionar stop_reason para confirmar que o modelo parou devido a uma sequência de parada e stop_sequence para ver qual foi a ativada.