Como Usar Menos Tokens no Claude: Dicas Simples para Reduzir o Consumo e Economizar

1. Scegli il Modello Giusto

Uno dei modi più semplici per ridurre la latenza è selezionare il modello più adatto al tuo caso d’uso. Anthropic offre una gamma di modelli con capacità e prestazioni diverse.

Valuta le tue esigenze specifiche e scegli il modello che si adatta meglio ai tuoi bisogni in termini di velocità e qualità dell’output.

Per le applicazioni in cui la velocità è fondamentale, Claude Haiku 4.5 offre i tempi di risposta più rapidi mantenendo un’elevata intelligenza:

import anthropic client = anthropic.Anthropic() # For time-sensitive applications, use Claude Haiku 4.5 message = client.messages.create( model="claude-haiku-4-5", max_tokens=100, messages=[{ "role": "user", "content": "Summarize this customer feedback in 2 sentences: [feedback text]" }] )

2. Ottimizza la Lunghezza del Prompt e dell’Output

1. Sii Chiaro ma Conciso

Cerca di esprimere la tua intenzione in modo chiaro e conciso nel prompt. Evita dettagli superflui o informazioni ridondanti, tenendo presente che Claude non conosce il tuo caso d’uso e potrebbe non “indovinare” i passaggi logici se le istruzioni non sono chiare.

2. Chiedi Risposte Più Brevi

Chiedi direttamente a Claude di essere conciso. La famiglia di modelli Claude 3 ha una miglior capacità di seguire le istruzioni rispetto alle generazioni precedenti. Se Claude produce risposte troppo lunghe, chiedi di limitare la verbosità.

Poiché i modelli LLM contano i token invece delle parole, chiedere un numero di parole esatto o un limite di parole è meno efficace rispetto a richiedere un limite di paragrafi o di frasi.

3. Imposta Limiti di Output Adeguati

Usa il parametro max_tokens per impostare un limite rigido alla lunghezza massima della risposta generata. Questo impedisce a Claude di produrre output eccessivamente lunghi.

Il parametro max_tokens ti permette di impostare un limite superiore al numero di token che Claude può generare. Ecco un esempio:

truncated_response = client.messages.create( model="claude-3-haiku-20240307", max_tokens=10, messages=[ {"role": "user", "content": "Write me a poem"} ] ) print(truncated_response.content[0].text)

Quando la risposta raggiunge il limite di max_tokens, può essere interrotta a metà parola o a metà frase. Questo metodo “brusco” spesso richiede del post-processing e funziona meglio per risposte brevi o domande a scelta multipla in cui il contenuto chiave compare all’inizio.

Puoi controllare la proprietà stop_reason sull’oggetto Message di risposta per vedere perché il modello ha smesso di generare:

truncated_response.stop_reason

4. Sperimenta con la Temperatura

Il parametro temperature controlla il livello di casualità dell’output. Valori più bassi (ad esempio 0,2) possono portare a risposte più mirate e spesso più brevi, mentre valori più alti (ad esempio 0,8) generano output più vari ma potenzialmente più lunghi.

La temperatura è un parametro che controlla la casualità delle previsioni del modello durante la generazione del testo. Il valore predefinito di temperature è 1.

3. Usa Strumenti a Consumo di Token Ridotto

A partire da Claude Sonnet 3.7, il modello può chiamare gli strumenti in modo token-efficient. Le richieste possono risparmiare in media il 14 percento dei token di output e in alcuni casi fino al 70 percento, il che aiuta anche a ridurre la latenza a seconda della dimensione e della forma della risposta.

L’uso token-efficient degli strumenti è una funzionalità beta per Claude Sonnet 3.7 e richiede l’header token-efficient-tools-2025-02-19. Tutti i modelli Claude 4 supportano gli strumenti token-efficient di default, quindi non è necessario alcun header beta.

curl https://api.anthropic.com/v1/messages \ -H "content-type: application/json" \ -H "x-api-key: $ANTHROPIC_API_KEY" \ -H "anthropic-version: 2023-06-01" \ -H "anthropic-beta: token-efficient-tools-2025-02-19" \ -d '{ "model": "claude-3-7-sonnet-20250219", "max_tokens": 1024, "tools": [ { "name": "get_weather", "description": "Get the current weather in a given location", "input_schema": { "type": "object", "properties": { "location": { "type": "string", "description": "The city and state, e.g. San Francisco, CA" } }, "required": [ "location" ] } } ], "messages": [ { "role": "user", "content": "Tell me the weather in San Francisco." } ] }' | jq '.usage'

4. Usa il Prompt Caching per Contesto Ripetuto

Il prompt caching è uno dei metodi più potenti per ottimizzare i token, riducendo i costi dei token di input di fino al 90% quando lo stesso contenuto viene riutilizzato in più richieste.

Quando invii più volte grandi prompt di sistema, documentazione o codebase, Claude memorizza questo contenuto in cache e addebita solo il 10% del normale costo dei token di input per il contenuto in cache.

Come Funziona il Prompt Caching:

• La cache persiste per 5 minuti dopo l’ultimo utilizzo
• È necessario un minimo di 1.024 token per attivare la cache
• Le letture dalla cache costano il 10% del normale prezzo dei token di input
• Funziona automaticamente quando usi i blocchi cache_control

Esempio di Implementazione:

import anthropic

client = anthropic.Anthropic() # Designate content for caching with cache_control message = client.messages.create( model="claude-sonnet-4-5", max_tokens=1024, system=[ { "type": "text", "text": "You are an AI assistant for a large codebase..." }, { "type": "text", "text": "[Large code documentation - 50K tokens]", "cache_control": {"type": "ephemeral"} # Cache this block } ], messages=[ {"role": "user", "content": "Explain the authentication system"} ] )

Quando Usare il Prompt Caching:

• Grandi prompt di sistema che cambiano raramente
• Documentazione estesa o repository di codice
• Conversazioni multi-turno con contesto costante
• Elaborazione in batch con istruzioni condivise

Esempio di Risparmio di Token:

5. Usa le Stop Sequences

Il parametro stop_sequence ti permette di definire stringhe che indicano a Claude quando fermare la generazione. Quando il modello produce una di queste sequenze, si ferma immediatamente, il che aiuta a controllare la lunghezza dell’output e a evitare testo extra non necessario.

response = client.messages.create( model="claude-3-haiku-20240307", max_tokens=500, messages=[{"role": "user", "content": "Generate a JSON object representing a person with a name, email, and phone number."}], stop_sequences=["}"] ) print(response.content[0].text)

L’output risultante non include la “}” di chiusura, quindi potresti doverla aggiungere per il parsing. Puoi controllare stop_reason per confermare che il modello si è fermato a causa di una stop sequence e stop_sequence per vedere quale sequenza è stata attivata.

Best Practice per il Monitoraggio dei Token

1. Controlla sempre la proprietà usage – Verifica il numero di token di input e di output dopo ogni richiesta per capire i pattern di consumo
2. Monitora stop_reason – Capire perché la generazione si è fermata ti aiuta a ottimizzare la strategia di utilizzo dei token
3. Traccia l’efficienza dei token – Quando usi funzioni token-efficient, confronta le metriche di utilizzo con e senza queste funzioni attive per misurare il risparmio
4. Imposta max_tokens adeguati – Confronta gli output_tokens effettivi con il valore di max_tokens per trovare il giusto equilibrio
5. Tieni conto della variabilità dei token – Ricorda che il conteggio dei token può variare in base alla lingua e alla complessità del contenuto

Se usi soprattutto Claude nel browser

Obiettivo: utilizzo quotidiano più economico e fluido.

Se usi Claude Code per programmare

Obiettivo: evitare di scansionare l’intera codebase.

Se usi l’API di Claude in produzione

Obiettivo: costi prevedibili e prestazioni stabili.

Matrice rapida di decisione

Se vuoi il modo più veloce per scegliere un modello, questa matrice ti dà la configurazione esatta per i casi d’uso più comuni. Scegli la riga che corrisponde al tuo flusso di lavoro e otterrai subito una configurazione efficiente.

Controllare il budget dell’Extended Thinking

L’extended thinking permette a Claude di “ragionare” sui problemi complessi prima di rispondere, migliorando la qualità ma consumando token aggiuntivi. Lo controlli tramite il parametro thinking.budget_tokens:

curl https://api.anthropic.com/v1/messages \
--header "x-api-key: $ANTHROPIC_API_KEY" \
--header "anthropic-version: 2023-06-01" \
--header "content-type: application/json" \
--data \
'{
  "model": "claude-sonnet-4-5",
  "max_tokens": 16000,
  "thinking": {
    "type": "enabled",
    "budget_tokens": 10000
  },
  "messages": [
    {
      "role": "user",
      "content": "Are there an infinite number of prime numbers such that n mod 4 == 3?"
    }
  ]
}'

Linee guida sul budget:

Il parametro budget_tokens definisce il numero massimo di token che Claude può usare per il proprio processo di ragionamento interno:

Vincolo importante: budget_tokens deve essere impostato a un valore inferiore a max_tokens

Impatto sui costi: