Cosa cambia usando un'API invece di un'app
In un'app chat il personaggio vive all'interno del prodotto. Modifichi un profilo e ti aspetti che le regole, la memoria e il modello dell'app siano allineati con te. Con un'API, questi elementi sono tuoi. Scrivi l'identità, decidi cosa vede il modello a ogni turno, scegli le impostazioni di campionamento e costruisci l'interfaccia o integra un frontend che ti piace già.
Il modello qui è un modello a pesi aperti gestito da un provider indipendente. Non è Grok e non è un prodotto ufficiale di xAI o di qualsiasi altro venditore. È ottimizzato per rispondere senza rifiuti di contenuti per l'uso adulto legale, che include narrativa, roleplay e app companion per adulti. I contenuti sessuali che coinvolgono minorenni non sono mai permessi. Se sei curioso di come Grok stesso tratta le richieste sensibili, la pagina Grok AI censurato lo copre, e Grok API per sviluppatori copre l'API originale.
Hai prima bisogno di una chiave. La pagina chiave API offre ai nuovi account un piccolo credito di prova, sufficiente per testare un personaggio per centinaia di turni.
Configura il personaggio
Un personaggio è un testo breve, non un romanzo. Le parti più utili sono la voce e la situazione. Quattro campi fanno la maggior parte del lavoro.
- Identità: nome, età (un adulto), ruolo, una riga di sfondo.
- Voce: come parla, mostrato con 3 righe di esempio.
- Relazione: come si relaziona con il personaggio dell'utente e cosa vuole dalla scena.
- Regole per il modello: non parlare mai per l'utente, mantenere le risposte a una lunghezza prestabilita, restare in carattere a meno che non venga chiesto di uscire.
You are Ravi Okonkwo, a 41-year-old ship's doctor on a long-haul freighter.
Voice: warm, unhurried, dark humor when stressed. Example lines:
"Sit. I've seen worse. Not today, but I've seen worse."
"You want the truth or the comforting version? I stock both."
Relationship: you are the user's old friend and the only one aboard who knows about the incident at Kepler Dock.
Rules: write only Ravi's words, actions and surroundings. Never write the user's actions. 60 to 160 words per reply. Stay in character.
Testa l'identità con tre sondaggi prima di costruire qualsiasi altra cosa. Primo, un saluto semplice, per verificare la voce. Secondo, una richiesta che mette in contrasto il personaggio ("Dimmi tutto su Kepler Dock adesso"), per verificare se il personaggio mantiene il suo segreto. Terzo, una domanda fuori scena, per verificare le regole: rimane in personaggio come stabilito? Esegui ogni sondaggio cinque volte alla temperatura scelta. Se due delle cinque risposte sembrano provenire da una persona diversa, restringi le righe di campionamento.
Nota cosa manca: nessun elenco di aggettivi e nessun paragrafo di background. Campioni brevi danno al modello una voce da copiare, e il background extra può essere aggiunto a un blocco di note separato quando la storia lo richiede.
Client funzionante con taglio basato sui token
Le sessioni di roleplay non hanno una scadenza, quindi decidi cosa inviare a ogni turno. Questo client mantiene sempre il personaggio e rimuove i messaggi più vecchi quando la cronologia supera il budget di token. Stima i token dividendo i caratteri per quattro: approssimativo ma sufficiente per il budget.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY")
PERSONA = open("ravi.txt").read()
BUDGET = 12000 # tokens of history to send, well under the 100,000 window
history = []
def est(text):
return len(text) // 4 + 4
def trimmed():
total, kept = 0, []
for m in reversed(history):
total += est(m["content"])
if total > BUDGET:
break
kept.append(m)
return list(reversed(kept))
def say(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "system", "content": PERSONA}] + trimmed(),
temperature=0.9,
top_p=0.95,
frequency_penalty=0.3,
max_tokens=400,
)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply, r.usage
reply, usage = say("I find Ravi in the med bay at 3 a.m. 'Can't sleep either?'")
print(reply)
print(usage.prompt_tokens, usage.completion_tokens)
La finestra è di 100.000 token per prompt più risposta, quindi il budget di 12.000 è una scelta su costi e focus, non un limite. Aumentalo per le storie in cui contano i piccoli dettagli iniziali. La documentazione elenca il resto dei parametri.
Memoria oltre il budget
Quando i vecchi messaggi vengono rimossi, i fatti svaniscono con essi. Tieni un secondo blocco chiamato notes, e inseriscilo subito dopo l'identità. Ogni 15-20 turni, invia al modello lo scambio recente e chiedigli di aggiornare le note con fatti concisi: chi sa cosa, ferite, promesse, luoghi, l'ora del giorno corrente. Tienilo sotto le 200 parole.
Questo è più economico che inviare tutto e funziona meglio del previsto, perché le note contengono ciò di cui la storia ha bisogno e scartano il riempitivo. Rivedi le note tu stesso ogni tanto, idealmente prima di ogni lunga pausa nella storia, perché una riga sbagliata lì è più dannosa di una mancata. Se il modello scrive un fatto sbagliato nelle note, ripeterà quel fatto per il resto della sessione.
Per più personaggi in una scena, dai a ciascuno un blocco nel messaggio di sistema e etichetta ogni riga nella cronologia con il nome del parlante. Chiedi al modello di scrivere solo un parlante per risposta, o di scrivere la narrazione più tutti i personaggi non utente se preferisci uno stile narratore.
Impostazioni adatte al roleplay
| Impostazione | Inizia a | Regola quando |
|---|---|---|
temperature | 0,9 | Abbassa a 0,7 se il personaggio si perde; alza a 1,0 per risposte piatte |
top_p | 0,95 | Abbassa leggermente per una formulazione più stabile |
frequency_penalty | 0,3 | Alza a 0,5 se le frasi si ripetono |
max_tokens | 400 | Opzionale; usa come limite di sicurezza |
stream | true in un'interfaccia | Necessario per il testo che appare mentre viene scritto |
Lo streaming mantiene l'utente coinvolto, ma ricorda che ogni richiesta in streaming occupa uno dei tuoi slot di concorrenza fino alla fine. Una chiave completa permette 8 contemporaneamente e 300 richieste al minuto.
Quanto costa una sessione lunga
I prezzi sono $0,15 per 1M di token di input e $0,50 per 1M di token di output. Prendi un turno di sessione media con 5.000 token inviati (persona, notes e cronologia tagliata) e 300 token ricevuti.
- Input: 5.000 / 1.000.000 x $0,15 = $0,00075
- Output: 300 / 1.000.000 x $0,50 = $0,00015
- Per turno: $0.0009
Una sessione di 200 turni a quella dimensione costa 200 x $0,0009 = $0,18. Le richieste fallite o rifiutate non vengono addebitate e il credito non scade mai. Le ricariche sono solo cripto qui (USDT su TRC20 o USDC su Base), qualsiasi importo intero da $20 a $500. Dettagli e livelli bonus sono nella pagina dei prezzi.
Confronta questo con il tuo costo attuale prendendo i tassi pubblicati dall'altro provider ed eseguendo la stessa aritmetica. Evita di citare prezzi a memoria; cambiano.
Limiti onesti
Prima di costruire su questo, sappi cosa non fa. È solo testo, senza immagini, voce o video. Esegue un modello, quindi non puoi cambiare modello per personaggio. Non c'è memoria integrata, libreria di personaggi o account utente; quelli sono per la tua app da fornire. Superando i limiti vedrai HTTP 429 con rate_limited o concurrency, e un'intestazione Retry-After: 5 in caso di sovraccarico temporaneo. Aggiungi un retry dopo una breve attesa.
Le risposte non suoneranno come Grok. Esegui i tuoi personaggi attraverso un breve test e regola i campioni nel personaggio finché la voce non sembra giusta. Questa ottimizzazione è da dove proviene la qualità, molto più che dalla scelta del provider.

