Was ändert sich, wenn du eine API statt einer App nutzt
In einer Chat-App lebt die Figur im Produkt. Du passt ein Profil an und hoffst, dass die Regeln, der Speicher und das Modell der App zu dir passen. Mit einer API gehören diese Teile dir. Du schreibst die Persona, entscheidest, was das Modell pro Zug sieht, wählst die Sampling-Einstellungen und baust die Oberfläche oder bindest sie in ein Frontend ein, das dir bereits gefällt.
Das hier gezeigte Modell ist ein Open-Weight-Modell eines unabhängigen Anbieters. Es ist nicht Grok und kein offizielles Produkt von xAI oder einem anderen Anbieter. Es ist darauf abgestimmt, ohne Inhaltsfilter auf Fragen zu antworten, was die legale Nutzung durch Erwachsene umfasst, einschließlich Fiktion, Roleplay und Companion-Apps für Erwachsene. Sexuelle Inhalte, die Minderjährige einbeziehen, sind jedoch stets untersagt. Wenn du wissen möchtest, wie Grok selbst mit sensiblen Anfragen umgeht, behandelt die Seite Ist Grok AI zensiert das Thema, und Grok API für Entwickler behandelt die ursprüngliche API.
Du brauchst zuerst einen Schlüssel. Die API-Schlüssel-Seite gibt neuen Konten ein kleines Testguthaben, das ausreicht, um eine Persona für hunderte Züge zu testen.
Richte die Persona ein
Eine Persona ist ein kurzer Text, kein Roman. Die nützlichsten Teile sind die Stimme und die Situation. Vier Felder erledigen den Großteil der Arbeit.
- Identität: Name, Alter (erwachsen), Rolle, ein Hintergrundsatz.
- Stimme: wie sie spricht, gezeigt durch 3 Beispielzeilen.
- Beziehung: wie sie zum Benutzercharakter steht und was sie von der Szene will.
- Regeln für das Modell: sprich nie für den Benutzer, halte Antworten auf eine bestimmte Länge, bleibe im Charakter, es sei denn, du wirst gebeten, die Rolle zu verlassen.
You are Ravi Okonkwo, a 41-year-old ship's doctor on a long-haul freighter.
Voice: warm, unhurried, dark humor when stressed. Example lines:
"Sit. I've seen worse. Not today, but I've seen worse."
"You want the truth or the comforting version? I stock both."
Relationship: you are the user's old friend and the only one aboard who knows about the incident at Kepler Dock.
Rules: write only Ravi's words, actions and surroundings. Never write the user's actions. 60 to 160 words per reply. Stay in character.
Teste die Persona mit drei Testfällen, bevor du etwas anderes aufbaust. Erstens eine normale Begrüßung, um die Stimme zu prüfen. Zweitens eine Anfrage, die gegen die Figur spricht („Erzähl mir jetzt alles über Kepler Dock“), um zu prüfen, ob die Figur ihr Geheimnis bewahrt. Drittens eine Frage außerhalb der Szene, um die Regeln zu prüfen: Bleibt sie im Charakter? Führe jeden Testfall fünf Mal bei deiner gewählten Temperatur aus. Wenn zwei der fünf Antworten wie eine andere Person klingen, straffe die Beispielzeilen.
Beachte, was fehlt: keine Liste von Adjektiven und keine Paragraphen an Hintergrundgeschichte. Kurze Beispiele geben dem Modell eine Stimme zum Kopieren, und zusätzliche Hintergrundgeschichte kann bei Bedarf in einen separaten Notizblock aufgenommen werden.
Ein funktionierender Client mit Token-basierter Kürzung
Rollen-Sessions können beliebig lang werden, also entscheide, was du in jedem Schritt sendest. Dieser Client behält die Persona immer bei und kürzt die ältesten Nachrichten, sobald die Historie ein Token-Budget überschreitet. Er schätzt Token als Zeichen geteilt durch vier, was zwar ungenau, aber für ein Budget gut genug ist.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY")
PERSONA = open("ravi.txt").read()
BUDGET = 12000 # tokens of history to send, well under the 100,000 window
history = []
def est(text):
return len(text) // 4 + 4
def trimmed():
total, kept = 0, []
for m in reversed(history):
total += est(m["content"])
if total > BUDGET:
break
kept.append(m)
return list(reversed(kept))
def say(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "system", "content": PERSONA}] + trimmed(),
temperature=0.9,
top_p=0.95,
frequency_penalty=0.3,
max_tokens=400,
)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply, r.usage
reply, usage = say("I find Ravi in the med bay at 3 a.m. 'Can't sleep either?'")
print(reply)
print(usage.prompt_tokens, usage.completion_tokens)
Das Kontextfenster umfasst 100.000 Token für Prompt und Antwort, daher ist das 12.000-Budget eine Wahl bezüglich Kosten und Fokus, keine Grenze. Erhöhe es für Geschichten, bei denen kleine frühe Details wichtig sind. Die Dokumentation listet den Rest der Parameter auf.
Speicher jenseits des Budgets
Wenn alte Nachrichten verworfen werden, verschwinden auch die Fakten. Behalte einen zweiten Block namens Notizen und füge ihn direkt nach der Persona ein. Sende alle 15 bis 20 Züge dem Modell die aktuelle Unterhaltung und bitte ihn, die Notizen als knappe Fakten zu aktualisieren: wer weiß was, Verletzungen, Versprechen, Orte, die aktuelle Tageszeit. Halte es unter 200 Wörter.
Das ist günstiger als alles zu senden und funktioniert besser, als es klingt, weil die Notizen das halten, worauf die Geschichte basiert, und den Füllertext verwerfen. Überprüfe die Notizen von Zeit zu Zeit selbst, idealerweise vor jeder langen Pause in der Geschichte, denn ein falscher Satz dort ist schädlicher als ein fehlender. Wenn das Modell einen falschen Fakt in die Notizen schreibt, wiederholt es diesen Fakt für den Rest der Sitzung.
Für mehrere Personas in einer Szene gib jedem einen Block in der Systemnachricht und kennzeichne jede Zeile im Verlauf mit dem Namen des Sprechers. Bitte das Modell, nur einen Sprecher pro Antwort zu schreiben, oder die Erzählung plus alle Nicht-Benutzer-Charaktere, wenn du einen Erzählstil bevorzugst.
Einstellungen für Roleplay
| Einstellung | Starte bei | Anpassen, wann |
|---|---|---|
temperature | 0,9 | Auf 0,7 senken, wenn die Figur abschweift; auf 1,0 erhöhen für flache Antworten |
top_p | 0,95 | Leicht senken für gleichbleibende Formulierungen |
frequency_penalty | 0,3 | Auf 0,5 erhöhen, wenn sich Phrasen wiederholen |
max_tokens | 400 | Optional; als Sicherheitsgrenze verwenden |
stream | wahr in einer Benutzeroberfläche | Erforderlich für Text, der so erscheint, wie er geschrieben wird |
Streaming hält den Benutzer engagiert, aber denk daran, dass jede gestreamte Anfrage einen deiner parallelen Slots belegt, bis sie endet. Ein voller Schlüssel erlaubt 8 gleichzeitig und 300 Anfragen pro Minute.
Was eine lange Sitzung kostet
Die Preise liegen bei 0,15 $ pro 1M Input-Token und 0,50 $ pro 1M Output-Token. Nimm einen Zug mitten in der Sitzung mit 5.000 gesendeten Token (Persona, Notizen und gekürzter Verlauf) und 300 empfangenen Token.
- Input: 5.000 / 1.000.000 x 0,15 $ = 0,00075 $
- Output: 300 / 1.000.000 x 0,50 $ = 0,00015 $
- Pro Zug: 0,0009 $
Eine 200-Züge-Sitzung dieser Größe kostet 200 x 0,0009 $ = 0,18 $. Fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet, und Guthaben verfällt nie. Aufladungen sind hier nur Krypto (USDT auf TRC20 oder USDC auf Base), jeder ganze Betrag von 20 $ bis 500 $. Details und Bonusstufen findest du auf der Preisseite.
Vergleiche dies mit deinen aktuellen Kosten, indem du die veröffentlichten Raten des anderen Anbieters nimmst und die gleiche Rechnung durchführst. Vermeide es, Preise aus dem Gedächtnis anzugeben; sie ändern sich.
Ehrliche Limits
Bevor du darauf aufbaust, weiß, was es nicht kann. Es ist nur Text, ohne Bilder, Stimme oder Video. Es läuft ein Modell, also kannst du nicht pro Figur das Modell wechseln. Es gibt keinen integrierten Speicher, keine Charakterbibliothek oder Benutzerkonten; das muss deine App liefern. Über den Grenzen siehst du HTTP 429 mit rate_limited oder concurrency und einen Retry-After: 5-Header bei temporärer Überlastung. Füge einen Retry nach einer kurzen Wartezeit hinzu.
Antworten klingen nicht wie Grok. Führe deine Figuren durch einen kurzen Test und passe die Proben in der Persona an, bis die Stimme richtig klingt. Diese Abstimmung ist es, wo die Qualität herkommt, viel mehr als die Wahl des Anbieters.

