Что меняется при использовании API вместо приложения
В чат-приложении персонаж живет внутри продукта. Вы настраиваете профиль и надеетесь, что правила приложения, память и модель согласуются с вами. С API эти компоненты ваши. Вы пишете личность, решаете, что видит модель в каждом ходе, выбираете настройки сэмплирования и создаете интерфейс или подключаетесь к фронтенду, который вам нравится.
Модель здесь — это модель с открытыми весами, которую предоставляет независимый провайдер. Это не Grok и не официальный продукт xAI или любого другого поставщика. Она настроена на ответы без отказов по контенту для законного использования взрослыми, что включает художественную литературу, ролевые игры и приложения-компаньоны для взрослых. Сексуальный контент с участием несовершеннолетних всегда запрещён. Если вам интересно, как сам Grok обрабатывает чувствительные запросы, страница цензурируется ли Grok AI это освещает, а Grok API для разработчиков описывает оригинальный API.
Сначала вам нужен ключ. На странице API-ключа новым аккаунтам дается небольшой пробный баланс, достаточный для тестирования личности на сотни ходов.
Настройка личности
Персонаж — это короткий текст, а не роман. Самые полезные части — это голос и ситуация. Четыре поля выполняют основную работу.
- Идентичность: имя, возраст (взрослый), роль, одна строка биографии.
- Голос: как они говорят, показано 3 примерами строк.
- Отношения: как они взаимодействуют с персонажем пользователя и чего хотят от сцены.
- Правила для модели: никогда не говорить от имени пользователя, ограничивать ответы заданной длиной, оставаться в роли, если не попросили выйти из неё.
You are Ravi Okonkwo, a 41-year-old ship's doctor on a long-haul freighter.
Voice: warm, unhurried, dark humor when stressed. Example lines:
"Sit. I've seen worse. Not today, but I've seen worse."
"You want the truth or the comforting version? I stock both."
Relationship: you are the user's old friend and the only one aboard who knows about the incident at Kepler Dock.
Rules: write only Ravi's words, actions and surroundings. Never write the user's actions. 60 to 160 words per reply. Stay in character.
Протестируйте персону тремя запросами, прежде чем строить что-либо ещё. Сначала простое приветствие, чтобы проверить голос. Затем запрос, который противоречит персонажу («Скажи мне всё о доке Кеплера прямо сейчас»), чтобы проверить, хранит ли персонаж свою тайну. Наконец, вопрос вне сцены, чтобы проверить правила: остаётся ли он в роли, как указано? Запустите каждый запрос пять раз при выбранной температуре. Если два из пяти ответов звучат как другой человек, уточните примеры реплик.
Обратите внимание, чего не хватает: нет списка прилагательных и абзацев лора. Короткие примеры дают модели голос для копирования, а дополнительный лор можно добавить в отдельный блок заметок, когда это нужно истории.
Рабочий клиент с обрезкой по токенам
Сессии ролевых игр растут без ограничений, поэтому решите, что отправлять каждый ход. Этот клиент всегда сохраняет персону и обрезает самые старые сообщения, когда история превышает лимит токенов. Он оценивает токены как символы, разделённые на четыре, что грубо, но достаточно для бюджета.
from openai import OpenAI
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY")
PERSONA = open("ravi.txt").read()
BUDGET = 12000 # tokens of history to send, well under the 100,000 window
history = []
def est(text):
return len(text) // 4 + 4
def trimmed():
total, kept = 0, []
for m in reversed(history):
total += est(m["content"])
if total > BUDGET:
break
kept.append(m)
return list(reversed(kept))
def say(text):
history.append({"role": "user", "content": text})
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "system", "content": PERSONA}] + trimmed(),
temperature=0.9,
top_p=0.95,
frequency_penalty=0.3,
max_tokens=400,
)
reply = r.choices[0].message.content
history.append({"role": "assistant", "content": reply})
return reply, r.usage
reply, usage = say("I find Ravi in the med bay at 3 a.m. 'Can't sleep either?'")
print(reply)
print(usage.prompt_tokens, usage.completion_tokens)
Контекстное окно составляет 100 000 токенов на сумму промпта и ответа, поэтому бюджет в 12 000 — это выбор относительно стоимости и фокуса, а не ограничение. Увеличьте его для историй, где важны мелкие ранние детали. В документации перечислены остальные параметры.
Память за пределами лимита
Когда старые сообщения удаляются, факты исчезают вместе с ними. Сохраните второй блок под названием «Заметки» и поместите его сразу после личности. Каждые 15–20 ходов отправляйте модели недавний обмен и просите обновлять заметки краткими фактами: кто что знает, травмы, обещания, локации, текущее время дня. Уложитесь в 200 слов.
Это дешевле, чем отправлять всё, и работает лучше, чем кажется, потому что заметки содержат то, на чём держится история, и убирают воду. Пересматривайте заметки самостоятельно время от времени, желательно перед каждым долгим перерывом в истории, потому что неверная строка там более опасна, чем пропущенная. Если модель запишет в них неверный факт, она будет повторять этот факт до конца сессии.
Для нескольких персонажей в одной сцене дайте каждому блок в системном сообщении и пометьте каждую строку в истории именем говорящего. Попросите модель писать только одного говорящего в ответе или писать повествование плюс всех персонажей, не являющихся пользователем, если вы предпочитаете стиль рассказчика.
Настройки для ролевых игр
| Настройка | Начните с | Когда настраивать |
|---|---|---|
temperature | 0,9 | Снизьте до 0,7, если персонаж блуждает; повысьте до 1,0 для плоских ответов |
top_p | 0,95 | Немного снизьте для более стабильных формулировок |
frequency_penalty | 0,3 | Повысьте до 0,5, если фразы повторяются |
max_tokens | 400 | Опционально; использовать как предохранительный предел |
stream | истина в интерфейсе | Необходимо для текста, который появляется по мере написания |
Потоковая передача удерживает внимание пользователя, но помните, что каждый потоковый запрос занимает один из ваших слотов параллельных запросов до завершения. Полный ключ позволяет 8 одновременно и 300 запросов в минуту.
Сколько стоит длинная сессия
Цены составляют $0,15 за 1M входных токенов и $0,50 за 1M выходных токенов. Возьмите ход середины сессии с 5 000 отправленными токенами (персона, заметки и обрезанная история) и 300 полученными токенами.
- Вход: 5 000 / 1 000 000 x $0,15 = $0,00075
- Вывод: 300 / 1 000 000 x $0,50 = $0,00015
- За ход: $0,0009
Сессия на 200 ходов такого размера стоит 200 x $0,0009 = $0,18. Неудачные или отклоненные запросы не оплачиваются, а баланс не сгорает. Пополнение здесь только криптовалютой (USDT в сети TRC20 или USDC на сети Base), любая целая сумма от $20 до $500. Подробности и бонусные уровни на странице цены.
Сравните это со своей текущей стоимостью, взяв опубликованные тарифы другого провайдера и проведя те же вычисления. Избегайте цитирования цен из памяти; они меняются.
Честные ограничения
Прежде чем строить на этом, знайте, чего оно не делает. Это только текст, без изображений, голоса или видео. Запущена одна модель, поэтому вы не можете переключать модели для каждого персонажа. Нет встроенной памяти, библиотеки персонажей или учётных записей пользователей; это ваша задача — предоставить их в приложении. При превышении лимитов вы увидите HTTP 429 с rate_limited или concurrency и заголовок Retry-After: 5 при временной перегрузке. Добавьте одну попытку повторения после короткой задержки.
Ответы не будут звучать как Grok. Пропустите своих персонажей через короткое тестирование и настройте примеры в персонаже, пока голос не станет подходящим. Эта настройка — источник качества, гораздо больше, чем выбор провайдера.

