Что вы получаете и чего не получаете
Давайте будем точны с самого начала, потому что название сайта может ввести в заблуждение. Это не официальное API от xAI или Grok. Это хостинговое API перед одной моделью с открытыми весами, управляемое независимым провайдером и настроенное на ответы без отказов по контенту для законного использования взрослыми. Это также не роутер между несколькими поставщиками. Если вам нужны собственные модели xAI, перейдите на сайт xAI и проверьте их текущие условия и цены.
Полезна она в обычном рабочем процессе разработчика. API использует формат chat completions OpenAI, поэтому библиотеки клиентов, которые вы уже используете, продолжат работать. Вы меняете два значения: базовый URL и ключ, и передаете uncensored в качестве идентификатора модели. Существуют два эндпоинта: POST /v1/chat/completions и GET /v1/models. Аутентификация осуществляется стандартным заголовком Authorization: Bearer.
Сервис поддерживает только текст. Нет генерации изображений, аудио или видео, нет эмбеддингов и нет тонкой настройки. Контекстное окно составляет 100 000 токенов, которые считаются вместе для промпта и ответа, и max_tokens является опциональным. Существует одно строгое ограничение по контенту: никогда ничего, что связано с несовершеннолетними в сексуальном контексте.
Если это соответствует тому, что вы разрабатываете, остальная часть этой страницы охватывает детали, о которых спрашивают разработчики: первый запрос, потоковая передача, структурированный вывод, инструменты, лимиты и стоимость.
Ваш первый запрос
Создайте учетную запись на странице API-ключ, скопируйте ключ и отправьте запрос. Регистрация работает через Google или с помощью электронной почты и пароля. Новые пользователи могут получить $0,50 пробного баланса одним нажатием на этой странице, по одному на человека, сроком на семь дней. Пробный ключ работает с более низкими лимитами, чем полный ключ: 2 параллельных запроса и 60 запросов в минуту.
Начните с curl, так как это устраняет все остальные переменные:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain idempotency keys in two sentences."}
]
}'
Тот же вызов с официальным SDK Python:
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain idempotency keys in two sentences."}],
temperature=0.7,
)
print(resp.choices[0].message.content)
Запрос к GET /v1/models — это недорогой способ проверить, что ваш ключ и базовый URL верны, прежде чем отлаживать что-либо ещё. Каждый ответ содержит заголовки X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests и X-RateLimit-Limit-Concurrency. Логируйте идентификатор запроса в своих журналах и следите за заголовком баланса, если запускаете автономные задачи.
Параметры сэмплирования, такие как temperature, top_p, stop, seed, а также штрафы за частоту и наличие, передаются модели. Полные заметки по параметрам находятся на странице документации.
Потоковая передача
Установите stream: true, и ответ придет в виде событий, отправляемых сервером, по одному чанку на группу токенов, с отчетом об использовании в конце потока. Для интерфейса чата это разница между экраном, который ждет, и экраном, который печатает.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\ntokens:", chunk.usage)
В Node.js шаблон тот же:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredgrok.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a haiku about retries." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
Одна деталь важна для планирования емкости. Потоковый запрос удерживает слот параллелизма до конца потока. Если клиент открывает поток, а затем зависает, этот слот остается занятым, поэтому закрывайте потоки, которые вы больше не читаете.
JSON-режим и вызов инструментов
Для структурированного вывода передайте response_format с типом json_object. Также укажите в промпте, что вы хотите получить JSON, и назовите ожидаемые ключи. JSON-режим помогает модели генерировать текст, пригодный для разбора, но вам все равно следует проверять результат в своем коде и обрабатывать неудачный разбор.
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Summarize: a guide to rate limiting for API clients."},
],
)
import json
data = json.loads(resp.choices[0].message.content)
Вызов функций
Вызов функций следует формату OpenAI. Вы отправляете tools и опционально tool_choice. Модель отвечает с помощью tool_calls, вы выполняете функцию и отправляете результат обратно как сообщение с role: "tool". Вызовы инструментов также могут передаваться потоком.
import json
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
Всегда парсите строку аргументов защитным образом. Модели иногда возвращают аргументы, которые не являются действительным JSON, и try/except вокруг json.loads с одной попыткой повторного выполнения — это дешевая страховка.
Лимиты запросов, коды 429 и повторные попытки
Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 и 60 соответственно. Максимальный размер тела запроса составляет 8 МБ. При превышении лимита вы получаете HTTP 429, а код ошибки указывает, какой именно лимит превышен: rate_limited означает слишком много запросов в минуту, concurrency означает слишком много одновременно. При временной перегрузке API также возвращает 429 с заголовком Retry-After: 5.
Это дает вам простое правило повторной попытки: при 429 подождите Retry-After, если он присутствует, в противном случае используйте экспоненциальную задержку с джиттером и ограничьте количество попыток.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY", max_retries=0)
def ask(messages, attempts=5):
for i in range(attempts):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = float(e.response.headers.get("Retry-After", 2 ** i))
time.sleep(wait + random.random())
raise RuntimeError("still rate limited")
Если вы запускаете пакетные задачи, ограничьте пул воркеров 8 для полного ключа. Восемь воркеров, каждый из которых удерживает один запрос, — это предел, а девятый только принесет вам 429 с кодом concurrency. Неудачные или отклоненные запросы не тарифицируются, поэтому повторные попытки не стоят вам денег.
Привычки, экономящие время в продакшене
Несколько практик окупаются быстро, как только сработает первый запрос. Храните ключ в переменной окружения или менеджере секретов и выдавайте каждому окружению свой ключ, чтобы можно было ротировать один, не затрагивая другие. Логируйте значение X-Request-Id рядом со своим идентификатором трассировки; если в ответе что-то выглядит неправильно, этот ID — то, что нужно указать.
Установите тайм-аут на клиенте. Долгие генерации — это нормально, когда вы разрешаете большое завершение, поэтому выберите тайм-аут, соответствующий вашему самому долгому ожидаемому ответу, и используйте потоковую передачу для всего, чего ждёт человек. Ограничьте max_tokens в путях, видимых пользователю, даже если параметр необязателен, потому что ограничение устанавливает потолок как для задержки, так и для расходов.
Держите историю разговора, которую вы отправляете, под контролем. Окно составляет 100 000 токенов, но ввод тарифицируется при каждом вызове, поэтому обрезка старых реплик или их краткое изложение — это самая дешёвая оптимизация, которое у вас есть. Наконец, зафиксируйте настройки сэмплирования. Установка seed вместе с фиксированной температурой дает вам более воспроизводимые запуски при сравнении вариантов промптов, хотя вы не должны рассматривать это как гарантию идентичного вывода.
Что это стоит
Тарификация составляет $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов из предоплаченного баланса. Подписки нет, а баланс не сгорает. Рабочий пример делает это конкретным. Возьмите запрос с 2 000 входными токенами и 500 выходными токенами:
- Вход: 2 000 / 1 000 000 × $0,15 = $0,0003
- Выход: 500 / 1 000 000 × $0,50 = $0,00025
- Итого: $0,00055 за запрос, поэтому 1 000 таких запросов стоят $0,55.
Пробный баланс в размере $0,50 поэтому покрывает примерно 900 запросов такого размера. Пополнения доступны в диапазоне от $20 до $500 любой целой суммой, с бонусом 5% от $50, 10% от $100 и 15% от $200. Например, пополнение на $100 добавляет $110. Оплата на этом сайте доступна только криптовалютой: USDT в сети TRC20 или USDC в сети Base. Текущая таблица цен доступна на странице с ценами.
Промпты не используются для обучения. Если вы сравниваете это с другим эндпоинтом, существующая статья об оплате за токен и контекстном окне 100k охватывает то, как ведет себя учет в длинных разговорах.
Когда лучше подходит другой вариант
Будьте честны относительно соответствия. Если вам нужна генерация изображений, эмбеддинги, речь или дообученная модель, это API их не предлагает. Если вашей контрактной или комплаенс-команде требуется первичный поставщик (first-party), используйте этого поставщика. Если вам нужна гарантированная идентичность модели от конкретной лаборатории, это не тот продукт, поскольку он работает с одной моделью с открытыми весами от независимого провайдера.
Лучше всего она подходит для приложения, которое уже поддерживает протокол OpenAI и нуждается в текстовой модели, которая отвечает на законные запросы взрослых, не отказывая в них: инструменты для письма, ролевые игры и приложения-компаньоны для взрослых, маркировка данных, затрагивающих сложные темы, и тестовые стенды. Направьте своего существующего клиента на новый базовый URL и сравните вывод на своих собственных промптах, прежде чем тратить баланс.
