Ne aldığınızı ve ne almadığınızı
Öncelikle net olalım, çünkü sitenin adı yanıltıcı olabilir. Bu, xAI'nin veya Grok'un resmi API'si değildir. Bağımsız bir sağlayıcı tarafından işletilen ve yetişkinlerin yasal kullanımı için içerik reddi olmadan cevap verecek şekilde ayarlanmış tek bir açık ağırlıklı modelin önünde barındırılan bir API'dir. Ayrıca birden fazla tedarikçi arasında bir yönlendirici de değildir. xAI'nin kendi modellerine ihtiyacınız varsa, xAI'ye gidin ve mevcut şartlarını ve fiyatlandırmalarını kontrol edin.
Kullanım alanı düz bir geliştirici iş akışıdır. API, OpenAI chat completions formatını kullandığı için zaten kullandığınız istemci kütüphaneleri çalışmaya devam eder. İki değeri değiştirirsiniz: base URL ve anahtarı, ve model kimliği olarak uncensored'i iletersiniz. İki uç nokta vardır: POST /v1/chat/completions ve GET /v1/models. Kimlik doğrulama standart bir Authorization: Bearer başlığıdır.
Hizmet yalnızca metindir. Görüntü, ses veya video üretimi, gömme (embedding) veya ince ayar (fine-tuning) yoktur. Bağlam penceresi 100.000 token'dır, istem ve tamamlama birlikte sayılır ve max_tokens isteğe bağlıdır. Tek bir katı içerik sınırı vardır: reşit olmayanlarla cinsel içerik içeren hiçbir şey, asla.
Eğer bu, geliştirdiğiniz şeyle eşleşiyorsa, bu sayfanın geri kalanı geliştiricilerin sorduğu detayları kapsar: ilk istek, akış, yapılandırılmış çıktı, araçlar, limitler ve maliyet.
İlk isteğiniz
API anahtarı sayfasından bir hesap oluşturun, anahtarı kopyalayın ve bir istek gönderin. Kayıt işlemi Google veya e-posta ile şifre kullanarak yapılır. Yeni kullanıcılar, sayfada tek tıkla kişi başı bir kez olmak üzere yedi gün geçerli $0,50 deneme kredisi talep edebilir. Deneme anahtarı, tam anahtara göre daha düşük limitler altında çalışır: 2 eşzamanlı istek ve dakika başına 60 istek.
Diğer tüm değişkenleri ortadan kaldırdığı için curl ile başlayın:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain idempotency keys in two sentences."}
]
}'
Resmi Python SDK ile aynı çağrı:
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain idempotency keys in two sentences."}],
temperature=0.7,
)
print(resp.choices[0].message.content)
GET /v1/models çağrısı, anahtarınızın ve base URL'nizin doğru olup olmadığını başka bir şeyi halletmeden önce kontrol etmenin ucuz bir yoludur. Her yanıt X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests ve X-RateLimit-Limit-Concurrency başlıklarını taşır. İsteğin kimliğini kendi loglarınıza kaydedin ve otomatik çalışan işleriniz için bakiye başlığını izleyin.
temperature, top_p, stop, seed gibi örneklemleme parametreleri ve frekans ve varlık cezaları modele iletilir. Tam parametre notları belgelendirme sayfasında bulunur.
Akış
stream: true ayarlayın ve yanıt sunucu tarafından gönderilen olaylar (SSE) olarak gelir; her token grubu için bir parça ve akışın sonunda kullanım bilgisi raporlanır. Bir sohbet arayüzü için bu, bekleyen bir ekran ile yazan bir ekran arasındaki farktır.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\ntokens:", chunk.usage)
Node'da desen aynıdır:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredgrok.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a haiku about retries." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
Kapasite planlaması için bir detay önemlidir. Akışlı bir istek, akış bitene kadar eşzamanlılık yuvasını korur. Bir istemci bir akış açar ve sonra takılırsa, bu yuva dolu kalır, bu yüzden artık okumadığınız akışları kapatın.
JSON modu ve fonksiyon çağırma
Yapılandırılmış çıktı için response_format'i json_object türü ile geçirin. Ayrıca istemde JSON istediğinizi belirtin ve beklediğiniz anahtarları adlandırın. JSON modu modelin ayrıştırılabilir metin üretmesini sağlar, ancak sonucu kodunuzda yine de doğrulamalı ve başarısız ayrıştırmayı işlemelisiniz.
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Summarize: a guide to rate limiting for API clients."},
],
)
import json
data = json.loads(resp.choices[0].message.content)
Araç çağırma
Araç çağırma OpenAI şeklini takip eder. tools ve isteğe bağlı olarak tool_choice gönderirsiniz. Model tool_calls ile cevap verir, fonksiyonu çalıştırırsınız ve sonucu role: "tool" ile bir mesaj olarak geri gönderirsiniz. Araç çağrıları da akış yapılabilir.
import json
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
Argüman dizisini her zaman savunmacı bir şekilde ayrıştırın. Modeller bazen geçerli JSON olmayan argümanlar döndürür ve json.loads etrafına bir deneme/yakalama (try/except) bloğu ile bir yeniden deneme eklemek ucuz bir sigortadır.
Hız limitleri, 429'lar ve yeniden denemeler
Tam anahtar 8 eşzamanlı istek ve dakika başına 300 istek izin verir. Deneme anahtarı 2 ve 60 izin verir. Maksimum istek gövdesi 8 MB'dir. Bir limiti aştığınızda HTTP 429 alırsınız ve hata kodu hangi limiti aştığınızı söyler: rate_limited dakika başına çok fazla istek anlamına gelir, concurrency aynı anda çok fazla istek anlamına gelir. Geçici aşırı yüklenme durumunda API ayrıca Retry-After: 5 başlığı ile 429 döndürür.
Bu size basit bir yeniden deneme kuralı verir: 429 hatası durumunda, varsa Retry-After süresi kadar bekleyin, yoksa rastgelelik (jitter) ekleyerek üstel olarak geri çekilin ve deneme sayısını sınırlayın.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY", max_retries=0)
def ask(messages, attempts=5):
for i in range(attempts):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = float(e.response.headers.get("Retry-After", 2 ** i))
time.sleep(wait + random.random())
raise RuntimeError("still rate limited")
Toplu işler çalıştırıyorsanız, tam bir anahtarla worker havuzunuzu 8 ile sınırlayın. Sekiz worker, her biri bir istek tutan, tavanı oluşturur; dokuzuncu worker yalnızca concurrency kodlu 429 hataları almanızı sağlar. Başarısız veya reddedilen istekler ücretlendirilmez, bu nedenle yeniden denemek size maliyet yaratmaz.
Üretimde zaman kazandıran alışkanlıklar
İlk istek çalıştıktan sonra birkaç uygulama hızla işe yarar. Anahtarı bir ortam değişkeninde veya bir gizli bilgi yöneticisinde saklayın ve her ortam için kendi anahtarını verin, böylece diğerlerine dokunmadan birini değiştirebilirsiniz. X-Request-Id değerini kendi izleme kimliğinizin yanına kaydedin; bir yanıtta bir şeyler yanlış görünürse, bu kimlik referans verilecek tek şeydir.
İstemcide bir zaman aşımı ayarlayın. Büyük bir tamamlama (completion) izni verildiğinde uzun üretimler normaldir, bu nedenle en uzun beklenen cevaba uygun bir zaman aşımı seçin ve bir kişinin beklediği her şey için akış (streaming) kullanın. Kullanıcıya dönük yollarda max_tokens'i sınırlayın; parametre isteğe bağlı olsa bile, bir tavan hem gecikme süresi hem de harcama için bir üst sınır koyar.
Gönderdiğiniz konuşma geçmişini kontrol altında tutun. Pencere 100.000 token kapasitesindedir, ancak her çağrıda girdi ücretlendirilir; bu nedenle eski mesaj turlarını kırpmak veya özetlemek sahip olduğunuz en ucuz optimizasyondur. Son olarak, örnekleme ayarlarınızı sabitleyin. seed'i sabit bir sıcaklık (temperature) ile birlikte ayarlamak, istem varyantlarını karşılaştırırken daha tekrarlanabilir çalışmalara olanak tanır, ancak bunu aynı çıktı garantisi olarak görmemelisiniz.
Maliyeti
Fiyatlandırma, ön ödemeli krediden, 1M giriş token'ı başına $0,15 ve 1M çıktı token'ı başına $0,50'dir. Abonelik yoktur ve kredi asla sona ermez. Bir örnek somutlaştırır. 2.000 giriş token'ı ve 500 çıktı token'ı olan bir istek alın:
- Girdi: 2.000 / 1.000.000 x $0,15 = $0,0003
- Çıktı: 500 / 1.000.000 x $0,50 = $0,00025
- Toplam: İstek başına $0,00055, bu yüzden 1.000 böyle istek $0,55'e mal olur.
$0,50 deneme kredisi bu boyuttaki yaklaşık 900 isteği karşılar. Bakiye yüklemeler $20 ile $500 arasında herhangi bir tam tutarla çalışır, $50'den itibaren %5 bonus, $100'den itibaren %10 ve $200'den itibaren %15 bonus. Örneğin, $100 bakiye yükleme $110 kredi sağlar. Ödeme bu sitede yalnızca kriptodur: TRC20 üzerinde USDT veya Base üzerinde USDC. Fiyatlandırma sayfası mevcut tabloyu içerir.
İstemler eğitim için kullanılmaz. Bunu başka bir uç nokta ile değerlendiriyorsanız, token başına ödeme ve 100k bağlam penceresi hakkındaki mevcut makale, uzun konuşmalarda ölçümlemenin nasıl davrandığını kapsar.
Başka bir seçenek daha uygun olduğunda
Uygunluk konusunda dürüst olun. Görüntü üretimi, gömme (embedding), konuşma veya ince ayarlanmış bir modele ihtiyacınız varsa, bu API bunları sunmaz. Sözleşme veya uyum ekibiniz doğrudan model sağlayıcısı gerektiriyorsa, o sağlayıcıyı kullanın. Belirli bir laboratuvardan garantili model kimliğine ihtiyacınız varsa, bu yanlış üründür, çünkü bağımsız bir sağlayıcıdan tek bir açık ağırlıklı model çalıştırır.
Uyduğu yer, OpenAI protokolünü zaten kullanan ve yasal yetişkin isteklerini reddetmeden yanıt veren bir metin modeli gerektiren bir uygulamadır: yetişkinler için yazma araçları, rol yapma ve arkadaş uygulamaları, zorlu konulara temas eden veri etiketleme ve test araçları. Mevcut istemcinizi yeni base URL'ye yönlendirin ve kredi taahhüt etmeden önce kendi istemlerinizde çıktıları karşılaştırın.
