Geçiş yapacağınız hizmet
Bu site xAI değildir ve arkasındaki model Grok değildir. Bağımsız bir sağlayıcı tarafından işletilen tek bir açık ağırlıklı modeldir ve yasal yetişkin kullanımı için içerik reddi olmadan cevap verecek şekilde ayarlanmıştır. Uç nokta OpenAI API formatını konuştuğu için, base URL ve anahtarı değiştirdiğinizde herhangi bir OpenAI SDK veya istemcisi çalışır. Bu, az kod değişikliğiyle geçiş yapmak isteyen geliştiriciler için pratik bir yer değiştirme sağlar.
Kişilerin bir yerine geçme aramasının nedenleri değişir: maliyet, meşru kurgu veya araştırma metinlerinde reddetmeler, hız limitleri veya riski iki sağlayıcı arasında dağıtmak istemek. Nedeniniz ne olursa olsun, bu hareketi bir model değişikliği olarak ele alın. API yapısı tanıdık kalırken, yanıtlar farklı olacaktır. Grok'un hassas içeriklerle nasıl davrandığı hakkında bilgi için Grok AI sansürlü mü sayfasına, orijinal API'nin geliştirici tarafı için ise Geliştiriciler için Grok API sayfasına bakın.
Sert limit: reşit olmayanlarla ilgili cinsel içerik hiçbir çerçevede burada asla izin verilmez.
Üç düzenleme geçişi
Uygulamanız OpenAI SDK desenini kullanıyorsa, bu üç değeri değiştirin.
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1", # was your current provider's URL
api_key="YOUR_KEY", # new key from this site
)
resp = client.chat.completions.create(
model="uncensored", # was your current model name
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Summarize the plot of Hamlet in three sentences."},
],
)
print(resp.choices[0].message.content)
Aynı şey Node'da istemci kurucusuna baseURL ve apiKey geçilerek yapılır ve curl'de bir Authorization: Bearer başlığı ile:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'
Desteklenen yöntemler POST /v1/chat/completions, POST /v1/responses ve GET /v1/models şeklindedir. Anahtarınızı API anahtarı sayfasından alın.
Kontrol listesi: Geçmeden önce doğrulanacaklar
| Alan | Kontrol | Burada |
|---|---|---|
| Sohbet ve yanıtlar | Hangi uç noktalara istek gönderdiğiniz | Sohbet tamamlamaları ve yanıtlar desteklenir |
| Akış | Kullanım bilgisiyle SSE | Evet, stream: true ile |
| Araç çağırma | Araçlar, araç seçimi, akışlı araç çağrıları | Desteklenir; sonuçlar role: "tool" olarak döner |
| Yapılandırılmış çıktı | JSON modu | json_object yanıt formatı desteklenir |
| Örnekleme | temperature, top_p, stop, seed, cezalar | Geçirildi |
| Bağlam | Gönderdiğiniz en büyük istem | 100.000 token, istem ve yanıt |
| Medya | Kullandığınız resim, ses veya video özellikleri | Teklif edilmez; sadece metin |
| Embedding'ler, ince ayar | Eğer kullanıyorsanız | Teklif edilmiyor |
| Canlı web araması veya sağlayıcıya özel araçlar | Eğer bunlara bağlıysanız | Bu API'nin bir parçası değildir; dokümantasyona bakın |
Mevcut sağlayıcınıza özgü olan özellikler için kod tabanınızı gözden geçirin. Göçlerin kırıldığı yer sohbet çağrısı değil, bunlardır. Bunlardan herhangi birine bağlıysanız, o yol için eski sağlayıcıyı koruyun ve yalnızca düz metin trafiğini taşıyın.
Farklı yanıtlar bekleyin ve bunun için test yapın
Aynı istem verilen iki model farklı yazacaktır, ikisi de iyi olsa bile. Bir model için ayarlanmış istemler bazen diğerleri için küçük değişiklikler gerektirir. Bir test aşaması planlayın:
- Günlüklerinizden en zor olanları da dahil olmak üzere 30 ila 50 gerçek istem toplayın.
- Aynı ayarlarla her iki sağlayıcıya karşı çalıştırın.
- Biçim, uzunluk, reddetmeler ve gerçeklik hataları için elle veya bir puanlama betiğiyle karşılaştırın.
- Yeni model kayma gösterdiği istemleri düzeltin; genellikle biçimi ve uzunluğu daha açıkça belirterek.
import json
from openai import OpenAI
new = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="NEW_KEY")
prompts = [json.loads(l) for l in open("prompts.jsonl")]
with open("new_results.jsonl", "w") as out:
for p in prompts:
r = new.chat.completions.create(model="uncensored", messages=p["messages"], temperature=0.7)
out.write(json.dumps({"id": p["id"], "reply": r.choices[0].message.content,
"tokens": r.usage.total_tokens}) + "\n")
Yanıtları yan yana okuyun. Hangi modelin görevinize uygun olduğunu söylemesi için bir benchmark puanına güvenmeyin; kendi istekleriniz testtir. Üç şeye özel dikkat gösterin: yanıtların uzunluk sınırlarınızı takip edip etmediği, JSON çıktısının ilk denemede ayrıştırılıp ayrıştırılmadığı ve modeli ilk başta alternatif aramanıza iten hassas istemlerle nasıl başa çıktığı. Sonuç dosyasını saklayın, böylece herhangi bir sonraki değişiklikten sonra tekrar çalıştırabilirsiniz.
Maliyet: Hesaplanmış bir örnek
Buradaki oranlar 1M girdi token başına $0,15 ve 1M çıktı token başına $0,50'dir. Ürününüz bir ayda 10M girdi token ve 2M çıktı token gönderiyor diyelim.
- Giriş: 10 x $0,15 = $1,50
- Çıkış: 2 x $0,50 = $1,00
- Ay toplamı: $2,50
Mevcut sağlayıcınızla karşılaştırmak için, kendi fiyatlandırma sayfalarından yayımlanan güncel fiyatları alın ve aynı iki çarpımı yapın. Makalelerden, bu makale dahil olmak üzere, sayıları kopyalamayın, çünkü fiyatlar değişir. Faturalandırma burada, abonelik olmadan ön ödemeli kredi ile yapılır, kredi süresi dolmaz ve başarısız veya reddedilen istekler için ücret alınmaz. Yüklemeler, kripto para birimiyle (TRC20 üzerinde USDT veya Base üzerinde USDC) $20 ile $500 arasında herhangi bir tam tutardır; $50'den +5%, $100'den +10% ve $200'den +15% eklenir. Fiyatlandırma sayfasına bakın.
Nerede kalmalısınız
Adil bir karşılaştırma, ne zaman geçilmeyeceğini belirtmelidir. Bu durumlarda mevcut sağlayıcınızla kalın veya trafiğinizin bir kısmı için onu kullanmaya devam edin:
- Çok modlu girdi veya çıktıya ihtiyacınız var. Bu API sadece metin işler.
- Sağlayıcıya özgü özellikler kullanıyorsunuz, örneğin yerleşik arama veya özel araçlar. Bunlar burada yok.
- Özel bir modelin tam davranışına ihtiyacınız var. Bu farklı bir modeldir ve hiçbir ayarlama onu özdeş yapamaz.
- Hacminiz 8 eşzamanlı istekten fazlasını gerektiriyor. Taşımadan önce trafiğinizin limitlere uyup uymadığını kontrol edin.
Ana sorunlarınız yasal yetişkin içeriklerde reddetmeler, token sayılarıyla artan bir fatura veya tek bir başarısızlık noktasından kaçınma isteği olduğunda geçiş yapın veya bu uç noktayı ikinci bir rota olarak ekleyin. Çoğu ekip, küçük bir sarmalayıcının arkasına iki sağlayıcı çalıştırır: sarmalayıcı, uç noktayı göreve göre seçer ve hatalarda diğerine geçer.
import OpenAI from "openai";
const providers = [
new OpenAI({ baseURL: "https://api.uncensoredgrok.com/v1", apiKey: process.env.KEY_A }),
// add a second OpenAI-compatible client here if you want a fallback
];
export async function chat(messages) {
for (const client of providers) {
try {
const r = await client.chat.completions.create({ model: "uncensored", messages });
return r.choices[0].message.content;
} catch (err) {
if (err.status === 429 || err.status >= 500) continue;
throw err;
}
}
throw new Error("all providers failed");
}
Model adlarının sağlayıcı başına farklı olduğunu unutmayın. Gerçek bir sarmalayıcıda, model kimliğini her istemcinin yanına kaydedin.
Limitler, hatalar ve güvenli yayınlama
Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir. Bir deneme anahtarı 2 eşzamanlı ve dakikada 60 izni verir. Maksimum gövde 8 MB'tır. Yanıtlar X-Request-Id, X-Balance-USD ve hız limiti başlıkları taşır, böylece her çağrıda bakiyenizi loglayabilirsiniz.
Bir limiti aştığınızda API HTTP 429 döndürür. rate_limited hata kodu, dakika başına çok fazla istek anlamına gelir, concurrency aynı anda çok fazla istek anlamına gelir ve geçici aşırı yük Retry-After: 5 üstbilgisini ekler. Akışlı bir istek, akış bitene kadar eşzamanlılık slotunu korur, bu nedenle uzun akışlar 8 limitine sayılır. Mevcut sağlayıcınız daha yüksek eşzamanlılık izin verdiyse, bir kuyruk ekleyin.
Güvenli bir dağıtım için, yeni uç noktaya trafiğin küçük bir kısmını (örneğin %5) bir bayrak arkasından gönderin, hata oranlarını ve kullanıcı geri bildirimlerini birkaç gün boyunca izleyin, ardından kısmı artırın. Hatalar için eski sağlayıcıya bir yedek yol tutun. Bir şeyler yanlış görünüyorsa, sorun giderme kılavuzu yardımcı olabilir ve dokümantasyon her parametreyi listeler.

