आपको क्या मिल रहा है, और आपको क्या नहीं मिल रहा है
आइए पहले सटीकता से बात करें, क्योंकि साइट का नाम भ्रमित कर सकता है। यह xAI या Grok की आधिकारिक API नहीं है। यह एक ओपन-वेट मॉडल के सामने होस्ट की गई API है, जिसे एक स्वतंत्र प्रदाता द्वारा चलाया जाता है और कानूनी वयस्क उपयोग के लिए बिना सेंसर जवाब देने के लिए ट्यून किया गया है। यह कई विक्रेताओं के बीच एक राउटर भी नहीं है। यदि आपको xAI के अपने मॉडल चाहिए, तो xAI पर जाएं और उनकी वर्तमान शर्तें और मूल्य देखें।
यह एक सादे डेवलपर वर्कफ़्लो के लिए उपयोगी है। API OpenAI चैट कंप्लीशन फॉर्मेट का उपयोग करता है, इसलिए आपके द्वारा पहले से उपयोग किए जाने वाले क्लाइंट लाइब्रेरी काम करती रहती हैं। आपको दो मान बदलने होते हैं, बेस URL और कुंजी, और मॉडल ID के रूप में uncensored पास करें। दो एंडपॉइंट मौजूद हैं: POST /v1/chat/completions और GET /v1/models। प्रमाणीकरण एक मानक Authorization: Bearer हेडर है।
सर्विस केवल टेक्स्ट के लिए है। कोई इमेज, ऑडियो या वीडियो जनरेशन नहीं, न एम्बेडिंग और न फाइन-ट्यूनिंग। कॉन्टेक्स्ट विंडो 100,000 टोकन की है, जो प्रॉम्प्ट और कंप्लीशन दोनों को मिलाकर गिनी जाती है, और max_tokens वैकल्पिक है। एक सख्त सामग्री सीमा है: नाबालिगों के साथ यौन सामग्री वाली कोई भी चीज़, कभी भी नहीं।
यदि यह मेल खाता है कि आप क्या बना रहे हैं, तो इस पेज का शेष भाग उन विवरणों को कवर करता है जो डेवलपर पूछते हैं: पहला अनुरोध, स्ट्रीमिंग, संरचित आउटपुट, टूल्स, लिमिट और लागत।
आपका पहला अनुरोध
API कुंजी पृष्ठ से खाता बनाएं, कुंजी कॉपी करें और अनुरोध भेजें। साइन-अप Google या ईमेल और पासवर्ड से होता है। नए उपयोगकर्ता उस पृष्ठ पर एक क्लिक से $0.50 का मुफ़्त ट्रायल क्रेडिट प्राप्त कर सकते हैं, एक व्यक्ति के लिए एक बार, जो सात दिनों के लिए मान्य है। ट्रायल कुंजी पूर्ण कुंजी की तुलना में कम सीमाओं के तहत चलती है: 2 समानांतर अनुरोध और प्रति मिनट 60 अनुरोध।
curl के साथ शुरू करें, क्योंकि यह हर अन्य चर को हटा देता है:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain idempotency keys in two sentences."}
]
}'
आधिकारिक Python SDK के साथ वही कॉल:
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain idempotency keys in two sentences."}],
temperature=0.7,
)
print(resp.choices[0].message.content)
GET /v1/models पर एक कॉल एक सस्ता तरीका है यह जांचने का कि आपकी कुंजी और बेस URL सही हैं, इससे पहले कि आप कुछ और डिबग करें। हर रिस्पॉन्स में हेडर X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests और X-RateLimit-Limit-Concurrency होते हैं। अपने स्वयं के लॉग के साथ रिक्वेस्ट ID लॉग करें, और यदि आप बिना निगरानी वाले जॉब चला रहे हैं तो बैलेंस हेडर पर नज़र रखें।
temperature, top_p, stop, seed जैसे सैंपलिंग पैरामीटर और फ्रीक्वेंसी व प्रेजेंस पेनाल्टी मॉडल को पास की जाती हैं। पूर्ण पैरामीटर नोट्स दस्तावेज़ पृष्ठ पर उपलब्ध हैं।
स्ट्रीमिंग
stream: true सेट करें और प्रतिक्रिया सर्वर-सेंट इवेंट्स के रूप में आती है, प्रत्येक टोकन समूह के लिए एक चंक, और स्ट्रीम के अंत में उपयोग की रिपोर्ट की जाती है। एक चैट इंटरफ़ेस के लिए यह प्रतीक्षा करने वाली स्क्रीन और टाइप करने वाली स्क्रीन के बीच का अंतर है।
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\ntokens:", chunk.usage)
Node में पैटर्न वही है:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredgrok.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a haiku about retries." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
कैपेसिटी प्लानिंग के लिए एक विवरण महत्वपूर्ण है। एक स्ट्रीम किए गए अनुरोध में अपना कॉन्करेंसी स्लॉट स्ट्रीम खत्म होने तक बनी रहती है। यदि एक क्लाइंट एक स्ट्रीम खोलता है और फिर रुक जाता है, तो वह स्लॉट व्यस्त रहता है, इसलिए उन स्ट्रीम को बंद करें जिन्हें आप अब नहीं पढ़ रहे हैं।
JSON मोड और टूल कॉलिंग
संरचित आउटपुट के लिए, response_format को json_object टाइप के साथ पास करें। प्रॉम्प्ट में भी कहें कि आपको JSON चाहिए, और उन कुंजियों के नाम दें जिनकी आप उम्मीद कर रहे हैं। JSON मोड मॉडल को पार्स करने योग्य टेक्स्ट उत्पन्न करने में मदद करता है, लेकिन आपको अभी भी अपने कोड में परिणाम का सत्यापन करनी चाहिए और विफल पार्स को संभालना चाहिए।
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Summarize: a guide to rate limiting for API clients."},
],
)
import json
data = json.loads(resp.choices[0].message.content)
टूल कॉलिंग
टूल कॉलिंग OpenAI के प्रारूप का अनुसरण करती है। आप tools और वैकल्पिक रूप से tool_choice भेजते हैं। मॉडल tool_calls के साथ जवाब देता है, आप फ़ंक्शन चलाते हैं, और आप role: "tool" के साथ एक संदेश के रूप में परिणाम वापस भेजते हैं। टूल कॉल भी स्ट्रीम हो सकते हैं।
import json
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
आर्ग्युमेंट स्ट्रिंग को हमेशा सुरक्षित तरीके से पार्स करें। मॉडल कभी-कभी ऐसे आर्ग्युमेंट लौटाते हैं जो मान्य JSON नहीं होते हैं, और json.loads के आसपास एक रीट्राई के साथ try/except लगाना सस्ता बीमा है।
रेट लिमिट, 429 और रीट्राइज़
एक पूर्ण कुंजी 8 समानांतर अनुरोध और प्रति मिनट 300 अनुरोध की अनुमति देती है। एक ट्रायल कुंजी 2 और 60 की अनुमति देती है। अधिकतम अनुरोध बॉडी 8 MB है। जब आप एक सीमा से अधिक होते हैं तो आपको HTTP 429 मिलता है, और त्रुटि कोड आपको बताता है कि कौन सी सीमा: rate_limited का अर्थ है प्रति मिनट बहुत सारे अनुरोध, concurrency का अर्थ है एक साथ बहुत सारे अनुरोध। अस्थायी ओवरलोड पर API 429 भी Retry-After: 5 हेडर के साथ लौटाता है।
इससे आपको एक सरल रीट्राई नियम मिलता है: 429 पर, यदि उपस्थित हो तो Retry-After के लिए प्रतीक्षा करें, अन्यथा जिटर के साथ एक्सपोनेंशियल बैकऑफ़ लगाएं और प्रयासों को सीमित करें।
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY", max_retries=0)
def ask(messages, attempts=5):
for i in range(attempts):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = float(e.response.headers.get("Retry-After", 2 ** i))
time.sleep(wait + random.random())
raise RuntimeError("still rate limited")
यदि आप बैच जॉब्स चलाते हैं, तो एक पूर्ण कुंजी पर अपने वर्कर पूल को 8 पर सीमित करें। आठ वर्कर, जिनमें से प्रत्येक एक अनुरोध रखता है, वह सीमा है, और एक नौवां वर्कर केवल concurrency कोड वाली 429 त्रुटियाँ ही देगा। विफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए रीट्राई करने से आपको पैसे नहीं खर्च करने पड़ते।
प्रोडक्शन में समय बचाने की आदतें
पहला अनुरोध काम करने के बाद कुछ प्रथाएँ जल्दी फायदा पहुँचाती हैं। कुंजी को एनवायरनमेंट वेरिएबल या सीक्रेट्स मैनेजर में स्टोर करें, और प्रत्येक एनवायरनमेंट को अपनी कुंजी दें ताकि आप एक को रोटेट कर सकें बिना अन्य को छुए। अपने ट्रेस आईडी के बगल में X-Request-Id मान को लॉग करें; यदि प्रतिक्रिया में कुछ गलत दिखे, तो वह आईडी वह चीज़ है जिसे उद्धृत करना है।
क्लाइंट पर टाइमआउट सेट करें। बड़ी कम्पलीशन की अनुमति देने पर लंबी जनरेशन सामान्य है, इसलिए एक टाइमआउट चुनें जो आपके सबसे लंबे अपेक्षित उत्तर के अनुकूल हो, और किसी भी चीज़ के लिए जिस पर व्यक्ति प्रतीक्षा कर रहा है, स्ट्रीमिंग का उपयोग करें। यूजर-फेसिंग पाथ में max_tokens को कैप करें, भले ही पैरामीटर वैकल्पिक हो, क्योंकि कैप लेटेंसी और खर्च दोनों पर छत लगाता है।
आप जो कनवर्सेशन हिस्ट्री भेजते हैं उसे नियंत्रण में रखें। विंडो 100,000 टोकन की है, लेकिन इनपुट हर कॉल पर बिल किया जाता है, इसलिए पुराने टर्न्स को काटना या उन्हें सारांशित करना आपकी सबसे सस्ती ऑप्टिमाइज़ेशन है। अंत में, अपने सैम्पलिंग सेटिंग्स को पिन करें। seed को स्थिर टेम्परेचर के साथ सेट करने से आपको प्रॉम्प्ट वेरिएंट्स की तुलना करते समय अधिक दोहराए जाने योग्य रन मिलते हैं, हालाँकि आपको इसे समान आउटपुट की गारंटी के रूप में नहीं मानना चाहिए।
इसकी लागत
मूल्य निर्धारण $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है, प्रीपेड क्रेडिट से। कोई सब्सक्रिप्शन नहीं है और क्रेडिट कभी समाप्त नहीं होता है। एक उदाहरण इसे स्पष्ट बनाता है। एक अनुरोध लें जिसमें 2,000 इनपुट टोकन और 500 आउटपुट टोकन हैं:
- इनपुट: 2,000 / 1,000,000 × $0.15 = $0.0003
- आउटपुट: 500 / 1,000,000 × $0.50 = $0.00025
- कुल: $0.00055 प्रति अनुरोध, इसलिए 1,000 ऐसे अनुरोधों की लागत $0.55 है।
$0.50 का ट्रायल क्रेडिट इसलिए उस आकार के लगभग 900 अनुरोधों को कवर करता है। टॉप-अप $20 से $500 तक किसी भी पूर्ण राशि में चलते हैं, $50 से 5% बोनस, $100 से 10% और $200 से 15% मिलता है। उदाहरण के लिए, $100 का टॉप-अप $110 क्रेडिट करता है। भुगतान इस साइट पर केवल क्रिप्टो से होता है: TRC20 पर USDT या Base पर USDC। मूल्य निर्धारण पेज पर वर्तमान तालिका है।
प्रॉम्प्ट्स को प्रशिक्षण के लिए उपयोग नहीं किया जाता है। यदि आप इसे किसी अन्य एंडपॉइंट के साथ तुलना कर रहे हैं, तो प्रति टोकन भुगतान और 100k कॉन्टेक्स्ट विंडो पर मौजूदा लेख कवर करता है कि लंबी बातचीत में मीटरिंग कैसे व्यवहार करती है।
जब कोई अन्य विकल्प बेहतर फिट बैठता है
फिट के बारे में ईमानदार रहें। यदि आपको इमेज जनरेशन, एम्बेडिंग्स, स्पीच या फाइन-ट्यून्ड मॉडल की आवश्यकता है, तो यह API उन्हें प्रदान नहीं करता है। यदि आपका अनुबंध या अनुपालन टीम एक फर्स्ट-पार्टी वेंडर की मांग करती है, तो उस वेंडर का उपयोग करें। यदि आपको किसी विशिष्ट लैब से गारंटीड मॉडल पहचान की आवश्यकता है, तो यह गलत उत्पाद है, क्योंकि यह एक स्वतंत्र प्रदाता से एकल ओपन-वेट मॉडल चलाता है।
जहाँ यह फिट होता है, वह एक ऐप्लिकेशन है जो पहले से OpenAI प्रोटोकॉल बोलता है और एक टेक्स्ट मॉडल की आवश्यकता है जो वयस्कों के कानूनी अनुरोधों का बिना अस्वीकार किए उत्तर दे: लिखने के उपकरण, वयस्कों के लिए रोलप्ले और कंपैनियन ऐप्स, कठिन विषयों को छूने वाले डेटा लेबलिंग, और टेस्ट हार्नेस। क्रेडिट कमिट करने से पहले अपने मौजूदा क्लाइंट को नए बेस URL पर पॉइंट करें और अपने प्रॉम्प्ट्स पर आउटपुट की तुलना करें।
