สิ่งที่คุณได้รับ และสิ่งที่คุณไม่ได้
ขออธิบายให้ชัดเจนก่อน เพราะชื่อเว็บไซต์อาจทำให้เข้าใจผิด นี่ไม่ใช่ API ทางการของ xAI หรือ Grok แต่เป็น API ที่โฮสต์ไว้หน้าโมเดลแบบเปิดน้ำหนักหนึ่งตัว ซึ่งให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบโดยไม่มีข้อจำกัดเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย ไม่ใช่ตัวกระจายคำขอไปยังผู้ขายหลายราย หากคุณต้องการโมเดลของ xAI โดยตรง ให้ไปที่ xAI และตรวจสอบข้อกำหนดและราคาปัจจุบันของพวกเขา
สิ่งที่ API นี้เหมาะสำหรับคือเวิร์กโฟลว์ของนักพัฒนาแบบตรงไปตรงมา API รองรับรูปแบบการตอบกลับแบบแชทของ OpenAI ดังนั้นไลบรารีไคลเอนต์ที่คุณใช้อยู่แล้วจึงใช้งานได้ต่อ คุณเปลี่ยนค่าสองค่าคือ base URL และคีย์ แล้วส่ง uncensored เป็นโมเดล ID มีเอนด์พอยต์สองจุด: POST /v1/chat/completions และ GET /v1/models การตรวจสอบสิทธิ์ใช้เฮดเดอร์มาตรฐาน Authorization: Bearer
บริการนี้รองรับเฉพาะข้อความ ไม่มีสร้างภาพ เสียง หรือวิดีโอ ไม่มี embeddings และไม่มี fine-tuning หน้าต่างบริบทมีขนาด 100,000 โทเคน นับรวมพรอมต์และ completion พร้อมกัน และ max_tokens เป็นค่าไม่บังคับ มีข้อจำกัดเนื้อหาเพียงข้อเดียว: ห้ามมีเนื้อหาที่เกี่ยวข้องกับเด็กอายุต่ำกว่าเกณฑ์ (minors) ในบริบททางเพศ โดยไม่มีข้อยกเว้น
หากสิ่งนี้ตรงกับสิ่งที่กำลังพัฒนาอยู่ หน้าเว็บส่วนที่เหลือจะครอบคลุมรายละเอียดที่ผู้พัฒนามักถามถึง: คำขอแรก สตรีมมิง ผลลัพธ์ที่มีโครงสร้าง เครื่องมือ ขีดจำกัด และต้นทุน
คำขอครั้งแรกของคุณ
สร้างบัญชีจาก หน้าคีย์ API คัดลอกคีย์ และส่งคำขอ การสมัครใช้งานทำได้ผ่าน Google หรืออีเมลและรหัสผ่าน ผู้ใช้ใหม่สามารถขอเครดิตทดลองใช้ $0.50 ได้ด้วยคลิกเดียวที่หน้านั้น คนละหนึ่งครั้ง ใช้ได้เป็นเวลาเจ็ดวัน คีย์ทดลองใช้ทำงานภายใต้ขีดจำกัดที่ต่ำกว่าคีย์เต็ม: คำขอพร้อมกัน 2 คำขอ และ 60 คำขอต่อนาที
เริ่มด้วย curl เพราะจะตัดตัวแปรอื่นๆ ออกไป:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain idempotency keys in two sentences."}
]
}'
การเรียกใช้เดียวกันด้วย SDK มาตรฐานของ Python:
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain idempotency keys in two sentences."}],
temperature=0.7,
)
print(resp.choices[0].message.content)
การเรียก GET /v1/models เป็นวิธีที่ถูกในการตรวจสอบว่าคีย์และ base URL ของคุณถูกต้องหรือไม่ ก่อนที่จะดีบักอย่างอื่น การตอบกลับทุกฉบับมีเฮดเดอร์ X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests และ X-RateLimit-Limit-Concurrency บันทึก ID คำขอพร้อมกับบันทึกของคุณ และตรวจสอบเฮดเดอร์ยอดเงินหากคุณรันงานแบบไม่มีการดูแล
พารามิเตอร์การสุ่มตัวอย่างเช่น temperature, top_p, stop, seed และค่าปรับความถี่และการปรากฏจะถูกส่งต่อไปยังโมเดล บันทึกย่อพารามิเตอร์เต็มมีอยู่ใน หน้าเอกสารประกอบ
สตรีมมิง
ตั้งค่า stream: true และการตอบกลับจะมาถึงในรูปแบบ server-sent events โดยส่งข้อมูลทีละกลุ่มโทเคน พร้อมรายงานการใช้งานที่ท้ายสตรีม สำหรับอินเทอร์เฟซแชท นี่คือความแตกต่างระหว่างหน้าจอที่รอคอย และหน้าจอที่พิมพ์ข้อความออกมา
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\ntokens:", chunk.usage)
ใน Node รูปแบบเหมือนกัน:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredgrok.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a haiku about retries." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
รายละเอียดหนึ่งอย่างสำคัญสำหรับการวางแผนความจุ คำขอแบบสตรีมจะยึดช่อง concurrent ไว้จนกว่าสตรีมจะสิ้นสุด หากไคลเอนต์เปิดสตรีมแล้วหยุดทำงาน ช่องนั้นจะยังคงถูกใช้งานอยู่ ดังนั้นให้ปิดสตรีมที่คุณไม่ได้ติดตามอ่านแล้ว
โหมด JSON และการเรียกใช้ฟังก์ชัน
สำหรับผลลัพธ์ที่มีโครงสร้าง ให้ส่ง response_format พร้อมชนิด json_object นอกจากนี้ ให้ระบุในพรอมต์ว่าคุณต้องการ JSON และระบุชื่อคีย์ที่คุณคาดหวัง โหมด JSON ช่วยให้โมเดลสร้างข้อความที่อ่านค่าได้ แต่คุณควรตรวจสอบผลลัพธ์ในโค้ดของคุณและจัดการกรณีการอ่านค่าล้มเหลว
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Summarize: a guide to rate limiting for API clients."},
],
)
import json
data = json.loads(resp.choices[0].message.content)
การเรียกใช้ฟังก์ชัน
การเรียกใช้ฟังก์ชัน (function calling) รองรับรูปแบบของ OpenAI คุณส่ง tools และตัวเลือก tool_choice โมเดลตอบกลับด้วย tool_calls คุณเรียกใช้ฟังก์ชัน แล้วส่งผลลัพธ์กลับเป็นข้อความด้วย role: "tool" การเรียกใช้ฟังก์ชันสามารถสตรีมได้
import json
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
ควรแยกวิเคราะห์สตริงอาร์กิวเมนต์อย่างระมัดระวังเสมอ โมเดลอาจส่งอาร์กิวเมนต์ที่ไม่ใช่ JSON ที่ถูกต้อง การครอบ json.loads ด้วย try/except พร้อมลองใหม่หนึ่งครั้งถือเป็นประกันที่คุ้มค่า
ขีดจำกัดอัตรา การตอบกลับ 429 และการลองใหม่
คีย์แบบเต็มอนุญาตให้คำขอพร้อมกัน 8 คำขอ และ 300 คำขอต่อนาที คีย์ทดลองอนุญาตให้ 2 และ 60 ตามลำดับ ขนาดสูงสุดของ body คำขอคือ 8 MB เมื่อคุณเกินขีดจำกัด คุณจะได้รับ HTTP 429 และ รหัสข้อผิดพลาดจะบอกคุณว่าเกินขีดจำกัดใด: rate_limited หมายถึงคำขอเกินต่อนาที, concurrency หมายถึงคำขอเกินพร้อมกัน เมื่อโหลดเกินชั่วคราว API จะส่ง 429 พร้อม header Retry-After: 5
นั่นคือกฎการลองใหม่แบบง่าย: เมื่อได้ 429 ให้รอ Retry-After หากมีอยู่ มิฉะนั้นให้ถอยหลังแบบเอกซ์โพเนนเชียลพร้อม jitter และจำกัดจำนวนครั้ง
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY", max_retries=0)
def ask(messages, attempts=5):
for i in range(attempts):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = float(e.response.headers.get("Retry-After", 2 ** i))
time.sleep(wait + random.random())
raise RuntimeError("still rate limited")
หากคุณทำงานแบบแบทช์ ให้จำกัดจำนวน worker pool ที่ 8 สำหรับคีย์แบบเต็ม worker แปดตัวที่ยึดคำขอคนละหนึ่งคำขอคือขีดจำกัดสูงสุด และworker ตัวที่เก้าจะเพียงได้รับ 429 ด้วย code concurrency คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน ดังนั้นการลองใหม่จึงไม่เสียเงิน
วิธีการที่ช่วยประหยัดเวลาในสภาพแวดล้อมการผลิต
แนวทางปฏิบัติไม่กี่อย่างให้ผลตอบแทนเร็วหลังจากคำขอแรกทำงานได้ เก็บคีย์ในตัวแปรสภาพแวดล้อมหรือตัวจัดการความลับ และให้แต่ละสภาพแวดล้อมมีคีย์ของตัวเอง เพื่อให้คุณสามารถหมุนเวียนคีย์หนึ่งโดยไม่กระทบตัวอื่น จดบันทึกค่า X-Request-Id ควบคู่ไปกับ trace ID ของคุณ หากมีบางอย่างผิดปกติในการตอบกลับ ID นั้นคือสิ่งที่ควรอ้างอิง
ตั้งค่าเวลาหมดอายุ (timeout) ฝั่งไคลเอนต์ การสร้างข้อความยาวๆ เป็นเรื่องปกติเมื่ออนุญาต completion ขนาดใหญ่ จึงเลือก timeout ที่เหมาะกับคำตอบที่ยาวที่สุด และใช้ streaming สำหรับสิ่งที่ผู้ใช้รอ จำกัดค่า max_tokens ในเส้นทางที่แสดงต่อผู้ใช้แม้พารามิเตอร์นี้จะไม่บังคับก็ตาม เพราะการจำกัดจะกำหนดเพดานความหน่วง และการใช้จ่าย
รักษาประวัติการสนทนาที่คุณส่งให้ควบคุมได้ หน้าต่างบริบทมีขนาด 100,000 โทเคน แต่การป้อนข้อมูลจะถูกคิดเงินในทุกคำขอ ดังนั้นการตัดรอบเก่าออกหรือสรุปความจึงเป็นการปรับแต่งที่คุ้มค่าที่สุด สุดท้าย ตรึงการตั้งค่าการสุ่มตัวอย่าง การตั้งค่า seed ร่วมกับอุณหภูมิคงที่ จะให้ผลลัพธ์ที่ซ้ำกันได้มากขึ้นเมื่อเปรียบเทียบความแตกต่างของพรอมต์ แม้ว่าคุณไม่ควรถือว่ามันเป็นการรับประกันผลลัพธ์ที่เหมือนกันทุกประการ
ต้นทุน
ราคาอยู่ที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต จากเครดิตแบบเติมเงินล่วงหน้า ไม่มีการสมัครสมาชิก และเครดิตไม่หมดอายุ ตัวอย่างการคำนวณทำให้เห็นภาพชัดเจน นำคำขอที่มี 2,000 โทเคนอินพุต และ 500 โทเคนเอาต์พุต:
- อินพุต: 2,000 / 1,000,000 x $0.15 = $0.0003
- เอาต์พุต: 500 / 1,000,000 x $0.50 = $0.00025
- รวม: $0.00055 ต่อคำขอ ดังนั้นคำขอขนาดนั้น 1,000 คำขอจะมีค่าใช้จ่าย $0.55
เครดิตทดลองใช้ $0.50 จึงครอบคลุมคำขอขนาดนั้นประมาณ 900 คำขอ การเติมเงินเริ่มต้นที่ $20 ถึง $500 ในจำนวนเต็มใดๆ พร้อมโบนัส 5% จาก $50, 10% จาก $100 และ 15% จาก $200 ตัวอย่างเช่น การเติมเงิน $100 จะได้รับเครดิต $110 การชำระเงินเป็น crypto เท่านั้นบนเว็บไซต์นี้: USDT บน TRC20 หรือ USDC บน Base ตารางราคาปัจจุบันอยู่ที่ หน้าราคา
พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล หากคุณกำลังเปรียบเทียบสิ่งนี้กับเอนด์พอยต์อื่น บทความที่มีอยู่เกี่ยวกับ การจ่ายตามโทเคนและหน้าต่างบริบท 100k อธิบายพฤติกรรมการนับการใช้งานในบทสนทนาที่ยาว
เมื่อตัวเลือกอื่นเหมาะสมกว่า
ประเมินความเหมาะสมอย่างตรงไปตรงมา หากคุณต้องการการสร้างภาพ การสร้าง embeddings การพูด หรือโมเดลที่ปรับแต่งเฉพาะทาง API นี้ไม่มีให้บริการ หากคุณมีทีมสัญญาหรือทีมปฏิบัติตามกฎระเบียบที่ต้องการผู้ให้บริการโดยตรง (first-party) ให้ใช้ผู้ขายรายนั้น หากคุณต้องการความมั่นใจในตัวตนของโมเดลจากแล็บเฉพาะ นี่คือผลิตภัณฑ์ที่ไม่ถูกต้อง เนื่องจากบริการนี้ใช้โมเดลแบบเปิดน้ำหนักเพียงโมเดลเดียวจากผู้ให้บริการอิสระ
จุดที่ API นี้เหมาะสมคือแอปพลิเคชันที่สื่อสารด้วยโปรโตคอล OpenAI อยู่แล้ว และต้องการโมเดลข้อความที่ตอบคำขอผู้ใหญ่ที่ถูกต้องตามกฎหมายโดยไม่ปฏิเสธ: เครื่องมือเขียนงาน แอปบทบาทสมมติและแอปเพื่อนสำหรับผู้ใหญ่ การติดป้ายกำกับข้อมูลที่แตะต้องหัวข้อยากๆ และชุดทดสอบต่างๆ ชี้ไคลเอนต์ที่มีอยู่ของคุณไปยัง Base URL ใหม่และเปรียบเทียบผลลัพธ์บนพรอมต์ของคุณเองก่อนตัดสินใจเติมเครดิต
