สิ่งที่คุณกำลังเปลี่ยนไป
เว็บไซต์นี้ไม่ใช่ xAI และโมเดลที่รองรับไม่ใช่ Grok เป็นโมเดลแบบเปิดน้ำหนักเพียงตัวเดียวที่ให้บริการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานของผู้ใหญ่ที่ถูกต้องตามกฎหมาย เอนด์พอยต์นี้รองรับรูปแบบ API ของ OpenAI ดังนั้น SDK หรือไคลเอนต์ของ OpenAI ใดๆ จึงใช้งานได้ทันทีหลังจากเปลี่ยน Base URL และคีย์ API นี่คือสิ่งที่ทำให้เป็นทางเลือกที่ใช้งานได้จริงสำหรับนักพัฒนาที่ต้องการย้ายระบบด้วยการเปลี่ยนแปลงโค้ดเพียงเล็กน้อย
เหตุผลที่ผู้คนมองหาทางเลือกแทนอาจแตกต่างกันไป: ค่าใช้จ่าย, การปฏิเสธเนื้อหาในนวนิยายหรืองานวิจัยที่ถูกต้อง, ขีดจำกัดอัตรา, หรือต้องการกระจายความเสี่ยงไปยังผู้ให้บริการสองราย ไม่ว่าเหตุผลของคุณจะเป็นอย่างไร ให้ถือว่าการย้ายครั้งนี้เป็นการเปลี่ยนโมเดล รูปแบบ API ยังคงคุ้นเคย แต่คำตอบจะแตกต่างกัน สำหรับข้อมูลพื้นฐานเกี่ยวกับพฤติกรรมของ Grok กับเนื้อหาที่ละเอียดอ่อน ดูที่ is Grok AI censored และสำหรับด้านนักพัฒนาของ API ดั้งเดิม ดูที่ Grok API for developers
ขีดจำกัดแข็ง: เนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ไม่อนุญาตที่นี่เลย ไม่ว่าในบริบทใด
การย้ายแบบแก้ไขสามครั้ง
หากแอปของคุณใช้รูปแบบ SDK ของ OpenAI ให้เปลี่ยนค่าสามค่าเหล่านี้
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1", # was your current provider's URL
api_key="YOUR_KEY", # new key from this site
)
resp = client.chat.completions.create(
model="uncensored", # was your current model name
messages=[
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Summarize the plot of Hamlet in three sentences."},
],
)
print(resp.choices[0].message.content)
สิ่งเดียวกันนี้ใช้งานได้ใน Node.js โดยส่ง baseURL และ apiKey ไปยังคอนสตรัคเตอร์ไคลเอนต์ และใน curl โดยใช้หัวข้อความ Authorization: Bearer:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer YOUR_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Hello"}]}'
เมธอดที่รองรับคือ POST /v1/chat/completions, POST /v1/responses และ GET /v1/models รับคีย์ API ของคุณจาก หน้าคีย์ API
รายการตรวจสอบ: สิ่งที่ต้องตรวจสอบก่อนการสลับไปใช้ระบบใหม่
| พื้นที่ | ตรวจสอบ | ที่นี่ |
|---|---|---|
| แชทและการตอบกลับ | เอนด์พอยต์ที่คุณเรียกใช้งาน | รองรับการตอบกลับแชท |
| สตรีมมิง | SSE พร้อมข้อมูลการใช้งานที่ส่วนท้าย | ใช่, โดยใช้ stream: true |
| การเรียกใช้เครื่องมือ | เครื่องมือ, การเลือกเครื่องมือ, การเรียกใช้เครื่องมือแบบสตรีมมิง | รองรับ; ผลลัพธ์จะส่งกลับเป็น role: "tool" |
| ผลลัพธ์ที่มีโครงสร้าง | โหมด JSON | รองรับรูปแบบการตอบกลับ json_object |
| การสุ่มตัวอย่าง | temperature, top_p, stop, seed, การลงโทษ | ส่งผ่าน |
| บริบท | พรอมต์ขนาดสูงสุดที่คุณส่ง | 100,000 โทเคน ผลรวมของพรอมต์และการตอบกลับ |
| สื่อ | คุณสมบัติภาพ, เสียง หรือวิดีโอที่คุณใช้งาน | ไม่มีการให้บริการ; รองรับเฉพาะข้อความ |
| การฝังตัว, การปรับแต่งละเอียด | หากคุณใช้งาน | ไม่มีการให้บริการ |
| การค้นหาเว็บแบบเรียลไทม์หรือเครื่องมือเฉพาะผู้ให้บริการ | หากคุณพึ่งพา | ไม่ใช่ส่วนหนึ่งของ API นี้; ดูเอกสารประกอบ |
ตรวจสอบโค้ดของคุณสำหรับฟีเจอร์ที่เฉพาะเจาะจงกับผู้ให้บริการรายปัจจุบันของคุณ จุดเหล่านี้คือจุดที่การย้ายระบบอาจล้มเหลว ไม่ใช่การเรียกแชท หากขึ้นอยู่กับฟีเจอร์เหล่านั้น ให้ใช้ผู้ให้บริการรายเดิมสำหรับเส้นทางนั้น และย้ายเฉพาะการจราจรข้อความธรรมดา
คาดหวังคำตอบที่แตกต่างกัน และทดสอบเพื่อตรวจสอบ
โมเดลสองตัวที่ได้รับพรอมต์เดียวกันจะเขียนแตกต่างกัน แม้ทั้งคู่จะทำงานได้ดี พรอมต์ที่ปรับแต่งสำหรับโมเดลหนึ่งอาจต้องการการเปลี่ยนแปลงเล็กน้อยสำหรับอีกโมเดลหนึ่ง วางแผนสำหรับการทดสอบ:
- รวบรวมพรอมต์จริง 30 ถึง 50 รายการจากบันทึกของคุณ รวมถึงพรอมต์ที่ยากที่สุดของคุณ
- เรียกใช้พรอมต์เหล่านั้นกับผู้ให้บริการทั้งสองโดยใช้การตั้งค่าเดียวกัน
- เปรียบเทียบด้วยตนเองหรือด้วยสคริปต์การให้คะแนนสำหรับรูปแบบ ความยาว การปฏิเสธ และข้อผิดพลาดทางข้อเท็จจริง
- แก้ไขพรอมต์ที่โมเดลใหม่มีความเบี่ยงเบน โดยปกติโดยการระบุรูปแบบและความยาวให้ชัดเจนยิ่งขึ้น
import json
from openai import OpenAI
new = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="NEW_KEY")
prompts = [json.loads(l) for l in open("prompts.jsonl")]
with open("new_results.jsonl", "w") as out:
for p in prompts:
r = new.chat.completions.create(model="uncensored", messages=p["messages"], temperature=0.7)
out.write(json.dumps({"id": p["id"], "reply": r.choices[0].message.content,
"tokens": r.usage.total_tokens}) + "\n")
อ่านการตอบกลับเคียงข้างกัน อย่าพึ่งพาตัวเลขจากเบนช์มาร์กเพื่อระบุโมเดลที่เหมาะกับงานของคุณ; พรอมต์ของคุณเองคือตัวทดสอบ ให้ใส่ใจเป็นพิเศษกับสามสิ่ง: การตอบกลับปฏิบัติตามขีดจำกัดความยาวของคุณหรือไม่, การเอาต์พุต JSON พาร์สได้ในการลองครั้งแรกหรือไม่, และโมเดลจัดการกับพรอมต์ที่ละเอียดอ่อนที่ผลักดันให้คุณมองหาทางเลือกอื่นอย่างไร เก็บไฟล์ผลลัพธ์ไว้ เพื่อที่คุณสามารถรันซ้ำได้หลังจากมีการเปลี่ยนแปลงใดๆ ในภายหลัง
ค่าใช้จ่าย: ตัวอย่างการคำนวณ
อัตราที่นี่คือ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต สมมติว่าผลิตภัณฑ์ของคุณส่ง 10M โทเคนอินพุตและ 2M โทเคนเอาต์พุตในเดือนหนึ่ง
- อินพุต: 10 x $0.15 = $1.50
- เอาต์พุต: 2 x $0.50 = $1.00
- ยอดรวมรายเดือน: $2.50
เพื่อเปรียบเทียบกับผู้ให้บริการรายปัจจุบันของคุณ ให้ใช้อัตราที่ประกาศล่าสุดจากหน้ากำหนดราคาของผู้ให้บริการรายนั้น แล้วทำการคูณสองจำนวนเดียวกันนี้ อย่าคัดลอกตัวเลขจากบทความ รวมถึงบทความนี้ เพราะราคาเปลี่ยนแปลงได้ การเรียกเก็บเงินที่นี่เป็นเครดิตแบบเติมเงินล่วงหน้า ไม่มีสมาชิก เครดิตไม่หมดอายุ และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน การเติมเงินคือจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 ในคริปโต (USDT บน TRC20 หรือ USDC บน Base) พร้อมโบนัส +5% เมื่อเติม $50, +10% เมื่อเติม $100 และ +15% เมื่อเติม $200 ดูหน้า กำหนดราคา
เมื่อใดที่คุณควรคงผู้ให้บริการรายปัจจุบันไว้
การเปรียบเทียบที่ยุติธรรมต้องระบุเมื่อไม่ควรเปลี่ยน อยู่กับผู้ให้บริการปัจจุบันของคุณ หรือใช้ผู้ให้บริการเดิมสำหรับบางส่วนของการรับส่งข้อมูลของคุณ ในกรณีเหล่านี้:
- คุณต้องการอินพุตหรือเอาต์พุตมัลติโมดัล API นี้รองรับเฉพาะข้อความ
- คุณใช้ฟีเจอร์เฉพาะของผู้ให้บริการ เช่น การค้นหาในตัวหรือเครื่องมือพิเศษ ฟีเจอร์เหล่านี้ไม่มีที่นี่
- คุณต้องการพฤติกรรมที่แน่นอนของโมเดลเฉพาะ นี่คือโมเดลที่แตกต่างกัน และการปรับแต่งใดๆ จะทำให้มันเหมือนกันไม่ได้
- ปริมาณของคุณต้องการคำขอพร้อมกันมากกว่า 8 ตรวจสอบว่าการรับส่งข้อมูลของคุณเข้ากันได้กับขีดจำกัดก่อนที่จะย้าย
เปลี่ยน หรือเพิ่มเอนด์พอยต์นี้เป็นเส้นทางที่สอง เมื่อปัญหาหลักของคุณคือการปฏิเสธเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมาย บิลที่เพิ่มขึ้นตามจำนวนโทเคน หรือความปรารถนาที่จะหลีกเลี่ยงจุดล้มเหลวเดียว ทีมงานจำนวนมากเรียกใช้ผู้ให้บริการสองรายที่อยู่เบื้องหลัง wrapper เล็กๆ: wrapper เลือกเอนด์พอยต์ตามงาน และเปลี่ยนไปใช้รายอื่นเมื่อเกิดข้อผิดพลาด
import OpenAI from "openai";
const providers = [
new OpenAI({ baseURL: "https://api.uncensoredgrok.com/v1", apiKey: process.env.KEY_A }),
// add a second OpenAI-compatible client here if you want a fallback
];
export async function chat(messages) {
for (const client of providers) {
try {
const r = await client.chat.completions.create({ model: "uncensored", messages });
return r.choices[0].message.content;
} catch (err) {
if (err.status === 429 || err.status >= 500) continue;
throw err;
}
}
throw new Error("all providers failed");
}
จำไว้ว่าชื่อบางโมเดลแตกต่างกันไปตามผู้ให้บริการ ใน wrapper จริง ให้เก็บโมเดล ID ไว้ถัดจากไคลเอนต์แต่ละตัว
ขีดจำกัด ข้อผิดพลาด และการปรับใช้ที่ปลอดภัย
คีย์เต็มรูปแบบอนุญาตให้ทำคำขอพร้อมกัน 8 รายการและ 300 คำขอต่อนาที คีย์ทดลองอนุญาตให้ทำคำขอพร้อมกัน 2 รายการและ 60 รายการต่อนาที ขนาดสูงสุดของ body คือ 8 MB การตอบสนองมี X-Request-Id, X-Balance-USD และส่วนหัวขีดจำกัดอัตรา เพื่อให้คุณสามารถบันทึกยอดคงเหลือของคุณในการเรียกใช้ทุกครั้ง
เมื่อคุณเกินขีดจำกัด API จะส่ง HTTP 429 รหัสข้อผิดพลาด rate_limited หมายถึงคำขอมากเกินไปต่อนาที concurrency หมายถึงคำขอมากเกินไปในเวลาเดียวกัน และการโอเวอร์โหลดชั่วคราวเพิ่มส่วนหัว Retry-After: 5 คำขอสตรีมมิงจะคงช่องคำขอพร้อมกันไว้จนกว่าสตรีมจะสิ้นสุด ดังนั้นสตรีมที่ยาวจึงนับรวมในจำนวน 8 หากผู้ให้บริการปัจจุบันของคุณอนุญาตให้มีความพร้อมกันที่สูงกว่า ให้เพิ่มคิว
สำหรับการปรับใช้ที่ปลอดภัย ให้ส่งการรับส่งข้อมูลส่วนน้อย (เช่น 5%) ไปยังเอนด์พอยต์ใหม่ที่อยู่เบื้องหลังแฟลก ตรวจสอบอัตราข้อผิดพลาดและคำติชมของผู้ใช้เป็นเวลาหลายวัน จากนั้นเพิ่มส่วนแบ่ง รักษาการเปลี่ยนเส้นทางสำรองไปยังผู้ให้บริการเก่าสำหรับข้อผิดพลาด หากมีบางอย่างดูผิดปกติ คู่มือการแก้ไขปัญหา อาจช่วยได้ และ เอกสาร ระบุพารามิเตอร์ทั้งหมด

