Những gì bạn nhận được và những gì bạn không nhận được
Hãy chính xác ngay từ đầu, vì tên trang web có thể gây hiểu lầm. Đây không phải là API chính thức của xAI hoặc của Grok. Đây là một API được lưu trữ phía trước một mô hình trọng số mở, do một nhà cung cấp độc lập vận hành và được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người lớn hợp pháp. Nó cũng không phải là bộ định tuyến giữa nhiều nhà cung cấp. Nếu bạn cần các mô hình của riêng xAI, hãy truy cập xAI và kiểm tra các điều khoản và giá cả hiện tại của họ.
Điểm mạnh của nó là quy trình làm việc của nhà phát triển đơn giản. API sử dụng định dạng chat completions của OpenAI, vì vậy các thư viện client bạn đã dùng vẫn hoạt động. Bạn chỉ cần thay đổi hai giá trị, đó là base URL và khóa API, rồi truyền uncensored làm model ID. Có hai endpoint: POST /v1/chat/completions và GET /v1/models. Xác thực sử dụng tiêu đề Authorization: Bearer tiêu chuẩn.
Dịch vụ chỉ hỗ trợ văn bản. Không có tạo hình ảnh, âm thanh hoặc video, không có embedding và không có fine-tuning. Cửa sổ ngữ cảnh là 100.000 token, được tính trên cả prompt và completion cùng nhau, và max_tokens là tùy chọn. Có một giới hạn nội dung cứng: không có gì liên quan đến nội dung tình dục với người chưa thành niên, bao giờ cũng vậy.
Nếu điều đó phù hợp với những gì bạn đang xây dựng, phần còn lại của trang này bao gồm các chi tiết mà nhà phát triển thường hỏi về: yêu cầu đầu tiên, truyền phát, đầu ra có cấu trúc, công cụ, giới hạn và chi phí.
Yêu cầu đầu tiên của bạn
Tạo tài khoản từ trang khóa API, sao chép khóa và gửi một yêu cầu. Đăng ký hoạt động với Google hoặc với email và mật khẩu. Người dùng mới có thể nhận $0,50 tín dụng dùng thử chỉ với một cú nhấp chuột trên trang đó, một lần cho mỗi người, có hiệu lực trong bảy ngày. Khóa dùng thử chạy dưới các giới hạn thấp hơn so với khóa đầy đủ: 2 yêu cầu đồng thời và 60 yêu cầu mỗi phút.
Hãy bắt đầu với curl, vì nó loại bỏ mọi biến số khác:
curl https://api.uncensoredgrok.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [
{"role": "system", "content": "You are a concise assistant."},
{"role": "user", "content": "Explain idempotency keys in two sentences."}
]
}'
Gọi tương tự với SDK Python chính thức:
from openai import OpenAI
client = OpenAI(
base_url="https://api.uncensoredgrok.com/v1",
api_key="YOUR_KEY",
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Explain idempotency keys in two sentences."}],
temperature=0.7,
)
print(resp.choices[0].message.content)
Một lệnh gọi đến GET /v1/models là một cách rẻ tiền để kiểm tra xem khóa và base URL của bạn có đúng không trước khi bạn gỡ lỗi bất cứ thứ gì khác. Mọi phản hồi đều bao gồm các header X-Request-Id, X-Balance-USD, X-RateLimit-Limit-Requests và X-RateLimit-Limit-Concurrency. Hãy ghi lại ID yêu cầu vào nhật ký của riêng bạn và theo dõi header số dư nếu bạn chạy các công việc không giám sát.
Các tham số lấy mẫu như temperature, top_p, stop, seed và các hình phạt về tần suất và sự hiện diện được chuyển tiếp đến mô hình. Ghi chú tham số đầy đủ có trên trang tài liệu.
Truyền phát
Bạn đặt stream: true và phản hồi đến dưới dạng các sự kiện do máy chủ gửi, một chunk cho mỗi nhóm token, với việc sử dụng được báo cáo vào cuối luồng. Đối với giao diện trò chuyện, đây là sự khác biệt giữa một màn hình chờ và một màn hình đang gõ.
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a haiku about retries."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\ntokens:", chunk.usage)
Trong Node, mẫu tương tự:
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.uncensoredgrok.com/v1",
apiKey: process.env.API_KEY,
});
const stream = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Write a haiku about retries." }],
stream: true,
});
for await (const chunk of stream) {
process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
}
Một chi tiết quan trọng cho việc lập kế hoạch dung lượng. Một yêu cầu truyền phát giữ slot đồng thời của nó cho đến khi luồng kết thúc. Nếu một client mở luồng và sau đó bị treo, slot đó vẫn bị chiếm, vì vậy hãy đóng các luồng bạn không còn đọc.
Chế độ JSON và gọi hàm
Đối với đầu ra có cấu trúc, bạn truyền response_format với loại json_object. Đồng thời, hãy nói trong prompt rằng bạn muốn JSON và đặt tên cho các khóa bạn mong đợi. Chế độ JSON giúp mô hình tạo ra văn bản có thể phân tích được, nhưng bạn vẫn nên xác thực kết quả trong mã của mình và xử lý lỗi phân tích.
resp = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with JSON only: {\"title\": string, \"tags\": [string]}"},
{"role": "user", "content": "Summarize: a guide to rate limiting for API clients."},
],
)
import json
data = json.loads(resp.choices[0].message.content)
Gọi hàm
Gọi công cụ tuân theo hình dạng OpenAI. Bạn gửi tools và tùy chọn tool_choice. Mô hình trả lời với tool_calls, bạn chạy hàm và gửi kết quả lại dưới dạng tin nhắn với role: "tool". Các lệnh gọi công cụ cũng có thể được truyền phát.
import json
tools = [{
"type": "function",
"function": {
"name": "get_order_status",
"description": "Look up an order by id",
"parameters": {
"type": "object",
"properties": {"order_id": {"type": "string"}},
"required": ["order_id"],
},
},
}]
messages = [{"role": "user", "content": "Where is order A-1042?"}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
messages.append(msg)
for call in msg.tool_calls:
args = json.loads(call.function.arguments)
result = {"order_id": args["order_id"], "status": "shipped"}
messages.append({
"role": "tool",
"tool_call_id": call.id,
"content": json.dumps(result),
})
final = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools
)
print(final.choices[0].message.content)
Luôn phân tích chuỗi đối số một cách phòng thủ. Các mô hình đôi khi trả về các đối số không phải là JSON hợp lệ và một try/except xung quanh json.loads với một lần thử lại là bảo hiểm rẻ tiền.
Giới hạn tốc độ, lỗi 429 và thử lại
Một khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Một khóa dùng thử cho phép 2 và 60. Kích thước tối đa của thân yêu cầu là 8 MB. Khi bạn vượt quá giới hạn, bạn sẽ nhận được HTTP 429, và mã lỗi cho bạn biết giới hạn nào: rate_limited có nghĩa là quá nhiều yêu cầu mỗi phút, concurrency có nghĩa là quá nhiều cùng một lúc. Khi quá tải tạm thời, API cũng trả về 429 với header Retry-After: 5.
Điều đó đưa ra cho bạn một quy tắc thử lại đơn giản: trên 429, hãy đợi Retry-After nếu nó có mặt, nếu không hãy lùi lại theo cấp số nhân kèm jitter và giới hạn số lần thử.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.uncensoredgrok.com/v1", api_key="YOUR_KEY", max_retries=0)
def ask(messages, attempts=5):
for i in range(attempts):
try:
return client.chat.completions.create(model="uncensored", messages=messages)
except RateLimitError as e:
wait = float(e.response.headers.get("Retry-After", 2 ** i))
time.sleep(wait + random.random())
raise RuntimeError("still rate limited")
Nếu bạn chạy các công việc hàng loạt, hãy giới hạn nhóm worker của bạn ở mức 8 trên một khóa đầy đủ. Tám worker, mỗi worker giữ một yêu cầu là giới hạn trên, và worker thứ chín sẽ chỉ mang lại cho bạn các lỗi 429 với mã concurrency. Các yêu cầu bị lỗi hoặc bị từ chối không được tính phí, vì vậy việc thử lại không tốn tiền của bạn.
Thói quen tiết kiệm thời gian trong sản xuất
Một vài thực hành mang lại lợi ích nhanh chóng ngay khi yêu cầu đầu tiên hoạt động. Hãy lưu khóa trong biến môi trường hoặc bộ quản lý bí mật và cung cấp cho mỗi môi trường một khóa riêng biệt để bạn có thể xoay một khóa mà không làm ảnh hưởng đến các khóa khác. Hãy ghi lại giá trị X-Request-Id bên cạnh ID theo dõi của riêng bạn; nếu có gì đó không ổn trong phản hồi, ID đó là thứ bạn nên trích dẫn.
Đặt thời gian chờ (timeout) phía client. Các quá trình tạo dài là bình thường khi bạn cho phép một completion lớn, vì vậy hãy chọn thời gian chờ phù hợp với câu trả lời dài nhất dự kiến của bạn và sử dụng truyền phát cho bất cứ thứ gì một người đang chờ đợi. Giới hạn max_tokens trong các đường dẫn dành cho người dùng ngay cả khi tham số là tùy chọn, vì giới hạn đặt ra giới hạn trên cho cả độ trễ và chi tiêu.
Giữ lịch sử hội thoại bạn gửi dưới sự kiểm soát. Cửa sổ là 100.000 token, nhưng đầu vào được tính phí trên mọi lệnh gọi, vì vậy việc cắt giảm các lượt cũ hoặc tóm tắt chúng là tối ưu hóa rẻ nhất mà bạn có. Cuối cùng, hãy cố định các cài đặt lấy mẫu của bạn. Việc đặt seed cùng với nhiệt độ cố định cho bạn các lần chạy có thể lặp lại hơn khi bạn so sánh các biến thể prompt, mặc dù bạn không nên coi đó là bảo đảm về đầu ra giống hệt nhau.
Chi phí
Giá là $0,15 cho mỗi 1M token đầu vào và $0,50 cho mỗi 1M token đầu ra, từ tín dụng trả trước. Không có đăng ký và tín dụng không bao giờ hết hạn. Một ví dụ cụ thể hóa nó. Hãy lấy một yêu cầu với 2.000 token đầu vào và 500 token đầu ra:
- Đầu vào: 2.000 / 1.000.000 x $0,15 = $0,0003
- Đầu ra: 500 / 1.000.000 x $0,50 = $0,00025
- Tổng cộng: $0,00055 cho mỗi yêu cầu, vì vậy 1.000 yêu cầu như vậy tốn $0,55.
Tín dụng dùng thử $0,50 do đó bao gồm khoảng 900 yêu cầu có kích thước đó. Các khoản nạp tiền chạy từ $20 đến $500 với bất kỳ số nguyên nào, với tiền thưởng 5% từ $50, 10% từ $100 và 15% từ $200. Ví dụ, một khoản nạp $100 sẽ được ghi có $110. Thanh toán chỉ bằng tiền mã hóa trên trang web này: USDT trên TRC20 hoặc USDC trên Base. Trang giá cả có bảng hiện tại.
Các prompt không được sử dụng để huấn luyện. Nếu bạn đang cân nhắc điều này so với một endpoint khác, bài viết hiện có về trả tiền theo token và cửa sổ ngữ cảnh 100k bao gồm cách hoạt động của bộ đo trong các cuộc hội thoại dài.
Khi một tùy chọn khác phù hợp hơn
Hãy trung thực về sự phù hợp. Nếu bạn cần tạo hình ảnh, embedding, giọng nói hoặc một mô hình đã tinh chỉnh, API này không cung cấp chúng. Nếu hợp đồng hoặc nhóm tuân thủ của bạn yêu cầu một nhà cung cấp chính thức, hãy sử dụng nhà cung cấp đó. Nếu bạn cần đảm bảo danh tính mô hình từ một phòng thí nghiệm cụ thể, đây là sản phẩm không phù hợp, vì nó chạy một mô hình trọng số mở duy nhất từ một nhà cung cấp độc lập.
Nó phù hợp với ứng dụng đã dùng giao thức OpenAI và cần một mô hình văn bản trả lời các yêu cầu người lớn hợp pháp mà không từ chối chúng: các công cụ viết, ứng dụng đóng vai và ứng dụng đồng hành dành cho người lớn, gán nhãn dữ liệu chạm vào các chủ đề khó và các bộ công cụ kiểm tra. Hãy trỏ client hiện tại của bạn vào base URL mới và so sánh đầu ra trên các prompt của riêng bạn trước khi bạn cam kết tín dụng.
