استعمال کی حدود
API ریٹ لمٹس، ہم وقتی (concurrency)، اور ان کے اندر کام کرنے کا طریقہ سمجھنا
جائزہ
ریٹ لمٹس API کو غلط استعمال سے بچاتی ہیں اور تمام صارفین کے لیے منصفانہ استعمال کو یقینی بناتی ہیں۔ Moknah ہمارے HTTP اور WebSocket دونوں اینڈ پوائنٹس پر درخواستوں کی فریکوئنسی، کریڈٹ کے استعمال، اور بیک وقت کنکشنز پر حدود لاگو کرتا ہے۔
Moknah پروسیس کرتا ہے بالکل ایک وقت میں فی صارف صرف ایک ایکشن.
• HTTP: دوسری درخواست بھیجنے سے پہلے موجودہ درخواست کے مکمل ہونے کا انتظار کریں۔ بیک وقت بھیجی گئی درخواستوں کو 409 Conflict یا 429 Too Many Requests موصول ہوتا ہے۔
• WebSocket: آپ ایک وقت میں صرف 1 فعال WebSocket کنکشن کھلا رکھ سکتے ہیں۔ دوسرا کنکشن کھولنے پر وہ کوڈ 4290 کے ساتھ فوری طور پر بند ہو جائے گا۔
طے شدہ حدود
| لمٹ کی قسم | قدر | اطلاق ہوتا ہے | تفصیل |
|---|---|---|---|
| درخواستیں فی منٹ (RPM) | 60 |
صرف HTTP | فی منٹ معیاری API POST درخواستوں کی زیادہ سے زیادہ تعداد۔ |
| کریڈٹس فی منٹ (CPM) | 10,000 |
HTTP اور WebSocket | فی منٹ استعمال ہونے والے زیادہ سے زیادہ کریڈٹس۔ |
| فعال کنکشنز | 1 |
صرف WebSocket | فی صارف بیک وقت WSS اسٹریمز کی زیادہ سے زیادہ تعداد۔ |
WebSocket کی حدود اور کلوز کوڈز
چونکہ WebSockets ایک مستقل کنکشن برقرار رکھتے ہیں، اس لیے وہ ریٹ لمٹنگ کے لیے HTTP ہیڈرز استعمال نہیں کرتے۔ اس کے بجائے، کنکشن منقطع کر کے اور JSON کنٹرول پیغامات کے ذریعے حدود نافذ کی جاتی ہیں:
| حد پوری ہو گئی | رویہ / آؤٹ پٹ |
|---|---|
| بیک وقت کنکشنز کی حد | کنکشن کوڈ 4290 کے ساتھ فوراً بند ہو جاتا ہے۔ |
| کریڈٹس ختم ہو گئے | JSON ایرر موصول ہوتا ہے اور بند ہو جاتا ہے۔ |
| چنک سائز کی حد | اگر ایک ٹیکسٹ چنک 2,000 حروف سے تجاوز کر جائے تو JSON ایرر موصول ہوتا ہے۔ |
| پیغامات کی شرح کی حد | اگر آپ قطار کے پروسیس کرنے کی رفتار سے زیادہ تیزی سے ٹیکسٹ چنکس بھیجتے ہیں تو JSON ایرر موصول ہوتا ہے۔ |
نوٹ: اگر آپ کا WebSocket غیر متوقع طور پر منقطع ہو جائے، تو دوبارہ کنیکٹ کرنے سے پہلے کم از کم 15 سیکنڈ انتظار کریں تاکہ سرور سائیڈ لاک مکمل طور پر ختم ہو سکے۔
HTTP ریٹ لمٹ ہیڈرز
معیاری REST اینڈ پوائنٹس کے لیے، ہر API رسپانس میں آپ کے اسٹیٹس کو ٹریک کرنے میں مدد کے لیے ہیڈرز شامل ہوتے ہیں:
| ہیڈر | تفصیل | مثال |
|---|---|---|
RateLimit-Limit |
آپ کی فی منٹ ریکوئسٹس (RPM) کی حد | 60 |
RateLimit-Remaining |
اس منٹ میں باقی رہ جانے والی ریکوئسٹس | 45 |
RateLimit-Reset |
حدود ری سیٹ ہونے کا Unix ٹائم اسٹیمپ | 1699574460 |
Moknah-Credits-Remaining |
اس منٹ میں باقی رہ جانے والے کریڈٹس | 10000 |
Moknah-Credits-Used |
اس منٹ میں استعمال شدہ کریڈٹس | 5000 |
جب HTTP ریٹ لمٹ پوری ہو جائے
اگر آپ HTTP ریٹ لمٹ سے تجاوز کرتے ہیں، تو آپ کو ان اضافی ہیڈرز کے ساتھ 429 Too Many Requests رسپانس موصول ہوگا:
| ہیڈر | تفصیل | مثال |
|---|---|---|
Retry-After |
دوبارہ کوشش کرنے سے پہلے انتظار کے سیکنڈز | 45 |
RateLimit-Reset |
Unix ٹائم اسٹیمپ جب آپ دوبارہ کوشش کر سکتے ہیں | 1699574460 |
کریڈٹ کا حساب
کریڈٹس کا حساب متن کی لمبائی اور پروسیسنگ آپشنز کی بنیاد پر کیا جاتا ہے۔ WebSockets کے لیے، اسٹریم ہوتے وقت ہر چنک کے حساب سے متحرک طور پر کریڈٹس کاٹے جاتے ہیں۔
| عنصر | ملٹی پلائر | تفصیل |
|---|---|---|
| بنیادی لاگت | 1x |
فی حرف 1 کریڈٹس |
| AI سے بہتر کردہ نارملائزیشن | 2x |
اعراب کے ساتھ عربی کی ایڈوانسڈ پروسیسنگ |
| پریمیم آواز | +% |
پریمیم آوازوں کے لیے اضافی فیصد |
مثال: مصنوعی ذہانت سے بہتر کردہ نارملائزیشن کے ساتھ 500 حروف کا متن:
500 characters × 2 (AI-Enhanced) = 1,000 credits
بہترین طریقے
1. بڑے حجم کے تسلسل والے متن کے لیے WebSockets استعمال کریں
اگر آپ مکالماتی AI جوابات تیار کر رہے ہیں یا طویل دستاویزات کا تجزیہ کر رہے ہیں، تو تیزی سے 50 HTTP POST درخواستیں نہ بھیجیں۔ ایک ہی WebSocket کنکشن کھولیں اور مستقل کنکشن کے ذریعے ٹکڑوں کو اسٹریم کریں۔ اس سے 60 RPM کی HTTP حد مکمل طور پر بائی پاس ہو جاتی ہے (اگرچہ کریڈٹ کی حدود اب بھی لاگو ہوں گی)۔
2. درخواستوں کی قطار بندی نافذ کریں (HTTP)
چونکہ Moknah بیک وقت درخواستوں کو سپورٹ نہیں کرتا، اس لیے اپنی HTTP درخواستوں کو قطار میں لگائیں اور انہیں ترتیب وار پروسیس کریں:
import queue
import threading
import time
class TTSQueue:
def __init__(self, api_key):
self.api_key = api_key
self.queue = queue.Queue()
self.worker = threading.Thread(target=self._process_queue, daemon=True)
self.worker.start()
def _process_queue(self):
while True:
text, voice_id, callback = self.queue.get()
try:
result = self._generate(text, voice_id)
callback(result, None)
except Exception as e:
callback(None, e)
finally:
self.queue.task_done()
def _generate(self, text, voice_id):
# Your API call here
pass
def add(self, text, voice_id, callback):
self.queue.put((text, voice_id, callback))
# Usage
tts = TTSQueue("your_api_key")
tts.add("Hello world", "voice_123", lambda r, e: print(r or e))
class TTSQueue {
constructor(apiKey) {
this.apiKey = apiKey;
this.queue = [];
this.processing = false;
}
async add(text, voiceId) {
return new Promise((resolve, reject) => {
this.queue.push({ text, voiceId, resolve, reject });
this.processNext();
});
}
async processNext() {
if (this.processing || this.queue.length === 0) return;
this.processing = true;
const { text, voiceId, resolve, reject } = this.queue.shift();
try {
const result = await this.generate(text, voiceId);
resolve(result);
} catch (error) {
reject(error);
} finally {
this.processing = false;
this.processNext(); // Process next in queue
}
}
async generate(text, voiceId) {
// Your API call here
}
}
// Usage
const tts = new TTSQueue("your_api_key");
const audio = await tts.add("Hello world", "voice_123");
2. درخواستوں کی قطار بندی نافذ کریں (HTTP)
چونکہ Moknah بیک وقت درخواستوں کو سپورٹ نہیں کرتا، اس لیے اپنی HTTP درخواستوں کو قطار میں لگائیں اور انہیں ترتیب وار پروسیس کریں:
import time
import random
def request_with_backoff(func, max_retries=5):
retries = 0
while retries < max_retries:
try:
response = func()
if response.status_code == 429:
retry_after = int(response.headers.get("Retry-After", 60))
# Add jitter to prevent thundering herd
wait_time = retry_after + random.uniform(0, 1)
print(f"Rate limited. Waiting {wait_time:.1f}s...")
time.sleep(wait_time)
retries += 1
continue
return response
except Exception as e:
# Exponential backoff for other errors
wait_time = (2 ** retries) + random.uniform(0, 1)
print(f"Error: {e}. Retrying in {wait_time:.1f}s...")
time.sleep(wait_time)
retries += 1
raise Exception("Max retries exceeded")
async function requestWithBackoff(func, maxRetries = 5) {
let retries = 0;
while (retries < maxRetries) {
try {
const response = await func();
if (response.status === 429) {
const retryAfter = parseInt(response.headers.get("Retry-After") || 60);
// Add jitter to prevent thundering herd
const waitTime = retryAfter + Math.random();
console.log(`Rate limited. Waiting ${waitTime.toFixed(1)}s...`);
await new Promise(r => setTimeout(r, waitTime * 1000));
retries++;
continue;
}
return response;
} catch (error) {
// Exponential backoff for other errors
const waitTime = Math.pow(2, retries) + Math.random();
console.log(`Error: ${error.message}. Retrying in ${waitTime.toFixed(1)}s...`);
await new Promise(r => setTimeout(r, waitTime * 1000));
retries++;
}
}
throw new Error("Max retries exceeded");
}
3. ایکسپونینشل بیک آف (Exponential Backoff) نافذ کریں
جب شرح کی حد (HTTP 429) یا کنکشن کی حد (WebSocket 4290) تک پہنچ جائیں، تو سرور پر بوجھ ڈالے بغیر محفوظ طریقے سے دوبارہ کوشش کرنے کے لیے ایکسپونینشل بیک آف کا استعمال کریں:
خلاصہ
HTTP کی حدود: 60 RPM، 1 بیک وقت درخواست۔
WebSocket کی حدود: 1 بیک وقت کنکشن، فی ٹکڑا 2,000 حروف۔
عالمی حدود: 10,000 CPM (کریڈٹس فی منٹ)۔
مزید گنجائش درکار ہے؟ ای میل sales@moknah.io
API سے متعلق سوالات یا مسائل کے لیے، ہم سے یہاں رابطہ کریں api@moknah.io.