レート制限
APIのレート制限と同時実行数、およびそれらの制約内で運用する方法の理解
概要
レート制限は、APIの不正利用を防ぎ、すべてのユーザーが公平に利用できるようにするためのものです。Moknah では、HTTPおよびWebSocketの各エンドポイントにおいて、リクエスト頻度、クレジット消費量、および同時接続数に対して制限を設けています。
Moknah は正確に処理を行います ユーザー1人につき、一度に1つのアクション.
• HTTP: 次のリクエストを送信する前に、現在のリクエストが完了するのを待ってください。同時にリクエストを送信すると、409 Conflict または 429 Too Many Requests が返されます。
• WebSocket: 同時に開けるアクティブなWebSocket接続は1つだけです。2つ目の接続を開こうとすると、コード4290で即座に切断されます。
デフォルトの制限
| 制限タイプ | 価値 | 対象 | 説明 |
|---|---|---|---|
| 1分あたりのリクエスト数 (RPM) | 60 |
HTTP Only | 1分あたりの標準API POSTリクエストの最大数。 |
| 1分あたりのクレジット数 (CPM) | 10,000 |
HTTPおよびWebSocket | 1分あたりの最大クレジット消費量 |
| アクティブな接続 | 1 |
WebSocketのみ | ユーザーあたりの同時 WSS ストリームの最大数。 |
WebSocketの制限とクローズコード
WebSocketは永続的な接続を維持するため、レート制限にHTTPヘッダーを使用しません。その代わりに、接続の切断やJSON制御メッセージによって制限が適用されます。
| 上限に達しました | 動作 / 出力 |
|---|---|
| 同時実行数制限 | 接続がコード 4290 で即座に閉じます。 |
| クレジットを使い果たしました | JSONエラーを受け取り、終了します。 |
| チャンクサイズ制限 | 単一のテキストチャンクが2,000文字を超えると、JSONエラーが発生します。 |
| メッセージ送信レート制限 | キューの処理能力を上回る速度でテキストチャンクを送信すると、JSONエラーが発生します。 |
注:WebSocketが予期せず切断された場合は、サーバー側のロックが完全に解除されるよう、再接続する前に少なくとも15秒間待機してください。
HTTPレート制限ヘッダー
標準的なRESTエンドポイントの場合、すべてのAPIレスポンスには、ステータスの把握に役立つヘッダーが含まれています。
| ヘッダー | 説明 | 例 |
|---|---|---|
RateLimit-Limit |
RPM制限 | 60 |
RateLimit-Remaining |
今分間の残りリクエスト数 | 45 |
RateLimit-Reset |
制限がリセットされるUnixタイムスタンプ | 1699574460 |
Moknah-Credits-Remaining |
現時点で残っているクレジット | 10000 |
Moknah-Credits-Used |
今分に消費されたクレジット | 5000 |
HTTPレート制限がかかった場合
HTTPレート制限を超過した場合、以下の追加ヘッダーを含む「429 Too Many Requests」レスポンスが返されます。
| ヘッダー | 説明 | 例 |
|---|---|---|
Retry-After |
再試行までの待機時間(秒) | 45 |
RateLimit-Reset |
再試行が可能になるUnixタイムスタンプ | 1699574460 |
クレジットの計算
クレジットは、テキストの長さと処理オプションに基づいて計算されます。WebSocketの場合、ストリーミング中にチャンク単位で動的にクレジットが消費されます。
| 要因 | 乗数 | 説明 |
|---|---|---|
| 基本コスト | 1x |
1文字あたり 1 クレジット |
| AIによる正規化の高度化 | 2x |
発音記号を含む高度なアラビア語処理 |
| プレミアムボイス | +% |
プレミアムボイスの追加料率 |
例: AIによる正規化を施した500文字のテキスト:
500 characters × 2 (AI-Enhanced) = 1,000 credits
ベストプラクティス
1. 大量の連続的なテキストにはWebSocketを使用する
対話型AIの応答生成や長文ドキュメントの解析を行う際、短時間に50回ものHTTP POSTリクエストを送信することは避けてください。代わりに、単一のWebSocket接続を確立し、その永続的な接続を通じてデータをチャンク単位でストリーミング送信してください。これにより、HTTPリクエストの制限(毎分60回)を完全に回避できます(ただし、クレジット制限は引き続き適用されます)。
2. リクエストキューイング(HTTP)を実装する
Moknah は同時リクエストをサポートしていないため、HTTPリクエストをキューに入れ、順次処理してください。
import queue
import threading
import time
class TTSQueue:
def __init__(self, api_key):
self.api_key = api_key
self.queue = queue.Queue()
self.worker = threading.Thread(target=self._process_queue, daemon=True)
self.worker.start()
def _process_queue(self):
while True:
text, voice_id, callback = self.queue.get()
try:
result = self._generate(text, voice_id)
callback(result, None)
except Exception as e:
callback(None, e)
finally:
self.queue.task_done()
def _generate(self, text, voice_id):
# Your API call here
pass
def add(self, text, voice_id, callback):
self.queue.put((text, voice_id, callback))
# Usage
tts = TTSQueue("your_api_key")
tts.add("Hello world", "voice_123", lambda r, e: print(r or e))
class TTSQueue {
constructor(apiKey) {
this.apiKey = apiKey;
this.queue = [];
this.processing = false;
}
async add(text, voiceId) {
return new Promise((resolve, reject) => {
this.queue.push({ text, voiceId, resolve, reject });
this.processNext();
});
}
async processNext() {
if (this.processing || this.queue.length === 0) return;
this.processing = true;
const { text, voiceId, resolve, reject } = this.queue.shift();
try {
const result = await this.generate(text, voiceId);
resolve(result);
} catch (error) {
reject(error);
} finally {
this.processing = false;
this.processNext(); // Process next in queue
}
}
async generate(text, voiceId) {
// Your API call here
}
}
// Usage
const tts = new TTSQueue("your_api_key");
const audio = await tts.add("Hello world", "voice_123");
2. リクエストキューイング(HTTP)を実装する
Moknah は同時リクエストをサポートしていないため、HTTPリクエストをキューに入れ、順次処理してください。
import time
import random
def request_with_backoff(func, max_retries=5):
retries = 0
while retries < max_retries:
try:
response = func()
if response.status_code == 429:
retry_after = int(response.headers.get("Retry-After", 60))
# Add jitter to prevent thundering herd
wait_time = retry_after + random.uniform(0, 1)
print(f"Rate limited. Waiting {wait_time:.1f}s...")
time.sleep(wait_time)
retries += 1
continue
return response
except Exception as e:
# Exponential backoff for other errors
wait_time = (2 ** retries) + random.uniform(0, 1)
print(f"Error: {e}. Retrying in {wait_time:.1f}s...")
time.sleep(wait_time)
retries += 1
raise Exception("Max retries exceeded")
async function requestWithBackoff(func, maxRetries = 5) {
let retries = 0;
while (retries < maxRetries) {
try {
const response = await func();
if (response.status === 429) {
const retryAfter = parseInt(response.headers.get("Retry-After") || 60);
// Add jitter to prevent thundering herd
const waitTime = retryAfter + Math.random();
console.log(`Rate limited. Waiting ${waitTime.toFixed(1)}s...`);
await new Promise(r => setTimeout(r, waitTime * 1000));
retries++;
continue;
}
return response;
} catch (error) {
// Exponential backoff for other errors
const waitTime = Math.pow(2, retries) + Math.random();
console.log(`Error: ${error.message}. Retrying in ${waitTime.toFixed(1)}s...`);
await new Promise(r => setTimeout(r, waitTime * 1000));
retries++;
}
}
throw new Error("Max retries exceeded");
}
3. 指数バックオフを実装する
レート制限(HTTP 429)や接続制限(WebSocket 4290)を受けた場合は、サーバーに過度な負荷をかけることなく安全に再試行するために、指数バックオフを使用してください。
概要
HTTPの制限: 60 RPM、同時リクエスト数 1。
WebSocketの制限: 同時接続数 1、チャンクあたり 2,000 文字。
全体的な制限: 10,000 CPM(1分あたりのクレジット数)
より多くの容量が必要ですか? Eメール sales@moknah.io
APIに関するご質問や問題については、こちらまでお問い合わせください。 api@moknah.io.