Rate limits
Kimi API กำหนด rate limit(การจำกัดอัตรา) ทั้งในด้านความถี่ของคำขอและ concurrency เพื่อรักษาเสถียรภาพของแพลตฟอร์มและการใช้งานอย่างเป็นธรรม โดยระดับของ rate limit จะอ้างอิงจากยอดเติมเงินสะสมในบัญชีของคุณ
ระดับของ rate limit
rate limit ของ API แบ่งเป็นระดับตาม ยอดเติมเงินสะสม ในบัญชีของคุณ ยิ่งเติมเงินมาก rate limit ที่ใช้ได้ก็ยิ่งสูงขึ้น สำหรับเกณฑ์ของแต่ละระดับและค่า RPM (คำขอต่อนาที) กับ TPM (โทเค็น ต่อนาที) ที่สอดคล้องกัน โปรดดูที่คอนโซล platform.kimi.ai
จะตรวจสอบขีดจำกัดปัจจุบันได้อย่างไร?
- เข้าสู่ระบบคอนโซล API เพื่อดูระดับ rate limit ปัจจุบันของคุณ
- ส่วนหัวการตอบกลับของ API ก็มีข้อมูล rate limit รวมอยู่ด้วยเช่นกัน:
X-RateLimit-Limit: เพดาน rate limit ปัจจุบันX-RateLimit-Remaining: จำนวนคำขอที่ยังใช้ได้X-RateLimit-Reset: เวลาที่ขีดจำกัดจะรีเซ็ต
การจัดการข้อผิดพลาด 429
เมื่อความถี่ของคำขอเกินขีดจำกัด API จะตอบกลับด้วยรหัสสถานะ 429 แนวทางที่แนะนำมีดังนี้:
- ใช้ exponential backoff: รอ 1 วินาทีในครั้งแรก แล้วเพิ่มเวลาเป็นสองเท่าในการลองใหม่แต่ละครั้ง (2 วินาที, 4 วินาที, 8 วินาที…)
- ควบคุม concurrency: ใช้คิวคำขอหรือ semaphore เพื่อจำกัดจำนวนคำขอที่ส่งพร้อมกัน
- รวมคำขอเป็นชุด: รวมคำขอเล็ก ๆ หลายรายการให้เป็นคำขอที่ใหญ่ขึ้นและมีจำนวนน้อยลง
ขอเพิ่ม rate limit
หากความต้องการทางธุรกิจของคุณเกิน rate limit ปัจจุบัน:
- เติมเงินเพื่ออัปเกรด: เพิ่มยอดเติมเงินสะสม แล้วระบบจะอัปเกรดระดับ rate limit ของคุณโดยอัตโนมัติ
- ติดต่อฝ่ายขาย: สำหรับความต้องการพิเศษ ติดต่อทีมขายของแพลตฟอร์มผ่าน platform.kimi.ai/contact-sales เพื่อขอ rate quota แบบกำหนดเอง