Rate limits

Kimi API กำหนด rate limit(การจำกัดอัตรา) ทั้งในด้านความถี่ของคำขอและ concurrency เพื่อรักษาเสถียรภาพของแพลตฟอร์มและการใช้งานอย่างเป็นธรรม โดยระดับของ rate limit จะอ้างอิงจากยอดเติมเงินสะสมในบัญชีของคุณ

ระดับของ rate limit

rate limit ของ API แบ่งเป็นระดับตาม ยอดเติมเงินสะสม ในบัญชีของคุณ ยิ่งเติมเงินมาก rate limit ที่ใช้ได้ก็ยิ่งสูงขึ้น สำหรับเกณฑ์ของแต่ละระดับและค่า RPM (คำขอต่อนาที) กับ TPM (โทเค็น ต่อนาที) ที่สอดคล้องกัน โปรดดูที่คอนโซล platform.kimi.ai

จะตรวจสอบขีดจำกัดปัจจุบันได้อย่างไร?

  • เข้าสู่ระบบคอนโซล API เพื่อดูระดับ rate limit ปัจจุบันของคุณ
  • ส่วนหัวการตอบกลับของ API ก็มีข้อมูล rate limit รวมอยู่ด้วยเช่นกัน:
    • X-RateLimit-Limit: เพดาน rate limit ปัจจุบัน
    • X-RateLimit-Remaining: จำนวนคำขอที่ยังใช้ได้
    • X-RateLimit-Reset: เวลาที่ขีดจำกัดจะรีเซ็ต

การจัดการข้อผิดพลาด 429

เมื่อความถี่ของคำขอเกินขีดจำกัด API จะตอบกลับด้วยรหัสสถานะ 429 แนวทางที่แนะนำมีดังนี้:

  1. ใช้ exponential backoff: รอ 1 วินาทีในครั้งแรก แล้วเพิ่มเวลาเป็นสองเท่าในการลองใหม่แต่ละครั้ง (2 วินาที, 4 วินาที, 8 วินาที…)
  2. ควบคุม concurrency: ใช้คิวคำขอหรือ semaphore เพื่อจำกัดจำนวนคำขอที่ส่งพร้อมกัน
  3. รวมคำขอเป็นชุด: รวมคำขอเล็ก ๆ หลายรายการให้เป็นคำขอที่ใหญ่ขึ้นและมีจำนวนน้อยลง

ขอเพิ่ม rate limit

หากความต้องการทางธุรกิจของคุณเกิน rate limit ปัจจุบัน:

  • เติมเงินเพื่ออัปเกรด: เพิ่มยอดเติมเงินสะสม แล้วระบบจะอัปเกรดระดับ rate limit ของคุณโดยอัตโนมัติ
  • ติดต่อฝ่ายขาย: สำหรับความต้องการพิเศษ ติดต่อทีมขายของแพลตฟอร์มผ่าน platform.kimi.ai/contact-sales เพื่อขอ rate quota แบบกำหนดเอง