الانتقال إلى المحتوى الرئيسي
يوفّر LiteLLM واجهة Python API موحّدة لأكثر من 100 من مزوّدي LLM. ويدعم CometAPI بشكل أصيل — استخدم البادئة cometapi/ لتوجيه الطلبات عبر فهرس النماذج في CometAPI.

​
المتطلبات الأساسية

1

تثبيت LiteLLM

pip install litellm
2

عيّن مفتاح API الخاص بك

عيّن مفتاح API كمتغيّر بيئة (موصى به) أو مرّره مباشرة داخل الكود:
import os
from litellm import completion

# Recommended: environment variable
os.environ["COMETAPI_KEY"] = "<COMETAPI_KEY>"

# Alternative: pass inline
api_key = "<COMETAPI_KEY>"
استخدم متغيّرات البيئة لتجنّب تضمين بيانات الاعتماد الحساسة مباشرة في السكربتات الخاصة بك.
3

نفّذ استدعاء completion

استخدم التنسيق cometapi/<model-name> لتحديد النماذج. يمكنك تمرير المفتاح عبر متغيّر البيئة أو بشكل صريح:
messages = [{"content": "Hello, how are you?", "role": "user"}]

# Method 1: environment variable (recommended)
response = completion(model="cometapi/your-model-id", messages=messages)

# Method 2: explicit API key
response = completion(model="cometapi/your-model-id", messages=messages, api_key=api_key)

print(response.choices[0].message.content)
4

الاستدعاءات غير المتزامنة وStreaming

استخدم acompletion مع stream=True للحصول على استجابات فورية وغير حاجبة:
from litellm import acompletion
import asyncio, traceback

async def stream_call():
    try:
        response = await acompletion(
      model="cometapi/your-model-id",
            messages=[{"content": "Hello, how are you?", "role": "user"}],
            stream=True,
        )
        async for chunk in response:
            print(chunk)
    except Exception:
        print(f"Error: {traceback.format_exc()}")

asyncio.run(stream_call())
  • تنسيق النموذج: تستخدم نماذج CometAPI البادئة cometapi/<model-name>، على سبيل المثال cometapi/your-model-id. راجع صفحة نماذج CometAPI للاطلاع على النماذج المتاحة.
  • استجابات Fine-tuning: يدعم LiteLLM المعاملات temperature وmax_tokens وtop_p — أضفها إلى أي استدعاء completion()، مثل completion(..., temperature=0.7).
  • معالجة الأخطاء: لفّ الاستدعاءات داخل try/except لالتقاط أخطاء المفتاح غير الصالح أو مشكلات الشبكة.
  • الأمان: لا تقم أبدًا بإرسال مفاتيح API إلى نظام التحكّم في الإصدارات. استخدم متغيّرات البيئة أو مدير الأسرار.
  • حدود المعدّل: راقب الاستخدام في وحدة تحكم CometAPI.
  • مزيد من الوثائق: وثائق LiteLLM — البدء السريع في CometAPI