Comparație
codai față de LiteLLM
Ce este fiecare, cum se plătește, unde stau datele și când LiteLLM este alegerea mai bună.
Ultima verificare:
Pe scurt
LiteLLM este un gateway open source (SDK Python sau proxy) pe care îl instalați și îl operați singuri, cu o licență enterprise plătită. codai este un serviciu administrat: nimic de instalat, un singur nume de model, taxat per sarcină verificată în EUR.
Când LiteLLM este alegerea mai bună
Alegeți LiteLLM dacă trebuie să găzduiți gateway-ul la dumneavoastră (inclusiv fără acces la internet), să păstrați fiecare cerere în propria infrastructură sau vreți un nucleu cu licență MIT pe care îl puteți modifica.
| Criteriu | codai | LiteLLM | Surse |
|---|---|---|---|
| Ce este / cum rulează | Gateway administrat (SaaS). Rulează pe Cloud Run în GCP europe-west1 (Belgia). Un singur nume public de model: codai. | Gateway AI open source: un SDK Python sau un proxy găzduit de dumneavoastră (implicit http://0.0.0.0:4000) care apelează peste 100 de furnizori în formatul OpenAI. Nu am putut confirma o variantă găzduită. | |
| Open source (cod deschis) | Nu. Codul nu este deschis și nu poate fi găzduit de dumneavoastră. | Da: MIT în afara directorului enterprise/. Codul enterprise cere „a valid BerriAI Enterprise license” în producție; SSO este gratuit până la 5 utilizatori. | |
| Formate de API | OpenAI Chat Completions, OpenAI Responses și Anthropic Messages. | /chat/completions, /responses (cu mod WebSocket), Anthropic /v1/messages, plus embeddings, imagini, audio, batches, rerank și a2a. | |
| Model de preț | Abonamente lunare în EUR: Free (5 sarcini verificate), BYOK 5 €, Student 40 € (33 de sarcini), Builder 100 € (83), Pro 300 € (250). Peste plan: 1,20 € per sarcină verificată; sarcinile neverificate se taxează la costul brut al tokenilor. | Ediția open source este gratuită. Enterprise: prețul depinde de mărimea instalării, fără prețuri publicate, perioadă de probă de 30 de zile; suportul 24/7 cu SLA se plătește separat. | |
| Unde stau datele | Gateway-ul și baza de date sunt în UE (europe-west1, Belgia). Regiunea în care rulează modelul depinde de deployment-ul furnizorului. | Găzduit de dumneavoastră: LiteLLM declară că nu trimite telemetrie, iar datele rămân în infrastructura proprie. Suportă instalare izolată de internet și filtru de deployment UE (region_name: "eu"). | |
| Rutare | codai trimite fiecare cerere către un nivel din modelele Claude actuale ale Anthropic (Opus 5.5, Sonnet 5.5 sau Haiku 5.5) și trece automat pe alt deployment aprobat la eroare; antetul x-codai-routed-to arată ce model a răspuns. | Strategii: simple-shuffle (implicit), least-busy, după utilizare, după latență, după cost, personalizat; reîncercări, pauze, mai multe tipuri de rezervă; un auto-router în beta, după complexitate. | |
| Cache pentru prompturi | Activ implicit pentru fiecare cerere. | Transmite mai departe cache_control (tradus în cachePoint pentru Bedrock); cache-ul automat pentru Anthropic este dezactivat implicit; are și propriul cache de răspunsuri (Redis/Valkey, semantic, S3, GCS, memorie, disc). | |
| Server MCP | Server MCP la distanță (Streamable HTTP), cu autentificare OAuth 2.1. | Gateway MCP inclus în proxy: Streamable HTTP, SSE și stdio; control al accesului pe cheie, echipă sau organizație; OAuth 2.0 și SigV4. | |
| Monedă de facturare / facturi | Prețuri și plăți în EUR; facturile sunt emise de vânzătorul din România. | Licența enterprise se cumpără pe factură, prin AWS Marketplace sau Azure Marketplace. Moneda de facturare nu este menționată pe paginile sale. | |
| Sediul companiei | IMS SRL (Interactive Media Solutions S.R.L.), Târgu Jiu, România. | Entitatea juridică „Berrie AI Incorporated” (insignă YC W23). Paginile proprii nu indică țara sediului. |
Unde paginile LiteLLM se contrazic
Numărul de furnizori diferă: README-ul spune „100+ LLM providers”; site-ul spune „140+ providers and 1,800+ models” și „1,892 Unique models”.
Certificările sunt declarate diferit: pagina de securitate a datelor spune „SOC 2 Type II”; pagina enterprise spune „SOC 2 Type 2 and ISO 27001”.
Surse
- www.litellm.ai
- docs.codai.ro/docs/gateway
- codai.ro/subprocessors
- github.com/BerriAI/litellm
- docs.litellm.ai/docs/
- raw.githubusercontent.com/BerriAI/litellm/main/LICENSE
- raw.githubusercontent.com/BerriAI/litellm/main/enterprise/LICENSE.md
- docs.litellm.ai/docs/enterprise
- docs.codai.ro/docs/gateway/wire-formats
- docs.litellm.ai/docs/response_api
- docs.litellm.ai/docs/anthropic_unified
- codai.ro/pricing
- www.litellm.ai/enterprise
- codai.ro/security
- docs.litellm.ai/docs/data_security
- docs.litellm.ai/docs/proxy/reliability
- docs.codai.ro/docs/gateway/models
- docs.litellm.ai/docs/routing
- docs.litellm.ai/docs/proxy/auto_routing
- docs.codai.ro/docs/gateway/headers
- docs.litellm.ai/docs/completion/prompt_caching
- docs.litellm.ai/docs/tutorials/prompt_caching
- docs.litellm.ai/docs/proxy/caching
- docs.codai.ro/docs/gateway/clients
- docs.litellm.ai/docs/mcp
- codai.ro/imprint
Informații din paginile publice ale fiecărui furnizor, la data de 2 octombrie 2026; scrieți-ne la [email protected] dacă ceva s-a schimbat.