Katalog modeli
Katalog modeli open source
Filtruj otwarte modele według rozmiaru, wymaganej pamięci i licencji — każdy z nich wdrożymy prywatnie, na Twoim sprzęcie.
| Model | Parametry | Min. VRAM | Licencja | Najlepszy do |
|---|---|---|---|---|
| Phi-3.5 mini | 3.8B | 4 GB | MIT | Edge i urządzenia |
| Mistral 7B | 7B | 6 GB | Apache 2.0 | Szybcy asystenci |
| Llama 3.1 8B | 8B | 8 GB | Llama 3.1 | Asystenci i czat |
| Qwen 2.5 7B | 7B | 8 GB | Apache 2.0 | Czat wielojęzyczny |
| Gemma 2 9B | 9B | 10 GB | Gemma | Lekkie zadania |
| Gemma 2 27B | 27B | 20 GB | Gemma | Zrównoważona jakość |
| Qwen 2.5 32B | 32B | 24 GB | Apache 2.0 | Rozumowanie i analiza |
| Mixtral 8x7B | 47B MoE | 24 GB | Apache 2.0 | Przepustowość i RAG |
| Llama 3.3 70B | 70B | 40 GB | Llama 3.3 | Rozumowanie wysokiej jakości |
| Qwen 2.5 72B | 72B | 40 GB | Qwen | Złożone zadania |
| Mixtral 8x22B | 141B MoE | 80 GB | Apache 2.0 | Obciążenia korporacyjne |
| Llama 3.1 405B | 405B | Multi-GPU | Llama 3.1 | Maksymalna jakość |
| DeepSeek R1 | 671B MoE | Multi-GPU | MIT | Rozumowanie na granicy możliwości |
| Falcon 180B | 180B | Multi-GPU | Falcon | Obsługa na dużą skalę |
Żaden model nie pasuje do filtra.
Orientacyjna minimalna pamięć VRAM dla inferencji kwantyzowanej; dokładny sprzęt dobieramy do konkretnego zastosowania.