Katalgu tal-mudelli
Katalgu ta’ mudelli b’sors miftuħ
Iffiltra mudelli miftuħa skont id-daqs, il-memorja meħtieġa u l-liċenzja — nimplimentaw kwalunkwe wieħed minnhom privatament, fuq il-hardware tiegħek.
| Mudell | Parametri | VRAM minima | Liċenzja | L-aħjar għal |
|---|---|---|---|---|
| Phi-3.5 mini | 3.8B | 4 GB | MIT | Edge u apparati |
| Mistral 7B | 7B | 6 GB | Apache 2.0 | Assistenti mgħaġġla |
| Llama 3.1 8B | 8B | 8 GB | Llama 3.1 | Kopiloti u chat |
| Qwen 2.5 7B | 7B | 8 GB | Apache 2.0 | Chat multilingwi |
| Gemma 2 9B | 9B | 10 GB | Gemma | Kompiti ħfief |
| Gemma 2 27B | 27B | 20 GB | Gemma | Kwalità bilanċjata |
| Qwen 2.5 32B | 32B | 24 GB | Apache 2.0 | Raġunament u analiżi |
| Mixtral 8x7B | 47B MoE | 24 GB | Apache 2.0 | Kapaċità u RAG |
| Llama 3.3 70B | 70B | 40 GB | Llama 3.3 | Raġunament ta’ kwalità għolja |
| Qwen 2.5 72B | 72B | 40 GB | Qwen | Kompiti kumplessi |
| Mixtral 8x22B | 141B MoE | 80 GB | Apache 2.0 | Tagħbijiet tal-intrapriża |
| Llama 3.1 405B | 405B | Multi-GPU | Llama 3.1 | Kwalità massima |
| DeepSeek R1 | 671B MoE | Multi-GPU | MIT | Raġunament avvanzat |
| Falcon 180B | 180B | Multi-GPU | Falcon | Servizz fuq skala kbira |
L-ebda mudell ma jaqbel mal-filtru.
VRAM minima indikattiva għal inferenza kwantizzata; nikkalkulaw il-hardware eżatt għal kull każ ta’ użu.