Ghiduri practice de echipamente IT pentru companii: cum dimensionezi, ce compari și unde se greșește de obicei. Scrise de consultanții care fac și implementările.
VRAM cu tot cu cache KV, bandă de memorie în loc de TFLOPS, linii PCIe, sursă și răcire: ghid practic de alegere a hardware-ului pentru inferență LLM, RAG și fine-tuning, cu patru configurații comparate și o metodă de măsurare a încărcării cu vLLM și DCGM.
Un ADATA LEGEND 860 de 2 TB, un Dell R530 cu Proxmox și ZFS, și latențe de secunde la câteva sute de IOPS. Ce contează cu adevărat la un SSD de server, cele trei clase de SSD pentru homelab și cum le-aș compara cu FIO.