Andrew preoblikovao je dva grafička procesora Tesla V100 iz 2017. godine u PCI karticu koja omogućuje njihovo istovremeno korištenje u radnoj stanici. Ti V100‑i, iako stariji, posjeduju brzu memoriju koja im omogućuje pokretanje velikih jezičnih modela poput Gemma 4 26B i Qwen3 35B izravno na računalu. Gemma 4 26B radi nešto brže jer se cijeli model smješta u memoriju GPU‑a, dok je Qwen3 35B sposobniji, ali zahtijeva više resursa. Za rad na sustavu Windows, NVIDIA‑in upravljački program za V100‑e podrazumijevano je u načinu TCC (Tesla Compute Cluster), koji je namijenjen isključivo izračunima i ne podržava prosljeđivanje u WSL.
Stariji datacenterski GPU‑i Tesla V100 omogućuju lokalno izvođenje velikih jezičnih modela
Izvori
Originalni sadržaj iz javnih izvora. Pune članke ne objavljujemo — kliknite za izvornu publikaciju.
- Hackaday (2026-07-30 14:00) Pročitaj original ↗
AI će pretražiti dodatne izvore i sintetizirati detaljniji sažetak (8-12 rečenica) iz više izvora. Rezultat se ne sprema javno i ne indeksira.