Strata je AI runtime aplikacija objavljena na GitHubu koja kvantiziranu verziju 125-milijardi-parametarskog modela Qwen3.8-Flash-Next omogućuje rad na visokokvalitetnim gaming računalima. Aplikacija učitava cijeli MoE model u RAM, a najčešće korištene pod-modele smješta u GPU-VRAM, uz spekulativno dekodiranje koje predviđa nadolazeće tokene. Za pokretanje je potreban NVIDIA ili AMD grafički procesor s najmanje 12 GB VRAM-a, 32 GB RAM-a, SSD od 80 GB i operativni sustav Windows 10/11 ili Linux. Preuzimanje modela zauzima oko 70 GB, pri čemu se pri pokretanju učitava 35–55 GB u RAM, što uzrokuje usporavanje računala tijekom prvih jedne do tri minute.
Strata omogućuje pokretanje 125-milijardi parametara LLM-a na kućnom računalu
Izvori
Originalni sadržaj iz javnih izvora. Pune članke ne objavljujemo — kliknite za izvornu publikaciju.
- finance.biggo.com (2026-10-05 13:25) Pročitaj original ↗
AI će pretražiti dodatne izvore i sintetizirati detaljniji sažetak (8-12 rečenica) iz više izvora. Rezultat se ne sprema javno i ne indeksira.