Svaki Mac koji se danas prodaje može pokrenuti jezični model lokalno. Većina ljudi ili to ne zna ili misli da to znači model s 70 milijardi parametara na Mac Studiu vrijednom 5.000 dolara. MacBook Air koji već posjedujete sposoban je za to. Bilo koji Mac s Apple Siliconom može pokrenuti lokalne LLM-ove. Grubi vodič: modeli s 1-3 milijardi parametara mogu se pokrenuti bilo gdje, modele s 7-8 milijardi parametara ugodno je pokrenuti na 8 GB memorije, model s 14 milijardi parametara zahtijeva 16 GB, a model s 70 milijardi parametara zahtijeva 64 GB ili više. Alati su besplatni - Ollama ili LM Studio.
Local LLMs on Macs
Izvori
Originalni sadržaj iz javnih izvora. Pune članke ne objavljujemo — kliknite za izvornu publikaciju.
- Hacker News Front (2026-09-25 08:53) Pročitaj original ↗
AI će pretražiti dodatne izvore i sintetizirati detaljniji sažetak (8-12 rečenica) iz više izvora. Rezultat se ne sprema javno i ne indeksira.