Na ESP32‑S3 mikrokontroleru, čija cijena iznosi otprilike osam američkih dolara, pokrenut je jezični model s 28,9 milijuna parametara. Model generira tekst izravno na čipu, bez slanja podataka na poslužitelj, i ispisuje svaku riječ na malom zaslonu pri brzini od oko devet tokena u sekundi. Za razliku od prethodnog modela s 260 tisuća parametara, ovaj koristi većinu parametara pohranjenih u flash‑memoriji uz Googleovu tehniku Per‑Layer Embeddings, čime se izbjegava opterećenje ograničene SRAM‑memorije od 512 KB. Model je treniran na skupu podataka TinyStories i sposoban je stvarati kratke, jednostavne priče, ali ne može odgovarati na pitanja, slijediti upute, pisati kod niti pružati činjenične informacije.
28,9‑milijonski jezični model radi na ESP32‑S3 mikrokontroleru od osam dolara
Izvori
Originalni sadržaj iz javnih izvora. Pune članke ne objavljujemo — kliknite za izvornu publikaciju.
- Hacker News Front (2026-07-25 18:59) Pročitaj original ↗
AI će pretražiti dodatne izvore i sintetizirati detaljniji sažetak (8-12 rečenica) iz više izvora. Rezultat se ne sprema javno i ne indeksira.