Cerebras je objavio da njegov WSE-3T wafer sadrži 44 GB on-chip memorije, dok modeli s bilijunom parametara zahtijevaju terabajte podataka za težine. U ilustrativnom primjeru prikazan je otvoreni model Kimi K3 s otprilike tri bilijuna parametara, 69 linear-attention i 24 gustih slojeva.
Izračun je pokazao da svaki sloj zauzima oko 16 GB, pa je za smještaj svih slojeva potrebno 59 wafer-a. Model se izvršava u cjevovodu, pri čemu se aktivacije između wafer-a prenose RDMA-om preko Ethernet-a, što traje otprilike dva mikrosekunde po skoku.
