Cerebras je implementirao svoje Wafer Scale Engine s GPU-ima kako bi dostavio brze tokene u velikim količinama. Tvrtka je uočila veliku potražnju za brzom inferencijom 2026. godine i razvila razdijeljenu inferenciju kako bi ispunila tu potražnju.

Ovo rješenje koristi GPU-je za obradu upita i sustave Cerebrasa za generiranje izlaznih podataka, dostavljajući pet puta više tokena po megavatu istom brzinom. Cerebras Inference Cloud sada može služiti više ultra-brzih tokena kako bi ispunio tržišnu potražnju.

Partneri infrastrukture također mogu koristiti razdijeljeno rješenje Cerebrasa kako bi postigli više ultra-brzih tokena u vlastitim podatkovnim centrima. Cerebras je uložio u razdijeljivanje kako bi povećao propusnost tokena po megavatu, očuvajući istovremeno svoje ultra-brze brzine generiranja.

Tvrtka planira omogućiti sebi i svojim partnerima da služe više ultra-brzih tokena 2027. godine i dalje.