RTX 3090 ima memorijsku propusnost od 936,2 GB/s, ali 24 GB VRAM-a ograničava brzinu obrade upita. Jedan je programer na grafičkoj kartici pokrenuo model Qwen3.8-27B i postigao početnu brzinu od 82 tokena u sekundi.
Nakon što je objavio i primijenio vlastiti sustav za zaključivanje, brzina je porasla na 382 tokena u sekundi, što je povećanje 4,6 puta. Poboljšanja su postignuta primjenom spekulativnog dekodiranja, uključujući drafter „DFlash2“ koji predviđa sedam tokena odjednom i „lookup“ drafter koji dodatno ubrzava proces.
Unatoč ubrzanju, točnost na matematičkom mjerilu ostala je stabilna, 96,5 posto.
