Creează un cont pentru a te abona la acest blog și a-i urmări articolele pe pagina Lectură.
Articole: 9
-
(Part 3) Sampling strategies and why inference optimizations pose a security tradeoff
-
(Part 2) The inference side of transformers, along with systems tricks that make production LLMs fast
-
(Part 1) BPE Tokenizers under the hood, and where tokenization breaks math, spelling and code