Una guía sobre Inference Engineering

Batching, prefix caching, cuantización, speculative decoding y paralelismo