Hugging Face Blog Research & Papers · May 16, 2024 00:00 imp:45

Unlocking Longer Generation with Key-Value Cache Quantization

Abre la fuente original para leer el artículo completo.