1 post found
O TurboQuant do Google alcanca compressao 6x do cache KV sem perda de precisao, tornando a inferência de IA em CPUs comuns uma realidade em produção.