Latency

Kỹ thuật Speculative Caching: prefetch và cache context được dự đoán trước — giảm time-to-first-token từ giây xuống milliseconds cho các luồng tương tác phổ biến.