Inférence et déploiement
Quantification
La représentation des poids, activations ou caches avec une précision numérique réduite. Elle peut réduire les besoins en mémoire, bande passante et calcul, avec des compromis en matière de précision et de prise en charge matérielle.
Termes clés
- précision (precision)
- INT8
- INT4
- poids seuls (weight-only)
Liens dans le projet
Technologies liées
Articles liés
Contexte historique
Sources primaires
Cette carte est une sélection éditoriale, non une prétention à l’exhaustivité.