Caractéristique de transfert idéale
Pour analyser les erreurs des convertisseurs, nous définissons les caractéristiques de transfert idéales pour des convertisseurs 3 bits, par la figure ci-dessous :
caractéristiques de transfert idéales pour le CAN (à gauche) et CNA (à droite)
Pour les CAN, la caractéristique de transfert idéal est une courbe en escalier qui lie l'entrée (analogique) au mot binaire de sortie. On peut écrire la relation entre entrée et sortie sous forme de l'équation suivante : 
pour un CAN avec des tensions de référence respectivement 0V et 
où n est le nombre de bits du convertisseur, 
le poids fort et 
le bit de poids faible. Il faut bien comprendre que la sortie du convertisseur est bien le mot binaire formé par les n bits, de 
poids fort à 
poids faible mais 
en représente l'équivalent en tension.
Remarque :
La caractéristique précédente, appelée unipolaire puisque les tensions ne peuvent être que positives, n'est pas la seule caractéristique de transfert possible ; on peut citer la caractéristique pour un CAN bipolaire qui accepte en entrée des tensions positives et négatives et qui sort un mot binaire en complément à 2. On laisse le soin au lecteur de tracer la caractéristique de transfert correspondante.
Pour le CNA, l'équation est la même, 
sauf qu'ici la tension 
est réellement la sortie du convertisseur et le mot binaire en est l'entrée.
La résolution, pour le CAN, est la plus petite variation de tension en entrée qui engendre une modification du mot de sortie, sur le bit de poids faible. Pour le CNA, c'est la variation de la tension de sortie quand le mot en entrée change de bit de poids faible.
On voit sur les équations précédentes, que la résolution est donnée par le rapport
.
Avant d'aborder le paragraphe sur les erreurs des convertisseurs qui sont liées aux imperfections des composants qui les réalisent, il faut mentionner l'erreur de quantification qui ne concerne que les CAN : cette erreur est systématique, non lié à quelque imperfection mais inhérente au principe même de conversion qui fait passer d'un continuum de tension en entrée (une infinité de valeurs possibles) à un ensemble fini de valeurs numériques (
valeurs possibles). L'erreur de quantification représente l'écart entre la tension d'entrée et la tension correspondant au mot binaire sortie du convertisseur selon l'équation, 
Elle est souvent notée 
et elle est exprimée par : 
Les CAN sont construits de manière à ce que cette erreur systématique obéisse à la caractéristique ci-dessous :
LSB désigne le bit de poids faible (Least Significant Bit) : comme l'erreur systématique est aléatoire et comprise entre 
et 
, on peut s'attendre à ce que sa valeur moyenne soit nulle.
