el método más simple para obtener una cuantificación y codificación de los coeficientes (que resultan en una compresión con pérdidas) es la siguiente:
si queremos controlar un poco el error que se comete en vez de asumir un umbral predetermindado podemos actuar como sigue:
primero asumimos que la transformada calculada es una aproximación suficientemente bien a la imagen original, es decir
(para simplificar la notación, enumeramos todas las funciones bases ortonormales participando en la transformación con un índice y las llamamos )
ya sabemos que los coeficientes pequeños son los posibles candidatos para ser eliminados, por eso ordenamos los coeficientes de la transformada de una imagen con píxels en orden descendente, es decir, obtenemos
indicando la permutación de índices
si eliminamos a partir de algún índice los coeficientes cometemos el error
entonces eliminamos los coeficientes pequeños empezando desde el índice hacia mientras que la suma sea menor que algún relacionado con la máxima relación entre señal y error (pSNR) que queremos permitir
porque la ordenación requiere para imágenes grandes mucho tiempo y espacio (necesitamos guardar la permutación) es más aprobriado realizar una búsqueda binaria para encontrar el umbral idóneo: