Cuantización escalar - Cuantización vectorial

Miguel Díaz Martín, Marta Eugenia Gavilán Sierra, Álvaro López López, Jose Palenzuela Porcel
miguel2001diaz@correo.ugr.es
gsmarta@correo.ugr.es
alvaro192@correo.ugr.es
josepalenzuela@correo.ugr.es
Curso 3º Universidad de Granada

Sistemas de Codificación y Almacenamiento

Grado en Ingeniería de Tecnologías de Telecomunicación

Abstract- Análisis comparativo entre la cuantización escalar
(SQ) y la cuantización vectorial (VQ) dentro del contexto de la
codificación paramétrica. El estudio se particulariza en la
aplicación de ambas técnicas a la codificación de parámetros
LSF (Line Spectral Frequencies), que son una transformación de
los coeficientes de análisis LPC. El examen de estas técnicas se
realizará en término de dos parámetros, la distorsión cuadrática
y el número de bits necesarios para codificarlos.
I. INTRODUCCIÓN
La conversión analógico-digital se compone en general
de tres etapas: muestreo, cuantización y codificación. Tras
muestrear adecuadamente la señal análogica esta
experimenta una segunda etapa de traducción, la
cuantización o asignación de un valor determinado a cada
intervalo o muestra de la señal. Sin embargo, este proceso
constituye uno de los limitantes propios de la transmisión
digital introduciendo el denominado error o ruido de
cuantización, al dejar de presentarse la señal original con
total exactitud.
Se distinguen dos métodos de cuantización, escalar (SQ)
y vectorial (VQ), dependiendo la aplicación de una u otra
(codificación paramétrica) de los parámetros de calidad
exigidos, de forma que la aplicación de una técnica u otra
será un compromiso a alcanzar entre distorsión, bit-rate,
características de los parámetros entre otros.
El análisis a desarrollar se realizará utilizando las
herramientas ofrecidas por el software Matlab para el diseño
de cuantizadores tanto escalares como vectoriales: ‘sqdtool’
y ‘vqdtool’ respectivamente.
Con objeto de comparar los resultados de aplicación para
los distintos métodos de cuantización se trabajará con el
Error Cuadrático Medio (ECM) como medida de distorsión.
El software proporciona un vector donde el último valor
corresponde a la última iteración del algoritmo Lloyd donde
converge a su valor óptimo, es decir, al valor mínimo de
distorsión, y por tanto, minimiza el Error Cuadrático Medio.
Para evaluar la eficiencia de cada técnica se consideran
10 parámetros LSP donde:
● Para la cuantización escalar la asignación de bits es
la siguiente: {7,8,8,8,7,6,6,5,5,4}
● En cuanto a la cuantización vectorial se distinguen
cuatro casos donde se varía el número de
cuantizadores, las dimensiones de los vectores así
como, los bits utilizados para representar los
índices:
- Caso A: Un cuantizador vectorial con
vectores de 10 dimensiones con 10 bits
para los índices.
- Caso B: Dos cuantizadores de 8 y 7 bits
respectivamente constituidos por los
parámetros de 1 a 5 y de 6 a 10.
- Caso C: Tres cuantizadores constituidos
por vectores de 3 dimensiones utilizando
8,7 y 6 bits respectivamente.
- Caso D: Cinco cuantizadores vectoriales
de dos dimensiones con 7,8,7,5,4 bits.
Obteniéndose los siguientes resultados:

El diseño de los cuantizadores se construirá en base a un LSPs Último valor del error
conjunto de parámetros LSP, extraídos de aplicar el análisis cuadrático medio
LPC a un conjunto de señales de voz. Dicho análisis genera LSP 1 (7 bits) 3.5858e-08
un vector de 10 componentes por cada 20 ms de señal LSP 2 (8 bits) 2.2727e-08
procesada, siendo la señal muestreada a 8KHz. LSP 3 (8 bits) 3.9481-08
LSP 4 (8 bits) 4.4461e-08
II. ERROR CUADRÁTICO MEDIO
LSP 5 (7 bits) 2.2833e-07
La cuantización escalar es independiente de cada valor o
LSP 6 (6 bits) 6.7720e-07
parámetro de la señal mientras que, la vectorial es la
cuantización conjunta de un bloque. LSP 7 (6 bits) 7.3857e-07
LSP 8 (5 bits) 1.7754e-06
Ambas técnicas pueden emplearse efectivamente en LSP 9 (5 bits) 1.2444e-06
términos de la correlación, con la apropiada transformación LSP 10 (4 bits) 2.2602e-06
de coordenadas para el caso de cuantización vectorial. Tabla 1: Error cuadrático medio cuantización escalar
 Siendo la media de todos los errores cuadráticos medios: III. TASA DE BITS
7.0668e-07 Una vez analizada la calidad de cada técnica en
términos del error cuadrático medio, debemos alcanzar un
Mientras que los errores cuadráticos de los cuantizadores compromiso entre minimizar dicho error y conseguir la
vectoriales para cada uno de los casos descritos con máxima tasa de bits posible.
anterioridad es:
Para el cuantizador escalar la tasa de bits Rb se
● Caso A: obtiene de la siguiente forma:
LSPs Último valor del error
cuadrático medio 𝑏𝑖𝑡𝑠
𝑅𝑏( 𝑠𝑒𝑔𝑢𝑛𝑑𝑜 ) =
𝑛º 𝑑𝑒 𝑏𝑖𝑡𝑠
·
𝑛º 𝑑𝑒 𝑝𝑎𝑟á𝑚.
·
𝑣𝑒𝑛𝑡𝑎𝑛𝑎𝑠
[Ecuación 1]
𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜 𝑣𝑒𝑛𝑡𝑎𝑛𝑎 𝑠𝑒𝑔𝑢𝑛𝑑𝑜
LSP_1a10 (10 bits) 5.5814e-04
Tabla 2: Error cuadrático medio cuantización vectorial caso A
● Caso B: De este modo, para un cuantizador de 7 bits con
7
LSPs Último valor del error 𝐿 = 2 = 128 niveles de cuantización como el LSP 1 y LSP
cuadrático medio 5 tendremos:
LSP_1a5 (8 bits) 1.3768e-04 𝑏𝑖𝑡𝑠 1 𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜 1 𝑣𝑒𝑛𝑡𝑎𝑛𝑎 𝑏𝑖𝑡𝑠
LSP_6a10 (7 bits) 2.8869e-04 7 𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜
· 𝑣𝑒𝑛𝑡𝑎𝑛𝑎 −3 = 350 𝑠𝑒𝑔𝑢𝑛𝑑𝑜
20*10 𝑠𝑒𝑔𝑢𝑛𝑑𝑜𝑠

Tabla 3: Error cuadrático medio cuantización vectorial caso B 8

Para un cuantizador de 8 bits con 𝐿 = 2 = 256
● Caso C: niveles de cuantización como el LSP 2, LSP 3 y LSP 4
LSPs Último valor del error tendremos:
cuadrático medio 𝑏𝑖𝑡𝑠 1 𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜 1 𝑣𝑒𝑛𝑡𝑎𝑛𝑎 𝑏𝑖𝑡𝑠
8 · · = 400
LSP_1a3 (8 bits) 1.6696e-05 𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜 𝑣𝑒𝑛𝑡𝑎𝑛𝑎 −3 𝑠𝑒𝑔𝑢𝑛𝑑𝑜
20*10 𝑠𝑒𝑔𝑢𝑛𝑑𝑜𝑠

LSP_4a6 (7 bits) 8.0853e-05 De igual forma para el resto, obteniendo la siguiente

LSP_7a10 (6 bits) 2.0048e-04 tabla:
Tabla 4: Error cuadrático medio cuantización vectorial caso C
LSPs Tasa de bits (bitrate)
● Caso D:
LSP 1 (7 bits) 350 bits/s
LSPs Último valor del error LSP 2 (8 bits) 400 bits/s
cuadrático medio LSP 3 (8 bits) 400 bits/s
LSP_1a2 (7 bits) 3.3379e-06 LSP 4 (8 bits) 400 bits/s
LSP_3a4 (8 bits) 6.29862e-06 LSP 5 (7 bits) 350 bits/s
LSP_5a6 (7 bits) 1.6869e-05 LSP 6 (6 bits) 300 bits/s
LSP_7a8 (5 bits) 5.1841e-05 LSP 7 (6 bits) 300 bits/s
LSP_9a10 (4 bits) 4.6914e-05 LSP 8 (5 bits) 250 bits/s
Tabla 5: Error cuadrático medio cuantización vectorial caso D LSP 9 (5 bits) 250 bits/s
LSP 10 (4 bits) 200 bits/s
Total: 3.2 Kbits/s
Siendo la media de los ECM de los cuantizadores
utilizados en las diferentes situaciones analizadas: Tabla 7: Tasa de bits cuantización escalar

Caso Último valor del error La tasa de bits para cada uno de los cuantizadores
cuadrático medio vectoriales se obtiene de forma similar mediante la ecuación
1.
A 5.5814e-04 Para el caso A, la tasa de bits del cuantizador
10
B 2.1319e-04 vectorial de 10 bits con 𝐿 = 2 = 1024 niveles de
cuantización se obtiene:
C 9.9344e-05 𝑏𝑖𝑡𝑠 𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜𝑠 1 𝑣𝑒𝑛𝑡𝑎𝑛𝑎 𝑏𝑖𝑡𝑠
10 𝑝𝑎𝑟á𝑚𝑒𝑡𝑟𝑜
·10 𝑣𝑒𝑛𝑡𝑎𝑛𝑎
· −3 = 5000 𝑠𝑒𝑔𝑢𝑛𝑑𝑜
20*10 𝑠𝑒𝑔𝑢𝑛𝑑𝑜𝑠
D 2.5052e-05
Tabla 6: Media de los ECM para cada caso analizado en
cuantización vectorial
 ● Caso A:

LSPs Tasa de bits (bitrate)

LSP_1a10 (10 bits) 5 Kbits/s
Total: 5 Kbits/s
Tabla 8: Tasa de bits cuantización vectorial caso A
● Caso B:

LSPs Tasa de bits (bitrate)

LSP_1a5 (8 bits) 2.5 Kbits/s
LSP_6a10 (7 bits) 1.75 Kbits/s
Total: 4.25 Kbits/s
Figura 1: Histograma de los parámetros LSP individuales
Tabla 9: Tasa de bits cuantización vectorial caso B
Sin embargo, cuando representamos la diferencia
● Caso C: entre parámetros, todos se distribuyen en los intervalos de 0 a
150 aproximadamente ya que tomamos la diferencia entre
LSPs Tasa de bits (bitrate) cada parámetro de índices consecutivos, por ejemplo los
LSP_1a3 (8 bits) 1.2 Kbits/s parámetros LSP 1 y LSP 2, y la amplitud entre parámetros
LSP_4a6 (7 bits) 1.05 Kbits/s consecutivos es similar dentro del rango 0 a 0.5.
LSP_7a10 (6 bits) 1.2 Kbits/s
Total: 3.45 Kbits/s
Tabla 10: Tasa de bits cuantización vectorial caso C
● Caso D:

LSPs Tasa de bits (bitrate)

LSP_1a2 (7 bits) 0.7 Kbits/s
LSP_3a4 (8 bits) 0.8 Kbits/s
LSP_5a6 (7 bits) 0.7 Kbits/s
LSP_7a8 (5 bits) 0.5 Kbits/s
LSP_9a10 (4 bits) 0.4 Kbits/s
Total: 3.1 Kbits/s
Tabla 11: Tasa de bits cuantización vectorial caso D
IV. EVALUACIÓN DE LA CODIFICACIÓN DE PARÁMETROS FRENTE
A LA CODIFICACIÓN DE LAS DIFERENCIAS DE LOS PARÁMETROS
Mediante el histograma obtenemos una distribución
de los valores tomados por cada conjunto de vectores de
parámetros LSP en el rango de 0 a 0.5 diferenciando 501
intervalos en dicho rango.
Si representamos el histograma de los 10 vectores de
parámetros LSP, estos se distribuyen sobre todos los 501
intervalos ya que cuanto mayor es el índice del parámetro
toma intervalos de mayor valor (se aproxima más a 0.5 y por
tanto a intervalos más cercanos a 501). Mientras que LSP 1 se
distribuye en los intervalos de 0 a 100, LSP 10 se distribuye
en los intervalos de 400 a 500 aproximadamente.
Figura 2: Histograma de las diferencias entre parámetros LSP
De este modo, únicamente necesitaríamos 8 bits para
codificar los aproximadamente 150 intervalos mientras que
para codificar los 501 intervalos necesitaríamos 9 bits.
V. CONCLUSIONES
En primer lugar, en el cuantizador escalar hemos
podido comparar distintos niveles de cuantización, viendo
cómo al ir reduciendo el número de niveles desde el LSP 1 al
LSP 10 el ECM aumenta. Esto es debido a que reducir el
número de niveles aumenta el ruido de cuantización ya que la
aproximación a valores discretos de la señal continua es
menos exacta debido a aumentar la distancia entre niveles.
En segundo lugar, comparando los distintos
cuantizadores vectoriales modificando la dimensión de cada
cuantizador vemos como cuanto menor es la dimensión del
cuantizador disminuye el ECM o lo que es lo mismo emplear
un mayor número de cuantizadores da mejores resultados.

Se comprueba que se obtienen mejores resultados,

en el sentido del mínimo ECM, en cuantización escalar.
Considerado el ECM como el parámetro fundamental para
reducir el error de cuantización, el cuantizador escalar es la
mejor configuración en nuestro caso. No obstante, en
términos de la velocidad total de bit, la ventaja relativa
aportada por la cuantización vectorial es evidentemente
superior.

REFERENCIAS

[1] JARAMILLO VINUEZA, E. D. (1994). ESTUDIO DE LA CUANTIZACIÓN

VECTORIAL (BACHELOR'S THESIS, QUITO/EPN/1994).

[2] SOONG, F.K. ; BIING-HWANG JUANG, “OPTIMAL QUANTIZATION OF

LSP PARAMETERS”. IEEE TRANSACTIONS ON SPEECH AND AUDIO
PROCESSING, VOLUME: 1, ISSUE: 1. YEAR: 1993, PP: 15 – 24
(HTTP://IEEEXPLORE.IEEE.ORG/STAMP/STAMP.JSP?TP=&ARNUMBER=221364)
.

[3] GERSHO, A. AND R. GRAY. ‘VECTOR QUANTIZATION AND SIGNAL

COMPRESSION’. BOSTON: KLUWER ACADEMIC PUBLISHERS, 1992.