Describe el teorema de codificación fuente de longitud variable
Describe el teorema de codificación fuente de longitud variable D'<=D.
La importancia del primer teorema de Shannon: convertir los símbolos fuente originales en nuevos símbolos de código, de modo que los símbolos de código obedezcan la distribución de probabilidad igual tanto como sea posible, de modo que la cantidad de información transportada por cada símbolo de código alcanza el máximo, y luego la información fuente se puede transmitir con la menor cantidad de símbolos de código posible.
Segundo teorema de Shannon
Teorema de codificación de canales ruidosos. Cuando la velocidad de transmisión de información del canal no excede la capacidad del canal, se puede utilizar un método de codificación de canal apropiado para lograr una confiabilidad de transmisión arbitrariamente alta. Sin embargo, si la velocidad de transmisión de información excede la capacidad del canal, la transmisión confiable es imposible.
Tercer teorema de Shannon
El teorema de codificación de fuente bajo el criterio de fidelidad, o teorema de codificación de fuente con pérdida. Siempre es posible encontrar una codificación fuente que haga que la velocidad de transmisión de información codificada sea ligeramente mayor que la función de distorsión de velocidad, y que la distorsión promedio del código no sea mayor que la distorsión permitida dada, es decir, D'<=D.
Los tres teoremas de Shannon son las teorías básicas de la teoría de la información. Los tres teoremas principales de Shannon son teoremas de existencia. Aunque no proporcionan métodos de implementación de codificación específicos, señalan la dirección para la investigación de la información comunicativa. El primer teorema de Shannon es un teorema de codificación de fuente libre de distorsión de longitud variable, el segundo teorema de Shannon es un teorema de codificación de canal ruidoso y el tercer teorema de Shannon es un teorema de codificación de fuente libre de distorsión según el criterio de preservación de la distorsión.
La codificación fuente es una transformación de los símbolos fuente con el fin de mejorar la eficacia de la comunicación, o una transformación de los símbolos fuente con el fin de reducir o eliminar la redundancia de la fuente. Una de las funciones de la codificación de fuente es la comúnmente conocida como compresión de datos; la segunda función es convertir la señal analógica de la fuente en una señal digital para lograr la transmisión digital de señales analógicas.
Específicamente, se trata de encontrar un método basado en las características estadísticas de la secuencia de símbolos de salida de origen para transformar la secuencia de símbolos de salida de origen en la secuencia de palabras de código más corta, de modo que los elementos de código transportados por cada símbolo de la estos últimos son La cantidad promedio de información es la más grande, al tiempo que garantiza que la secuencia de símbolos original se pueda restaurar sin distorsión. Codifique la información de entrada, optimice la información y comprímala en paquetes de datos que cumplan con los estándares.