Física (plan 2002) 2019-1

Optativas, Temas Selectos de Física Matemática y Teórica III

Teoría de la Información

Horario definitivo: lunes, miércoles y viernes 12 p.m.

Ya nos asignaron al salon P109

En este curso se explorarán los conceptos de información, bit, entropía de información,

comunicación, codificación, compresión y otros temas relacionados con la teoría de la información.

La materia no requiere conocimientos avanzados de física, pero se prefiere que tengas

buenas bases de termodinámica. También se prefieren unas buenas bases de probabilidad,

aún así al principio del curso se dará un repaso a los temas básicos de probabilidad necesarios.

Reunión:

• Lunes 6 de agosto 11 horas en el salón de seminarios 436
• Miercoles 8 de agosto 11 horas
• Viernes 10 de agosto 11 horas

Temario

Introducción a la teoría de la información

1. El concepto de Información

2. Definición de Información

3. Herramientas matemáticas

Entropía en la teoría de la Información

1. Entropía

2. Entropía relativa y condicional

3. Desigualdad de procesamiento de datos

Entropía de los procesos estocásticos

1. Cadenas de Markov

2. Segunda ley de la termodinámica en la teoría de la información

Compresión de datos

1. Códigos y propiedades

2. Códigos óptimos

3. Códigos de Huffman

4. Códigos de Shannon

5. Aplicaciones

Transmisión de Información

1. Capacidad de canal y propiedades

2. Capacidad de canal y codificación

3. Aplicaciones

Canales gaussianos

1. Entropía diferencial

2. Importancia y propiedades de canales gaussianos

3. Distorsión

4. Entropía en canales gaussianos

5. Aplicaciones

Bibliografía

Thomas M. Cover, Joy A. Thomas. Elements of Information Theory. Wiley, 2006

Fazlollah M. Reza. An Introduction to Information Theory. Dover Books on Mathematics