- Дискретный канал без шума
- Дискретный источник информации
- Постепенное приближение к английскому языку
- Представление марковского процесса в виде графа
- Эргодические и смешанные источники
- Выбор, неопределенность и энтропия
- Энтропия источника информации
- Представление операций кодирования и декодирования
- Основная теорема для канала без шума
- Обсуждение и примеры
- Представление зашумленного дискретного канала
- Ошибочность и пропускная способность канала
- Основная теорема для дискретного канала с шумом
- Обсуждение
- Пример дискретного канала и его пропускная способность
- Пропускная способность канала в некоторых специальных случаях
- Пример эффективного кодирования
- Приложение 1. Рост числа блоков символов при условии конечности числа состояний
- Приложение 2. Получение выражения
- Приложение 3. Теоремы об эргодичесих источниках
- Приложение 4. Максимизация темпа для системы с ограничениями
- Множества и ансамбли функций
- Ансамбли функций с ограниченным диапазоном частот
- Энтропия непрерывного распределения
- Энтропия ансамбля функций
- Потери энтропии в линейных фильтрах
- Энтропия суммы двух ансамблей
- Пропускная способность непрерывного канала
- Пропускная способность канала с ограничением средней мощности
- Пропускная способность канала с ограничением максимальной мощности