Поток информации и избыточность. Назначение избыточности.
Одна из основных динамических характеристик – скорость передачи, или поток информации. Это количество информации, вырабатываемое источником в единицу времени:
 .
| (1.113) |
Единица измерения потока – бит/с или бод. Если, например, информация передаётся двоичным кодом с периодом следования импульсов 
, то поток информации 
(бод). В выражении (1.113) 
называется потоком условной энтропии.
, часть которого 
теряется в информационном канале, поэтому приёмнику «достаётся» только разность, которая и определяет поток информации.
Рис. 1.17. Диаграмма распределения потоков информации
Кроме потока информации обычно задаётся пропускная способность. Пропускная способность информационного канала – это максимально допустимый поток информации в нём:
 .
| (1.114) |
Обозначения символов в информационном канале взяты из рис. 1.1. Аналогично можно определить пропускную способность канала связи:
 .
| (1.115) |
Очевидно, 
. Отметим факторы, ограничивающие пропускную способность, при условии, что поток энтропии источника не ограничен.
1. Ограниченный частотный диапазон канала связи. Если принять, что сообщения передаются прямоугольными импульсами периода 
со скважностью 2, то из (1.28) известно, что частотный диапазон этих импульсов 
. Отсюда для обеспечения потока информации 
требуется частотный диапазон 
. Фактически он меньше, потому что при приёме импульсов достаточно различить два уровня: 0 и 1. Но минимально допустимая полоса частот при этом 
. Это и есть предельная оценка потока информации.
|
|
|
2. Наличие избыточности сообщений. Об избыточности русскоязычного текста уже говорилось; то же самое можно вывести и для других сообщений. Избыточность, кроме того, возникает при передаче корректирующими кодами, а также при передаче служебных импульсов (стартовых, протокольных, синхронизации т.д.).
Избыточность.Следствием ограничений на выбор источником знаков является также недоиспользование их как переносчиков информации. Известная априорная информация о вероятностях выбора отдельных знаков и их сочетаний приводит к уменьшению средней неопределенности выбора источником знака, а следовательно, и переносимого им количества информации. При равновероятном и некоррелированном выборе ту же информационную нагрузку на знак можно обеспечить, используя алфавит меньшего объема. В связи с этим говорят об избыточности алфавита l источника сообщений или просто об избыточности источника.
Мерой избыточности служит величина D, показывающая, насколько хорошо используются знаки данного источника:
|
|
|
где (Z) — максимально возможная энтропия, равная log l; H(Ζ) — энтропия источника. maxH
Если избыточность источника равна нулю, то формируемые им сообщения оптимальны в смысле наибольшего количества переносимой информации. Для передачи определенного количества информации I при отсутствии помех в этом случае необходимо k=I/[(Z)] знаков. 1 maxH
ДЭФ и их свойства.
Обозначим свойства функций ДЭФ. Они значительно отличаются от свойств обычных гармонических функций при их разложении в ряд Фурье. Кроме уже отмеченного свойства симметричности, при котором существуют семейство независимых функций снижается вдвое, существуют общие и специфические свойства.
Общие свойства:
1. Свойство нулевого среднего: при любом 
и 
постоянная составляющая функции равна 0:
 .
| (5.8) |
Это свойство идентично гармоническому ряду, но в непрерывной области. В последнем случае вместо суммы присутствует интеграл. При 
сумма равна 
, что может быть воспринято как нормирующий множитель.
2. Ортогональность. Это очень важное свойство для любой системы разложения в ряд. В данной интерпретации свойство ортогональности принимает вид:
|
|
|
 .
| (5.9) |
Другими словами, разложенные функции при усреднении на интервале из 
точек равны 0.
3. Симметричность: замена значений аргумента образует ту же функцию:
 .
| (5.10) |
4. Полнота: при заданном 
система из 
функций полная, т. е. любая другая функция представляет одну из имеющихся. Предположим, номер функции равен 
. Тогда эта функция идентична ДЭФ с номером 1.
5. Замкнутость. Является следствием полноты и сводится к следующему:
 ;
 .
| (5.11) |
Выражение (5.11) означает следующее: процедура приводит к функции из замкнутой области 
, причем результирующая функция порядка С образуется как сумма номеров функций по модулю . Так, при 
произведение функций с номерами 7 и 4 даст функцию с номером 2, что легко проверить по матрице (рис.5.13).
Упомянутые процедуры могут продлеваться на любое целочисленное значение . При числовой обработке сигналов практические значения выбираются в других областях: 
256, 512, 1024, 2056 и т. д. (все это степени двойки).
Дата добавления: 2018-02-18; просмотров: 652; Мы поможем в написании вашей работы! |
Мы поможем в написании ваших работ!