Оценка информационных потерь H(B/A) при передаче информации в канале связи и количества полученной информации I(B,A)

Для определения количества полученной информации I(B,A) на основании канальной матрицы P(bj/ai) (Приложение В) строится матрица объединения P(ai,bj) (Приложение Г). Значения в ячейках канальной матрицы P(bj/ai) построчно умножаются на вероятности P(ai) появления символов первичного алфавита, присвоенных кодовым комбинациям в процессе минимизации кодового отображения. Иначе значения в каждой ячейке матрицы P(ai,bj) определяются по формуле

(ai,bj)=P(bj/ai)P(ai) (2.13)

Из матрицы объединения P(ai,bj) строится канальная матрица P(ai/bj) (Приложение 5). Для этого сначала вычисляются значения вероятностей P(bj) (таблица 2.7) появления символов bj на входе приемника информации путем суммирования по столбцам значений в ячейках матрицы P(ai,bj) в соответствии со следующим выражением:

P(bj) =P(ai,bj) (2.14)

После деления значения каждой ячейки столбца матрицы объединения P(ai,bj) на значение соответствующей вероятности P(bj) получим значение условной вероятности канальной матрицы:

(ai/bj)= P(ai,bj)/ P(bj) (2.15)

Таблица 2.7 - Значения вероятностей P(bj)

Для оценки информационных потерь Н(А/В) при передаче информация в канале связи с помощью канальной матрицы P(ai/bj) вычисляются частные условные энтропии Н(А/bj) по формуле:

Н(А/bj)= -P(ai/bj)log2 P(ai/bj) (2.16)

Таблица 2.8 - Значения частных условных энтропий Н(А/bj)

Общая условная энтропия определяется выражением:

Н(А/В)= P(bj) Н(А/bj) (2.17)

Н(А/В)= 0,1178

Количество принятой информации определяется по формуле:

(B,A)=H(A)-H(A/B), (2.18)

где Н(А) - безусловная энтропия для источника информации:

Н(А)= -P(ai)log2 P(ai)) (2.19)

Н(А)= 3,2884(B,A)=H(A) - H(A/B) (2.20)

(B,A)= 3,2884-0,1178=3,17061

Для нахождения объема информации, которая пройдет через канал связи, следует воспользоваться выражением:

I=KI(B,A), (2.21)

где К - количество передаваемых символов в информационном сообщении (К=14), которое мы получили в процессе выполнения первого этапа.=44,3885

Другие стьтьи в тему

Разработка приемника системы персонального радиовызова
Системы персонального радиовызова позволяют передавать вызов и необходимый минимум информации одному человеку или группе людей независимо от места их нахождения. Первоначально системы персонального радиовызова функционировали с радиусом действия, ограниченным территорией или помещения ...

Разработка измерительного преобразователя
Современная экономика характеризуется широкой интеграцией передовых технологий, в том числе и в области промышленной электроники. Мировая тенденция - тесное сотрудничество разработчиков элементной базы, электронных систем и аппаратуры, т. е. объединение научно-технических потенциал ...