Ансамбль - сообщение
Cтраница 2
То, что для синтеза оптимального линейного фильтра требуются ограниченные статистические данные об ансамблях сообщений и смесей, оказывается весьма привлекательным с точки зрения практики. Другое положительное свойство линейных методов состоит в их простоте по сравнению с нелинейными методами и, наконец, по-видимому, применение этих методов для последетекторной обработки в значительной мере связано с традицией. [16]
 |
Эквивалентная схема [ IMAGE ] Линеаризованная функцио-для определения весовой функции нальная система автоподстройки. [17] |
Здесь статистическое усреднение проводится как по ансамблю случайных широкополосных помех, так и по ансамблю сообщений. [18]
Если функция расстояния Q ( х, у) является средне-квадратичны отклонением х от у и ансамбль сообщений представляет собой белый шум, то скорость создания сообщений может быть определена. [19]
Правило декодирования с минимальной вероятностью ошибки является правилом, которое минимизирует вероятность ошибочного декодирования для заданных ансамбля сообщений, множества кодовых слов и канала. Пусть PN ( у хт) - вероятность приема последовательности у при условии, что было передано т-е кодовое слово. [20]
При определении оптимального оператора в ограниченном классе может оказаться, что для решения задачи требуется меньше статистических данных об ансамблях сообщений и помех. Так, при синтезе в классе линейных систем оказывается достаточным знание не полного апостериорного распределения, а лишь вторых моментов сообщений и смесей. Последнее обстоятельство также играет существенную роль при выборе ограничений на класс оператора: если знания статистики ансамблей ограничены, нет смысла ставить задачу оптимизации в классе всех систем. [21]
В предыдущем параграфе в примере кодирования двоичного постоянного источника, по сути дела, была доказана прямая теорема кодирования относительно энтропии ансамбля сообщений. Ниже мы покажем, что аналогичное утверждение справедливо для произвольного дискретного постоянного источника. Тем самым будет установлено, что Н ( Х) является скоростью создания информации для дискретного постоянного источника. [22]
 |
Пример произведения Очевидно, что число элементов в двух конечных множеств. множестве Z равно LZLXLY. На. [23] |
В тех случаях, когда из контекста ясно, о каком распределении вероятностей р ( х) идет речь или когда точный характер распределения несуществен, будем обозначать ансамбль сообщений через X, указывая тем самым только множество элементов ансамбля. [24]
Для того чтобы задача построения оптимального оператора могла быть приведена к математической формулировке в виде (6.1.2), (6.2.2), исходя из анализа реально существующей ситуации необходимо построить модели ансамблей сообщений, сигналов, помех, обоснованно выбрать функцию потерь, найти апостериорное распределение, задать ограничения на класс операторов. Далее рассматриваются вопросы построения ансамбля сообщений ( оценок) и выбора функции потерь. [25]
 |
К доказательству теоремы. [26] |
Таким образом, доказаны прямая и обратная теоремы кодирования для дискретных постоянных источников и показано, что скорость создания информации таким источником равна энтропии Н ( X) ансамбля сообщений X. Другими словами, наименьшее количество двоичных символов, затрачиваемых на кодирование каждого сообщения из X, равно Н ( Х) бит. [27]
Перечисленные свойства информации и энтропии подсказывают вывод, важный для объяснения деструктивных свойств помех, сопровождающих работу информационных систем: если А - ансамбль исходных сообщений, а В - ансамбль сообщений, воспроизводимых информационной системой, то / ( А, В) Я ( А) в том и только в том случае, когда преобразование А - В однозначно и обратимо. [28]
Но максимум Н - а ( х) достигается в том случае, когда у - х есть белый шум, и этот максимум равен Wl log 2iteN, где Wi - полоса частот ансамбля сообщений. [29]
Теперь будем предполагать, что при изменении времени наблюдения реализации смеси сообщение, содержащееся в сигнале, принадлежит одному и тому же ансамблю и сохраняет неизменное значение, так что по желанию получателя элементарный сеанс при сохранении ансамбля сообщений может быть задан на произвольном интервале времени. [30]
Страницы: 1 2 3 4