Cтраница 1
Дискретный ансамбль, элементами которого являются действительные числа, задает дискретную случайную величину. Если X - произвольный дискретный ансамбль, то всякое отображение р ( х) множества X на действительную ось задает некоторую дискретную случайную величину. [1]
Результирующий дискретный ансамбль является хорошим приближением к истинному ( на самом деле непрерывному) ансамблю. [2]
При рассмотрении дискретных ансамблей было ясно, что средняя взаимная информация не зависит от обозначений, принятых для элементов отдельных выборочных пространств. Эта инвариантность по отношению к обозначениям свойственна также средней взаимной информации в случае непрерывных ансамблей, хотя это менее очевидно. [3]
Как и для дискретных ансамблей, мы часто будем опускать подстрочные символы у плотностей вероятности, если не будет возникать двусмысленности. [4]
В свете сделанного замечания непрерывные и дискретные ансамбли различаются только тогда, когда непрерывные ансамбли рассматриваются с условием, что функции плотности вероятностей являются абсолютно непрерывными. [5]
Теорема 9.2. е-энтропия некоторого дискретного ансамбля X, вычисленная относительно ограниченного критерия качества d ( x, у), есть Е - скорость создания информации дискретным постоянным источником, выбирающим сообщения из ансамбля X, относительно того же критерия качества. [6]
Отличие этого определения от определения дискретного ансамбля состоит в том, что здесь вероятностная мера задается не на элементах ансамбля, а на интервалах. [7]
Пусть X, р ( х) - дискретный ансамбль, а У, f ( y) - непрерывный. [8]
Пусть UV, p ( u v) - произвольный дискретный ансамбль, образованный парами сообщений ( и, и), и е U, v е V, причем множества U и V состоят из одних и тех же элементов. [9]
Сходство между определениями информации, предложенными здесь и для дискретных ансамблей, удобно для запоминания, но не дает реального основания для введения этого определения. [10]
Формулы (2.10) напоминают соответствующие формулы для средней взаимной информации дискретных ансамблей. [11]
Пусть UV, p ( u, v) - произвольный дискретный ансамбль, образованный парами сообщений ( и, v), причем множества U и V состоят из одинаковых элементов. Это означает, что для любой пары ( и, v) определено событие и Ф v, которое либо выполняется, либо нет. [12]
Доказательство снова почти в точности совпадает с соответствующим доказательством для случая дискретных ансамблей. [13]
Доказательство этого свойства производится в точности так же, как доказательство в случае дискретных ансамблей. [14]
Сначала рассмотрим случай п и докажем теорему, устанавливающую связь между средней длиной т Ет, слов кода, кодирующего произвольный дискретный ансамбль X, и энтропией этого ансамбля. [15]