No label defined (Q5510061)

From MaRDI portal

!

This is the item page for this Wikibase entity, intended for internal use and editing purposes. Please use the normal view instead:

scientific article; zbMATH DE number 3222499
Language Label Description Also known as
default for all languages
No label defined
    English
    No label defined
    scientific article; zbMATH DE number 3222499

      Statements

      1965
      0 references
      value of information
      0 references
      Der Wert der Information wird mittels einer Verknüpfung der Informationstheorie and der statistischen Entscheidungstheorie definiert. Es sei \(X\) der Wertbereich einer zufälligen Variablen \(x\) und \(U\) die Menge der möglichen Entscheidungen \(u\); \(c(x, u)\) sei eine Verlustfunktion, definiert auf \(X\times U\), und \(I\) sei eine positive Zahl. Es sei \(U_0 = \inf_u \sum_x c(x, u) p(x)\) [alle Formeln werden für den diskreten Fall angegeben; \(p(x)\) ist die -- bekannte -- Verteilung von \(x]\) und \[ U_I = \inf_{p(u| x)} \sum_{x,u} c(x,u) p(x) p(u| x) \] bei der Bedingung \[ I_{xu}= \sum_{x,u} p(x) p(u| x)\log \frac{(p(u| x)}{\sum_x p(x)p(u| x)}\leq I. \] Der Wert der Information von \(I\) Bit wird als die Differenz \(V(I) = U_0 - U_I\) definiert. Der Wert der Information kann im allgemeinen nur teilweise benutzt werden; ist nämlich \(y\in Y\) eine weitere zufällige Variable mit gegebener bedingter Verteilung \(p(y| x)\), wobei die Entscheidung \(u\) von \(y\) abhängt, so gilt Satz 1: \(Ec(x,u)\geq U_0 - V(I_{xy})\) \((I_{xy}\) bezeichnet die Menge an Information in \(y\) bezüglich \(x)\). Im asymptotischen Sinne ist es jedoch möglich, sogar eine Funktion anzugeben, die den vollen Wert der Information ausnützt. Es bezeichne nämlich \(\xi\), \(\eta\) und \(\zeta\) \(n\)-dimensionale Vektoren aus \(X^n\), \(Y^n\) und \(U^n\), \(p(\xi) = \prod_{j=1}^n p(x_j)\), \(c(\xi,\zeta) = \sum_{j=1}^n c(x_jJ, u_j)\). Dann gilt Satz 2: Es gibt eine Zerlegung \(\cup_{i=1}^M E_i = X^n\) von \(X^n\) derart, daß \(M\leq 2^{n\bar i}\) (wobei \(\bar i\) eine beliebige positive Konstante ist) und \[ \lim_{n\to\infty} \frac1n \sum_{k=1}^M p(E_k) \inf_\zeta \sum_\xi c(\xi,\zeta) p(\xi| E_k) = U_0 - V(\bar i). \] Dieser Satz besagt, daß man \(\eta = \eta(\xi)\), \(\zeta=\zeta(\eta)\) setzen darf. Der Beweis wird mit der Shannonschen Methode der zufälligen Kodierung durchgeführt, jedoch nur für einen (symmetrischen) Spezialfall.
      0 references

      Identifiers