例題集

情報量

知識・記憶レベル   難易度:
すべての目が同じ確率で発生するサイコロを振るとき,出た目の数が奇数であることを知らされた場合と,目の数が1であると知らされた場合の\reff{情報量}をそれぞれ求めなさい.
まず,奇数になる(1, 3, 5)\reff{確率}は$\frac{1}{2}$である. よって,このときの\reff{情報量}は,$\displaystyle{-\log_2\frac{1}{2}}=1\ \mathrm{[bit]}$となる.($\rightarrow$ $\log$:\reff{対数関数}) 目の数が1となる確率は$\frac{1}{6}$である.よって,情報量は$-\log_2\displaystyle{\frac{1}{6}}\approx 2.58\ \mathrm{[bit]}$となる.