テクノロジ
情報量とは
読み方：じょうほうりょう
ひとことで言うと：事象の起こりにくさを -log2(p) で表した、情報理論上の情報の大きさ。
意味をわかりやすく解説
情報量は、ある事象が起きたと知ったときに得られる情報の大きさを、その事象の起こりにくさで表す考え方です。
確率pの事象の自己情報量は I=-log2(p) [bit] です。起こりにくい事象ほど情報量が大きく、必ず起こる事象p=1の情報量は0です。
具体例
確率1/8の事象の情報量は -log2(1/8)=3ビットです。
似た用語との違い
エントロピー
情報量は一つの事象についての値です。エントロピーは複数の事象の情報量を確率で平均した量です。
データ量
ファイルサイズなどのデータ量とは別概念で、情報理論上の不確実さの減少量を表します。
覚え方
珍しい出来事ほどニュース価値が高い＝情報量が大きい。式は-log₂pです。
基本情報技術者試験の試験ポイント
確率が1/2、1/4、1/8なら情報量は1、2、3ビットと計算できます。
CHECK QUESTION
発生確率が1/16の事象の情報量は何ビットですか。
答えを見る
4ビットです。-log2(1/16)=4です。
この説明は分かりやすかったですか？
基本情報技術者試験を勉強中ですか？
この用語を含む重要用語を、単語帳や4択テストで学習できます。