ビットが整数値をとるときの情報量（エントロピー）は分かる．ビットが実数値をとるときとか確率変数のときとかの情報エントロピーってどんなものか知りたい．ウィキペディアの情報量の項目を理解すれば分かりそうなんだが，数学が苦手な私には読み解くのが難しい．