情報の冗長度と圧縮限界の計算
意味・解説
ある情報源が持つ「無駄」の割合を数値化したもの。情報源エントロピー（平均情報量）と最大エントロピーの比率から算出される。
冗長度 $R$ は、$R = 1 - (H / H_{max})$ で計算される（$H$: 実際のエントロピー、$H_{max}$: すべての事象が等確率で起こる際のエントロピー）。この値が大きいほど、データ圧縮の余地が大きいことを示す。
くわしく
「情報の『贅肉』の削ぎ落とし」の計算です。
1.冗長度：
例えば、日本語の文章で「う」の次に「ん」が来やすいといった『偏り』がある場合、エントロピーは小さくなり、冗長度は高くなります。
2.圧縮の限界：
ハフマン符号などの圧縮技術は、この冗長な部分を削ってエントロピーの理論値に近づける作業です。ポイントは、画像や動画の圧縮規格を設計する際、どれだけ画質を保ちつつファイルサイズを小さくできるかの数学的な「天井」を把握するためです。
例文
特定の言語パターンを分析した結果、情報の冗長度が40%に達していたため、より高効率な圧縮アルゴリズムの採用を決定した。
同義語: 情報冗長性
分類: 情報理論