情報理論 - 通信路符号化

概要

通信路符号化は、情報を効率的かつ信頼性高く伝送するための重要な技術である。

1948年にクロード・シャノンにより提唱された。
これは、ノイズのある通信路でも、通信路容量以下の情報であれば、任意に小さい誤り率で伝送できることを理論的に証明した。

通信路符号化は、送信するデータに冗長性を持たせることにある。
例えば、単純な反復符号では同じビットを複数回送信することにより、ノイズの影響を軽減する。
しかし、実際の通信システムではより洗練された符号化方式が用いられる。

代表的な符号化方式として、ハミング符号がある。
これは、データビットにパリティビットを追加することにより、1ビットの誤りを検出し訂正できる符号である。

より高度な符号としてBCH符号やリード・ソロモン符号があり、これらは複数ビットの誤りに対応できる。

現在では、畳み込み符号とターボ符号が広く使用されている。
畳み込み符号は、入力データを過去の入力と組み合わせて符号化することにより、連続的な誤り訂正能力を持つ。
ターボ符号は、複数の符号器と反復復号を組み合わせることで、シャノン限界に近い性能を実現することが可能である。

近年では、LDPC (Low-Density Parity-Check) 符号が注目を集めている。
これは疎なパリティ検査行列を使用して、高い符号化効率と優れた誤り訂正能力を両立する。
5G等の最新の通信規格でも採用されている。

符号化の性能評価には、主に符号化率と最小距離が用いられる。
符号化率は元のデータ量に対する符号化後のデータ量の比で効率性を表す。

最小距離は、符号語間のハミング距離の最小値で、誤り訂正能力を決定付ける。

通信路符号化は、理論と実践の両面で発展を続けており、量子通信やDNAストレージ等、新しい応用分野も広がっている。