数据压缩毕业设计.doc

2 常见的几种无损压缩算法
2.1 信息的熵
根据 Shannon信息学理论，数据压缩的基本原理即信息究竟能被压缩到多小，至今依然遵循信息论中的熵的唯一性定理。用“熵”( Entropy )来表示一条信息中真正需要编码的信息量。信源的熵是无失真即无损压缩编码的极限，无论采取何种压缩算法，其压缩后的数码率不会小于该信源的熵，如果小于，那么这种压缩必然是失真的，这种压缩称为有损压缩，所以有损压缩也称为熵压缩。