最新网址:hbcjlp.com
压缩这个信息源蹦出的每个随机变量平均所需要的最少比特数就是(logt)/n!
这个数字(logt)/n就等于:-p(1)logp(1)-p(2)logp(2)-…-p(m)logp(m).
这个数字,就是熵。
从熵的表达式看,熵是通过一个概率分布函数p(x)来定义的。因为概率分布函数p(x)都对应于它所描写的随机变量x,所以俺们也可以认为熵是对随机变量x的某种特性的度量,而把它记作h(x)。从压缩的角度讲,熵值h(x)是对产生随机变量x的信息源编码所需要的平均最小比特数,或随机变量x中固有的平均信息量。
章节错误,点此举报(免注册),举报后维护人员会在两分钟内校正章节内容,请耐心等待,并刷新页面。