克劳德·香农(Claude Elwood Shannon，1916-2001

scottbug

于 2010-12-31 20:49:00 发布

阅读量2.6k

点赞数

分类专栏：人物文章标签： byte

本文链接：https://blog.csdn.net/scottbug/article/details/6110509

版权

人物专栏收录该内容

9 篇文章

订阅专栏

916年4月30日诞生于美国密西根州的Petoskey。科学家，现代信息论的著名创始人，信息论及数字通信时代的奠基人。1948年香农长达数十页的论文“通信的数学理论”成了信息论正式诞生的里程碑。在他的通信数学模型中，清楚地提出信息的度量问题，他把哈特利的公式扩大到概率pi不同的情况，得到了著名的计算信息熵H的公式：H=∑-pi log pi。如果计算中的对数log是以2为底的，那么计算出来的信息熵就以比特(bit)为单位。今天在计算机和通信中广泛使用的字节(Byte)、KB、MB、GB等词都是从比特演化而来。“比特”的出现标志着人类知道了如何计量信息量。香农的信息论为明确什么是信息量概念作出决定性的贡献。