4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农 - 世界之最
世界之最,未解之谜,UFO外星人,怪异搞笑,图片视频尽在最有料分享网

世界之最 > 奇闻异事 > 4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

作者:世界之最
来源:
日期:2020-12-28 05:15:14

提起4月30日,你第一反应是什么

相信大多数人和我一样,都是在心里默默倒计时距离五一小长假开启还剩XX小时。

但这个问题还可以有个更有逼格的答案香农诞辰

提到香农这个名字,相信不少人都默默回忆了一下这人是干啥的,最后得出一个干巴巴的结论克劳德艾尔伍德香农,美国数学家、信息论的创始人

但这个答案不够透彻,不够完全,无法完全概括这个看似不熟但实则和我们日常生活息息相关的男人。最重要的一点是,香农这种让人一见钟情的颜值水平竟然没有提!

4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

没有香农,就没有信息量真大这句话

当遇到很有内涵的内容的时候,我们往往会说信息量真大。可很少有人仔细想过,信息这一不可数的存在,究竟如何会与量词相结合。其实从古至今,人们一直在试图找到一种衡量消息中信息浓度的方法。在大多数语言中,信息一词往往以不可数名词出现,这也从另一方面印证了这一问题的困难程度。

到了信息时代,对信号的处理与分析又需要一个适当的对信息量的衡量标准,所以数学家们也被这一问题困扰着。直到1948年,这个问题被香农在论文《通信的数学理论》中首次解决,这才让数学家们松了一口气。

4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

图|WordPress.com

香农在书中将热力学里面的熵引入了信息学,提出了信息熵的概念,还确定了信息的基本单位比特(bit)。在他看来,信息的作用就体现在使得某事件发生的概率从之前的某个概率变为1,所以信息量是与概率有关的

感谢香农,从此信息变得可度量了,信源、信道、编码、解码、传输、接收,抽象概念都有了严格的数学描述。

4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

图|wordpress

信息熵的应用也很广,即便是在智力题里也有体现。就比如经典题目有100个外表相同的球,已知其中有一个与其他球的质量不同。现要求用没有砝码的天平在最少次数中找出这个球背后,暗藏的就是信息熵的原理。

也有学者把信息熵的理论应用在语言学上。他们统计了不同语言中各字母的频率,英语的平均信息熵是4.03比特,法语的平均信息熵是3.98,西班牙语是4.01比特,德语的是4.10比特,俄文的是4.8比特,都略低于相应字符集的最大信息熵。

这也是很容易理解的,自然语言中存在许多词首词尾与固定搭配,不同字母的出现频率是不同的。但是信息学家们并不满意这个结果,因为在传输中更大的平均信息熵就意味着更高的效率,所以他们一直在试图追寻能使信息熵更高的压缩编码方式,像我们常用的WinRAR等软件就是他们工作的结果。

4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

图|ZDNet

当然,这样的理想语言在人类眼中看来是毫无文采、索然无趣的。我们使用的自然语言中正是由于那么一点多余的低效率,才造出了丰富多彩的效果。值得一提的是,中文的信息熵高达9.65比特,也许这也是汉语中各种文字游戏比较多的根源吧。

想要知道WiFi密码?问香农

古语有云:失去人性,失去很多;失去WiFi,失去一切。这个世纪的人们仿佛都中了瘾无论到哪里,第一个问题都是:WiFi密码多少?

4月30日香农诞辰:今天是一个信息量很大的日子,所有上网的人都应该记住香农

WiFi已无法从现代人的生活中剥离,当你在愉快地用WiFi刷着果壳时,你还得感谢一下香农。

事实上,如果说海蒂拉玛是Wi-Fi之母的话,香农可以算得上WiFi的祖父。他提出的定理,为信息论和数字通信奠定了基础。

香农在1948年提出过一个著名的公式香农第二定理(有噪信道编码定理)

香农清晰的定义了无线通信领域理论上的传输速率由哪些因素决定以及他们之间的量化关系。对无线通信原理和技术的发展起到了巨大的推动作用,为人们如何利用有限频谱资源更快更好的传递信息指明了方向。

同时从这一公式还可以推导出即便应用无限大的频谱带宽,传递信息的速率也是有极限的,这就是著名的香农极限。这一成就后来成功应用于电话、光纤和无线通信上,例如当下5G的频谱效率已经在很大程度上的接近甚至达到了香农极限。

在这些领域,香农也能排得上名号


--------★相关文章推荐阅读★--------

相关文章推荐:
栏目导航
新发表