克劳德·香农 Claude Elwood Shannon -信息论之父

不二如是

1916.4.30—2001.2.24

美国数学家、电子工程师和密码学家，被誉为信息论的创始人。

是爱迪生的远亲戚。

除了学术研究，香农爱好杂耍、骑独轮脚踏车和下棋。

香农发明了很多用于科学展览的设备，比如火箭动力飞行光盘、一个电动弹簧高跷和一个喷射小号。

香农的办公桌上放着一个他称之为“终极机器”的盒子。

这是香农众多好玩的发明之一，是根据人工智能研究的先驱、数学家马文·闵斯基提出的想法而做出来的。

这个盒子外表平淡无奇，只是在一侧有一个开关，弹一下开关，盒盖就会打开，一个机械手会伸出来；

将开关复原，机械手就缩回盒子。

成就


1936年，毕业于密歇根大学并获得数学和电子工程学士学位。

1937年，21岁的香农是麻省理工学院的硕士研究生，他在其硕士论文中提出：


将布尔代数应用于电子领域，能够构建并解决任何逻辑和数值关系。


被誉为有史以来最具水平的硕士论文之一。

1940年，获得麻省理工学院（MIT）数学博士学位和电子工程硕士学位。

1941年，他加入贝尔实验室数学部，工作到1972年。

1937年，在贝尔实验室，香农看到了电话系统电路的强大功能。

这些电路使用电子开关来安排电话通话路线和平衡通话负载。

香农便将这些电路的工作原理和布尔在90年前制定的逻辑系统相互融合在一起。

他发现电路可以使用不同的通断开关组合来执行这些逻辑运算，便有了那篇著名的《继电器与开关电路的符号分析》

继电器就是用高低电平来等同0,1，进而组合成'与'‘或’逻辑判断门。

1947年，联合理查德·汉明、约翰·莫奇利 等人，创办了ACM协会。





1948年，香农长达数十页的论文“通信的数学理论”成了信息论正式诞生的里程碑。

在他的通信数学模型中，清楚地提出信息的度量问题，得到了著名的计算信息熵H的公式：


H=∑-pi log pi


熵（entropy）指的是体系的混乱的程度，它在控制论、概率论、数论、天体物理、生命科学等领域都有重要应用。

在不同的学科中也有引申出的更为具体的定义，是各领域十分重要的参量。

熵由鲁道夫·克劳修斯（Rudolf Clausius）提出，并应用在热力学中。

香农第一次将熵的概念引入到信息论中来。

1956年，他联合明斯基、麦卡锡发起了达特茅斯项目（Dartmouth Project）。

在在这场会议中，人工智能的概念被麦卡锡提出，在之后形成了一个新的学科。

fly3412

从书中扫描二维码看过来啦。