你在这里

仙农

主标签

仙农

张奠宙

(华东师范大学)

仙农,C.E.(Shannon, Claude Elwood)1916年4月30日生于美国密歇根州盖洛德(Gaylord).数学、信息论.

1916年4月30日,仙农出生于美国密歇根州的盖洛德,他于1932年入密歇根大学就读,1936年毕业后去麻省理工学院任电机工程和数学助教.1939年获得麻省理工学院的波勒斯研究席位(Boweles Fellow),全力从事中继和转换网络理论的研究.一年后,以优异的研究成果在该院取得电机工程技术硕士和数学博士学位.1940—1941年间,由美国国家研究委员会资助去普林斯顿大学从事研究工作.此后即以数学家身分加入贝尔电话实验室.仙农的主要科学工作都是在这里完成的.1956年回到麻省理工学院任访问教授,但仍兼任贝尔电话实验室的顾问直至1972年.从1958年起,仙农就任麻省理工学院的冬纳(Donner)科学教授.1980年退休.

仙农有许多学术荣誉.1956年当选为美国国家科学院院士,以及美国艺术和科学学院的院士.他曾获得佛兰克林研究所的巴兰亭奖章(Ballantine Medal,1955),美国工业电子工程协会颁发的凯莱奖(Mervin J.Kelly Award,1955),美国全国科学研究合作奖 (National Research Corporation Award,1956),莱伯曼纪念奖(Morris Leibmann Memory Award,1958),美国电机和电子工程协会的荣誉奖章(Medal of Honor,IEEE,1966),美国技术协会的哈维奖(Harvey Prize),仙农被选为比利时皇家科学院和荷兰皇家艺术科学学院的院士.他还是牛津大学等许多高等学府的荣誉博士.

仙农早在30年代末就作出了重要的工作.1938年他还是研究生,就发表了经典性论文“中继与开关电路的符号分析”(Sym-bolic analysis of relay and switching circuits),在该文中他指出了符号逻辑的真值表和电路的0,1二进位制运算表是一致的,以及如何按布尔代数的命题,用开关电路构造一个与之相应的“逻辑机”.后来的“逻辑代数”、“开关代数”、“布尔代数与自动机”等研究,都可溯源于这项工作.有关的工作后来都反映在他和J.麦克卡赛(McCarthy)合编的文集(文献)中.大约也是在这时,仙农造了一个新名词“比特(bit)”,后来被人们广泛地用作度量“信息”的单位.

仙农的主要贡献是创立了经典信息论.他在贝尔电话实验室从数学上和技术上研究“通信”、“信息”、“消息”等概念,其顶点则是1948年在《贝尔系统技术杂志》上发表“通信的数学理论”.这篇分两期刊出、长达80余页的文章成了信息论的开端.论文很难读.1949年,由W.韦佛(Weaver)注释后出版了单行本.

信息论在1984年取得成功并不是偶然的.这时,数学上的概率论、数理统计、数理逻辑、运筹学,工程上的通信技术、电子技术、自动控制技术等都在逐渐成熟.计算机出现了,统计力学、量子力学、生物学提供了重要的科学方法.仙农正是站在前人的肩膀上看到了曙光.

仙农首先采用严密的数学方法,对信源、信息、信息量、信道、编码、解码、传输、接收、滤波等一系列基本概念,进行严格的数学描述和定量度量,使得信息研究由粗糙的定性分析阶段进入精密的定量阶段,并因此而发展成一门真正的科学学科.

对莫尔斯电报编码的研究将会导致用概率观念考察信息.比如,在英文电报中,“字母E的出现概率比Q大得多,序列TH出现的概率比XP大得多.”由此仙农进一步注意到:“通信的基本问题是在消息的接收端精确地或近似地复现发送端所挑选的消息.通常的消息是有意义的,……而通信的语义方面问题和工程问题是没有关系的.”“重要的是,一个实际信息总是从可能消息的集合中选择出来的.”这就是说,仙农认识到两个要点:(1)通讯工程与语义无关;(2)通信系统所处理的信息本质上是随机的.于是他想到“信息是可用来消除不肯定的东西”,并尝试采用概率方法给信息量下精确定义.设信息源有n个不同的符号。x1,x2…xn,它们出现的概率分别为p1(x1),p2(x2)…pn(xn).仙农引入信息熵的概念: