70年前他本想逃避考试,却影响了整个互联网|当前热文
谁曾想,一次学生不想参加考试的“任性”,后来竟影响了整个互联网。
70年前MIT的一堂信息论课上,一位老师为了给学生“减压”,摆出一道选择题。
【资料图】
要么参加期末考试,要么写篇论文改进现有算法,自己挑。
这位老师名叫罗伯特·范诺,他没告诉学生们的是,这个“现有算法”,正是他和信息论创始人香农合著的香农-范诺编码。而为了改进算法不足,他本人已经投入大量时间进行研究。
虽然有点损,但这招还真管用。这票学生一听“交篇论文”就不用考试,拍脑袋就决定写论文,包括大卫•哈夫曼。
不选不知道,一选吓一跳。初出茅庐的哈夫曼很快意识到了老师挖的坑——这论文也太难搞了。
这一写,就是好几个月,并且苦苦挣扎中,哈夫曼仍然一无所获。
但命运,有时候就是十分奇妙。就在哈夫曼终于放弃“逃考”,准备将论文笔记扔到垃圾桶中时,突然灵光一现!答案出现了!
哈夫曼放弃对已有编码的研究,转向新的探索,最终发现了基于有序频率二叉树编码的方法。
他提出的这一想法,效率成功超越他老师的方法论。甚至在之后的发展中,以他命名的编码方法——哈夫曼编码,直接改变了数据压缩范式。
至于当时那篇结题报告,已引用近万次。
低效的传统编码方法
1951年,正在MIT任教的罗伯特·范诺正在思考一道信息论的难题:如何用二进制代码高效表示数字、字母或者其他符号?
当时最常见、也是最直接的方法,就是为每个字符分配一个*的二进制数。
比如,字母A可能表示为01000001,!表示为 00100001,每个八位数的数字都对应一个字符。
这样一来代码容易解析,但效率极低。
另外还有种优化方法,类似于摩尔斯电码。常用字母E仅由一个点表示,但不常见的Q需要更长且更费力的“—— —— · ——”。
这种方式,会导致代码长度不一, 信息不容易被理解;而且传输中还需要在字符间加入间隙,否则就无法区分不同的字符组合。
范诺意识到,或许这两种方法的优势可以兼并之——以不同长度的二进制代码表示字符。进一步地,为避免代码“重叠”,他还构建了二叉树。
他详尽地测试了每一种排列的可能性以获得*效率,最终得到了一种有效情况:每条消息按照频率分为两个分支,并尽可能让两边字母使用频率基本相同。
这样,常用的字符就会在更短、密度更低的分支上。
1948年,信息论之父香农在介绍信息理论的文章“通信数学理论”中提出了这一方法;不久之后,范诺也独立地以技术报告形式将其发布。故而这套方法被称作是香农-范诺编码。
但这个方法并非总是有效。像字母出现概率分别为{0.35,0.17,0.17,0.16,0.15}这种情况时,就不能给出理想编码。
范诺认为一定存在更好压缩策略。于是乎,这样的重任就交到了他的学生手里。
一次灵光乍现,一篇世纪论文
如果说,范诺教授他们的方法是从上到下构建字符树,并在成对的树枝之间尽可能保持对称。
那么哈夫曼的方法,是直接颠覆了这一过程——自下而上构建二叉树。
他认为,无论发生什么情况,在一段有效的代码中,两个最不常见的字符应该有两个最长的代码。
因此首先就确定两个最不常见的字符,将它们组合在一起作为一个分支对,然后再重复该过程,再从剩余字符中与刚刚构建的字符对中寻找最不常见的字符(对)。
以schoolroom为例,其中O出现了四次,S、C、H、L、R、M各出现一次。
范诺的方法,就是首先将O与另一个字母分配给左侧分支,这样一来两边都是5次总使用量,生成的编码总共27位。
相比之下,哈夫曼的方法,比如就从不常见的r和m开始,将其组合成一个字母对。
组合完之后,现有字符(对)包括:O(4次)、RM(2次)以及单个字母S、C、H和L。
按照出现频率划分,重复上一操作——将两个不常见的选项分组,然后更新数树和频率图。
最终,“schoolroom”变成了 11101111110000110110000101,比Fano 自上而下的方法少了1位。
虽然1位在这里并不多,但要是当扩展到数十亿字节时候,这就是一次不小的节省。
事实上,哈夫曼的方法已经被证明非常强大,据谷歌学术统计,当年论文已经被引用9570次。
至于他老师的办法,却几乎没有再被使用过。
直至今天,几乎所有无损压缩方法都全部或部分使用了哈夫曼的方法,可以压缩图像、音频、表格等。它支持从PNG图像标准到无处不在的软件PKZip 的一切。
现代计算机科学先驱、图灵奖得主高德纳曾这样形容哈夫曼的成就:
在计算机科学和数据通信领域,哈夫曼编码是人们一直在使用的基本思想。
后来哈夫曼再回忆起那个「灵光乍现」时刻,当时他正准备将论文笔记扔进垃圾桶,结果突然思想汇聚,答案在脑海里出现了:
那是我生命中最奇特的时刻。
突然恍然大悟,犹如闪电一般。
并表示,如果他知道自己的教授范诺(Fano)曾与这个问题作过斗争,他可能永远都不会尝试解决这个问题,更不用说在25岁的时候就大胆去尝试。
成就与秩序感,用数学玩艺术
哈夫曼编码改变了数据压缩范式,也为其赢得了众多荣誉与奖章。
比如,1998年哈夫曼获得 IEEE 信息理论学会颁发的技术创新金禧奖、1999年获得电气和电子工程师协会 (IEEE) 颁发的理查德·汉明奖章(Richard Hamming Medal)。
不过即便如此,在他一生历程中,相比发明无损压缩方法这件事儿,最让他引以为傲的反而是这篇博士论文。
题目:The Synthesis of Sequential Switching Circuits。
哈夫曼在MIT读博期间,发布这篇讨论时序开关电路的重要论文。在当时,哈夫曼几乎是*阐述如何设计异步顺序开关电路的学者,而这一理论后来也为计算机发展提供了重要逻辑支撑。
这篇论文的发布,不仅帮助他获得富兰克林研究所的Louis E. Levy Medal,也顺理成章让他获得留校任职资格,教授关于开关电路的课程。
在校期间,哈夫曼还提出一种革新的数学公式,可以在不丢失任何信息的情况下将一个二进制数序列转换成另一个二进制数序列,这项研究在当时密码学中发挥了重要作用,也为其谋得了一份重要职位。
时任贝尔实验室研究副总裁的William O. Baker将其招纳入了一个审查委员会,主要负责为国家安全局审查未来科技计划。Baker博士曾担任过艾森豪威尔、肯尼迪、约翰逊、尼克松和里根五位总统的科学顾问。
1967年已是正教授的霍夫曼选择离开MIT,加入加利福尼亚大学圣克鲁兹分校(UCSC),期间主导创立了计算机科学系,并参与学术课程开发工作,为之后计算机科学系发展奠定重要基础。
数学可以说是哈夫曼毕生追求之一,以至于后来在搞艺术时,也离不开数学。
70年代开始,哈夫曼对折纸产生浓厚兴趣,同时研究数学和折纸艺术,制作了上百件曲痕折纸作品,还专门发表论文分析曲痕折纸的数学性质,成为折纸数学领域的先驱人物。
回过头看,哈夫曼的一生赢得过无数荣誉与表彰,却从未为自己任何一项发明申请过专利。
最后,借用哈夫曼自己的一段话。
作为一名科学家和老师,我真的非常执着。如果我觉得自己还没有找到问题的最简单解决方法,我会非常不满意,这种不满会一直持续,直到我找到*方法为止。对我来说,这就是科学家的本质。
参考链接:[1]https://www.quantamagazine.org/how-lossless-data-compression-works-20230531[2]https://www.huffmancoding.com/my-uncle/scientific-american[3]https://www.nytimes.com/1999/10/13/us/d-a-huffman-computer-expert-dies-at-74.html
标签:
您可能也感兴趣:
为您推荐
军队抽组医疗力量承担 武汉火神山医院医疗救治任务
同马来西亚总理马哈蒂尔通电话 创造更多合作成果,造福两国和两国人民。
构筑起疫情防控的严密防线
排行
- 腾龙股份股东王柳芳减持302.01万股 价格区间为14.81-15.90元/股
- 因个人资金需要 新泉股份实际控制人唐志华拟减持不超1124.54万股
- 信捷电气股东邹骏宇减持50万股 价格区间为60.41-67.50元/股
- 国家卫健委:湖北以30个省外新增病例17例
- 因自身资金需求 科森科技股东徐宁拟减持不超3.71万股公司股份
- 中公高科股东潘玉利减持50万股 价格区间为20-20.60元/股
- 多地患者治愈后“复阳” 对疫情防控提出新挑战 五大焦点权威解析
- “精诚合作,打赢这一仗!”
- 生态环境部:自1月20日以来全国已累计处置医疗废物12.3万吨 ...
- 承诺两年扭转乱象 银保监会加快推进意外险费率市场化改革 ...
精彩推送
- 70年前他本想逃避考试,却影响了整个互联网|当前热文
- 注水的「医美面膜」,花大钱敷了个寂寞
- csgo开箱哪个箱子最稳?csgo开箱100个能出金吗?
- csgo200个箱子出金的概率是多少?csgo新手前20个箱子出金概率高吗?
- csgo怎么得到箱子?csgo黑色箱子获取的步骤介绍
- 前沿热点:关于成都市如果按照物价评价经济总量GDP远高于苏州...
- 假如你不生我不生,人口低至七亿,我们的日子会变得更好过吗...
- 注意!6月30日要结息啦!太原市住房公积金管理中心发布公告!...
- 标普将中国今年经济按年增速预估下调至5.2%|全球热闻
- SWIFT:人民币结算占比升至2022年1月以来最高!
- csgo开箱积分赛什么套路?csgo开箱主播是骗子吗?
- csgo开箱主播是怎么获利的?csgo开箱100个能出红吗?
- csgo为什么主播开箱出金几率高?csgo开什么箱子性价比高?
- 广深人均存款公布!你的同龄人居然存了这么多钱→
- 产业和教育怎么融合|观察
- 从卖单品到卖场景:户外消费有何新逻辑?
- 可拆卸电池手机,回来了!
- 火锅出海转战欧洲|世界关注
- 焦点速讯:朗特智能(300916):6月26日技术指标出现看涨信号...
- 亲子游、毕业游带动旅游复苏 暑期旅游市场将迎小高峰
- 天天新消息丨硅料大跌的「冰与火」:上游厂商延期投产,终端...
- 南昌经济实现重大突破:2022年GDP突破7200亿元 快消息
- 全球今日报丨广东深化外汇领域改革:多项试点政策稳步推进,...
- 高温破纪录!“3万亿投资+气温升高用电紧张+电力能源变革”,...
- 产业结构不断优化 工业立市不断深化|全球最资讯
- Apple Arcade 推出《Dead Cells Break the Bank》更新_视焦点讯
- 1—5月徐州市固定资产投资同比增长7.3% 环球热点
- 中考期间深圳交警开辟绿色保障通道 涉考车辆受阻可紧急借用...
- 2023年深圳中考作文题出炉!
- 村超,踢破了天!_世界今热点
- 货拉拉:为周胜馥的上市赌局「跑腿」
- 卖到32元一个的馒头,中产的新咖啡伴侣? 当前播报
- 世界即时看!高考志愿填报,考生要做哪些准备?官方解答看这里
- 空调销售逆势增长:一次属于腰部厂商的复苏
- 每日看点!《火凤燎原》《镖人》动画化,漫画神作比网文更难改?
- 吉他爬格子技巧_吉他爬格子怎么练
- 江西南昌:下一个万亿城市?|全球时快讯
- 数字文明尼山对话|中国联通董事长刘烈宏:数字山东构筑了山...
- 年轻人,愿你的青春焕发健康的光彩
- 今年5月 朝阳区社零额同比增长44.8%_环球资讯
- 江西经济腾飞:四大城市破千亿,2023年更加美好!
- 榜上无缘!这三座城市出局GDP20强
- 揭秘真实的「AI民工」:为生存机械地「做任务」 时薪低至1美元
- 智能服务机器人公司「汉特云」完成千万元Pre-A轮融资-全球讯息
- csgo开箱300个多少钱?csgo开箱紫色大概多少钱?
- 邮储银行深圳分行2023年“邮储杯”青少年篮球赛圆满落幕|环球实时
- csgo1000块钱能开几个箱子?csgo武器箱出金概率介绍
- 1089亿元!618购物节深圳网络零售表现抢眼
- csgo开箱多少个保底出金?CSGO开箱能开到印花吗?
- csgo开箱什么最值钱?csgo开箱最稳的箱子叫什么?
- csgo开箱500块钱能开出什么?csgo开箱子一次花多少钱?
- 一顿50的老乡鸡也是「料理包」?想吃点好的打工人破防了
- 黄晓明与任敏,真人秀的冰火两重天
- 宝安水务集团青年发展中心正式成立
- 视频|深圳中考今日开考!罗湖区学校花式送考
- 高考志愿填报相关App会员费不菲,AI填报靠不靠谱?
- 世界新消息丨新美妆贴金「内耗」,李佳琦「坐庄」稳赚
- 生力片的组成配方生力片的组成配方是肉苁蓉、人参、淫羊藿、...
- 环球快讯:朝阳区跨国公司地区总部增至150家,在北京市占比超七成
- 环球动态:昆明经济发展的瓶颈在哪?
- 全球热门:常州距离万亿俱乐部仅一步之遥
- 环球最资讯丨大城市和小城市,谁花钱更多?
- “三万亿俱乐部”,江西凭什么入选? 今日快看
- 特有数 | 消费规模位居全国前五!这个端午深圳消费“热气腾...
- 世界消息!香港中文大学(深圳)今年计划在全国招生1400余人...
- 深圳技术大学:在创新实践中打造中国应用型大学标杆
- 陆家嘴公司是哪一年成立的?陆家嘴获得过哪些荣誉?
- 安道麦A行业地位怎么样?安道麦A主要产品是什么?
- 上市公司中报披露时间出炉!专业人士建议投资者提前布局业绩...
- 中超控股的主营业务是什么?中超控股行业口碑怎么样?
- 先河环保是哪个省的企业?先河环保主要产品是什么?
- “端午经济”释放消费活力 新老业态各显其能
- 每日热讯!中国城市人口流失:经济增长背后的真相
- 西安市的经济总量为什么能在中亚五国中排名第二?
- “神仙”GDP,怎么解释这些事实?|世界头条
- 世界速讯:人口增长最好的城市,未来可期?
- 四闯港交所,东软熙康的上市梦
- 天天新消息丨《黑镜6》崩了,剧本是AI写的吧?
- 算力赛道,最具确定性的AI方向-天天热门
- 康方生物能讲好「基因泰克」的故事吗?-全球今热点
- 动态焦点:抖音外卖「熄火」:放下1000亿GMV目标
- 深圳高校招生人数专业设置双增加
- 湖北建设用地亩均GDP达21.3万元 全球即时看
- 湖北:内需市场活力加速释放
- 重启经济增长 畅想创新未来! 2023天津夏季达沃斯论坛即将开幕
- 1-5月中国软件业务收入逾4.3万亿元,同比增13.3% 天天观察
- 成都和重庆:谁更牛逼?_世界热头条
- 香港财政司司长陈茂波:香港经济正加速向前
- 深圳中考今日开考!今年普高录取率预计超七成|头条
- 443条公交线调整、地铁设“绿色通道”……深圳交通全力以“护...
- 阿根廷媒体:中国投资给拉美带来更多可能|每日简讯
- 环球快资讯丨马光远呼吁,不要限制富人消费!但敞开消费有助...
- 当前要闻:上海:端午假期线下消费支付金额约180亿元 住宿业...
- 消息!如何防止经济增长实际速度低于潜力
- 阿根廷媒体:中国超越欧洲,成为南方共同市场的最佳选择-环球...
- 天天亮点!经济恢复靠的不是自律:经济的内生力从哪来?
- 消费复苏,这个端午不太冷 环球关注
- 环球通讯!冲刺两万亿,中部第一城向东“补课”
- 【环球时快讯】(经济)中国—东盟自贸区3.0版第三轮谈判在云...
- 坪地街道开展主题游园会暨安全月宣传活动 全球看热讯
今日要闻
- 前沿热点:关于成都市如果按照物价评价经济总量GDP远高于苏州市的原因分析
- 假如你不生我不生,人口低至七亿,我们的日子会变得更好过吗?|时快讯
- 标普将中国今年经济按年增速预估下调至5.2%|全球热闻
- SWIFT:人民币结算占比升至2022年1月以来最高!
- 广深人均存款公布!你的同龄人居然存了这么多钱→
- 南昌经济实现重大突破:2022年GDP突破7200亿元 快消息
- 全球今日报丨广东深化外汇领域改革:多项试点政策稳步推进,外贸企业投融资环境持续优化
- 高温破纪录!“3万亿投资+气温升高用电紧张+电力能源变革”,电力两大细分赛道高景气度延续_每日时讯
- 产业结构不断优化 工业立市不断深化|全球最资讯
- 1—5月徐州市固定资产投资同比增长7.3% 环球热点