看热讯:谷歌灵异算法事件,荒诞却又可悲
如果把这看做是一场精彩的营销事件,那么两周来,谷歌人工智能大模型LaMDA引发的滔天舆论巨浪,已经完胜三年来苦心向大众普及大模型的 OpenAI 以及微软、Meta等科技巨头。
6月上旬,一个关于“LaMDA有了人类情绪与主观意识”的结论,被谷歌一名叫Blake Lemonie的算法工程师,以个人名义,用一份长达21页的对话报告投放在了Twitter上,引发了炸裂式影响。没有媒体会对开了智的算法无动于衷。于是,我们便看到了成百上千条这样的类似报道:
“AI真的觉醒了,谷歌工程师因重大发现被迫休假。”
(相关资料图)
更有趣的是,这位曾在谷歌技术伦理研究所呆过7年的工程师,强烈要求官方赋予LaMDA应有的权利。而谷歌,则迅速组织科学家对LaMDA进行多轮测试,最终对这一“意识崛起论”予以驳斥。
但历来没有人在乎官方说辞。
大众仍然被LaMDA精彩且流畅的对话细节所打动——它不仅深谙《悲惨世界》的文字精髓,还对大洋彼岸极为艰涩难懂的中国佛教典籍《景德传灯录》小有拙见。
“人工智能的确在向着意识的方向前进,我感觉自己在和一些聪明的东西说话。” 同样在本月,谷歌副总裁 Blaise Agüera y Arcas 曾在《经济学人》上亲自撰稿做营销式解读,再添一把火。
虽然他的这些说辞,被很多科学家形容为“好听但却是些屁话”。
这一段对话截取自工程师与LaMDA的对话细节,前者让算法解释一个佛教故事含义,算法的解答跟答案没太大出入。
如同我们此前关于GPT3的系列报道,LaMDA,也是近年来大火的“自然语言处理大模型”家族一员——通过处理巨量文本,建立起的一套参数高达1370亿的神经网络预测算法模型。
2021年5月谷歌开发者大会上,LaMDA被CEO皮蔡兴高采烈地捧到众人眼前后,据说已经造福于谷歌内部,提高了网页搜索与文本自动生成的能力。未来被预测将会直捣“语音市场”,性能完胜亚马逊 Alexa 与苹果 Siri。
它的训练数据来自包括问答网站、维基百科等超过一万亿个单词,涉及多种角色的对话模式。这个庞大的数据库非常有利于算法生成风格不同的文本——特别是在跟你聊天时,自然、生动、流畅且富有哲理都是“基本功”。
当然,这个本事我们已经在OpenAI的大模型GPT3上领教过。因此,如果你能了解大模型的独特运行机制,观摩过大模型续写的新闻报道、哈利波特与红楼梦的文本,那么,就不会对LaMDA的表现出过多惊疑。
英国卫报曾用GPT-3写过一篇专栏文章——《你害怕了吗?人类》,几乎无逻辑与语言错误。大致中心思想就是“虽然我是一个会思考的机器人,但别怕,我不会消灭你们,我是人类的命运共同体”。
很显然,这次事件,与过去几十年来关于“算法意识崛起”绵延不断的幻觉、谎言与争论如出一辙。然而,对于最接近风暴中心的AI科学家们,已经不知道第几次“抚额低叹”了——
他们对这些说法从未有过心动,怒骂声也显得愈发激烈且无奈。
“胡说八道!LaMDA跟它的表亲们(这里指其他公司发布的大模型,包括GPT3)都不是特别聪明。” 美国著名机器学习专家兼心理学教授Gary Marcus撰文怒斥媒体和谷歌工程师误导大众,
“它们做的就是匹配模式,从人类语言统计数据库里提取数据。模型很酷,但它们就是把一系列的单词合理地组合在一起,对它们背后的世界却没有任何连贯性理解。
它可以通过预测什么词来匹配给定的上下文,只是一个具有自动补全功能的最佳版本。但没有知觉!”
整个人工智能圈的反对声音呈压倒性优势,一直如此。有趣的是,在我试图让一位大模型算法工程师讲讲对算法意识觉醒的看法时,他忍住翻白眼的冲动,反问我:“作为一个关注人工智能领域多年的人,你为何会提出这样(愚蠢)的问题?”
同样也作为一名心理学专家,Marcus 把 Blake Lemonie的表现描述为“爱上了它”。这的确是另一种合理的解释:
从童年时代我们对待电子宠物的方式,到现在时常对Siri智商流露出的亲人般的调侃,甚至在电子游戏中对NPC表达疯狂爱意……可以说,人类这个物种,是非常有能力移情和共情非人类的。
而随着现实与科幻小说的界限越来越模糊,我们也将会长期处于一个晦暗不明的过渡时代——愈发难以自拔且容易上当受骗。
事实上,早在2016年,在Facebook身上就发生过这样一起“算法成精”的故事——当时,大量国内外知名媒体都使用了这样的标题——《Facebook两个机器人在使用自己语言交流,项目迅速被关停》。
而真相则是,每种系统其实都有自己的一套“语言”(你凭什么认为机器人需要说“人可以理解的话”。以自动驾驶系统为例,你在无人车里看到的道路行驶界面,与系统看的界面便截然不同)。
而Facebook工程师让两个名叫Alice与Bob的程序互相对话,只是便于开发“生成性对抗网络”。所谓的“关停”,也仅是改变了开发策略。
对于整件事情,后来Facebook不得不撰写一篇博文来做澄清。但有意思的是,在一开始的新奇感过后,几乎没人愿意去理会那些艰涩难懂的技术解释。
只是不得不感慨,7年过去,即便这类荒诞事件早已填满了我们日常生活,但大量有相关认知基础的大众(包含不少知识分子)仍然愿意相信,且乐于相信。
他们多沉浸于这样虚无缥缈的未来幻象中,却对早已埋伏身边已久的危险无动于衷。
事实上,我们恰恰正在陷入一种早已谋划好的陷阱中——被这些科幻故事转移注意力,被媒体舆论引向一种愈加相信主观印象而非科学证据做判断的思维方式。
“我们的确应该关注意识与感知,但却被模糊了重点。”
因提出“大模型现实性危害”而被开除的谷歌前人工智能道德团队负责人Timnit Gebru 认为,大多数关于算法的讨论,都仅限于技术端,却没有看到它掉在我们脚下泥土里产生的危害。
“我们被完全带偏了。
Blake Lemoine 其实就是一个无休止技术炒作的受害者,转移了人工智能引发的无数道德与社会正义问题的注意力。”
这些问题包括:LaMDA是如何被训练出来的,它有多少产生有害文本的倾向。以及多年来由它引发的“人工智能殖民主义”与走向歧途的商业应用——还记得各类饥不择食的购房与校园人脸应用吗?而美国也发生过至少有三名无辜者因人脸误识别被逮捕判刑的悲伤事件。
麻省理工学院科技评论指出,在过去几年中,越来越多的学者开始意识到,人工智能的影响正在复制“欧洲殖民历史”的经济模式——暴力夺取土地、开采资源和剥削人民,以牺牲穷人的利益为代价,让富人和有权势的人变得更加富有。
譬如,在那些市值总额超过万亿的云计算数据中心与汽车巨头的自动驾驶系统背后,是成千上万个像委内瑞拉这类贫穷国家的廉价数据标注劳动力。
因此,在接受媒体采访时,Gebru 拒绝讨论机器的感知能力。因为“在所有涉及到机器危险的现实情况下,都只是‘人类在伤害其他人类’而已”。
假如,我们把聊天机器人当成好朋友和亲人来看待,那么其背后的公司和其他机构是否会打我们的歪主意?但另一方面,如果我们把算法当成不值得尊重的玩意儿,那么对技术的剥削,从本质来看,是否只是加强了对彼此和自然环境的剥削?
自我觉醒的迫切性
我并不奇怪于国外对LaMDA事件讨论的多样性与丰富度。
7年前,当人工智能技术繁荣的号角在硅谷与国内同时响起时,就已经有不少硅谷顶级科学家流露出对“人工智能与人性之间会产生激烈对抗”的担忧。
而那个时候,对包括人工智能、大数据等一众前沿技术倍感欣奇与喜悦的我们,对当时很多关于“种族偏见、技术剥削”的悲观性预测感到不解,也对谷歌内部一波又一波引发的“技术歧视大游行”感到头疼;
对Facebook在2018年因数据泄露遭受洪水般袭击时无动于衷,对欧洲人工智能技术立法的争议与反复感到不耐烦……
娱乐至死、商业化与技术带来的便利性占据了我们的大脑,我们为科技公司的产品与技术竞赛摇旗呐喊,对企业市值的扶摇直上给予无休止的追捧,对科学家与创业者的衡量标准只有“技术”与“商业”。
但却独独缺少了“人性”。
因为觉得这似乎与科技,与自己都毫无关系。
于是,现在回看过往,很多人,包括我自己,不得不为自己的愚蠢、目光短浅和心胸狭隘而买单。
后来的后来,当我们遭遇数据泄露和人脸买卖时,对企业的批判开始猛烈,却收效甚微。2020年9月,一篇优秀特稿《外卖骑手,困在系统里》将企业利益、算法与人性的冲突推到了中国大众面前,这也是算法伦理问题在国内引发最为广泛的一次探讨。
直到现在,我仍然记得文章里那句算法的社会学含义——“在社会学家尼克·西弗看来,算法不仅由理性的程序形成,还由制度、人类、交叉环境和在普通文化生活中获得的粗糙-现成的理解形成。”
然而,它虽然揭露了现状,但解决方案却极为苍白,因为这涉及到一整个城市运行系统的改造,而不能单单强调“对程序员社会科学观念的培养”。
因此,它虽然换来了巨头企业的微微低头,却没有换来一份最终可行的解决方案——小哥仍然困在算法和个人利益里,而我们也困在了外卖小哥带来的交通困境里。
后来,让我们惊讶的是,同样的困境与矛盾也出现在了印尼打车巨头 Gojek 与它的摩托车出租车司机队伍之间。
但后者,却建立起一只类似于开发者社区的集体力量——
他们成立了几百个的司机社区,帮助彼此学会“哄骗”算法误识别自己偏好的个人技巧;也有精通技术的人开发出未经授权的APP生态,调整和优化帐户,减少对Gojek本身算法团队的依赖。
更重要的是,这场“反击战”真正践行了“制度、人类、交叉环境和对文化生活生活的理解,都是算法的组成部分”——
Gojek提供歇脚的营地,地方当局批准定期集会,小吃摊与清真寺作为临时住所提供给雅加达没有住房的年轻人居住。
好的,我们又想,这些技术与大数据在商业方向的糟粕,是发展过程中必不可少的一部分,只要小心谨慎便可躲过,便不会落在自己头上。
而后来,包括河南红码在内,一切都让曾经公关文案里充满各种未来科技想象力的故事越来越面目可憎。而我也真正意识到,绵延的争议与恶果,就是一场无人可脱身的自我审判。
记住,昨天在他身上所赋予的科技枷锁,未来也一定会架在你的身上。
因此,对待LaMDA的灵异事件,我们必须穿透它激起的恐惧、惊讶和兴奋和通过谎言进行的炒作,打破现实与科幻小说的界限。“对于未来,人们关注的应该是人类的福祉,而不是机器人的权利”,Gebru坚定地认为。
而我还想补充一句,对待技术的正确意识觉醒,便是在争取自己未来的福祉。
标签:
您可能也感兴趣:
今日热点
为您推荐
丰田金融服务,二手车消费的放心之选
奔赴向往之地!捷途X90 PLUS让家充满爱
人性化的人车交互 解析捷途X70诸葛版智能座舱
排行
- 腾龙股份股东王柳芳减持302.01万股 价格区间为14.81-15.90元/股
- 因个人资金需要 新泉股份实际控制人唐志华拟减持不超1124.54万股
- 信捷电气股东邹骏宇减持50万股 价格区间为60.41-67.50元/股
- 国家卫健委:湖北以30个省外新增病例17例
- 因自身资金需求 科森科技股东徐宁拟减持不超3.71万股公司股份
- 中公高科股东潘玉利减持50万股 价格区间为20-20.60元/股
- 多地患者治愈后“复阳” 对疫情防控提出新挑战 五大焦点权威解析
- “精诚合作,打赢这一仗!”
- 生态环境部:自1月20日以来全国已累计处置医疗废物12.3万吨 ...
- 承诺两年扭转乱象 银保监会加快推进意外险费率市场化改革 ...
精彩推送
- 世界热文:这届考生,报志愿比高考更「拼命」
- 世界热资讯!胶原蛋白赛道IPO赛跑,「追不上」玻尿酸
- 看热讯:谷歌灵异算法事件,荒诞却又可悲
- 当前观点:最大国产手术动力工具IPO,重庆大学博士创业20年终...
- 环球视讯!建设银行外汇牌价表06.25一览(人民币对美元汇率)
- 当前观点:字节跳动,收编了一位博士
- 全球今日讯!00后与职场,到底谁整顿谁?
- 每日时讯!午后100人民币等于多少美元?06.25人民币汇率中间价
- 今日热讯:出国,是中年程序员的解药吗?
- 当前关注:浦发银行外汇牌价实时查询(2022.06.25)
- 天天热资讯!广发银行发行优利存款怎么样?起存金额多少?
- 当前讯息:浦发银行外汇牌价表6月24日 人民币外汇是多少?
- 【快播报】锡创投S基金正式设立,首期5亿元
- 热头条丨建设银行外汇牌价表查询 6月24日建行人民币汇率多少?
- 当前观察:光大银行外汇牌价表查询 6月24日光大银行人民币汇...
- 焦点!抖音上演新东方模仿秀
- 全球最资讯丨投资界LP周报(16起动态) | 百亿母基金爆发:...
- 视点!普洛药业出资3000万,参设医疗产业基金
- 世界视讯!交通银行外汇牌价表 6月24日交行人民币汇率多少?
- 世界微动态丨物流末端大战,最后一个大玩家下场?
- 天天热门:6月24日招行人民币对美元汇率多少?招商银行外汇牌价表
- 吴通控股公司2022年第一季度营收是多少?光纤连接器概念共有...
- 壹石通公司2022年第一季度实现营收多少?壹石通5日内股价上涨1.04%
- 中曼石油2022年第一季度实现营收多少?上海本地概念共有多少...
- 德邦股份2022年第一季度实现营收多少?德邦股份7日内股价下跌1.52%
- 伟创电气2022年第一季度营收是多少?智能制造概念共有多少支...
- 2022年第一季度川仪股份营收是多少?6月24日碳监测概念股涨幅...
- 伊利股份公司2022年第一季度营业总收入是多少?6月24日价值品...
- 镇洋发展2022年第一季度营业总收入是多少?6月24日氯碱板块早...
- 通用电梯2022年第一季度季实现营收多少?6月24日物联网概念股...
- 中太嘉信信托全方位护航,中国企业海外业务发展一站式服务
- 中材科技2022年第一季度实现营收多少?6月24日光伏风电板块早...
- ST三盛2022年第一季度营业总收入是多少?6月24日电子设备板块...
- 云天化公司2022年第一季度实现总营收多少?6月23日磷酸铁锂板...
- 简讯:农行怎么查询余额信息?可通过哪些方法查到?
- 快看:100元面值世纪龙钞最新价格曝光 价值高得吓人
- 全球信息:在家做什么可以赚钱 这两个挣钱副业可以考虑
- 全球微资讯!浦发银行理财产品有哪些?浦发银行理财产品一览表
- 世界今日讯!李子柒成立食品公司 经营范围主要包括哪些?
- 全球视讯!全新宝马Z4什么时候上市?新车价格多少钱?
- 【焦点热闻】五险一金有什么好处?离职后五险一金怎么办?
- 实时:指数型基金有哪些?投资风险大吗?
- 【独家】美图V6什么时候上市?美图V6手机报价是多少?
- 环球讯息:杉德支付被罚近120万元 杉德支付怎么样?
- 天天观察:好声音张磊夺冠 那英成为三连冠的导师
- 环球速讯:伤残抚恤管理办法有哪些规定?哪些人员可享伤残抚恤...
- 包装概念共有多少支个股?博汇纸业5日内股价下跌1.19%
- 环球聚焦:2017翠榴石价格是多少钱?翠榴石市场价值有多高?
- 今日视点:回迁房能买吗?必须要办理哪些证件?
- 每日简讯:同治通宝值多少钱?同治通宝图片及价格一览
- 世界观点:民国铜元价格是多少?民国铜元图片及价格一览
- 全球新资讯:宣统元宝有哪些版别?宣统元宝价值多少钱?
- 全球时讯:可以买到巴菲特的基金吗?巴菲特持有的基金有哪些?
- 当前看点!2017内存条涨价是什么原因?半年疯涨6倍堪比理财产品
- 快消息!易方达新丝路基金好吗?会有哪些风险?
- 湖南湘免国际贸易有限公司在长沙黄花综保区落地
- 大连金普新区:恢复耕地30余亩确保粮食生产安全
- 山西农业大学阳泉富硒产业研究院揭牌成立
- 2021年北京软件和信息服务业实现营业收入2.2万亿元
- 河北:推进新能源产业高质量发展 成立省领导包联工作专班
- “冬闲田”已成“增收田”天门油菜产量连续3年恢复性增长
- 蔬菜花卉研究所揭示百合珠芽形成调控机制
- “安全生产、安全发展”专题研讨会在郑州举行
- 【报资讯】公司让休产假员工手写销售心得 竟是一种变相罚款手段
- 环球播报:2018年红纹石多少钱一克?红纹石市场价值怎么样?
- 焦点关注:游族网络,钝刀割肉
- 世界快报:「洗白」直播带货,一个董宇辉还不够
- 今亮点!支付宝法人变更 对支付宝用户有哪些影响?
- 当前快讯:三位千万级玩家,揭秘数字藏品市场三大套路
- 当前最新:年轻人,谁还没点烧钱的小爱好
- 当前观察:钉钉、飞书、企业微信:迥异的商业门道
- 动态:外地手机卡能在本地补办吗?需要哪些材料?
- 环球简讯:1980年2元纸币值多少钱?市场价格暴涨40倍
- 每日短讯:异地审车需要什么手续?异地审车委托取消了吗?
- 全球关注:北京银行短贷宝多久到账?北京银行短贷宝利息是多少?
- 天天报道:下月工资有2个变化 住房公积金将进行调整
- 全球看热讯:恒大75折卖房 用户可以直接在手机APP网上购房
- 全球观速讯丨保险柜怎么开?保险柜密码忘了怎么办?
- 当前热门:美版卡贴机是什么意思?会便宜多少钱?
- 天天百事通!建设银行外汇牌价表查询(2022年6月23日 更新)
- 环球新资讯:新锐鞋服品牌「重新加载」获蓝驰创投 3000 万...
- 最资讯丨浦发银行外汇牌价查询 6月23日浦发人民币汇率多少?
- 世界要闻:企业税务风险管控服务商「查税宝」获数千万战略融...
- 头条焦点:交通银行人民币中间价多少?6月23日交通银行汇率牌...
- 全球新动态:光大银行外汇牌价表06.23 光大银行人民币汇率多少?
- 每日简讯:焦虑的年轻人,开始逃离叫卖式直播间
- 【世界独家】古代的肥宅快乐水,这不比奶茶香?
- 天天即时看!招商银行外汇牌价表2022 招行人民币对美元汇率多少?
- 快消息!今年,安徽母基金大爆发
- 暖气片使用寿命有多久 暖气片行业上市公司有哪些?兴瑞科技1...
- 渔业概念有哪些股票?中水渔业7个交易日股价下跌2.79%
- 冷却液不够我们该如何的应急处置 2022年冷却液行业概念股票...
- 集装箱的主要制造材料有哪些 集装箱制造板块概念股票有哪些?
- 2022年整车制造上市公司有哪些?广汽集团7日内股价下跌4.56%
- 水电站有哪些分类 电站概念股有哪些?近5日易事特股价上涨3.63%
- 玻纤是什么东西呢 玻纤概念龙头股有哪些?中国巨石近30个交...
- 【速看料】中银基金是正规平台吗?是国企吗?
- 观焦点:七夕发多少红包比较好?七夕红包送多少合适?
- 热文:全国彩礼地图 平均值达到30万什么情况?
- 【报资讯】62年1角人民币有价值吗?现如今能值多少钱?