手机浏览器扫描二维码访问
第113章 意外的邀请（第1页）
相比效果显著，非常出色的老虎算法，移动端优化排序算法的效果要稍差一些。
因而孟繁岐并没有急着推动上线测试，而是等待结合AI语言解释模型的那一个更新准备一起推动。
目前针对语言问题所采用的通常是循环神经网络（RNN）和长短期记忆办法（LSTM），这两个工作都是上个世纪末的老办法了。
这两种方法简明好用，因而一直兴盛到2017年左右。
直到Transformer，也就是ChatGPT的T方法出现。
通常来说，大家都认为Transformer方法之所以能够迅速取代RNN和LSTM，主要是因为它更方便并行进行。
在多个设备上容易做到并行，这件事最核心的意义便是让规模庞大的版本成为可能，这也为后来ChatGPT这样的究极巨无霸模型奠定了基础。
“其实老版的RNN也有办法可以把并行做得很好，领域内对这件事有很大的误解。”孟繁岐皱着眉头思索道。
原本时间线，Transformer出来之后，所有人都放下了手头老方法的研究，拥抱了T方法。
可18年实际上有人专门做了RNN的高度并行，只可惜已经太迟了。
如果这个发现可以早一年的时间，可能RNN会长期作为T办法的竞争对手，我们也有可能看到ChatRNN的出现。
“早期的T方法需要很多数据，各种参数比较难调整，需要的计算能力也很庞大。”孟繁岐即便根据后来成熟的许多方法做了一个改进的版本，T方法在早期仍旧比较麻烦。
“好在谷歌的数据和算力都不缺，而我也比较熟悉各种经典的参数设置。”孟繁岐先写了一个雏形版本的T方法，进行了一下测试。
“不过，受限于现在显卡的显存，模型没有办法做得很大，除非我专门再去开发DeepSpeed这样的高级并行方式。”
在多张卡上训练模型，可能是为了追求速度，也可能是因为一张卡上放不下了。
其中，数据并行是最简单的，也就是不同的卡都在做同样的事情，每张卡上都会存放一个模型。
只不过输入的数据不一样，不同的卡做完运算之后，再一起整合更新。
就像是所有人都拿了同样的刀切不同的菜，最后把切好的食材堆在一起。
可有的时候，一张卡上根本就放不下模型，这样的情况就比较麻烦了。因为一个人根本拿不动这把刀了，需要多人协作。
可以把每一层拆分到不同的卡上，也可以把不同层分配到不同的卡上，如此一来，其实是用多卡实现了类似单卡训练的效果。
显然，前者会比后者容易非常多，前者只需要在不同卡上复制这些模型，分别读取数据做运算就好。
而后者则需要根据不同的情况和设置拆分合并，一个不小心就会搞错。
看了下谷歌大脑的服务器，里面有好几批2013款的GTX泰坦，这东西着实价值不菲。
考虑到当时的其他产品，6G的显存还是鹤立鸡群的。
比起孟繁岐自己重金购置的4G旗舰款，多出的2G显存，足够做很多其他的事情了。
用速度换显存，孟繁岐又做了许多参数和信息在Cpu和Gpu上反复转移的操作。
因为在正式入职之前，谷歌大脑分配给他的显卡就已经有16张泰坦，这部分卡拨给孟繁岐独享，随时都可以使用。
除此之外，还有32张在不同节点上的Gpu可以申请占用。
携猫主子勇闯星域 一诺千金断绝尘 丹道龙皇 炮灰表小姐苟命日常 善男信女 影视世界里的假道士 神环啸 寡人刘玄德 我在西游交易万物 她似春光明媚 陆总请滚开，别打扰我种地 西游之开局加入聊天群 我的御兽养成计划 银河记事 激荡一九九五 什么？我体内有一座剑山 年代文女配重生后踹了男主 异界大乱斗之乱的很 改局之谋 霸总战神之当代侠侣
被夺气运重生后，小师妹杀疯了
关于被夺气运重生后，小师妹杀疯了前世，谢宁被庶妹暗害，被夺气运，惨死兽爪之下。疼爱她的娘亲和外祖一家也因为自己，在庶妹的迫害下疯的疯死的死！重活一世，谢宁势必揭穿庶妹的恶毒面具！改变师兄们的悲惨命运！让师父这条大粗腿屹立不倒。这一世，势必要将自己失去的一切都夺回来！...
超级神武道
地球联邦时代，开发基因潜能成为人类赖以生存的依靠。一部十八重的基础心诀，开启了基因全面异变时代。一套武道修炼系统，将这种异变推到了巅峰。重回一百三十年前，我当无敌天下！（新人新书，求收藏推荐）各位书友要是觉得超级神武道还不错的话请不要忘记向您...
小美人重生后被献给了暴君
上辈子余星被瑞王花言巧语所骗，最终落得苟延残喘，遭世人唾骂，惨遭嫡姐毒害。重活一世，他拒绝了瑞王，却被他记恨在心，以祸心之名将他进献给禹国暴君。他想逃却被整个京城的人盯着，他们视他为祸害，将他强行塞入马车，送往禹国，保陈国无忧。余星痛恨他们，仇视他们！他以为自己会在禹国惨遭迫害，却没想到迎来了所有人欢迎。他在宫里战战兢兢，唯恐惹怒暴君，没想到一向不近男女的暴君，却朝他走来，拉着他的手，朝着巍峨大殿走去。下方大臣齐齐朝他叩拜。余星！再后来禹国攻入陈国皇宫，暴君带着他居高临下睥睨着一身狼狈的瑞王。魔蝎小说...
吃了一口太岁肉，我杀穿仙路
关于吃了一口太岁肉，我杀穿仙路2030年，灵气复苏，天地转变，古法再次站上历史舞台。2130年，随着名山秘境开启，远古洪荒重新融入现在这方天地。一位位耳熟能详的神灵逐渐从时间长河回归，新法古法发生文明碰撞。一条新的长生路再现世间...
异世种田：我走在天灾前面
关于异世种田我走在天灾前面年仅10岁的文希，被系统安排去平行世界拯救女主，30年后任务完成，返回蓝星，直接死亡。系统告诉她蓝星已经毁灭，把她传送到绿星了。坑货系统却自己走了，什么都没给她留。文希没办法，她想好好活着，领用领地轰轰烈烈的开始她的种田生活。文希已经接受事实，开开心心的做领主，坑货系统却回来了。共同面对绿星的多灾多难，而文希每一次，都能在灾难降临在她身上之前，提前知晓避开或拿到解药。只不过，为什么她的领地，那么吸引变异动物，文希觊觎它们身上美味的肉，看着都留口水。可她打不过啊危险绿星，文希努力生活。...
我的26个变态女客户
关于我的26个变态女客户秦宇是个孤儿，老天给他关上门的同时，也给他开了一扇窗。让他拥有秒杀当红小鲜肉的颜值，跟188的身高。在高人指点下，秦宇做起了职业护花使者！他的客户个个都是极品大美女，却没一个正常人。有大学美艳校花但有厌男症。有地下世界的女王却是女神经。有上市公司的高冷女霸总无奈心狠手辣。有当红一线女星可沉迷扮演各种角色分不清现实。还有个主动倒贴的大美女却是个最后遇到一真爱你腰上怎么有胎记，难道有情人终成兄妹？看秦宇如何在各种修罗场中游刃有余。万花丛中过，片叶不沾身，追夫火葬场，结局爽又爽！...