手机浏览器扫描二维码访问
第113章 意外的邀请（第1页）
相比效果显著，非常出色的老虎算法，移动端优化排序算法的效果要稍差一些。
因而孟繁岐并没有急着推动上线测试，而是等待结合AI语言解释模型的那一个更新准备一起推动。
目前针对语言问题所采用的通常是循环神经网络（RNN）和长短期记忆办法（LSTM），这两个工作都是上个世纪末的老办法了。
这两种方法简明好用，因而一直兴盛到2017年左右。
直到Transformer，也就是ChatGPT的T方法出现。
通常来说，大家都认为Transformer方法之所以能够迅速取代RNN和LSTM，主要是因为它更方便并行进行。
在多个设备上容易做到并行，这件事最核心的意义便是让规模庞大的版本成为可能，这也为后来ChatGPT这样的究极巨无霸模型奠定了基础。
“其实老版的RNN也有办法可以把并行做得很好，领域内对这件事有很大的误解。”孟繁岐皱着眉头思索道。
原本时间线，Transformer出来之后，所有人都放下了手头老方法的研究，拥抱了T方法。
可18年实际上有人专门做了RNN的高度并行，只可惜已经太迟了。
如果这个发现可以早一年的时间，可能RNN会长期作为T办法的竞争对手，我们也有可能看到ChatRNN的出现。
“早期的T方法需要很多数据，各种参数比较难调整，需要的计算能力也很庞大。”孟繁岐即便根据后来成熟的许多方法做了一个改进的版本，T方法在早期仍旧比较麻烦。
“好在谷歌的数据和算力都不缺，而我也比较熟悉各种经典的参数设置。”孟繁岐先写了一个雏形版本的T方法，进行了一下测试。
“不过，受限于现在显卡的显存，模型没有办法做得很大，除非我专门再去开发DeepSpeed这样的高级并行方式。”
在多张卡上训练模型，可能是为了追求速度，也可能是因为一张卡上放不下了。
其中，数据并行是最简单的，也就是不同的卡都在做同样的事情，每张卡上都会存放一个模型。
只不过输入的数据不一样，不同的卡做完运算之后，再一起整合更新。
就像是所有人都拿了同样的刀切不同的菜，最后把切好的食材堆在一起。
可有的时候，一张卡上根本就放不下模型，这样的情况就比较麻烦了。因为一个人根本拿不动这把刀了，需要多人协作。
可以把每一层拆分到不同的卡上，也可以把不同层分配到不同的卡上，如此一来，其实是用多卡实现了类似单卡训练的效果。
显然，前者会比后者容易非常多，前者只需要在不同卡上复制这些模型，分别读取数据做运算就好。
而后者则需要根据不同的情况和设置拆分合并，一个不小心就会搞错。
看了下谷歌大脑的服务器，里面有好几批2013款的GTX泰坦，这东西着实价值不菲。
考虑到当时的其他产品，6G的显存还是鹤立鸡群的。
比起孟繁岐自己重金购置的4G旗舰款，多出的2G显存，足够做很多其他的事情了。
用速度换显存，孟繁岐又做了许多参数和信息在Cpu和Gpu上反复转移的操作。
因为在正式入职之前，谷歌大脑分配给他的显卡就已经有16张泰坦，这部分卡拨给孟繁岐独享，随时都可以使用。
除此之外，还有32张在不同节点上的Gpu可以申请占用。
丹道龙皇 她似春光明媚 激荡一九九五 神环啸 年代文女配重生后踹了男主 影视世界里的假道士 善男信女 一诺千金断绝尘 异界大乱斗之乱的很 我的御兽养成计划 陆总请滚开，别打扰我种地 携猫主子勇闯星域 我在西游交易万物 炮灰表小姐苟命日常 银河记事 西游之开局加入聊天群 改局之谋 霸总战神之当代侠侣 寡人刘玄德 什么？我体内有一座剑山
长生者仙
关于长生者仙是开始，还是结束？他拥有逆天神通，却只想做一任侠，不管凡世还是仙界，他只想潇洒一把。奈何，命运却总牢牢地扯住他...
钓系美人如何咳血手册
世人皆知，天衍宗苍梧峰傲骨铮铮的拂知剑尊，违背伦常爱上了自己徒弟殷岭西。无数风月话本辗转茶楼酒肆，剑尊被人钉在引诱无辜单纯徒弟的耻辱柱上。却无人知晓，那被引诱的单纯徒弟，此时正吻了吻自己师尊眼角沁出的泪，满意的勾唇笑道师尊，辛苦了拂知抚上他的背，面色苍白的摇摇头，清冷的眼底带着柔色，你真的心悦于我么？殷岭西忽略自己心底的异样，假装深情道此生唯一。拂知看着这个已经被自己收回了百分之八十还不自知的碎片，神色更温柔了。后来，殷岭西魔族皇室身份暴露，逃回魔族领地。拂知掐着点赶过来，正好听见少皇殿下，不知道那拂知剑尊的滋味如何啊殷岭西语气慵懒，不怎么样和木头似的没意思，我腻味了就回来了。下面的人哄堂大笑，我刚还听说，那剑尊挨了剑阁十三刑，要离开师门来找我们殿下殷岭西神色骤变你说什轰！魔宫大门被暴虐的灵力轰的粉碎。殷岭西抬头看去。狂风中，白衣染血满身血痕的师尊，神色冰冷到极点，剑锋森寒，再说一遍。面上人设不崩，拂知叹气，可算是可以收网了。碎片二毁欲×国师乖。碎片三贪欲×逍遥医仙别哭。魔蝎小说...
波本你是真酒还是假酒
早川花英从横滨政府旗下秘密孤儿院中一睁眼，远处五栋高耸入云的大楼分外夺目。她转回头，一群小萝卜头正围着电视看假面超人，米花电视台放送。早川花英战术后仰，啊呀，她这是穿越了啊！由于七岁没有觉醒异能力，她被人收养，过着普通生活。直到被启用。上司早川，我们需要你卧底进酒厂。早川花英没问题！FBI前辈有攻略，她抄抄！上司你要接触的是他。早川花英认出金发黑皮帅哥OK！充满正义感的警察先生不会害她！魔蝎小说...
真千金的女儿是个狠人
（评分刚出的，慢慢上涨中，无CP金手指目标明确）闲着无聊，虞轻轻被这方世界的意识忽悠了，投身到齐王妃肚子去拯救镇国将军府免遭灭门的惨案，可是，不是说好的投身成真千金的吗，这咋还降辈份了？真千金变成真千金的女儿了？那就重来？什么？不可以重来，那也就将就将就吧！虞张氏我和老头子腿脚不便，我孙女替我教训儿子咋了，打...
人鱼小姐与她的饲养员
赵舒清第一次见到被困在水箱里的林风时，就被她绝美的身姿震惊了，作为一名海洋学者，赵舒清迫不及待的抚摸起人鱼的漂亮蓝色尾巴，人鱼浑身不由自主的颤抖，一双漂亮的海蓝色眼睛不敢置信的看着她，当赵舒清想进一步摸索对方隐秘之处的时候，却被人鱼小姐‘啪’的甩了一个大嘴巴，转身游回了水箱最深处。于是，赵舒清连夜恶补了关于人鱼的资料1人鱼的尾巴只有伴侣才能摸2人鱼的发情期在三四月份，每只人鱼一生只有一个伴侣3人鱼求偶时会主动献出自己的鱼鳞，但并没有人类收到过人鱼的鳞片4人鱼同样具有思维和语言能力，长时间与人类接触可以学习人类的语言5魔蝎小说...