手机浏览器扫描二维码访问
2.3
检索增强生成技术
rag(retrieval-augmented
generation)技术是一种结合了信息检索(retrieval)和文本生
成(generation)的自然语言处理(nlp)方法。核心思想是将传统的检索技术与现代的自然语言
生成技术相结合,以提高文本生成的准确性和相关性。它旨在通过从外部知识库中检索相关信息来
辅助大型语言模型(如
gpt
系列)生成更准确、可靠的回答。
在
rag
技术中,整个过程主要分为三个步骤如图
2.2
所示:索引(
indexing)、检索
(retrieval)和生成(generation)。首先,索引步骤是将大量的文档或数据集合进行预处理,将
其分割成较小的块(c混k)并进行编码,然后存储在向量数据库中。这个过程的关键在于将非结
构化的文本数据转化为结构化的向量表示,以便于后续的检索和生成步骤。接下来是检索步骤,它
根据输入的查询或问题,从向量数据库中检索出与查询最相关的前
k
个
c混k。这一步依赖于高效
的语义相似度计算方法,以确保检索到的
c混k
与查询具有高度的相关性。最后是生成步骤,它将
原始查询和检索到的
c混k
一起输入到预训练的
transformer
模型(如
gpt
或
bert)中,生成最
终的答案或文本。这个模型结合了原始查询的语义信息和检索到的相关上下文,以生成准确、连贯
且相关的文本。
rag
的概念和初步实现是由
douwe
被贬后,我自立为王 全能学霸的养成系女友 梦境,我与轩辕 山野小仙尊 出逃五年,她带两个萌宝杀回来了 道之初境 快穿:逍遥路人甲 你一男兵,混进女兵连当教官? 大A爆涨,抄底娶回女明星 满级传球,从皇马解约成全能球王 厨神:我就炒个菜,咋就飞升了? 女神拼命保护我,却不知道我最强 航天首席重生1978 我在冷宫忙种田 娇妻的谎言 从忍界开始的游戏商人 八零:真千金回归后,宠冠京城! 旧世废土 全家惨死?嫡女重生后冠绝京城 萝莉控的万界之旅
林木一个普通大二学生,开局被女友甩!却意外获得反舔狗返现系统。只要为系统推荐的女人花钱,就能获得100返现。从此!翻身农奴把歌唱,决心只做人上人。为了自己的赚钱大业,林木每天不是在花钱的路上就是在花钱的途中。叮,推荐有效对象,宿主是否查看话不多说,工具人又来了,开工挣钱...
关于超神学院里的构装巫师他,一个巫师世界的逃亡者。在巫术与科技的双重加持下,用智慧与勇气在超神宇宙中,铸就了独属于他的不朽传奇...
团宝是天界小公主,偷喝酒掉进书里成为小炮灰。抢夺女主气运,拯救原主家族。仙界帝君是她父君,地府阎王是二爹爹,魔界君主是舅舅,四大神兽是小跟班。这本书是我两个十几岁女儿想的名字和内容,母女三人一起创作的,希望你们喜欢。小孩子的脑洞真的很奇幻。...
没有特别尊重历史,请大家轻点喷!颠颠瓜六在地府看到如懿传,觉得证明自己的机会到了,靠帮阎王完成KPI换来了重生到如懿传的机遇。瓜6重生,王者局小菜鸡靠着地府NPC们的弹幕杀爆青铜局!只是,为啥重生了还能看到地府那些NPC说的话呢?哦哦哦,这个叫做弹幕啊!选秀当日弘历要把如意给青樱。瓜六当即跪倒在地奴才要告发乌...
一场灭世雨灾,淹没了地球上百分之95的陆地,人类十不存一。上一世墨野和女友被发小一家带上了船,本以为获救了,可谁知船上才是地狱!后面他的女友为了一口食物,残忍的把墨野推到海里喂了海怪。重生回到灾难前7天的墨野发誓为自己而活!囤积物资打造最强战船一步一步征服末世。某绿茶墨野,你只要让我上你的船,我就愿意和你交...
苏千藕一朝穿越成侯府嫡女,家中庶妹早就御男无数,只有她还守身如玉,等着未婚夫上门提亲。哪知未婚夫变妹夫,出门遇见说个话,回家后就被庶妹指着脸骂她狐狸精,勾引妹夫,将她折磨半个月,关在柴房活活饿死了。苏千藕很好,无中生有,凭空捏造!那我就让这事变成铁证如山!最后,盛京城都在传大将军被侯府大小姐吃干抹净,被甩了!貌...