风雨中的小七 - 博客园_a56爆大奖在线娱乐

2024年1月1日

解密Prompt系列22. LLM Agent之RAG的反思：放弃了压缩还是智能么？

摘要：

当前RAG多数只让模型基于检索内容回答，其实限制了模型自身知识压缩形成的智能。既要事实性又要模型智能，需要最大化使用模型内化到参数中的信息，只在必要时调用外部知识，这里介绍前置和后置处理的几种方案~ 阅读全文

posted @ 2024-01-01 19:15 风雨中的小七阅读(455) 评论(0) 推荐(0) 编辑

2023年12月18日

解密Prompt系列21. LLM Agent之再谈RAG的召回信息密度和质量

摘要：

话接上文的召回多样性优化，这一章a56爆大奖在线娱乐们唠唠召回的信息密度和质量。同样参考经典搜索和推荐框架，这一章对应排序+重排环节。a56爆大奖在线娱乐们先对比下经典框架和RAG的异同，再分别介绍几种适用大模型的排序和重排方案~ 阅读全文

posted @ 2023-12-18 08:05 风雨中的小七阅读(1104) 评论(0) 推荐(0) 编辑

2023年12月3日

解密Prompt系列20. LLM Agent之再谈RAG的召回多样性优化

摘要：

看完openai闭门会议对RAG又有些新的思考。这一章a56爆大奖在线娱乐们参考主流的搜索框架，结合新老论文，和langchain新功能聊聊RAG框架中召回多样性的优化方案，包括如何提高query多样性和索引多样性阅读全文

posted @ 2023-12-03 21:26 风雨中的小七阅读(1778) 评论(0) 推荐(0) 编辑

2023年11月19日

解密Prompt系列19. LLM Agent之数据分析领域的应用：Data-Copilot & InsightPilot

摘要：

这一章a56爆大奖在线娱乐们聊聊大模型在数据分析领域的应用。数据分析主要是指在获取数据之后的数据清洗，数据处理，建模，数据洞察和可视化的步骤。这里a56爆大奖在线娱乐们聊两篇论文：Data-Copilot 和 InsightPilot 阅读全文

posted @ 2023-11-19 08:10 风雨中的小七阅读(1444) 评论(0) 推荐(1) 编辑

2023年10月28日

解密Prompt系列18. LLM Agent之只有智能体的世界

摘要：

前四章不论是和数据库和模型还是和搜索引擎交互，更多还是大模型和人之间的交互。这一章a56爆大奖在线娱乐们来唠唠只有大模型智能体的世界！分别基于源码介绍斯坦福小镇和Chatdev两篇论文阅读全文

posted @ 2023-10-28 08:24 风雨中的小七阅读(701) 评论(0) 推荐(1) 编辑

2023年10月14日

解密Prompt系列17. LLM对齐方案再升级 WizardLM & BackTranslation & SELF-ALIGN

摘要：

这一章介绍通过扩写，改写，以及回译等半监督样本挖掘方案对种子样本进行扩充，提高种子指令样本的多样性和复杂度，这里a56爆大奖在线娱乐们分别介绍Microsoft，Meta和IBM提出的三个方案。阅读全文

posted @ 2023-10-14 09:26 风雨中的小七阅读(535) 评论(0) 推荐(2) 编辑

2023年10月5日

解密Prompt系列16. LLM对齐经验之数据越少越好？LTD & LIMA & AlpaGasus

摘要：

总结下指令微调、对齐样本筛选相关的方案包括LIMA，LTD等。论文都是以优化指令样本为核心，提出对齐阶段的数据质量优于数量，少量+多样+高质量的对齐数据，就能让你快速拥有效果杠杠的模型阅读全文

posted @ 2023-10-05 08:56 风雨中的小七阅读(510) 评论(0) 推荐(2) 编辑

2023年9月16日

解密Prompt系列15. LLM Agent之数据库应用设计：DIN & C3 & SQL-Palm & BIRD

摘要：

这一章a56爆大奖在线娱乐们来唠唠大模型和DB数据库之间的交互方案，除了基于Spider数据集的SOTA方案DIN之外，还会介绍两个改良方案C3和SQL-Palm，以及更贴合实际应用的大规模复杂SQL数据集BIRD。阅读全文

posted @ 2023-09-16 09:01 风雨中的小七阅读(944) 评论(0) 推荐(2) 编辑

2023年9月1日

解密Prompt系列14. LLM Agent之搜索应用设计：WebGPT & WebGLM & WebCPM

摘要：

本章介绍如何和搜索引擎进行交互的LLM Agent设计，主要包含以下几个模块：搜索改写，事实抽取，聚合推理，行为交互。a56爆大奖在线娱乐们会以WebCPM为基础，同时介绍WebGPT，WebGLM的异同阅读全文

posted @ 2023-09-01 20:30 风雨中的小七阅读(763) 评论(0) 推荐(0) 编辑

2023年8月17日

解密Prompt系列13. LLM Agent-指令微调方案: Toolformer & Gorilla

摘要：

本章介绍基于模型微调，支持�a56爆大奖在线娱乐舛喙ぞ咦楹系饔茫丛庸ぞ叩饔玫姆桨浮９ぞ叩饔玫暮诵氖�3个问题：在哪个位置使用工具，使用什么工具，如何生成调用语句 - Gorilla & Toolformer 阅读全文

posted @ 2023-08-17 09:20 风雨中的小七阅读(1189) 评论(7) 推荐(2) 编辑