禹州做网站wordpress主题的作用

禹州做网站,wordpress主题的作用,在线建设房屋设计网站,网站优化连云港哪家强?针对当下大模型比较成熟的几种应用模式#xff0c;包括智能问答、RAG、Agent、AgentMCP等等#xff0c;大家理解时容易陷入两种极端#xff1a; 当你刚开始入门时#xff0c;看到这些概念一定很混淆#xff0c;往往把大模型LLM想的很神奇#xff0c;感觉它什么都能干包括智能问答、RAG、Agent、AgentMCP等等大家理解时容易陷入两种极端当你刚开始入门时看到这些概念一定很混淆往往把大模型LLM想的很神奇感觉它什么都能干什么业务场景都能用。当你通过cherrystudio或dify等工具按照网上一些教程来实现过一些场景时往往又会感觉很僵硬只会照着做并没有理解大模型LLM的本质。本文以容易理解的信息化视角将LLM视作一个黑盒的文字系统通过比较输入提示词输出成果在几种LLM应用模式下的不同来分析这些应用模式的差异本质上也是对使用LLM的过程做一个“祛魅”。个人觉得哪怕我们对LLM内部的encode、decode、transformer、attention、MoE等概念和架构一知半解、似懂非懂也不妨碍我们从使用角度去理解不同场景下LLM的应用模式。基础问答提示词系统指令用户输入一些最基础的问答场景中你会要求LLM模仿某种角色来回答用户的提问或者要求LLM根据用户的输入来生成相应的内容同时要求遵守某种结构进行生成答案并做一些限制比如不能随意发挥等。以上这些要求其实就对应LLM的系统提示词在Dify中配置界面大致如下上图system系统提示词就对应高阶指令它是用来告诉LLM要如何响应用户诉求要输出何种格式等等是由LLM应用开发者预先设置好的所以它被称之为system系统级指令而user提示词对应是用户实际输入信息。其底层实现逻辑可以这样理解以适配OpenAI的接口规范为例在这种最基础场景下具体访问LLM的输入参数结构是可以看到输入该服务的messages包括两部分组成一个是开发者提前设置好的role:system指令内容一个是用户实际输入问题role:user内容。既然通过信息化视角来理解那有输入就必然有输出进一步看看LLM服务的输出格式在choices/message结构内部role:assistant这个节点的作用是用来标记大模型输出信息为啥要这么标记下后面会讲然后才是具体LLM生成内容的content节点。多轮对话提示词增加上下文的输入以上是最基础的一次对话过程如果你还要反复进行追问也就是要实现多轮对话其底层实现逻辑是这样如图核心就是要把上一轮对话结果也作为提示词的一部分再次输入给LLM具体输入参数结构是之所以要把历史对话上下文再次输入给LLM是因为LLM本身是没有记忆的它永远是依据输入信息进行内容生成的所以为了实现多轮对话是需要智能体Agent负责做好上下文记忆并在下一轮对话时将前序对话内容也放到输入参数中。看到这里有同学就要问了反正就是把历史对话作为输入嘛那么LLM是不是可以无限制的多轮对话呢当然不行各种APP中通常都有对话轮数的限制有两个原因一是LLM都有tokens限制每轮对话都叠加前面对话的上下文后面会越来越长超过LLM的tokens限制就会被截断。二是即使有些LLM可以支持很大tokens甚至有百万级tokens的但你上下文对话信息很长时还是会干扰LLM的注意力就和人脑一样接收太多的输入就会很混乱这个时候它对你最新问题的回答就会产生偏差。RAG方式提示词增加知识的输入在以上利用LLM进行对话的基础上当你发现LLM缺少最新知识、或者缺乏某个行业领域内部知识时通常就需要采用RAG方案了RAG含义是知识检索增强也就是要通过检索外挂知识库来增强LLM的生成能力其底层实现逻辑是其核心就是要把知识检索到的内容也作为提示词的一部分输入给LLM对应输入参数结构是本质就是把检索到的知识片段也放到role:user的content中让LLM知道这些背景知识其实它们和用户直接输入信息本质是一样的所以还是用role:user这个类别对于LLM来说它压根不用知道知识库的存在。Tips并不是所有需要用到知识的地方都要使用向量化外挂知识库去做分片向量存储和语义相似度检索的也并不是LLM对向量知识库有什么特殊依赖这些组合方案都只是一种工程化范式而已。比如一些简单场景要用到固定的几条知识完全可以不用分片不向量化不用检索每次调用LLM时都自动附加到role:user中输入给LLM就可以了。调用工具提示词早期function方式在以上RAG的基础上如果你还需要在AI Agent中进一步调用工具比如要调用工具查询数据库比如要根据用户意图调用查询天气、订票的工具等其底层实现逻辑是其核心就是要把可以提供的工具描述信息也作为提示词的一部分输入给LLM对应输入参数结构是对应图中增加了一个functions输入节点来输入工具或函数的描述信息包括函数名称、和对应入参信息注意这里functions节点是个数组意味着可以输入多个可用的工具描述信息供LLM选择和判断。和前面几个小节略有不同的是之前system、user、assistant等role的输入都是在messages这个节点里面而这里funtions节点则是和messages节点同级并列。对于这种有工具描述的输入LLM会根据用户的问题自行判断是否需要调用工具以及要调用哪个合适的工具最终在LLM的输出信息中反馈要调用的工具其对应输出结构是和前面基础对话场景中LLM的输出结构做个对比可以看到对应的role还是assistant但content为null额外增加了funtion_call的节点。你的AI Agent中通过解析LLM反馈信息中funtion_call节点就可以得到要调用的函数名和要用到的参数值再去执行这个函数即可。后来改成tools方式以上是LLM早期的function call机制自从24年底Anthropic推出MCP协议以后各厂商最新推出的LLM经过强化训练后也都支持标准的工具调用模式其底层实现逻辑和上节funcnion call机制基本类似但具体输入参数结构有所调整输入结构看起来变化不大就是把functions节点换成了tools节点同样也是一个数组。但LLM的输出结构就变化比较大了输出结构中用tool_calls节点替代了function_call节点同时从原来输出单个function变为现在输出tool数组意味着LLM认为根据用户意图有可能需要调用一组工具所以通过数组方式输出。更复杂场景场下当你的AI Agent需要根据工具调用结果让LLM决策下一步的动作时也就是笔者之前在有关ReAct模式自主决策AI Agent文章中介绍的底层实现逻辑就需要将调用结果再次输入给LLM其对应输入参数结构是和前面提到的多轮对话场景的输入有点类似也是通过在role:assistant节点将上一轮LLM的输出结果反馈给LLM同时通过role:tool节点将工具实际调用结果信息再反馈给LLM。当然实际使用MCP框架时输入给LLM的tools数组不用手动组织了都是框架会自动从mcp server中拉取工具描述信息包括调用工具的环节也是在mcp client的sdk中封装好了。如何学习大模型 AI 由于新岗位的生产效率要优于被取代岗位的生产效率所以实际上整个社会的生产效率是提升的。但是具体到个人只能说是“最先掌握AI的人将会比较晚掌握AI的人有竞争优势”。这句话放在计算机、互联网、移动互联网的开局时期都是一样的道理。我在一线互联网企业工作十余年里指导过不少同行后辈。帮助很多人得到了学习和成长。我意识到有很多经验和知识值得分享给大家也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限很多互联网行业朋友无法获得正确的资料得到学习提升故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。第一阶段10天初阶应用该阶段让大家对大模型 AI有一个最前沿的认识对大模型 AI 的理解超过 95% 的人可以在相关讨论时发表高级、不跟风、又接地气的见解别人只会和 AI 聊天而你能调教 AI并能用代码将大模型和业务衔接。大模型 AI 能干什么大模型是怎样获得「智能」的用好 AI 的核心心法大模型应用业务架构大模型应用技术架构代码示例向 GPT-3.5 灌入新知识提示工程的意义和核心思想Prompt 典型构成指令调优方法论思维链和思维树Prompt 攻击和防范…第二阶段30天高阶应用该阶段我们正式进入大模型 AI 进阶实战学习学会构造私有知识库扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架抓住最新的技术进展适合 Python 和 JavaScript 程序员。为什么要做 RAG搭建一个简单的 ChatPDF检索的基础概念什么是向量表示Embeddings向量数据库与向量检索基于向量检索的 RAG搭建 RAG 系统的扩展知识混合检索与 RAG-Fusion 简介向量模型本地部署…第三阶段30天模型训练恭喜你如果学到这里你基本可以找到一份大模型 AI相关的工作自己也能训练 GPT 了通过微调训练自己的垂直大模型能独立训练开源多模态大模型掌握更多技术方案。到此为止大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗为什么要做 RAG什么是模型什么是模型训练求解器 损失函数简介小实验2手写一个简单的神经网络并训练它什么是训练/预训练/微调/轻量化微调Transformer结构简介轻量化微调实验数据集的构建…第四阶段20天商业闭环对全球大模型从性能、吞吐量、成本等方面有一定的认知可以在云端和本地等多种环境下部署大模型找到适合自己的项目/创业方向做一名被 AI 武装的产品经理。硬件选型带你了解全球大模型使用国产大模型服务搭建 OpenAI 代理热身基于阿里云 PAI 部署 Stable Diffusion在本地计算机运行大模型大模型的私有化部署基于 vLLM 部署大模型案例如何优雅地在阿里云私有部署开源大模型部署一套开源 LLM 项目内容安全互联网信息服务算法备案…学习是一个过程只要学习就会有挑战。天道酬勤你越努力就会成为越优秀的自己。如果你能在15天内完成所有的任务那你堪称天才。然而如果你能完成 60-70% 的内容你就已经开始具备成为一名大模型 AI 的正确特征了。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】