刚开始接触AI时,经常会看到一堆英文缩写:LLM、RAG、Token、Context、MCP、Agent……这些词看起来比较专业,但实际上,它们描述的是AI应用中不同的组成部分。
例如,为什么有些AI只能回答问题,有些却能搜索网页、读取文件,甚至直接操作电脑?为什么有时候输入一大段资料,AI反而容易遗漏重点?为什么使用AI API时会产生Token费用?这些问题都与几个基础概念有关。
如果把AI想象成一个能够接收任务、查找资料、调用工具并完成工作的数字助手,那么这8个术语就分别对应它的大脑、指令、资料、工作空间和执行能力。
下面通过生活化的比喻,介绍8个值得了解的AI专业名词。即使没有编程基础,也能理解它们分别解决什么问题。

LLM:AI负责理解和生成内容的大脑
英文全称:Large Language Model,中文叫大语言模型。
可以把LLM想象成一位读过大量资料、特别擅长接话的网友。你提出一个问题,它能够根据已有知识和当前对话内容,组织语言、解释问题、编写文章,甚至生成代码。
LLM是现代生成式AI应用的核心模型。它通过大量数据训练,学习语言、知识和不同内容之间的统计关系,再根据输入生成后续内容。
例如,你向AI提出以下问题:
请解释一下什么是HTTP协议, 并用生活中的例子帮助我理解。
LLM会根据训练中学到的语言和知识模式,组织出一段相对完整的解释。
常见的大语言模型包括GPT、Claude、Gemini、Llama等。不同模型在推理能力、上下文长度、多模态能力、响应速度和使用成本等方面存在差异。
不过,LLM并不是真的像人一样完整阅读并记住了整座图书馆。它学习的是训练数据中的模式,也不意味着所有回答都准确。对于最新新闻、实时价格和外部数据库中的信息,通常还需要结合搜索、检索或其他工具。
简单理解:LLM负责思考和生成内容,是整个AI应用的核心能力来源。
Prompt:告诉AI应该完成什么任务
中文名称:提示词,也称提示指令。
Prompt就像点外卖时填写的备注。你只说「来一份饭」,商家可能不知道你想要什么;如果写清楚口味、配菜、忌口和送达要求,结果通常更符合预期。
在AI应用中,Prompt就是用户提供给模型的输入和任务要求,用来引导模型理解目标并生成符合要求的结果。
例如,同样是让AI写文章,下面两种Prompt就有明显区别:
简单Prompt:
帮我写一篇关于SEO的文章。
详细Prompt:
请写一篇关于SEO基础知识的中文文章。 目标读者:没有SEO经验的网站运营者。 文章要求: 1. 使用通俗易懂的语言。 2. 解释SEO的基本概念。 3. 介绍关键词、外链和页面优化。 4. 每个知识点都提供实际案例。 5. 不要编造数据。 6. 输出HTML格式。 7. 正文使用H2和H3组织结构。
第二种写法明确了任务目标、读者、内容范围和输出格式,AI就更容易按照预期完成工作。
一个比较完整的Prompt通常包含以下信息:
Role:角色设定,例如让AI扮演SEO顾问。
Task:具体任务,例如分析网站流量。
Context:背景信息,例如网站类型和目标用户。
Constraints:限制条件,例如不能编造数据。
Output Format:输出格式,例如HTML、JSON或Markdown。
Examples:示例,让AI了解期望的结果形式。
需要注意,Prompt不是越长越好。无关背景和重复要求反而可能增加理解成本。关键是把目标、必要信息和限制条件说清楚。
简单理解:Prompt就是给AI下达任务的说明书,描述得越清楚,越容易获得符合预期的结果。
RAG:让AI先查资料再回答问题
英文全称:Retrieval-Augmented Generation,中文叫检索增强生成。
RAG可以理解为开卷考试。考试时不要求学生完全依靠记忆回答,而是允许翻阅指定的资料,再根据找到的信息组织答案。
传统LLM主要依靠训练过程中学到的知识回答问题。如果用户希望AI了解企业内部文件、产品说明书、最新政策或者自己的知识库,仅仅依靠模型原有知识通常不够。
RAG就是为了解决这类问题而出现的技术方案。
它的基本工作流程可以分成四个步骤:
准备资料:将PDF、Word、网页或其他文档整理成知识库。
拆分内容:将较长的文档切分成多个较小的文本片段。
检索相关内容:根据用户的问题,从知识库中寻找相关资料,通常会结合向量检索、关键词检索或重排序。
生成回答:将检索到的内容提供给LLM,让它结合资料生成答案。
举个例子,一家公司有几百份产品说明文档。员工询问「某产品的退款条件是什么」,AI不需要把所有文档重新学习一遍,而是可以通过RAG找到相关的退款说明,再根据检索结果回答。
RAG特别适合以下场景:
企业内部知识库问答。
产品帮助中心和客服机器人。
根据PDF、合同和技术文档回答问题。
需要结合最新资料生成内容的AI应用。
让AI基于指定资料进行总结和分析。
不过,RAG并不意味着AI一定能够回答正确。如果知识库内容过时、检索结果不相关,或者资料本身存在错误,最终答案仍然可能出现问题。
简单理解:RAG就是让AI在回答问题前,先从指定资料中查找相关内容,再结合这些资料生成答案。
Token:AI处理文字时使用的基本单位
Token是AI领域经常出现的一个词,也是理解模型使用成本和上下文长度的重要概念。
可以把Token想象成按信息单位计费的短信。发送和接收的内容越多,消耗的单位通常也越多。
不过,Token并不完全等于一个汉字、一个英文单词或一个字符。它是模型处理文本时使用的基本数据单位,可能对应一个完整单词、词语的一部分、标点符号或其他文本片段。
例如,英文单词可能被拆分成一个或多个Token;中文内容也会根据分词和编码方式拆分成不同数量的Token。
Token主要涉及三个方面:
输入Token:用户发送的文字、系统指令以及其他输入内容。
输出Token:AI生成的回答内容。
上下文容量:模型在一次处理过程中能够接收和考虑的信息总量受到Token窗口限制。
对于通过API调用AI模型的开发者来说,Token还直接关系到使用成本。不同模型的输入和输出通常采用不同的计费标准,因此一段很长的Prompt、一份较大的文档或者一轮较长的对话,都可能增加Token消耗。
例如,让AI分析一本较长的技术手册,与只让它解释其中一个段落相比,所需处理的Token数量可能相差很大。
另外,Token数量也会影响模型处理的信息量和响应效率。合理控制输入内容,删除无关背景,有助于降低不必要的消耗。
简单理解:Token是AI处理信息时使用的计量单位,影响输入输出成本,也与模型能够处理的信息量有关。
Context:AI当前能够使用的信息范围
中文名称:上下文。
Context可以理解成一张桌子,桌面空间有限,你只能把当前工作需要的资料放在上面。资料太多,就需要整理、筛选或暂时移走一部分。
在AI应用中,Context指模型在当前任务中能够使用的信息,包括对话历史、系统指令、用户输入、检索到的资料以及工具返回的结果等。
这里经常会遇到另一个专业名词:Context Window,也就是上下文窗口。
上下文窗口决定了模型在一次处理过程中能够接收和考虑多少Token。不同模型的上下文窗口大小不同,并不是固定的10页纸,也不能简单地用文字页数衡量。
例如,你与AI连续讨论一个复杂项目,最开始提供了网站架构、设计要求和技术限制,后来又增加了大量代码和修改记录。如果相关信息没有被保留在当前上下文中,AI就可能无法准确利用之前的细节。
Context与Prompt也容易混淆:
Prompt:告诉AI应该做什么,强调任务指令和输入内容。
Context:AI完成当前任务时能够使用的整体背景信息。
可以把Prompt理解为桌面上的工作指令,而Context是整张桌面上能够使用的资料。
如果AI经常忘记之前的要求,可以通过提供关键背景、整理项目说明、保留必要的历史信息等方式改善上下文管理。
简单理解:Context就是AI当前能够看到和利用的信息范围,上下文窗口则是这些信息所能占用的容量限制。
Tool:给AI增加搜索和执行能力
中文名称:工具调用。
Tool可以理解成给AI装上一双手。LLM本身主要负责理解和生成内容,而Tool能够让它进一步访问外部系统、查询数据或执行操作。
例如,普通聊天模型可以告诉你今天的天气应该如何穿衣,但如果没有联网能力,它不一定知道你所在城市的实时天气。
如果给AI接入天气查询工具,它就可以在需要时调用相关接口,获取当前温度和天气情况,再根据结果给出建议。
常见的AI Tool包括:
Web Search:搜索互联网,获取最新信息。
File Search:搜索上传文件或指定知识库。
Code Interpreter:执行代码、计算数据和处理文件。
Computer Use:操作电脑界面,例如点击按钮、填写表单。
API:调用外部服务,获取数据或执行指定操作。
Database:查询或处理数据库中的信息。
Tool的调用过程通常是这样的:
用户提出任务。
LLM判断是否需要使用外部工具。
模型生成符合工具定义的调用请求和参数。
AI应用或运行环境执行相应工具。
工具将执行结果返回给模型。
LLM根据返回结果继续处理并生成回答。
需要注意,模型发出工具调用请求,并不等于它已经完成了操作。真正执行工具的是接入工具的应用或运行环境,而且某些操作还需要用户授权。
例如,AI可以生成发送邮件的工具调用请求,但是否真正发送成功,还要看邮件服务是否执行成功以及是否满足相应权限要求。
简单理解:Tool让AI不再只是回答问题,还可以通过外部工具获取信息和完成实际操作。
MCP:让AI工具连接方式更加统一
英文全称:Model Context Protocol,中文叫模型上下文协议。
MCP可以理解为AI领域的USB-C接口。过去,不同设备可能需要不同的数据线和连接方式,而统一接口能够降低设备之间的连接成本。
在AI应用中,不同模型和应用可能需要连接文件系统、数据库、浏览器、代码仓库以及第三方服务。如果每个AI工具都单独开发一套连接方式,维护起来会比较麻烦。
MCP就是为了解决这类连接问题而设计的开放协议。它规定了AI应用与外部数据源、工具服务之间如何进行标准化通信。
一个典型的MCP架构主要包含三个角色:
Host:承载AI模型和用户交互的应用,例如支持MCP的AI客户端。
Client:运行在Host中的协议客户端,负责与MCP服务器通信。
Server:对外提供数据和能力的服务端,负责暴露可用的工具、资源和提示模板。
MCP服务器可以向AI应用提供三类常见能力:
Tools:可以被模型调用的操作,例如查询数据库或执行某个任务。
Resources:可以提供给应用或模型使用的数据,例如文件内容和数据库信息。
Prompts:可重复使用的提示模板,帮助用户按照特定方式发起任务。
例如,你有一个GitHub MCP服务器,一个支持MCP的AI客户端连接后,就可以按照服务器提供的能力读取仓库信息、查询问题或执行允许的操作。
这里需要注意,MCP本身不是AI模型,也不是一个自动拥有所有权限的工具。它主要解决连接和通信标准化问题,具体能够访问什么,仍然取决于MCP服务器实现、客户端能力、身份认证和用户授权。
简单理解:MCP是一套统一的连接协议,让不同AI应用能够通过标准化方式接入外部工具和数据资源。
Agent:能够规划和执行任务的AI助手
中文名称:智能体,也称AI Agent。
Agent可以理解为把工作交给一位实习生。你告诉它最终目标,它会根据任务情况制定计划、寻找资料、使用工具、检查结果,并在必要时调整执行步骤。
普通LLM通常是在收到问题后直接生成回答,而Agent更强调围绕目标进行多步骤的规划和行动。
例如,你希望AI完成以下任务:
帮我分析三个竞争对手的网站, 整理它们的产品功能、定价和主要特点, 最后生成一份对比报告。
一个具备Agent能力的系统,可能按照以下流程工作:
理解目标:分析任务要求,明确需要收集哪些信息。
制定计划:拆分任务,确定需要访问哪些网站。
调用工具:使用网页搜索或浏览器获取相关资料。
整理信息:对比产品功能、价格和服务特点。
检查结果:发现资料缺失时继续搜索或补充。
完成任务:整理分析结果,生成最终报告。
Agent通常由LLM、工具、任务规划逻辑、执行循环和必要的状态管理等部分组成。它可以根据工具返回的结果决定下一步行动,而不是只能按照一条固定路径执行。
Agent与普通自动化流程也有区别。传统工作流通常提前规定每一步怎么执行;Agent则可以根据当前情况动态选择工具和调整步骤。不过,两者并不是完全对立的,实际系统也经常将固定工作流与Agent结合使用。
需要注意,Agent并不意味着完全自主或永远能够正确完成任务。复杂任务可能产生额外成本、执行延迟和错误累积,因此通常需要设置权限边界、执行次数限制、结果检查和人工确认环节。
简单理解:Agent就是能够围绕目标规划步骤、调用工具、根据结果调整行动并完成多步骤任务的AI系统。
八个AI概念之间有什么联系
理解这8个术语后,可以发现它们并不是彼此独立的技术,而是可以组合成一个完整的AI应用体系。
| 术语 | 核心作用 | 生活化比喻 |
|---|---|---|
| LLM | 理解和生成内容 | 善于思考和交流的人 |
| Prompt | 描述任务要求 | 外卖订单备注 |
| RAG | 检索外部资料 | 开卷考试查资料 |
| Token | 处理信息的基本单位 | 信息计量单位 |
| Context | 提供当前任务背景 | 有限大小的工作桌面 |
| Tool | 执行外部操作 | 可以使用的工具和双手 |
| MCP | 标准化连接方式 | 统一接口 |
| Agent | 规划并执行多步骤任务 | 接受任务的实习生 |
假设你希望AI帮你研究一个行业并制作报告,这8个概念就可能同时发挥作用:
Prompt告诉AI需要研究什么,以及报告应该采用什么格式。
LLM负责理解任务、分析资料和组织内容。
RAG负责从指定知识库中检索相关信息。
Tool负责搜索网页、读取文件和处理数据。
MCP负责为AI应用与外部工具之间提供标准化连接。
Context保存当前任务所需的指令、资料和执行结果。
Token决定模型每次能够处理的信息单位,也影响使用成本。
Agent负责规划整个任务,并根据执行结果决定下一步行动。
这也解释了为什么现在的AI产品不再局限于简单的聊天机器人。通过将大语言模型与检索、工具和任务执行机制结合,AI可以从单纯的信息生成工具,逐渐扩展为能够协助完成实际工作的智能应用。
对于普通用户来说,不需要一开始就深入研究每个概念背后的算法和协议。先理解LLM负责生成、Prompt负责指挥、RAG负责查资料、Context负责提供背景、Tool负责执行、MCP负责连接、Agent负责组织任务,就已经能够理解大部分现代AI产品的基本工作方式。
当你开始使用AI编程工具、知识库、自动化工作流或智能体时,这些术语就不再只是英文缩写,而是帮助你判断产品能力、理解技术方案和设计AI工作流程的基础知识。
poxiaoxi博客
精彩评论