mirror of
https://github.com/CyC2018/Interview-Notebook.git
synced 2026-11-03 21:03:41 +00:00
Update 大模型应用.md
为面试中常问的小节加上高频标记。
This commit is contained in:
CyC2018
+16
-16
@@ -8,7 +8,7 @@
|
||||
* [自回归生成与 KV Cache](#自回归生成与-kv-cache)
|
||||
* [采样参数](#采样参数)
|
||||
* [训练过程](#训练过程)
|
||||
* [微调](#微调)
|
||||
* [微调](#微调) 🔥
|
||||
* [量化](#量化)
|
||||
* [幻觉](#幻觉)
|
||||
* [推理模型](#推理模型)
|
||||
@@ -16,7 +16,7 @@
|
||||
* [提示词](#提示词)
|
||||
* [结构化输出](#结构化输出)
|
||||
* [上下文工程](#上下文工程)
|
||||
* [三、检索增强生成](#三检索增强生成)
|
||||
* [三、检索增强生成](#三检索增强生成) 🔥🔥
|
||||
* [流程](#流程)
|
||||
* [文档解析](#文档解析)
|
||||
* [切片](#切片)
|
||||
@@ -32,18 +32,18 @@
|
||||
* [GraphRAG](#graphrag)
|
||||
* [多模态 RAG](#多模态-rag)
|
||||
* [四、Agent](#四agent)
|
||||
* [Agent 是什么](#agent-是什么)
|
||||
* [Agent 是什么](#agent-是什么) 🔥🔥
|
||||
* [工具调用](#工具调用)
|
||||
* [Agent 循环](#agent-循环)
|
||||
* [Agent 与工作流](#agent-与工作流)
|
||||
* [意图识别与路由](#意图识别与路由)
|
||||
* [规划](#规划)
|
||||
* [记忆](#记忆)
|
||||
* [规划](#规划) 🔥
|
||||
* [记忆](#记忆) 🔥
|
||||
* [多轮对话](#多轮对话)
|
||||
* [MCP](#mcp)
|
||||
* [Skills](#skills)
|
||||
* [MCP](#mcp) 🔥
|
||||
* [Skills](#skills) 🔥
|
||||
* [多 Agent](#多-agent)
|
||||
* [AI 编程助手](#ai-编程助手)
|
||||
* [AI 编程助手](#ai-编程助手) 🔥🔥
|
||||
* [Harness](#harness)
|
||||
* [开发框架](#开发框架)
|
||||
* [可靠性与评测](#可靠性与评测)
|
||||
@@ -346,7 +346,7 @@ GRPO 把 KL 散度直接加在损失中，概率之比的限制与 PPO 相同。
|
||||
|
||||
三者的选择：DPO 实现简单、训练稳定，适合已有偏好数据的对齐；PPO 和 GRPO 在训练中生成新的回答，能探索出训练数据之外的更好回答，推理能力的训练通常使用 GRPO 这类强化学习方法。
|
||||
|
||||
### 微调
|
||||
### 微调 🔥
|
||||
|
||||
微调指的是用特定任务的数据继续训练模型，最常见的形式是 SFT。它改变的主要是模型的行为：按什么格式回答、用什么语气、怎样完成某种专门的任务，而不是让模型记住新的知识。
|
||||
|
||||
@@ -729,7 +729,7 @@ Agent 的幻觉除了回答错误，还会出现在工具调用的过程中。
|
||||
|
||||
上线之后，模型重复调用已经调用过的工具、用户重复提供已经说过的信息，都说明压缩丢了东西，可以作为监控指标。
|
||||
|
||||
## 三、检索增强生成
|
||||
## 三、检索增强生成 🔥🔥
|
||||
|
||||
检索增强生成（Retrieval-Augmented Generation, RAG）指的是先从知识库中检索与问题相关的资料，再把资料和问题一起交给模型生成回答。它用于解决模型不了解私有数据和最新数据的问题，也能减少幻觉，回答还可以附上来源。
|
||||
|
||||
@@ -1144,7 +1144,7 @@ GraphRAG 在建索引时让模型从每个切片中抽取实体和关系，组
|
||||
|
||||
## 四、Agent
|
||||
|
||||
### Agent 是什么
|
||||
### Agent 是什么 🔥🔥
|
||||
|
||||
普通的大模型调用是一问一答：模型根据输入生成一段文本。它无法查询数据库、调用接口，也就拿不到训练数据以外的信息，更不能替用户执行操作。
|
||||
|
||||
@@ -1338,7 +1338,7 @@ for (CompletableFuture<Message> f : results) {
|
||||
|
||||
即使换成能力更强的模型，路由仍然有用：它决定了每个流程能用哪些工具和权限，简单问题可以走更便宜的模型，按类别统计的效果数据也是优化的依据。
|
||||
|
||||
### 规划
|
||||
### 规划 🔥
|
||||
|
||||
规划要解决的是一个任务分几步、按什么顺序做、做错了怎么办。常见的几种方式的区别在于：推理是否与行动交替，是否先给出完整的计划，是否同时探索多条思路，失败后是否总结经验再试。
|
||||
|
||||
@@ -1404,7 +1404,7 @@ ReAct 适合下一步取决于上一步结果、步数不多的任务，例如
|
||||
|
||||
需要注意的是，以上几种方式中，计划的内容都由模型生成，框架和代码只提供结构：ReAct 中下一步做什么由模型在每次调用时决定，代码只负责循环和限制步数；先规划后执行中，计划由模型写出，代码负责校验计划、按依赖调度和限制重规划的次数；思维树的搜索和回溯同样由代码实现。所以规划的质量主要取决于模型和提示词，框架决定的是执行过程是否可控。
|
||||
|
||||
### 记忆
|
||||
### 记忆 🔥
|
||||
|
||||
模型本身不保存任何状态。模型服务的对话接口一般是无状态的，服务端不记录之前的请求，每次调用都要把需要的历史重新发过去。聊天应用看起来“记得”之前说过的话，是因为应用把这些信息保存了下来，在下一次调用时放回了上下文。
|
||||
|
||||
@@ -1574,7 +1574,7 @@ LangGraph 等框架用检查点（Checkpoint）在每一步之后自动保存整
|
||||
|
||||
开启新会话时不带上之前的完整对话，只放入长期记忆，以及上一次会话的摘要和未完成的待办，见[记忆](#记忆)中的中断与恢复。
|
||||
|
||||
### MCP
|
||||
### MCP 🔥
|
||||
|
||||
同一个工具要接入多个 AI 应用时，原本需要在每个应用里分别适配一遍。模型上下文协议（Model Context Protocol, MCP）定义了 AI 应用与外部工具、数据之间的统一接口，工具只需实现一次 MCP 服务端，就能被所有支持 MCP 的应用使用。
|
||||
|
||||
@@ -1644,7 +1644,7 @@ MCP 也有代价。每个服务端的工具定义都会进入上下文，Anthrop
|
||||
|
||||
另外，第三方服务端的工具描述和返回结果可能包含恶意指令，应该像安装软件一样只使用可信的服务端。MCP 规范仍在快速演进，细节以官方最新版本为准。
|
||||
|
||||
### Skills
|
||||
### Skills 🔥
|
||||
|
||||
Skill（技能）是一个包含说明文档、脚本和参考资料的文件夹，用于教会 Agent 完成某一类任务，例如按团队模板写周报。文件夹中的 SKILL.md 开头用 name 和 description 描述这个 Skill 做什么、什么时候使用，正文是具体的操作步骤。
|
||||
|
||||
@@ -1775,7 +1775,7 @@ A2A 与 MCP 的区别：
|
||||
|
||||
两者配合使用：每个 Agent 通过 MCP 使用自己的工具，Agent 之间通过 A2A 协作。同一个应用内部的子 Agent 直接包装成工具更简单，只有跨团队、跨组织的调用才需要 A2A 这样的协议。A2A 规范仍在演进，方法名和字段以官方最新版本为准。
|
||||
|
||||
### AI 编程助手
|
||||
### AI 编程助手 🔥🔥
|
||||
|
||||
Claude Code、Cursor、Codex 这类 AI 编程助手是目前最常用的 Agent，原理与前面的 Agent 循环相同，只是工具换成了读写文件、搜索代码和执行命令：
|
||||
|
||||
|
||||
Reference in New Issue
Block a user