第 06 章:Agent 架构:Function Calling 与规划

核心观点:Agent = LLM + Memory + Planning + Tools。如果说 LLM 是大脑,那么 Agent 架构就是让大脑能够感知世界并改变世界的躯体。 1. 引言:从“聊天机器人”到“数字员工” ChatGPT 刚出来时,它只能陪你聊天。 但如果你问它:“现在的天气怎么样?”它会说:“我的数据截止到 2023 年…”。 因为它没有工具。 Agent(智能体)的出现,标志着 AI 从 Passive (被动问答) 转向 Active (主动行动)。它不再只是生成文本,而是开始执行任务。 2. 核心概念:工具使用 (Tool Use) 2.1 Function Cal

第 05 章:提示词工程进阶:上下文与结构化

核心观点:提示词工程(Prompt Engineering)不是玄学,而是一门用自然语言进行编程的学科。它的核心在于管理模型的”注意力”和规范”输出格式”。 1. 引言:别再把 AI 当许愿池 很多人的 Prompt 是这样的:”帮我写个文案,要火。” 这是在许愿,不是在工程开发。 如果结果不好,不要怪 AI 笨,是你给的指令不够清晰。 大模型是一个概率预测机器。你的每一个字,都在改变下一个字出现的概率分布。 进阶 Prompt 的目标,就是最大化输出符合你预期的概率。 2. 核心概念:上下文学习 (In-Context Learning) 2.1 给例子,别只给定义 LLM 具备一种神奇

第 04 章:RAG 进阶:重排序与混合检索

核心观点:RAG 系统的”最后一公里”决定成败。向量检索负责”广撒网”(Recall),而重排序(Rerank)负责”精挑选”(Precision)。 1. 引言:大海捞针的漏斗 上一章我们建立了向量索引。但你很快会发现一个问题: 用户搜:”谁是马斯克?” 向量检索可能召回:”马斯克的火箭”、”马斯克的汽车”、”马斯克的前女友”。 虽然都相关,但第一条可能并不是用户最想要的精确定义。 为了解决这个问题,我们需要一个漏斗系统:先用低成本的方法捞出一大堆,再用高成本的方法精细排序。 2. 核心概念:混合检索 (Hybrid Search) 2.1 为什么只有向量是不够的? 向量检索(Dense

第 03 章:RAG 基石:Embedding 与向量检索

核心观点:在 AI 的眼里,万物皆是坐标。RAG(检索增强生成)的本质,就是把用户的自然语言问题,映射到知识库的坐标系中,寻找最近的”邻居”。 1. 引言:计算机不懂中文,它只懂数学 你问 AI:”苹果怎么卖?” 在计算机底层,它根本不知道”苹果”是水果还是手机。 但如果你告诉它:”苹果”的坐标是 [0.8, 0.2],”香蕉”的坐标是 [0.85, 0.1],”卡车”的坐标是 [-0.5, 0.9]。 它会立刻计算出:苹果和香蕉很近,离卡车很远。 这就是 Embedding(向量化) —— 它是 RAG 系统地基中的地基。 2. 核心概念:Embedding Space (向量空间) 2

第 02 章:算力与推理工程:显存与量化

核心观点:在大模型推理中,搬运数据的时间远多于计算的时间。推理优化的核心战役,就是打破”内存墙”(Memory Wall)。 1. 引言:你的显卡为什么在”摸鱼”? 你买了昂贵的 RTX 4090,跑大模型时却发现 GPU 利用率只有 30%? 不要怪显卡,它很委屈。 它就像一个米其林三星大厨(Tensor Core 计算核心),切菜速度极快,但他必须等服务员从几公里外的仓库(显存 VRAM)把土豆一个一个搬过来。 大模型推理的瓶颈,通常不在算力(Compute Bound),而在显存带宽(Memory Bound)。 2. 核心概念:内存墙与 KV Cache 2.1 显存:寸土寸金的仓
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×