第 01 章:大模型解剖学:参数与 Scaling Law

核心观点:大模型本质上是对人类知识的”有损压缩”。参数量决定了压缩的”分辨率”,而 Scaling Law 揭示了算力转化为智能的物理定律。 1. 引言:智能的”分辨率” 当我们谈论 7B、70B、671B 这些数字时,我们在谈论什么? 很多人认为参数量仅仅意味着”更大的硬盘”,存了更多的死记硬背的知识。大错特错。 参数量实际上代表了模型对世界认知的分辨率。就像一张 JPG 图片,像素越高,边缘越清晰;参数越多,模型对逻辑、因果、微妙情感的”边缘”刻画就越精准。 本章我们将拆解这个黑盒,看看智能是如何从这些浮点数中涌现的。 2. 核心概念:压缩即智能 2.1 这里的”压缩”不是 WinRA
Your browser is out-of-date!

Update your browser to view this website correctly. Update my browser now

×