大学生数据库实践课：大模型

本期播客

大学生数据库实践课：大模型（LLM）与多模态

同学们好，欢迎来到《大学生数据库实践课》。今天的章节，我们要把目光投向当下最火、也最能改变数据库未来的领域 —— 大模型（LLM）与多模态。

很多同学觉得 AI 模型分类眼花缭乱，其实拨开迷雾，它们的逻辑非常通俗。今天这堂课，我带大家快速过一遍这五大核心模型，帮大家建立起 AI 技术的全局观。

1. MoE 模型：不是一个英雄在战斗，而是一个“专家团队”

大家想象一下，如果你遇到一个问题，是问一个“百科全书”式的全才效率高，还是问一个“由各领域专家组成的智囊团”效率高？
MoE（专家混合模型） 走的就是“专家团”路线。它的核心是一个路由器（Router） 。

• 当你问代码题时，路由器把任务分给“代码专家”；
• 当你问文学题时，任务就流向“创意专家”。
  要义： 模型参数规模可以做得非常大（比如万亿级），但每次干活只需要激活一小部分专家，既聪明又省电（算力开销低）。

2. 多模态模型：给 AI 装上“眼睛”和“耳朵”

以前的 AI 只能读文字，那是“书呆子”。多模态模型 让 AI 像人一样，既能看懂你发的表情包，也能读懂你拍的文档照片。

• 视觉编码器：把图片像素转化成数字特征。
• 适配器：把图片的特征“翻译”成语言模型能听懂的语言。
  要义： 打破信息孤岛，实现文字、图像甚至视频的统一理解。

3. Embedding 模型：万物皆可向量，给文字发“身份证”

这是数据库开发者最需要关注的。Embedding（嵌入） 的本质是把离散的文字变成一串连续的数字（向量）。

• 相似的词，在空间里的坐标就近（比如“西瓜”和“南瓜”）；
• 不相关的词，坐标就远。
  要义： 它是语义搜索的基础。有了它，数据库才能理解“苹果”和“iPhone”是有联系的。

4. 推理模型：AI 对话的核心“引擎”

这是大家在 ChatGPT 窗口背后感受到的那个“大脑”。它负责自回归生成，也就是一个词一个词地往外蹦。

• 它通过KV缓存来记住刚才说的话，加速下一句的生成。
• 你可以调整温度（Temperature） 来控制它说话是稳重（严谨）还是奔放（随机）。
  要义： 它不只是在检索，而是在创造和生成。

5. Ranking 模型：最后一道关卡，决定谁是第一名

在搜索系统里，Embedding 可能会从百万条数据里初步捞出 100 条候选结果，但谁排第一？这就靠 Ranking（重排序） 。

• 它会更精细地计算查询词和候选文档之间的相关性分数。
• 在推荐系统里，它决定了你打开 App 时看到的第一个视频。
  要义： Embedding 负责“大海捞针”，Ranking 负责“优中选优”。

💡 给同学们的课后笔记

1. 想进大厂？ 必须搞懂 向量搜索 和 RAG（检索增强生成） ，这是数据库和 AI 结合的最前线。
2. MoE 是为了提效：如果你想在有限的算力下玩大参数，MoE 是必经之路。
3. 实践出真知：建议大家去用用 Ollama 或 PostgreSQL 的向量插件，自己动手写个简单的语义搜索 demo。

希望这节课能帮大家理清思路，用好数据库，迎接 AI 时代！

详细教程, 点击「阅读原文」