FAQ Repository Migration Index

迁移原则

本轮逐文件审阅源仓库中的 Markdown、Python 和 Notebook，并按以下规则处理：

  1. 稳定知识拆成 concept 或 tool，不沿用源仓库的技术目录层级。
  2. 长篇问答按主题合并，避免同一 LoRA、RAG 或分布式问题产生多份正文。
  3. 可运行价值较高的实现进入 50_Code；脆弱、过时或只有演示意义的代码仅保留在 source。
  4. 面试日志只证明“问题出现过”，不自动证明其中答案正确。
  5. 空文件、二维码、宣传材料、情绪化内容和个人信息不迁移。

源目录处置

源目录 主要处置 知识库入口
1-大模型应用基础 拆分 Transformer、PyTorch、Tokenizer、RAG 基础 MOC - Transformer、MOC - RAG and Retrieval
2-大模型优化技术 合并 SFT、LoRA、QLoRA、训练显存与代码示例 MOC - Training
3-面试问题记录 聚类高频问题，按年份和来源保留证据 MOC - Interview Preparation
4-分布式训练篇 3 个文件均为空，以其他非空来源建立 seed 节点 MOC - Training、MOC - AI Infra
5-高效微调篇 7 个文件中多数为空；非空内容纠错、去重后合并 PEFT、LoRA、QLoRA
6-强化学习基础 只有推广内容，跳过 MOC - Agentic RL
pytorch 代码作为教学来源；纠正非标准 MHA 和副作用问题 PyTorch、Transformer Block
大模型训练与推理全流程 README 作为路线骨架，专题正文拆为原子节点 所有核心 MOC
代码素养.md 后续拆为代码阅读、测试、接口与项目实践 MOC - Agents

已识别的高风险内容

  • 将 PEFT 误解释为“性能估计和建模”；正确含义是参数高效微调。
  • 将 LoRA/QLoRA 归入 prompt tuning，或称标准 LoRA 先对原权重做 SVD。
  • 将 NF4 描述为普通 4-bit 无符号整数。
  • 把 GGUF 与 AWQ/GPTQ 视为完全同类量化方法。
  • 仅用“参数量 × dtype”估算部署显存，遗漏 KV Cache、workspace、临时张量和碎片。
  • 固定建议“GPU 数量等于 TP 大小”，忽略跨节点通信成本。
  • 将 Ray、DeepSpeed、LoRA 混为同一层：它们分别侧重任务编排、模型状态切分和参数高效更新。
  • 面试日志中的框架比较、命令和性能数字缺少版本与证据，默认 unverified。

本轮沉淀

  • 模型基础：SDPA、MHA/MQA/GQA、Transformer Block、Tokenizer/RoPE。
  • 训练主线：训练生命周期、SFT、PEFT、LoRA/QLoRA、显存、ZeRO、Reasoning RL。
  • 推理与 Infra：七层技术栈、六类瓶颈、分布式控制/数据平面、量化和引擎选型。
  • 应用：RAG 优化地图、Agent loop 与评测。
  • 面试：跨 2024—2026 的高频问题聚类。

待继续验证

  • 源代码中的注意力 mask、device 和 shape 细节。
  • vLLM/SGLang/LMDeploy 等命令与能力的当前版本。
  • GRPO/GSPO 等算法草稿中的目标函数、KL 定义和 token mask。
  • VLM、Serving/LLMOps 与 Agent evaluation 的材料缺口。