FAQ Repository Migration Index

迁移原则

本轮逐文件审阅源仓库中的 Markdown、Python 和 Notebook，并按以下规则处理：

1. 稳定知识拆成 concept 或 tool，不沿用源仓库的技术目录层级。
2. 长篇问答按主题合并，避免同一 LoRA、RAG 或分布式问题产生多份正文。
3. 可运行价值较高的实现进入 50_Code；脆弱、过时或只有演示意义的代码仅保留在 source。
4. 面试日志只证明“问题出现过”，不自动证明其中答案正确。
5. 空文件、二维码、宣传材料、情绪化内容和个人信息不迁移。

源目录处置

源目录	主要处置	知识库入口
1-大模型应用基础	拆分 Transformer、PyTorch、Tokenizer、RAG 基础	MOC - Transformer、MOC - RAG and Retrieval
2-大模型优化技术	合并 SFT、LoRA、QLoRA、训练显存与代码示例	MOC - Training
3-面试问题记录	聚类高频问题，按年份和来源保留证据	MOC - Interview Preparation
4-分布式训练篇	3 个文件均为空，以其他非空来源建立 seed 节点	MOC - Training、MOC - AI Infra
5-高效微调篇	7 个文件中多数为空；非空内容纠错、去重后合并	PEFT、LoRA、QLoRA
6-强化学习基础	只有推广内容，跳过	MOC - Agentic RL
pytorch	代码作为教学来源；纠正非标准 MHA 和副作用问题	PyTorch、Transformer Block
大模型训练与推理全流程	README 作为路线骨架，专题正文拆为原子节点	所有核心 MOC
代码素养.md	后续拆为代码阅读、测试、接口与项目实践	MOC - Agents

已识别的高风险内容

• 将 PEFT 误解释为“性能估计和建模”；正确含义是参数高效微调。
• 将 LoRA/QLoRA 归入 prompt tuning，或称标准 LoRA 先对原权重做 SVD。
• 将 NF4 描述为普通 4-bit 无符号整数。
• 把 GGUF 与 AWQ/GPTQ 视为完全同类量化方法。
• 仅用“参数量 × dtype”估算部署显存，遗漏 KV Cache、workspace、临时张量和碎片。
• 固定建议“GPU 数量等于 TP 大小”，忽略跨节点通信成本。
• 将 Ray、DeepSpeed、LoRA 混为同一层：它们分别侧重任务编排、模型状态切分和参数高效更新。
• 面试日志中的框架比较、命令和性能数字缺少版本与证据，默认 unverified。

本轮沉淀

• 模型基础：SDPA、MHA/MQA/GQA、Transformer Block、Tokenizer/RoPE。
• 训练主线：训练生命周期、SFT、PEFT、LoRA/QLoRA、显存、ZeRO、Reasoning RL。
• 推理与 Infra：七层技术栈、六类瓶颈、分布式控制/数据平面、量化和引擎选型。
• 应用：RAG 优化地图、Agent loop 与评测。
• 面试：跨 2024—2026 的高频问题聚类。

待继续验证

• 源代码中的注意力 mask、device 和 shape 细节。
• vLLM/SGLang/LMDeploy 等命令与能力的当前版本。
• GRPO/GSPO 等算法草稿中的目标函数、KL 定义和 token mask。
• VLM、Serving/LLMOps 与 Agent evaluation 的材料缺口。