跳转至

bogosort的书房

首页

bogosort的书房

首页首页
目录
- ✨ 使用提示
LLM 教程
LLM 教程
- 总目录
- L01_自注意力Self-Attention
  L01_自注意力Self-Attention
- L02_Transformer 与 Decoding
  L02_Transformer 与 Decoding
- L03_Tokenizer
  L03_Tokenizer
- L04_位置编码与 RoPE
  L04_位置编码与 RoPE
- L05_Normalization 与 Pre-Norm_Post-Norm
  L05_Normalization 与 Pre-Norm_Post-Norm
- L06_Embedding 与常用编码方法
  L06_Embedding 与常用编码方法
- L07_模型微调：LoRA 与 AdaLoRA
  L07_模型微调：LoRA 与 AdaLoRA
- L08_模型微调：QLoRA与 PEFT 方法对比
  L08_模型微调：QLoRA与 PEFT 方法对比
- L09_强化学习：强化学习基础与马尔可夫决策过程 MDP
  L09_强化学习：强化学习基础与马尔可夫决策过程 MDP
- L10_强化学习：Bellman Equation 与策略迭代算法
  L10_强化学习：Bellman Equation 与策略迭代算法
- L11_强化学习：蒙特卡洛方法、Sarsa 与多步 Sarsa
  L11_强化学习：蒙特卡洛方法、Sarsa 与多步 Sarsa
- L12_强化学习：Q-learning、Dyna-Q 与 DQN
  L12_强化学习：Q-learning、Dyna-Q 与 DQN
- L13_强化学习：策略梯度、REINFORCE 与 Actor-Critic
  L13_强化学习：策略梯度、REINFORCE 与 Actor-Critic
- L14_强化学习：传统 PPO、RLHF 定义与 NLP 场景强化学习
  L14_强化学习：传统 PPO、RLHF 定义与 NLP 场景强化学习
- L15_强化学习：RLHF-PPO 与 GRPO
  L15_强化学习：RLHF-PPO 与 GRPO
- L16_强化学习：DPO 与 ORPO
  L16_强化学习：DPO 与 ORPO
- L17_强化学习：DAPO、GSPO 与 SAPO
  L17_强化学习：DAPO、GSPO 与 SAPO
- L18_训推不一致
  L18_训推不一致
- L19_模型压缩：量化、ZeroQuant、LLM.int8() 与 SmoothQuant
  L19_模型压缩：量化、ZeroQuant、LLM.int8() 与 SmoothQuant
- L20_模型压缩：GPTQ、AWQ、剪枝与蒸馏
  L20_模型压缩：GPTQ、AWQ、剪枝与蒸馏
- L21_分布式训练：DDP、DP 与 FSDP
  L21_分布式训练：DDP、DP 与 FSDP
- L22_分布式训练：DeepSpeed 与 ZeRO
  L22_分布式训练：DeepSpeed 与 ZeRO
- L23_调参技巧
  L23_调参技巧
- L24_Flash Attention
  L24_Flash Attention
- L25_提示工程
  L25_提示工程
- L26_RAG
  L26_RAG
- L27_RAG 优化
  L27_RAG 优化
- L28_Chunking-free RAG
  L28_Chunking-free RAG
- L29_向量索引
  L29_向量索引
- L30_Rerank
  L30_Rerank
- L31_Rerank模型
  L31_Rerank模型
- L32_Long Context
  L32_Long Context
- L33_Long Context~NTK-aware 插值
  L33_Long Context~NTK-aware 插值
- L34_Long Context~YaRN 与 LongRoPE
  L34_Long Context~YaRN 与 LongRoPE
- L35_长上下文窗口分割
  L35_长上下文窗口分割
- L36_长上下文提示压缩
  L36_长上下文提示压缩
- L37_更多提示压缩方法
  L37_更多提示压缩方法
- L38_GraphRAG
  L38_GraphRAG
- L39_Agentic RAG
  L39_Agentic RAG
- L40_Agent 概述
  L40_Agent 概述
- L41_CoT与ReAct
  L41_CoT与ReAct
- L42_Plan-and-Solve 规划方法
  L42_Plan-and-Solve 规划方法
- L43_反思 Reflexion
  L43_反思 Reflexion
- L44_Agent记忆
  L44_Agent记忆
  - 正文
- L45_工具 Tool
  L45_工具 Tool
- L46_多智能体为什么失败？
  L46_多智能体为什么失败？
  - 正文
- L47_MCP
  L47_MCP
  - 正文
- L48_Skills与OpenClaw
  L48_Skills与OpenClaw
  - 正文
- L49_Harness Engineering
  L49_Harness Engineering
  - 正文
- L50_LLM推理两阶段：Prefill 和 Decode
  L50_LLM推理两阶段：Prefill 和 Decode
  - 正文
- L51_KV cache
  L51_KV cache
- L52_推理评估方式
  L52_推理评估方式
  - 正文
- L53_vLLM-PagedAttention
  L53_vLLM-PagedAttention
  - 正文
- L54_DistServe-PD分离
  L54_DistServe-PD分离
  - 正文
- L55_Sarathi-Chunked Prefill
  L55_Sarathi-Chunked Prefill
  - 正文
- L56_Speculative Decoding-投机解码
  L56_Speculative Decoding-投机解码
  - 正文
- L57_大模型推理链压缩
  L57_大模型推理链压缩
  - 正文
- L58_大模型预训练定义与预训练数据集
  L58_大模型预训练定义与预训练数据集
  - 正文
- L59_预训练过程、评估与继续预训练
  L59_预训练过程、评估与继续预训练
  - 正文
- L60_DeepSeek-R1
  L60_DeepSeek-R1
  - 正文
- L61_DeepSeek-V3：MLA、DeepSeekMoE 与多 Token 预测
  L61_DeepSeek-V3：MLA、DeepSeekMoE 与多 Token 预测
  - 正文
- L62_DeepSeek 后续工作：NSA 与 DSA
  L62_DeepSeek 后续工作：NSA 与 DSA
  - 正文
- L63_Qwen 2.5
  L63_Qwen 2.5
  - 正文
- L64_MiniMax-01
  L64_MiniMax-01
  - 正文
- L65_Qwen 3 后训练
  L65_Qwen 3 后训练
  - 正文
- L99_独立文章_Qwen3-VL系列是如何理解视频时序的？
  L99_独立文章_Qwen3-VL系列是如何理解视频时序的？
  - 正文
公众号文章
公众号文章