【AI】大模型推理时的解码处理(未开始)
使用Softmax拿到概率之后,训练和推理是不一样的处理流程。介绍各种方法,并且那一些数据对于各种方法处理试试。
总结
参考
- 【AI】一文读懂大模型生态:分类/参数/结构/训练/GPU/评测/排行/社区
https://jzplp.github.io/2026/llm-stru.html - 【AI】大模型本地部署与量化:Ollama、transformers、llama.cpp实践
https://jzplp.github.io/2026/llm-deploy.html -【AI】大模型参数训练原理:Softmax/损失函数交叉熵/反向传播/梯度下降优化器/学习率调度器/训练数据划分
https://jzplp.github.io/2026/llm-param.html