Skip to content

【AI】大模型的参数,结构和部署:以Qwen3:0.6B为例(未开始)

大模型简介

大模型指的是? 英文叫啥,谁发明的,用的关键技术是啥,目前有什么用处。

做的好的国内国外厂商是谁。

文本大模型,多模态(有哪些模态),稠密和稀疏。

参数

使用ollama部署

使用ollama部署Qwen3:0.6B。使用HTTP接入AGENT部署。(但是模型台太小跑不起来)

模型量化和格式

直接用python运行

自己做量化

参考