首先要安装ollama这款软件,下载地址:https://www.gkwang.com/post/16.html
安装好ollama以后进行一定的设置
以下就是如何在本地部署大模型
推荐安装 qwen2:1.5b 和 deepseek-r1:1.5b, 如果你电脑的配置还不错, 可以尝试安装下
参数量更多的模型, 例如: deepseek-r1:8b 等, 具体的命令如下:
ollama run deepseek-r1:1.5b
ollama run qwen2:1.5b