去ollama官网在电脑上安装ollama

安装好后打开cmd运行
ollama run 对应的模型名称会自动下载如有卡住就ctrl加c停止,在输入一次这个命令就行。
安装好后就可以直接开始对话了
一些ollama常用命令
ollama list(查看下载了哪些模型)
ollama rm mistral(删除不要的模型)
一般来说要用于二次开发用这个127.0.0.1:11434其11434为ollama的监听端口可以直接使用。
随时升降配置,业务涨降灵活调整,避免资源浪费
DDoS基础防护,防火墙,保障服务器业务安全
多可用区,高服务可用性,降低故障风险
控制台可视化操作,支持Windows/Linux多种系统