2025-06-20 145 次
以下是Ollama的常用命令及說明:
啟動服務
ollama serve
啟動Ollama服務器,默認監(jiān)聽localhost:11434
。
指定端口啟動
ollama serve --port 11435
將服務端口改為11435
。
拉取模型
ollama pull llama2
從Ollama庫下載模型(如llama2
)。可通過--model-dir
指定下載路徑。
列出本地模型
ollama list
顯示所有已下載的模型及其版本。
刪除模型
ollama rm llama2
刪除本地的llama2
模型。
創(chuàng)建自定義模型
ollama create mymodel -f Modelfile
根據(jù)當前目錄下的Modelfile
創(chuàng)建名為mymodel
的自定義模型。
運行模型生成文本
ollama run llama2 "你好,世界"
使用llama2
模型生成對"你好,世界"的回復。
啟動交互式對話
ollama chat llama2
啟動與llama2
的交互式對話界面。
在Docker中啟動Ollama
docker run -d -p 11434:11434 --name ollama ollama/ollama
在Docker容器中運行Ollama服務。
進入Docker容器
docker exec -it ollama bash
進入運行中的Ollama容器執(zhí)行命令。
查看版本
ollama version
顯示Ollama的當前版本。
查看幫助信息
ollama --help
顯示所有可用命令和選項的幫助文檔。
在創(chuàng)建自定義模型時,Modelfile
的示例內(nèi)容如下:
FROM llama2:7b PARAMETER temperature 0.8 ADJUST quantization q4_0
該文件可定義模型的基礎版本、參數(shù)和量化方式。
所有命令需在已安裝Ollama的環(huán)境中執(zhí)行。
部分高級功能(如分布式部署)可能需要額外配置。
如需持久化數(shù)據(jù),可通過--model-dir
參數(shù)指定存儲路徑。