伊人99久久精品|强艹一区在线观看|免费网站播放av|国产 诱奸 一区|人人妻人人澡人人|日韩熟女淫乱视频|日韩四虎影视欧美|91丨竹菊丨视频|99久久蜜桃1去|都市激情亚洲欧美

問題集錦 problem

Ollama的常用命令及說明 本地部署DEEPSEEK用得到!

2025-06-20 145 次

以下是Ollama的常用命令及說明:

基礎服務命令

  1. 啟動服務

    ollama serve

    啟動Ollama服務器,默認監(jiān)聽localhost:11434。

  2. 指定端口啟動

    ollama serve --port 11435

    將服務端口改為11435。

模型管理命令

  1. 拉取模型

    ollama pull llama2

    從Ollama庫下載模型(如llama2)。可通過--model-dir指定下載路徑。

  2. 列出本地模型

    ollama list

    顯示所有已下載的模型及其版本。

  3. 刪除模型

    ollama rm llama2

    刪除本地的llama2模型。

  4. 創(chuàng)建自定義模型

    ollama create mymodel -f Modelfile

    根據(jù)當前目錄下的Modelfile創(chuàng)建名為mymodel的自定義模型。

模型交互命令

  1. 運行模型生成文本

    ollama run llama2 "你好,世界"

    使用llama2模型生成對"你好,世界"的回復。

  2. 啟動交互式對話

    ollama chat llama2

    啟動與llama2的交互式對話界面。

容器化命令(Docker)

  1. 在Docker中啟動Ollama

    docker run -d -p 11434:11434 --name ollama ollama/ollama

    在Docker容器中運行Ollama服務。

  2. 進入Docker容器

    docker exec -it ollama bash

    進入運行中的Ollama容器執(zhí)行命令。

其他實用命令

  1. 查看版本

    ollama version

    顯示Ollama的當前版本。

  2. 查看幫助信息

    ollama --help

    顯示所有可用命令和選項的幫助文檔。

配置示例(Modelfile)

在創(chuàng)建自定義模型時,Modelfile的示例內(nèi)容如下:

FROM llama2:7b
PARAMETER temperature 0.8
ADJUST quantization q4_0

該文件可定義模型的基礎版本、參數(shù)和量化方式。

注意事項

  • 所有命令需在已安裝Ollama的環(huán)境中執(zhí)行。

  • 部分高級功能(如分布式部署)可能需要額外配置。

  • 如需持久化數(shù)據(jù),可通過--model-dir參數(shù)指定存儲路徑。



近期更新:
返回頂部