Ollama在Docker下的安裝與配置詳細教程
更新時間：2025年02月07日 10:51:47 作者：goomind
這篇文章主要介紹了如何通過Docker拉取Ollama鏡像并運行,包括可視化界面和命令行兩種方式,文中通過圖文介紹的非常詳細,需要的朋友可以參考下
一、拉取 Ollama 鏡像
方式一：Docker 軟件在可視化界面中搜索并下載
方式二：官網(wǎng)推薦直接使用下面的指令拉取下載鏡像，本項目只需在CPU上即可運行。
# CPU 或者 Nvidia GPU docker pull ollama/ollama # AMD GPU docker pull ollama/ollama:rocm
注：如果讀者想要使用具體的版本的鏡像，明確運行環(huán)境，可以使用下面的指令:
# CPU 或 Nvidia GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0 # AMD GPU下載ollama 0.3.0 docker pull ollama/ollama:0.3.0-rocm
二、運行ollama鏡像
方式一：Docker在可視化界面中運行鏡像
- 下載完成后，可以在
Images中找到Ollama鏡像，點擊run標(biāo)識即可運行，注意運行前在彈出的可選設(shè)置里面，選定一個端口號（如8089）。
- 在
Containers中找到該鏡像，點擊OLLM即可進入 Ollama 界面
- 驗證安裝完成，在
Exec處輸入：
ollama -h
輸出如下：即表示安裝成功??
Large language model runner Usage: ollama [flags] ollama [command] Available Commands: serve Start ollama create Create a model from a Modelfile show Show information for a model run Run a model pull Pull a model from a registry push Push a model to a registry list List models ps List running models cp Copy a model rm Remove a model help Help about any command Flags: -h, --help help for ollama -v, --version Show version information
- 終端使用 Ollama :
以下是 Ollama 使用常見的指令：
ollama serve #啟動ollama ollama create #從模型文件創(chuàng)建模型 ollama show #顯示模型信息 ollama run #運行模型 ollama pull #從注冊表中拉取模型 ollama push #將模型推送到注冊表 ollama list #列出模型 ollama cp #復(fù)制模型 ollama rm #刪除模型 ollama help #獲取有關(guān)任何命令的幫助信息
ollama run llama3
下載速度取決于你的帶寬，下載完畢即可使用?記得使用
control + D退出聊天
方式二：命令行啟動
- CPU 版本：
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
總結(jié)
到此這篇關(guān)于Ollama在Docker下的安裝與配置的文章就介紹到這了,更多相關(guān)Ollama在Docker下安裝與配置內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！
相關(guān)文章
Docker安裝ClickHouse并初始化數(shù)據(jù)測試
clickhouse作為現(xiàn)在流行的數(shù)據(jù)分析數(shù)據(jù)庫，非常熱門，docker如何安裝ClickHouse，很多朋友并不是很明白，今天小編抽空給大家分享一篇教程關(guān)于Docker安裝ClickHouse并初始化數(shù)據(jù)測試的問題，一起看看吧2021-06-06
使用Docker搭建Apache Kafka環(huán)境的詳細過程
這篇文章主要介紹了使用Docker搭建Apache Kafka環(huán)境,本文使用Docker技術(shù)創(chuàng)建單個Kafka節(jié)點和Kafka集群環(huán)境，并且使用可視化工具連接服務(wù)查看代理服務(wù)器的配置信息，需要的朋友可以參考下2022-10-10
這篇文章主要介紹了docker如何查看容器/刪除(所有)容器/刪除鏡像問題,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教2024-07-07
本篇文章主要介紹了docker容器資源配額控制詳解，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2017-11-11
這篇文章主要介紹了docker下修改mysql配置文件的方法,本文給大家介紹的非常詳細，具有一定的參考借鑒價值，需要的朋友可以參考下2018-06-06
Deepin使用docker安裝mysql數(shù)據(jù)庫過程詳解
這篇文章主要介紹了Deepin使用docker安裝mysql數(shù)據(jù)庫過程詳解,文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友可以參考下2020-06-06
Docker鏡像是Docker容器運行的基礎(chǔ)，沒有Docker鏡像，就不可能有Docker容器，這也是Docker的設(shè)計原則之一 ，本文給大家介紹Docker鏡像加載原理，感興趣的朋友一起看看吧2021-06-06
本文主要介紹了Docker啟動常用容器命令及配置詳解，文中通過示例代碼介紹的非常詳細，對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值，需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2023-03-03
本文主要介紹了Docker部署后端項目的實現(xiàn)步驟,文中通過示例代碼介紹的非常詳細,對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2024-03-03
這篇文章主要介紹了Docker私服倉庫Harbor安裝的步驟詳解，小編覺得挺不錯的，現(xiàn)在分享給大家，也給大家做個參考。一起跟隨小編過來看看吧2019-05-05