基于linux部署ollama
·
本文采用基于windows的子系统wsl作为演示
我们基于手动安装
首先访问https://ollama.com/download/ollama-linux-amd64.tar.zst下载相关的ollama的linux的压缩包(这个安装包是在电脑磁盘里面的,wsl系统可以访问电脑本地磁盘)
然后在电脑上的ubuntu的界面输入
cd /mnt
ls -l
用于查看电脑本地资源
之后进入你存放的ollama压缩包拷贝到linux系统的主目录里面
cd e/浏览器下载/
ls -l
cp ollama-linux-amd64.tar.zst ~/
cd
安装必要的解压工具(zstd)
解压安装包并将 Ollama 部署到系统路径(/usr/bin),使其成为全局可用的命令
sudo apt update
sudo apt install zstd -y
sudo tar -xvf ollama-linux-amd64.tar.zst -C/usr
终端运行ollama
ollama serve
创建一个名为 ollama 的系统用户(非登录用户),专门用于运行 Ollama 后台服务。
将当前登录的用户(即你)添加到 ollama 用户组中。
sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
创建服务文件:/etc/systemd/system/ollama.service
然后编辑此文件
sudo vim /etc/systemd/system/ollama.service
[Unit]
Description=Ollama Service
After=network-online.target
[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
[Install]
WantedBy=multi-user.target
然后开始服务
并查看运行状态
sudo systemctl daemon-reload
sudo systemclt start ollama
sudo systemctl status ollama
退出ctrl c
本地部署大模型(可根据自身情况选择模型)
然后运行
ollama pull deepseek-r1:1.5b
ollama run deepseek-r1:1.5b
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。
更多推荐



所有评论(0)