# 快速检查系统信息
uname -a                    # 系统版本
free -h                     # 内存大小
df -h /                     # 磁盘空间
lscpu | grep "Model name"   # CPU 型号
nvidia-smi                  # NVIDIA GPU（如已安装驱动）

curl -fsSL https://ollama.com/install.sh | sh

# 检查版本
ollama --version
# 输出示例: ollama version 0.6.2

# 检查服务状态
systemctl status ollama

# 验证 API 是否就绪
curl http://localhost:11434
# 输出: Ollama is running

# 1. 下载二进制文件
curl -L https://ollama.com/download/ollama-linux-amd64 -o /usr/local/bin/ollama

# 2. 添加执行权限
chmod +x /usr/local/bin/ollama

# 3. 创建专用用户
sudo useradd -r -s /bin/false -m -d /usr/share/ollama ollama

# 4. 创建 systemd 服务
sudo tee /etc/systemd/system/ollama.service << 'EOF'
[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/local/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="HOME=/usr/share/ollama"
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=default.target
EOF

# 5. 启动服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama

# 对于 ARM64 架构（如 AWS Graviton、树莓派 4+）
curl -L https://ollama.com/download/ollama-linux-arm64 -o /usr/local/bin/ollama
chmod +x /usr/local/bin/ollama

brew install ollama

# 前台运行（调试用）
ollama serve

# 或在后台运行
nohup ollama serve > /dev/null 2>&1 &

# Ollama 会自动使用 Metal 加速，无需额外配置
# 验证是否使用 Metal 加速：
ollama run qwen2.5:7b "Hello" --verbose
# 输出中应包含 GPU 相关信息

# 检查版本
ollama --version

# 检查服务是否运行
curl http://localhost:11434
# 或使用 PowerShell：
Invoke-WebRequest -Uri http://localhost:11434

# 在 WSL2 中使用与 Linux 相同的安装命令
curl -fsSL https://ollama.com/install.sh | sh

# 设置 Ollama 模型存储路径（默认在 C:\Users\<user>\.ollama\models）
[System.Environment]::SetEnvironmentVariable("OLLAMA_MODELS", "D:\ollama\models", "User")

# 设置 API 监听地址
[System.Environment]::SetEnvironmentVariable("OLLAMA_HOST", "0.0.0.0:11434", "User")

# 设置并行请求量
[System.Environment]::SetEnvironmentVariable("OLLAMA_NUM_PARALLEL", "4", "User")

# Ubuntu — 使用官方驱动管理工具
sudo apt update
sudo ubuntu-drivers devices          # 列出可用驱动
sudo ubuntu-drivers autoinstall      # 自动安装推荐驱动

# 或手动安装特定版本
sudo apt install nvidia-driver-545

# 重启后验证
nvidia-smi

# Ubuntu — 安装 CUDA Toolkit 12.x
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt update
sudo apt install cuda-toolkit-12-3

# 配置环境变量
echo 'export PATH=/usr/local/cuda/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc

# 运行模型并查看 GPU 利用率
ollama run qwen2.5:7b "你好"

# 在另一个终端监控 GPU
watch -n 1 nvidia-smi

# 1. 安装 ROCm（以 Ubuntu 22.04 为例）
sudo apt update
sudo apt install wget gnupg2

# 添加 ROCm 仓库
wget -q -O - https://repo.radeon.com/rocm/rocm.gpg.key | sudo apt-key add -
echo 'deb [arch=amd64] https://repo.radeon.com/rocm/apt/6.0 jammy main' | sudo tee /etc/apt/sources.list.d/rocm.list

sudo apt update
sudo apt install rocm-hip-sdk

# 2. 添加用户到 render 和 video 组
sudo usermod -aG render,video $USER

# 3. 重启后验证
rocminfo

# 直接运行即可
ollama run qwen2.5:7b

# 查看是否使用 GPU 加速（关注输出中的 GPU 信息）
ollama run qwen2.5:7b "测试" --verbose 2>&1 | grep -i gpu

# 编辑 systemd 服务配置
sudo systemctl edit ollama

# 在 [Service] 下添加：
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Environment="OLLAMA_NUM_PARALLEL=4"
Environment="OLLAMA_MAX_LOADED_MODELS=2"
Environment="OLLAMA_FLASH_ATTENTION=true"
Environment="OLLAMA_KEEP_ALIVE=30m"

# 重新加载并重启
sudo systemctl daemon-reload
sudo systemctl restart ollama

# Linux — 修改 systemd 环境变量
sudo systemctl edit ollama
# 添加: Environment="OLLAMA_MODELS=/data/ollama/models"

# macOS — 使用 launchctl
launchctl setenv OLLAMA_MODELS /data/ollama/models

# Windows — 使用系统环境变量
# 设置 OLLAMA_MODELS=D:\models

# 在有网络的机器上：
# 1. 下载 Ollama 二进制文件
curl -L https://ollama.com/download/ollama-linux-amd64 -o ollama

# 2. 下载模型文件（在有网络的机器上先拉取）
ollama pull qwen2.5:7b

# 3. 打包模型文件
tar czf ollama-models.tar.gz ~/.ollama/models/

# 4. 将 ollama 和 ollama-models.tar.gz 传输到离线机器

# 在离线机器上：
# 1. 安装 Ollama
chmod +x ollama
sudo mv ollama /usr/local/bin/

# 2. 恢复模型文件
tar xzf ollama-models.tar.gz -C ~/

# 3. 启动服务
ollama serve &

# 如需从局域网其他设备访问 Ollama API

# Ubuntu/Debian — ufw
sudo ufw allow 11434/tcp

# CentOS/RHEL — firewalld
sudo firewall-cmd --permanent --add-port=11434/tcp
sudo firewall-cmd --reload

# 验证端口监听
ss -tlnp | grep 11434

# 1. 检查版本
ollama --version

# 2. 检查 API
curl -s http://localhost:11434 | head -1
# 预期: Ollama is running

# 3. 拉取一个小模型测试
ollama pull qwen2.5:1.5b

# 4. 运行推理测试
ollama run qwen2.5:1.5b "1+1等于几？"

# 5. 测试 API
curl http://localhost:11434/api/chat -d '{
  "model": "qwen2.5:1.5b",
  "messages": [{"role": "user", "content": "你好"}],
  "stream": false
}'

# 6. 检查 GPU（如有）
nvidia-smi  # 或 rocminfo