通过 Docker 安装 Unsloth

使用我们的官方 Docker 容器安装 Unsloth

了解如何使用我们的 Docker 容器，所有依赖都已预先安装，可立即进行安装。无需设置，只需运行即可开始训练！

Unsloth Docker 镜像： unsloth/unsloth

现在你可以使用我们的主 Docker 镜像 unsloth/unsloth 用于 Blackwell 和 50 系列 GPU——无需单独的镜像。

⚡ 快速开始

安装 Docker 和 NVIDIA Container Toolkit。

通过以下方式安装 Docker： Linux 或桌面版（其他）。然后安装 NVIDIA Container Toolkit:

export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
sudo apt-get update && sudo apt-get install -y \
  nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
  libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}

运行容器。

unsloth/unsloth 是 Unsloth 唯一的 Docker 镜像。

docker run -d -e JUPYTER_PASSWORD="mypassword" \
  -p 8888:8888 -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

访问 Jupyter Lab

前往 http://localhost:8888 并打开 Unsloth。

访问 unsloth-notebooks 选项卡以查看 Unsloth 笔记本。

使用 Unsloth 开始训练

如果你是新手，请按照我们的分步微调指南, RL 指南或者 պարզապես保存/复制我们任何预制的笔记本.

📂 容器结构

/workspace/work/ — 你挂载的工作目录
/workspace/unsloth-notebooks/ — 微调示例笔记本
/home/unsloth/ — 用户主目录

📖 使用示例

完整示例

docker run -d -e JUPYTER_PORT=8000 \
  -e JUPYTER_PASSWORD="mypassword" \
  -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \
  -e USER_PASSWORD="unsloth2024" \
  -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

设置 SSH 密钥

如果你还没有 SSH 密钥对：

# 生成新的密钥对
ssh-keygen -t rsa -b 4096 -f ~/.ssh/container_key

# 在 docker run 中使用公钥
-e "SSH_KEY=$(cat ~/.ssh/container_key.pub)"

# 通过 SSH 连接
ssh -i ~/.ssh/container_key -p 2222 unsloth@localhost

🦥为什么选择 Unsloth 容器？

可靠：经过精选的环境，包版本稳定且维护良好。压缩后仅 7 GB（而其他地方为 10–11 GB）
即用型：预装笔记本位于 /workspace/unsloth-notebooks/
安全：默认以非 root 用户安全运行
通用：兼容所有基于 transformer 的模型（TTS、BERT 等）

⚙️ 高级设置

# 生成 SSH 密钥对
ssh-keygen -t rsa -b 4096 -f ~/.ssh/container_key

# 连接到容器
ssh -i ~/.ssh/container_key -p 2222 unsloth@localhost

变量

说明

默认值

JUPYTER_PASSWORD

Jupyter Lab 密码

unsloth

JUPYTER_PORT

容器内的 Jupyter Lab 端口

8888

SSH_KEY

用于认证的 SSH 公钥

无

USER_PASSWORD

密码用于 unsloth 用户（sudo）

unsloth

-p <host_port>:<container_port>

Jupyter Lab： -p 8000:8888
SSH 访问： -p 2222:22

重要：请使用卷挂载以在容器运行之间保留你的工作。

-v <local_folder>:<container_folder>

docker run -d -e JUPYTER_PORT=8000 \
  -e JUPYTER_PASSWORD="mypassword" \
  -e "SSH_KEY=$(cat ~/.ssh/container_key.pub)" \
  -e USER_PASSWORD="unsloth2024" \
  -p 8000:8000 -p 2222:22 \
  -v $(pwd)/work:/workspace/work \
  --gpus all \
  unsloth/unsloth

🔒 安全说明

容器默认以非 root unsloth 用户运行
使用 USER_PASSWORD 在容器内执行 sudo 操作
SSH 访问需要公钥认证

上一页Windows 下一页Updating

最后更新于3天前

这有帮助吗？

hashtag⚡ 快速开始

hashtag📂 容器结构

hashtag📖 使用示例

hashtag完整示例

hashtag设置 SSH 密钥

hashtag🦥为什么选择 Unsloth 容器？

hashtag⚙️ 高级设置

hashtag🔒 安全说明

⚡ 快速开始

📂 容器结构

📖 使用示例

完整示例

设置 SSH 密钥

🦥为什么选择 Unsloth 容器？

⚙️ 高级设置

🔒 安全说明