Skip to content

Latest commit

 

History

History
55 lines (48 loc) · 1.52 KB

docker.md

File metadata and controls

55 lines (48 loc) · 1.52 KB

Docker 部署指南

快速开始

先准备好配置文件，设置服务器监听端口为8888、服务器监听地址为0.0.0.0

docker run启动

docker run -d \
  -p 8888:8888 \
  -v /path/to/config.toml:/app/config/config.toml \
  krillinai/krillin

docker-compose启动

version: '3'
services:
  krillin:
    image: krillinai/krillin
    ports:
      - "8888:8888"
    volumes:
      - /path/to/config.toml:/app/config/config.toml

持久化模型

如果使用fasterwhisper模型， KrillinAI 会自动下载模型所需文件到/app/models目录和/app/bin目录。容器删除后，这些文件会丢失。如果需要持久化模型，可以将这两个目录映射到宿主机的目录。

docker run启动

docker run -d \
  -p 8888:8888 \
  -v /path/to/config.toml:/app/config/config.toml \
  -v /path/to/models:/app/models \
  -v /path/to/bin:/app/bin \
  krillinai/krillin

docker-compose启动

version: '3'
services:
  krillin:
    image: krillinai/krillin
    ports:
      - "8888:8888"
    volumes:
      - /path/to/config.toml:/app/config/config.toml
      - /path/to/models:/app/models
      - /path/to/bin:/app/bin

注意事项

  1. 如果docker容器的网络模式不为host，建议将配置文件服务器监听地址设置为0.0.0.0，否则可能无法访问服务。
  2. 如果容器内需要访问宿主机的网络代理，请将代理地址配置项proxy的127.0.0.1设置为host.docker.internal，例如http://host.docker.internal:7890