9 lines
174 B
Markdown
9 lines
174 B
Markdown
|
创建Docker file：
|
|||
|
|
litserve dockerize server.py --port 8000 --gpu
|
|||
|
|
|
|||
|
|
构建镜像：
|
|||
|
|
docker build -t litserve-model .
|
|||
|
|
|
|||
|
|
运行容器：
|
|||
|
|
docker run -p 8000:8000 litserve-model
|