如何构建一个提供LLM运行环境的镜像

enjoy编程

已于 2025-04-10 09:46:53 修改

阅读量47

点赞数

分类专栏： AI NLP 程序员实用工具集合文章标签： LLM 大模型 python 人工智能 docker

于 2025-04-10 09:40:40 首次发布

本文链接：https://blog.csdn.net/penriver/article/details/147109593

版权

程序员实用工具集合同时被 3 个专栏收录

84 篇文章 ¥29.90 ¥99.00

订阅专栏

超级会员免费看

27 篇文章

订阅专栏

NLP

6 篇文章

订阅专栏

如何构建一个提供LLM运行环境的镜像

如果想在本地搭建LLM的运行环境，使用镜像是一个很好的选择

本文提供基于python 3.10版本，使用poetry管理依赖，快速搭建LLM运行环境的镜像的脚本

Dockerfile文件内容

# syntax=docker/dockerfile:1
# use build args in the docker build command with --build-arg="BUILDARG=true"
# Override at your own risk - non-root configurations are untested
ARG UID=0
ARG GID

了解本专栏

超级会员免费看