Fetch the repository succeeded.
ARG BASE=openeuler/openeuler:22.03-lts-sp4
ARG VERSION=v0.9.1
FROM ${BASE}
ARG VERSION
RUN yum update -y && \
yum install -y make gcc-toolset-12-gcc gcc-toolset-12-gcc-c++ python python-pip python3-devel git vim wget net-tools numactl-devel && \
rm -rf /var/cache/yum
ENV PATH=/opt/openEuler/gcc-toolset-12/root/usr/bin/:$PATH
ENV LD_LIBRARY_PATH=/opt/openEuler/gcc-toolset-12/root/usr/lib64/:$LD_LIBRARY_PATH
WORKDIR /workspace
RUN git clone -b ${VERSION} https://github.com/vllm-project/vllm.git
WORKDIR /workspace/vllm
RUN pip install "cmake>=3.26" wheel packaging ninja "setuptools-scm>=8" numpy
RUN VLLM_TARGET_DEVICE="cpu" pip install -e . --extra-index-url https://download.pytorch.org/whl/cpu
ENTRYPOINT ["python", "-m", "vllm.entrypoints.openai.api_server"]
此处可能存在不合适展示的内容，页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容，可点击提交进行申诉，我们将尽快为您处理。
马建仓 AI 助手