diff --git "a/source/_drafts/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo.md" "b/source/_drafts/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo.md" new file mode 100644 index 0000000000000000000000000000000000000000..5e668fe89c2f966c0e6d75e1a3c7ad7698bbf622 --- /dev/null +++ "b/source/_drafts/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo.md" @@ -0,0 +1,39 @@ +--- +title: 建木社区助你玩转NeMo +date: 2023-05-25 17:00 +categories: 技术文章 +comments: false +image: /assets/技术文章/建木社区助你玩转NeMo/NeMo.png +excerpt: 建木应用实践 +author: 邵嘉诚 +--- +在发布 ChatGLM 镜像及部署节点后,我们收到了许多用户的反馈,他们希望了解更多关于如何搭建会话 AI 模型平台。为了满足这些需求,我们决定提供一个流行的工具包 - NVIDIA NeMo 的镜像及部署节点,以便于用户能更快上手并开始使用 NeMo。 +### 什么是NeMo? +NVIDIA NeMo 是一个用于构建会话 AI 的工具包,它可以帮助研究人员在自动语音识别(ASR)、文本到语音合成(TTS)、大型语言模型(LLMs)和自然语言处理(NLP)等领域进行工作,主要目的是帮助来自工业界和学术界的研究人员重用以前的工作(代码和预训练模型),并使创建新的会话 AI 模型变得更加容易。 + +### 如何部署? +![](/assets/技术文章/建木社区助你玩转NeMo/image.png) +最新nemo镜像已上传至jianmuhub,地址为https://res.jianmuhub.com/image/autoops/nemo + +使用方法如下 +```bash +# 1.从建木镜像仓库拉镜像 +docker pull docker.jianmuhub.com/autoops/nemo:latest +# 2.启动容器 +docker run --gpus all -d --runtime=nvidia --shm-size=8g \ +-p 8888:8888 --ulimit memlock=-1 --ulimit stack=67108864 \ +--name=nemo docker.jianmuhub.com/autoops/nemo:latest ./start-jupyter.sh +# 3.启动后,可通过浏览器localhost:8888访问jupyter界面 +``` + +### 如何通过建木节点部署? +![](/assets/技术文章/建木社区助你玩转NeMo/node.png) +NeMo部署节点在建木hub的地址:https://jianmuhub.com/autoops/nemo_deploy + +该节点可在指定IP的Linux服务上远程部署NeMo并启动jupyter服务,默认指定容器共享内存大小为8g,内存无限制,堆栈大小为64mb,可根据实际配置自行修改。部署要求服务器已安装docker,nvidia驱动及nvidia容器运行时,具体要求参照节点仓库readme。 + + +使用过程中遇到任务问题,欢迎开issue或者加入建木社区用户群交流。 + +### 最后 +本次分享内容介绍到这就结束啦,未来,建木社区将更加努力地推进大模型对话技术的发展,为用户提供更加优质的服务。 diff --git "a/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/NeMo.png" "b/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/NeMo.png" new file mode 100644 index 0000000000000000000000000000000000000000..db9bee94e56fc22634cf82663d4c403d56551dc1 Binary files /dev/null and "b/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/NeMo.png" differ diff --git "a/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/image.png" "b/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/image.png" new file mode 100644 index 0000000000000000000000000000000000000000..babbf850f683a115124639a99f89e4dc10d9e8f8 Binary files /dev/null and "b/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/image.png" differ diff --git "a/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/node.png" "b/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/node.png" new file mode 100644 index 0000000000000000000000000000000000000000..f697679057d93d28b133f6fa259db97f7d1163cb Binary files /dev/null and "b/source/assets/\346\212\200\346\234\257\346\226\207\347\253\240/\345\273\272\346\234\250\347\244\276\345\214\272\345\212\251\344\275\240\347\216\251\350\275\254NeMo/node.png" differ