From 167bd554dcd3d393205e3cf65caf99c751da0478 Mon Sep 17 00:00:00 2001 From: SupMario Date: Wed, 18 Jun 2025 13:07:00 +0000 Subject: [PATCH] =?UTF-8?q?=E8=A7=84=E8=8C=83=E5=92=8C=E4=BD=8E=E9=94=99?= =?UTF-8?q?=E7=B1=BB=EF=BC=9A=20-=20=20=E9=94=99=E5=88=AB=E5=AD=97?= =?UTF-8?q?=E6=88=96=E6=8B=BC=E5=86=99=E9=94=99=E8=AF=AF=EF=BC=8C=E6=A0=87?= =?UTF-8?q?=E7=82=B9=E7=AC=A6=E5=8F=B7=E4=BD=BF=E7=94=A8=E9=94=99=E8=AF=AF?= =?UTF-8?q?=E3=80=81=E5=85=AC=E5=BC=8F=E9=94=99=E8=AF=AF=E6=88=96=E6=98=BE?= =?UTF-8?q?=E7=A4=BA=E5=BC=82=E5=B8=B8=EF=BC=9B=20-=20=20=E9=93=BE?= =?UTF-8?q?=E6=8E=A5=E9=94=99=E8=AF=AF=E3=80=81=E7=A9=BA=E5=8D=95=E5=85=83?= =?UTF-8?q?=E6=A0=BC=E3=80=81=E6=A0=BC=E5=BC=8F=E9=94=99=E8=AF=AF=EF=BC=9B?= =?UTF-8?q?=20-=20=20=E8=8B=B1=E6=96=87=E4=B8=AD=E5=8C=85=E5=90=AB?= =?UTF-8?q?=E4=B8=AD=E6=96=87=E5=AD=97=E7=AC=A6=EF=BC=9B=20-=20=20?= =?UTF-8?q?=E7=95=8C=E9=9D=A2=E5=92=8C=E6=8F=8F=E8=BF=B0=E4=B8=8D=E4=B8=80?= =?UTF-8?q?=E8=87=B4=EF=BC=8C=E4=BD=86=E4=B8=8D=E5=BD=B1=E5=93=8D=E6=93=8D?= =?UTF-8?q?=E4=BD=9C=EF=BC=9B=20-=20=20=E8=A1=A8=E8=BF=B0=E4=B8=8D?= =?UTF-8?q?=E9=80=9A=E9=A1=BA=EF=BC=8C=E4=BD=86=E4=B8=8D=E5=BD=B1=E5=93=8D?= =?UTF-8?q?=E7=90=86=E8=A7=A3=EF=BC=9B=20-=20=20=E7=89=88=E6=9C=AC?= =?UTF-8?q?=E5=8F=B7=E4=B8=8D=E5=8C=B9=E9=85=8D=EF=BC=9A=E5=A6=82=E8=BD=AF?= =?UTF-8?q?=E4=BB=B6=E5=8C=85=E5=90=8D=E7=A7=B0=E3=80=81=E7=95=8C=E9=9D=A2?= =?UTF-8?q?=E7=89=88=E6=9C=AC=E5=8F=B7=EF=BC=9B?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit Signed-off-by: SupMario --- .../source_zh_cn/model_infer/ms_infer/llm_inference_overview.md | 2 +- 1 file changed, 1 insertion(+), 1 deletion(-) diff --git a/tutorials/source_zh_cn/model_infer/ms_infer/llm_inference_overview.md b/tutorials/source_zh_cn/model_infer/ms_infer/llm_inference_overview.md index b5aff2f204..5c59902d1a 100644 --- a/tutorials/source_zh_cn/model_infer/ms_infer/llm_inference_overview.md +++ b/tutorials/source_zh_cn/model_infer/ms_infer/llm_inference_overview.md @@ -167,7 +167,7 @@ model = AutoModel.from_config(config) [1, 306, 5360, 1522, 823, 292, 29892, 1363] ``` - 将"I love Beijing, because"分解为了8个token，其中：1表示文本或者段落的起始token，306表示I对应的token，1522表示love对应的token，292表示Beijing对应的toekn, 29892表示逗号对应的token，1363表示because对应的token，5360、823、分别表示了两个词间的空格（具体根据模型的tokenizer而定），这个格式可以直接传给模型进行推理。 + 将"I love Beijing, because"分解为了8个token，其中：1表示文本或者段落的起始token，306表示I对应的token，1522表示love对应的token，292表示Beijing对应的token, 29892表示逗号对应的token，1363表示because对应的token，5360、823、分别表示了两个词间的空格（具体根据模型的tokenizer而定），这个格式可以直接传给模型进行推理。 - **整网计算**：传入当前的输入token的数据和配置，让模型对象通过多轮的推理出每轮的token结果。 -- Gitee