# LLMs

**Repository Path**: xuyan-breeze/llms

## Basic Information

- **Project Name**: LLMs
- **Description**: 大模型技术相关学习记录分享
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 1
- **Forks**: 0
- **Created**: 2026-01-23
- **Last Updated**: 2026-03-23

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# LLMs 大语言模型教程合集

本仓库收录了多篇大语言模型（LLM）本地部署、推理引擎和 AI 助手的安装与使用指南，涵盖从简单的桌面工具到企业级推理服务等多种场景。

**作者：Breeze Xu**

---

## 目录

- [教程导航](#教程导航)
- [适用场景速查](#适用场景速查)
- [环境要求概览](#环境要求概览)
- [各教程简介](#各教程简介)

---

## 教程导航

| 序号 | 教程名称 | 链接 | 类型 | 难度 |
|:---:|:---|:---|:---|:---:|
| 1 | Ollama 本地部署 | [Ollama/README.md](Ollama/README.md) | 本地推理 | ⭐ |
| 2 | LM Studio 本地部署 | [LMStudio/README.md](LMStudio/README.md) | 图形界面 + CLI | ⭐⭐ |
| 3 | vLLM 本地部署 | [vLLM/README.md](vLLM/README.md) | 高性能推理服务 | ⭐⭐⭐ |
| 4 | Claude Code 安装和使用 | [claudecode/README.md](claudecode/README.md) | AI 编码助手 | ⭐⭐ |
| 5 | OpenClaw 安装和使用 | [openclaw/README.md](openclaw/README.md) | 个人 AI 助手框架 | ⭐⭐⭐ |

---

## 适用场景速查

| 需求 | 推荐工具 |
|:---|:---|
| 快速体验本地 LLM，命令行/API 调用 | **Ollama** |
| 图形界面管理模型、调参与 API | **LM Studio** |
| 企业级高并发推理、批量推理 | **vLLM** |
| 终端 AI 编码、代码审查、问题解答 | **Claude Code** |
| 本地 AI 助手、飞书/Telegram 接入、WebChat | **OpenClaw** |

---

## 环境要求概览

| 工具 | 操作系统 | GPU | 内存 | 说明 |
|:---|:---|:---|:---|:---|
| Ollama | Windows / Linux | 可选 | 8GB+ | 轻量，CPU 也可运行 |
| LM Studio | Windows / Linux / macOS | 推荐 8GB+ | 16GB+ | 图形化，GPU 体验更好 |
| vLLM | Linux（推荐） | 16GB+ 显存 | 32GB+ | 需 CUDA，企业级推理 |
| Claude Code | 跨平台 | 无要求 | 8GB+ | 调用远程 API，本地轻量 |
| OpenClaw | Linux / macOS / Windows | 无要求 | 8GB+ | 调用远程 API，本地轻量 |

---

## 各教程简介

### 1. Ollama 本地部署

**路径：** [Ollama/README.md](Ollama/README.md)

Ollama 是一款简单易用的开源大语言模型本地运行工具，支持在本地运行多种 LLM 模型。

- **支持模型**：gpt-oss、gemma、deepseek、qwen、Llama、Mistral 等系列
- **系统支持**：Windows、Linux
- **主要内容**：安装配置、模型下载与运行、API 服务、Python 集成、Cherry Studio / Dify 等应用调用

---

### 2. LM Studio 本地部署

**路径：** [LMStudio/README.md](LMStudio/README.md)

LM Studio 提供图形界面和命令行两种使用方式，适合在本地管理模型并启动 API 服务。

- **特点**：图形界面、模型管理、GPU 资源监控、OpenAI 兼容 API
- **系统支持**：Windows、Linux、macOS
- **主要内容**：GUI 安装与使用、lms-CLI（`lms get` / `lms load` / `lms chat` 等）、API 调用示例

---

### 3. vLLM 本地部署

**路径：** [vLLM/README.md](vLLM/README.md)

vLLM 是高性能、企业级的大语言模型推理与部署库，基于 PagedAttention 和 Continuous Batching。

- **特点**：高性能推理、张量/流水线并行、OpenAI 兼容 API、多 LoRA 支持
- **系统支持**：Linux（Ubuntu 20.04+ 推荐）
- **主要内容**：CUDA 环境配置、vLLM 安装、模型下载、API 服务、批量推理与性能优化

---

### 4. Claude Code 安装和使用

**路径：** [claudecode/README.md](claudecode/README.md)

Claude Code 是 Anthropic 开发的 AI 编码工具，可在终端中运行，支持智能代码生成、审查和问题解答。

- **特点**：支持自定义 API、DeepSeek / Kimi / GLM / MiniMax 等国内平台、MCP、Hooks、Plugin
- **系统支持**：跨平台（npm 或官方脚本安装）
- **主要内容**：安装认证、国内 API 配置、交互式/非交互式模式、MCP 与 Hooks、规划模式、Rewind、记忆系统等

---

### 5. OpenClaw 安装和使用

**路径：** [openclaw/README.md](openclaw/README.md)

OpenClaw 是运行在本地设备上的个人 AI 助手框架，支持命令行和 WebChat 两种交互方式。

- **特点**：本地部署、个性化配置（SOUL.md、USER.md 等）、飞书 / Telegram 等渠道接入、Skills 插件
- **系统支持**：Linux、macOS、Windows
- **主要内容**：安装与初始化、Gateway 启动、飞书接入、网页搜索、CLI 命令速查等

---


## 项目结构

```
LLMs/
├── README.md           # 本文件（总览）
├── Ollama/              # Ollama 本地部署教程
├── LMStudio/            # LM Studio 本地部署教程
├── vLLM/                # vLLM 本地部署教程
├── claudecode/          # Claude Code 安装和使用教程
├── openclaw/            # OpenClaw 安装和使用教程
└── images/              # 各教程共用图片资源
```

---

*如有问题或建议，欢迎提出。*