# 舜华操作系统

**Repository Path**: zzy29/ShunhuaOS

## Basic Information

- **Project Name**: 舜华操作系统
- **Description**: “舜华OS”是山东大学自主研发的面向 x86、ARM 与 RISC-V 服务器及 GPU、NPU 等异构加速平台。  
“舜华”取自《西汉·史记》“舜耕历山，历山之人皆让畔”的典故，既以“舜”致敬济南“舜文化”开拓创新的精神内核，又以“华”彰显华夏自主属性。同时，古语“舜华”指坚韧顽强、生生不息的木槿花，代表了“舜华OS”系统快速部署迭代与生态繁荣的不懈追求。
- **Primary Language**: C
- **License**: BSD-2-Clause
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 130
- **Created**: 2026-07-26
- **Last Updated**: 2026-07-26

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# 舜华 OS

> **面向 AI 推理服务器的高效、安全操作系统发行版**

舜华 OS 面向 x86、ARM 与 RISC-V 服务器及 GPU、NPU 等异构加速平台，目标是在统一的操作系统底座上同时解决两类问题：一是大模型推理链路中的部署复杂、资源利用率低、缓存与虚拟化开销高等性能问题；二是固件、内核、驱动和虚拟化层缺少可信保障、RISC-V 软硬件生态适配不完整等安全与可靠性问题。

项目不是若干独立工具的简单集合，而是围绕 **“可信启动—安全内核—高效虚拟化—架构感知优化—推理缓存与模型服务”** 建立一条贯穿固件、内核、运行时和 AI 服务的全栈技术链。上层模型负载、运行监控和性能数据能够向下驱动资源配置、线程调度和编译策略调整；底层固件、内核与虚拟化机制则向上提供安全隔离、可靠运行和异构硬件能力。

## 系统架构

![舜华 OS 面向 AI 大模型优化的全栈架构](./doc/pic/shunhua-os-architecture.png)

舜华 OS 的总体架构自上而下包括：AI 应用与接入、模型与 AI 平台、AI 编译优化、容器与虚拟化运行时、内核与虚拟化支撑、固件与安全启动，以及 RISC-V 开源硬件。各层围绕同一个目标协同：**以服务器操作系统为中心，在保证可信与隔离的前提下，提高 AI 推理的部署效率、执行效率和资源利用率。**

## 统一技术主线

### 1. 以 UEFI 与 SeSBI 建立可信启动和可靠运行底座

舜华 OS 在固件层以 UEFI 完成服务器硬件初始化、设备发现和标准化启动，在 RISC-V 平台上进一步集成 SeSBI，承接机器态初始化、SBI 服务、特权级切换和操作系统引导等关键职责。

SeSBI 的重点不是增加一个普通固件实现，而是将形式化验证、安全启动与 RAS 可靠性机制纳入操作系统可信根：对 PMP 配置、模式切换、异常与定时器等关键路径建立可检查的规格和证据；面向服务器故障场景提供 RAS 事件处理及 AI-RAS 接口；通过缺陷发现、修复和多证据验证，降低底层固件错误向内核和 AI 服务传播的风险。由此，舜华 OS 的安全边界从用户态和内核进一步下沉到 UEFI/SBI 与硬件交界处。

### 2. 以软硬件协同虚拟化提高隔离条件下的执行效率

舜华 OS 将虚拟化能力组织为一条从应用到处理器的协同链路，而不是只依赖单一 Hypervisor 优化。

在应用侧，`virtio-vapp` 提供轻量应用级虚拟化，使虚拟机能够通过 Virtio/Vhost 通道调用宿主机应用与数据服务，并通过内存映射和页指针传递减少额外数据复制。服务 Hypervisor 负责应用注册、任务调度、权限管理和迁移控制，使 AI 服务可以在保留虚拟机隔离性的同时利用宿主机真实硬件能力。

在内存虚拟化侧，STDP 复用正常两阶段地址翻译过程中已经观察到的 Guest 侧页表结构，通过 Access、Refill 和 Flush 维护可重建的影子结构，只缩短重复的 GVA→GPA 遍历，不绕过最终的 GPA→HPA 翻译边界。该机制面向 KVM/QEMU 场景降低嵌套页表遍历开销，同时保持宿主机对最终地址映射的控制权。

在开源软硬件侧，项目将部分 RISC-V PLIC 驱动适配提交至 Linux 内核，并在 VexiiRiscv 开源 CPU IP 中推进部分 H 扩展与 AIA 硬件实现。PLIC 适配解决基础中断控制与操作系统接入问题，H 扩展为 RISC-V 硬件虚拟化提供特权级支持，AIA 则增强虚拟化中断与多核中断体系。三者与 KVM/QEMU、Virtio、vGPU 资源配置共同构成舜华 OS 的虚拟化支撑面。

这一方向以应用级虚拟化、内存虚拟化和开源软硬件适配为基础，形成 **应用调用、内存翻译、内核驱动与 CPU 硬件扩展相互衔接** 的虚拟化能力。

### 3. 以 RISC-V 编译优化智能体形成可解释的性能闭环

舜华 OS 将编译优化作为操作系统面向 AI 工作负载提供的架构适配能力。项目构建了面向 RISC-V 的编译优化体系：从配置矩阵构建和统一运行开始，综合性能得分、代码尺寸、编译选项有效性与汇编差异，提取不同优化策略的趋势证据，并沉淀为可复用的 RISC-V 或多架构优化规则。

该体系不以搜索一次性的“最优编译参数”为终点，而是根据已有异常证据生成下一轮实验探针。例如，当 unroll 增大代码尺寸却没有带来性能收益时，系统将代码尺寸和 I-Cache 压力纳入后续决策；当 inline 收紧后缩小代码且性能不下降时，则进一步形成更稳健的内联策略。编译智能体由此与运行监控、缓存指标和硬件能力描述连接，形成“生成配置—统一测量—证据提取—规则回归”的持续优化闭环。

### 4. 以 FlexKV 提升 RAG 长上下文推理效率

模型服务层集成 FlexKV/KV Cache 复用能力，面向 RAG 和长上下文推理中大量文本块重复出现、但不一定具有相同公共前缀的场景，提高已有 KV 计算结果的复用范围。

FlexKV 通过块级 KV 复用、区域化注意力与分层缓存，将可复用状态在 GPU 显存、主存及其他存储层之间进行组织，使相同文本块在不同请求和不同位置出现时仍有机会复用。该能力直接作用于大模型推理热路径，用于降低首字延迟、减少重复 Prefill 计算并提升吞吐；同时向下结合显存、内存和资源监控信息，与 vGPU 配置、运行时调度及操作系统资源管理协同。

因此，KV Cache 并不是孤立的推理框架插件，而是舜华 OS 模型服务层的核心缓存机制：上接模型管理、RAG 服务和推理框架，下接异构内存、GPU 资源与系统监控。

### 5. 以 Asterinas 星绽内核探索内存安全的服务器内核路线

内核层引入 Asterinas 星绽内核工作。Asterinas 采用 Rust 与 Framekernel 思路，将不安全能力集中封装，并在上层内核服务中提供内存安全、并发安全、模块化隔离以及 Linux ABI/用户态兼容能力。该路线用于降低传统内核中内存破坏、并发错误和驱动缺陷对 AI 服务稳定性的影响。

在舜华 OS 中，Asterinas 被定位为**安全内核集成方向**，而不是与上层 AI 平台割裂的独立操作系统。发行版可保留 Linux 内核作为成熟兼容基线，同时通过启动项或系统镜像选择 Asterinas 内核，复用同一套模型服务、容器运行时与管理界面。这里所说的“内核切换”更适合采用启动阶段的内核选择与兼容验证，而不是运行过程中的热切换。

内核层同时承载大容量缓存自适应线程调度：持续监控线程行为、共享缓存和 NUMA 拓扑，根据负载变化调整线程规模、绑核与任务布局，使大模型推理、虚拟化服务和多线程计算能够更有效地利用大容量 LLC 和多核资源。

## 端到端运行路径

一次典型的 AI 推理服务在舜华 OS 中沿以下路径运行：

1. UEFI 完成服务器平台初始化并加载 SeSBI；SeSBI 建立安全启动、SBI 服务与 RAS 基础后引导内核。
2. Linux 或 Asterinas 内核初始化中断、内存、驱动和调度子系统，并通过 PLIC/AIA 等机制接入 RISC-V 平台。
3. Docker、Kubernetes、KVM/QEMU、Virtio 与 vGPU 资源层为模型服务提供隔离和资源复用；virtio-vapp 与 STDP 分别优化应用调用路径和虚拟内存翻译路径。
4. 编译优化智能体根据目标架构、工具链和运行反馈生成及筛选优化配置，为推理框架和关键代码提供更适合 RISC-V 或异构服务器的实现。
5. 模型服务平台完成模型部署、权限与日志管理；FlexKV 在推理过程中复用可共享的 KV 状态，降低重复计算。
6. 系统采集延迟、吞吐、显存、缓存、线程和错误信息，并将反馈用于 vGPU 资源配置、线程调度、编译策略和 RAS 处置，形成闭环。

## 主要创新点

1. **固件到模型服务的纵向可信链。** 将 UEFI、SeSBI、内核安全、虚拟化隔离与 AI 服务管理纳入同一操作系统架构，而不是仅在应用层增加安全组件。
2. **应用、内存、驱动与硬件贯通的 RISC-V 虚拟化体系。** 以 virtio-vapp、STDP、Linux PLIC 适配以及 VexiiRiscv H/AIA 实现构成软硬件协同虚拟化路径。
3. **运行证据驱动的架构感知编译优化。** 将代码尺寸、缓存压力、汇编变化和性能结果统一建模，把一次性参数搜索转化为可解释、可复用的 RISC-V 优化规则。
4. **模型缓存与系统资源管理协同。** 将 FlexKV 的块级复用和分层缓存与显存、内存、vGPU、NUMA 和线程调度结合，直接服务长上下文与 RAG 推理。
5. **兼顾 Linux 生态与内存安全的内核演进路线。** 通过 Asterinas 的 Rust/Framekernel 架构探索安全内核，并在发行版层保留 Linux 兼容与启动级内核选择能力。

## 项目组成与工作对应

| 工作方向 | 主要内容 | 在舜华 OS 中的作用 |
|---|---|---|
| SeSBI / UEFI | 安全启动、SBI 服务、形式化验证、RAS 与 AI-RAS 接口 | 建立服务器 OS 的固件可信根 |
| 虚拟化与开源适配 | virtio-vapp、STDP、Linux PLIC、VexiiRiscv H 扩展与 AIA | 提供低开销隔离、内存翻译优化和 RISC-V 虚拟化生态支撑 |
| 编译优化 | 配置矩阵、统一测量、趋势证据、RISC-V 规则提炼 | 提高关键代码和 AI 工作负载的架构适配性能 |
| FlexKV / KV Cache | 块级复用、区域化注意力、分层缓存 | 降低 RAG 长上下文推理的重复计算与首字延迟 |
| Asterinas 星绽内核 | Rust、Framekernel、Linux ABI 兼容、安全内核服务 | 提供内存安全内核路线与发行版内核演进能力 |

## 项目定位

舜华 OS 的核心不是重新实现所有 AI 框架或服务器软件，而是提供一个能够承载并协调这些能力的操作系统发行版：向上提供模型管理、私有化部署和统一交互，向下贯通编译、虚拟化、内核、固件与 RISC-V 开源硬件。最终形成一套 **可交互、可部署、可监控、可调优，并具备可信底座的 AI 服务器操作系统能力栈**。