# EasyLLM

**Repository Path**: liu-yanwei6/easy-llm

## Basic Information

- **Project Name**: EasyLLM
- **Description**: 招商银行AI实验室联合华为MindSpore社区实现Qwen系列模型训推全流程套件，便于开发者开箱即用 
- **Primary Language**: Unknown
- **License**: Apache-2.0
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 5
- **Created**: 2025-08-07
- **Last Updated**: 2025-08-07

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

## 一、介绍

大模型随着2022年ChatGPT的出现迎来了爆发，经过几年的发展，大模型在训练/推理/评测方面正逐步完善，但当前各模块或套件相对独立，
在实际生产过程中效率不足，为了提高生产效率，招商银行AI实验室联合华为MindSpore社区实现Qwen系列模型训推全流程套件，便于开发者开箱即用。
如您想对MindSpore有进一步了解，可查阅[MindSpore官网](https://www.mindspore.cn)
官网教程使用。

支持模型列表：

| **模型名** |           **模型参数**           |          **预训练**           |           **微调**           |            **强化学习（GRPO）** |          **服务化部署**           |          **评测**           
  |:-------:|:----------------------------:|:--------------------------:|:--------------------------:|--------------------------:|:----------------------------:|:-------------------------:|
| Qwen2.5 | [0.5b](configs/qwen2_5/0_5b) | [✓](train/README.md) | [✓](train/README.md) |                  ✗ | [✓](predict/README.md) | [✓](eval/README.md) |
| Qwen2.5 | [1.5b](configs/qwen2_5/1_5b) | [✓](train/README.md) | [✓](train/README.md) |                  ✗ | [✓](predict/README.md) | [✓](eval/README.md) |
| Qwen2.5 |   [3b](configs/qwen2_5/3b)   | [✓](train/README.md) | [✓](train/README.md) |                  ✗ | [✓](predict/README.md) | [✓](eval/README.md) |
| Qwen2.5 |   [7b](configs/qwen2_5/7b)   | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |
| Qwen2.5 |  [14b](configs/qwen2_5/14b)  | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |
| Qwen2.5 |  [32b](configs/qwen2_5/32b)  | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |
| Qwen2.5 |  [72b](configs/qwen2_5/72b)  | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |
|  Qwen3  |  [0.6b](configs/qwen3/0_6b)  | [✓](train/README.md) | [✓](train/README.md) |                  ✗ | [✓](predict/README.md) | [✓](eval/README.md) |
|  Qwen3  |  [1.7](configs/qwen3/1_7b)   | [✓](train/README.md) | [✓](train/README.md) |                  ✗ | [✓](predict/README.md) | [✓](eval/README.md) |
|  Qwen3  |    [4b](configs/qwen3/4b)    | [✓](train/README.md) | [✓](train/README.md) |                  ✗ | [✓](predict/README.md) | [✓](eval/README.md) |
|  Qwen3  |    [8b](configs/qwen3/8b)    | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |
|  Qwen3  |   [14b](configs/qwen3/14b)   | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |
|  Qwen3  |   [32b](configs/qwen3/32b)   | [✓](train/README.md) | [✓](train/README.md) | [✓](rlhf/README.md) | [✓](predict/README.md) | [✓](eval/README.md) |

## 二、版本说明

|         **组件**         |                  **版本及下载链接**                  |
  |:----------------------:|:---------------------------------------------:|
|       MindSpore        |    [2.6.0](dockerfiles/dockerfile_unified)    |
| MindSpore Transformers |     [1.5](dockerfiles/dockerfile_unified)     |
|          vllm          | [0.6.6.post1](dockerfiles/dockerfile_unified) |
|     vllm_mindspore     |   [0.1-opt](dockerfiles/dockerfile_unified)   |
|     MindSpore RLHF     |     [dev](dockerfiles/dockerfile_unified)     |
|          CANN          |   [8.1.RC1](dockerfiles/dockerfile_unified)   |
|          HDK           |                    23.0.3                     |

## 三、目录结构说明

|               **组件**               |            **介绍**             |
|:----------------------------------:|:-----------------------------:|
|          [配置文件](configs)           |      Qwen2.5和Qwen3的配置文件       |
|       [权重转换](convert_weight)       | MindSpore和HuggingFace权重相互转化脚本 |
|      [数据处理](dataset_process)       |     生成MindSpore格式的训练数据脚本      |
|         [镜像](dockerfiles)          |            构建镜像的方法            |
|            [文档插图](docs)            |        easy-llm相关文档插图         |
|        [基于aisbench评测](eval)        |      使用aisbench套件进行评测的脚本      |
|           [套件补丁](patch)            |            各套件补丁代码            |
| [服务化推理部署(vllm+MindSpore)](predict) |          启动vllm服务脚本           |
|            [强化学习](rlhf)            |          启动强化学习训练脚本           |
|            [训练](train)             |          微调和预训练启动脚本           |

## 四、环境准备

为更加方便环境安装，该项目提供dockerfile文件，可根据自身需求使用dockerfile文件制作镜像。

|     **镜像分类**      |         **文件链接**          |
  |:-----------------:|:-------------------------:|
| 训练/推理/强化学习/评测统一镜像 | [dockerfile](dockerfiles) |

```text
注意：
1) 使用dockerfile文件制作时，依赖互联网下载并安装依赖包
2) dockerfile默认设备为arm架构
```

## 五、使用教程

|             **类别**             |         **说明**          |
|:------------------------------:|:-----------------------:|
|     [预训练](train/README.md)     |       在MA平台上进行预训练       |
|     [微调](train/README.md)      |       全参与lora微调训练       |
|     [强化学习](rlhf/README.md)     |         强化学习训练          |
| [vllm服务化部署](predict/README.md) | 基于vLLM+MindSpore进行服务化部署 |
|      [评测](eval/README.md)      |    基于aisbench进行评测的文档    |

## 六、声明

EasyLLM训推评一体化套件由招行AI实验室设计开发完成，遵从Apache2.0开源协议。
整个套件功能依赖MindSpore社区、大模型实现及并行能力依赖MindSpore深度学习框架，大模型训练依赖MindSpore
Transformers套件、强化学习依赖MindSpore
RLHF套件，推理服务部署依赖vLLM库与vLLM-MindSpore插件等官方开源仓，
上述MindSpore社区组件完全开源且遵从Apache-2.0开源协议，
用户需自行承担第三方依赖风险与不当配置或超过官方范围使用导致的漏洞损失风险。