# llmapi

**Repository Path**: qicx/llmapi

## Basic Information

- **Project Name**: llmapi
- **Description**: openai like llm api
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 1
- **Created**: 2023-05-14
- **Last Updated**: 2023-05-20

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# LLMAPI
大模型类OPENAI的API接口，基与FastAPI。

支持模型列表如下:
    - llama系列的大模型
    - chatglm系列大模型

llama支持CPU推理

## 配置

```
cp config.yaml.in config.yaml
```

为每个模型的 `check_point_path` 设置合适的值。

## 开发测试环境准备

### 1. 准备模型文件

### 2. 安装依赖

### 3. 运行测试