CMLM-ZhongJing 中医大语言模型技术文档
CMLM-ZhongJing 中医大语言模型技术文档CMLM-ZhongJing首个中医大语言模型——“仲景”。受古代中医学巨匠张仲景深邃智慧启迪,专为传统中医领域打造的预训练大语言模型。The first-ever Traditional Chinese Medicine large language mode...
·
CMLM-ZhongJing 中医大语言模型技术文档
1. 安装指南
1.1 环境准备
- 操作系统: 推荐使用Linux或macOS系统。
- Python版本: 3.7及以上。
- 显卡: 推荐使用NVIDIA显卡,显存至少为8GB。
1.2 依赖安装
- 安装Python依赖包:
pip install -r requirements.txt - 安装PyTorch:
pip install torch
1.3 模型下载
从Hugging Face下载模型权重:
git lfs install
git clone https://huggingface.co/CMLL/ZhongJing-2-1_8b
2. 项目的使用说明
2.1 启动WebDemo
克隆代码库后,使用以下命令启动基于Gradio的网页版Demo:
python WebDemo.py
2.2 单轮和多轮对话
在网页版Demo中,用户可以进行单轮或多轮对话,快速调用ZhongJing进行对话。
3. 项目API使用文档
3.1 API接口
- URL:
/api/v1/chat - Method:
POST - Request Body:
{ "message": "用户输入的对话内容" } - Response:
{ "response": "模型生成的对话回复" }
3.2 示例
curl -X POST http://localhost:5000/api/v1/chat -H "Content-Type: application/json" -d '{"message": "我对三元汤的全过程很好奇,能否从简介、病历、症状、诊断和治疗,以及结果讨论等方面给我详细介绍?"}'
4. 项目安装方式
4.1 克隆代码库
git clone https://github.com/pariskang/CMLM-ZhongJing.git
cd CMLM-ZhongJing
4.2 安装依赖
pip install -r requirements.txt
4.3 启动服务
python app.py
通过以上步骤,用户可以顺利安装并使用CMLM-ZhongJing中医大语言模型,进行对话和API调用。
更多推荐


所有评论(0)