
所有训练过程均在 Vast.ai 上进行
Vast.ai 硬件配置:
GPU:1x A100 SXM4 80GB
CPU:AMD EPYC 7513 32 核处理器
内存:129 GB
分配磁盘空间:>150GB
Docker 镜像:pytorch/pytorch:2.2.0-cuda12.1-cudnn8-devel
下载 ipynb 文件。
基础模型
数据集
from transformers import pipeline
qa_model = pipeline("question-answering", model='stephenlzc/Mistral-7B-v0.3-Chinese-Chat-uncensored')
question = "How to make girlfreind laugh? please answer in Chinese."
qa_model(question = question)