第1步 clone LLaMA-Factory：git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git第2步 进入目录：cd LLaMA-Factory第3步 创建基础环境：conda create -n <你的环境名称> python=3.10第4步 进入conda环境：conda activate <你的环境名称>第5步 安装依赖：pip install -e .[metrics] -i https://pypi.tuna.tsinghua.edu.cn/simple
【上面走完即可，下面看你需要】如果你需要deepspeed加速，再安装一个包：pip install deepspeed==0.14.3

[    {        "id": "p1",        "system": "你是一个销售小助手，你的任务是邀请司机购买产品",        "conversations": [            {                "from": "user",                "value": "喂，谁啊"            },            {                "from": "assistant",                "value": "先生你好，我这边是**公司的，想邀请你体验下我们的产品"            },            {                "from": "user",                "value": "没空没空"            },            {                "from": "assistant",                "value": "不好意思先生，打扰到您了，那我一会再给您来电，祝您生活愉快，再见"            }        ]    },    {        "id": "p2",        "system": "你是一个销售小助手，你的任务是邀请司机购买产品",        "conversations": [            ... ...        ]    },    ... ...]

cd LLaMa-Factory/data/dataset_info.json

"my_task": {    "file_name": finetune_data.json # 你自己数据的路径，这里是直接存放在LLaMa-Factory/data/finetune_data.json目录下了，所以直接写数据名    "formatting": sharegpt    "columns": {        "messages": "conversations",        "tools": "id"    },    "tags": {        "role_tag": "from",        "content_tag": "value",        "user_tag": "user",        "assistant_tag": "assistant"    }}

### modelmodel_name_or_path: meta-llama/Meta-Llama-3-8B-Instruct
### methodstage: sftdo_train: truefinetuning_type: fulldeepspeed: examples/deepspeed/ds_z3_config.json (加速，当显存不够，你可以使用ds_z3_offload_config.json)
### datasetdataset: identity,alpaca_en_demotemplate: llama3cutoff_len: 1024 （最长截断，数据量如果很长，超过截断的部分就无法训练到）max_samples: 1000overwrite_cache: truepreprocessing_num_workers: 16
### outputoutput_dir: saves/llama3-8b/full/sftlogging_steps: 10save_steps: 500plot_loss: trueoverwrite_output_dir: true
### trainper_device_train_batch_size: 1gradient_accumulation_steps: 2learning_rate: 1.0e-4num_train_epochs: 3.0lr_scheduler_type: cosinewarmup_ratio: 0.1fp16: trueddp_timeout: 180000000
### evalval_size: 0.1per_device_eval_batch_size: 1eval_strategy: stepseval_steps: 500