add finetune code for qwen2audio

[Lollipop]

感谢开源优秀的工作，近期调研相关内容，顺便增补了训练代码：

使用deepspeed和accelerate对模型进行微调，支持多机多节点、lora
code: https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.sh

Fine-tune the model using DeepSpeed and Accelerate, supporting multi-machine multi-node training and LoRA.
Code: https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.sh

[linjh1118]

感谢您贡献的微调代码，
但是请问
https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.py中的271行代码中
inputs["labels"] = inputs["input_ids"]
是否不太合适？因为instruction应该是只针对assistant部分进行学习。

（之前我基于TRL库实现了Qwen2audio的微调，最近闲下来了，想提一个PR，发现了您已经提了~）

[Lollipop]

感谢您贡献的微调代码， 但是请问 https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.py中的271行代码中 inputs["labels"] = inputs["input_ids"] 是否不太合适？因为instruction应该是只针对assistant部分进行学习。

（之前我基于TRL库实现了Qwen2audio的微调，最近闲下来了，想提一个PR，发现了您已经提了~）

对的，所以加了个个warning～

[bjfk2006]

使用脚本进行全量微调，一块A800的80GB内存OOM，最大显存需要多少？

感谢开源优秀的工作，近期调研相关内容，顺便增补了训练代码：

使用deepspeed和accelerate对模型进行微调，支持多机多节点、lora code: https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.sh

Fine-tune the model using DeepSpeed and Accelerate, supporting multi-machine multi-node training and LoRA. Code: https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.sh

使用了一块A800-80GB进行全量微调，返回OOM错误，请问最大需要多少显存才能实现全量微调？

[hieuhthh]

So can we do LORA, or Full-finetune qwen2-audio now? Any document on how to prepare dataset and train (English)? Thank you!

[YanJiaHuan]

请问有朋友尝试过微调吗，可以告知一下所需的数据量以及计算资源吗？另外有朋友尝试用lora微调成功的吗？感谢告知

[Lollipop]

使用脚本进行全量微调，一块A800的80GB内存OOM，最大显存需要多少？

感谢开源优秀的工作，近期调研相关内容，顺便增补了训练代码：
使用deepspeed和accelerate对模型进行微调，支持多机多节点、lora code: https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.sh
Fine-tune the model using DeepSpeed and Accelerate, supporting multi-machine multi-node training and LoRA. Code: https://github.com/Lollipop/Qwen2-Audio/blob/main/finetune/run.sh

使用了一块A800-80GB进行全量微调，返回OOM错误，请问最大需要多少显存才能实现全量微调？

没有注意过，可以尝试lora

[JeffRody]

lora 微调qwen2-audio 4*A 800 每张卡占用20G-21G 总消耗44G的样子

[ddlBoJack]

请问可以提供一下环境配置吗？