Datawhale AMD ROCm
#Datawhale #AMDev
本次任务主要是微调Gemma 4模型,使其可以在emotion数据集上经过微调会对这部分数据会有更好的表现,变成“专家”。

这部分定义Lora模块,做好对模型微调的准备
请添加图片描述
定义Lora后,使用SFT训练器,对大模型进行微调
请添加图片描述

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐