今天分享技术文章。你或许听过很多大模型知识，却未亲自用或微调过大模型。

前排提示，文末有大模型AGI-CSDN独家资料包！

本文手把手带你从零微调大模型。大模型微调复杂且技术难度高，本文仅带你走一遍微调过程，不涉过多技术细节，希望助你了解微调流程 。  

一、微调简介

微调大模型需高电脑配置，如 GPU 环境，即在预训练基础上对大模型小训练。

无需担心，本文用阿里魔塔社区集成环境，无需自备电脑配置环境，有浏览器即可完成。

本次微调零一万物的 Yi 开源大语言模型，微调其他大模型过程和原理类似。话不多说，直接开始。

二、微调正文

1. 账号和环境准备

首先你需要注册和登录魔搭的账号：https://modelscope.cn/home

注册完成后，登录这个模型网址：

https://www.modelscope.cn/models/01ai/Yi-1.5-6B

然后按照下面的箭头操作。

选择完方式二：GPU环境后，点击“启动”。

启动约 2 分钟，GPU 环境启动好后点击"查看NoteBook"进入。魔塔社区有 JupyterLab 功能，进入后找 Notebook 标签新建 Notebook（也可在 terminal 执行）。 

如下箭头所示，点击即可创建一个新的 Notebook 页面。

增添一个代码块，并且执行以下命令（点击左侧的运行按钮运行该代码块，下同，这一步是安装依赖库）。

!pip3 install --upgrade pip

!pip3 install bitsandbytes>=0.39.0

拉取 LLaMA-Factory，过程大约需要几分钟

!git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git

接下来去 Launcher > Terminal 执行（按图片箭头指示）。安装依赖软件，耗时较长。 

# ⚠️下面两行命令在刚启动的Terminal中执行⚠️

cd LLaMA-Factory

pip3 install -e ".[torch,metrics]"

等以上所有步骤完成后，再进行下面的操作。

2. 下载模型

零一万物的Yi开源大语言模型权重可在HuggingFace和ModelScope找到，我选从ModelScope下载。模型下载需时，选最小的Yi-1.5-6B-chat模型实验。 

模型的说明在这里：

https://www.modelscope.cn/models/01ai/Yi-1.5-6B-Chat/summary

Yi-1.5-6B-chat模型大小大约12G，下载大约需要10分钟（取决于网速）。

接下来，你通过下面的命令就可以在 notebook 里执行下载（在 terminal也一样，如果需要在terminal执行需要去掉前面的!）。

!git clone https://www.modelscope.cn/01ai/Yi-1.5-6B-Chat.git

这一步，耐心等待下载完成即可。

3. 微调Yi模型实战

等以上所有步骤完成后，准备工作就做好了，现在可以开始准备微调了。

这里选择llama_factory。LLaMA Factory是一款开源低代码大模型微调框架，集成了业界广泛使用的微调技术。

4. 开始微调

a. 创建微调训练相关的配置文件

在左侧的文件列表，Llama-Factory的文件夹里，打开examples\train_qlora（注意不是 train_lora）下提供的llama3_lora_sft_awq.yaml，复制一份并重命名为yi_lora_sft_bitsandbytes.yaml。

这个文件里面写着和微调相关的关键参数。

打开这个文件，将第一行model_name_or_path更改为你下载模型的位置。

### model

model_name_or_path: <你下载的模型位置，不要带括号，比如我写了../Yi-1.5-6B-Chat>

同样修改其他行的内容，可以逐行对比一下，有不一致或缺少的就添加一下。

从上面的配置文件中可以看到，本次微调的数据集是 identity。

微调数据集为“自我认知”，问“你好你是谁”，模型会答我叫name由author开发。若将数据集改成自己名字，就能微调自己的大模型，可把identity.json里的{{name}}字段换成自己名字来实现。 

保存刚才对于 yi_lora_sft_bitsandbytes.yaml 文件的更改，回到终端terminal。

在 LLaMA-Factory 目录下，输入以下命令启动微调脚本(大概需要10分钟)

llamafactory-cli train examples/train_qlora/yi_lora_sft_bitsandbytes.yaml

看到进度条就是开始微调了。

运行过程大概10分钟，看到下面这个界面时，微调过程就结束了。

5. 推理测试

微调后的模型有何不同？在此加载微调模型推理，测试微调前后变化。 

参考Llama-Factory文件夹中，examples\inference下提供的llama3_lora_sft.yaml，复制一份，并重命名为 yi_lora_sft.yaml

将内容更改为，并且保存_（一定记得保存）_。

回到刚刚结束微调的终端Terminal，运行下面的推理命令(同样在Llama-Factory目录下运行）。

llamafactory-cli chat examples/inference/yi_lora_sft.yaml

稍等模型加载后即可聊天。模型自我身份认知已成功更改，符合数据集规定且保持通用对话能力。与未微调前有何差别？重复步骤，复制llama3.yaml重命名为yi.yaml，改内容后保存（务必）。 

model_name_or_path: ../Yi-1.5-6B-Chat

template: chatml

回到终端Terminal，运行下面的推理命令：

llamafactory-cli chat examples/inference/yi.yaml

可以提问和刚才同样的问题，看到模型的原始回答。

基于本实验完成简单微调，走了一遍模型微调过程，挺简单吧？

读者福利：倘若大家对大模型感兴趣，那么这套大模型学习资料一定对你有用

针对0基础小白：

如果你是零基础小白，快速入门大模型是可行的。
大模型学习流程较短，学习内容全面，需要理论与实践结合
学习计划和方向能根据资料进行归纳总结

包括：大模型学习线路汇总、学习阶段，大模型实战案例，大模型学习视频，人工智能、机器学习、大模型书籍PDF。带你从零基础系统性的学好大模型！

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓

👉AI大模型学习路线汇总👈

大模型学习路线图，整体分为7个大的阶段：（全套教程文末领取哈）

第一阶段： 从大模型系统设计入手，讲解大模型的主要方法；

第二阶段： 在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；

第三阶段： 大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；

第四阶段： 大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；

第五阶段： 大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；

第六阶段： 以SD多模态大模型为主，搭建了文生图小程序案例；

第七阶段： 以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。

👉大模型实战案例👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

👉大模型视频和PDF合集👈

这里我们能提供零基础学习书籍和视频。作为最快捷也是最有效的方式之一，跟着老师的思路，由浅入深，从理论到实操，其实大模型并不难。

👉学会后的收获：👈

• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习框架等技术，这些技术的掌握可以提高程序员的编码能力和分析能力，让程序员更加熟练地编写高质量的代码。

👉获取方式：

😝有需要的小伙伴，可以保存图片到wx扫描二v码免费领取【保证100%免费】🆓