使用LLaMA-Factory对LLM大模型进行微调!训练专属于你的模型!
前言 如今也是出现了各种各样的大模型,如果想要针对性的让他扮演某个角色我们通常采用的是给他输入prompt(提示词)。 但是如果遇到一些"思想钢印"较深的大模型,使用提示词洗脑可能效果并不好。 那我们有没有其他方法来解决这个问题? 当然有,那就是自行微调一个大模型! 本篇文章,就带大家走一遍微调大模型的全流程 所用项目 LLaMA-Factory:…
|
194
|
|
|
|
1808 字
|
9 分钟
用最低成本,搭建属于自己的大模型数据库!ollama+graphrag
前言: 随着大模型的不断发展,人们对其要求也在不断提高,过往的通用大模型已经不能满足需求,更需要的是针对某个领域特定的大模型。但是从头开始训练一个模型又会很麻烦,不过,微软给了我们一个思路,那就是graphrag。本篇文件将利用graphrag和ollama搭建一个本地的大模型数据库 服务器的选择 HAI: 因为我们是要在本地运行大模型,首先要选一…
|
242
|
|
|
|
1501 字
|
7 分钟
将所有大模型的api接口转为openai格式!便于你的开发与制作!
前言 openai的chatgpt可以说是第一个开放api接口的大模型,由于出现时间比较早,大部分ai相关的工具也是按照chatgpt的api格式制作的,如果想要换成其他大模型就需要修改解析api的地方,但是这样做就很麻烦。 于是,我们就可以转换思路,将其他大模型的api格式转换为openai的格式 项目地址 https://github.com/…
|
195
|
|
|
|
1345 字
|
6 分钟