各位我有这样一个需求不知道能不能实现,类似训练一个私有模型然后公开给人用

我的工作主要是用某款软件进行设备调试,软件厂家提供了非常多的培训资料,大部分是以视频和内部论坛的帖子为主,而且还会定期对我们代理商的调试人员进行技能考核,就是说他们对技能培训这块很上心,然后我想让他们把学习资料能更多的整理成文本或pdf文档,这样可以喂给AI让我们自己去训练专属的模型(关于这个功能能不能实现我也还没玩明白,智谱的智能体好像就是吧?),但是考虑到他们对自己学习资料比较严格的保护,提出这样的建议的话可能会有反效果,想着不知道能不能通过这样来实现,就是厂家自己用大厂的AI去训练一个私有模型,然后把模型公开出来给我们调试人员只能使用不能训练,目前有办法能做到这种事吗?

4 个赞

https://platform.openai.com/docs/guides/fine-tuning

3 个赞

插眼

开源LLM微调

听上去是知识库就能解决的问题

1 个赞

小容量的就知识库,否则自己微调,都给你模型和程序私有部署了,哪里有什么只能使用不能训练的说法

可以实现,成本很高。就这样一个需求,不值得

私有模型+知识库,架设服务器开放给培训人员

1 个赞

可以根据开源LLM 训练(finetune)一个垂直领域的模型
也可以利用RAG

现在的问题,该如何平衡,什么情况下选择哪个更合适?

现在网上有基于法律的,医学的,中医的各种垂直领域模型。

2 个赞

如果所有人都能训练,同样的功能需求出现其他公司竞品的方案,那他们肯定不同意了,就怕这样的

你都能私有化部署了

只开放api调用,不泄露训练好的模型,别人最多是知识库+调用,理论上不会比你训练好的模型更强更专,但是被套提示词和被套qa数据是难免的,像OAI那样的多少模型在套它的数据呢,尽量做点提示词防爆破之类的工作就好

2 个赞

没错

From 快问快答 to 开发调优