领导想利用DeepSeek的开源搞出个自己的大语言模型

在某制造业国企当程序员,工作内容是C#/C++工业控制系统二次开发,跟AI几乎不搭边。领导看到DeepSeek火了就经典拍脑门想一出是一出 :sweat_smile:
我一开始以为他开玩笑的,没想到今天又问我能不能搞:sob:
我该怎么表达我搞不来这东西呢,要钱没钱要人没人的,领导对计算机技术了解的也不深

69 个赞

要钱没钱要人没人,部署一个1.5b给他玩玩好了

80 个赞

领导只需要提提自己的想法就好了,手下的人要考虑的就多了 :tieba_022:

32 个赞

可以部署一个本地运行的模型啊,自己稍微微调一些关键词 先买一台服务器吧

11 个赞

微调吧tieba_087

4 个赞

继续蒸馏

6 个赞

部署个开源的 然后微调,套壳嘎嘎的

3 个赞

列清单给领导,让他知难而退,以671B为主

24 个赞

套壳微调…?

3 个赞

我觉得你领导的意思就是本地部署一个,然后有需要的话接个RAG,让内部使用。这个实现难度应该不大,属于容易出彩又好干的活。

16 个赞

我看这个很行 :rofl:

2 个赞

你告诉你老板 得加钱! :lark_156:

3 个赞

部署大模型就行

2 个赞

对吧,没钱没人,就一个想法甚至连这玩意儿是啥都不清楚,那你随便部署一个,就说是微调的也看不出来,嫌弃了就实话说要加钱

1 个赞

这个他已经弄了,他喊我的同事给别的领导本地部署,我估摸办公电脑的配置1.5B可能都够呛 :grimacing:,我同事估计也很难办;
然后他又找我问能不能我们自己也搞一个自己的大模型,当场我就流汗了

1 个赞

俺们也是,非要往ai上靠,没什么大的效果但是客户成本暴增,我感觉没几个客户想要用

2 个赞

:dog:671B确实知难而退

1 个赞

和领导说说模型大小,让领导批经费呀,机器买起来搞

1 个赞

小同志,有困难嘛你要学会克服,有功劳给领导就好了

18 个赞

我们也是,之前写了一个嵌在Django里调别家大模型API来问答的网页助手,写出来都没人用,纯纯的面子工程

4 个赞