在某制造业国企当程序员,工作内容是C#/C++工业控制系统二次开发,跟AI几乎不搭边。领导看到DeepSeek火了就经典拍脑门想一出是一出
我一开始以为他开玩笑的,没想到今天又问我能不能搞
我该怎么表达我搞不来这东西呢,要钱没钱要人没人的,领导对计算机技术了解的也不深
69 个赞
要钱没钱要人没人,部署一个1.5b给他玩玩好了
80 个赞
领导只需要提提自己的想法就好了,手下的人要考虑的就多了
32 个赞
可以部署一个本地运行的模型啊,自己稍微微调一些关键词 先买一台服务器吧
11 个赞
微调吧
4 个赞
继续蒸馏
6 个赞
部署个开源的 然后微调,套壳嘎嘎的
3 个赞
列清单给领导,让他知难而退,以671B为主
24 个赞
套壳微调…?
3 个赞
我觉得你领导的意思就是本地部署一个,然后有需要的话接个RAG,让内部使用。这个实现难度应该不大,属于容易出彩又好干的活。
16 个赞
我看这个很行
2 个赞
你告诉你老板 得加钱!
3 个赞
部署大模型就行
2 个赞
对吧,没钱没人,就一个想法甚至连这玩意儿是啥都不清楚,那你随便部署一个,就说是微调的也看不出来,嫌弃了就实话说要加钱
1 个赞
这个他已经弄了,他喊我的同事给别的领导本地部署,我估摸办公电脑的配置1.5B可能都够呛 ,我同事估计也很难办;
然后他又找我问能不能我们自己也搞一个自己的大模型,当场我就流汗了
1 个赞
俺们也是,非要往ai上靠,没什么大的效果但是客户成本暴增,我感觉没几个客户想要用
2 个赞
671B确实知难而退
1 个赞
和领导说说模型大小,让领导批经费呀,机器买起来搞
1 个赞
小同志,有困难嘛你要学会克服,有功劳给领导就好了
18 个赞
我们也是,之前写了一个嵌在Django里调别家大模型API来问答的网页助手,写出来都没人用,纯纯的面子工程
4 个赞