感谢大佬分享!
每日一次!
@here
很多很多的问题!
这个艾特here是什么原理
不知道 反正一次就是这个效果
10,随机的吗?这个帖子21用户了
我也不太清楚原理!之前看会长用过
可以开一个运营反馈!
好像群艾特,但随机
那还不错!以后这就是我的技术水帖!
这种算是对话类智能体的模式,1.0吧,lobechat/openwebui/librechat都这样,添加大模型的api,安装插件,甚至有rag功能
举个例子,你可以用这种工具把一篇新闻从英文翻译成中文
但是这些工具没办法做复杂的工作,比如coze/dify这类支持工作流的工具可以让你把新闻翻译中文后,搜索网络上的热评,然后生成图片,最后整理成一个新闻稿。
感谢佬的分享!
@here 继续求解答!
@here 继续求解答!
@here 继续求解答
好东西,感谢佬,以一键三连
我再顶 蹲楼下佬的答案!
感谢分享
其实链接的几个都不需要,技术栈点歪了。贵校信科佬的cs自学指南不错,但是东西太多了,里面AI相关的也不是你的需求,想学基础的话,学学吴恩达的ML和DL课就够了,一周就刷完了,然后学学CS50就可以上手了。
眼瞎了,看成快问快答的tag了,大伙看看就好
简单的科普看这个就行:
Coggle 30 Days of ML(24年1/2月):动手学RAG - 竞赛学习 - Coggle竞赛论坛
动手学RAG:Part1 什么是RAG?_哔哩哔哩_bilibili
看完了上面,再推荐survey,了解一下前沿: [2312.10997] Retrieval-Augmented Generation for Large Language Models: A Survey (arxiv.org),简单看看就行了。
RAG其实没有那么复杂的。唯一难点就是,这种前沿的东西是每天一个样子的,他会把最新研究和老的研究杂糅在一起,会很头痛,想刷最新成就只能去arxiv啃survey。营销号啥的都别看,真想学估摸着得掏个小千报个班上。
然后RAG学习路线:一开始建议跑通一个项目,然后自己搓微调模型、自己微调embedding模型,优化框架,尝试多模态模型,尝试新模块,尝试新技术,比如你说的tag了GraphRAG。排列组合需要折腾个把月。
那我简单介绍的框架吧:
langchain,说人话就是做了几个模块。之前专精RAG的,后来把模块拆分了,models、prompts、indexs、memory、chains、agent这几个模块。
llama_index,类似langchain,慢慢学就了解了。
接着是落地的成品,入门的话推荐langchain-chatchat,前段时间和xinference的接口有问题,调的头痛,最近应该修好了。想直接落地,fastgpt就行。
Langchain-Chatchat
FastGPT
bisheng
闻达
MaxKB
casibase
dify
RAGFlow
anything-llm
除此之外,还需要好显卡,才能跑好一点的大模型。当然接在线模型api也行,就是信息安全问题。虽然Llama.cpp、vllm之类的推理引擎可以把一些任务分给cpu和内存,但是速度可能会降低10倍,所显存还是很重要,推荐24g起步吧,微调推荐48g,小显存也行,就是要折腾。可以考虑两张2080ti 22G,魔改卡,性能不是很强,主要是显存便宜。
看佬友提到了转码农,rag只是llm一个小部分,每个部分都能发survey,甚至还讲不清。llm东西不是一般多,学的很头疼,经验啥的喜欢蜷缩在各大实验室和业界,在“小圈子”流动的。简单了解倒是可以,系统学习要有心理预期。
我眼瞎了,当我是辅助建议吧
顺便写写杂乱经验吧:
llm就是个接话能力很强的东西,堆参数上来产生涌现的结果
目前问题有三个:
- 幻觉问题。胡编乱造。
- loss in the middle。只记得头尾,忘了中间了
- 逆转诅咒。
解决前两个的方案是RAG,第三个目前o1给的解决方案是CoT吧
当然也目前long context llm有可能替代RAG,但是现阶段不太现实
目前感觉llm落地比较好的还是知识库、网络搜索、idea获取和赛博猫娘,其他的个人不太常用
然后数据很重要,而且质量很关键。微调数据、预训练数据、还有dpo之类的数据,参数越多,数据量越多。微调的时候一不小心就过拟合了,蛮头痛的。
再放点自己用的工具,各位佬友轻喷,我也是菜鸡
- AMiner - AI赋能科技情报挖掘-学术搜索-论文检索-论文专利-文献追踪-学者画像
- 《动手学深度学习》 — 动手学深度学习 2.0.0 documentation (d2l.ai)
- WangHuiNEU/llm: The Roadmap for LLMs (github.com)
- 大语言模型综述 (ruc.edu.cn)
- 百科 / HyperAI超神经
- LLM Visualization (bbycroft.net)
- ChatGPT 指令大全|ExplainThis
- PlexPt/awesome-chatgpt-prompts-zh: ChatGPT 中文调教指南。各种场景使用指南。学习怎么让它听你的话。 (github.com)
- The Algorithms GitHub最大的开源算法库
- Awesome AI Tools 收藏AI相关的实用工具
- m-a-p/COIG-CQIA · 弱智吧语料
- ChatGPT 中文指南
,ChatGPT 中文调教指南,指令指南,应用开发指南,精选资源清单,更好的使用 chatGPT 让你的生产力 up up up!
(github.com)
- Avik-Jain/100-Days-Of-ML-Code: 100 Days of ML Coding (github.com)
感谢你的分享!
很需要