AIGC时代!技术小白路线图+技术水帖!转码农!

感谢大佬分享!

6 Likes

每日一次!
@here

3 Likes

很多很多的问题!

2 Likes

这个艾特here是什么原理

19 Likes

不知道 反正一次就是这个效果
image

3 Likes

10,随机的吗?这个帖子21用户了

3 Likes

我也不太清楚原理!之前看会长用过
可以开一个运营反馈!

4 Likes

好像群艾特,但随机

那还不错!以后这就是我的技术水帖!

这种算是对话类智能体的模式,1.0吧,lobechat/openwebui/librechat都这样,添加大模型的api,安装插件,甚至有rag功能
举个例子,你可以用这种工具把一篇新闻从英文翻译成中文
但是这些工具没办法做复杂的工作,比如coze/dify这类支持工作流的工具可以让你把新闻翻译中文后,搜索网络上的热评,然后生成图片,最后整理成一个新闻稿。

2 Likes

感谢佬的分享!

@here 继续求解答!

1 Like

@here 继续求解答!

1 Like

@here 继续求解答

好东西,感谢佬,以一键三连

1 Like

我再顶 蹲楼下佬的答案!

感谢分享 :bili_064:

其实链接的几个都不需要,技术栈点歪了。贵校信科佬的cs自学指南不错,但是东西太多了,里面AI相关的也不是你的需求,想学基础的话,学学吴恩达的ML和DL课就够了,一周就刷完了,然后学学CS50就可以上手了。

眼瞎了,看成快问快答的tag了,大伙看看就好

简单的科普看这个就行:
Coggle 30 Days of ML(24年1/2月):动手学RAG - 竞赛学习 - Coggle竞赛论坛
动手学RAG:Part1 什么是RAG?_哔哩哔哩_bilibili

看完了上面,再推荐survey,了解一下前沿: [2312.10997] Retrieval-Augmented Generation for Large Language Models: A Survey (arxiv.org),简单看看就行了。

RAG其实没有那么复杂的。唯一难点就是,这种前沿的东西是每天一个样子的,他会把最新研究和老的研究杂糅在一起,会很头痛,想刷最新成就只能去arxiv啃survey。营销号啥的都别看,真想学估摸着得掏个小千报个班上。

然后RAG学习路线:一开始建议跑通一个项目,然后自己搓微调模型、自己微调embedding模型,优化框架,尝试多模态模型,尝试新模块,尝试新技术,比如你说的tag了GraphRAG。排列组合需要折腾个把月。

那我简单介绍的框架吧:
langchain,说人话就是做了几个模块。之前专精RAG的,后来把模块拆分了,models、prompts、indexs、memory、chains、agent这几个模块。
llama_index,类似langchain,慢慢学就了解了。

接着是落地的成品,入门的话推荐langchain-chatchat,前段时间和xinference的接口有问题,调的头痛,最近应该修好了。想直接落地,fastgpt就行。
Langchain-Chatchat
FastGPT
bisheng
闻达
MaxKB
casibase
dify
RAGFlow
anything-llm

除此之外,还需要好显卡,才能跑好一点的大模型。当然接在线模型api也行,就是信息安全问题。虽然Llama.cpp、vllm之类的推理引擎可以把一些任务分给cpu和内存,但是速度可能会降低10倍,所显存还是很重要,推荐24g起步吧,微调推荐48g,小显存也行,就是要折腾。可以考虑两张2080ti 22G,魔改卡,性能不是很强,主要是显存便宜。

看佬友提到了转码农,rag只是llm一个小部分,每个部分都能发survey,甚至还讲不清。llm东西不是一般多,学的很头疼,经验啥的喜欢蜷缩在各大实验室和业界,在“小圈子”流动的。简单了解倒是可以,系统学习要有心理预期。

我眼瞎了,当我是辅助建议吧

顺便写写杂乱经验吧:

llm就是个接话能力很强的东西,堆参数上来产生涌现的结果

目前问题有三个:

  1. 幻觉问题。胡编乱造。
  2. loss in the middle。只记得头尾,忘了中间了
  3. 逆转诅咒。

解决前两个的方案是RAG,第三个目前o1给的解决方案是CoT吧
当然也目前long context llm有可能替代RAG,但是现阶段不太现实

目前感觉llm落地比较好的还是知识库、网络搜索、idea获取和赛博猫娘,其他的个人不太常用

然后数据很重要,而且质量很关键。微调数据、预训练数据、还有dpo之类的数据,参数越多,数据量越多。微调的时候一不小心就过拟合了,蛮头痛的。

16 Likes

再放点自己用的工具,各位佬友轻喷,我也是菜鸡

10 Likes

感谢你的分享!

很需要

1 Like