好的,明天我弄出来,整理一下,争取让大佬一次看懂
佬你好,我想请教两个小问题
1.dify的模型可以接入自定义的api吗,不是兼容openai的,也不兼容通义千问的,看了一下界面的diffy是没有的。请求体和请求的接口想问问diffy可以自定义吗
2.如果想用diffy构建业务代码的知识库,然后用agent根据知识库生成业务代码,这种佬对于构建知识库和agent有什么好的建议不
好好,非常好
是那种丢个论文进去,然后帮忙分析,然后搜索检索文献嘛,我好像没见过这种欸,但是好像可以自己做一个,应该不算难
蛮多一般的agent感觉没遇到需要特别处理长上下文的情况,长上下文主要就是看模型,现在也是研究前沿吧,然后就开发平台里面会有一些处理方法,比如coze里面的长记忆啥的,然后就是对于直接大于llm最大上下文的输入,尝试拆解分开,比如代码就是分次进去,每次分析一部分
第一个可以转成openai格式呀,改代码或者用newapi这种?
想用代码做知识库嘛,这种我感觉要给每段代码说明然后试试手动分段?不然可能效果很差
多agent辩论不难吧,我看很多论文做了这些工作的,我改天帮你找一下,GitHub有几个项目也是
太感谢了,我搞了好久搞不出效果。相关论文我也看了一些,看不出什么名堂
这是方法吗
最近也在学AI Agent,佬友有没有推荐的一些框架?比如想做一些小工具,AgentScope和LangChain以及Coze平台哪个会更合适?之前试了一下Coze,没有自己直接撸码的爽感
tieba 贴吧佬哥?
知识库的效果似乎不够好
我使用腾讯的ima效果很不理想
其实需要LLM的地方是输入端,它能将 口语化或者通俗用语对比对指南的内容,然后索引出相关的内容就行
coze属于都给你包装好了,想要写代码的爽感推荐用用langgraph,比较好上手也可扩展性强
想问一下有没有agent相关学习教材或者网站,感谢
效果不好主要是哪方面的呀
我感觉这个需求就是得用知识库,不然指南内容里面的东西不好准确给出来
嘶,我好像没收藏这类的资源,或许GitHub上关键词agent找找?
佬,现在遇到俩问题解决不了
- llm 输出的 json 包含一段数组,元素有好多,总是多几个或者少几个,怎么约束它;知识库加了json schema min/maxLength 约束,不太好使。这个问题试了几个模型比如 gemini2.0pro 和满血 dsr1 都有
- 本地部署的 r1:70b 模型貌似不太聪明,对于我整理的知识库好像没输入一样,或者是理解不了?知识库大概在 16000 个字符左右
输出的格式不对,类似这个解法
70b应该不至于像几b那么笨吧,检查一下知识库的嵌入和里面的分段看看,分析一下召回率低的问题,一般是分段分的不好导致不好召回,这种就手动分段试试?
可以把素材弄成文本格式用正则自己处理一遍(如果格式有些比较固定的地方),然后可以用小模型做一下分类清洗这些任务,注意规范输出格式,最后生成。做agent哪有不吃toen的
前者目前提示词还在调整;
知识库我并没有分段,因为整个知识库描述的就是这个 agent 要做的事情(数据建模、注释、规则等等),给参数出符合要求的 json 结果。不是 q&a 的场景。现在是把提示词放 system prompt,知识库内容整个的放到 user prompt 了。为什么说是本地 llm 把知识库内容忽略掉了,因为知识库我是加了标题的,提示词也是规定了根据其中内容来分析,而思考链中体现的就是只知晓它要做什么(提示词的内容),对知识库内容并不知晓(自行发挥了),不太清楚这是否是“不太聪明”的体现。
(手机打字好累