最近是在搞这个联网搜索。其实一开始我是不太看好的,因为移动端资源(硬件)有限,很难兼顾检索数据量和检索时间。
一开始整的确实拉,因为我想加速检索,所以就只检索了 3-5 个网页。但是这拉的是在没法用,于是我一怒之下不限制检索数量了:给定 2s 时间,能检索多少网页就检索多少网页。没想到,大力还出奇迹了:
当然了,默认还是限制只检索前 64 个网页(如果你的设备性能够高,可以调到 4096)。
效果嘛,不能说很好。但是至少有效果了,而且响应时间还不错。
现在还在优化性能,唉。
最近是在搞这个联网搜索。其实一开始我是不太看好的,因为移动端资源(硬件)有限,很难兼顾检索数据量和检索时间。
一开始整的确实拉,因为我想加速检索,所以就只检索了 3-5 个网页。但是这拉的是在没法用,于是我一怒之下不限制检索数量了:给定 2s 时间,能检索多少网页就检索多少网页。没想到,大力还出奇迹了:
当然了,默认还是限制只检索前 64 个网页(如果你的设备性能够高,可以调到 4096)。
效果嘛,不能说很好。但是至少有效果了,而且响应时间还不错。
现在还在优化性能,唉。
慢慢等他越来越好用
大佬太强了!
大佬太强了!
大佬tql
冲冲冲啊
大佬太强辣
无敌了,这个是自己搭建搜索api吗?
围观大佬,太强了
围观大佬~
哈哈哈 不错 不错
以前人均一个AI站,马上要人均一个搜索站了
挺好的,不过现在的问题是无法像OpenbWebUI那样引用搜索结果
太强了佬,安卓软件感觉还是佬的最方便
大佬能加一个显示对话上下文token数量的功能吗
不错 刚刚升级了一下
只有安卓版本吗
还有LINUX版本
大佬太强了