AI 搜索应该主动建造“信息茧房”吗?

最近看到两篇博客:
第一篇:提出AI的三层记忆,第三层叫“哈勃半径”——AI能感知到的“信息宇宙边界”
第二篇:把这个概念接入了Notion AI,尝试落地

简单来说:作者想让用户给AI划一个“认知视界”,AI只在这个范围内检索和回答,超出范围的就承认不知道。作者称它为“哈勃半径”:先把自己的信息源筛选一遍(RSS、关注的账号、收藏的文章),让AI只在我认可的范围内工作,替我维护一个私有的“认知宇宙”。

作者的意思是这样能够让搜索也更加的上下文限定,其实某种意义上也可以看作一种针对AI的信息茧房?或者说给AI的信息本身就应该让它更少启发式更多上下文限定?佬们有什么想法吗?

感觉这种应该叫自主维护的知识库 :distorted_face:看起来像是对抗幻觉和提高搜索质量的方法,但有点费时费力

不过现在的一般的知识库没有那种订阅rss之类的功能?

感觉表达的不能说是信息茧房的意思,是一种harness行为约束,给它当前最需要的信息上下文以及约束其不能编造信息,信息茧房形容的是一种信息困境似乎,没有表达上下文信息相关性的意思

emm对, 但是我之所以说它是信息茧房是因为它的source是我们规定的, 所以我们其实是主动给agent切断了信息通路? 这篇文章对我来说主要困扰在于我觉得它有一定道理(搜索也应该是带有个人context的),但是又觉得好像和tavily/exa这些相比反而减少了可获得的信息?

我觉得可以增加可以获取的信息,信息源可以不局限,但是信息源庞大了,关键难点在于如何建立优秀的筛选机制去除噪音,如何判断哪些信息对当前要解决的问题有意义,即使有意义还有是不是需要去重,即使是各种信息源搜集筛选出来与当前问题相关的信息还可能互相重复,最后还不能撑爆上下文,或许还要压缩或者分批处理,其实信息获取渠道是可以扩展的,但是有些时候可能意思是说高质量的信息源可能可以更高效精准的定位答案,包括我们现在人处于海量碎片化信息,我们焦虑自己困在信息茧房,觉得自己是不是信息源不够多,想不停浏览更多害怕错过很多信息,但是实际上可能真正对我们个人有用能帮助我们当下的信息就那么几个,很多都是噪音了。但是可能不同的问题不一样,有的问题不是一次性解决就完事了,需要持续优化,那就需要持续搜集相关信息,积累特定知识库了,那就可以持续扩展信息源,广度优先搜索。