未来LLM给出的最优解会不会越来越黑箱？使用者会不会为了最优解而放弃可读性？

RT摸鱼水，最近看牢柯切片说围棋界现在要想打比赛，都得背ai棋谱，即使不知道为啥ai这么下，反正跟着ai下胜率最高，就给人一种人的上限被ai锁死的感觉。那后续随着通用大模型的迭代，其他领域，比如科研、工程等，为了探寻最优解，会不会也走上类似的路子？

现在其实感觉就有点，很多模型都不说人话了

是呀，以前我harness的handoff我还能审阅审阅，现在LLM越来越强大，我把执行层慢慢移交给LLM以后，输出文档越来越看不懂了…

围棋背棋谱是正常行为吧 ，那些古谱本来也不知道当时为什么那么下，而且，围棋到了最最最后，就是个计算量的问题，AI 只是算的比较多而已

不太了解围棋瞎举了例子 就是感觉假如人对ai黑箱的解析速度慢于ai的迭代速度，那会不会后面学术或技术发展都完全依赖ai迭代了

那些规则明确、数据充足、目标单一的领域，非常适合借助庞大的算力去一一试错。天花板的突破，还是要靠人类的好奇心、想象力和质疑精神。

其实我觉得也正常，肯定是以最为高效的方式交流，人看不懂不重要，大模型能看懂就行。。不过还是感觉发展之快

应该不会，目前生成式 AI 依然还是只会生成，不会创造，幻觉成真是需要由人来验证确认的，并且，可解释性 AI 发展的也很快。