人工智能大模型最大的痛点

搞七捻三
1

大模型最大的痛点是什么
我先来：在精确度要求较高的情况下，批量跑出来的结果，我都不敢相信，让我怎么用他嘛

2 Likes
2

在开启联网的模式下，可能联网的结果都是错的，还每次返回的结果都有可能不一致

1 Like
3

要保有正确的期待值，用大模型不是要直接得到正确的结果，只是辅助，提供效率而已，人工参与是必要的

7 Likes
4

跑批的情况下，人工只能抽检，没法保证其准确性，那他怎么辅助我，是不是没法用大模型了

5

楼主的意思就是大模型的不稳定性导致无法用于大规模工业生产，批间稳定性不行

但要想成为生产力就必须用于大规模生产，所以有矛盾

3 Likes
6

Grogu佬说的很对，你应该用的少，大模型只能协助人，加快人的效率，任何流程都要人来做决策，

2 Likes
7

需要做一套检验/评价手段（可以使用大模型），当然，依然还是辅助作用，最终还是需要人工参与

1 Like
8

精确度要求高的，应该用程序处理，而不是永远存在潜在幻觉的人工智能，毕竟是基于概率和预测的机制

1 Like
9

是的，通过检验/评价，可以提升准确率，这个过程还得人来弄，感觉像是换了一个工作，但是本质没啥差别

10

说的很对，就是这个意思

11

不能背黑锅.不能负法律责任.:tieba_003:

1 Like
12

咋说呢，就是不想人来干，也能容忍一些精度，但是他的错误率不太好评估，除非用大量的人工检查来评估出来，但是过一段时间，他的错误率可能会动态变化，这个就很烦

13

使用大模型，初期是一个很痛苦漫长的过程，需要反复磨合，人为参与会很多，而且，像前面帖子说的，要有正确的期待值，不要指望它能直接给你完全正确的结果，最终磨合完的，也只是一套辅助手段

1 Like
14

这样的话看你的需求其实也可以考虑强化学习，但是硬件成本就比较高了，也要花时间来积累样本、校验结果

1 Like
15

大模型只是工具，不能过分依赖也不可盲目相信

1 Like
16

是的，公司内部也有人分享了，不能把人工智能当成傻逼，要相信他，他肯定干的比你好 :joy:

1 Like
17

我正好做了对于精度要求高的项目，我有资格你来回答的问题。
要求精度高，首先你要大模型有更多限制，一直交互限制到你能接受到的下限，这样产出的内容才是可控的。我烧了不少tokens，基本上可以达到人工的80%，错误率也又有很强的控制。

18

是的。。大模型这个工具发展的太快，想要很好的结果需要疯狂的试错，试验，来积累样本数据

1 Like
19

其实可以啊，对结果给一些评估方法，100抽卡，只取质量最好的80抽。

二次审核走代码自动流程，是最好的办法。

20

有一个痛点是数数，比如给它一篇千字文章，让其数汉字或者其它字符的个数