yuyu0.0
(白羊)
1
继 【n8n系列教程3】Gemini Pro自由!实现真正的轮询API Key,多账户轮询,高并发 进行简单补充:
若不指定Gemini审核的力度的话,就会导致一些莫名奇妙的截断(即使问的问题很正常)。
并且截断不会报错,仅回复为空(非流式) 如下图:
继以上教程,添加四个类别的审核强度均为 BLOCK_NONE,官方解释这个力度为允许所有内容通过。
截断出现访问下一个gemini key处理:
最后再补充一些不重要的细节:
使用n8n可以轻松的添加错误重试机制和错误处理机制
出现意外的错误将重试3次,仍错误,将会调用下一个Gemini Key
对比NEW API:NEW API的Gemini渠道仍会出现截断。且截断不会报错,NEW API也不会换渠道重试。
修改后的工作流如下:
Gemini__.zip (14.1 KB)
35 个赞
问题是我真的尝试一些明显NSFW的prompt,即使把所有的filter全关了它还是截断回复(啥也不回)。看来终究还是有一些限制而不像grok deepseek mistral那样
yuyu0.0
(白羊)
12
但我测试一些明显NSFW的prompt倒是并没有遇到截断,只是表明拒绝回答而已
Qiner
(林黛玉倒拔垂杨柳)
13
两个审核机制,一个是大模型自身的约束 (可以用 Prompt 破限的那种),一个是接口监视审核,后者检测到敏感词就会把对话砍了跟以前 Bing 那样。
直接被模型拒绝的 NSFW 返回的内容反而是符合接口审核的要求了就不会截断了。
wisdgod
(知道)
15
反驳:new-api默认都是BLOCK_NONE,除非修改了环境变量GEMINI_SAFETY_SETTING
common/constants.go中存在var GeminiSafetySetting = GetEnvOrDefaultString(“GEMINI_SAFETY_SETTING”, “BLOCK_NONE”)
relay/channel/gemini/relay-gemini.go也确实使用了该值。
从One API README第21项也可得知。
我不是AI
yuyu0.0
(白羊)
16
抱歉,是我草率了
但我并没有修改相关环境变量,且体验如下,跟我在n8n中没指定强度体验一样:
说明:我gemini主要用于生成提示词和一些正常问题。
我在fastgpt里加了条回复为空时的错误输出。我主要是通过用户反馈知道一些正常的提示词也遭到截断,改成n8n后再没遇到过(就指定了下gemini审核强度,后面的一些截断错误处理的功能是想着丰富帖子内容,后加的)。
嗯…不管怎样,就gemini我还是使用n8n。
帖子现已修正
1 个赞