一键复制抱抱脸空间之embeddings(兼容openai可跑ms graphrag)

例如,微软graphrag 的 settings.yaml emddings部分设成:

...
embeddings:
  ## parallelization: override the global parallelization settings for embeddings
  async_mode: threaded # or asyncio
  llm:
    api_key: 你的HF_TOKEN
    type: openai_embedding # or azure_openai_embedding
    model: any
    api_base: https://mikeee-emb384-oai.hf.space/v1
...

不过跑中文还是很费 llm 令牌,openrouter 上 gpt-4o-mini(比3.5-turbo都便宜,4o-mini $0.15 $0.6,3.5-turbo $0.5 $1.5)5刀全部用光了红楼梦还没跑完

7 个赞

感谢分享

感谢!好用吗

觉得还不错,看应用场景吧。速度不是问题的话也可以跑维度更高的模型或BAAI/infloat 模型, 只需该模型名字。应该也可以折腾他家的免费 共享gpu 提速。

From #develop:ai to 资源荟萃

1 个赞