嗯嗯，确实是这样的，我觉得优势就是cpu，内存占用少，可能比fastapi的并发高（存疑？），但向量库选的qdrant，向量库的原生语言就是rust，用他的rust客户端查、写比其他的会快。
嗯呢，确实是这样的，如果缓存数据能减少30%的数据量，这个价值很大，但是用rust比java究竟能不能提升，或者提升有多少，这块价值就不一定了，不过用上新技术还是爽的，带薪学习了属于是。
有可能的，如果效果好，未来检索这部分也会尝试用rust来做，不过换个角度想，整组只有你会一种语言，然后写了很多核心代码，是不是感觉稳了很多，因为别人不会，维护不了，哈哈哈。
2 个赞
java那一套全都有的。
1 个赞
额，你是否在寻找 RediSearch, MilVus
都要上线用了，还是别再造轮子吧。
1 个赞
请问你这种职业叫什么呀
看了一下 RediSearch，感觉这个检索跟需求不太相关，MilVus 都是老牌向量库了，轮子确实多，不过速度没有 qdrant 快，带薪造轮子多快乐。
配合大模型写代码速度真的超快，周一花了半天写python的接口和模型推理代码，周二一天我就用rust写完接口和模型推理部分的代码，这里面还要验证跟python输出是否一致，还花了2个小时排查rust的cpu推理不及python的问题。
3 个赞
岗位是自然语言处理。
1 个赞
rust的cpu推理不及python，是啥原因
1 个赞
我问了作者（discord口头问的），他说至少齐平的，我猜应该是向量模型里面有lora层，可能rust没有优化到位（抽空写个能复现的issue让作者测试一下），rust用的是ort库，python用的就是onnxruntime库，今天想用GPU测试一下，但才解决服务器gcc版本低，编译不了ort的问题，心累。
后期也一样，参考 Stack Overflow 
其实提升内存的复用，也是一个思路。现在不少以前用Python实现的库改用Rust编写，主要也是为了更好的利用内存资源，也为了更多的使用系统功能。
1 个赞
看到当年的我了，只对新技术充满狂热。
干了十来年终于明白，效率才是最重要的，内存和cpu什么的太廉价了。256G的内存才多少钱，程序员一月的工资多少钱。
而且以你的团队为例，全是java，你一个rust，是打算让其他人歇着你全干么，你不在了这个谁维护
5 个赞
坐等使用效果
2 个赞
是不是一旦社交网络上出现了不利于团结的内容你这边的程序会紧急处理自动封号
gc转非gc还是有点难度的。。
我有个项目用的rust，学了一段时间。我评价是很难，相比Python、go、kotlin等，写起来很痛苦，天天和编译器搏斗。用了不到两个月，那个项目结束就没再碰过了。直到结束，生命周期的概念都没搞明白 
所以说楼主可能自己接了个天坑，团队其他成员又不可能帮他去做，最后进度如果卡他这里大家都在等的话简直不敢想
实践出真知知
你们的Java崽菜不菜？