AI开发板应用思考

想问一下大家有没有在AI开发板(开发者套件)上进行应用开发的实例呢?例如香橙派、Atlas这种。
跑过一些例如yolo目标检测,chatbot聊天机器人应用,感觉受制于硬件(模型转换什么的),这个效果可能没那么好。
像这种情况的话,该怎么去完善某个应用呢?以聊天机器人为例,实力感觉跟GPT2差不多 :joy:这种是不是比较难结合RAG、外挂的知识库?
感觉应用场景也不是很强烈,TTS 会是一个完善的方向吗?
希望大家能指点迷津 :pray:

1 个赞

yolo n系列是可行的,chatbot 可以试试 genma-2-2bphi-3.5-mini,或者看看够不够上多模态的 MiniCPM-V-2 6

我看了一下板子的算力比较低,4G,8TOPS :joy: 所以一些稍稍大的模型就跑不了

那就yolo n系列,成熟文档全训练部署都简单,但是可能不是很有新意

From 快问快答 to 开发调优