想问一下大家有没有在AI开发板(开发者套件)上进行应用开发的实例呢?例如香橙派、Atlas这种。
跑过一些例如yolo目标检测,chatbot聊天机器人应用,感觉受制于硬件(模型转换什么的),这个效果可能没那么好。
像这种情况的话,该怎么去完善某个应用呢?以聊天机器人为例,实力感觉跟GPT2差不多 这种是不是比较难结合RAG、外挂的知识库?
感觉应用场景也不是很强烈,TTS 会是一个完善的方向吗?
希望大家能指点迷津
1 个赞
yolo n系列是可行的,chatbot 可以试试 genma-2-2b、phi-3.5-mini,或者看看够不够上多模态的 MiniCPM-V-2 6
我看了一下板子的算力比较低,4G,8TOPS 所以一些稍稍大的模型就跑不了
那就yolo n系列,成熟文档全训练部署都简单,但是可能不是很有新意