如何使用多线程进行技能推理?
问题描述
如果在局域网内对多个rtsp摄像头画面进行推理,每路摄像头开一个线程进行推理,线程内模型加载、推理都是独立的,不会相互影响。如果多路线程合并,如何使用多线程进行技能推理?
解决方法
如果多路线程合并做batch推理,对多路摄像头的推理实时性有一定的加速效果。目前暂时没有提供针对性的模板,C++多线程技能模板,可在HiLens Studio中依据技能模板“Studio_Multi_Thread_CPP”新建技能项目,进行技能开发。
检测到您已登录华为云国际站账号,为了您更好的体验,建议您访问国际站服务网站 https://www.huaweicloud.com/intl/zh-cn
不再显示此消息
如果在局域网内对多个rtsp摄像头画面进行推理,每路摄像头开一个线程进行推理,线程内模型加载、推理都是独立的,不会相互影响。如果多路线程合并,如何使用多线程进行技能推理?
如果多路线程合并做batch推理,对多路摄像头的推理实时性有一定的加速效果。目前暂时没有提供针对性的模板,C++多线程技能模板,可在HiLens Studio中依据技能模板“Studio_Multi_Thread_CPP”新建技能项目,进行技能开发。