Openvino IGPU(GPU) 读取模型(加载时间过长)中的读取缓存加速方式

cl_cache的定位还未设定:

cl_cache 这是一种机制,用于缓存应用程序以文本形式提供的 OpenCL 内核的二进制表示。通过存储二进制表示,只需要第一次编译,这提高了性能。

在工作目录中,手动创建 cl 缓存目录。驱动程序将使用这个目录来存储编译内核的二进制表示形式。注意: 这将适用于所有支持的操作系统。

解决办法是 在~/.bashrc 文末添加缓存模型缓存路径即可

更改 bashrc

gedit ~/.bashrc

末尾加入:
cl_cache_dir = 模型缓存路径

export cl_cache_dir=/home/user/Desktop/cl_cache_place

最后

source  ~/.bashrc

再次运行代码之后,就会发现自己创建二进制缓存目录里面。在这里插入图片描述
接下来若 ir 模型的位置不变的话调用速度会有大幅度的提升

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值