openVino +windows+GPU/CPU 运行_2 ( FP16和FP32差距)

继续上一篇帖子。其实我想写的东西实在的是太多了。所以会写的比较慢。

1.关于FP16和FP32.

一直以来我以为FP16只针对神经棒使用，CPU和GPU应该是使用FP32.但是我查了相关信息后，发现FP16在GPU环境下运行更为完美。FP32在GPU上反而更慢。

2.执行结果的差异：

FP16概率有时候会低于FP32.但是概率低到可以忽略不计，我这个是计算人是否蹲下来。上面是FP32的概率，下面是富婆16的概率。

同一个模型，不管在CPU和GPU识别结果是一致的。

可以看到0.713和0.712.这个差距几乎可以忽略。而且很多的识别概率dou

3.关于GPU和CPU的消耗

我之前安装事GPU后面安装的CPU.可以看到他是呼应起来的。GPU用的多CPU用的少。CPU用的多，GPU用的少。

不过相对于tensorflow上英伟达的GPU使用率。实在太低了。英伟达的GPU使用率是98%

4.所使用的时间

不同电脑其实答案是不同的。我只能拿我自己的电脑做总结。大家就不要以我的为参考啦。

       CPU:Intel Core i7-7700T CPU  2.90GHz
       GPU: Intel HD  Graphics 630

       视频总长度 1分52秒 每秒25帧 约2800帧。

       速度：GPU使用FP16模型<CPU使用FP32模型<GPU使用FP32模型.

       每帧耗费时间 ：18ms<20ms<24ms