
AI人工智能(调包侠)速成之路十六(中国象棋AI网络机器人:TensorRT-10模型加速部署实战)
AI模型越来越多,软件功能也越来越丰富,客户端部署小模型应用也是当前的热门。这些功能可以直接使用trtexec.exe命令行实现,如果需要加入模型动态加解密功能需要自己修改编译。trtexec.exe是一个命令行应用程序软件,能够极大的便利我们在 tensorRT 开发过程中的模型编译、精度设置、性能调优等工作。将推理功能单独做成一个dll接口,以后升级TRT的时候只需要更换适配的dll接口文件就行,跟程序逻辑独立开了。最难的代码是从TRT里面抄出来的,有了这个接口GPU编程也变成容易的事情了。








