grpc
文章平均质量分 66
Hi20240217
每天进步一点点
展开
-
ffmpeg开发异步AI推理Filter
本文旨在阐述如何开发一个FFmpeg Filter,该模块利用gRPC异步通信机制调用远程视频处理服务。这一设计实现了对ffmpeg filter功能的精简化整合,仅需通过配置ffmpeg命令行参数,即可实现不同算法间的灵活切换与串联。得益于此,ffmpeg无需频繁修改,同时服务端可采用任意编程语言开发,从而显著提升了整体的开发效率和部署便利性。此方案尤其适用于帧率相对较低、推理性能瓶颈明显且对延迟要求不苛刻的应用场景。原创 2024-03-21 10:37:21 · 1127 阅读 · 1 评论 -
grpc python实现异步调用(不用grpc异步接口)
grpc同步调用更简单,但是在处理复杂任务时,会导致请求阻塞,影响吞吐。当然,可以采用异步的方式解决,本方采用另一种方式:服务端收到请求后放入请求队列,由独立的线程处理各个请求,之后调用客户端的服务,回复处理结果。即客户端也是服务端。原创 2024-03-18 22:02:18 · 573 阅读 · 1 评论 -
基于gRPC实现的异步推理框架
该项目是基于gRPC实现的异步推理框架。服务端采用python实现,客户端封装了grpc,对外仅提供推理相关的三个c接口,可用于跨进程推理。原创 2024-03-19 16:05:14 · 553 阅读 · 1 评论