使用paddlehub制作酷炫视频

前言

该项目主要是为了好玩,花里呼哨,功能如下

  • 采用了两个hub模型pose_resnet50_mpiistylepro_artistic
  • 可以用脚本爬取相应的b站视频作为视频素材(不推荐)
  • 采用opencv将视频分割成每帧的图片好用来喂模型
  • 调用了百度的tts语音将文本转为语音
  • 调用图像剪辑库,将语音和视频融合,并且可以任意分割
    最后结果视频是bomb_video.mp4
    挺有意思的可以下载看看
    视频地址

项目的Al studio 链接如下项目链接

设计由衷

对人形机器人比较感兴趣,特别是对人形机器人的集群,位姿变换有强烈的兴趣拉,一直在忙其他的事情没有机会学习,借这个机会算是入个门。

paddlehub的人体关键点模型

详细可以参考官方文档pose_resnet50_mpii
有几个地方是值得注意的:

  • 和其他的hub模型相比,该模型的输入参数甚少
  • 输出数据的格式略有瑕疵,如:upper_neckhead_top 两个参数,单词间以空格为链接符了

人体关键点之间的联系

参考该博客Python+OpenCV+OpenPose实现人体姿态估计 找到了点与点之间的关系,然后用cv2 将该部分连线起来
正常操作后的动图:
在这里插入图片描述

由于某个老哥是公众人物,博主这样搞别人有点小慌,
就用cv新建img 在划线,操作后的动图如下:
在这里插入图片描述

给视频融合语音

博主曾做过一个语音聊天机器人,完成了awake,asr,nlu,tts的部分。哈哈哈,可以小小的推荐一下小刘同学。博主,给这个机器人写了个插件中心。现在有语音交互,汉译英,发送邮件,爬取网易云音乐的功能。写的很粗糙,很多代码和文档都没有整理。当然,这个demo里面,我们只要用得上tts,图方便,直接用百度的tts python库将文本文件转为mp3文件

用moveipy 库融合音频与视频

具体可以看下博主的项目代码。
更详细的信息可以参考官网链接

为啥么用风格迁移去融合视频

主要还是胆小怕事啊,总不能给别人染个绿毛了。当然,个人是比较看好
人体解析模型的,可玩系数大,危险边缘疯狂试探~

总结

hub的创意赛还是非常好玩的,在本次demo里面博主将机器视觉与机器语音小小的都玩了一遍,看好人体姿态估计的发展前景!!!

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【资源说明】 基于PaddleHub实现一键图片动漫风格化源码+详细注释-课程作业.zip 1.项目介绍 小白也能快速上手的基于PaddleHub实现一键动漫风格化 2.安装第三方库 # 参考paddlepaddle官网安装 pip install paddlepaddle-gpu==2.2.1.post112 -f https://www.paddlepaddle.org.cn/whl/windows/mkl/avx/stable.html pip install --upgrade paddlehub -i https://mirror.baidu.com/pypi/simple pip install opencv-python tqdm moviepy 3.项目使用 图片文件夹的Python脚本 python style_transfer_demo.py --input_path images --output_path output --model_index 0 --use_gpu True 图片文件的Python脚本 python style_transfer_demo.py --input_path images/test.jpg --output_path output --model_index 0 --use_gpu True 视频文件的Python脚本 python style_transfer_demo.py --input_path video/test.mp4 --output_path output --model_index 0 --use_gpu True 对应参数介绍: --input_path: 输入文件的路径,默认为test.jpg,其中可以是图片文件夹,图片文件,也可以是视频 图片:['bmp', 'jpg', 'jpeg', 'png', 'tif', 'tiff', 'dng', 'webp', 'mpo'] 视频:['mp4','mov', 'avi', 'flv', 'mpg', 'mpeg', 'm4v', 'wmv', 'mkv'] --output_path: 输出文件的路径,默认输出文件的路径为output --model_index:动漫风格化模型的序号,默认为0,也就是'animegan_v2_hayao_99',模型列表:['animegan_v2_hayao_99','animegan_v2_shinkai_53','animegan_v2_hayao_64','animegan_v2_shinkai_33', 'animegan_v1_hayao_60','animegan_v2_paprika_74','animegan_v2_paprika_97','animegan_v2_paprika_98','animegan_v2_paprika_54'] --use_gpu: 指的是 要不要开启GPU,默认为True,默认开启GPU 4.参考链接 PaddleHub官网 AnimeGANv2 AnimeGAN动漫化模型一键应用(含动漫化小程序体验) PaddleHub一键视频动漫化 AI创造营——AnimeGAN视频动漫化一键生成 【备注】 1、该资源内项目代码都经过测试运行成功,功能ok的情况下才上传的,请放心下载使用! 2、本项目适合计算机相关专业(如计科、人工智能、通信工程、自动化、电子信息等)的在校学生、老师或者企业员工下载使用,也适合小白学习进阶,当然也可作为毕设项目、课程设计、作业、项目初期立项演示等。 3、如果基础还行,也可在此代码基础上进行修改,以实现其他功能,也可直接用于毕设、课设、作业等。 欢迎下载,沟通交流,互相学习,共同进步!

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值