Unity3D视频绿幕抠图的实现及优化

       本文是通过Shader处理绿幕的方式来实现Unity中视频（VideoPlayer）的绿幕抠图。因为项目原因，不追究细节（能用就好能用就好）orz可是我连shader都不了解......项目完成之后有机会的话一定要去深入学习一下！

       效果大概这样

                    

好了就让我们开始叭ヽ(ー_ー)ノ

Unity版本 5.6.7

       下面是我找的一些关于shader的博客，可以去了解下

       https://onevcat.com/2013/07/shader-tutorial-1/

       https://onevcat.com/2013/08/shader-tutorial-2/

       https://blog.csdn.net/oskytonight/article/details/42241301

       另外，在寻求去除绿幕的方法时，也想过用OpenCVForUnity来做，对本文效果不满意的话说不定可以寻求OpenCVForUnity的方式。以下是我通过shader完成视频绿幕抠图及优化参考的博文：

       https://blog.csdn.net/an050602/article/details/56479741?utm_source=blogxgwz9 

       https://blog.csdn.net/macjeson/article/details/50035073#commentBox

       感谢博主大大们，收获颇多！在此作自我整理与回顾。

1.创建VideoPlayer

       具体过程可以参考我的博文  https://blog.csdn.net/cs874300/article/details/89294433

2.创建Shader

       在Project下的自己想要的文件夹下右键Create -> shader ->(具体哪种无所谓,反正都要替换掉emmm看下面代码的类型应该是Image effect Shader?)。以下为第二个链接的博主代码

Shader "MyShader/FilterfColor" { 
    Properties { 
        _MainTex ("Base (RGB)", 2D) = "white" {} 
        _FilterfColor("Ridof (RGB)",Color)=(1,1,1,1) 
    } 
    SubShader { 
        Tags { "RenderType"="Opaque" } 
        Blend SrcAlpha OneMinusSrcAlpha 
        pass 
        { 
            CGPROGRAM 

            #pragma vertex vertext_convert
            #pragma fragment fragment_convert
            #include "UnityCG.cginc" 

            sampler2D  _MainTex; 
            sampler2D  _MainTex1; 
            float4  _FilterfColor; 
            struct Inputvrite 
            { 
                float4 vertex : POSITION; 
                float4 texcoord : TEXCOORD0; 
            }; 
            struct Inputfragment 
            { 
                float4 pos : SV_POSITION; 
                float4 uv : TEXCOORD0; 
            }; 

            float ColorLerp(float3 tmp_nowcolor,float3 tmp_FilterfColor) 
            { 
                float3 dis = float3(abs(tmp_nowcolor.x - tmp_FilterfColor.x),abs(tmp_nowcolor.y - tmp_FilterfColor.y),abs(tmp_nowcolor.z - tmp_FilterfColor.z)); 
                float dis0 =sqrt(pow(dis.x,2)+pow(dis.y,2)+pow(dis.z,2)); 
                float maxdis = sqrt(3); 
                float dis1 = lerp(0,maxdis,dis0); 
                return dis1; 
            } 

            Inputfragment vertext_convert(Inputvrite i) 
            { 
                Inputfragment o; 
                o.pos = mul(UNITY_MATRIX_MVP,i.vertex); 
                o.uv = float4(i.texcoord.xy,1,1); 
                return o; 
            } 

            float4 fragment_convert(Inputfragment o) : COLOR 
            { 
                float4 c = tex2D(_MainTex,o.uv); 
                c.a *=ColorLerp(c.rgb,_FilterfColor.rgb); 
                return c; 
            } 


        ENDCG 
        } 
    } 
    FallBack "Diffuse" 
}

       然后按第一个链接的博主所说,将其中fragment_convert的方法做如下改动。其基本思路就是将绿色的部分Alpha通道设为0（即透明）。其中gbr代表green blue red，0.5为比值(  green/255  )

float4 fragment_convert(Inputfragment o) : COLOR{
 
float4 c = tex2D(_MainTex,o.uv);
 
//简单的判断材质的RGB值
 
if (c.g >0.5&&c.b<0.5&&c.r<0.5){
 
c.a = 0;//材质的绿色大到一定程度，并且蓝色和红色小到一定程度，就把该部分的材质的透明度设置为0
 
}
 
return c;
 
}

          就博主的视频抠图而言，已经完成了。但是对于我的视频来说，还没有完成，因为我最后的效果是这样的

                     

          我知道绿幕的部分容易解决，可是多出来的白门和白墙和白鞋子是同一个颜色的。可不可以有再Shader中确定位置的方法，来把除了人物的周围部分的其他部分都设置为透明。然后找了半天基本都是和上面代码差不多的，或者就直接是复制的代码，完全没有自己的想法......遂放弃。在大量找shader相关资料的时候发现了一篇博文，是讲shader的uv坐标的，链接如下：

        https://blog.csdn.net/xiongwen_li/article/details/66474826

其中有    i.uv.x=i.uv.x * i.uv.y; 这样的注释。我就想能不能通过这样的方式来限定位置条件（其实只是因为这句注释给了我启发，这篇文章倒是和本文没啥大关系）。然后我就在代码中加了以下几句：

if (o.uv.x < 0.25 || o.uv.x> 0.65 ||o.uv.y < 0.2 || o.uv.y >0.8) {
    c.a = 0;
}

        如图，显然，达到了我想要的位置约束的效果。（完全就是瞎猫碰到死耗子...蒙出来的效果，所以说！如果shader了解的通透的话，这种简单的处理完全就是信手拈来啊！果然还是要提升知识水平啊orz）  

        

       除此之外，还可以通过QQ截图来获取某一像素点的RGB值（就当取色器用，真的很好用！）来作背景优化的约束条件，比如说像我就添加了以下的约束条件。因为颜色越深的地方，green可能不到0.5，但是会比red高很多，用此来作为条件优化。

if (o.uv.y > 0.65) {
	if (c.g > 0.34 && c.g > 1.1 * c.r) {
	    c.a = 0;
	}
}
else {
    //绿色>红色值1.1倍就设为透明,可以优化边缘绿色，参数可调
	if (c.g > 1.1 * c.r) {
		c.a = 0;
	}
			
}

if (o.uv.x < 0.25 || o.uv.x> 0.65 ||o.uv.y < 0.2 || o.uv.y >0.8) {
	c.a = 0;
}

        因为深绿色和头部的黑色有冲突，所以我把上部分和下部分分开优化,（还不是为了帮大师保留更多的头发！摔桌(/"— _ —)/~┴┴）但是用了好多if语句啊,感觉代码还是可以有改进的地方.

       以下为最终效果图（我觉得海星(✿◡‿◡)）：

       

3. 将shader运用到视频或图片上

       我这里是视频,图片同理。

       1.在Project下的自定义文件夹内Create-> Material 

       2.将shader拖入刚创建的材质球（Material），然后我看材质球里面有个Texture，就把视频VideoPlayer的Target Texture中添加的那个Render texture也添加进去了，因为我的视频是通过Render Mode为Render Texture的方法播放的，

       3.把Material拖入RawImage里面的Material。（视频播放、Rendertexture相关可以见步骤1里的创建视频）

       

       

       感觉自己在一些细节还有许多了解不清楚的地方，或许有说错或者不必要的情况，欢迎指正。以后有机会一定要多去学习学习鸭！以上。