Unity利用深度图建模

深度图建模

总结

深度图精度获取
地形生成算法

主要进展

  1. 获取深度图
    1. 获取深度图:主要是用这篇文章提供的工程生成
      https://www.immersivelimit.com/tutorials/unity-depth-camera-simulation?rq=depth

test_depth.png

  1. 通过深度图获取点集
    关键就是一个图坐标转换为世界坐标。
    设图的像素中心为原点中心,从中心到像素坐标向量为一个轴,深度图的灰度值为一个轴,两轴经过一定比例放缩得到世界坐标。
for (int i = 0; i < width; i += 10)
{
    for (int j = 0; j < height; j += 10)
    {
        //根据像素点与中心点偏移和深度值,得到实际点离摄像头的位移
        Vector2 pixelOffsetV2 = new Vector2(i, j) - new Vector2(i / 2, j / 2);
        float depthOffset = depthMap.GetPixel(i, j).r * 255;//深度图,r,g,b值都相同

        print(i + " " + j + " " + depthOffset);
        if (depthOffset < 250)
        {
            //转换三维向量
            Vector3 pixelOffsetV3 = new Vector3(pixelOffsetV2.x, pixelOffsetV2.y, 0) * pixelK;
            Vector3 depthOffsetV3 = new Vector3(0, 0, depthOffset * depthK);

            //得到最终位移
            Vector3 realOffset = pixelOffsetV3 + depthOffsetV3;
            GameObject point = Instantiate(sphere, camera.transform.position + realOffset, Quaternion.identity, parent);
            points[i, j] = point;
        }
    }
}
  1. 渲染点云

    1. 通过gameobject实现点云
      最简单的方法,在每个点实例化一个小球,性能消耗较大,间隔取像素和剔除深度无穷远的像素,可较快并实时预览点云生成效果,实时调整轴放缩系数
      test_SphereModel.png

    2. 通过mesh的点模式实现点云
      主要参考下面资料
      mesh结构的基本用法
      https://docs.unity.cn/cn/current/Manual/Example-CreatingaBillboardPlane.html
      mesh的点线渲染
      https://blog.csdn.net/zhudaokuan/article/details/119609315
      外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传
      CubeAndCylinder_MeshModel.png
      CubeAndCylinder_LineStrip.png

  2. 构建三角面mesh
    关键在于三角索引的顺序,最近的像素点画三角形,距离信息由二维数组的索引号表示,通过遍历每个点和距离找到合适的三个点画三角形。
    想象每个点作为四边形的左下角的那个点,每个四边形可以画两个三角形,所以每个点可以画两个三角形,先画右下角,再画左上角。直到把所有点遍历完。

/// <summary>
/// 根据深度图生成三角面
/// </summary>
void InitTriMesh2()
{
    int width = depthMap.width;
    int height = depthMap.height;

    //将得到的点转化为二维数组,几何位置近的画四边形
    int[,] pointsIndex = new int[width, height];

    //算一下生成的点数
    int num = 0;
    for (int i = 0; i < width; i++)
    {
        for (int j = 0; j < height; j++)
        {
            float depthOffset = depthMap.GetPixel(i, j).r * 255;//深度图,r,g,b值都相同
            if (depthOffset < 250)//有效点
            {
                if (isOpsite)
                    depthOffset = 255 - depthOffset;//取反~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
                num++;
            }
        }
    }

    positions = new Vector3[num];
    indices = new int[num * 6];//三个点组成三角形的三个顶点,按最大复用率算
    colors = new Color[num];
    int index = 0;

    //for (int i = 0; i < width; i += 10)
    //{
    //    for (int j = 0; j < height; j += 10)
    for (int i = 0; i < width; i++)
    {
        for (int j = 0; j < height; j++)
        {
            //根据像素点与中心点偏移和深度值,得到实际点离摄像头的位移
            Vector2 pixelOffsetV2 = new Vector2(i, j) - new Vector2(i / 2, j / 2);
            float depthOffset = depthMap.GetPixel(i, j).r * 255;//深度图,r,g,b值都相同
            if (isOpsite)
                depthOffset = 255 - depthOffset;//取反~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~

            print(i + " " + j + " " + depthOffset);
            if (depthOffset < 250)
            {
                //转换三维向量
                Vector3 pixelOffsetV3 = new Vector3(pixelOffsetV2.x, pixelOffsetV2.y, 0) * pixelK;
                Vector3 depthOffsetV3 = new Vector3(0, 0, depthOffset * depthK);

                //得到最终位移
                Vector3 realOffset = pixelOffsetV3 + depthOffsetV3;

                positions[index] = realOffset;

                pointsIndex[i, j] = index;//存储索引
                //indices[index] = index;
                colors[index] = Color.gray;
                index++;
            }
        }
    }

    //设置三角形索引
    int triIndex = 0;
    for (int i = 0; i < pointsIndex.GetLength(0); i++)
    {
        for (int j = 0; j < pointsIndex.GetLength(1); j++)
        {
            if (pointsIndex[i, j] != 0)//可能会抛弃掉第一个点 。分别找最近的点画两个三角形
            {
                //第一个三角形
                indices[triIndex] = pointsIndex[i, j];
                triIndex++;

                //找到右上角最近的
                int temI = i;
                int temJ = j;
                do
                {
                    temI++;
                    temI %= pointsIndex.GetLength(0);
                    temJ++;
                    temJ %= pointsIndex.GetLength(1);
                } while (pointsIndex[temI, temJ] == 0);//非有效索引就继续找

                indices[triIndex] = pointsIndex[temI, temJ];
                triIndex++;

                //找到右边最近的
                temI = i;
                temJ = j;
                do
                {
                    temI++;
                    temI %= pointsIndex.GetLength(0);
                } while (pointsIndex[temI, temJ] == 0);//非有效索引就继续找

                indices[triIndex] = pointsIndex[temI, temJ];
                triIndex++;


                //第二个三角形
                indices[triIndex] = pointsIndex[i, j];
                triIndex++;

                //找到上面最近的
                temI = i;
                temJ = j;
                do
                {
                    temJ++;
                    temJ %= pointsIndex.GetLength(1);
                } while (pointsIndex[temI, temJ] == 0);//非有效索引就继续找

                indices[triIndex] = pointsIndex[temI, temJ];
                triIndex++;


                //找到右上角最近的
                temI = i;
                temJ = j;
                do
                {
                    temI++;
                    temI %= pointsIndex.GetLength(0);
                    temJ++;
                    temJ %= pointsIndex.GetLength(1);
                } while (pointsIndex[temI, temJ] == 0);//非有效索引就继续找

                indices[triIndex] = pointsIndex[temI, temJ];
                triIndex++;
            }
        }
    }

    mesh = pointMeshObj.GetComponent<MeshFilter>().mesh;
    mesh.vertices = positions;
    mesh.colors = colors;
    mesh.SetIndices(indices, MeshTopology.Triangles, 0);

    //MeshUtility.Optimize(mesh);

}

初步建模.png

初步建模2.png

发现精度比较低,后来发现是unity会将导入的图像压缩导致的,将图片设为不压缩,效果会好一些。但还是没有光滑的效果。
外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

  1. unity地形系统
    unity 地形系统可以通过高度图去生成地形。但是由于图片格式和我的深度图与Unity高度图色差相反,以及一些未知的图片尺寸问题,我的深度图导入到地形中生成不了正常地形。

相反的,用适用于地形的高度图,放到我的方法里去跑,可以生成点云,但是生成不了正常的模型,更别提光滑,可见实现方法还有很大差距。
Canyon02_Heightmap.jpg

高度点云.png

高度mesh.png

很多参考资料都涉及到shader相关知识,不仅为了渲染,还有大量的计算,感觉无论从基础实现还是优化,应该都绕不开shader。

参考资料

获取深度图
https://www.immersivelimit.com/tutorials/unity-depth-camera-simulation?rq=depth

点云实现
https://docs.unity.cn/cn/current/Manual/Example-CreatingaBillboardPlane.html

https://blog.csdn.net/zhudaokuan/article/details/119609315

https://blog.csdn.net/zhudaokuan/article/details/120135224?spm=1001.2014.3001.5501

高度图地形建模
https://zhuanlan.zhihu.com/p/592083710

基于深度相机的三维物体与人体扫描重建
https://kns.cnki.net/kcms/detail/detail.aspx?dbcode=CDFD&dbname=CDFD1214&filename=1013178503.nh&uniplatform=NZKPT&v=5-FXszT_zVskmmsaWloNbXPQP3jK8b3p0_gQsE9cT4lccPv2cgo4_l6cQMtA0soq

  • 20
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值