Modern OpenGL用Shader拾取VBO内单一图元的思路和实现(2)
上一篇里介绍了Color-Coded Picking的思路和最基本的实现。在处理GL_POINTS时已经没有问题,但是处理GL_LINES、GL_TRIANGLES等时会遇到同一图元的各个顶点颜色不同的问题,这就不能正确拾取了,本篇来解决这个问题。
对于GL_LINES,可以用 int objectID = gl_VertexID / 2; 来使得每个线段图元的两个顶点颜色分别相同;对于GL_TRIANGLES,则用 int objectID = gl_VertexID / 3; 。但是这个方法无法应用到存在共享顶点的GL_LINE_STRIP、GL_TRIANGLE_STRIP、GL_LINE_LOOP等情况。所以要另辟蹊径。
ShadeMode
首先介绍一下glShadeMode()这个函数。就是靠它才解决了本文的问题。
glShadeMode()
在(https://www.opengl.org/sdk/docs/man2/xhtml/glShadeModel.xml)有它的专业解释,里面有这样一张表格。
Primitive Type of Polygon i | Vertex |
Single polygon ( i == 1 ) | 1 |
Triangle strip | i + 2 |
Triangle fan | i + 2 |
Independent triangle | 3 × i |
Quad strip | 2 × i + 2 |
Independent quad | 4 × i |
这个表格的意思是:在 glShadeMode(GL_FLAT); 状态下,在绘制某种图元时,其颜色由第i个顶点的颜色决定。(其实就是由定义一个图元的最后一个顶点的颜色决定)
单看表格难以理解,用下面的Demo进行说明。
这个Demo绘制了8个顶点,其位置和颜色如下(同上图左侧所示)
![](https://i-blog.csdnimg.cn/blog_migrate/8f900a89c6347c561fdf2122f13be562.gif)
![](https://i-blog.csdnimg.cn/blog_migrate/961ddebeb323a10fe0623af514929fc1.gif)
1 gl.Color(0, 0, 0); 2 gl.Vertex(0, 0); 3 4 gl.Color(1f, 0, 0); 5 gl.Vertex(0, 1); 6 7 gl.Color(0, 1f, 0); 8 gl.Vertex(1, 0); 9 10 gl.Color(1f, 1f, 0); 11 gl.Vertex(1, 1); 12 13 gl.Color(0, 0, 1f); 14 gl.Vertex(2, 0); 15 16 gl.Color(1f, 0, 1f); 17 gl.Vertex(2, 1); 18 19 gl.Color(0, 1f, 1f); 20 gl.Vertex(3, 0); 21 22 gl.Color(1f, 1f, 1f); 23 gl.Vertex(3, 1);
下面分别看一下在 glShadeMode(GL_SMOOTH); 和 glShadeMode(GL_FLAT); 模式下,用这个8个顶点绘制各种图元的情况。
这是GL_SMOOTH 模式下的GL_LINE_STRIP。
这是GL_FLAT模式下的GL_LINE_STRIP。
这是GL_SMOOTH 模式下的GL_TRIANGLES。
这是GL_FLAT 模式下的GL_TRIANGLES。
这是GL_SMOOTH 模式下的GL_TRIANGLE_STRIP。
这是GL_FLAT模式下的GL_TRIANGLE_STRIP。
这是GL_SMOOTH 模式下的GL_QUAD_STRIP。
这是GL_FLAT 模式下的GL_QUAD_STRIP。
您可以点此下载此Demo慢慢对比。
GL_FLAT的作用
通过上面一节的观察可以看到,GL_FLAT模式下,各种类型的图元的颜色都是由绘制它的最后一个顶点的颜色给出的。
这么绝妙的颜色分配方案简直就是为了解决本文的问题而设计的。
我们只需在做Picking的绘制时,在GL_FLAT状态下绘制图元,就可以用glReadPixel()获取到应拾取的图元的最后一个顶点的编号。根据上一节的表格,很容易推算出此编号代表的图元。
'flat' in GLSL
不过这又带来一个小问题:glShadeMode();在使用Shader+VBO时是无效的。不过Modern OpenGL必然要有能代替它的功能:GLSL里的flat关键字。给in/out变量附加一个flat,就相当于Legacy OpenGL里调用了glShadeMode(GL_FLAT);
flat out vec4 pass_Color; // glShadeMode(GL_FLAT); in legacy opengl.
flat in vec4 pass_Color; // glShadeMode(GL_FLAT); in legacy opengl.
这也是本文与上一篇的程序中唯一的区别。
未完待续
拾取一个VBO里的单个图元的问题已经彻底解决了。那么来看下一个问题:一个场景里可能会有多个VBO,此时每个VBO的gl_VertexID都是从0开始的,那么如何区分不同VBO里的图元呢?我们下回分解。