Qt Activex使用D3D渲染视频，界面显示异常问题

问题描述

          为了支持在网页中播放实时视频，使用Qt做网页插件，用第三方渲染器（D3D）来渲染视频，具体做法如下：

void VideoWidget::showEvent(QShowEvent *event)
{
	const char *filepath = "D:\\20200603_154205_0.avi";
	BOOL bFlag = PLAY_GetFreePort(&m_testPort);
	bFlag = PLAY_OpenFile(m_testPort, (char *)filepath);
	bFlag = PLAY_Play(m_testPort, (HWND)this->winId());
	QWidget::showEvent(event);
}

VideoWidget继承与QWidget，在页面中用于显示视频，“(HWND)this->winId()”用于获取窗口句柄以传递给D3D用于视频渲染，showEvent为QWidget的虚函数，当窗口部件接收到显示事件时会被调用，该做法出现这样的问题：

        1. 下拉框位置偏移

        2. 当页面切换时，视频显示的位置会往下挪。

 

问题定位

       查看winId的QT源码，如下：

WId QWidget::winId() const
{
    if (!testAttribute(Qt::WA_WState_Created) || !internalWinId()) {
#ifdef ALIEN_DEBUG
        qDebug() << "QWidget::winId: creating native window for" << this;
#endif
        QWidget *that = const_cast<QWidget*>(this);
        that->setAttribute(Qt::WA_NativeWindow);
        that->d_func()->createWinId();
        return that->data->winid;
    }
    return data->winid;
}

经测试发现，导致界面显示异常是由这行代码导致的：“that->setAttribute(Qt::WA_NativeWindow);”。查阅了资料：https://blog.csdn.net/u011352234/article/details/53838452

发现WA_NativeWindow会使QWidget变成本地的window，也就是window平台的窗口。这个widget以及其祖先都会设置成native_window,并且父widget的所有子widget也都会变native。猜测可能是由于其他的widget都变成了native，所以才导致界面布局出现异常。为了不影响其他控件，在“this->winId()”之前加入如下代码测试：

setAttribute(Qt::WA_DontCreateNativeAncestors); //让其祖先控件不要成为 NativeWindow
QApplication::setAttribute(Qt::AA_DontCreateNativeWidgetSiblings); // Qt::AA_NativeWindows受环境变量 QT_USE_NATIVE_WINDOWS控制，有可能环境变量被别的软件修改，所以也需要设置下

测试结果：下拉框未发生偏移，但页面布局仍然异常。

经过一系列调试，有个重大发现，如果使父窗口重新布局，页面会恢复正常，即：

parent()->layout()->invalidate();

便按如下方法，在布局异常（即播放窗口偏移）时，使父窗口重新布局。native的widget会响应nativeEvent消息，也就是window窗口的消息，在接收到WM_PAINT（D3D每次渲染一帧都会发来此消息），判断播放窗口是否偏移：

bool VideoWidget::nativeEvent(const QByteArray &eventType, void *message, long *result)
{
	MSG* winMsg = static_cast<MSG *>(message);
	switch (winMsg->message) {
	case WM_PAINT:
		QRect r = geometry();
		if (r.x() != 0 || r.y() != 0) {
			auto parent = parentWidget();
			if (parent) {
			    parent->layout()->invalidate();
			}
		}
		break;
	}
	return QWidget::nativeEvent(eventType, message, result);
}

至此，界面布局异常问题已解决，定位过程中发现，这样的方法也能够解决问题，即：

m_window = new QWindow;
m_subWidget = createWindowContainer(m_window, this);
PLAY_Play(m_testPort, (HWND)m_window->winId());

仅此3行代码便可解决以上问题，注意到m_subWidget不会变成Native，可能会更为稳定，所以本项目采取此方法。

随后发现当界面resize时，视频画面会闪烁，查阅资料得知，因为resize时，D3D渲染器和QT自身同时在绘制图形才导致画面闪烁，加入如下代码可以屏蔽掉QT自身的绘制功能，画面不再闪烁：

QPaintEngine* VideoWidget::paintEngine() const
{
	return 0;
}