从实例问卷看问卷设计
作者:Min Lin
简介
填写一份问卷通常只要几分钟到十几分钟的时间。这种简单快捷的问卷填写体验很容易让人产生一个错觉:问卷设计也很简单,就是几个问题加上一些选项而已。其实不然。问卷调查的目的是通过设计好的问题来获得对用户理解的认识。因为缺少与用户的直接交流,对用户理解的正确性和可靠性就完全取决于问卷本身。好的问卷设计才能得出有用的调查结果。因此,如何设计好的问卷就是用户研究人员必须学习和掌握的基本功。本文将通过对一份真实问卷的分析来展示在问卷设计中容易出现的错误,进而帮助用户研究人员理解问卷设计的几个重要原则。
问卷来源
本文所用的实例取自某网站最近进行的一份关于软件界面"人本"状况的问卷调查。这份调查共10个问题,分两个部分,分别针对普通的软件用户和软件开发者这两个群体进行调查。本文只对该问卷的第一部分,即针对普通用户的部分逐题加以分析讨论。
问卷分析
1. 使用正确的语言
这一部分问卷的标题是:您使用的软件"人本"吗?根据该网站在调查结果分析中的说明,这部分问卷的目的是了解"作为一个用户,对于界面有着什么样的需求和感受"。可惜的是,在问卷中这样明白浅显的描述被'作为一个计算机用户,协助您完成工作的软件有一个"人本"的界面吗?'这样带有专业味道的句子所取代 。"人本"一词在问卷问题之前总共出现了五次,但都没有一处提供解释告诉受访者什么叫做"人本"。用户研究的一个关键要素就是要以用户为中心,这在问卷设计中同样适用。这份问卷预期的受访者是普通用户,他们可能从事着各种各样的职业,接受的是不同层次的教育,对计算机有着不同的熟悉程度。"人本"一词对于普通用户来说是一个很不容易理解其含义的词汇。尽管问卷的设计者试图传递给受访者有关这份问卷的目的说明,但是其效果由于使用了过于专业的词汇而大大地打了折扣。因此,在问卷设计时,设计者要时时提醒自己问卷的受访对象不是自己,在自己看来明白无误的词语在受访者眼中就未必还会同样清楚。只有设身处地地站在受访者的角度来选择用词,才能让受访者正确理解问卷里的说明,问题,以及选项的确切含义,从而才能期待他们提供可信的数据。
2. 传递准确的信息
对一个受访者来说,对所要调查的内容的主要理解是来自于问卷本身(特别是当缺乏训练的调查员常常因为觉得没有必要或者急于完成调查而省略对受访者充分说明调查目的的时候)。因此,一份问卷的每个句子,每个词都应该仔细斟酌,让它们能够向受访者传递出准确无误的信息。让我们先来看看这份问卷的第一个问题:
您认为软件的哪一方面更重要?
A. 好的界面胜过优秀的功能
B. 优秀的功能胜过好的界面
C. 最初使用时认为界面重要,用久了(熟悉了)后感觉功能更重要
D. 最初使用时认为功能很重要,用久了感觉有一个舒适的界面更重要
如果只看这个问题,那么作为受访者的自然反应就会是从所提供的几个方面中去挑选一个自己认为最重要的。但问题在于,这个问题所提供的候选答案是四个,但一眼看去却只有两个方面:界面和功能,而不是所期待的会看到四个方面。这种选项与问题之间的不和谐就很容易让受访者感到糊涂,甚至因此放弃完成整份问卷。造成这个局面的原因其实是设计者没有准确表达出他所希望受访者领会到的信息。如果我们仔细揣摩一下四个选项的关系,我们便于体会到设计者实际想了解的是受访者对界面和功能这两方面孰轻孰重的判断会不会随着使用经验的增多而改变。设计者的这个目的却由于使用了不恰当的提问方式而难以被受访者体会到。
3. 消除错误的假设
有些时候,对受访者采用一些假设条件是必需的。再来看看第二个问题的设计:
您在操作一个软件(如Word)时的习惯是:
A. 使用默认设置,记住一个命令(菜单项或工具栏按钮)的位置并每次直接找到这个位置进行选择。
B. 使用自定义设置,把常用命令放在显而易见的位置。
很难想象一个用户的软件使用习惯就只会是这两个选择中的一个。这两个选项描述的是这样一个图景:一个用户或者永远是从软件的默认位置来选择菜单项,或者就得把所有的菜单项都重新定制一番。很显然,我们的经验告诉我们很多时候我们的行为和这两个选项所描述的都不一样。对于常用的功能,我们很可能会对它进行定制让我们在使用的时候能够更有效。而另一方面,很多的功能并不是我们常常要用到的,我们知道它们的默认位置,因此在需要的时候我们一样可以找到它们。这道问题的设计把受访者放在了一个非此即彼的两难境地,给他们带来额外的选择困难。而这个结果就是因为在设计的时候使用了错误的假设。一旦把这个错误假设去掉,受访者所面对的困境也就不复存在了。
4. 定义完整的集合
在设计调查问卷的选择题的时候,应该尽可能使得所有选项合起来能够构成一个全集。只有这样才能为受访者提供一份完整的选项。这就要求问卷的设计者要对各选项之间的彼此关系有正确的认识。让我们看看问卷的第三个问题。
您喜欢哪种风格的界面?
A. 完全定制化的,即可以决定所有命令(菜单项或工具栏按钮)出现与否和出现在哪里。
B. 部分定制的,即可以决定命令的位置,但不能隐藏它们。
C. 不可定制的,即所有命令都有自己固定的位置,无法改变。
只看这三个选项的前半段的话,"完全定制","部分定制"和"不可定制"很准确地组成了一个完整的全集。但是,这个全集代表的是正确的全集吗?让我们仔细研究一下每个选项的后半段解释。从这三个解释里我们不难发现,这个问题的选项中"定制"一词是包括了两重含义的:显示的位置和是否显示。因此,这两重定制就会产生四种组合,而不是现在的设计中的三种。这个问题的疏忽之处就是在部分定制这一项上。第一个和最后一个选项都正确解释了各自前半段的含义,而在部分定制这个选项上,其后半段的解释并没有使得这部分涵盖了除去其它两项之外的所有范围,从而导致了看似全集却非全集的情况。
5. 提供明晰的标准
在问卷调查中常常会问到的一类问题是关于频度,例如每天上网几个小时,多久换一部手机等等。在设计这类问题的时候,如何设置频度选项是需要仔细斟酌的。频度的选择要足够广,从而能够覆盖绝大部分受访者的可能情况。频度的选择还要足够敏感,从而能够体现收集到的结果中的差异。在这份问卷中,有一道关于频度调查的问题是这样设计的:
您是否因为习惯性的操作动作而导致错误,比如习惯性地在Excel中使用其它制表软件中的快捷键,而导致表格被搞乱?
A. 经常有
B. 偶尔有
C. 没有出现过
我们看到,三个频度选项里只有"没有出现过"这一项是非常明确的,它代表了零发生率。从没有到偶尔有,再到经常有,这三个选项让受访者感受到频度递增的趋势,但是这个递增的变化过程是很不明确的。问题中没有为受访者提供一个"偶尔"与"经常"的区分点,于是受访者只能被迫去猜测究竟什么样的频度是"经常"。这种猜测的结果就是使用标准的不统一,选项的敏感度非常差。每个受访者根据自己的主观判断猜测了一个标准,然后依照这个标准回答这个问题。因此,同样的频度有的受访者会选择"偶尔有",而有的受访者却选择"经常有"。建立在这样的数据上的结论是非常不可靠的,甚至可能让调查报告的阅读者由于数据的误导而做出错误的决策。
6. 杜绝无意的诱导
在用户研究中,作为与用户交流的一方必须始终让自己保持一个中立的位置,不让自己的行为和语言影响到用户的判断。也就是说,要避免对用户产生诱导。问卷调查也是如此。尽管问卷调查没有了与受访者面对面的时候,但是文字的诱导同样有可能存在,同样有可能对受访者的选择产生很有力的影响。让我们看看这份问卷的最后一个问题。
您能通过电话或电子邮件为朋友解决软件的操作问题吗?比如,一个初学计算机的朋友希望知道如何使表格中的某些线段不可见,打电话向您求助。
A. 可以很轻松地搞定
B. 需要首先向他询问是否可以在某个地方找到某个命令,然后可以教会他
C. 根本无法说清
这个问题里存在一个很强有力的对受访者的诱导:就是问题中所举的例子。这个例子虽然解释了问题的意思,但是这个例子也同时给了受访者关于"解决软件的操作问题"的复杂度的一个诱导。在面对一个相对不容易回答的问题时,一个例子会成为受访者理解和思考问题的重要参考因素,甚至是唯一的因素。受访者将会很自然地以这个例子来作为挑选选项的判断。你是否正在这样做呢?而我们知道,这个问题所描述的实际情况中问题的复杂度和例子所体现的复杂度可能相差很大。这个过于简单的例子很可能让受访者对问题的真实复杂度做出偏向容易的错误判断,从而导致对答案选项的选择和他在正确认识复杂度的情况下做出的判断不同。这样,这个问题的调查结果也就失去了本来的目的。诱导,是一个很容易一不小心就会犯的错误。大多数情况下,诱导的出现都是无意的,但也正因为它是无意的而更需要我们去尽力避免它。没有及时发现诱导会使得我们没有意识到数据中存在的偏差,没有意识到结果中存在的偏差,没有意识到因此而做出的推论,决策都可能是完全错误的。在用户研究中,我们需要时刻检视自己的行为和语言,保持对诱导的警惕性,并通过同伴之间的互相注意而避免诱导的出现。
结论
这份虽然只有五个问题,但是从每个问题的设计里我们看到了其中存在的不同问题。设计问卷看似简单,其实不然。它不是能够一蹴而就的。要想得到好的调查效果,就必须得在问卷设计上下功夫。虽然说不上字字斟酌,但也得细细品味才行。不然很可能变成竹篮打水一场空,花费了时间,金钱,人力完成了数据采集,结果由于问卷设计的缺陷而导致实际数据无法代表设计所期望的数据。更糟糕的是,如果这些收集来的错误数据并没有被意识到是无效的而仍然被当作可靠的用户数据而影响产品开发,市场营销等方面的决策,其后果就可能会越发严重了。
作者介绍:
Min Lin是美国马里兰州立大学巴尔第摩分校(UMBC)交互系统设计中心的成员,师从Andrew Sears博士从事可用性领域的研究工作。他参与多项由美国国家自然科学基金及大型企业资助的研究项目,发表了十几篇学术论文。他是美国计算机协会(ACM)和人机交互特别兴趣小组(SIGCHI)会员,曾在IBM T.J. Watson研究中心可获得性研究小组工作。UnderstandUsability.com网站是他面向国内同行开设的旨在推动中国可用性及交互设计发展的交流平台。