评价结合方法 为了向国会适时提供特定项目进展情况的综合性和完整性信息,美国审计署开发了一种评价综合方法。该方法通过使用现有的研究成果来解决审计时效性方面的难题,是一种无需收集原始数据就能够满意地回答问题的方法。 评价综合方法的涵义 评价综合方法,是指从一些彼此分离的研究出发,把它们的研究发现组织起来的系统性步骤。简而言之,就是对某个项目的各种评价性研究成果的综合。 利用评价综合方法可以回答几种不同的问题——关于整个项目的效果问题;关于项目的一些具体做法,哪些特别好,哪些特别差的问题;关于如何组织评价研究以提供有关项目更加有用的信息方面的问题。 评价综合方法与其他许多含有评价内容的文献评论和文献分析不同,它是从最终用途回溯过来而被设计的。也就是说,推动评价综合的动力,不是对增加知识的要求,而是对一定信息的特定要求或者需要。 评价综合方法不是针对某个特定评价者或者某些特定研究的特定方法,而是一种具有普遍性的方法。它能够使两个使用相同综合程序步骤的评价者得出相同的统计结果,尽管两者对统计结果的解释可能不同。 评价综合方法的适用条件 当面对关于某个主题的数十甚至数百项研究时,一个不使用系统性程序步骤的评价者将被迫使用主观标准决定如何来综合,该评价者可能会选取一些他所喜欢的研究,选择从经典实验设计的观点看可能做得比较好的研究。或者评价者可能喜欢他所尊重的人开展的研究。在这种情况下,使用评价综合方法十分必要,可以避免凭印象选择研究而得出不恰当的结论。 评价综合方法适用于解决那些无需收集原始数据就能够满意回答的问题。这意味着,运用评价综合方法必须满足两个基本条件:一是回答的问题不需要收集原始数据;二是已经存在大量的相关研究。 如何运用评价综合方法 (一)准备阶段 详细说明问题。选择和识别真正需要回答的问题,是评价综合方法的第一步。评价综合只能回答已经存在研究信息的那些问题。只有在对现有评价研究文献比较了解的基础上,才能提出健全的问题。在对问题的详细说明过程中,开展对可获得数据种类的初步审查是重要的。 收集研究资料。一旦明确了问题,就应收集汇编相关的评价信息资料。资料来源包括被评价项目主管部门的文献资料,以及其他行政机构的研究文献、立法机构的研究文献和地方政府机构的研究文献,全国性学会、学术界的成员,以及国外对该主题的研究文献等。 开发选择研究资料的标准。在完成了对相关资料的识别和收集后,接下来的问题是:什么类型的研究资料应包括在评价综合之内?当决定哪些研究资料应包括在评价综合之内时,审计人员必须运用相关的审计证据准则。 在技术上识别和控制潜在的偏误来源是评价综合的目标之一。无论什么时候,评价人员应尽可能找到运用不同方法的研究资料,使用不同的研究类型可以控制偏误。 对选取的研究资料进行审查。依据研究设计、实施、分析和报告的基本规范,对选取的研究资料进行评价。不管是实验研究、案例研究、统计调查还是内容分析,对于每个研究都要问一问它的可靠性和有效性。 重新确定综合方法的适当性。在准备评价综合的过程中,对将要包括在评价综合中的每一项研究,根据研究问题或者研究设计进行分类是有用的。有时,尽管原始证据看起来是充足的,但事实上却不能运用评价综合来回答国会的问题,要回答该问题,必须开展新的研究,而不是进行评价综合就能做到。 (二)实施阶段 在拥有了被认为对综合有用的一组研究的条件下,下一步就是实施评价综合,查找问题。启动该评价综合的问题在很大程度上决定了该评价综合的具体步骤。如,检查一个项目是如何运作的问题,可能是在理想的环境下该项目为谁服务?或者平均而言该项目为谁服务?在第一种情况下,评价人员可能需要调查许多案例研究,并且提供一个叙述性的关于发现的描述。在第二种情况下,评价人员可能对可获得的各个研究给出的答案进行平均,或者给出从最高到最低估计的范围。 实施评价综合和查找问题,可以利用数量和质量方面的证据来综合考虑。由于评价综合是在现有给定信息的条件下来回答问题,审计人员通常很难找到理想的定量分析方法。有四种常见的情况,非定量分析是特别有效的:一是项目措施是针对个体的或者更加关注过程而不是结果;二是对项目效应的评价包含多个层次的效应水平;三是把没有控制的小组与控制下的小组进行对比;四是对“错误”做法的研究。 (三)报告阶段 把评价综合过程产生的信息认真地编写成报告,对该评价综合的要求者提出的问题作出回应。在报告的介绍部分,应简单描述该评价综合及其所讨论的特定项目两者的历史,并且应当给出该评价综合的目标、范围和方法。 接下来应回答下列类型的问题:信息资料是如何获得的?从什么来源?该努力受到什么限制?调查者对全部相关信息的信任度如何,或者是否对这些信息进行了代表性的抽样?