元评价对提高科技评价质量的影响研究

作者简介:
俞立平(1967- ),男,江苏泰州人,宁波大学现代管理中心教授(浙江 宁波 315211),中国科学技术信息研究所博士后,研究方向为信息经济、科学计量;潘云涛(1967- ),女,北京人,中国科学技术信息研究所研究员,学士,研究方向为科学计量学研究;武夷山(1958- ),男,回族,江苏南京人,中国科学技术信息研究所总工程师,研究员,硕士,研究方向为科技管理领域的研究(北京 100038)。

原文出处:
科学学研究

内容提要:

从分析元评价的地位和作用入手,探讨科技评价元评价主体、评价质量与元评价的关系等相关问题,构建了宏观元评价的体系结构。认为元评价是跨学科的研究,需要多方面共同协作,推动元评价理论和实践的不断深入。


期刊代号:C31
分类名称:创新政策与管理
复印期号:2012 年 08 期

字号:

      科技评价成果众多,包括科技人员评价、科研机构评价、科技政策评价、学术期刊评价等等。如上海交通大学的世界大学排名、武书连的大学与学科评价、武汉大学邱均平的学科评价与期刊评价、北京大学图书馆的核心期刊等。

      科技评价中同质评价较多是一个普遍现象。比如国际大学排名就有《泰晤士报高等教育特刊》的世界大学排名、《美国新闻与世界报道》大学排名、上海交通大学的世界大学排名等。国内大学排名,有武书连的大学排名、中国网大的大学排名、中国校友会的大学排名、中国人民大学的大学排名等等。中国的学术期刊评价有国家新闻出版总署、中国科学院文献情报中心、中国科学技术信息研究所、北京大学图书馆、南京大学中国社会科学研究评价中心、中国社会科学院等。如此众多的评价有点让人无所适从,促使人们对评价本身进行更多的思考。

      所谓元评价,就是对评价自身的评价。自Scriven[1]在教育评价中提出元评价(meta-evaluation)理论以来已有40多年,但在科技评价中,元评价似乎一直没有受到重视。人们在一味推出各种各样不同的评价或评价体系的同时,对评价自身却缺少审慎的反思。比如目前的评价体系还有哪些不足和改进之处?评价质量如何?公众对评价的看法如何?科技评价的政策效果如何?具体到某类科技评价,它是必须的吗?过多的、不适当的科技评价可能有哪些负面的效果?等等。

      国家对科技评价工作本身也十分重视,科技部联合五部委,以国科发基字[2003]142号文的名义发布了《关于改进科学技术评价工作的决定》,认为“科学技术评价要客观、真实、准确地反映不同评价对象的实际情况,增加科学技术评价活动的公开性与透明度,保证评价工作的独立性和公正性,评价结果的科学性和客观性。”、“要优化评价程序,改进评价方法,注重评价实效。”、“建立健全科学技术评价制度,制定改进科学技术评价工作的具体办法和措施,完善各类评价管理办法和实施细则,加强对科学技术评价工作的管理。”虽然没有用“元评价”一词,但以上内容许多涉及元评价的内容。

      在科技评价中推行元评价,具有十分重要的意义。可以发展元评价和科技评价理论,优化评价技术;可以方便评价者按图索骥,寻找影响评价质量的薄弱环节并加以修正;可以提高评价的科学性和公信力,改善评价机构和评价者的声誉;可以提高政府部门对各种评价的管理,最终提高国家的科技创新能力和水平。

      1 文献综述

      关于元评价的内涵和作用。Monica[2]认为元评价是一种潜在的分析评价如何影响组织及评价决策效果的工具。Cooksy[3]的实证研究表明,在评价领域关于元评价实践缺乏公认的理解。Scriven[4]认为元评价是同行评议的顾问,是评价者宣传其评价思想实践的表露,即使部分元评价也比没有元评价好。Stufflebeam[5]认为对人员评价的元评价可以放大评价的优点与不足,有利于未来评价的改进。

      关于元评价应用的领域。Darlene[6]采用元评价方法研究顾客对产品质量测试的参与度。Jakob[7]提出了对研究、发展、技术、创新评价的二次分析框架,用评价合成和元评价一起评价政策干预、政策执行以及政策效果。蒋悦等[8]基于元评价理论,设计了评估目标、评估对象、指标体系与评估方法、运行机制四个维度的政府绩效评估体系架构。

      关于元评价方法的自身的研究和创新。Beywl等[9]对各种各样相似项目评价报告的内容进行综合分析,首次提出评价合成(evaluation synthesis)的概念,包括评价文化和政策干预评价,本质上是一种元分析。Scriven[10]、Worthen[11]认为进程元评价用来提升评价进程的质量,累积元评价用来提供评价者、评价使用者、公众等对评价看法的信息。Hedler[12]认为元分析主要用于原始评价,而元评价是对评价的评价,并且建立了项目评价的元评价分析模型。朱云鹃[13]采用Sperarman等级相关系数进行6种客观评价方法的优选,选取相关系数之和最大的评价方法对创新型企业进行评价。朱少强等[14]认为可以考虑从对评审专家的评价、对评价机构的评价、对行业协会的评价、学术出版认证等角度来构建中国学术评价体系的元评价机制。毛桂英[15]提出坚持评价标准的学术性,建立元评价机制和规范评价操作,是解决当前文科学术评价问题的根本途径。马宁锋等[16]按评价活动中的各种要素来划分元评价的对象,将元评价分为对评价主体的评价、对评价内容的评价、对评价方法的评价、对评价结果的评价四种类型。王敏[17]提出内容分析法、经验总结法、评价信度分析、评价效度分析等四种元评价方法。

      关于评价质量。学者们认为评价质量标准包括系统性[18-20]、透明化[21]、各种方法的平衡性、切题性[22],文化胜任[23]等多个方面。Stufflebeam[5]认为在美国,不同的评价具有不同的评价质量标准。楚广兴等[24]认为过分强调评价方法和指标体系设计的研究,而对科技评价过程的质量控制机制及其控制策略重视不够,已经成为致使评价结果不准确的原因之一。丁福虎[25]认为在科技评价中,评价主体政府化、条件指标过度化、绩效指标泡沫化、评价方法滞后化、加权处理主观化,是影响我国科技评价质量的主要因素。张卫华[26]认为综合评价的质量应该包括综合评价的可靠性、准确性、适用性、可行性、实效性、合理性等。钱存阳等[27]用多元统计分析中的Cronbachα法和因子分析来分别检验评价体系的信度和结构效度。冯晖[28]借鉴软件工程中软件测试的原理方法,提出了基于黑盒测试和白盒测试的元评价方法,以提高评价质量。杨毅等[29]采用斯皮尔曼等级相关系数对科技进步综合评价指标进行分类,确定强相关和弱相关指标,借以分析在指标设立方面存在的问题,优化指标体系等。瞿丽曼[30]通过情报分析方法,对科技成果进行相关文献、公开报道的全方位评价,以提高成果评价质量。张青[31]讨论了线性加权汇总类评价方法失效的因素,并建立了分析框架。

相关文章: