政府购买公共服务评估指标体系研究 ———基于全过程评估的视角
发布于 2021-09-24 20:00
购买公共服务研究
摘 要:文章考虑政府购买公共服务的基本属性,将政府购买公共服务项目的评估维度进行组合,给出了政府购买公共服 务全过程评估的内涵,利用德尔菲法,构建了包括事前决策评估、事中控制评估和事后绩效评估的政府购买公共服务全过程评 估指标体系。事前决策评估围绕服务购买的可行性和必要性展开,且政府支持和需求情况相关指标的权重系数更高;事中控制 评估包括项目计划组织、运作管理和过程控制相关的指标,其中,监督评估和财务管理相关指标的权重系数略高于其他维度的 指标;事后绩效评估包括项目投入、项目产出和项目效应相关的指标,其中,服务成效和资金投入相关指标的权重系数更高。评估指标体系围绕各个阶段的评估目标展开,权重系数分配合理,对提高公共服务的购买效率和供给质量都能起到积极作用。
关键词:政府购买公共服务;全过程评估;购买效率;德尔菲法;供给质量
一
问题的提出
政府购买公共服务能够充分发挥政府和市场的各自优势,提高服务的供给效率,有效缓解公共服务责任重大与资源匮乏之间的矛盾,是公共服务供给的重要方式。具体而言,政府购买公共服务的动因与服务属性、财政压力、市场特征、合同管理和政府监管等因素相关,是实现市场经济下公共服务供给多元化的重要改革。2018年中国服务类采购规模为12081.9亿元,比上年增长35.7%。在中国推行公共服务市场化的宏观背景下,应进一步完善政府购买公共服务的评估机制,加强对购买项目的监督检查和跟踪评估,确保政府购买公共服务的顺利实施。
政府购买公共服务评估是一项包括对决策制定、过程控制和绩效结果等内容进行综合评估的连续的、动态的系统工程,应通过多个评估主体共同参与的综合性评估机制确来保评估结果的科学性和有效性。公共服务评估的原因包括改进服务、承担责任、生产知识、公关策略等,为了更好地发挥评估作用,确保购买效率的实现,评估应贯穿于整个购买过程,同时不能简单地将政府购买公共服务评估等同于绩效评估,而应突破绩效评估的局限,充分发挥事前、事中和事后三个阶段评估的协同作用。
从现有研究成果来看,大部分研究围绕政府购买公共服务的绩效评估展开,部分学者认识到构建包括事前、事中、事后三个评估阶段的全过程评估指标体系的重要性,但指标体系的设计更多地是侧重一个维度或某一类项目的研究。
文章在国内外研究的基础上,结合政府购买公共服务的本质属性,给出了政府购买公共服务全过程评估的基本内涵,然后运用德尔菲法筛选评估指标,构建了一套包括事前决策评估、事中控制评估和事后绩效评估的指标体系,为购买项目评估指标的设计提供参考,以提高公共服务的购买效率,更好地满足社会公众的服务需求。
二
全过程评估的内涵
政府购买公共服务是一种多元主体共同参与[17]的服务供给模式和管理机制,指政府作为购买主体与具有资质的社会力量(承接主体)建立契约关系,将公共服务的提供权转交给社会力量,由其向社会公众提供公共服务,政府对整个购买过程进行监督和管理,按照一定的标准进行绩效评估后利用财政资金向承接主体支付相关费用。政府购买公共服务具有多元参与主体、契约化管理和多重委托代理等基本属性,其评估是服务供给效率实现的重要保障。
近年来,各地开始广泛推行政府购买公共服务评估,并取得了一定的成效,但仍然面临法律制度体系建设滞后、评估机制不健全、评估指标体系不完善、评估结果应用不充分等问题,使得评估流于形式。为了更好地发挥评估效用,越来越多的地区逐渐重视购买项目的全过程评估[18],力争将评估工作渗透进整个购买过程的各个环节,提高公共服务的购买效率和供给质量。政府购买公共服务是一个系统的动态过程,伴随着购买决策的制定、购买活动的开展和终结,对应事前评估、事中评估和事后三个评估阶段,三个阶段评估协同作用,共同组成了政府购买公共服务的全过程评估。政府购买公共服务全过程评估的实施路径如图1所示。
在组织实施评估前,需要结合政府购买公共服务的基本属性和项目特点,构建政府购买公共服务全过程评估体系,明确评估主体[19]、评估对象[20]、评估目的和评估内容等关键要素,为评估工作的开展提供基础支撑。紧接着,根据评估体系设计评估指标和评估标准,选择合适的评估程序和评估方式,再进行评估和结果应用,最后是处理改进和经验总结。
评估指标体系是评估工作的前提和基础,指标体系设计的科学性将直接影响评估效率,只有构建一套系统的、可操作强的评估指标体系,才能得出科学的评估结果。本研究在现有研究的基础上,结合中国政府购买公共服务评估的实践经验和现实需求,构建了事前、事中和事后三阶段多维度组合的全过程评估指标体系。文章接下来探讨评估指标体系的具体内容。
事前评估需要解决“购买”与“不购买”的决策问题,为购买决策的确定和购买方案的制定提供参考意见,主要包括环境支持、可行性和必要性三方面的内容。环境支持是政府购买公共服务实施的重要保障,包括政治、经济、法律和市场等方面的内容[21]。可行性分析能够为购买决策的制定提供基础支撑,包括政府支持、项目设计、购买成本等内容。必要性是购买效率实现的重要前提,包括社会公众的服务需求、政府的购买需求和服务特性三个方面的内容。
事中控制评估是对项目运作过程的评估,解决政府对购买项目的监管问题[22],以确保购买项目的顺利实施。主要包括三方面的内容:一是对购买项目的计划组织过程进行监督,确保项目的顺利启动和采购过程的规范性;二是对项目的运作过程进行管理,以便及时发现购买过程中存在的问题,确保服务项目的顺利推进;三是对项目实施效果进行管理和评估,有助于建立相应的激励约束机制,保证公共服务的供给效果。
事后绩效评估是对购买项目的整体评价[23],主要包括投入产出、品质成效、社会影响三个方面的内容。投入用以测度服务购买项目投入的资金、人力和基础设施等公共资源,产出用以测度项目目标的实现程度。品质成效综合反映项目的实施效果,包括服务质量、项目效益和项目效率等内容。社会影响指服务项目对各个参与主体和社会发展产生影响,主要包括满意度、公平性和项目影响三个方面的内容。
政府购买公共服务评估涵盖了从项目立项到结项的整个过程,不同评估阶段具有不同的评估目的和评估内容,但彼此之间又相互联系、相互影响,政府购买公共服务评估的基本内涵如图2所示。
政府购买公共服务评估的各个评估阶段不是孤立存在的,事前决策评估是购买活动顺利实施的基础,评估结果越好,项目的事中控制效果和项目绩效也越好。事中控制评估的开展情况直接决定项目的事后绩效水平,事中评估也需要对项目进行阶段性绩效评估,及时地发现项目执行过程中存在的各类问题,并制定出相应的应对策略,防止出现不可逆问题造成无法挽回的损失。事后绩效评估是对项目运作效率的整体评估和考核,评估结果为项目资金支付和奖惩制度设计提供依据,同时可以更好地总结经验教训,为后续购买项目的事前决策评估和事中控制评估提供参考依据,有助于进一步完善政府购买公共服务评估机制。总之,政府购买公共服务全过程评估是一个各个评估阶段相互依存、评估效用螺旋上升的评估过程。
三
评估指标体系的构建
德尔菲法是通过匿名方式征求专家意见,经多次反馈和修改,最终得到一个专家意见趋于一致的比较可靠的结论。基于德尔菲法的上述优点,本研究拟采用德尔菲法构建公共服务合同外包评估指标体系,首先,在评估体系的基础上确定了评估指标体系的初步方案;然后设计专家咨询问卷,采用匿名方式收集专家意见,对评估指标进行筛选,确定评估指标体系;紧接着,计算各级指标的权重系数,最终建立起政府购买公共服务全过程评估指标体系。
1.初步方案的编制
本研究借鉴了政府购买公共服务评估指标设计的共性因素,结合中国政府购买公共服务的实践,确定了包括事前决策评估、事中控制评估和事后绩效评估的全过程评估指标体系。
事前决策评估重点围绕环境支持、可行性和必要性3个一级指标展开,包括购买环境、政策法规、方案设计、购买成本、承接能力、需求情况、服务属性、预期效益8个二级指标,总共18个三级指标。事中控制评估主要围绕计划组织、运作管理和过程管理3个一级指标展开,包括项目设计、组织设计、项目采购、过程管理、质量管理、财务管理、风险管理、进度管理和监督评估9个二级指标,总共26个三级指标。事后绩效评估是围绕投入产出、品质成效和社会影响3个一级指标展开,包括项目投入、项目产出、服务质量、项目效益、项目效率、满意度、公平性、项目影响8个二级指标,总共25个三级指标。限于篇幅有限,这里未列出指标体系初步方案三级指标的内容。
2.评估指标的筛选
根据初步确定的评估指标体系编制德尔菲法问卷调查表,收集专家对评估指标的态度,包括“很重要、重要、较重要、不太重要、不重要”5个选项,收回问卷后对专家对指标重要性评价进行量化,分别赋值“9、7、5、3、1分”。
本研究共选取45位政府购买公共服务相关领域的专家,包括15位从事相关研究的高校和科研院所的学者、15位负责相关工作的政府工作人员、15位承接主体的工作人员,这些专家有的具备深厚的理论功底,有的具有丰富的实践经验,对于政府购买公共服务有着深刻的理解和认识。本研究总共包括2轮专家意见咨询,首轮咨询发放问卷45份,回收问卷36份,回收率80%。36名专家的年龄主要集中在30~50岁之间,工作年限为10~20年的人数最多,大部分专家表示对评价指标较熟悉,说明问卷咨询结果具有较好的代表性。第二轮专家咨询总共发放问卷36份,收回问卷31份,回收率86.1%。
肯德尔和谐系数能够有效地检测专家评价结果的一致性,和谐系数越大表示协调程度越好。通过计算两轮专家咨询结果的和谐系数发现:事前、事中、事后三个评估指标体系的第二轮专家意见咨询结果的协调系数分别为0.83、0.84和0.77,均高于第一轮,经χ2检验后,P值均小于0.01,表明专家意见的协调性较好,且逐渐趋于一致,结果可取。
专家评分的统计结果包括满分比、均值、方差和变异系数四项内容,其中,满分比和均值反映评估指标的相对重要性程度,标准差和变异系数反映专家对评估指标重要性评价的差异程度。文章采用百分位数法进行指标筛选,运用满分比、均值和变异系数的百分位数作为筛选界值,以满足“满分比≥满分比数值P15”或“均值≥均值P15”或“变异系数≤变异系数P85”为标准,指标筛选界值见表1。为避免机械地对指标进行删除和纳入,本研究结合专家建议和课题组讨论对指标进行了筛选,部分超过筛选界值但专家给出了修改意见的指标得到保留。同时,根据专家反馈的意见,增加了部分指标,并调整了部分指标的位置和名称,形成第二轮专家咨询问卷。
在第二轮咨询中,专家建议基本是关于指标度量和评分标准制定相关的内容,课题组对照第二轮指标筛选标准,根据专家意见和评分结果对第二轮指标进行了删减和修改,形成最终的政府购买公共服务项目全过程评估指标体系,该指标体系包括59个三级指标,其中,事前决策评估指标体系包括2个一级指标、8个二个级指标、17个三级指标;事中控制评估指标体系包括3个一级指标、8个二级指标、17个三级指标;事后绩效评估指标体系包括3个一级指标、9个二级指标、18个三级指标。
四
评估指标的权重分配
1.指标权重确定方法
指标权重用于区分各个指标在整个指标体系中的相对重要性,能够直接反映指标之间的相互关系,具有一定的表征和导向功能。从现有研究来看,目前学者们更多的是通过构建判断矩阵来计算指标权重,这类方法需要将同一维度中的各个指标进行两两比较,考虑本项研究涉及指标较多,经过与部分专家的沟通和课题组讨论后,决定根据指标的第2轮重要性评分结果计算指标的维度内权重系数,再利用乘积法计算指标的组合权重。用Wit表示t级第i个指标的组合权重系数,其计算公式为:Wit=t-t=1wit。其中,t={1,2,3}表示指标所属的级别,i={1,2,…,mt},mt为指标所属级别的指标总数,wit表示t级第i个指标的维度内权重系数,其计算公式为wit=xitntΣi=1xit,xit表示指标重要性均值,nt表示维度内的指标总数。为了更加全面地反映各个指标的相对重要性,还计算了各个指标的分级权重系数,具体计算公式为:qit=xitmtΣi=1xit。一级指标的分级指标权重系数与其组合权重系数和维度内权重系数的大小相等。
2.权重分配结果
按照上述方法和步骤计算得到事前决策评估、事中控制评估和事后绩效评估指标体系中各级指标的组合权重和分级权重,具体结果见表2、表3和表4。
由权重分配结果可知,评估指标体系中,一级指标的权重系数比较接近,三级指标间的权重系数差异最大。组合权重系数与其所在维度的上级指标权重相关,组合权重系数为指标的维度内权重系数与上一级指标的维度内权重系数的乘积,因此,权重系数大小与维度内指标的数量有关,维度内指标数量越多,指标的组合权重系数越低。组合权重系数更加全面地反映了指标在整个指标体系中的重要性程度,根据组合权重系数得到的项目评分能够系统地反映项目的整体情况。分级权重系数为指标在所属级别的权重系数,其排序可以清晰直观地反映各个指标的相对重要性程度。
具体而言,事前评估指标体系中,“必要性”的分级权重略微高一点。从二级指标的分级权重系数来看,“政府支持”的权重系数最高,政府支持是服务购买活动开展的前提条件,反映了政府这一行为主体在政府购买公共服务中的关键作用。紧接着是“需求情况”“承接能力”“预期效益”和“方案设计”等。三级指标中,“政府是否能够提供财政支持”“公众服务需求的满足程度”“是否出台了政府购买公共服务的政策法规”“项目所针对的问题是迫切需要解决的”“购买方案的可操作性”等指标的在指标体系中的权重系数更高。总体而言,权重系数的合理性较高,与政府购买公共服务的基本属性吻合,为政府购买公共服务购买决策相关因素的分析提供了参考方向。
从事中评估指标体系的权重分配结果来看,一级指标中,“计划组织”的权重略微低一点,“运作管理”和“过程控制”的权重差距甚微。二级指标中,“监督评估”的分级权重系数最高,体现了项目监督和评估在事中控制中的重要作用,紧接着从高到低依次是“财务管理”“进度管理”“项目采购”“质量管理”“过程管理”“风险管理”“组织设计”。三级指标中,“承接主体确定的规范性和公允性”的分级指标权重最高,承接主体的选择直接影响服务质量和服务效果,只有从源头严格把关,才能确保购买效率的实现。分级指标权重排在第二的指标为“跟踪检查和监督评估的有效性”,反映了监督评估工作在项目事中控制中的重要作用。紧接着,“资金使用和支出的合规性”“预算编制的合理性”“人员配备和职责分工的合理性”三个指标的权重较高。整体而言,事中评估指标的权重分配值与评估目标相适应,体现了科学的项目运作管理观念。
从事后评估指标体系的权重分配结果来看,一级指标中,“项目产出”的权重系数最高,同时,“项目产出”维度下“服务成效”的权重系数最高,符合政府购买公共服务事后绩效评估的评估目标,只有注重项目产出效果,才能提高项目的购买效果,为公众提供满意的公共服务。从二级指标的分级权重系数来看,“资金投入”直接决定了服务质量和承接主体的履约情况,其分级指标权重系数只比服务成效略微低一点;紧接着是“服务数量”和“服务质量”,这两项指标直接反映了项目的实施效果,其分级指标权重系数相对较高。三级指标中,“服务对象相关情况的改善程度”的权重系数最高,紧接着是“项目收到的资金拨款”“承接主体的投入的人力”“服务对象对项目服务的满意度”和“项目目标的完成度”等。总体而言,事后绩效评估指标权重系数重点明确、层次分明,与政府购买公共服务绩效管理的初衷吻合。
五
结论与建议
文章基于中国政府购买公共服务评估的现状和困境,结合政府购买公共服务项目的基本属性,分析了政府购买公共全过程评估的必要性和基本内涵,并利用德尔菲法,经过评估体系确定、初步方案编制、指标筛选和权重确定等步骤,构建了包括事前决策评估、事中控制评估和事后绩效评估的政府购买公共服务评估指标体系。
从指标体系的内容来看,事前决策评估指标体系涵盖了政府购买公共服务决策评估的大部分因素,事中控制评估指标体系涵盖了项目实施过程相关的主要内容,事后绩效评估指标体系涉及购买项目绩效考核的核心内容。评估指标体系围绕各个阶段的评估目标展开,对公共资源的利用效率提升、服务质量提高和整个社会的可持续发展都能起到积极作用。从指标权重分配来看,事前评估指标体系中,政府支持相关指标的权重系数最高;事中评估指标体系中,监督评估和财务管理相关指标的权重系数较高;事后绩效评估指标体系中,服务成效和资金投入相关指标的权重系数较高。总体而言,指标权重系数合理,具有一定的理论参考价值。
构建评估指标体系是政府购买公共服务评估的重要环节,能够帮助政府更好地对购买项目进行管理。目前,中国政府购买公共公务评估取得了一定的成效,评估指标体系的设置也在逐步完善,但仍需要从以下几个方面进一步完善:
第一,注重全过程评估,完善评估指标体系设计。政府购买公共服务评估不等同于事后绩效评估,而是应构建一套包括事前、事中和事后三个阶段的全过程评估指标体系,其中,事前评估应围绕项目购买的可行性和必要性展开,主要目的是提高决策制定的科学性;事中评估要将评估工作与项目运作联系起来,提高跟踪检查和监督评估的有效性;事后绩效评估要兼顾项目绩效的经济性和社会性,对购买项目的成效和影响进行系统的评估。
第二,构建多维度组合的评估指标体系。政府购买公共服务评估包括评估主体、评估对象、评估阶段和评估内容等关键要素,各个要素不是孤立存在的,在构建评估指标体系时,充分各个要素和各个环节之间的关联性,注重各个阶段工作的彼此衔接,要将各个评估评估维度进行组合,围绕各个评估主体和评估对象设置不同的评估指标。
第三,落实事前评估,提高购买决策的科学性。事前决策评估主要是围绕购买环境识别、服务需求识别、项目购买计划审定和承接力量审查等内容展开,通过对服务购买的可行性和必要性进行分析能够帮助政府更好地进行决策,排查掉政府购买公共服务的一些初始隐患,以此能够实现政府购买公共服务效率的最大化。
第四,确保评估环节的完整,提高评估效能。为了确保评估目的的顺利实现,需要以全面和发展的眼光看待问题,在落实事前评估的基础上,加强事中评估,利用评估结果对项目进行动态的跟踪管理,同时根据事后评估结果寻找差距和经验总结,使得评估工作不再流于形式,进而提高评估结果的有效性和利用率。
原文发表于《技术经济与管理研究 》2021 年第 7 期
作者简介:彭文敏 (1987-),女,四川万源人,博士,主要从事项目投资决策与评价研究。
本文来自网络或网友投稿,如有侵犯您的权益,请发邮件至:aisoutu@outlook.com 我们将第一时间删除。
相关素材