业务微信:
业务邮箱:1211616850@qq.com
第五章 应急演练评估与改进
第1节 应急演练的评估流程
根据《突发事件应急演练指南》的定义,演练评估是在全面分析演练记录及相关资料的基础上,对比参演人员表现与演练目标要求,对演练活动及其组织过程做出客观评价,并编写演练评估报告的过程。所有应急演练活动都应进行演练评估。
演练评估是一个三方参与的过程,由演练评估组主导,演练组织者辅助,而评估的对象既包括演练参演者,也包括组织者。对参演者而言,评估工作能促使其更好地理解应急行动需求,反思自身表现,发现其在应急预案、应急组织、应急人员、应急机制、应急保障等方面存在的问题,从而积累应急处置经验,提高解决实际问题的能力。对组织者而言,评估工作则能输助其完善应急演练的流程和方法,提高自身应急演练组织能力,不断提升洁练的实用性和适用性。
演练评估过程按时间可以分为评估准备、评估实施和评估总结三个阶段。如图5-1所示,每个阶段都包含了一系列步骤。需说明的是,对组织者的评估覆盖了从演练规划与设计阶段到演练评估与总结阶段,未包含在图5-1中。
一、评估准备阶段
1.组建评估小组
在应急演练规划阶段,确立演练组织方的同时,就应该确定演练评估组组长,并由其牵头组建评估小组。评估小组的核心成员应该是应急管理方面的专家或演练涉及的相关领域专业技术人员,熟悉应急预案、政策、应急程序,熟悉应急指挥系统和应急决策制定过
程,熟悉与演练相关的部门间的沟通协调方式。评估组组长应经验较为丰富,并具有一定的管理能力,能领导和组织应急演练评估的全过程。评估小组的规模应与演练的规模和复杂性相匹配。
在评估准备阶段,评估小组的主要职责包括∶
(1)设计演练评估方案,并开发工具表单;
(2)招募、分配并培训评估员;
(3)准备演练评估所需的工具;
(4)对应急演练规划、设计与准备阶段中演练组织方的工作进行同步观察和记录。
2.制定评估方案
评估方案可以为整个评估团队确立连贯的行动程序和指南。在着手编制评估方案之前,要明确以下两个问题,
1)评估方式
演练评估方式可以按实施演练评估的主体来区分。包括参演者自评、组织者点评和评估员评估三种方式。根据应急演练的目的、形式、规模以及持
续时间等不同,评估的方式可以自行组合。
参演者自评主要通过参演者的自我反思来完成。在演练中每位参演者都归属于。具有特定职责的组织,既要完成自身的任务,也会从他所在的位置对其他参演者进行观察,因此参演者在演练行动结束之后,其对演练过程的感受和经验是非常宝贵的,参演者自评往往会被选为演练评估总结阶段的必要环节。参演者自评包括填写演练反馈表、写液练盛想/自评报告,或召开研讨会三种形式。自评的内容可以包括自身发挥好的方面、需要改进的方面;其他参演者值得借鉴的方面、其他参演者需要改进的方面;对组的方的建议等。
组织者点评主要是站在总体的角度对参演者的表现进行评述。评估员评估则是根据预先设计的评估项和评估标准,对每个演练目标的完成情况进行评述。因此在设有评售员的情况下,组织者的点评应尽量简短,以肯定为主,将主要的问题留给评估员分析总结,对设有热反馈环节和事后研讨会环节的应急演练,一般热反馈环节以参演者自评和组部者点评为主,事后研讨会环节以评估员汇报评估结果为主。
2)评估需求
确定了评估方式后,就需要进一步界定该方式下的评估需求,包括评估工作的内容、程序、拟采取的评估标准和方法、所需的评估员人数、评估员的技术领域、观察演练所需的工具、记录演练所需的表单、工作手册、工作计划等。
评估方案以演练方案为依据,将上述评估方式和评估需求落到纸面,评估方案包含的要素已在第三章第二节"三、制定评估方案"中列出,此处不再赘述。
3.开发评估文件
评估文件主要包括评估员的工作手册和评估用的多种表单。工作手册是评估员培训的主要文件,其基本内容可以从演练方案中摘取并进一步细化。对于大规模演练,分配到不同功能区的评估员的评估内容、行动程序、工具表单、注意事项等可能不同,则工作手册应有所区分。评估员手册的主要内容已在第三章第二节"四、编写演练手册'中列出。
评估表单是实施评估工作的标准化工具,用于辅助评估员收集信息和分析判断。评估工作是非常细致复杂的,要确保其评估内容的完整性、评估方法的科学性以及评估标准的一致性,需要一套详细的工具表单来支撑。评估表单根据其用途可分为演练活动观察记录表、演练活动观察评估表、组织活动评估表、各类参与者反馈表、演练分析表、演练改进表等,其作用及对应的使用阶段如表5-1所列,评估小组可根据实际需要开发相应表单,并培训评估员熟练使用这些工具。
下面给出系列评估工具表单的样式,可供评估小组参考。评估表单的设计要兼具桥准化和个性化特点,并明确评估对象(组织机构)、评估内容(目的、目标、行动)、评估标准(指标细则)与评估方法(评分、评级、描述)等内容。
1)演练活动观察记录表
该表的作用表现在两个方面∶一是提供空间让评估员记下一些关键信息,如时间点、关键人员、参演者特殊反应等;二是针对不方便评估员直接进行评分或评级的项目,需要评估员用简短的描述性语言进行记录,以便事后分析。可以参照表5-2设计观察记录表。一个演练目的下有多个演练目标,或一个演练目标下有多个预期响应行动的,可以扩展此表格。为了让评估员能够更好更详细地观察和记录,应提前梳理出预期响应行动的关键点。
2)演练活动观察评估表
该表与观察记录表的不同在于,该表格涉及的评估项目是不需要评估员做描述性记录的,而是直接作出评分(如1~10 分)、评级(如 A~D级),或有/无、是/否等判断,表5-3提供了一个设计参考。使用这种表格时,要求评估组事先梳理评估指标项,确保其可定量评分或定性评级。在附录A《生产安全事故应急演练评估规范》(AQ/T 9009—2015)的资料性附录A.1、附录 A.2中提供了许多项评估内容,其中附表 A-2"实战演练实施情况评估表",以及附表 A-3"桌面演练评估表"中的"演练实施"相关项,其主要评估对象为参演者。在附录C第五节中也提供了美国 HSEEP的应急演练评估指标体系的部分内容,这些都可作为设计演练活动观察评估表的参考。
3)组织活动评估表
组织活动评估表(表5-4)与参演者反馈表(表5-5)中对组织工作评估部分的不同之处在于,该表是从评估员的角度来对组织工作进行评估,是一个时间跨度和观察角度更全面的评估表。但由于组织行动往往先于评估行动,且组织行动在时间和空间上都比较分散,,因此很难像观察参演者那样去观察组织者。对组织活动的评估往往是在演练结束后,通过汇总多方过程文档来进行的。表5-4提供了一个设计参考,在附录A《生产安全事故应急演练评估规范》的资料性附录A.1、附录 A.2中提供了许多项评估内容,其中附表A-1"实战演练准备情况评估表",以及附表A-3"桌面演练评估表"中的"演练策划与准备"相关项,也可作为设计演练组织活动评估表的参考。
4)参演者反馈表
该表用于热反馈阶段或事后总结阶段,收集参演者的感想感受、意见建议,一般采用主观题与客观题结合的方式。表5-5提供了一个设计参考。参演者有扮演指挥中心的、扮演专业救援队伍的、扮演公关团队的等多种角色,对于不同的角色,反馈表的侧重点可以有所不同。此外,对于大规模应急演练,也可以类似地编制针对组织者、观摩者、模拟者的反馈表。
5)演练分析表
演练分析表是在汇总上述记录、评估、反馈数据,并对数据进行初步分析后整理的表格,表中梳理了整个演练的有益经验、主要问题、原因分析和改进建议,是评估团队在形成评估报告之前,和组织者、参演者进行讨论的依据之一。该表一般由评估组长指定专人填写。该表格可以针对整个演练进行分析,也可以拆分成针对每个参演的组织机构进行的独立分析,表5-6提供了一个设计参考。
6)演练改进表
该表由负责改进的组织机构,参照评估团队提出的改进建议,进行逐项的分析并细化,形成改进行动,并明确负责人和改进进度计划。表5-7提供了一个设计参考。评估组收集或督促参演机构完成此表,以便组织者后继的监督跟进。
4.招募、分配和培训评估员
确定评估方案后,评估小组便可着手进行评估员的招募、分配与培训工作。此时招募的评估员,其任务是在演练实施阶段观察记录演练行动并做出初步判断,以及在演练结束后辅助评估总结工作。
1)招募评估员
如演练规模较小,初期成立的评估小组可以胜任评估工作,则可不必进行评估员的再招募。如演练规模较大,复杂程度较高,初期成立的评估小组无法覆盖,则可从演练组织内部或外部招募评估员。招募前由评估组长确定所需评估员的人数、类型、需具有的专业技能等。
参与应急演练规划和设计的人员可以成为评估员的选择,因其熟悉演练需求、目的和目标,在实施阶段能够很好地理解参演者的应急行动,并对其做出较为准确的评判。其次是与参演者所属部门职责相似的邻近地区的突发事件管理机构人员、应急处置机构人员等,因其熟悉参演者职责和应急工作流程,或熟悉参演者所具备的专业技能,也能较好地承担演练现场的评估工作。具有应急管理经验,或者演练涉及相关专业领域知识的专家学者也是评估员的招募对象之一。
经常组织演练的单位应考虑做一个长期规划,建立和发展一支受过训练的评估人员队伍,以积累评估经验,提升评估工作的品质。
2)分配评估员
根据演练被评估的目标数量、演练实施过程中所需观察点的数量、观察的内容和项目等,对评估员进行合理分配。评估员所具有的专长、技能和经验应与其被分配的区域和任务相匹配。例如位于新闻发布现场的评估员,应具有一定的公共关系知识和媒体应对经验,这样他们就能更敏感地捕捉
发言人传递的信息,做出更准确的判断。
关于演练评估区域的划分,在制定评估方案时就应确定好,而评估员的分配方案;则在培训工作开展之前就应该确定好。
3)培训评估员评估员的职责包括∶
(1)了解演练目的和目标,熟悉演练场景;
(2)演练过程中在指定区域位置观察并收集信息;
(3)参与热反馈和事后评估会议;
(4)协助评估组长分析评估数据,撰写演练评估报告。
为确保评估员各履其职,评估组长必须在演练实施之前组织所有评估员参加岗前训。培训的内容可以包括如下几个方面∶
(1)学习相关的应急政策、预案和程序;
(2)了解对应的观察对象的基本情况;
(3)了解演练的目标、情景设置以及预期行动设计;
(4)熟悉评估员手册和演练评估工具表单,清楚要收集的关键数据;
(5)了解演练现场的功能划分,明确观察位置;
(6)了解演练规则及注意事项;
(7)学习基本的评估程序、观察技巧、数据记录方法和分析方法。
5.做好预备工作
在演练实施之前,准备并核实评估工具和文件到位情况,包括记录用的笔记本电脑,录音笔、摄像机,用于沟通联系的对讲机、电话、传真机等工具,并将评估实施阶段要分发的文件打印装订完毕。
召开全体评估员的预备会;核实评估员的职责和分配;确保评估员熟悉演练现场的地理情况和相应的负责人/联系人,明白自身的观察位置;阐明特殊情况;回答评估员尚未理解的问题等。
二、评估实施阶段
当应急演练正式启动,评估工作也随之进入实施阶段,这一阶段评估员最主要的任务便是利用各种表单工具进行数据收集,包括如下方面;
1.观察并记录参演者行动
对演练过程中发生的事件,尤其是关键的讨论、决策、行动的细致和完整记录,是后期做出全面和准确分析评判的基础和根据。评估员在演练开始
前需要熟悉自身即将面对的情景、观察的对象及其预期行动,对每个事件场景都事先想好观察的角度,明确需重点关注的行为以及对该行为的评判标准。在实施阶段重点记录;
(1)关键行动的基本信息,如做出决定/采取行动/结束行动的时间点、采取的行动方案、关键信息获取方式及信息内容、行动效果等;
(2)评估指标的完成程度,为跟上演练进程,一般采用是/否等选项,让评估员快速做出判断;
(3)偏离预期行动,或者有违于预案、处置标准流程等规范文件的行为,或者导致演练目标无法实现的关键因素,此类数据应详细记录;
(4)参演者创造性解决问题的活动。
为减少评估员的主观因素和个人能力对数据收集工作的影响,建议无论演练规模大小,都要设计标准化的工具表单,辅助评估员开展此项工作。
需要注意的是,在演练实施阶段,评估员只是一个旁观者的角色,不应做出任何有可能引导或提示参演者的言行。参演者如对评估员提出问题,评估员需转交给现场的演练导调组。同时评估员也不应该给现场媒体提供任何信息或发表自己的意见,如有媒体要求采访,评估员提供负责演练新闻发布的组织机构的联系方式即可。
2.对参演者行动做出初步判断
在观察和记录演练过程的同时,评估员也会对参演者的行动水平,以及对演练目标是否达成做出一个初步的判断,这个初步判断主要依据的是评估者自身对演练目标的理解,或者是依据评估者自身的实战经验,在观察记录工具表单上可以预留一部分空间,供评估员即时记下初步的分析、感想、建议等。
3.参加热反馈
演练结束后应立即举行组织者、参演者及评估员共同参与的交流会。该会议是评估员进一步理解参演者的行动意图、澄清要点、收集缺失信息的机会,其作用主要表现在∶
(1)通过与参演者进一步讨论,补充记录演练期间发生的情况;
(2)收集参演者对演练设计和组织的评价;
(3)澄清某些评估者未理解的问题;
(4)如参演者集体参加了热反馈会议,也可以在此时请参演者填写参演者反馈表。关于热反馈会议的流程在第四章已经有所介绍,此处不再赘述。
4.补充调查
必要时,评估员可以组织个人访谈、局部座谈等小范围调查活动,或者请参演者代表提交自评报告等材料,继续补充数据。评估员还可以从演练过程中参演者使用的信息系统中导出记录来补充信息。
三、评估总结阶段
1.汇总及分析数据
当评估员收集完数据,整理好每一张评估表单后,评估组长负责组织评估员汇总数据,并进行初步分析。
1)回顾演练过程
按演练时间顺序对每一个演练目标下的演练行动进行回顾、分析和评述,这一过程需要所有评估数据支持,因此需要全体评估员共同参与。通过评估员对所记录数据的解释互相讨论,辅以图表,消除收集的数据的差异性,建立起以待检验的应急能力和演练目有为主线的所有要点的综合数据表。
2)分析数据并提出建议
针对每一个演练目标,对该目标的实现程度、该目标下关键任务的完成情况进行分析,一般每一个点都可以包括客观情况描述(评估者观察到的实际情况)、依据评估标准能评分情况、演练中表现出来的优势、存在的问题、问题深层次原因分析等几个方面。针对导致问题的深层次原因,评估员可以从预案、体制、机制、设施、培训等方面提出改进建议,
2.起草评估报告
作为评估工作的总结,由评估组长牵头撰写一份正式的评估报告,对整个评估过程,收集的数据和分析结果进行全面总结。根据《突发事件应急演练指南》的建议,评估报告可以从演练执行情况、预案的合理性与可操作性、应急指挥人员的指挥协调能力、参演人员的处置能力、演练所用设备装备的适用性、演练目标的实现情况、演练的成本效益分析等方面进行阐述。在框架上一般包括:
(1)评估工作概述,包括评估内容、评估依据、评估方式、评估标准、评估程序等信息。
(2)演练总体情况,包括演练基本信息(时间、地点等),对演练目的、范围、情景、参演机构的概述,对演练实施整体情况、参演者整体表现的评述。
(3)评估结果,根据评估表单分类整理各个评估指标项的得分、等级或评语。
(4)重点问题分析,对演练中组织者与参演者展现的好经验、暴露出来的主要问题进行详细分析。
(5)改进建议,可以按阶段分为短期、中期、长期改进建议;按对象分为演练组织的改进建议和参演者应急能力的改进提升建议等。
3.召开评估会议
评估员的评估意见需传递给参演者与组织者才能发挥其作用,提出的建议也只有得到组织者和参演者认可才可能落到实处。因此组织者在评审过评估报告初稿后,还需进一步组织研讨会,请主要的组织者、导调员、参演机构的领导及代表、观摩演练的专家、模拟员代表等多方一起来讨论分析结果,并共同研究改进的建议。
为提高研讨会效率,评估组可以事先将评估报告初稿发至各参会方供其阅读,并在会上派专人做口头介绍,对一些总结性的评定以及改进措施需专门列出并提请会议重点讨论。对与会者的意见,评估组安排专人记录,并在会后梳理归纳,将有用信息整理补充入评估报告中。
4.完成并发布评估报告
最终成稿的评估报告是后继跟踪和督促各单位改进的依据,反映了组织方、参演方和评估方的综合意见,在正式发布之前需经过各方审阅,并上报当地政府部门及上级部门审批。审批通过后,按照相关保密规定在许可的范围内进行发布,以推广演练经验,扩大应急演练成果的影响力。
第二节 演练总结及后继任务
一、应急演练总结
根据《突发事件应急演练指南》,演练总结可分为现场总结和事后总结。现场总结会即为上述的演练后的热反馈,由组织者、现场专家、评估员等对演练进行点评和初步总结。事后总结可以分为两个层次,总体层由演练组织者组织,全体参演者参加或参演单位派代表参加,可以和评估会议合并召开。各参演单位也可以各自组织演练总结会;对本单位的演练情况进行更细致的总结。
在演练结束后,由组织者牵头,根据演练记录、演练评估报告、应急预案、现场总结等材料,对演练进行系统和全面的总结,并形成演练总结报告。演练总结报告的内容可以包括演练目的、时间和地点,参演单位和人员,演练方案概要,发现的问题与原因,经验和教训,以及改进有关工作的建议等。
二、后继任务
演练结束后,演练组织单位应将演练计划、演练方案、演练评估报告、演练总结报告等资料归档保存。
对于在总结报告中提出的改进建议,相关应急组织应拟定改进计划,演练组织者安排人员监督整改措施落实,并跟踪改进进度,确保演练的效益大化。整改措施一旦被实施,相关应急组织的应急能力应有一定提升,这种提升可以在新的应急演练中被检验和验证,从而对改进计划做进一步的修订,不断提升应急组织的应急管理能力。
我们是“实践经验”的 搬运工 食品药品安全应急处置经验搬运工
应吉演练日报
应吉演练周刊