DEPPP2019 Modulo VI.3
DEPPP2019 Modulo VI.3
DEPPP2019 Modulo VI.3
Contenido
MÓDULO VI. EL PROCESO DE UNA EVALUACIÓN Y SEGUMIENTO A
RECOMENDACIONES Y HALLAZGOS.................................................................................................. 2
Introducción............................................................................................................................................. 2
Lección 17. Programa Anual de Evaluación y Coordinación con diversas instancias ....... 3
Lección 18. El proceso de contratación de una evaluación ....................................................... 6
Elaboración de los Términos de Referencia y procedimiento administrativo de
contratación ......................................................................................................................................... 9
Seguimiento del Proceso de Evaluación ................................................................................... 11
Integración del informe de Evaluación ....................................................................................... 14
Posición Institucional y publicación del informe .................................................................... 18
Calidad de las evaluaciones .......................................................................................................... 19
Lección 19. Aspectos Susceptibles de Mejora y el Modelo Sintético de Información del
Desempeño ............................................................................................................................................ 21
Aspectos Susceptibles de Mejora ............................................................................................... 22
Aspectos Susceptibles de Mejora que derivan de los distintos tipos de evaluación ... 28
Modelo Sintético de Información del Desempeño................................................................... 30
Referencias ............................................................................................................................................ 36
1
MÓDULO VI. EL PROCESO DE UNA EVALUACIÓN Y
SEGUMIENTO A RECOMENDACIONES Y HALLAZGOS
Introducción
Si bien es importante conocer los tipos generales y específicos de evaluación en México y las
metodologías de investigación necesarias para obtener los resultados esperados, también es
indispensable conocer la forma como se lleva a cabo el proceso de contratación y conclusión de
una evaluación así como el uso que se le da a la información generada por las evaluaciones una
vez que estas terminan. Con esta idea en mente, el Módulo VI del Diplomado tiene como objetivo
que los participantes conozcan el proceso de las evaluaciones en México y el destino de la
información una vez concluidas las evaluaciones.
En la Lección 17 se revisa en términos generales el Programa Anual de Evaluación (PAE)
que como su nombre lo indica, se publica de forma anual para dar a conocer las evaluaciones que
se llevarán a cabo o que comenzarán durante el ejercicio fiscal en curso y a los Programas
federales a los cuales les aplica. Es importante tomar en cuenta que el PAE solo aplica a los
recursos federales por lo que los recursos propios de entidades federativas, municipios y
Demarcaciones Territoriales de la Ciudad de México no están considerados en el PAE federal. En
el siguiente Módulo se estudiará la situación específica para gobiernos locales.
A lo largo de la Lección 18 se estudia el proceso de definición y contratación de una
evaluación desde la hechura de los Términos de Referencia hasta la recepción del Informe Final
haciendo especial énfasis que se le debe dar a la evaluación. Sobre este punto es importante
destacar el papel de la Unidad Responsable del Programa y del área de evaluación de desempeño
de la dependencia o entidad a la cual está adscrito el Programa no se limita a contratar a un
evaluador y posteriormente recibir el informe. Es indispensable que ambos actores participen de
manera activa de la forma como se describe en esta Lección.
Una vez concluida una evaluación, en el Informe Final se presentan una serie de
recomendaciones o hallazgos para mejorar el Programa presupuestario. En este punto, es
indispensable que se establezcan los Aspectos Susceptibles de Mejora (ASM) que son los
hallazgos, debilidades, oportunidades y amenazas identificadas en la evaluación las cuales deben
ser atendidas para mejorar el programa. En la Lección 19 se explica la importancia de que se le
dé un buen seguimiento a la atención de los ASM para garantizar que el esfuerzo realizado en la
evaluación se traduzca en mejoras al Programa y por ende a la optimización del ejercicio del gasto
público.
En la misma Lección 19 se aborda el Modelo Sintético de Información del Desempeño
(MSD) que es un instrumento que consolida y sintetiza la información de desempeño de los
Programas presupuestarios con el fin de promover su vinculación con las decisiones
presupuestarias. Gracias al MSD se puede ver la información de todos los Programas de la APF
para poder determinar su desempeño y con esta información nutrir al Sistema de Evaluación del
Desempeño.
2
Lección 17. Programa Anual de Evaluación y Coordinación con diversas
instancias
Hasta el momento se han publicado trece ediciones del PAE, siendo la primera del 30 de
abril de 2007 y la última el 16 de abril del presente año. A lo largo del tiempo el contenido del PAE
ha ido cambiando con el fin de afinar los procesos de coordinación entre las distintas instancias
involucradas y porque cada vez son más las evaluaciones que se llevan a cabo durante los ciclos
fiscales. En la Figura 17.2 se resume la estructura del PAE 2019.
3
Figura 17.2 Estructura del PAE 2019
En las Consideraciones Generales se presentan los objetivos del PAE; el glosario de los
principales términos que se utilizan en el documento; se definen a las instancias coordinadoras;
se establece la procedencia del presupuesto para las evaluaciones; y se mencionan las
consideraciones para la difusión de resultados. Sobre este último punto es importante recordar
que las evaluaciones del desempeño en el marco del SED son información pública que
adicionalmente forman parte de los informes trimestrales que el ejecutivo federal le hace llegar al
Congreso de la Unión.
En las Consideraciones Específicas se detallan algunas situaciones que aplican solo
algunos tipos de Programa, es decir, para la evaluación de Fondos de Aportaciones Federales,
para la evaluación de políticas trasversales y para Pp con recursos federalizados en concurrencia
de recursos. También se hacen especificaciones sobre la generación de información estratégica
para la toma de decisiones y sobre las Fichas de Información Básica.
En las Acciones de Monitoreo se establecen los criterios para la coordinación de la
aplicación y análisis de los instrumentos de monitoreo de políticas públicas y Pp federales y
Fondos de Aportaciones Federales. También se establecen las bases para los estudios sobre el
monitoreo de políticas y programas sociales y para la consolidación del Sistema de Monitoreo de
Programas Sociales. Por su parte, en el Proceso de Evaluación se explicitan las
responsabilidades que las áreas de evaluación o instancias de coordinación tienen al momento de
realizar las contrataciones de las evaluaciones.
En los Tipos de Evaluación se describen de forma general lo que cada una de las
evaluaciones del desempeño deberá cubrir. Para 2019 se tienen contemplados Programas de
nueva creación propuestos para el Proyecto de Presupuesto de Egresos de la Federación (PPEF)
2020, evaluaciones en materia de Diseño, de Consistencia y Resultados, de Procesos, de Impacto,
Específicas, Estratégicas, Complementarias y otras. Recordando lo revisado en los Módulos IV y
V de este Diplomado, las evaluaciones más complejas como pueden ser las de Impacto y algunas
4
de Consistencia y Resultados pueden abarcar más de un año por lo que también están
consideradas en esta Fracción.
En el Uso de las Evaluaciones se establecen los fundamentos para la generación de los
ASM derivados de las recomendaciones y hallazgos que se presenta en informes y evaluaciones
externas. Como su nombre lo indica, en el Cronograma de Ejecución se marcan los plazos o
fechas límites de entregas a las instancias de coordinación correspondientes. Finalmente cabe
mencionar que las evaluaciones que se deberán llevar a cabo y el tipo de evaluación a realizarse
se encuentran descritos en los anexos del PAE.
En el ámbito federal, la evaluación de los programas y políticas públicas sigue un proceso
general basado principalmente en lo que establecen los Lineamientos (2007), y en los diferentes
PAE de cada ejercicio. Sin embargo, este proceso sigue básicamente las directrices que se
describen en la Figura 17.3.
Figura 17.3 Directrices del proceso general de evaluación
5
Para el caso de las evaluaciones del tipo “complementarias”, el proceso se detona en
cuanto la dependencia o entidad informa a la SHCP-UED y al CONEVAL la decisión de su
realización.
Si bien la determinación de evaluar un Programa o política pública puede surgir desde el PAE del
ejercicio fiscal en curso, también puede surgir por necesidades propias de la dependencia o
entidad responsable. Para las evaluaciones de este último caso es importante definir lo que se
quiere medir, las razones por las cuales se quiere llevar a cabo esa medición e identificar los
cambios que se pretenden lograr con los hallazgos. Después de este ejercicio, se debe buscar
que tipo de evaluación es la que más me conviene de acuerdo con lo revisado en los Módulos IV
y V de este Diplomado y con lo establecido en los Lineamientos. En el Ejemplo 14 se aborda un
caso hipotético de un programa de prevención de la delincuencia que busca determinar el tipo de
evaluación que requiere para caracterizar un problema que los responsables del programa ya
tienen identificado.
Ejemplo 14
Caso hipotético de un programa de prevención de la delincuencia
Una vez revisada la estructura general de PAE se cuenta con las herramientas necesarias
para comprender el proceso de definición y contratación de las evaluaciones, mismo que se
describe en la Lección 18.
Después de identificar el tipo de evaluación que se va a llevar a cabo de acuerdo con el PAE o
con las necesidades de información que tiene determinado Programa, se procede a llevar a cabo
el proceso de contratación de la evaluación. Primero que nada es importante identificar el
presupuesto con el cual se dispone. Por cuestiones éticas y para que exista igualdad de
oportunidades, las instancias de coordinación no están facultadas para recomendar evaluadores,
por lo que los responsables de los Programas deberán llevar a cabo una investigación de mercado
por su cuenta.
Como recomendación se puede consultar en el Portal de Transparencia Presupuestaria
en el Anexo 4 de las evaluaciones, los costos de ejercicios de evaluación similares a los
requeridos. En las fichas de posición institucional también se pueden consultar los costos de las
evaluaciones y la opinión de las instancias de coordinación sobre la evaluación entregada. Cabe
mencionar que estas fichas se comenzaron a generar en 2017 por lo que no están disponibles
para las evaluaciones anteriores. A continuación, se explica la forma para acceder a estas fichas
de posición institucional.
6
1) Ingresar al Portal de Transparencia Presupuestaria:
https://www.transparenciapresupuestaria.gob.mx/
7
4) En el Anexo 4, que es el primer archivo que aparece en la carpeta comprimida se puede
encontrar los costos de la evaluación.
8
Ya que se tiene bien definida la relación entre el costo de la evaluación en relación con el
alcance de la misma, se procede a la elaboración de los Términos de Referencia y se inicia el
procedimiento administrativo de contratación.
Tal como se revisó en los módulos IV y V de este mismo Diplomado, existen diferentes tipos de
evaluaciones que poseen un modelo de Términos de Referencia (TdR) preestablecido que sirve
como guía para contratar evaluaciones. En ocasiones dichos TdR pueden adaptarse para agregar
más temas a investigar o para explorar metodologías adicionales; todo dependerá de las
necesidades de evaluación que requiera el programa o acción. La intención de unos TdR
prestablecidos son primordialmente tres:
1) Definir una metodología adecuada para obtener los resultados esperados.
2) Estandarizar la forma de presentar los hallazgos lo que permite establecer
comparaciones de desempeño entre los programas y entre periodos. Esto es muy útil para
observar la evolución de los programas.
3) Que sirvan de guía para realizar el estudio de mercado así como para la contratación de
un servicio de consultoría igual o similar.
En caso de que una dependencia o entidad lleve a cabo una evaluación que se encuentre
en el PAE y a ésta le aplique un modelo de TdR definido, se podrán proponer adiciones que
fortalezcan los resultados y utilidad del ejercicio evaluativo, para lo cual deberá solicitar el visto
bueno de la instancia de coordinación que corresponda. Para conocer la estructura de un modelo
de TdR, en la Figura 18.1 se resume el contenido correspondiente a programas no sociales.
9
Figura 18.1 Modelo de TdR de evaluaciones en materia de Diseño
10
En las tres primeras partes del modelo de TdR tienen como objetivo el orientar a los
responsables de los Programas para que especifiquen cuáles son los motivos para llevar a cabo
la evaluación en materia de Diseño y especifica la forma como se debe presentar el informe final;
que básicamente es respondiendo a 24 preguntas distribuidas en cinco apartados obligatorios. En
caso que la Unidad Responsable requiera la respuesta de preguntas adicionales, estas deberán
ser agregadas.
A partir de la cuarta sección “Evaluación: características del programa” se presentan las 24
preguntas y los principales criterios que se deben considerar para responderlas. De la quinta a la
séptima parte del modelo se hacen especificaciones sobre la forma como se deben llevar a cabo
el análisis de los resultados incluyendo un análisis FODA y la presentación de hallazgos y
recomendaciones con base en este análisis. Los últimos apartados del modelo están reservados
para la descripción de cuestiones administrativas y el cronograma de trabajo en el cual el
evaluador externo plantea el cronograma y plan de trabajo anexo para la ejecución de la
evaluación. Una vez concluida la negociación y firma de los TdR, la Unidad Responsable deberá
realizar los procedimientos administrativos correspondientes con apego a la normativa que regula
los procesos de adquisiciones de la dependencia o entidad a la cual está adscrita.
Uno de los elementos para asegurar la calidad de las evaluaciones es el seguimiento que
le otorgue, en especial, el área de evaluación del desempeño de la dependencia o entidad a la
cual está adscrita el Pp. Si bien el seguimiento de los responsables del Programa es importante,
son los del área de evaluación los que tienen mayor experiencia en esta materia. A pesar de que
algunos de los actores involucrados en una evaluación se han mencionado desde el Módulo IV de
este Diplomado, en la figura 18.2 se presentan aquellos cuya presencia es imprescindible.
Figura 18.2 Principales actores en el Proceso de Evaluación
11
Los gerentes o tomadores de decisiones de alto nivel son personas que ocupan diversos
puestos como la Dirección General del programa, los encargados del presupuesto, de tecnologías
de la información, de comunicación social o de las áreas correspondientes dependiendo del tipo
de evaluación que se trate. Con respecto a la dirección de evaluación del desempeño, es
importante que ésta sea independiente de la operación del programa. Muchas veces corresponde
a la Dirección General de Programación, Organización y Presupuesto (DGPOP). Finalmente, cabe
mencionar que los revisores son actores opcionales y pueden ser representantes de organismos
financieros internacionales tales como el Banco Mundial, el Programa de las Naciones Unidas para
el Desarrollo (PNUD), el Fondo Monetario Internacional (FMI) entre otros.
El seguimiento del proceso de evaluación debe darse desde el comienzo, es decir, después
de haber asignado el contrato de la evaluación. Sin embargo, esto dependerá en gran medida de
lo que se haya estipulado en los TdR, el tipo de evaluación y del tiempo con el que se cuente. Los
principales factores a los cuales se les debe dar seguimiento se describen en la Figura 18.3.
Figura 18.3 Factores del Proceso de evaluación a los que se les da seguimiento
12
La principal herramienta de seguimiento del proceso de evaluación son las reuniones entre
los actores involucrados en el proyecto. Se recomienda que en cada reunión se firme una lista de
asistencia para ir documentando la revisión. En algunas ocasiones por la naturaleza de los temas
tratados se propone realizar minutas de las reuniones para que el proceso de documentación sea
más sólido. A continuación se describe cómo se considera el seguimiento más idóneo:
Primera reunión
La intención de esta primera reunión es que todas las partes conozcan qué hace cada uno de
ellos, así como el alcance de la evaluación. En ésta se hace la presentación de los actores
involucrados señalando cuál es el rol que desempeñan dentro de la evaluación. El equipo
evaluador debe presentar los objetivos de la evaluación, la forma como los abordará y de
preferencia que se presente el cronograma de actividades. Por su parte los responsables del
Programa o de la “acción evaluada” exponen a los evaluadores el Fin y Propósito considerados
en la MIR; la población potencial, objetivo y atendida; y los apoyos otorgados en los casos en los
que aplique. Para los programas no sociales o que no entreguen apoyos a la población objetivo
se recomienda presentar el área de enfoque atendida y los productos entregados entendidos como
los bienes o servicios que conforman los Componentes de su MIR. Se puede invitar a la instancia
coordinadora, aunque su participación no es necesaria en esta etapa.
Segunda reunión:
Comúnmente en esta segunda reunión se lleva a cabo después de que se entregó el primer
producto de la Evaluación y tiene como objetivo el comentar los detalles sobre el mismo. La
idea es transmitir las observaciones que las áreas revisoras hicieron, haciendo énfasis únicamente
en los comentarios más importantes de forma y de fondo. Tal como se mencionó en las Lecciones
anteriores, los comentarios hechos por los responsables del Programa o por la dirección de
evaluación del desempeño de la dependencia o entidad pueden o no ser atendidos por los
evaluadores. Por esta razón es importante que dichos comentarios estén debidamente
justificados.
La totalidad de los comentarios se entregan por oficio anexando un documento Word para
que sean atendidos de la misma forma, se sugiere que la entrega sea antes de la emisión del
segundo producto o de la fecha límite del primer pago contra entrega a satisfacción. Adicional a lo
anterior, esta es la oportunidad para abrir el espacio para aclarar dudas que tuviera el equipo
evaluador sobre la operación o información del Programa evaluado.
Tercera reunión:
Aquí se analiza el segundo entregable. En el mismo tenor de la segunda reunión, en esta se
busca tratar solamente los comentarios más significativos, crear un dialogo para aclarar las
inquietudes, pero sobre todo, analizar los hallazgos que seguramente han comenzado a
presentarse. Es muy importante que el equipo evaluador empiece a perfilar las recomendaciones
y que las comente con los demás actores para que conozca cuáles son las condiciones que posee
el Programa para implementarlas. Algunas veces, las ideas de los evaluadores ya han sido
tratadas de desarrollarse, pero por diversos motivos culturales o de normatividad estos no pueden
aplicarse. De igual forma que la reunión anterior los comentarios deben ser entregados por oficio,
solicitando la respuesta antes de la siguiente entrega o del pago a entera satisfacción.
Cuarta reunión:
En este momento ya se tiene la primera versión del Informe Final de Evaluación y el equipo
evaluador ya cuenta con el análisis FODA. Además de comunicar las nuevas observaciones y
13
entregarlas por oficio, se debe exponer qué hallazgos son los que se consideran medulares y qué
recomendaciones podrían ser las más aptas para atenderlos. La idea es que en esta reunión se
perfilen las recomendaciones que podrían ser más factibles de atenderse y sobre todo, conseguir
los cambios más significativos para mejorar el desempeño del Programa o acción.
En esta etapa, las áreas revisoras, deben cuidar que no se pierda la imparcialidad del
equipo evaluador, pues la intención de compartir las propuestas de cambio del equipo evaluador
es crear un dialogo, donde cada uno de los actores conozca el límite o contexto del otro. Si
después de esta reunión se tiene el Informe Final de la evaluación se puede dar por terminadas
las reuniones de revisión. De lo contrario, estás pueden ocurrir tanto como sea necesario y como
el contrato lo permita (por eso se debe estipular en los TdR que los evaluadores deben asistir a
cuanta reunión sea solicitada).
Quinta reunión (sumamente deseable y recomendable):
Se ha observado que cuando el propio equipo evaluador difunde los hallazgos y
recomendaciones a todo el personal del Programa o acción evaluado, el uso de la evaluación
aumenta y por ende los cambios que se esperan lograr. Por lo que, las áreas encargadas de la
evaluación, deben calcular bien los tiempos de ejecución y revisión para que sea posible que los
propios evaluadores expliquen en qué consistió la evaluación, qué evidencia encontraron y cómo
sugieren mejorar las cosas.
El éxito de una evaluación puede determinarse en la medida en que sus resultados sean utilizados
por los diversos interesados en los programas y políticas públicas evaluadas. Para ello, el Informe
Final de una Evaluación resulta fundamental. Éste ayuda a comprender el contexto metodológico
y operativo en que se realizó el ejercicio, da certeza respecto de la validez de los hallazgos, así
como sobre la pertinencia de las recomendaciones efectuadas. En la Figura 18.4 se presentan los
elementos que deben estar presente en los Informes de Evaluación realizados en el marco del
SED federal.
Figura 18.4 Elementos del Informe Final de Evaluación
14
En la introducción se presentan los motivos por los cuales se llevó a cabo la evaluación
que como se revisó previamente, generalmente son tres:
1) Motivos de índole normativo, por ejemplo, porque así lo establece el PAE del año
correspondiente.
2) Por la inquietud de la UR para responder determinadas preguntas de investigación para
mejorar algún componente del Pp.
3) Derivado de un acuerdo llevado a cabo con un organismo internacional de
financiamiento.
En la introducción también se describe la estructura de la evaluación con el fin de otorgar
un panorama del alcance y los elementos que conforman el informe.
En el índice se enlistan todos los capítulos y anexos que conforman la evaluación, esto
para ubicar fácilmente en qué página se encuentran. Dependiendo del tipo de evaluación y de la
cantidad de gráficos y diagramas que contenga, se sugiere incorporar un índice de tablas y
gráficas. De igual forma, si la evaluación maneja una gran cantidad de siglas y acrónimos, lo más
conveniente es describirlos desde el principio.
En los antecedentes se busca dotar de un contexto de la evaluación al público en general.
Cabe recordar que las evaluaciones deben ser públicas, por lo tanto, se requiere ofrecer los
elementos mínimos para que cualquier lector entienda el ambiente en el que se desenvuelve el
Programa evaluado. Por ejemplo se debe mencionar la dependencia o entidad a la que está
adscrita la UR que lo opera, cuándo se creó, si proviene de alguna fusión de programas, cuáles
fueron los motivos para realizarlo y en qué marco normativo se ubica la operación.
Como objetivo general se debe describir la razón de ser de la evaluación, así como su
alcance. También es importante expresar la acción a llevar a cabo, por lo tanto, debe iniciar con
un verbo, después se debe señalar el fenómeno a analizar delimitando hasta dónde llegará. Con
respecto a los objetivos específicos, se debe enunciar los puntos particulares que se buscan
diseccionar en una evaluación, es decir, identificar lo que se desea lograr para probar cada
hipótesis de investigación. Es importante no confundir los objetivos particulares con las tareas a
seguir, por ejemplo, crear una base de datos, la cual es una labor necesaria para cualquier
investigación. De igual forma que en el objetivo general, se requiere iniciar con una acción o verbo.
La metodología es una de las partes medulares de la evaluación, debido a que expone el
método o los métodos así como los criterios con los cuales se analizará la información. Cabe
recordar que existen dos grandes tipos de metodologías, la cuantitativa y la cualitativa, las cuales
no son excluyentes; solamente es necesario fijar claramente los límites. Explicar con qué método
se pretende examinar al programa evaluado es crítico para realizar las conclusiones, ya que de
esto dependerá lo que se pueda aseverar y generalizar. Por ejemplo, con una evaluación
cualitativa es muy probable que no sea posible generalizar o mencionar que “todos los
beneficiarios” opinan algo debido a que los datos provienen de una muestra no representativa.
El informe de resultados conforma el cuerpo de la investigación y depende del tipo de
evaluación que se elija. En la evaluación en materia de Diseño, de Consistencia y Resultados, y
de Procesos, los TdR correspondientes a cada uno de ellos determinan de forma explícita qué
capítulos o temas se deben de desarrollar; sin embargo, para las evaluaciones donde no existe
unos TdR predeterminados, dependerá de la estructura que el equipo evaluador o la UR prefiera
para presentar el Informe. Se sugiere visitar el portal de Transparencia Presupuestaria,
específicamente el apartado de Evaluaciones y revisar como referencia, la estructura de informes
similares a los que se pretende realizar.
15
La sección de hallazgos y conclusiones pareciera ser la más fácil, sin embargo, es la que
conlleva el trabajo intelectual más arduo. En esta se deben presentar los resultados de la
evaluación de forma sintética haciendo uso de un lenguaje sencillo tratando de ser asertivos
considerando el contexto del programa. En la Figura 18.5 se presentan las principales diferencias
entre hallazgos y conclusiones.
Figura 18.5 Diferencia entre hallazgo y conclusión
CONCLUSIONES
HALLAZGO
Son las
El resultado de un
propuestas para
estudio del arte de
cambiar o la
las cosas tal cual
recomendación
se encuentran en
para eliminar un
un momento
programa, proceso
específico.
o tarea.
Por ejemplo, no se puede considerar un hallazgo cuando en una consulta médica después
de realizarse ciertos estudios clínicos el especialista determina que un paciente tiene diabetes.
Considerando datos adicionales como la edad, los antecedentes familiares, los hábitos
alimenticios y el tipo de trabajo que desempeña, el médico llega a ciertas conclusiones y con base
en estas plantea una recomendación que implica una mejora en los hábitos alimenticios
complementándolo con un tratamiento de insulina inyectada.
Partiendo de este ejemplo cotidiano, se sugiere que el evaluador siempre mencione
primero el hallazgo y que con base en este llegue a la conclusión y sus recomendaciones. Aquí
es importante enfatizar de los hallazgos y recomendaciones las UR elaborarán los Aspectos
Susceptibles de Mejora (ASM) que es un tema que se revisará más adelante en la Lección 19 de
este Diplomado.
De igual forma que el Informe de resultados o el cuerpo de la investigación, los anexos
dependerán del tipo de evaluación seleccionada. La razón de ser de los anexos es presentar el
detalle de ciertos análisis evitando la saturación de un informe con tablas, modelos matemáticos
o diagramas que fueron estudiados para llegar a las conclusiones.
También dentro de los anexos, se debe incluir la base de datos, con la información de
campo o de gabinete generadas para el análisis, así como los algoritmos de análisis (do file o
syntax) con los cuales se puede llegar a los mismos resultados que presenta el equipo evaluador.
Para mayor información se puede consultar el numeral 28 Lineamientos (2007).
Entre los anexos que se deben entregar junto con el Informe Final destaca el Anexo Cuatro
que corresponde al Formato de Aspectos Relevantes de la Evaluación. Este es un formato
mandatado en el PAE del año correspondiente, en el numeral 28 de los Lineamientos y en el
artículo 110 de la Ley Federal de Presupuesto y Responsabilidad Hacendaria (LFPRH). La idea
de este Formato es comunicar de forma ejecutiva los principales hallazgos y conclusiones y
16
presentar los datos más importantes del programa evaluado, el costo de la evaluación, el proceso
de contratación, el nombre del coordinador y del equipo de evaluación. Se recomienda que el
Formato no abarque más de dos cuartillas para que funcione como una ficha ejecutiva.
Acompañando al Informe Final los evaluadores deben entregar un Resumen Ejecutivo en
el cual se sinteticen los puntos más relevantes de la evaluación. Este documento será una
herramienta muy útil para la difusión del trabajo llevado a cabo. En la Figura 18.6 se presentan los
principales puntos que el Resumen Ejecutivo deberá tener.
Figura 18.6 Principales elementos del Resumen Ejecutivo
Objetivo del
estudio
Resumen
Ejecutivo
Descripción
Metodología de
sintetizada componentes
del Programa
Con respecto a su extensión se recomienda que no sea mayor a tres cuartillas y que se
haga uso de distintos recursos de edición editorial como texto resaltado en negritas, viñetas y
diferentes márgenes con la intención de que la lectura sea ágil. El propósito de este formato es
captar la atención del lector, de manera que encuentre interesante el contenido y, por lo tanto, se
motive a continuar la lectura del informe detallado. Es indispensable que el resumen ejecutivo sea
totalmente congruente con la estructura y contenido del informe.
17
Posición Institucional y publicación del informe
Posición
Institucional
Consistencia en los
Solidez técnica
argumentos empleados
18
Finalmente, es importante no olvidar que de acuerdo con el PAE del ejercicio fiscal
correspondiente, los numerales 26 y 28 de los Lineamientos y al artículo 110 de la LFPRH, todas
las evaluaciones deben estar publicadas en la página de internet de las dependencias o entidades
correspondientes. Adicionalmente se publicarán en el Portal de Transparencia Presupuestaria en
donde podrán ser consultadas por cualquier persona interesada.
19
En el proceso de evaluación debe haber transparencia en todo momento. Desde la
planeación debe ser claro qué se quiere medir, a quién y cómo se contrata. Durante la evaluación
se debe otorgar información ordenada y completa siguiendo los protocolos de levantamiento de
datos. Finalmente, se debe aludir siempre a la máxima publicidad en el Informe de Evaluación con
especial énfasis en las bases de datos que se generaron incluyendo los algoritmos de análisis (do
file o syntax) para replicar lo resultados.
Se espera que los evaluadores respeten los principios de objetividad e imparcialidad
aislándose de las inercias operativas que tienen los programas o acciones, es decir, que no se
contagien de la misma perspectiva de los operadores. Se busca que sean capaces de identificar
las áreas de mejora y las fortalezas como resultado de un ejercicio independiente de análisis.
El rigor técnico se entenderá, tal como se revisó previamente, como la implementación
correcta de las metodologías así como de criterios uniformes para tratar toda la información. Para
asegurar que esto suceda un área o entidad externa independiente de la operación del programa
debe revisar los métodos y en su caso replicar los resultados para corroborar la robustez técnica.
Todas las dependencias federales tienen un área responsable de las evaluaciones de desempeño,
las cuales son ideales para llevar a cabo este trabajo. Además, existen unidades técnicas
especializadas en evaluación en las instancias coordinadora encargadas de implementar el
Sistema de Evaluación del Desempeño (SED).
También es relevante que los operadores clave y tomadores de decisiones
correspondientes a los programas participen y se involucren en el proceso de evaluación.
Adicionalmente, se espera que todo el equipo evaluador participe activamente en todo el proceso
evitando que solamente el consultor principal asista a las reuniones. Al ser equipos
interdisciplinarios, es importante que cada elemento del equipo evaluador esté presente en todas
las reuniones para que pueda resolver dudas y atender solicitudes de cambio correspondientes a
los campos de conocimiento de los cuales son expertos.
La información presentada debe ser confiable y respetuosa de la protección de datos
personales. En el caso de las metodologías cuantitativas tratar de presentar los datos de forma
agregada cuidando la información sensible con la cual se pueda caracterizar a una persona en
específico. En el caso de las metodologías cualitativas es necesario proteger la identidad de los
informantes para evitar que sea identificable. Por ejemplo, si se realiza una entrevista o encuesta
a una madre joven menor de 15 años en un poblado rural de 200 habitantes, la probabilidad de
que sea identificada es alta. Por esta razón es importante proteger su identidad e información
personal sin alterar las bases de datos o documentos de análisis. El proceso de Evaluación debe
desarrollarse en estricta observancia de la Ley Federal de Transparencia y Acceso a la Información
Pública Gubernamental (LFTAIPG) para los programas federales y a la Ley General de
Transparencia y Acceso a la Información Pública (LGTAIP) y la normatividad local aplicable para
entidades federativas, municipios y Demarcaciones Territoriales de la Ciudad de México.
La principal herramienta de retroalimentación y seguimiento son las reuniones y las
revisiones de productos intermedios y finales. El propósito de esto es aclarar dudas o realizar
precisiones buscando siempre el entendimiento respetuoso y objetivo entre todos los involucrados.
El perfil académico de los evaluadores debe ser consistente con la temática a evaluar.
Es necesario que el coordinador del equipo de evaluación sea un miembro activo en la
investigación, por lo regular es la persona con los conocimientos más aptos para emitir las
recomendaciones de política pública debido a su experiencia, además porque ese perfil es el que
cuenta tiene el mayor peso para contratar la consultoría. En consecuencia, se debe exponer de
20
manera específica en los Términos de Referencia la formación académica necesaria y los años
de experiencia comprobables.
Es deber de las dependencias o entidades realizar el estudio de mercado o de factibilidad
para corroborar que la contratación de la evaluación se realizará con los recursos adecuados, es
decir, bajo las mejores condiciones disponibles en cuanto a precio, calidad, financiamiento,
oportunidad y demás circunstancias pertinentes a fin de administrar los recursos con eficiencia,
eficacia, economía, transparencia, honradez e imparcialidad.
Los Informes de Evaluación deben ser aptos para todo público por lo que siempre se
debe buscar que los evaluadores utilicen un lenguaje ciudadano al momento de redactar los
documentos de la evaluación, evitando en la medida de lo posible el uso de tecnicismos y
aseveraciones sin argumentos. Un buen Informe de Evaluación es capaz de ser entendido tanto
por un estudiante de bachillerato como por un experto en el tema. Esto hará que se incremente
las probabilidades de uso y que se contribuya a un cambio real en la política pública.
Es de suma importancia que si una persona toma un extracto de cualquier parte del Informe
este sea consistente con el inicio o el final del documento de investigación. En algunas ocasiones
el Resumen Ejecutivo, dista mucho del cuerpo de la Evaluación o de las conclusiones, esto se
debe evitar para asegurar la calidad de la información. Finalmente, es indispensable que exista
capacitación constante con el objetivo de fortalecer el capital humano en las dependencias o
entidades así como para fomentar el desarrollo de un mercado competitivo de evaluadores, se
debe impartir talleres y seminarios en materia de evaluación y monitoreo.
Tal como se revisó en la Lección anterior, una vez que ya se cuenta con el Informe Final de
Evaluación, los responsables del Programa deben comunicar mediante Oficio a su instancia
coordinadora que el proceso ha concluido. Adicionalmente, los responsables del Programa o el
área de evaluación del desempeño de la dependencia en la que se encuentra adscrito deberán
entregarle a la SHCP-UED el Informe Final de todas las evaluaciones realizadas, incluso cuando
éstas no hayan sido hechas bajo su coordinación. Esto porque la UED funge como dependencia
coordinadora del SED y como tal incorpora los resultados de las evaluaciones a la estrategia de
información del PbR.
La entrega de esta información se debe llevar a cabo de acuerdo con los Artículos 85, 107,
110 y 111 de la LFPRH en donde se establece que todas las evaluaciones concluidas en
conjunto con el Anexo Cuatro se deberán de reportar en el Informe Trimestral que se le remite al
Congreso de la Unión. El Anexo Cuatro es muy importante ya que en él se incluye el costo de la
evaluación, y esta información debe ser transparentada. Los informes de las evaluaciones que
coordina el CONEVAL también deberán de presentarse ante la Comisión de Desarrollo Social de
la Cámara de Senadores. Lo anterior, no excluye qué ciertos programas o entidades deban
reportar a otras instancias del Gobierno Federal, Estatal o Municipal, según aplique la
normatividad, por ejemplo, algunos programas deben entregar los Informes Finales de manera
adicional a la Auditoría Superior de la Federación (ASF), otros al Secretario Ejecutivo al que
pertenezcan, como es el caso de los programas que deben reportar al Sistema Nacional de
Protección de Niñas, Niños y Adolescentes (SIPINNA), por citar, un caso.
21
Aspectos Susceptibles de Mejora
Revisión de la Evaluación
22
Una vez que se concluye la evaluación y que la instancia de coordinación correspondiente la
valida, los responsables del Programa evaluado proceden a llevar a cabo un análisis de todas las
recomendaciones y hallazgos incluidos en el Informe Final y a seleccionar aquellas que se
conformarán como ASM. Es importante que para su atención se agrupen en un solo ASM las
recomendaciones y hallazgos que abordan una misma temática y que se definan las
particularidades en las acciones que se implementarán para la atención del mismo. Una vez
concluida la revisión de la evaluación se procederá a la elaboración del documento de posición
institucional de los ASM o documento de opinión de la dependencia.
Elaboración del documento de posición institucional de los ASM
Para la formalización de las recomendaciones y hallazgos que serán atendidos, las dependencias
y entidades elaboran un documento de posición institucional o documento de opinión que es el
documento mediante el cual la dependencia y/o entidad refleja la opinión fundada y motivada
respecto de los hallazgos y recomendaciones derivadas de las evaluaciones externas. Es
importante no confundir este documento de posición institucional con el que se explicó en la
Lección 18. El documento deberá contener los elementos descritos en la Figura 19.1.
Figura 19.1 Elementos que debe tener el documento de posición institucional de los ASM
23
Adecuación de una recomendación o hallazgo
Ejemplo 15
Rechazo de una recomendación o hallazgo
En la evaluación de diseño que se le hizo a un Pp hipotético, el evaluador concluyó que existe una
falla en la normativa que le da sustento al Programa por lo que recomienda hacer un ajuste
específico en el Artículo 24, Fracción III de “la Ley” vigente. En este caso, la recomendación
sobrepasa las facultades de la UR ya que los responsables no tienen la capacidad de hacerle
cambios a la ley. Por este motivo, se decide declararla como no procedente por no ser adecuada
al contexto del programa y al alcance de la Unidad y porque es imposible plantear una alternativa
a la modificación de la normatividad.
Fuente: Elaboración propia.
24
Figura 19.3 Tipos de ASM
25
Figura 19.4 Tema al cual contribuye el cumplimiento del ASM
26
Para dar mayor enfoque a la implementación y cumplimiento de los ASM se debe definir la
prioridad de atención, siendo las opciones: alto, medio o bajo. Debido a la gran diversidad de
temas y tipos de Pp es importante considerar que no existe una temporalidad específica para
atender los ASM. Por esta razón, son las mismas UR las que establecerán los plazos para la
implementación de acciones de mejora. Sin embargo, es preferible que los ASM se atiendan en el
corto plazo entendiendo como tal de abril del ejercicio fiscal en curso a marzo del siguiente año.
Finalmente, el último de los aspectos más relevantes que se debe considerar al clasificar
y definir un ASM es la descripción de las acciones que se llevarán a cabo para atenderlos. La
construcción de esta descripción deberá hacerse a manera de objetivo por lo que siempre deberá
iniciar con un verbo en infinitivo y considerar el periodo de atención.
Suscripción en el SSAS
La información que se debe suscribir y los avances de los aspectos a mejorar están
definidos en el Mecanismo así como registro en el SSAS, el cual es administrado por CONEVAL.
Una vez que se carga el documento de opinión en el SSAS y se completa el formulario con la
caracterización de los ASM se generan los documentos para su seguimiento.
Seguimiento de los ASM
Tal como se explicó previamente, el seguimiento a la atención de los ASM se lleva a cabo
dependiendo del tipo de actores involucrados y de eso dependerá la emisión de documentos de
seguimiento tal como se describe en la Figura 19.6.
Figura 19.6 Emisión de documentos de seguimiento de ASM
27
Desarrollo Social para designar responsables y acciones de solución. Para los programas no
sociales la SHCP-UED implementó el Anexo F del Mecanismo para que las UR suscriban los
avances en la aplicación de los ASM. Cabe mencionar que el Anexo F no es parte original del
Mecanismo sino que es una herramienta creada posteriormente para facilitar el seguimiento de
este tipo de ASM.
Tener un mecanismo de seguimiento a la evaluación de programas se justifica, en la
medida que la información que se genera sea incorporada en la toma de decisiones en materia de
planeación y presupuestarias. Debido a que la información de desempeño puede ser extensa, es
necesario desarrollar una estrategia eficaz para la presentación de estas grandes cantidades de
datos en forma clara y analítica, es decir, uno de los mayores retos es sistematizar la información
para que pueda ser utilizada en la toma de decisiones.
Los administradores de los programas, así como los tomadores de decisiones deben
revisar la información de desempeño de forma rutinaria y estratégica. La frecuencia de estas
revisiones será determinada por el proceso presupuestario, la naturaleza de los objetivos que se
está midiendo y el nivel de análisis.
Si bien cada evaluación es diferente dependiendo del tipo de Programa e incluso del
evaluador que la lleva a cabo, es posible identificar prácticas frecuentes en los ASM que derivan
de cada uno de los tipos de evaluación. En este caso, de la Figura 19.7 a la 19.10 se revisarán
algunos ejemplos de ASM que derivan de las evaluaciones de diseño, procesos, consistencia y
resultados y de impacto, las cuales corresponden a los tipos de evaluaciones revisadas en las
Lecciones 12 a 15 de este Diplomado.
Figura 19.7 Tipos de ASM que derivan de las evaluaciones en materia de diseño
28
Figura 19.8 Tipos de ASM que derivan de las evaluaciones de procesos
Figura 19.9 Tipos de ASM que derivan de las evaluaciones de consistencia y resultados
29
Modelo Sintético de Información del Desempeño
Fuente: Elaboración propia con información del Modelo Sintético de Información de Desempeño (SHCP, 2016).
Esta herramienta consolida, en una base de datos, la información que identifica a los
beneficiarios de los diferentes Pp del Gobierno Federal que entregan algún tipo de apoyo o
subsidio. Con el MSD es posible identificar a los beneficiarios, su ubicación geográfica, cobertura
de los programas, temporalidad de los beneficios, monto de los apoyos y tipo de beneficiario
(persona física o moral), entre otros aspectos relevantes. Cada una de las variables puede
alcanzar una valoración del uno al cinco, donde cinco es la calificación correspondiente al máximo
desempeño y uno al más bajo tal como se muestra en el Cuadro 19.1.
30
Cuadro 19.1 Escala del MSD
Valoración Desempeño
5 Alto
4 Medio Alto
3 Medio
2 Medio Bajo
1 Bajo
Fuente: Modelo Sintético de Información de Desempeño (SHCP, 2016).
La valoración general corresponde a la suma de los valores obtenidos de cada variable con
su respectivo ponderador:
100.0% - - - - 100%
La transparencia respecto a las valoraciones sobre el MSD es esencial por lo que al igual que la
mayor parte de la información sobre el seguimiento y la evaluación de Pp, está disponible en la
sección de Programas del PTP. Para consultar los resultados del MSD basta con entrar al portal
en la sección de Programas tal como describe la siguiente secuencia de imágenes.
31
1) Ingreso la sección de Programas del PTP
2) Los resultados del MSD se pueden encontrar a la izquierda de la descripción de los Pp.
Como ejemplo se considerará la Articulación de Políticas Integrales de Juventud del Ramo 20
el cual tiene un desempeño medio. Para ver más detalles se da clic en el nombre del Pp para
que aparezca la ficha del Programa
32
3) En la ficha del Programa se pueden consultar con mayor detalle los resultados del MSD.
a.
b. c.
d.
En la Figura 19.12 se presenta el proceso de evaluación a nivel federal, el cual fue revisado
en este Módulo.
33
34
Es importante considerar que el MSD contribuye a la toma de decisiones presupuestarias
y a la detección de áreas de mejora de los Pp a través del análisis, la valoración y la evaluación
objetiva y estandarizada de su información de desempeño. No obstante, el MSD es sólo uno de
varios elementos que deben considerarse, por lo que su uso no sustituye al análisis
complementario y de contexto que se haga de cada programa para tomar decisiones
presupuestarias o de permanencia en la operación del mismo.
35
Referencias
Cámara de Diputados del H. Congreso de la Unión. (30 de marzo de 2006). Ley Federal de
Presupuesto y Responsabilidad Hacendaria. Artículo 110. Última reforma publicada DOF
30-12-15. Recuperado de:
http://www.diputados.gob.mx/LeyesBiblio/pdf/LFPRH_301215.pdf
Cejudo, G. (2011). La nueva gestión pública. Recuperado de:
https://www.researchgate.net/publication/272814906_La_nueva_gestion_publica
Consejo Nacional de Evaluación de la Política de Desarrollo Social. (2011). Mecanismos para el
Seguimiento a los Aspectos Susceptibles de Mejora 2011. Recuperado de:
https://www.coneval.org.mx/rw/resource/coneval/EVALUACIONES/Mecanismo_2011.pdf
Consejo Nacional de Evaluación de la Política de Desarrollo Social. Informe de Seguimiento a los
Aspectos Susceptibles de Mejora de Los Programas y Acciones Federales de Desarrollo
Social 2017-2018: Balance anual sobre el uso de las evaluaciones. Recuperado de:
https://www.coneval.org.mx/Evaluacion/CMPE/Paginas/Informe-de-seguimiento-asm-
2017-2018.aspx
Consejo Nacional de Evaluación de la Política de Desarrollo Social. (2018). Informe de Evaluación
de la Política de Desarrollo Social 2018. Recuperado de:
https://www.coneval.org.mx/Evaluacion/IEPSM/IEPSM/Documents/RESUMEN_EJECUTI
VO_IEPDS2018.pdf
Consejo Nacional de Evaluación de la Política de Desarrollo Social. (2019). Programa Anual de
Evaluación 2019. Recuperado de:
https://www.coneval.org.mx/Evaluacion/NME/Documents/PAE_2019.pdf
Lineamientos generales para la evaluación de los Programas Federales de la Administración
Pública Federal. (30 de marzo de 2007). Recuperado de:
https://www.coneval.org.mx/rw/resource/coneval/eval_mon/361.pdf
Maldonado, C. (2011). De las recomendaciones a las acciones. Recuperado de: http://clear-
la.cide.edu/sites/default/files/CIDE_CLEAR-
De_las_recomendaciones_a_las_acciones.pdf
Ortega, G., Delgado, G., Reyes, A., et al (2009). Metodología para la gestión de la calidad en la
investigación científica en el Instituto Cubano de Investigaciones de los Derivados de la
Caña de Azúcar. Recuperado de: https://www.redalyc.org/html/2231/223120660009/
SHCP. (2013). Guía Técnica para la elaboración de los programas derivados del Plan Nacional de
Desarrollo 2013-2018. Recuperado de:
http://www.shcp.gob.mx/RDC/prog_plan_nacional/guia_tecnica_pnd_2013-2018.pdf
SHCP. (2013). Lineamientos para dictaminar y dar seguimiento a los programas derivados del
Plan Nacional de Desarrollo 2013-2018. Recuperado de:
http://www.dof.gob.mx/nota_detalle.php?codigo=5301827&fecha=10/06/2013SHCP.
SHCP. (2015). Lineamientos para la revisión y actualización de metas, mejora, calendarización y
seguimiento de la Matriz de Indicadores para Resultados de los programas presupuestarios
36
2015. Recuperado de: http://www.hacienda.gob.mx/EGRESOS/
PEF/sed/lineamientos_mir_2015.pdf
SHCP (2016). Modelo Sintético de Evaluación del Desempeño (MSD). Unidad de Evaluación del
Desempeño. Recuperado de:
http://www.gob.mx/cms/uploads/attachment/file/2130/modelo-sintetico-de-informacion-del-
desempeno-nota-metodologica.pdf
37