Vroeijenstijn - El Nuevo Interes Módulo 5
Vroeijenstijn - El Nuevo Interes Módulo 5
Vroeijenstijn - El Nuevo Interes Módulo 5
El mensaje suele ser: mayor autonomía y libertad para las instituciones de educación superior
sujeto a que la calidad esté garantizada por un sistema de evaluación externa de la calidad
(EEC) bueno y funcional que no sólo contribuya a mantener y mejorar la calidad sino que
también permita al público tener un panorama acerca de la calidad. Entonces, en muchos
países los gobiernos y las instituciones de educación superior están reflexionando sobre el
diseño de un sistema de EEC.
Al final de este capítulo se darán algunos principios básicos para un sistema de evaluación
externa de la calidad.
Se le está prestando tanta atención a la calidad que la gente puede llegar a creer que es una
invención de la última década y que antes de 1985 no existía la noción de calidad. Pero, por
supuesto, esto no es cierto. El concepto de calidad no es nuevo: ha sido siempre parte de la
tradición académica. Es el mundo exterior el que ahora enfatiza la necesidad de que se le
preste atención de manera explícita a la calidad. Se pueden dar varias razones:
- Desde 1950 se ha hablado de la educación superior masiva. Día a día mas estudiantes se
inscriben en instituciones de educación superior, causando presiones en los presupuestos
2
En síntesis, la sociedad exige rendición de cuentas y garantía de calidad y pide valor por
dinero. Los gobiernos están dispuestos a otorgar mayor autonomía institucional, siempre y
cuando la calidad esté garantizada. Por ello, vemos en muchos países discusiones sobre
calidad, mantenimiento de la calidad, garantía de calidad y evaluación.
en muchos países europeos. Vamos a bocetar la situación en los Países Bajos como ejemplo,
pero el lector reconocerá las ideas de su propio gobierno.
Con las políticas de educación superior del gobierno holandés comenzó, en 1985, una nueva
era en la educación superior. El Ministro de Educación Superior y Ciencia publicó el
documento sobre políticas "Educación Superior: Autonomía y Calidad" (HOAK)1. Ya se ha
publicado mucho sobre el contenido y las consecuencias de este documento (ver, por ejemplo,
van Vught 1988, 1989).
1
Higher Education: Autonomy and Quality (HOAK) (Ministerie van Onderwijs en Wetenschappen 1985).
4
En síntesis, podemos decir que se estableció que la evaluación interna de la calidad era
responsabilidad de las instituciones de educación superior y que la evaluación externa de la
calidad era responsabilidad de la Inspectoría. Sin embargo la realidad fue diferente. Las
universidades, al amparo de la recientemente fundada Asociación de Universidades de los
Países Bajos (VSNU), no se quedaron calladas. Dieron la bienvenida a tener mas autonomía y
libertad para sus programas. La autonomía y la libertad, como dos caras de una moneda, no
fueron discutidas. Pero las instituciones de educación superior no podían aceptar que la
evaluación externa de la calidad fuera la tarea de una autoridad ajena a las propias
instituciones. De acuerdo con la opinión de las universidades, calidad y evaluación de la
calidad, incluyendo la parte externa, son principalmente responsabilidad de las propias
instituciones. Las instituciones de educación superior debían ser las "dueñas" del sistema, no
el Ministerio o la Inspectoría.
Mirando la Ley, podemos concluir que el texto concuerda con la idea de control remoto del
gobierno. Faltan regulaciones detalladas para un sistema de evaluación externa de la calidad.
La Ley sólo estipula que:
- tiene que existir un sistema de evaluación de la calidad
- deben estar involucrados expertos externos
2
En 1985 la Educación Superior Vocacional estaba regulada por la Ley de Educación Secundaria, y por ello ya
estaba sujeta a una Inspectoría.
5
tiempo implica que una vez que se ha logrado un nivel mínimo aceptable ya no son necesarios
mayores esfuerzos para mejorar" (Lynton 1988).
Las universidades también enfatizan la función de rendir cuentas de la EEC y creen que el
efecto directo de la EEC debe tomar parte en el proceso de auto-regulación, conducción
interna y garantía de la calidad.
Todas las expectativas relacionadas con la evaluación externa de la calidad son legítimas y las
características de un sistema de EEC deben estar adaptadas a sus objetivos. Por ejemplo, no
es posible proveer rendición de cuentas sin una evaluación externa, ni mejora de la calidad sin
una auto-evaluación. Pero ¿necesitamos un sistema elaborado de EEC para todos los
objetivos (acreditación, rendición de cuentas, asignación de recursos, conducción, etc.)?.
Debemos ser muy cuidadosos para no sobrecargar a las instituciones con continuas
evaluaciones. Muchas veces los docentes se ven abrumados por toda la atención que se le
presta a la calidad hoy día. No tienen tiempo de trabajar sobre la calidad porque
continuamente deben brindar evidencia de ella. La pregunta es si existe siempre la necesidad
de un sistema separado de EEC para cada objetivo o si algunos de estos sistemas pueden ser
combinados.
Tabla 1.1
Opiniones sobre la evaluación externa de la calidad
Acreditación
Cuando se busca la acreditación para una institución o para un programa específico, se puede
hacer uso del sistema de EEC señalado en este libro.También estará basado en la
autoevaluación y la revisión por pares. La única diferencia será que el marco de referencia de
los comités (ver sección 4.2), los criterios y estándares en base a los cuales la institución o
programa será evaluado, están formulados por un cuerpo externo, ya sea el gobierno en
nombre de los contribuyentes o un cuerpo profesional en nombre de la profesión. No hay
necesidad de un sistema de acreditación así como también de un sistema de orientado al
mejoramiento de EEC.
Financiamiento
Tampoco es necesario un sistema de EEC para el financiamiento. La mayor parte de los
sistemas de financiamiento estarán basados en una combinación de financiamiento de
insumos y productos: número de estudiantes ingresantes combinado con el número de
graduados. Para un sistema como éste no necesitamos evaluar la calidad de antemano. Sin
embargo, la calidad del producto será cuestionada. Ciertas garantías de calidad pueden ser
establecidas emparejando un cierto porcentaje del presupuesto con el requerimiento de
participar de alguna forma en la EEC.
Rendición de cuentas
La sociedad demanda valor por dinero. Es por esto que las instituciones son responsables por
el dinero que gastan, lo que es un requerimiento normal. Sin embargo, la rendición de cuentas
debe ser realizada en los informes anuales de las instituciones. Los gobiernos y las
universidades deberán ponerse de acuerdo sobre qué tipo de información debe publicar la
institución, por ejemplo, número de alumnos matriculados, número de graduados, costo por
estudiante, esfuerzos en investigación, etc. Sin embargo, el sistema de EEC no debería ser
sobrecargado con estas cuestiones. Desde luego, la EEC brindará la información para ser
usada dentro del marco de la rendición de cuentas, pero la evaluación externa desempeña un
pequeño papel en la misma y presta particular atención a la manera en la que una institución o
facultad maneja la calidad y la evaluación de la calidad.
pueden ser uno de los recursos para obtener la información deseada, sin vincular
necesariamente a la evaluación con este fin.
Mejoramiento de la calidad
Para mejorar la calidad existe la necesidad de una autoevaluación crítica y una discusión
abierta con los pares. No debería haber una amenaza directa desde el exterior estorbando la
discusión. El sistema descrito en este libro está principalmente orientado a mejorar la calidad,
pero también puede abarcar a la rendición de cuentas, siempre y cuando uno esté de acuerdo
acerca de cuál es la relación entre ella y el mejoramiento.
Revisando la literatura y las experiencias de diferentes países, una cosa es segura: debe quedar
claro para todos los involucrados qué es lo que se espera de la EEC. El sistema de EEC no
debe ser recargado. Las evaluaciones sumativas y formativas requieren de acercamientos
diferentes. La mayor parte de la información que el gobierno desea puede ser obtenida de
otras maneras o por evaluaciones ad hoc. Involucrar aspectos sumativos en la EEC puede ser
una amenaza para el acercamiento formativo: es difícil para la EEC servir a dos amos
(Vroeijenstijn 1992).
Todos aquellos que piensan sobre la evaluación de la calidad se ven enfrentados a la pregunta
¿qué es la calidad?. Muchas de las discusiones sobre la calidad comienzan con una cita del
libro El Zen y el Arte del Mantenimiento de la Motocicleta:
Calidad ... vos sabés lo que es, pero sin embargo no sabés lo que es. Pero eso es auto-
contradictorio. Pero algunas cosas son mejores que otras, esto es, tienen más calidad.
Pero cuando tratás de decir que es la calidad, además de las cosas que la poseen, todo
se hace ¡poof!. No hay nada de que hablar. Pero si no se puede decir que es la
calidad, cómo sabemos que es, o, más aún, como sabemos que existe? Si nadie sabe
que es, entonces, por razones prácticas, no existe. Pero para razones prácticas existe
realmente. ¿En qué otra cosa se basan las calificaciones? ¿Por qué entonces la gente
paga fortunas por algunas cosas y tiran otras a la basura? Obviamente algunas cosas
son mejores que otras...pero qué es eso "mejor"? Entonces, uno da vueltas y vueltas,
girando ruedas mentales sin encontrar ningún lugar donde obtener tracción. ¿Qué
cuernos es la calidad? ¿Qué es? (Pirsig 1974).
descripción a menudo utilizada es: "Algo tiene calidad cuando cumple con las expectativas
del consumidor/usuario; calidad es la satisfacción del cliente". Harvey y Green (1993) tratan
de describir la naturaleza del concepto de calidad en relación con la educación superior.
Luego de un meticuloso tratado, concluyen: "Primero, calidad significa diferentes cosas para
diferentes personas. Segundo, la calidad está relacionada con los "procesos" o "efectos
directos"."
La calidad de la educación tiene un significado totalmente diferente para los estudiantes. Para
ellos la calidad esta relacionada con la contribución al desarrollo individual y la preparación
para una posición dentro de la sociedad. La educación debe vincularse con el interés personal
del estudiante. Pero el proceso educativo también debe ser organizado de tal manera que él o
ella pueda finalizar sus estudios en un tiempo dado.
Los académicos definirían a la calidad como "un buen entrenamiento académico basado en
una buena transferencia de conocimiento, un buen ambiente de aprendizaje y una buena
relación entre la enseñanza y la investigación".
La mirada sobre la calidad también está establecida por el concepto que tiene la gente de la
educación superior. ¿Ve la gente a la educación superior como la producción de poder
calificado o como entrenamiento para una carrera en investigación? ¿Esta la educación
superior concebida como el manejo eficiente de la enseñanza o es una manera de extender las
oportunidades en la vida (Barnett 1993)?
Debemos concluir que la calidad es un concepto muy complejo (ver tabla 1.2). No podemos
hablar de "la calidad"; debemos hablar de "calidades".
Tabla 1.2
Aspectos de la Calidad y las Partes Interesadas
Instituciones
Partes Interesadas Estudiantes Empleadores Gobierno Personal
de ES
ASPECTO DE LA CALIDAD
Insumos (por ejemplo)
Matriculación X X X
Selección X X X X
Presupuesto X X
Personal académico X X
Procesos (por ejemplo)
Metas/objetivos X (X) X X
Procesos educativos X X X
Organización educativa X X X
Satisfacción X X X
consejo X X
Efectos Directos
10
Tasa de
X X X
aprobados/desaprobados
graduados X X X X X
Debemos hacer una distinción entre los requerimientos de calidad fijados por el estudiante, el
mundo académico, el mercado laboral/sociedad y el gobierno. Pero no sólo existen diferentes
calidades; debemos también considerar diferentes aspectos de la calidad. Por lo que hay
calidad de insumos, de procesos y de efectos directos. La evaluación de la calidad debe tener
en cuenta todas estas dimensiones. Por ende, es una pérdida de tiempo el tratar de definir a la
calidad de manera precisa. No existe una calidad absoluta.
La calidad es una negociación entre todas las partes involucradas. Todas las partes deberían
formular, de la manera más clara posible, sus requerimientos. La institución de educación
superior, como proveedor último, debe tratar de reconciliar todos los diferentes deseos y
requerimientos. Algunas veces las expectativas correrán de forma paralela, pero también
pueden entrar en conflicto. En la medida de lo posible, los requerimientos de todas las partes
interesadas deben ser trasladados a la misión, las metas y objetivos de una facultad y su
programa educativo (y en lo que concierne a la investigación, en los programas de
investigación).
Si se hace esto, entonces decimos que una facultad o universidad tiene "calidad" (ver figura
1.1). Aunque continúa siendo necesario buscar una buena descripción de los diferentes
requerimientos y aspectos de la calidad, la falta de una definición nunca deberá ser una excusa
para no prestar atención a la calidad o para no trabajar para mejorarla.
Figura 1.1: Calidad como una cuestión de negociación entre las partes interesadas
Si tenemos que describir a la calidad podríamos decir que "la calidad será especificada por los
efectos directos de las negociaciones entre todas las partes involucradas sobre los
requerimientos esperados. La Educación Superior debería tratar de cumplir de la mejor
manera posible todos los deseos y esto deberá ser mostrado en la formulación de sus objetivos
y metas."
una pregunta importante será ¿logramos el nivel de calidad requerido con costos aceptables?
Un acercamiento orientado a la eficiencia es a menudo un buen punto de partida, pero el
problema es que la eficiencia no está siempre definida como "con costos aceptables" sino que
a menudo se la define como "con costos mínimos" y esto puede ser una amenaza a la calidad.
Puede ser eficiente tener clases para mil estudiantes, pero no es efectivo. Puede ser
considerado eficiente tener un programa de estudios muy estructurado con evaluaciones a los
estudiantes cada cuatro semanas, forzando a los estudiantes a trabajar y mantenerse al día con
el curso. Si embargo, a través de este método, ¿formamos al graduado "correcto",
independiente y de pensamiento crítico? Puede ser considerado eficiente usar preguntas de
multiple choice para la evaluación de los estudiantes, pero ¿mejora las habilidades de
comunicación escritas y orales?
Dentro del marco de referencia de la EEC, deben hacerse distinciones claras entre nivel,
estándares y calidad. A menudo estos tres conceptos son confundidos:
NIVEL
Una carrera que conduzca a un título de Magister es de un nivel superior a una que otorgue
una Licenciatura. Pero esto no significa que la calidad del programa del Master sea superior.
ESTANDARES
Es posible definir estándares para cada programa, requerimientos mínimos que se esperan de
los graduados. Los estándares pueden ser descritos como una declaración en general o en
términos específicos del conocimiento, comprensión, habilidades y actitudes que deben ser
demostradas por los graduados exitosos. La pregunta es si un programa con estándares altos y
un bajo número de estudiantes tiene calidad o no.
CALIDAD
12
La calidad es mucho más amplia e incluye estándares así como los procesos de enseñanza y
aprendizaje, las actividades de los departamentos e instituciones y la congruencia entre los
objetivos de un programa y la competencia de sus graduados (Frazer 1992, 1994).
Podemos concluir que no tenemos un criterio a nuestra disposición para medir la calidad de la
educación. Los estándares y los criterios son también una cuestión de regateo y negociación
entre las partes involucradas. Un valor absoluto para el nivel académico o la calidad de los
graduados no existe y lo que está generalmente aceptado como calidad es una cuestión de
opinión...
Otro ejemplo referido a educación: la interpretación de las tasas de éxito. Una facultad tiene
una tasa de aprobación del 80 por ciento, otra una del 60 por ciento. Pero, ¿nos dice algo del
desempeño de la facultad? ¿La calidad de la educación? ¿Es el desempeño de la universidad
Y con una tasa del 80 por ciento superior al logro de la universidad X con una tasa del 60 por
ciento? ¿O la universidad Y bajó su nivel? ¿O la universidad X es más selectiva en el primer
año?
13
Existe gran cantidad de literatura sobre indicadores de desempeño (Ball y Halwachi 1987;
Cave, Hanney, Kogan y Trevet 1988; Dochy y Wijnen 1989; Goedegebuure et al. 1990;
Dochy et al. 1990; Sizer 1990; Kells 1990; Spee y Bormans 1991). Un factor llamativo en la
discusión sobre los indicadores de desempeño es que hay dos partes opuestas. En general son
los gobiernos los que ponen un fuerte énfasis en la importancia del uso de los indicadores de
desempeño: son optimistas en cuanto a la posibilidad de determinar el indicador correcto. Las
instituciones de educación superior, por otro lado, son generalmente escépticas y reservadas
sobre su uso.
Muchos gobiernos están tratando de formular indicadores de desempeño que podrían ser
útiles en la evaluación de la calidad, pero hasta el momento no han tenido éxito. Se pueden
dar las siguientes razones:
- El término "indicador de desempeño" es muy confuso.
A pesar de los intentos de definir el significado y funciones de los indicadores de
desempeño, el término lleva a confusiones. El problema es que un indicador de
desempeño no está siempre directamente relacionado con el desempeño de una
institución, pero debe ser considerado como un dato estadístico. Segers et al. (1989)
formulan como uno de los ID, por ejemplo, la tasa de hombres-mujeres en la población
estudiantil. Sin embargo, este indicador no dice nada sobre la calidad de una institución de
educación superior. Es más que nada un indicador para el gobierno que muestra cuan lejos
la "emancipación" objetiva ha llegado.
La conclusión debe ser que todos los intentos y discusiones de la década pasada no han
producido un conjunto generalmente aceptado de indicadores de desempeño.
decorados con la noción "ID": tienen que ver con número de estudiantes, de personal, tasas de
abandono. Cuando estos datos son utilizados de la manera correcta, los indicadores de
"desempeño" formularán preguntas pero nunca darán una respuesta. Los llamados indicadores
de desempeño cualitativos pueden ser vistos como elementos que tienen influencia en los
aspectos de la calidad que deben ser tenidos en cuenta cuando se mira la calidad. La pregunta
es si podemos (o queremos) depender más de los indicadores de desempeño que de los juicios
subjetivos de los pares.
Tengo una botella de vino y quiero evaluar su calidad. ¿Qué aspectos son importantes?
Primero debo decidir qué aspectos del vino evaluaré: acidez, tanino, porcentaje de
alcohol, sedimento. Por supuesto que puedo medir este vino con estos aspectos, pero
todavía no sé si el vino es bueno o no. Alguien tiene que decir que números son
buenos y cuales no lo son. Pero hay otros aspectos más importantes para la evaluación:
sabor y olor. Estos aspectos no son cuantificables. Necesitamos un panel que pueda
juzgar si el sabor y olor son buenos o no. (Vroeijenstijn 1993b; ver figura 1.2)
Figura 1.2 La relación entre los indicadores de desempeño y la revisión por pares.
Aquí hay un ejemplo que nos muestra cuan engañosos pueden ser los indicadores de
desempeño. A mediados de 1989 los diarios holandeses publicaron muchas reacciones y
comentarios al informe del Comité Ministerial de Reconocimiento de Teología
(Verkenningscommissie Godgeleerdheid 1989). La calidad de las facultades de teología de
las universidades holandesas era pobre. Ninguna facultad alcanzó el nivel internacional. El
comité dijo haber mirado a la teología a través de varias "ventanas" o "monóculos", como el
comité llamó a los indicadores: productividad, calificaciones del personal, número de tesis,
número de jóvenes investigadores, evaluación de programas de investigación por agencias
externas, publicación de revistas científicas.
Para el índice de productividad el comité fijó un estándar de un libro cada cinco años y un
artículo cada año para un profesor de tiempo completo. Como estándar internacional el
comité fijó un libro cada cuatro años y dos artículos anuales. Sobre la base del conteo de
publicaciones y a establecer el valor de ellas a través de un puntaje (10 puntos para un libro en
holandés, 15 para un libro en otro idioma; 1 punto para un artículo en holandés, 3 para uno en
otro idioma), el comité realizó un ranking de facultades y realizó una serie de conclusiones
sobre el nivel científico. La conclusión fue que ninguna facultad alcanzó el estándar
internacional y sólo dos el nivel nacional.
mismo idioma, mientras que un libro en idioma extranjero equivale a sólo cinco artículos en
ese mismo idioma? La recalculación con otros puntajes y estándares varía el resultado. En
relación con el nivel científico, más facultades alcanzan el estándar. La conclusión es que si se
trabaja con puntajes y estándares arbitrarios, el resultado debe ser manejado con sumo
cuidado. Una de las grandes objeciones es la manera en la que los números son utilizados
como si fueran absolutos. Los números dejan de ser indicadores y se convierten en criterios.
Leyendo el informe uno tiene la impresión de que el comité ha mirado a la teología en los
Países Bajos a través de varias ventanas, pero no entró al edificio para hacer preguntas. El
comité no miró la calidad de las publicaciones, ni se preguntó por qué ni como. El comité
miró al trabajo científico de las facultades de teología con siete pares diferentes de anteojos.
Dependiendo del número de anteojos que el comité se pusiera, el panorama de algunas
facultades se volvía más y más negro.
Trabajar con indicadores de desempeño es tan atractivo porque podemos llegar a obtener una
imagen clara de los puntos fuertes y débiles. Pero estos análisis deben ser manejados muy
cuidadosamente y complementados con otro tipo de información. La conclusión es que los ID
tienen un papel dentro de la evaluación de la calidad, pero es menor. Los indicadores de
desempeño son, en sentido amplio (tanto los cualitativos como los cuantitativos) el punto de
partida para obtener calidad en la imagen. Los ID, en sentido estrecho (el conjunto de
indicadores de desempeño cuantitativos), tienen un papel porque apoyan la opinión de los
pares. Pero los indicadores de desempeño nunca pueden tener la última palabra, ni tomar el
lugar de la revisión por pares. La opinión de los pares debe estar basada en hechos y números,
pero nunca puede ser reemplazada por indicadores de desempeño. "Los indicadores de
desempeño deben ser utilizados no como un fin en sí mismos para llegar a conclusiones
definitivas, sino para llamar la atención sobre ciertas áreas y proveer un catalizador para
futuras investigaciones" (Ashworth y Harvey 1994). Es claro que los indicadores de
desempeño nunca pueden hablar por sí solos, sino que deben ser interpretados por expertos.
Donde parecen ser objetivos, no son realmente indicadores de desempeño, sino sólo
información estadística. Como en el caso del concepto de "calidad", también es una pérdida
de tiempo buscar la piedra filosofal: un conjunto de indicadores para medir la calidad.
Las ventajas del sistema el menor requerimiento de expertos, menor consumo de tiempo y
mayor económica. Es una revisión de los procedimientos de calidad de una institución.
El enfoque de la CNE, en Francia, difiere del de HEQC, El procedimiento del CNE para
evaluar la calidad consiste en dos partes: evaluaciones institucionales y, a veces, revisiones
"horizontales" disciplinarias. Las evaluaciones institucionales no son específicas en el nivel
individual, ni evalúan los cursos (Staropoli 1992, Ottenwaelter 1993). En contraste con el
acercamiento del HEQC, el CNE no sólo mira la forma en que la calidad es garantizada, sino
que además intenta evaluar la calidad de la institución y sus componentes.
En verdad, el título de esta sección no es del todo correcto. La elección no es entre evaluación
institucional o de programas, sino ambas. En la figura 1.3 se muestra la relación entre los tres
niveles: auditoria institucional, evaluación institucional y evaluación de programas.
Evaluación Institucional
La evaluación institucional puede realizarse para acreditar. En ese caso se podrá utilizar un
procedimiento de evaluación ligero. Los requerimientos o estándares mínimos serán
formulados fuera de la institución. En algunos casos será posible tomar en cuenta el
desempeño en el pasado, pero la mayor parte de la gente mirará las condiciones para ser una
institución de educación superior real. Dadas las condiciones impuestas, ¿podemos esperar
calidad de esa institución de educación superior? En este sentido, los aspectos importantes
para ser evaluados son:
• La declaración de misión. ¿Está dentro de los valores esperados en educación superior?
• Selección de personal y sus calificaciones.
• Número de facultades y la variedad de los programas ofrecidos.
• Instalaciones.
• El mecanismo interno para garantizar la calidad.
Las dos primeras posibilidades no causan problemas. Puede emplearse el mismo método
descrito en este libro. Para el tercer caso, la evaluación de una facultad segmentada, se deberá
realizar una adaptación. Sin embargo estará claro que la evaluación de una facultad con
muchos programas perderá parte de las ventajas de una evaluación de programas. Será más
bien una evaluación de las condiciones del entorno más que una evaluación del (contenido
del) programa. Los resultados y aportes estarán orientados hacia los que toman las decisiones
y los administradores más que al personal y los estudiantes.
Al momento no hay experiencias reales sobre esta forma de evaluación, pero parece que será
viable para facultades tales como Artes Liberales o Humanidades.
Evaluación de Programas
Por otro lado está la evaluación de la currícula: un comité de pares evaluará un curriculum o
varios de una misma área. Este acercamiento ofrece la posibilidad de evaluar en profundidad
y detalle. Involucrará a los miembros del personal y el comité podría dar recomendaciones
para el mejoramiento de la calidad del curriculum.
Sin embargo, también existen varias desventajas: consume tiempo y es más cara. En algunas
facultades con muchos programas, como en Humanidades, este acercamiento podría conducir
a una evaluación continua: mientras un comité se va, otro está llegando. Mientras que la
mayor parte de las facultades de los Países Bajos serán visitadas una o tal vez dos veces en un
período de seis años (por ejemplo la facultad de Ciencias Económicas, la facultad de
Derecho), la facultad de Humanidades (que incluye programas como historia, idiomas, artes
liberales, etc.) ha sido visitada prácticamente cada año desde el comienzo de las evaluaciones
externas de la calidad de las universidades holandesas en 1988. En estos casos, se debería
18
buscar otra solución para mantener el valor de un acercamiento a los contenidos, pero
disminuyendo la carga.
Ya que la calidad está básicamente determinada por lo que sucede en una facultad,
especialmente en la situación enseñanza/aprendizaje, la mejor manera de comenzar con la
evaluación externa de la calidad es con la evaluación de programas de un área específica. Por
supuesto que está muy bien evaluar la calidad a nivel departamental, pero, ¿qué pasa con la
contribución de los servicios centrales y la institución como un todo? Por ende, será
necesario completar las revisiones de programas con una revisión de los servicios centrales y
la gestión en general.
Hay otras razones para un acercamiento por separado: el conocimiento necesario para la
evaluación de la investigación es diferente del requerido para la evaluación de la
enseñanza/aprendizaje. Para la investigación se necesitan pares, especialistas en los campos
de investigación que van a ser evaluados; para la educación se necesitan expertos con una
mirada más amplia. Pero también existen razones prácticas: combinar la evaluación de
proyectos y programas de investigación con la evaluación de la educación requiere de comités
muy grandes. También la cantidad de tiempo de la visita a la facultad será mucho más
extenso.
En varios países (Países Bajos, Dinamarca, Portugal) se eligió realizar las evaluaciones en el
nivel nacional. Un comité evalúa un mismo programa en todas las instituciones. Por
supuesto, esto es posible sólo cuando no existen demasiadas instituciones. La experiencia
muestra que unas diez visitas son lo máximo que se le puede pedir a un comité. Pero por
supuesto, cuando hay más unidades para ser evaluadas, será posible combinar varios comités
y organizar la evaluación en el nivel regional.
Existen varias razones para organizar la evaluación de una manera horizontal y comparativa:
• La evaluación externa de la calidad tiene una función pública, por lo que existirán
peticiones para un acercamiento comparativo. Aunque no se desee realizar rankings o
tablas, existirá la cuestión de cómo los aspectos de calidad de una facultad se comparan
con los mismos aspectos en otras facultades. El gobierno quiere conocer la calidad de los
programas tanto para los futuros estudiantes como para los empleadores. Esto sólo puede
ser realizado cuando todos los programas o grupos de programas son evaluados por un
mismo comité.
• Sin embargo, no es sólo el gobierno el que prestará atención a las comparaciones.
También las propias instituciones están interesadas; quieren conocer su posición en el
campo de juego.
• Un acercamiento horizontal también tiene sentido para el área de estudio involucrada. Al
evaluar más programas, un comité podrá obtener un buen panorama del estado del arte en
el área y bocetar desarrollos futuros a favor de las facultades involucradas.
• La evaluación de varios programas por el mismo comité también promueve un tratamiento
igualitario de las facultadas involucradas. En particular, cuando los informes son hechos
públicos, será importante que las facultades sean tratadas y evaluadas más o menos de la
misma manera.
• Aunque una evaluación separada de un programa parece ser menos cara y menos
demandante en cuestión de tiempo para los miembros de un comité, existirá el problema
de encontrar expertos para cada evaluación. Será más efectivo realizar la evaluación como
un esfuerzo conjunto.
Mirando el desarrollo en los diferentes países, no podemos decir que las instituciones de
educación superior, por un lado, y el gobierno, por el otro, se hayan unido para afrontar el
problema de la calidad y su garantía. No podemos llamarlos siempre amigos y aliados.
Expertos Estudiantes
EVALUACION DE LA
CALIDAD
En relación con los siguientes temas, los gobiernos y las instituciones de educación superior
pueden tener diferentes opiniones:
• El propósito de la evaluación de la calidad.
• La responsabilidad por la evaluación: ¿Quién hace qué?
• La posibilidad de definir la calidad.
• El uso de indicadores de desempeño.
• El vínculo con el financiamiento.
• Los efectos de la EEC.
En la mayor parte de los países los gobiernos y las instituciones de educación superior son
todavía oponentes, como nos muestra el "por qué" de la evaluación externa de la calidad.
Como ya fue dicho, los gobiernos tienen a menudo una idea simplista sobre la calidad y su
evaluación. Piensan que es fácil definir y medir a la calidad. Tal vez siempre sean oponentes,
porque la brecha entre los dos lados es más amplia en la interpretación del concepto de
calidad. Los requerimientos en cuanto a calidad fijados por el gobierno pueden llegar a ser
una amenaza para la calidad de la educación superior. Para las diferentes miradas sobre la
definición de la calidad ver la sección 1.4; sobre el uso de indicadores de desempeño ver la
sección 1.5; sobre el vínculo con el financiamiento ver la sección 1.8.
A menudo, los gobiernos también tienen una idea muy simplista sobre los efectos de la
evaluación de la calidad. Asumen que la EEC tendrá consecuencias directas en la calidad de
las instituciones de educación superior, que hay una respuesta inmediata a los hallazgos y
recomendaciones de los comités de pares externos: si la evaluación se lleva a cabo en el año x,
los cambios deben ser demostrables en el año x+1.
En los Países Bajos han pasado cinco años de evaluaciones externas de la calidad. Alguien de
afuera podría preguntar si la calidad de las universidades ha mejorado sustancialmente. Si las
universidades enfatizan que el mejoramiento es la función principal de la EEC, ¿será posible
demostrar que realmente funciona? La respuesta es decepcionante: la calidad de la educación
superior holandesa no ha mejorado sustancialmente. Luego de una investigación sobre los
efectos de la EEC, llevada a cabo por orden del Ministro de Educación y Ciencia, los
investigadores concluyen: "Sin embargo, no podemos decir que el gran número de recursos
invertidos haya conducido inmediatamente a una mejora proporcional de la calidad de la
educación: no se toman medidas en respuesta a cada recomendación y las medidas tomadas
no son drásticas" (Frederiks, Westerheijden y Weusthof 1993). Esta conclusión no es
inesperada ni inexplicable, pero no debemos concluir que es mejor detener la actividad de la
22
EEC, que consume tiempo y dinero, porque "no se puede esperar que los efectos de una
"cultura de calidad" sean inmediatos y amplios. La calidad de la educación, aunque
importante, es sólo una en una multitud de asuntos dentro de las instituciones de educación
superior; tomará tiempo elevarse del nivel de las raíces que están creciendo; las medidas de
menor alcance pueden tener grandes efectos en años futuros" (Frederiks et al. 1993). El
informe contiene una advertencia para los gobiernos para que no piensen de manera
demasiado simplista sobre los efectos directos y el seguimiento. Las innovaciones y cambios
tomarán un tiempo y nunca habrá un vínculo directo y a corto plazo entre las actividades en el
campo de la evaluación de la calidad y el mejoramiento. Pero en general podemos concluir
que muchas cosas están pasando en las facultades, de manera directa o indirecta, como
resultado de la evaluación externa de la calidad. La mera existencia del sistema afecta la
manera de pensar a la calidad en la universidad. En los últimos cinco años la conciencia
sobre la calidad se ha incrementado en los Países Bajos. La calidad está en la agenda, la
enseñanza ha ganado terreno. Tal vez el efecto más importante de la EEC puede ser descrito
como "promover el debate sobre la calidad".
En abril de 1986 el ministro y las instituciones de educación superior acordaron que la EEC
era responsabilidad de las propias instituciones. Inevitablemente, un acuerdo entre dos partes
siempre causa problemas de interpretación. El debate de los últimos cinco años se ha
enfocado en particular en los objetivos de la evaluación de la calidad y en qué debe esperarse
del control de la calidad. El gobierno ha formulado los siguientes objetivos para la EEC:
• Mejorar la enseñanza y el aprendizaje.
• Promover la rendición de cuentas: "Las instituciones de ES pueden moldear sus
responsabilidades hacia la sociedad con la ayuda de los resultados de la evaluación de la
calidad. Esto es suplementario a la mayor autonomía. Esta función es vista como
importante porque la ES puede ofrecer un informe sobre la calidad de la educación y la
investigación ante el parlamento, basado en los resultados de la evaluación" (Ministerie
van Onderwijs en Wetenschappen 1990).
• Contribuir a procedimientos de planeamiento. Las diferencias en la calidad se tornan
visibles. Esto puede jugar un papel en la discusión sobre el desarrollo de la educación
superior.
• Informar a la sociedad sobre el estado del arte de la educación superior. Por ejemplo,
información para posibles estudiantes sobre la calidad de los programas ofrecidos en las
diferentes instituciones y sobre perspectivas para el mercado laboral. (Ministerie van
Onderwijs en Wetenschappen 1990).
3
N. del T.: Expresión inglesa que significa estar entre dos alternativas igualmente peligrosas. En la mitología
griega Scylla es una ninfa que fue transformada en un monstruo que aterroriza a los marineros en el Estrecho de
Messina; Caríbides era un remolino en la costa de Sicilia personificado por un monstruo femenino.
23
Con el último objetivo en mente, podemos señalar la importancia que el gobierno holandés
otorga a los estudiantes en el marco de la evaluación de la calidad. El Ministerio de Educación
y Ciencia holandés ha tomado la iniciativa de publicar un libro para estudiantes como
herramienta para la evaluación de su educación. El Ministro también subsidió la publicación
de un periódico, la "Guía de Educación Superior para el Consumidor (Kenzegids Hoger
Onderwijs 1992-1994)", que trata de describir la calidad de los diferentes programas de
estudio de manera comparada. La idea detrás de la Guía es la creencia que, cuando los
estudiantes tienen suficiente información a su disposición, elegirán sus estudios basados en la
calidad y forzarán a las instituciones de educación superior a brindar educación de calidad.
Kells (1992, 1993) da la siguiente definición o conjunto de atributos de una universidad auto-
regulada. Dicha universidad:
• Revisa regularmente sus intenciones declaradas en el nivel institucional y de programa
(objetivos, metas, propósitos) para mayor claridad, consenso, interrelaciones y logros.
• Asigna la responsabilidad de la evaluación a una persona u oficina, para implementar los
resultados, para el seguimiento y para los vínculos con el presupuesto y el planeamiento.
• Construye un sistema de información activo, útil y en constante evolución, que contiene
tanto hechos como opiniones sobre sus programas y servicios. Escucha a sus clientes y
espera que los líderes y miembros del personal utilicen dicha información.
• Se examina periódicamente (programas, servicios, gestión) utilizando procesos de
autoevaluación y luego revisiones por pares para validar los resultados. También examina
a la institución en su conjunto -sus políticas, estrategias y dirección.
• Actúa sobre los resultados de las evaluaciones: utiliza incentivos y sanciones, redistribuye
recursos marginales -incluso elimina un servicio o programa de vez en cuando.
1. Debe ser claro, para todas las partes interesadas (gobierno, parlamento, instituciones
de educación superior, personal y estudiantes) que debe esperarse de la EEC.
Existen varias razones para decidirse sobre un sistema de EEC, como quedó claro en la
sección 1.3. Las expectativas sobre los fines y resultados de la EEC pueden diferir entre
gobiernos y universidades. ¿Elegimos un sistema de control de la calidad para medir la
calidad (en la medida de lo posible)? ¿Deseamos utilizar el sistema para la ubicación de
recursos? ¿O estamos planeando que el sistema sea un instrumento para mantener y
mejorar la calidad? Todos estos objetivos son legítimos. Pero la orientación debe ser clara
para todas las partes involucradas. No tiene sentido enfatizar la función mejoramiento y
luego usar los resultados para asignación o reasignación de fondos sin avisar a las
instituciones de educación superior que esto será realizado.
La elección "control y medición", a menudo deseada por los gobiernos, es legítima, pero
no debe esperarse demasiada cooperación por parte de las instituciones de educación
superior. Nadie desea proveer la soga con la que será colgado.
Puede ser difícil para un sistema de EEC orientado al mejoramiento cumplir al mismo
tiempo una función pública. Será incluso más difícil que un sistema basado en la
rendición de cuentas contribuya al mejoramiento de la calidad.
Este es uno de los principios cardinales: son las propias instituciones de educación
superior las responsables de la calidad y por ende de la garantía de calidad. El
mejoramiento de la calidad comienza en el nivel institucional y nunca puede ser forzado.
La EEC, como instrumento, no debe estar nunca en manos del gobierno, sino que debe
estar en manos de las instituciones de educación superior, las facultades, departamentos o
escuelas, y del personal. Por esta razón deben ser las instituciones de educación superior
las responsables del diseño y mantenimiento del sistema. Por ende:
8. Los elementos básicos del sistema de EEC son (a) autoevaluación y (b) revisión por
pares.
Un sistema de EEC no podrá estar nunca basado sólo en indicadores de desempeño o en
trabajo administrativo. La piedra angular del sistema es una autoevaluación de la unidad
que está bajo análisis (ver sección 2.4). El segundo elemento es la revisión por pares,
"sostener un espejo" frente a la unidad (ver sección 2.5).
11. Los gobiernos deberán abstenerse de tomar acciones directas basadas en los
resultados y dejar el seguimiento en las manos de las instituciones de educación
superior.
Por supuesto, el gobierno mirará como Argos los resultados de una evaluación. No será
siempre fácil mantenerse a la distancia y no interferir. Sin embargo, debe permitir, en
primera instancia, que sean las instituciones de educación superior las que tomen acciones
y hagan algo con los resultados. Sólo cuando una institución no hace nada con las
recomendaciones puede el ministro interferir. Si el ministro toma medidas antes de
tiempo, probablemente signifique el fin del sistema, porque ninguna institución cooperará
ni tendrá un diálogo abierto con un comité en el futuro. Pero supuesto, el gobierno quiere
saber si la EEC tiene algún efecto o no. Por ende el siguiente principio:
14. Costo-Beneficio
Por último, pero no por ello menos importante, debe quedar en claro que el sistema debe
ser efectivo con relación al costo. Debemos hacer una distinción entre el costo de una
facultad/escuela preparándose para la evaluación externa llevando a cabo la
autoevaluación y el costo del comité de revisión. Ya que la mayor parte de las
facultades/escuelas no tienen una tradición de la autoevaluación, la primera vez requerirá
de mucho tiempo. Cuanto mejor sea la gestión interna de la calidad, más fácil será la
autoevaluación. La primera vez la facultad podrá llegar a necesitar de seis meses para la
autoevaluación, la segunda podrá ser posible en un mes.
El segundo punto relacionado con el costo, es el costo de la agencia que evalúa. Este
gasto depende del tamaño de los comités, el número de facultades que deben ser visitadas,
etc.
Antes de que un sistema de EEC pueda ser diseñado, se deben tomar ciertas decisiones. Al
hacerlo, se debe tener en cuenta lo siguiente:
• No trate de descubrir una definición de que es la calidad. Es una pérdida de tiempo. Sin
embargo, las partes interesadas (estudiantes, personal, gobierno, empleadores) deben tener
en claro cuales son sus requerimientos.
• Evite discusiones sobre indicadores de desempeño. También son una pérdida de tiempo.
• Sea muy claro en el propósito de la evaluación de la calidad. Debe hacerse un buen
acuerdo entre las instituciones de educación superior y el gobierno sobre sus
responsabilidades.
• Un sistema de EEC está basado en la autoevaluación, la revisión por pares y las visitas.