Diseno de Armado para Pruebas Estandarizadas
Diseno de Armado para Pruebas Estandarizadas
Diseno de Armado para Pruebas Estandarizadas
Directora de Evaluación
Natalia González Gómez
Director de Tecnología
Publicación del Instituto Colombiano
Carlos Alberto Sánchez Rave
para la Evaluación de la Educación
(Icfes)
© Icfes, 2020. Subdirector de Diseño de Instrumentos
Todos los derechos de autor Luis Javier Toro Baquero
reservados.
Subdirectora de Estadísticas
Jeimy Paola Aristizábal Rodríguez
Elaborado por
Mónica Liliana Manrique Galindo Subdirectora de Análisis y Divulgación
Mara Brigitte Bravo Osorio
Edición
Juan Camilo Gómez-Barrera ISBN de la versión digital
978-958-11-0891-6
Diseño de portada y diagramación
Linda Nathaly Sarmiento Olaya Bogotá, D. C., diciembre de 2020
ADVERTENCIA
Todo el contenido es propiedad exclusiva y reservada del Icfes y es el
resultado de investigaciones y obras protegidas por la legislación nacional
e internacional. No se autoriza su reproducción, utilización ni explotación a
ningún tercero. Solo se autoriza su uso para fines exclusivamente académicos.
Esta información no podrá ser alterada, modificada o enmendada.
Diseño de armado para pruebas estandarizadas: usos y metodologías
TABLA DE CONTENIDO
Introducción ...................................... 6
Referencias ....................................... 64
3
Diseño de armado para pruebas estandarizadas: usos y metodologías
LISTA DE ILUSTRACIONES
Ilustración 1.
Armado de una prueba ..................... 8
Ilustración 2.
Características consideradas para la
selección de ítems ............................. 12
Ilustración 3.
Agrupación de ítems .......................... 15
Ilustración 4.
Organización de los diseños con bloques
según los criterios de proporción, balance
y bloqueo ......................................... 31
Ilustración 5.
Bloques, según posición, forma y
apariciones, en un BIBD de seis bloques 39
Ilustración 6.
Eficiencia de los diseños BIBD, según la
cantidad de tratamientos .................... 40
Ilustración 7.
Bloques, según posición y forma, en un
diseño de bloques encadenados (ocho
bloques) ........................................... 47
4
Diseño de armado para pruebas estandarizadas: usos y metodologías
LISTA DE TABLAS
Tabla 1.
Ejemplo de un diseño que presenta
propiedades deseables ...................... 25
Tabla 2.
Bloques, según posición y forma, en un
diseño RCBD de cinco bloques ........... 33
Tabla 3.
Bloques, según posición y forma, en un
diseño LSD de cinco bloques .............. 34
Tabla 4.
Bloques, según posición y forma, en un
cuadrado de Youden, con cuatro bloques
y tres repeticiones .............................. 42
Tabla 5.
Bloques, según posición y forma, en un
diseño triangular de seis bloques ....... 44
Tabla 6.
Bloques, según posición y forma, en un
diseño cíclico de nueve bloques ......... 45
5
Diseño de armado para pruebas estandarizadas: usos y metodologías
Introducción
6
Diseño de armado para pruebas estandarizadas: usos y metodologías
7
1. Armado de pruebas: particularidades y retos
Selección Organización
de ítems de los ítems
8
1. Armado de pruebas: particularidades y retos
9
1. Armado de pruebas: particularidades y retos
10
1. Armado de pruebas: particularidades y retos
11
1. Armado de pruebas: particularidades y retos
Dificultad
Discriminación
Estructura Selección
de ítems
Pseudo-azar
Flujo de opciones
Información
12
1. Armado de pruebas: particularidades y retos
Cuadernillo:
Corresponde al conjunto de ítems a los que se enfrentará
un evaluado durante toda una sesión. Estos ítems pueden
ser de una o varias áreas, es decir, de una o varias pruebas.
Forma:
El conjunto de ítems de una misma área o prueba que
enfrentará cada evaluado en un examen, en una o más
sesiones. Los cuadernillos son conjuntos de formas7.
Bloque:
Los bloques son agrupaciones de ítems que comparten
la longitud (cantidad de ítems) o el tiempo esperado
de aplicación y que, al unirse, constituyen una forma
(Fernández-Alonso y Muñiz, 2011).
Contexto:
Aunque los contextos no son en sí conjuntos de ítems,
constituyen agrupaciones, ya que la información
presentada en cada contexto es necesaria para responder
cada uno de los ítems que tiene asociados. Si bien no se
tienen que emplear a la vez todos los ítems asociados a un
mismo contexto, es recomendable incluir al menos dos o
tres ítems por cada contexto que se utilice en una prueba,
debido al tiempo y esfuerzo que implica su lectura y análisis.
13
1. Armado de pruebas: particularidades y retos
8 Los valores que se estiman para cada una de las características de los
ítems, como la dificultad o la discriminación.
14
1. Armado de pruebas: particularidades y retos
15
1. Armado de pruebas: particularidades y retos
16
1. Armado de pruebas: particularidades y retos
17
1. Armado de pruebas: particularidades y retos
18
1. Armado de pruebas: particularidades y retos
19
2. Diseños experimentales
2. Diseños experimentales
20
2. Diseños experimentales
21
2. Diseños experimentales
22
2. Diseños experimentales
23
2. Diseños experimentales
13 En el caso de los diseños con bloques, cada individuo recibe una forma,
que está conformada por bloques, por lo que es necesario hacer la
distinción en este punto.
14 Por practicidad y por su uso frecuente, se emplearán las letras del
alfabeto en orden para denominar los bloques; por ejemplo, en
un diseño de cinco bloques, estos se denominarán: A, B, C, D y E
(Montgomery, 2012; De Mendiburu, 2019).
24
2. Diseños experimentales
Bloque
1 2 3 4
Forma
1 A B C D
2 B C D A
3 C D A B
4 D A B C
25
2. Diseños experimentales
Ortogonalidad:
Se refiere a que los diferentes factores del diseño tengan
la misma cantidad de niveles, situación que aumenta la
precisión en la estimación, ya que puede ser realizada de
manera independiente para cada combinación de niveles.
Esto se puede ver en la tabla 1: la cantidad de filas (formas)
es igual a la de columnas (bloques), y se controla la posición
de los bloques, de manera que no se repiten tratamientos
(bloques) por fila ni por columna.
Balance:
Se relaciona con la cantidad de veces que es presentado
cada bloque, así como cada par de ellos, en la totalidad
de formas. En la medida en que estas cantidades sean
las mismas para los diferentes bloques, los tratamientos
podrán ser comparados con igual precisión. En relación
con la calificación, se tendrá igual cantidad de miradas
para cada uno de los ítems; esto se debe tener en cuenta
a la luz de los requisitos del modelo de calificación que se
vaya a utilizar. En la tabla 1, cada bloque y cada par de
bloques se presentan cuatro veces.
Eficiencia relativa:
Se refiere a la efectividad del control local o bloqueo, es
decir, a la medida en que se logra la conformación de
grupos homogéneos para los diferentes bloques mediante
las reglas establecidas para su organización en formas. La
eficiencia relativa de un diseño se obtiene al comparar su
varianza al interior de las formas con la de un diseño más
sencillo con la misma cantidad de repeticiones.
26
2. Diseños experimentales
Conexión:
Se refiere a la posibilidad de comparar los diferentes pares
de tratamientos. Las limitaciones pueden ocurrir según
la estructura del diseño, más específicamente, cuando la
cantidad de bloques no es la misma para todas las formas
o la cantidad de repeticiones es diferente para diferentes
bloques o pares de ellos. Un ejemplo de esto último se
da cuando cada forma incluye bloques de dos tipos
diferentes, por lo que dos bloques del mismo tipo nunca
estarán juntos en una misma forma. Esto puede afectar
el proceso de calibración de los ítems y el desarrollo de
posibles investigaciones que requieran probar diferencias
o relaciones entre ítems o agrupaciones. El diseño de la
tabla 1 es un diseño conectado, ya que presenta todas
las posibles combinaciones de bloques al incluir todos los
bloques en cada forma.
Simplicidad:
Referida a la relación costo-beneficio entre la cantidad
de elementos o restricciones contempladas por un diseño
(con las correspondientes implicaciones a nivel logístico y
de análisis) y la amplitud15 y representatividad del sector
de la población al que va dirigido. Por ejemplo, es más
simple un diseño en el que los bloques apenas se agrupan
27
2. Diseños experimentales
28
2. Diseños experimentales
29
2. Diseños experimentales
30
2. Diseños experimentales
Bloques
Completos Incompletos
Triangular (1 factor)
Diseño
Proporción
Cíclico (Encadenados)
Balance
(2 factores)
Bloqueo
31
2. Diseños experimentales
32
2. Diseños experimentales
Posición
1 2 3 4 5
Forma
1 C A D E B
2 E C A B D
3 C D A B E
33
2. Diseños experimentales
Posición
1 2 3 4 5
Forma
1 A B C D E
2 B C D E A
3 C D E A B
4 D E A B C
5 E A B C D
34
2. Diseños experimentales
35
2. Diseños experimentales
36
2. Diseños experimentales
37
2. Diseños experimentales
38
2. Diseños experimentales
39
2. Diseños experimentales
0.9 0.9
Eficiencia
Eficiencia
0.7 0.7
0.5 0.5
2 4 6 8 10 2 4 6 8 10 14
40
2. Diseños experimentales
Cuadrados de Youden
41
2. Diseños experimentales
Posición
1 2 3
Forma
1 D C A
2 C D B
3 B A D
4 A B C
42
2. Diseños experimentales
Diseño triangular
43
2. Diseños experimentales
Posición
Cuadrado 1 2 3
Forma
B C D 1 B C D
B F E 2 B F E
C F A 3 C F A
D E A 4 D E A
44
2. Diseños experimentales
Diseño cíclico
Bloque
Forma A B C D E F G H I 1 2 3
1 A C G
2 B D H
3 C E I
4 D F A
5 E G B
6 F H C
7 G I D
8 H A E
9 I F B
45
2. Diseños experimentales
46
2. Diseños experimentales
Posición
1 2
Forma A
1 D G
F D
2 G B
3 B E C G
4 E H
5 H C H B
6 C F E
7 F A
8 A D
47
2. Diseños experimentales
48
3. Ejemplos del uso de los diseños para el armado de pruebas
49
3. Ejemplos del uso de los diseños para el armado de pruebas
50
3. Ejemplos del uso de los diseños para el armado de pruebas
51
3. Ejemplos del uso de los diseños para el armado de pruebas
52
3. Ejemplos del uso de los diseños para el armado de pruebas
53
3. Ejemplos del uso de los diseños para el armado de pruebas
54
3. Ejemplos del uso de los diseños para el armado de pruebas
55
3. Ejemplos del uso de los diseños para el armado de pruebas
56
3. Ejemplos del uso de los diseños para el armado de pruebas
57
3. Ejemplos del uso de los diseños para el armado de pruebas
58
3. Ejemplos del uso de los diseños para el armado de pruebas
Lectura:
Evaluada en segundo de primaria mediante una forma
única, repartida en dos cuadernillos de 25 ítems. En
cuarto se tienen seis cuadernillos, cada uno de los cuales
incluye un bloque compartido y uno adicional, que suman
24 ítems. Como los bloques compartidos son dos, cada
uno está contenido en tres cuadernillos, resultando en dos
grupos, uno para cada sesión. Mientras que los bloques
compartidos se aplican de primeras en cada sesión, los
otros seis, que no tienen ítems en común, se aplican al
final. Cada evaluado recibe dos cuadernillos, un total de
48 ítems. Para cuarto EIB en castellano, se tiene una única
forma de dos cuadernillos, conformada por 44 ítems;
mientras que se tiene una forma de 42 ítems para cada una
de seis lenguas originarias, también presentadas mediante
dos cuadernillos. Para segundo de secundaria, se tienen
59
3. Ejemplos del uso de los diseños para el armado de pruebas
Matemáticas:
Se evalúa en los mismos grados que lectura, excepto
por cuarto grado EIB. Se tienen diseños semejantes para
segundo de primaria (23 ítems por cuadernillo) y cuarto
de primaria (27 ítems por cuadernillo); el de segundo de
secundaria es el mismo empleado en cuarto de primaria,
pero con 25 ítems por cuadernillo.
60
3. Ejemplos del uso de los diseños para el armado de pruebas
61
3. Ejemplos del uso de los diseños para el armado de pruebas
62
3. Ejemplos del uso de los diseños para el armado de pruebas
63
Diseño de armado para pruebas estandarizadas: usos y metodologías
REFERENCIAS
64
Diseño de armado para pruebas estandarizadas: usos y metodologías
65
Diseño de armado para pruebas estandarizadas: usos y metodologías
66
Diseño de armado para pruebas estandarizadas: usos y metodologías
67
Diseño de armado para pruebas estandarizadas: usos y metodologías
68
Diseño de armado para pruebas estandarizadas: usos y metodologías
69
Diseño de armado para pruebas estandarizadas: usos y metodologías
70
Calle 26 N.° 69-76, Torre 2, Piso 15, Edificio Elemento, Bogotá, D. C., Colombia • www.icfes.gov.co
Líneas de atención al usuario: Bogotá Tel.: (57+1) 484-1460 PBX: (57+1) 484-1410 -
Gratuita nacional: 018000-519535