Using a Multifocal Lens Model and Rasch Measurement Theory to Evaluate Rating Quality in Writing Assessments
Evaluación de calidad de calificaciones en exámenes escritos a través del modelo multifocal de lente y la teoría de medición de Rasch
Author
Wang , Jue
Engelhard, Jr., George
Full text
http://pensamientoeducativo.uc.cl/index.php/pel/article/view/2482510.7764/PEL.54.2.2017.3
Abstract
Lens models have been used extensively for the examination of human judgments. Applications of lens model have occurred in a variety of contexts including judgments of reading achievement, clinical diagnosis, and personality characteristics. Rater-mediated writing assessments involve human judgments toward student essays. The judgmental process determines the quality of ratings, and this directly affects validity and fairness of ratings. Lens models provide a theoretical framework to evaluate rater judgment in rater-mediated assessments. Rasch measurement theory offers an alternative methodological approach for studying human judgments, and we propose combining Rasch measurement theory with a multifocal lens model. In order to illustrate our approach, the ratings of three expert raters and 20 operational raters from a state writing assessment program in the United States are examined in this study. There are only 35% of the students with comparable writing proficiency measures based on a comparison of ratings from operational raters and expert raters. The combination of a multifocal lens model with Rasch measurement theory offers a new pathway for understanding the quality of ratings for rater-mediated assessments. Los modelos de lente han sido usados extensivamente para examinar los juicios humanos. Las aplicaciones de estos modelos han ocurrido en una variedad de contextos que incluyen juicios de logros de lectura, diagnósticos clínicos y características personales. Los exámenes escritos sujetos a calificaciones mediadas involucran juicios humanos hacia los ensayos de los estudiantes. Los procesos de juicio determinan la calidad de las calificaciones, y esto afecta directamente la imparcialidad y validez de las calificaciones. El modelo de lente provee un marco teórico con el que se puede evaluar los juicios en exámenes sujetos a calificaciones mediadas. La teoría de medición de Rasch ofrece un acercamiento metodológico alternativo con el modelo multifocal de lente. Para poder ilustrar nuestro acercamiento a esta teoría, fueron examinadas las calificaciones de tres expertos calificadores y 20 calificadores operacionales de un programa estatal de apoyo a la escritura en los Estados Unidos. Hay solo un 35% de estudiantes con competencias comparables en escritura, medidas en base a la comparación de calificaciones de calificadores operacionales y calificadores expertos. La combinación de un modelo de lente multifocal con la teoría de medición de Rasch ofrece nuevas maneras de entendimiento sobre la calidad de calificaciones mediadas por evaluadores.
Metadata
Show full item recordRelated items
Showing items related by title, author, creator and subject.
-
Using a Multifocal Lens Model and Rasch Measurement Theory to Evaluate Rating Quality in Writing Assessments
Wang, Jue; The University of Georgia; Engelhard Jr., George; The University of Georgia. Pensamiento Educativo. Revista de Investigación Educacional Latinoamericana; Vol 54, No 2 (2017); 1-16 -
Chronic recurrent multifocal osteomyelitis in a pediatric patient, a case report
Mesa Muñoz, Catalina; Cardona Correa, Sara Elena; Garcés Samudio, Carlos; Toro Uribe, Jaime. Revista Chilena de Pediatría; Vol. 88, Núm. 4 (2017): Julio - Agosto; 502-506 -
Clinical presentation and treatment of multifocal epitrichial sweat gland carcinoma in a horse
Dörner, Cristóbal A.; Castellón, Cristóbal H.; Yañez, Diego. Austral Journal of Veterinary Sciences; Vol. 52 Núm. 3 (2020); 109-112