Using a Multifocal Lens Model and Rasch Measurement Theory to Evaluate Rating Quality in Writing Assessments
Evaluación de calidad de calificaciones en exámenes escritos a través del modelo multifocal de lente y la teoría de medición de Rasch
dc.creator | Wang , Jue | |
dc.creator | Engelhard, Jr., George | |
dc.date | 2017-10-30 | |
dc.date.accessioned | 2021-06-01T12:39:01Z | |
dc.date.available | 2021-06-01T12:39:01Z | |
dc.identifier | http://pensamientoeducativo.uc.cl/index.php/pel/article/view/24825 | |
dc.identifier | 10.7764/PEL.54.2.2017.3 | |
dc.identifier.uri | https://revistaschilenas.uchile.cl/handle/2250/167422 | |
dc.description | Lens models have been used extensively for the examination of human judgments. Applications of lens model have occurred in a variety of contexts including judgments of reading achievement, clinical diagnosis, and personality characteristics. Rater-mediated writing assessments involve human judgments toward student essays. The judgmental process determines the quality of ratings, and this directly affects validity and fairness of ratings. Lens models provide a theoretical framework to evaluate rater judgment in rater-mediated assessments. Rasch measurement theory offers an alternative methodological approach for studying human judgments, and we propose combining Rasch measurement theory with a multifocal lens model. In order to illustrate our approach, the ratings of three expert raters and 20 operational raters from a state writing assessment program in the United States are examined in this study. There are only 35% of the students with comparable writing proficiency measures based on a comparison of ratings from operational raters and expert raters. The combination of a multifocal lens model with Rasch measurement theory offers a new pathway for understanding the quality of ratings for rater-mediated assessments. | en-US |
dc.description | Los modelos de lente han sido usados extensivamente para examinar los juicios humanos. Las aplicaciones de estos modelos han ocurrido en una variedad de contextos que incluyen juicios de logros de lectura, diagnósticos clínicos y características personales. Los exámenes escritos sujetos a calificaciones mediadas involucran juicios humanos hacia los ensayos de los estudiantes. Los procesos de juicio determinan la calidad de las calificaciones, y esto afecta directamente la imparcialidad y validez de las calificaciones. El modelo de lente provee un marco teórico con el que se puede evaluar los juicios en exámenes sujetos a calificaciones mediadas. La teoría de medición de Rasch ofrece un acercamiento metodológico alternativo con el modelo multifocal de lente. Para poder ilustrar nuestro acercamiento a esta teoría, fueron examinadas las calificaciones de tres expertos calificadores y 20 calificadores operacionales de un programa estatal de apoyo a la escritura en los Estados Unidos. Hay solo un 35% de estudiantes con competencias comparables en escritura, medidas en base a la comparación de calificaciones de calificadores operacionales y calificadores expertos. La combinación de un modelo de lente multifocal con la teoría de medición de Rasch ofrece nuevas maneras de entendimiento sobre la calidad de calificaciones mediadas por evaluadores. | es-ES |
dc.format | application/pdf | |
dc.format | application/pdf | |
dc.language | spa | |
dc.language | eng | |
dc.publisher | Facultad de Filosofía y Ciencias de la Educación de la Pontificia Universidad Católica de Chile | es-ES |
dc.relation | http://pensamientoeducativo.uc.cl/index.php/pel/article/view/24825/20057 | |
dc.relation | http://pensamientoeducativo.uc.cl/index.php/pel/article/view/24825/21625 | |
dc.rights | http://creativecommons.org/licenses/by-nc-sa/4.0 | es-ES |
dc.source | Pensamiento Educativo, Revista de Investigación Latinoamericana (PEL); Vol. 54 Núm. 2 (2017); 1-16 | es-ES |
dc.source | 0719-0409 | |
dc.subject | Multifocal lens model | en-US |
dc.subject | Rasch measurement theory | en-US |
dc.subject | Multifocal lerater-mediated assessments | en-US |
dc.subject | writing assessments | en-US |
dc.subject | Modelo multifocal de lente | es-ES |
dc.subject | Teoría de medición de Rasch | es-ES |
dc.subject | evaluaciones escritas | es-ES |
dc.subject | evaluaciones mediadas por evaluadores | es-ES |
dc.title | Using a Multifocal Lens Model and Rasch Measurement Theory to Evaluate Rating Quality in Writing Assessments | en-US |
dc.title | Evaluación de calidad de calificaciones en exámenes escritos a través del modelo multifocal de lente y la teoría de medición de Rasch | es-ES |
dc.type | info:eu-repo/semantics/article | |
dc.type | info:eu-repo/semantics/publishedVersion |
This item appears in the following Collection(s)
-
Pensamiento Educativo
[0-9]{4}