• Journals
  • Discipline
  • Indexed
  • Institutions
  • About
JavaScript is disabled for your browser. Some features of this site may not work without it.
View Item 
  •   Home
  • Pontificia Universidad Católica de Chile
  • Pensamiento Educativo
  • View Item
  •   Home
  • Pontificia Universidad Católica de Chile
  • Pensamiento Educativo
  • View Item

Using a Multifocal Lens Model and Rasch Measurement Theory to Evaluate Rating Quality in Writing Assessments

Evaluación de calidad de calificaciones en exámenes escritos a través del modelo multifocal de lente y la teoría de medición de Rasch

Author
Wang, Jue; The University of Georgia

Engelhard Jr., George; The University of Georgia

Full text
http://pensamientoeducativo.uc.cl/index.php/pel/article/view/891
10.7764/PEL.54.2.2017.
Abstract
Lens models have been used extensively for the examination of human judgments. Applications of lens model have occurred in a variety of contexts including judgments of reading achievement, clinical diagnosis, and personality characteristics. Rater-mediated writing assessments involve human judgments toward student essays. The judgmental process determines the quality of ratings, and this directly affects validity and fairness of ratings. Lens models provide a theoretical framework to evaluate rater judgment in rater-mediated assessments. Rasch measurement theory offers an alternative methodological approach for studying human judgments, and we propose combining Rasch measurement theory with a multifocal lens model. In order to illustrate our approach, the ratings of three expert raters and 20 operational raters from a state writing assessment program in the United States are examined in this study. There are only 35% of the students with comparable writing proficiency measures based on a comparison of ratings from operational raters and expert raters. The combination of a multifocal lens model with Rasch measurement theory offers a new pathway for understanding the quality of ratings for rater-mediated assessments. Keywords: Multifocal lens model; Rasch measurement theory; rater-mediated assessments; writing assessmentsdoi: 10.7764/PEL.54.2.2017.3  
 
Los modelos de lente han sido usados extensivamente para examinar los juicios humanos. Las aplicaciones de estos modelos han ocurrido en una variedad de contextos que incluyen juicios de logros de lectura, diagnósticos clínicos y características personales. Los exámenes escritos sujetos a calificaciones mediadas involucran juicios humanos hacia los ensayos de los estudiantes. Los procesos de juicio determinan la calidad de las calificaciones, y esto afecta directamente la imparcialidad y validez de las calificaciones. El modelo de lente provee un marco teórico con el que se puede evaluar los juicios en exámenes sujetos a calificaciones mediadas. La teoría de medición de Rasch ofrece un acercamiento metodológico alternativo con el modelo multifocal de lente. Para poder ilustrar nuestro acercamiento a esta teoría, fueron examinadas las calificaciones de tres expertos calificadores y 20 calificadores operacionales de un programa estatal de apoyo a la escritura en los Estados Unidos. Hay solo un 35% de estudiantes con competencias comparables en escritura, medidas en base a la comparación de calificaciones de calificadores operacionales y calificadores expertos. La combinación de un modelo de lente multifocal con la teoría de medición de Rasch ofrece nuevas maneras de entendimiento sobre la calidad de calificaciones mediadas por evaluadores. Palabras clave: Modelo multifocal de lente; Teoría de medición de Rasch; evaluaciones escritas; evaluaciones mediadas por evaluadores doi: 10.7764/PEL.54.2.2017.3  
 
Metadata
Show full item record
Discipline
Artes, Arquitectura y UrbanismoCiencias Agrarias, Forestales y VeterinariasCiencias Exactas y NaturalesCiencias SocialesDerechoEconomía y AdministraciónFilosofía y HumanidadesIngenieríaMedicinaMultidisciplinarias
Institutions
Universidad de ChileUniversidad Católica de ChileUniversidad de Santiago de ChileUniversidad de ConcepciónUniversidad Austral de ChileUniversidad Católica de ValparaísoUniversidad del Bio BioUniversidad de ValparaísoUniversidad Católica del Nortemore

Browse

All of DSpaceCommunities & CollectionsBy Issue DateAuthorsTitlesSubjectsThis CollectionBy Issue DateAuthorsTitlesSubjects

My Account

LoginRegister
Dirección de Servicios de Información y Bibliotecas (SISIB) - Universidad de Chile
© 2019 Dspace - Modificado por SISIB