کاربرد مدل دو پارامتری لوجیت آشیانه ای در شناسایی منابع DIF در سؤال های چندگزینه ای (مقاله علمی وزارت علوم)
درجه علمی: نشریه علمی (وزارت علوم)
آرشیو
چکیده
مشخص کردن گزینه های انحرافی به عنوان منابع کنش افتراقی سؤال (DIF) در سؤال های چند ارزشی اهمیت بسزایی برای طراحان و تحلیل گران سؤال دارد. هرچند DIF روش معمول بررسی تغییرناپذیری اندازه گیری است؛ این رویکرد به خصوص در سؤال های چندگزینه ای با چالش ها و محدودیت هایی همراه است. هدف این مطالعه، ارزیابی رویکرد لوجیت آشیانه ای (NLM) در شناسایی سؤال های حاوی کنش افتراقی گزینه های انحرافی (DDF) با استفاده از روش تحقیق آزمایشی (داده های شبیه سازی) و روش توصیفی-تحلیلی (داده های واقعی) بود. 6 سؤال، تحت شرایط مختلف دشواری و شیب، توزیع توانایی، وجود یا نبود کنش افتراقی و بزرگی DIF/DDF با نمونه ای به حجم 2000 و با 50 تکرار شبیه سازی شد. همچنین، داده های فرم D آزمون ریاضی کنکور 1397 با نمونه ای تصادفی به حجم 2000 مرد و زن، نمونه واقعی را تشکیل می داد. بر اساس نتایج تحلیل داده های شبیه سازی: رویکرد لوجیت آشیانه ای به طور متوسط 88 درصد سؤال های DIF دار و 97 درصد سؤال های DDF دار تحت شرایط مختلف را آشکار نمود. نرخ خطای نوع اول در اغلب شرایط بسیار نزدیک به ارزش های مورد انتظار نظری بود هرچند در شرایط توزیع نابرابر، مقداری تورم خطا نشان داد. بر اساس یافته های شبیه سازی، نرخ تشخیص کنش افتراقی متأثر از پارامترهای سؤال (دشواری و شیب) بود و با افزایش سطح DIF و یا DDF نرخ رد افزایش می یافت. مبتنی بر تحلیل داده های واقعی، 2 سؤال به طور هم زمان هردوی DIF (بزرگ و متوسط) و DDF (جزئی تا متوسط) را به نمایش گذاشت، درحالی که در رویکرد رقیبِ پاسخ اسمی، 11 سؤال به عنوان سؤال با کنش افتراقی شناسایی شد؛ بنابراین همان طور که انتظار می رفت رویکرد NLM مبتنی بر استراتژی «تقسیم بر گزینه های انحرافی» تعداد سؤال های کمتری را به عنوان DIF / DDF دار ردگیری نمود. رویکرد دومرحله ای مدل لوجیت آشیانه ای، ضمن تفکیک آزمون DDF از DIF، امکان ارزیابی روشن از اینکه آیا گزینه های انحرافی مسئول احتمالی DIF هستند را میسر می سازد. ازآنجاکه آزمون های سرنوشت ساز نقش ویژه ای در گزینش افراد دارند و تحلیل های DIF و DDF جایگاه ویژه ای در تعیین اعتبار و نامتغیر بودن اندازه گیری سؤال های این آزمون ها دارند، پیشنهاد می شود جهت سرند کردن سؤال های سودار تحلیل های جامع DIF / DDF مبتنی بر رویکردهای لوجیت آشیانه ای مورداستفاده قرار گیرد.Application of Two-Parameter Nested Logit Model in Identifying the Source of DIF in Multiple-Choice Items
Identifying distractors as sources of Differential Item Functioning(DIF) in polyotomous items has great importance to designers and analysts. Although DIF is one of the common methods for examining the measurement invariance, It is accompanied by challenges and limitations, especially in multiple choice items. The purpose of this study was to assess the performance of Nested logit Model(NLM) for detecting Differential Distractor Functioning(DDF) by using experimental (simulated data) and descriptive-analytical (real data) methods. Six items were simulated under different conditions of difficulty and slope, ability distribution, presence or absence of DIF/DDF, and DIF/DDF magnitude, with a sample size of 2000 and 50 replicates. The data of Math Entrance Exam (D-form,2018), with a random sample of 2000 men and women constituted the real data. Based on the results of the simulation analysis: The NLM revealed 88% of DIF and 97% of DDF, on average. the Type I error rates is very close to the theoretical expected values, although it showed some inflation in unequal distribution conditions. according to the findings, the detection rate was influenced by the item parameters(difficulty and slope) and the DIF or DDF levels. Based on real data analysis, 2 items represented both DIF(Large and Medium) and DDF (Partial to Moderate) simultaneously, whereas in the NRM approach, 11 items detected as DIF/DDF; so, as expected the approaches based on “divided by distractor” strategy, fewer items were detected as DIF/DDF. The NLM approach, while separating the DDF from the DIF test, allows for a clear evaluation of whether the distractor may be responsible for DIF. Since high-stakes tests have a special role in selection and DIF and DDF analyzes have a special place in determining the validity and measurement invariance of these exam items, it is recommended to screen the bias items, DIF/DDF comprehensive analyzes based on NLM be used.
تبلیغات
