Що означає, коли тест називають валідизованим?
Це слово не регулюється і вільно використовується продуктами, які не виконали жодної роботи. Ось що воно означає, коли воно щось означає, і чотири запитання, які розрізняють ці два випадки.
«Науково валідований» не є захищеним терміном. Ніхто його не сертифікує, жоден орган його не перевіряє, і він з'являється на продуктах, уся доказова база яких полягає в тому, що їх пройшло багато людей. Варто знати, що він означає, коли його вживають коректно.
Коротко
Валідований інструмент має опубліковані дані, які показують, що він вимірює, наскільки точно, в яких популяціях і для чого його бали можна законно використовувати. Валідність це не сертифікат. Це масив доказів, зазвичай зібраний роками, який зазвичай містить результати, що обмежують використання інструмента, а не прикрашають його.
Наявність задокументованих обмежень є одним із найкращих сигналів. Справжня література з валідності сповнена ними: ця шкала погано працює в підлітків, той аспект не відтворюється, пороговий бал залежить від популяції. Продукт, який повідомляє лише про сильні сторони, опублікував не свою валідність, а свій маркетинг.
Чотири запитання, які виконують роботу
Яка первинна публікація? Валідований інструмент має оригінальну статтю в рецензованому журналі, з авторами, роком і зазвичай DOI. У цій статті повідомляється, як були розроблені пункти та якими були початкові психометричні властивості. Якщо ніхто не може назвати статтю, то немає валідності, яку можна обговорювати.
Чи була структура підтверджена кимось іншим? Команда розробників відтворить структуру, яку вона спроєктувала. Важливо те, чи незалежна група на незалежних даних виявила те саме. Це єдине найбільш інформативне запитання, яке ви можете поставити, і саме воно найчастіше залишається без відповіді.
На якій популяції були побудовані норми і коли? Бал це позиція в референтному розподілі. Інструмент, який повідомляє процентиль без зазначення того, якої популяції він стосується, дав вам число без знаменника.
Що він додає? Інкрементну валідність понад усталений показник. Дуже багато брендованих конструктів провалюються саме тут, корелюючи з наявною рисою настільки високо, що не пояснюють жодної додаткової дисперсії ні в чому. Це нормальний результат наукової перевірки, і він невидимий, якщо ніхто не проводить тест.
Де переклад це ускладнює
Інструмент, валідований англійською, не стає тим самим валідованим німецькою. Належна кросскультурна адаптація вимагає прямого і зворотного перекладу, експертного розгляду, когнітивних інтерв'ю, а потім нового психометричного дослідження новою мовою, яке перевіряє, чи зберігається факторна структура і чи окремі пункти функціонують еквівалентно в різних групах.
Інструментів, які це пропускають, багато. Опитувальник з бездоганною первинною валідністю може поводитися зовсім інакше мовою, де ключовий пункт має іншу конотацію, і про це неможливо дізнатися без дослідження. Коли тест пропонують десятьма мовами, корисне запитання полягає в тому, чи він був валідований десятьма мовами, чи валідований однією і перекладений дев'ятьма.
Чого валідність не дає
Вона не робить бал певним. Валідований інструмент все одно має похибку вимірювання, все одно описує закономірність популяційного рівня, а не індивідуальну долю, і все одно вимірює лише те, чого сягають його пункти.
Те, що дає валідність, це пізнавані межі. Ви можете дізнатися, яка похибка, в якій популяції, для якої мети. Це скромніше твердження, ніж «цей тест розкриває, хто ви насправді», і це єдине твердження, яке витримує перевірку.
Якщо ви хочете побачити, який вигляд має документація, коли вона існує, кожен тест у каталозі NOESIS називає інструмент, який він реалізує, його авторів і рік, метод підрахунку балів і докази, що стоять за ним, включно з тим, де ці докази є спірними.
Перевірте себе
Читати про вимірювання одне. Побачити власний бал із зазначенням джерела, нормативної вибірки та обмежень зовсім інше. Безкоштовно, без реєстрації.
Читати далі
- Що таке психометрика?Дисципліна, яка визначає, чи якісним є психологічне вимірювання, і причина, чому два тести зі схожими запитаннями можуть надзвичайно різнитися за цінністю своїх результатів.
- Що таке надійність у психологічному тестуванні?Надійність це узгодженість вимірювання, а не правильність. Тест може мати високу надійність і все одно вимірювати не те. Саме тому це перше запитання, яке ставлять, але ніколи не останнє.
- Що таке валідність у психологічному тестуванні?Валідність це не властивість, яку має тест. Це аргумент про те, чи є конкретна інтерпретація конкретного бала для конкретної мети обґрунтованою, і його потрібно заново вибудовувати для кожного нового застосування.
- Що таке валідність конструкту?Найскладніше запитання у вимірюванні: чи існує те, що ви вимірюєте, так, як ви це визначили, і чи ваш інструмент досягає саме його, а не чогось суміжного.
- Конвергентна та дискримінантна валідністьДві дзеркальні вимоги: вимір має узгоджуватися з тим, з чим має узгоджуватися, і має залишатися відмінним від того, чим він заявляє, що не є. Більшість слабких інструментів не виконують другу вимогу.
- Що таке альфа Кронбаха і чим вона не єНайчастіше повідомлювана статистика в психологічному тестуванні і та, яку найчастіше неправильно тлумачать. Альфа не говорить вам, що шкала є одновимірною, а високе значення часто є радше симптомом, ніж перевагою.
- Стандартна похибка вимірювання: наскільки ваш бал може відхилятисяКожен бал має похибку вимірювання, і для більшості психологічних тестів вона ширша, ніж ви припускаєте. Саме це число показує, коли різниця є реальною, а коли це шум.
- Норми та процентилі: з чим порівнюється ваш балСирий бал сам по собі не піддається інтерпретації. Він набуває значення лише у порівнянні з референтною групою, і те, яка саме група була використана, є одним із найважливіших і найменш розголошуваних фактів про будь-який тест.
- Як насправді створюється психометричний тестВід визначення конструкту до опублікованих норм послідовність триває роки і відсіює більшу частину того, з чого вона починалася. Знання цих етапів робить очевидним, які з них пропустив швидкий онлайн-тест.
- Чому більшість особистісних тестів в інтернеті не є надійнимиНе тому, що вони нечесні, а тому, що кроки, які роблять вимірювання надійним, непомітні, дорогі, і їх легко пропустити. Їх пропуск жодним чином не змінює вигляд результату.
- Що самозвіт може і не може вимірюватиОпитувальники пропонують вам бути спостерігачем себе, що працює краще для одних речей, ніж для інших. Розуміння того, де метод сильний, а де він не спрацьовує, змінює те, як ви читаєте будь-який результат.
- Що означає, коли тест щось прогнозуєКореляція 0.30 є сильним результатом у дослідженнях особистості та слабкою підставою для рішення щодо однієї людини. Обидва твердження правдиві, і розрив між ними спричиняє більшість випадків неправильного використання результатів тестів.
- Скринінг не є діагнозомСкринінговий опитувальник створений для виявлення якомога більшої кількості можливих випадків, приймаючи високу частоту хибнопозитивних результатів як ціну. Тлумачення скринінгового бала як діагнозу спотворює те, для чого він був створений.