Čo je reliabilita v psychologickom testovaní?
Reliabilita je konzistencia merania, nie jeho správnosť. Test môže mať vysokú reliabilitu, a pritom merať niečo iné, než má. Preto je to prvá otázka, ktorú si kladieme, a nikdy nie posledná.
Reliabilita je miera, do akej je meranie opakovateľné, a nie iba šum. Keby si sa za minútu trikrát odvážil a dostal 71, 78 a 66 kilogramov, váha by bola nereliabilná a nemal by si ako z nej zistiť svoju skutočnú hmotnosť. Psychologické meranie čelí rovnakému problému s oveľa menej presným vybavením.
Kľúčové je pochopiť, čo reliabilita netvrdí. Kúpeľňová váha, ktorá konzistentne ukazuje o osem kilogramov viac, je dokonale reliabilná a úplne nesprávna. Reliabilita je o konzistencii; to, či číslo znamená správnu vec, je samostatná otázka, ktorá sa nazýva validita. Reliabilita je pre validitu nevyhnutná, ale zďaleka nie postačujúca.
Podoby, ktoré má
Vnútorná konzistencia sa pýta, či sa položky škály navzájom zhodujú. Ak má desať otázok merať tú istú základnú črtu, ľudia, ktorí na jednu odpovedajú vysoko, by mali mať tendenciu odpovedať vysoko aj na ostatné. Zvyčajne sa uvádza ako Cronbachova alfa alebo, lepšie, McDonaldova omega.
Test-retest reliabilita sa pýta, či ten istý človek dosiahne pri dvoch príležitostiach podobné skóre. Táto podoba je najdôležitejšia pre črty, ktoré majú byť z definície stabilné. Zároveň sa najčastejšie neuvádza, pretože si vyžaduje opätovne vyhľadať tých istých účastníkov o niekoľko týždňov neskôr.
Reliabilita medzi posudzovateľmi sa uplatňuje, keď nástroj vyhodnocujú ľudia: klinické rozhovory, projektívne techniky, pozorovanie správania. Pýta sa, či dvaja vyškolení posudzovatelia, ktorí sa pozerajú na ten istý materiál, dospejú k rovnakému záveru.
Reliabilita paralelných foriem sa pýta, či dve rôzne verzie toho istého testu, zostavené tak, aby boli rovnocenné, poskytujú rovnaké skóre. Je dôležitá všade, kde sa test administruje viac ako raz a hrozí, že položky budú vopred známe.
Ako čítať čísla
Koeficienty reliability sa pohybujú od 0 do 1. Konvencie sú približné a často nesprávne používané, ale zhruba platí: nad 0,90 sa vyžaduje tam, kde skóre ovplyvňuje život jednotlivca, 0,80 až 0,90 je solídne pre väčšinu praktického použitia, 0,70 až 0,80 je prijateľné pre výskum a porovnávanie skupín a pod 0,70 znamená, že skóre obsahuje viac šumu, než väčšina záverov dokáže zniesť.
K týmto hraniciam dve upozornenia. Po prvé, sú to konvencie, nie zákony: prijateľná úroveň závisí úplne od toho, na čo sa skóre použije. Po druhé, veľmi vysoká alfa pri krátkej škále zvyčajne naznačuje, že položky sú takmer parafrázami jedna druhej, čím sa konzistencia získava za cenu pokrytia konštruktu. Škála desiatich otázok, ktoré sa všetky trochu inými slovami pýtajú "si organizovaný?", bude mať vynikajúcu vnútornú konzistenciu a úzke poňatie svedomitosti.
Čo to znamená pre tvoje vlastné skóre
Reliabilita sa priamo premieta do toho, akú dôveru si jedno číslo zaslúži. Test s reliabilitou 0,85 nesie takú veľkú chybu merania, že rozdiel niekoľkých bodov medzi dvoma ľuďmi alebo medzi tvojím dnešným a minulomesačným skóre je veľmi pravdepodobne šum, a nie signál.
Praktický dôsledok je tento: dobrý nástroj uvádza svoju reliabilitu, aby si vedel, aká široká je neistota okolo tvojho skóre. Technickým vyjadrením tejto neistoty je štandardná chyba merania, ktorá prevádza koeficient reliability na pásmo plus-mínus okolo skóre.
Nástroj, ktorý neuvádza žiadny údaj o reliabilite, nie je preto presnejší. Jednoducho ti odmietol povedať, aký je nepresný.
Vyskúšaj to v teste
Čítať o meraní je jedna vec. Vidieť vlastné skóre spolu s jeho zdrojom, normatívnou vzorkou a obmedzeniami je niečo iné. Zadarmo, bez registrácie.
Čítať ďalej
- Čo je psychometria?Disciplína, ktorá zisťuje, či je psychologické meranie naozaj kvalitné, a dôvod, prečo sa dva testy s podobnými otázkami môžu obrovsky líšiť v tom, akú hodnotu majú ich výsledky.
- Čo je validita v psychologickom testovaní?Validita nie je vlastnosť, ktorú test má. Je to argument o tom, či je konkrétna interpretácia konkrétneho skóre na konkrétny účel obhájiteľná, a pre každé nové použitie sa musí vybudovať odznova.
- Čo je konštruktová validita?Najťažšia otázka merania: či to, čo meriaš, existuje tak, ako si to definoval, a či tvoj nástroj zachytáva práve to, a nie niečo príbuzné.
- Konvergentná a diskriminačná validitaDve zrkadlové požiadavky: miera sa musí zhodovať s tým, s čím by sa mala zhodovať, a musí zostať odlišná od toho, čím podľa vlastných slov nie je. Väčšina slabých nástrojov zlyháva v tej druhej.
- Čo je Cronbachova alfa a čo ňou nie jeNajčastejšie uvádzaná štatistika v psychologickom testovaní a zároveň najčastejšie nesprávne chápaná. Alfa ti nepovie, že škála je jednodimenzionálna, a vysoká hodnota je často skôr symptómom než prednosťou.
- Štandardná chyba merania: o koľko sa tvoje skóre môže odchyľovaťKaždé skóre má určitú chybu merania a pri väčšine psychologických testov je väčšia, než si ľudia myslia. Toto je číslo, ktoré ti povie, kedy je rozdiel skutočný a kedy ide len o šum.
- Normy a percentily: s čím sa tvoje skóre porovnávaHrubé skóre samo osebe nemožno interpretovať. Zmysel nadobúda až v porovnaní s referenčnou skupinou, a to, ktorá skupina bola použitá, je jedným z najzávažnejších a najmenej zdôrazňovaných faktov o akomkoľvek teste.
- Ako sa psychometrický test naozaj vytváraOd definície konštruktu po zverejnené normy trvá tento postup roky a väčšina toho, čo doň vstupuje, sa vyradí. Keď poznáš jednotlivé kroky, je zrejmé, ktoré z nich rýchly online kvíz vynechal.
- Čo znamená, keď sa o teste hovorí, že je validovaný?Toto slovo nie je nijako regulované a voľne ho používajú produkty, ktoré nevykonali nič z potrebnej práce. Tu je, čo znamená, keď naozaj niečo znamená, a štyri otázky, ktoré tieto dva prípady od seba odlíšia.
- Prečo väčšina internetových testov osobnosti nie je reliabilnáNie preto, že by boli nečestní, ale preto, že kroky, vďaka ktorým je meranie dôveryhodné, sú neviditeľné, drahé a ľahko sa dajú vynechať; a ich vynechanie nijako nezmení to, ako výsledok vyzerá.
- Čo sebavýpoveď dokáže a nedokáže meraťDotazníky od teba žiadajú, aby si bol pozorovateľom samého seba, čo pri niektorých veciach funguje lepšie než pri iných. Keď vieš, kde je táto metóda silná a kde zlyháva, zmení to spôsob, akým čítaš akýkoľvek výsledok.
- Čo znamená, keď test niečo predpovedáKorelácia 0,30 je vo výskume osobnosti silným zistením, no slabým základom na rozhodnutie o jednom človeku. Obe tvrdenia sú pravdivé a práve rozdiel medzi nimi spôsobuje väčšinu nesprávneho používania výsledkov testov.
- Skríning nie je diagnózaSkríningový dotazník je skonštruovaný tak, aby zachytil čo najviac možných prípadov, pričom vysoký podiel falošne pozitívnych výsledkov akceptuje ako daň. Ak čítaš skríningové skóre ako diagnózu, obraciaš naruby to, na čo bol navrhnutý.