Warum die meisten Persönlichkeitstests im Internet nicht zuverlässig sind
Nicht weil sie unehrlich sind, sondern weil die Schritte, die eine Messung vertrauenswürdig machen, unsichtbar, kostspielig und leicht zu überspringen sind – und das Überspringen nichts daran ändert, wie das Ergebnis aussieht.
Ein kostenloser Online-Persönlichkeitstest und ein validiertes psychometrisches Instrument erzeugen auf den ersten Blick identische Ergebnisse: einen Punktwert, einen Perzentilrang, einen Absatz, der Sie beschreibt. Der Unterschied liegt vollständig in der Arbeit, die auf dem Ergebnisbildschirm unsichtbar bleibt.
Es lohnt sich, hier präzise zu sein, denn die übliche Darstellung – dass Internettests Betrug sind – ist größtenteils falsch und wenig hilfreich. Die meisten werden von Menschen ohne Täuschungsabsicht erstellt. Sie sind aus strukturellen Gründen unzuverlässig.
Was typischerweise übersprungen wird
Item-Analyse. Bei einer sorgfältig entwickelten Skala wird ein Großteil der entworfenen Items nach der Pilotierung verworfen: Items, bei denen niemand variiert, Items, die schlecht mit dem Gesamtwert korrelieren, Items, die auf mehr als einem Faktor laden, und Items, die sich über Alters- oder Sprachgruppen hinweg unterschiedlich verhalten. Ein Test, der ohne Pilotierung veröffentlicht wird, behält alles – einschließlich der Items, die nicht funktionieren.
Unabhängige Strukturbestätigung. Eine Faktorenanalyse der Daten, auf deren Grundlage die Skala entwickelt wurde, wird die entworfene Struktur wiederherstellen. Diese in einer neuen Stichprobe zu bestätigen ist eine eigenständige Studie – und genau an diesem Schritt scheitert ein großer Teil der Skalen.
Normen. Der Perzentilrang muss irgendwoher stammen. Wenn die Website ihre Referenzpopulation nicht angibt, basiert die Zahl entweder auf früheren Besuchern – einer selbst selektierten Gruppe unbekannter Zusammensetzung – oder auf nichts Konkretem.
Retest-Daten. Um zu belegen, dass Menschen einen Monat später denselben Wert erzielen, müssen sie erneut befragt werden. Fast niemand tut dies, was bedeutet, dass die Stabilität, die das Wort „Persönlichkeitsmerkmal
Die Designanreize wirken in die falsche Richtung
Ein Test, der auf Engagement ausgelegt ist, wird für ein anderes Ergebnis optimiert als ein Test, der auf Genauigkeit abzielt – und beide driften auf vorhersehbare Weise auseinander.
Schmeichelhafte Ergebnisse schneiden besser ab. Ein Ergebnis, das etwas Unangenehmes mitteilt, wird seltener geteilt – daher tendieren Ergebnisse zu Beschreibungen, in denen sich alle wiedererkennen. Dies ist der Barnum-Effekt, der in den 1940er Jahren nachgewiesen und seitdem zuverlässig reproduziert wurde: Menschen bewerten allgemeine Persönlichkeitsbeschreibungen als sehr zutreffend für sich selbst.
Typen schneiden besser ab als Dimensionen. „Sie sind ein Architekt
Wie man es in etwa dreißig Sekunden erkennt
Achten Sie auf ein benanntes Quellinstrument mit Autoren und Erscheinungsjahr. Achten Sie auf eine Angabe, aus welcher Population die Normen stammen. Achten Sie auf jegliches Eingeständnis von Einschränkungen oder Messfehlern. Achten Sie darauf, ob das Ergebnis ein kontinuierlicher Wert oder eine Kategorie ist. Achten Sie darauf, ob dieselbe Seite auch verspricht, anhand von zwanzig Fragen Ihren idealen Beruf, Partner oder Lebenszweck zu ermitteln.
Ein Test, der sein Instrument benennt, seine Quelle zitiert, seine Normen angibt und sagt, was er nicht beantworten kann, hat die Arbeit geleistet. Einer, der nichts davon tut, mag dennoch eine angenehme Art sein, fünf Minuten zu verbringen – doch die Zahl, die er liefert, ist reine Dekoration.
Jedes Instrument im NOESIS-Katalog gibt an, welchen veröffentlichten Test es umsetzt, wer ihn verfasst hat, in welchem Jahr, wie er ausgewertet wird und was seine Ergebnisse nicht belegen. Dieser letzte Punkt ist derjenige, den es sich zu vergleichen lohnt.
Auf die Probe stellen
Über Messung zu lesen ist das eine. Den eigenen Wert mit Quelle, Normstichprobe und Grenzen zu sehen ist das andere. Kostenlos, ohne Anmeldung.
Weiterlesen
- Was ist Psychometrie?Die Disziplin, die prüft, ob ein psychologisches Messverfahren tauglich ist – und der Grund dafür, dass sich zwei Tests mit ähnlichen Fragen erheblich im Wert ihrer Ergebnisse unterscheiden können.
- Was ist Reliabilität bei psychologischen Tests?Reliabilität bezeichnet die Konsistenz einer Messung, nicht deren Korrektheit. Ein Test kann hochreliabel sein und dennoch das Falsche messen – weshalb sie die erste Frage ist, die gestellt wird, aber niemals die letzte.
- Was ist Validität in der psychologischen Diagnostik?Validität ist keine Eigenschaft, die ein Test besitzt. Sie ist ein Argument darüber, ob eine bestimmte Interpretation eines bestimmten Wertes für einen bestimmten Zweck vertretbar ist – und sie muss für jede neue Anwendung neu begründet werden.
- Was ist Konstruktvalidität?Die schwierigste Frage in der Messung: ob das, was man misst, so existiert, wie man es definiert hat, und ob das Instrument es erfasst – und nicht etwas Benachbartes.
- Konvergente und diskriminante ValiditätZwei spiegelbildliche Anforderungen: Ein Messinstrument muss mit dem übereinstimmen, womit es übereinstimmen soll, und muss sich von dem unterscheiden, was es vorgibt, nicht zu sein. Die meisten schwachen Instrumente scheitern an der zweiten Anforderung.
- Was Cronbachs Alpha ist – und was es nicht istDie am häufigsten berichtete Statistik in der psychologischen Testung und die am häufigsten missverstandene. Alpha sagt nichts darüber aus, ob eine Skala eindimensional ist, und ein hoher Wert ist oft ein Symptom, keine Tugend.
- Standardmessfehler: Wie weit Ihr Ergebnis abweichen könnteJedes Ergebnis enthält eine Fehlertoleranz, und bei den meisten psychologischen Tests ist sie größer als allgemein angenommen. Diese Kennzahl verrät Ihnen, wann ein Unterschied real ist und wann es sich um Rauschen handelt.
- Normen und Perzentile: Womit Ihr Ergebnis verglichen wirdEin Rohwert ist für sich allein nicht interpretierbar. Er wird erst bedeutsam im Vergleich mit einer Referenzgruppe – und welche Gruppe verwendet wurde, ist eine der folgenreichsten und am wenigsten kommunizierten Eigenschaften eines jeden Tests.
- Wie ein psychometrischer Test tatsächlich entwickelt wirdVom Konstrukt zur veröffentlichten Normierung dauert der Prozess Jahre und verwirft den Großteil dessen, was in ihn eingeflossen ist. Wer die einzelnen Schritte kennt, erkennt sofort, welche ein schneller Online-Test übersprungen hat.
- Was bedeutet es, wenn ein Test als validiert bezeichnet wird?Das Wort ist unreguliert und wird von Produkten frei verwendet, die keinerlei Arbeit dafür geleistet haben. Hier ist, was es bedeutet, wenn es etwas bedeutet, und die vier Fragen, die beide Fälle voneinander trennen.
- Was Selbstauskunft messen kann und was nichtFragebögen bitten Sie, sich selbst zu beobachten, was bei manchen Dingen besser funktioniert als bei anderen. Zu wissen, wo diese Methode ihre Stärken hat und wo sie versagt, verändert die Interpretation jedes Ergebnisses.
- Was es bedeutet, wenn ein Test etwas vorhersagtEine Korrelation von 0,30 ist ein starker Befund in der Persönlichkeitsforschung und eine schwache Grundlage für eine Entscheidung über eine einzelne Person. Beide Aussagen sind wahr, und die Lücke zwischen ihnen verursacht den größten Teil des Missbrauchs von Testergebnissen.
- Screening ist keine DiagnoseEin Screening-Fragebogen ist darauf ausgelegt, möglichst viele potenzielle Fälle zu erfassen, und nimmt dabei eine hohe Falsch-positiv-Rate in Kauf. Ein Screening-Ergebnis als Diagnose zu lesen, kehrt den eigentlichen Zweck des Instruments um.