Zum Inhalt springen

Methodik & Validierung

Wie wir Kundenwissen modellieren und Ergebnisse prüfen

Eine überzeugend formulierte Antwort allein sagt wenig darüber aus, wie gut sie Ihre Kunden abbildet. Deshalb gehören Datenbasis, Prüfverfahren und Grenzen zur Einordnung der Ergebnisse.

Ausgangspunkt ist die verfügbare Evidenz

Wir prüfen, welche Personen oder Kundengruppen Ihre Daten beschreiben, aus welchem Zeitraum sie stammen und welche Fragen sie tragen. Lücken und Verzerrungen in der Datengrundlage können sich auch in den Ergebnissen wiederfinden.

Beobachtetes Verhalten, direkt geäußerte Einstellungen und modellierte Eigenschaften haben einen unterschiedlichen Aussagewert. Diese Unterschiede sind bei der Interpretation zu berücksichtigen.

Validierung mit zurückgehaltenen Antworten

Für ein geeignetes Digital-Panel-Projekt wird ein Teil der dokumentierten Antworten beim Modellaufbau zurückgehalten. Die Zwillinge beantworten anschließend ausgewählte Fragen, deren reale Antworten als Vergleich vorliegen.

Der Abgleich zeigt, wie gut die Modelle bei diesen Fragen und unter den geprüften Bedingungen abschneiden. Welche Schlussfolgerungen daraus für neue Fragen zulässig sind, hängt unter anderem vom Themenabstand und der Datenqualität ab.

Validierung mit zurückgehaltenen AntwortenEine Studie wird geteilt: Der größere Teil dient dem Aufbau der Zwillinge, ein Teil der Antworten wird zurückgehalten. Die Zwillinge beantworten die zurückgehaltenen Fragen, und die modellierten Antworten werden mit den Originalantworten verglichen.Dokumentierte StudieAufbaumaterialz. B. 80 % der AntwortenZurückgehaltene Antwortenz. B. 20 %, verborgenAufbauModellierte Teilnehmerbeantworten die zurückgehaltenen Fragenmodellierte AntwortenOriginalantworten (verborgen bis zum Vergleich)VergleichModellierte Antwort≟OriginalantwortÜbereinstimmung je Frage
Der Abgleich zeigt die Leistung bei den geprüften Fragen unter den geprüften Bedingungen. Die Anteile sind Beispielwerte.

Ein Bewertungsbeispiel

Exakte Übereinstimmung und Teilpunkte

Fiktives Beispiel – Brühwerk ist eine erfundene Marke. Alle Zahlen sind Beispieldaten.

Frage

„Wie wichtig ist Ihnen ein geringer Reinigungsaufwand?“ (Skala 1 = unwichtig bis 5 = sehr wichtig)

Zurückgehaltene Originalantwort
4
Modellierte Antwort
5

Bewertungsregel

  • Exakte Übereinstimmung: gleicher Wert → volle Punktzahl (1,0).
  • Teilpunkte: Abweichung um einen Skalenpunkt → 0,75; um zwei → 0,5; darüber → 0.
  • Hier: Abweichung 1 → 0,75 Punkte für diese Frage.

Die Teilpunkte-Regel ist ein vereinfachtes Beispiel. Die in einem Projekt angewendete Regel wird vorab festgelegt und dokumentiert; für den veröffentlichten Benchmark gilt die im Bericht beschriebene Methode.

Was unser veröffentlichter Benchmark misst

Unser Bericht zum Twin-2K-500-Benchmark beschreibt einen Vergleich anhand von 2.058 Personen und 191.406 zurückgehaltenen Antworten. Der berichtete Wert von 89 Prozent setzt den Modellscore ins Verhältnis zur gemessenen menschlichen Test-Retest-Übereinstimmung.

Das bedeutet nicht, dass 89 Prozent aller Antworten exakt richtig vorhergesagt wurden. Ebenso wenig ist damit die Genauigkeit in einer bestimmten deutschen Zielgruppe oder in Ihrem Projekt nachgewiesen.

Veröffentlichter Benchmark · Twin-2K-500

normalisierter Score: Modellscore im Verhältnis zur menschlichen Test-Retest-Übereinstimmung
Stichprobe
Personen
Zurückgehaltene Antworten

Das bedeutet nicht, dass 89 Prozent aller Antworten exakt richtig vorhergesagt wurden. Ebenso wenig ist damit die Genauigkeit in einer bestimmten deutschen Zielgruppe oder in Ihrem Projekt nachgewiesen.

Geltungsbereich und Grenzen

Zentrale Einschränkung: Ein Validierungsergebnis gilt für die geprüften Fragen, die untersuchte Gruppe und den Zeitpunkt der Studie. Es überträgt sich nicht automatisch auf neue Themen, andere Zielgruppen oder Ihr Projekt.

Welche Population wurde untersucht?

Der Benchmark beruht auf einer bestehenden Studienpopulation (Twin-2K-500). Ob und wie gut sich Ergebnisse auf eine bestimmte deutsche Zielgruppe übertragen, ist nicht Teil des Berichts und muss projektspezifisch geprüft werden.

Welche Fragetypen wurden geprüft?

Geprüft wurden Fragen, für die dokumentierte Antworten vorlagen – überwiegend geschlossene und skalierte Fragen. Offene Antworten und neue Themen sind anders zu bewerten.

Wie läuft die Validierung in einem Projekt?

In einem Digital-Panel-Projekt wird die Validierung mit Ihren Unterlagen wiederholt: Ein Teil der Antworten wird zurückgehalten, die Bewertungsregel wird vorab festgelegt, und Sie erhalten das Ergebnis vor der Untersuchung neuer Themen.

Was wird nicht gemessen?

Nicht gemessen werden Repräsentativität für einen Markt, tatsächliche Nachfrage, Kaufquoten oder die ursächliche Wirkung von Maßnahmen. Dafür sind andere Verfahren erforderlich.

Der vollständige Bericht liegt auf Englisch vor (siehe Benchmark-Karte). Stand der Angaben auf dieser Seite: September 2026.

Ergebnisse angemessen verwenden

Modellierte Antworten eignen sich dazu, Hypothesen zu untersuchen, Optionen einzugrenzen und weitere Forschung vorzubereiten. Repräsentativität, tatsächliche Nachfrage und ursächliche Geschäftswirkung müssen mit den dafür geeigneten Verfahren geprüft werden.

Gemeinsam legen wir fest, welche Aussagekraft Sie für Ihre Entscheidung benötigen und welcher Abgleich dafür sinnvoll ist.

Vorgehen für Ihr Projekt besprechen