Der Inkrementalitäts-Messframework-Spickzettel

📈 DAS INKREMENTALITÄTS-MESSFRAMEWORK

Miss, was sich durch dich verändert hat — nicht, was dir zugeschrieben wurde
AUS „CLICK HERE“ VON ALEX SCHULTZ

Inkrementalität ist das Maß dessen, was sich durch dein Marketing verändert hat — nicht dessen, was ihm zugeschrieben wurde. Jede Methode auf diesem Spickzettel existiert, um eine Frage ehrlich zu beantworten: Wäre dieses Ergebnis ohnehin eingetreten? Die Leiter unten ordnet sie danach, wie rigoros sie sie beantwortet.

🔍

Nicht zu verwechseln mit

🎯 Attribution

Attribution verteilt Anerkennung auf Touchpoints; Inkrementalität fragt, ob das Ergebnis ohnehin eingetreten wäre. Nutze Attribution zum Steuern, Inkrementalität für die Wahrheit.

📉 Vorher/Nachher ohne Kontrolle

„Die Umsätze sind nach der Kampagne gestiegen“ ist eine Geschichte, keine Messung. Ohne kontrafaktisches Szenario kannst du nicht wissen, was ohnehin passiert wäre — genau das kontrollieren die höheren Sprossen.

🧮 Media-Mix-Modelling

MMM allokiert Ausgaben im großen Maßstab; es beweist keine Kausalität. Speise Inkrementalitäts-Erkenntnisse in deine MMM-Annahmen ein — ich liebe Experimente, aber ich hasse modellierte Ergebnisse, die für sich allein stehen.

🧭

North-Star-Setup

🎯 Definiere ein Ergebnis

Wähle eine geschäftsnahe Metrik für Entscheidungen (z. B. qualifizierte Trials, gehaltene Umsätze), keine Vanity-Metrik als Ersatz.

One metric beats five conflicting ones

⏱️ Lege Messfenster fest

Definiere genau, wann Ergebnisse gezählt werden, damit Tests über Kanäle und Zyklen vergleichbar sind.

🧮 Mach es entscheidungsrelevant

Deine Metrik muss dir sagen, ob du die Ausgaben diese Woche skalieren, halten oder kürzen sollst.

💼 Finanz-tauglich

Wenn es die Finanzabteilung nicht interessieren würde, wenn sie sich bewegt, ist es nicht deine North-Star-Metrik.

🪜

Inkrementalitäts-Leiter

StufeAnwenden, wennStärkeSchwäche
1. AttributionNeed rapid directional steeringSchnell und billigWeakest causal truth
2. Vorher/NachherBegrenzte Kontrollen, Entscheidung mit mittlerer TragweiteSchnelle KalibrierungHohes Confounding-Risiko
3. Gematchte Märkte/KohortenBrauchst belastbarere quasi-experimentelle SicherheitBessere VergleichbarkeitMehr Aufwand für Setup und Monitoring
4. Randomisierter HoldoutBudget- oder Strategieentscheidungen mit hoher TragweiteBeste kausale EvidenzOperativ am schwierigsten
🧪

So führst du Tests durch

  1. Registriere alles vorab — Hypothese, KPI, Dauer, Stop-Regeln und Entscheidungsschwellen.
  2. Wähle die höchstmögliche Strenge — tu nicht so, als wäre Attribution Experimentieren.
  3. Schütze die Testintegrität — keine KPI-Änderungen mitten im Test, kein vorzeitiges Nachschauen und frühes Stoppen.
  4. Lies geschäftliche + statistische Signifikanz — winzige, aber signifikante Effekte bewegen das Unternehmen meist nicht.
  5. Allokiere nach marginalem Lift um — halte Abdeckung, wo nötig, kürze zuerst schwache marginale Ausgaben.
  6. Teste rückwirkend durch Abschalten — schalte Marketing in einer Region regelmäßig komplett ab, um deine Modelle zu validieren. Bei Facebook haben wir alles bezahlte Marketing in Indien gestrichen: Die MAU schrumpften, und die Wiederaufnahme der Ausgaben stellte das Wachstum wieder her. Es bewies die Methodik und verteidigte das Budget.
📊

Was zählt und was nicht

✅ Das zählt

  • Anhaltender Lift über vorab registrierte Fenster
  • Ergebnis übersteht Replikation über Kohorten/Regionen
  • Größenordnung verändert Budgetentscheidungen
  • Erkenntnisse speisen MMM-/Planungsannahmen

🚫 Das zählt nicht

  • Gewinne auf Mikroskop-Niveau mit viel Interpretation
  • Berichterstattung nur über Gewinner nach vielen Tests
  • Reine Attributions-Beweise zur Budgetverteidigung
  • Eintägige Signifikanz-Spitzen
„Wenn du einen Data Scientist und ein Mikroskop brauchst, um Wirkung zu beweisen, hast du das Geschäft nicht bewegt.“
⚠️

Zu vermeidende Fehlermuster

🧷 P-Hacking

Tests zu stoppen, sobald Signifikanz auftaucht, oder Metriken mittendrin zu wechseln, bläht falsche Erfolge auf.

🔎 Last-Click-Überbewertung

Kanäle mit hoher Kaufabsicht (z. B. Brand-Suche/App-Store-Suche) saugen oft Anerkennung für Nachfrage auf, die anderswo erzeugt wurde.

🪫 Zu schwach dimensionierte Tests

Kleine Stichproben erzeugen Rauschen, das als Sicherheit getarnt ist.

🧠 Keine Lernschleife

Wenn Erkenntnisse nicht dokumentiert und wiederverwendet werden, setzt jedes Quartal das Lernen auf null zurück.

🧭 Betriebsregel

Nutze Attribution zum Steuern, Inkrementalität für die Wahrheit und MMM für die Allokation im großen Maßstab. Ein System, drei Rollen.

🌊

Der Boden bewegt sich

Zwei Regimewechsel haben alles auf diesem Spickzettel wertvoller gemacht, und ich erwarte weitere. Apples App Tracking Transparency hat die deterministische Attribution auf iOS zerstört, und der Wegfall von Third-Party-Cookies tat dasselbe im Web. Modellierte Messung wurde überall schwächer. Genau deshalb sind Experimente wertvoller geworden: Wenn du den Nutzer nicht mehr tracken kannst, testest du den Markt.

🧭

Kenne die Grenzen

Passe die Strenge an die Tragweite an. Ein randomisierter Holdout ist der Goldstandard, aber auch das operativ Schwierigste auf diesem Spickzettel — vergolde keine kleine Entscheidung mit einem sechswöchigen Geo-Experiment. Die Leiter existiert, damit du so hoch kletterst, wie die Entscheidung es rechtfertigt, nicht damit jeder Anruf ganz oben beginnt.

Und denk daran, was Inkrementalität dir nicht sagen kann: ob das Geld gewirkt hat, ja — aber nicht, was du als Nächstes tun sollst. Der Test beweist den Lift; der kreative Sprung, der den nächsten Lift erzeugt, kommt immer noch von Menschen, nicht von Holdouts.

Ein ehrlicher Zweifel: Der strengste Test auf diesem Spickzettel verlangt, bewusst nicht an Menschen zu vermarkten, die du erreichen könntest. Ich habe Teams gesehen, die den Holdout übersprungen haben, der ihnen Millionen gespart hätte, weil der Test selbst teuer wirkte — und dann die Millionen trotzdem ausgegeben haben. Der Test ist nie der teure Teil. Nichtwissen ist es.

Scroll to Top