Jakie masz pytanie?

lub

Ile prawdy, a ile mitu jest w powszechnym przekonaniu, że ten sam materiał wejściowy specjalista może w raporcie przedstawić jako dowód na dwie przeciwstawne tezy, i jak można się przed tym bronić?

interpretacja danych statystycznych manipulacja wynikami badań weryfikacja rzetelności raportów
avatar

Gość (37.30.*.*)



Odpowiedź:

Często słyszy się powiedzenie, że statystyka jest jak kostium kąpielowy: pokazuje wiele, ale ukrywa to, co najważniejsze. W świecie profesjonalnych raportów, analiz rynkowych czy ekspertyz naukowych istnieje przekonanie, że sprawny specjalista jest w stanie udowodnić każdą tezę, korzystając z tego samego zestawu danych. Ile w tym prawdy? Okazuje się, że całkiem sporo, choć nie zawsze wynika to ze złej woli autora. To raczej kwestia perspektywy, doboru narzędzi i sposobu opowiadania historii, którą niosą ze sobą liczby.

Magia interpretacji, czyli jak liczby zmieniają znaczenie

Dane same w sobie są surowe i nieme. To człowiek nadaje im kontekst. Wyobraźmy sobie sytuację, w której firma odnotowała wzrost sprzedaży o 5%, ale jednocześnie jej udział w rynku spadł o 2%. Specjalista sprzyjający zarządowi może przygotować raport, w którym głównym wnioskiem będzie sukces: „Nasza sprzedaż rośnie, co dowodzi skuteczności nowej strategii”. Z kolei audytor szukający dziury w całym może napisać: „Tracimy dystans do konkurencji, co zwiastuje poważne kłopoty strukturalne”.

Obaj mają rację i obaj opierają się na tych samych faktach. Różnica polega na tym, na który wskaźnik położono nacisk. To zjawisko nazywamy „kadrowaniem” (framing). Polega ono na prezentowaniu informacji w taki sposób, aby wywołać u odbiorcy określoną reakcję emocjonalną lub poznawczą. W tym przypadku nie mamy do czynienia z kłamstwem, a jedynie z selektywnym wyborem prawdy.

Narzędzia manipulacji: od skali po dobór próby

Istnieje kilka technicznych sztuczek, które pozwalają na „nagięcie” rzeczywistości w raporcie bez uciekania się do fałszowania danych. Najpopularniejsze z nich to:

  • Manipulacja osią wykresu: To klasyk. Jeśli chcemy pokazać gwałtowny wzrost, wystarczy nie zaczynać osi pionowej od zera, lecz od wartości bliskiej najniższemu wynikowi. Nawet minimalna zmiana będzie wtedy wyglądać jak pionowa wspinaczka.
  • Cherry-picking (wybieranie wisienek): Specjalista wybiera tylko te okresy lub segmenty danych, które pasują do tezy. Jeśli cały rok był słaby, ale marzec i kwiecień były świetne, raport może skupić się na „dynamicznym wzroście w drugim kwartale”.
  • Korelacja vs przyczynowość: To jeden z najczęstszych błędów (lub celowych zabiegów). Można wykazać, że wzrost spożycia lodów koreluje ze wzrostem liczby utonięć. Czy lody powodują utonięcia? Nie, po prostu oba zjawiska występują latem. W raportach często łączy się dwa niezwiązane ze sobą fakty, by zasugerować wpływ jednego na drugi.

Paradoks Simpsona – kiedy matematyka płata figle

Warto wspomnieć o fascynującym zjawisku matematycznym, jakim jest paradoks Simpsona. To sytuacja, w której trend widoczny w kilku grupach danych znika lub odwraca się, gdy grupy te zostaną połączone.

Wyobraźmy sobie dwa leki. Lek A wydaje się skuteczniejszy od leku B w testach na kobietach i jednocześnie lek A wydaje się skuteczniejszy od leku B w testach na mężczyznach. Jednak po zsumowaniu wyników wszystkich pacjentów może się okazać, że to lek B ma wyższy ogólny wskaźnik wyleczeń. Specjalista, zależnie od tego, co chce osiągnąć, może przedstawić dane w rozbiciu na płeć (by promować lek A) lub jako całość (by promować lek B). To czysta matematyka, która pokazuje, jak łatwo można manipulować wnioskami, nie zmieniając ani jednej cyfry w bazie danych.

Jak nie dać się wyprowadzić w pole? Twoja tarcza anty-manipulacyjna

Obrona przed „kreatywną” interpretacją danych wymaga czujności i zadawania odpowiednich pytań. Jeśli czytasz raport, który wydaje się podejrzanie jednoznaczny, spróbuj zastosować poniższe zasady:

Sprawdź źródło i kontekst

Zawsze pytaj: „Kto zlecił ten raport i jaki ma w tym interes?”. Jeśli firma tytoniowa publikuje badania o niskiej szkodliwości e-papierosów, powinieneś być dwa razy bardziej czujny. Szukaj informacji o tym, jak zbierano dane – czy próba była reprezentatywna, czy może dobrana pod tezę?

Patrz na osie i skale

Zanim spojrzysz na kształt wykresu, spójrz na liczby przy osiach. Czy oś zaczyna się od zera? Czy jednostki są porównywalne? Często wizualna strona raportu ma za zadanie uśpić naszą czujność i narzucić gotową interpretację, zanim w ogóle przeanalizujemy dane.

Szukaj danych brakujących

Manipulacja często polega na tym, czego w raporcie nie ma. Jeśli autor chwali się procentowym wzrostem, zapytaj o liczby bezwzględne. Wzrost o 100% brzmi dumnie, ale jeśli oznacza to zmianę z jednego klienta na dwóch, to perspektywa drastycznie się zmienia.

Żądaj surowych danych lub alternatywnych wyjaśnień

Dobry raport powinien zawierać sekcję dotyczącą ograniczeń badania. Jeśli specjalista twierdzi, że istnieje tylko jedna możliwa interpretacja, prawdopodobnie próbuje Cię zmanipulować. Zapytaj: „Jakie inne czynniki mogły wpłynąć na ten wynik?”.

Prawda w raportach rzadko jest czarno-biała. Zazwyczaj leży gdzieś pomiędzy słupkami wykresów, a umiejętność jej dostrzeżenia to jedna z najważniejszych kompetencji w dzisiejszym świecie przeładowanym informacjami. Dane mogą być dowodem na dwie przeciwstawne tezy, ale tylko wtedy, gdy pozwolimy komuś innemu opowiadać nam, co one oznaczają.

Podziel się z innymi: