Jika Anda pernah bekerja dengan statistika inferensial, khususnya pengujian hipotesis dan regresi, Anda mungkin sudah mengenal p-value. Dan jika Anda pernah bekerja dengan p-value, Anda mungkin tahu, atau setidaknya menduga, bahwa p-value rentan dan dapat dimanipulasi—dan itu benar.
Faktanya, manipulasi ini sampai punya istilah tersendiri: p-hacking. Kadang juga disebut sebagai data dredging, data snooping, data fishing, dan inflation bias. Itulah yang akan dibahas dalam artikel ini.
Apa Itu P-Value?
Pertama-tama, mari menyegarkan ingatan kita tentang p-value. Huruf ‘p’ pada p-value berarti probabilitas. Secara khusus, p-value adalah probabilitas mengamati hasil setajam yang diperoleh, dengan asumsi hipotesis nol benar. Penolakan yang keliru ini juga disebut sebagai Galat Tipe I, atau galat positif palsu. Biasanya, p-value diperoleh untuk dibandingkan dengan tingkat signifikansi (dilambangkan α), yaitu probabilitas yang ditoleransi untuk menolak hipotesis nol saat hipotesis nol itu benar.
Secara logis, jika p-value lebih besar dari tingkat signifikansi, kita gagal menolak hipotesis nol dan tetap berpegang padanya. Sebaliknya, jika p-value lebih kecil atau sama dengan tingkat signifikansi, kita dapat menolak hipotesis nol demi hipotesis alternatif, dan dalam kasus ini, kita mengatakan hasilnya signifikan secara statistik.
Jika penyegar singkat tentang p-value ini belum sepenuhnya jelas bagi Anda, jangan khawatir! Anda dapat mengikuti kursus teoretis Introduction to Statistics kami dan dengan cepat memahami dasar-dasar yang diperlukan.
Pengantar P-Hacking
Mencapai hasil yang “signifikan secara statistik” terdengar seperti kesuksesan dan, karena itu, menggiurkan. Dalam bisnis, itu berarti Anda punya sesuatu yang baru, menarik, atau diinginkan untuk dilaporkan. Di dunia akademik, Anda telah menemukan sesuatu dan temuan itu bisa diterbitkan di jurnal.
Karena merupakan kunci dari semua hal yang menggembirakan ini, para profesional data dan peneliti tergoda untuk terlalu berfokus pada p-value dalam studi mereka, dan mengabaikan yang lain, bahkan tingkat signifikansi. Dan karena tingkat signifikansi yang paling lazim dipakai selama beberapa dekade adalah 0,05, menjadi konvensi mudah untuk berkata bahwa jika p-value Anda di bawah 0,05, Anda boleh langsung bersorak bergembira.
Akibatnya, sebagian peneliti terjerumus ke p-hacking, kadang dengan sengaja, tetapi biasanya tanpa sengaja, dengan menerapkan metode yang dapat menurunkan p-value hingga menjadi signifikan secara statistik, padahal pengujian yang tepat akan menunjukkan sebaliknya.
Cara Kerja P-Hacking
Baik disengaja maupun tidak, ada banyak cara sesuatu bisa salah hingga berujung pada p-hacking. Metode yang mengarah pada p-hacking bisa disebut p-hack, dan dapat terjadi pada fase mana pun dalam eksperimen.
Dalam babagian buku The Myriad Forms of p-Hacking, Dorota Reis dan Malte Friese memberikan daftar tidak lengkap p-hack di berbagai tahap eksperimen mulai dari pengumpulan data hingga pelaporan, seperti pada grafik berikut.

Contoh p-hack. Sumber: Avoiding Questionable Research Practices in Applied Psychology.
Mari lihat makna masing-masing dari kiri ke kanan:
- Optional stopping: Menghentikan pengumpulan data saat individu yang terkumpul menghasilkan p-value signifikan, bukan saat ukuran sampel yang dibutuhkan terpenuhi.
- Mengumpulkan data tambahan: Ini seperti perpanjangan praktik sebelumnya. Mengumpulkan lebih banyak data kadang dapat menurunkan p-value meski tidak ada efek mendasar yang nyata.
- Mentransformasikan distribusi: Transformasi bisa jadi bagian yang diperlukan dalam persiapan data, tetapi jika mencoba banyak transformasi dan akhirnya memilih yang menghasilkan p-value signifikan, itu adalah p-hack.
- Secara selektif mengecualikan outlier: Seperti transformasi distribusi, menangani outlier merupakan langkah penting dalam persiapan data, dan ada beberapa metode untuk mendeteksi serta mengecualikannya. Jika metode yang dipilih adalah yang membuat data menjadi signifikan secara statistik, ini adalah p-hack.
- Mencoba berbagai metode analitik: Menjalankan berbagai jenis uji hipotesis dan memilih yang menghasilkan hasil signifikan.
- Pemodelan ganda: Mencoba berbagai model variabel, lalu memilih yang menghasilkan signifikansi statistik sambil mengabaikan alasan teoretis dasar di balik pilihannya, juga merupakan p-hack.
- Penggantian post-hoc: Mengganti atau mengabaikan sekumpulan titik data atau kondisi yang menghasilkan p-value lebih besar, baik pada putaran uji hipotesis maupun saat pelaporan hasil.
- Membulatkan p-value: Ini adalah p-hack yang paling mudah terdeteksi karena mengandalkan pembulatan p-value saat nilainya sedikit di atas tingkat signifikansi—sehingga bahkan tidak benar-benar mencapai p-value signifikan yang dimanipulasi, tetapi seolah-olah demikian.
Perhatikan bahwa sebagian besar p-hack ini bergantung pada menjalankan eksperimen berulang kali, setiap kali mengubah hal yang seharusnya menjadi dasar yang sudah ditetapkan sebelumnya untuk eksperimen.
Namun tanpa pengutak-atik sekalipun, menjalankan ulang eksperimen yang sama dan hanya melaporkan hasil ketika signifikan secara statistik juga bisa menjadi p-hack, karena selalu ada kemungkinan bahwa jika suatu eksperimen dijalankan cukup sering, pada suatu saat ia akan menghasilkan p-value rendah. Komik di bawah dari xkcd menggambarkan gagasan ini.

Komik “Significant”. Sumber: xkcd.
Contoh Nyata P-Hacking
P-hacking adalah fenomena yang sangat luas. Pada awal 2010-an, banyak studi telaah mulai menemukan bahwa persentase besar riset yang diterbitkan di jurnal-jurnal terkemuka di berbagai bidang kemungkinan besar mengalami p-hacking, terutama di bidang psikologi dan kedokteran, tetapi juga ilmu sosial dan humaniora.
Sebagai contoh, pada 2015, sebuah studi yang dipimpin seorang akademisi di University of Verginia menelaah 100 studi psikologi yang diterbitkan di jurnal papan atas pada 2008, dan menemukan bahwa kurang dari setengahnya dapat direplikasi. Kurangnya reprodusibilitas berarti bahwa studi tersebut, saat dijalankan ulang, tidak menghasilkan hasil yang sama—kadang karena p-hacking.
Proyek lain yang menelaah studi kanker menemukan bahwa hanya 50 eksperimen dari 193 yang dapat direplikasi. Bahkan lebih awal, pada 2009, sebuah studi mencatat jumlah yang mencurigakan dari eksperimen di bidang ilmu saraf yang melaporkan korelasi sangat tinggi antara emosi, kepribadian, kognisi sosial, dan aktivitas otak melalui fMRI. Setelah mensurvei para penulis eksperimen ini, ternyata mereka bergantung pada strategi memilih subset data secara selektif dan hanya melaporkan yang menghasilkan hasil signifikan—p-hack serupa dengan yang kita sebut penggantian post-hoc.
Temuan-temuan dari studi telaah ini mengungkap bagaimana p-hacking, selain praktik penelitian meragukan lainnya, membuat landasan riset ilmiah yang telah lama dihormati menjadi goyah dan penuh lubang. Krisis ini disebut krisis replikabilitas, yang masih berlangsung di tengah banyak diskusi dan upaya mencari jalan keluarnya.
Mengapa P-Hacking Tidak Etis
Jadi, mengapa p-hacking bermasalah?

“P-hacking makes you a wizard”. Sumber: SMBC Comics.
Pertanyaan ini mungkin terdengar terlalu jelas, tetapi merinci alasan mengapa p-hacking itu keliru dan tidak etis juga membantu kita lebih memahami “signifikansi” dari masalah signifikansi yang dipalsukan.
Sederhananya, ini manipulatif
Inti p-hacking tak lain adalah hasil dari memanipulasi metodologi atau memanipulasi hasil. Jika dilakukan dengan sengaja, ini sama saja dengan berbohong demi keuntungan diri sendiri (seperti agar dipublikasikan atau diakui). Jika tidak disengaja, ini seperti menempuh jalan yang salah dan akhirnya hanya sampai pada fatamorgana positif palsu.
Dapat mengarah pada keputusan keliru dan konsekuensi fatal
Eksperimen, baik di ranah ilmiah maupun bisnis, memiliki konsekuensi. Eksperimen dilakukan untuk mengambil keputusan atau membangun sesuatu dari hasilnya. Jika hasil eksperimen direkayasa, keputusan yang bergantung padanya tidak berdasar, dan kadang dapat berujung pada konsekuensi fatal.
Misalnya, riset di ranah sensitif seperti onkologi dan neurologi dapat secara kolektif berkontribusi pada pengembangan terapi dan obat. Akan menjadi bencana jika sebagian riset fondasinya dimanipulasi.
Dalam bisnis, keputusan keliru dapat berdampak ke banyak arah: meluncurkan produk gagal, menguras sumber daya, memecat orang, hingga bangkrut. Satu p-hack sederhana bisa menciptakan efek kupu-kupu.
Mengikis kepercayaan pada metode ilmiah
Krisis replikabilitas telah memicu skeptisisme luas terhadap sains secara keseluruhan, bahkan diekspresikan dalam wacana politik. Walau berpikir kritis selalu berguna saat menerima temuan ilmiah, menolak setiap temuan empiris bisa membawa pada keputusasaan dalam ketidaktahuan dan keputusan tak berdasar.
Dalam bisnis, pada skala lebih kecil, p-hacking dan praktik meragukan serupa dapat membuat para pemimpin bisnis mundur dari pengambilan keputusan berbasis data, kembali bergantung hanya pada firasat dan intuisi—kebalikan dari janji serta kemampuan yang sebenarnya ditawarkan sains data.
Menggoyahkan sifat akumulatif pengetahuan
Pengetahuan manusia bertumpu pada sifat akumulatifnya. Setiap eksperimen kecil adalah batu bata yang membuka jalan bagi struktur pengetahuan yang lebih besar. Ketika semakin banyak batu bata ini goyah akibat praktik meragukan seperti p-hacking, potensi akumulasi menjadi malang. Bahkan praktik sederhana menelusuri literatur terdahulu untuk membangun eksperimen baru menjadi misi sulit layaknya mencari jalan di ladang ranjau.
Tanda Bahaya dan Cara Mendeteksi P-Hacking
Berdasarkan apa yang kini kita ketahui tentang p-hacking dan metodenya, kita dapat menyimpulkan beberapa tanda bahaya yang membantu mendeteksi p-hack. Sebagian besar tanda ini tetap membutuhkan rasa ingin tahu, pemikiran kritis, dan mata yang jeli. Beberapa bahkan bergantung pada pengetahuan domain yang mendalam.
Hasil yang terlalu sensasional
Hasil eksperimen sensasional biasanya terlalu mencurigakan untuk diterima mentah-mentah. Biasanya diangkat media dan tren media sosial, studi yang menyatakan hal seperti “cokelat bisa menurunkan berat badan” jelas belum siap untuk dianggap begitu saja.
Dalam bisnis, uji yang menjanjikan kenaikan laba 100% karena menambahkan fitur kecil di situs web juga bisa dianggap sama sensasionalnya.
Saat menemukan studi semacam ini—jika relevan bagi Anda—selalu periksa ulang metodologi dan hasilnya sebelum menerima temuan tersebut.
Kurangnya transparansi metodologi
Waspadai eksperimen yang tidak jelas metodologinya atau tidak mengungkapkan sebagian komponennya. Keterbukaan tentang hipotesis awal, tingkat signifikansi, ukuran sampel, variabel yang dikumpulkan, jenis uji yang dipilih, dan langkah persiapan data semuanya esensial bagi prosedur ilmiah yang baik. Ketidakjelasan pada salah satu komponen ini adalah tanda bahaya.
Jika persiapan data eksperimen mencakup transformasi variabel, periksa ganda alasannya, karena justifikasinya harus dinyatakan. Jika tidak, atau tidak meyakinkan, ini bisa menjadi indikator langsung p-hacking.
Ukuran sampel kecil yang tidak dibenarkan
Ukuran sampel kecil mengurangi daya statistik studi, meningkatkan risiko negatif palsu. Namun, bila digabung dengan pelaporan selektif atau p-hacking, studi berdaya rendah juga dapat berkontribusi pada tingginya tingkat temuan positif palsu di literatur yang dipublikasikan.
Di beberapa domain, ukuran sampel kecil dapat diterima dan lazim, seperti dalam riset klinis, studi lingkungan, rekayasa, dan kendali mutu. Namun secara umum, ukuran sampel yang lebih besar menghasilkan inferensi yang lebih baik, sehingga mengurangi kemungkinan positif palsu dan p-value signifikan yang tidak benar.
Apa pun kasusnya, jika ukuran sampel kecil tidak dibenarkan, ini dapat menunjukkan kurangnya daya statistik yang meningkatkan risiko temuan positif palsu. Dalam beberapa kasus, ini juga dapat mengisyaratkan pemberhentian dini—praktik p-hacking yang saya sebutkan sebelumnya—di mana pengumpulan data dihentikan begitu signifikansi tercapai alih-alih saat ukuran sampel yang direncanakan terpenuhi.
Effect size yang tidak jelas
Effect size mengukur kekuatan atau besaran hubungan antarvariabel, memberi konteks pada signifikansi statistik suatu hasil. Jika sebuah studi melaporkan signifikansi statistik tetapi gagal memberikan effect size yang jelas atau bermakna, itu menimbulkan kecurigaan.
P-value mungkin menunjukkan bahwa hasil kecil kemungkinannya terjadi karena kebetulan, tetapi tanpa effect size, sulit menentukan signifikansi praktis dari temuan. Dalam studi p-hack, ketidakjelasan tentang effect size dapat menunjukkan bahwa peneliti terlalu fokus mencapai signifikansi statistik, terlepas dari pertimbangan lain
Ketidakkonsistenan antara hipotesis yang dinyatakan dan hasil
Ketika hasil studi sangat menyimpang dari hipotesis awal, itu patut dipertanyakan. Ini bisa menjadi tanda bahwa peneliti memodifikasi hipotesis atau metode setelah mengumpulkan data agar sesuai dengan hasil—praktik yang dikenal sebagai HARKing (Hypothesizing After Results are Known).
Misalnya, jika sebuah eksperimen mengklaim menguji hipotesis tertentu tetapi analisis akhirnya tampak berfokus pada variabel atau hasil yang tidak terkait, ini dapat mengindikasikan p-hacking. Selalu bandingkan hipotesis yang dinyatakan dengan hasil akhir untuk memastikan keduanya selaras.
Effect size yang luar biasa besar
Effect size yang tidak biasa besar dapat menjadi tanda p-hacking. Dalam banyak kasus, efek di dunia nyata kecil hingga sedang, terutama di bidang psikologi, kedokteran, atau ilmu sosial. Seperti menilai ukuran sampel yang tepat, menalar kewajaran effect size memerlukan keahlian domain yang mendalam.
Jika sebuah studi melaporkan effect size yang luar biasa besar, itu bisa mengindikasikan data dimanipulasi secara selektif atau sampelnya bias. Peneliti mungkin secara sengaja atau tidak sengaja mengecualikan data yang akan menurunkan effect size untuk membuat temuan tampak lebih impresif daripada sebenarnya (p-hack penggantian post-hoc).
P-value yang tepat di bawah tingkat signifikansi
Saat p-value yang dilaporkan tepat di bawah ambang signifikansi (mis., p = 0,049 dalam studi dengan batas signifikansi p < 0,05), ini dapat mengindikasikan adanya p-hacking.
Ini karena menjalankan uji berulang atau mengutak-atik variabel dapat menghasilkan hasil yang nyaris melampaui ambang signifikansi secara kebetulan. Pola hasil yang konsisten mengambang tepat di bawah tingkat signifikansi menyiratkan bahwa peneliti mungkin menghentikan pengumpulan data begitu mencapai hasil yang diinginkan (pemberhentian dini), atau melaporkan secara selektif analisis tertentu (penggantian post-hoc).
Tidak dapat direplikasi
Salah satu indikator terkuat p-hacking adalah ketika temuan studi tidak dapat direplikasi. Jika peneliti independen tidak mampu mereplikasi hasil dengan metodologi yang sama, ini dapat mengindikasikan bahwa temuan asli merupakan hasil p-hacking atau pelaporan selektif.
Replikabilitas adalah landasan integritas ilmiah, dan hasil yang tidak dapat direproduksi secara konsisten menyiratkan bahwa analisis asli mungkin cacat atau dimanipulasi.
Tanda Positif dan Cara Mencegah P-Hacking
Dengan membalik tanda bahaya di atas, kita juga bisa merumuskan cara mencegah p-hacking. Cara-cara ini telah mengemuka dalam diskursus komunitas ilmiah selama satu dekade terakhir sebagai respons atas krisis replikabilitas.
Pengetahuan statistik
Pemahaman yang solid tentang prinsip statistik sangat penting untuk mencegah p-hacking. Ketika analis memiliki pengetahuan yang memadai, mereka lebih siap menghindari jebakan umum, seperti salah menafsirkan p-value atau keliru menangani perbandingan berganda.
Contohnya, dalam A/B testing untuk fitur situs web, analis yang paham akan mengerti bahwa p-value bukan tujuan akhir. Meski uji menghasilkan p-value rendah, effect size bisa saja tidak cukup besar, sehingga tidak bermakna secara praktis. Memahami perbedaan antara signifikansi statistik dan praktis membantu analis untuk tidak terlalu berfokus pada p-value—yang berpotensi mendorong praktik p-hacking—sehingga mengurangi kemungkinan memanipulasi hasil demi keluaran yang lebih menguntungkan.
Pra-registrasi
Pra-registrasi dalam riset ilmiah melibatkan penguraian rencana riset atau pengujian—termasuk hipotesis, metode, dan teknik analisis—sebelum mengumpulkan data. Proses ini mencegah p-hacking dengan “mengunci” keputusan tentang bagaimana analisis akan dilakukan, sehingga menyulitkan perubahan analisis secara post hoc untuk mencapai hasil signifikan.
Dalam bisnis, praktik serupa dapat dilakukan bahkan di tingkat tim data. Misalnya, sebelum menjalankan eksperimen untuk mengukur dampak model harga baru, tim dapat mendokumentasikan dan menyatakan secara internal hipotesisnya, menentukan variabel yang akan diuji (mis., pendapatan, tingkat akuisisi pelanggan), tingkat signifikansi, dan ukuran sampel. Ini memastikan tim berpegang pada rencana awal dan tidak mengubah analisis setelah melihat hasil awal, sehingga menghindari praktik penggantian post-hoc dan cherry-picking hanya pada data yang menunjukkan hasil menguntungkan.
Praktik sains terbuka
Sains terbuka merujuk pada ketersediaan data, metode, dan analisis agar dapat ditinjau dan direplikasi oleh pihak lain. Dalam bisnis, walau istilah "sains terbuka" mungkin tidak digunakan langsung, praktik transparansi serupa penting untuk memastikan integritas analisis.
Misalnya, sebuah perusahaan yang melakukan analisis pasar dapat membagikan data mentah dan langkah analisisnya secara internal kepada tim lain, auditor, atau pemangku kepentingan terkait, atau mendokumentasikannya secara sistematis untuk replikasi di masa mendatang. Transparansi ini mengurangi p-hacking karena siapa pun dapat memeriksa ketidaksesuaian atau cacat metodologi. Di organisasi, keterbukaan tentang metode dan hasil menumbuhkan akuntabilitas dan membantu memastikan kesimpulan ditarik dari data yang kokoh dan dapat direproduksi.
Langkah persiapan dan transformasi data selalu harus memiliki pembenaran yang jelas. Tanpa pembenaran yang jelas, menghapus outlier atau mentransformasikan variabel bisa digunakan untuk memanipulasi hasil dan menciptakan narasi palsu.
Sebagai contoh, saat menganalisis data pembelian pelanggan, seorang analis mungkin mengecualikan titik data tertentu (mis., outlier ekstrem) yang tampak tidak sesuai dengan model. Namun tanpa alasan yang valid—seperti mengidentifikasinya sebagai anomali sejati alih-alih bagian dari distribusi normal—ini bisa menjadi bentuk p-hacking. Untuk mencegahnya, setiap langkah persiapan data (seperti mengecualikan periode waktu tertentu atau menerapkan transformasi log) harus dijelaskan secara eksplisit dalam laporan analisis demi transparansi.
Menyatakan dan mempertimbangkan effect size
Di luar signifikansi statistik, penting untuk melaporkan dan menafsirkan effect size. Ini memastikan hasil bermakna secara praktis dan tidak sekadar memanfaatkan signifikansi statistik karena ukuran sampel besar.
Dalam bisnis, bayangkan A/B test di mana deskripsi produk baru meningkatkan tingkat konversi sebesar 0,5%, tetapi ukuran sampel cukup besar untuk membuat hasilnya signifikan secara statistik. Tanpa konteks, perubahan ini bisa disalahartikan bermakna. Namun, dengan berfokus pada effect size dan menilai apakah kenaikan 0,5% sepadan dengan biaya mengubah semua deskripsi produk, perusahaan dapat menghindari keputusan yang hanya didasarkan pada p-value.
Mengizinkan uji berulang, tetapi dengan metode koreksi
Kita mengatakan bahwa menjalankan uji yang sama (atau berbeda) pada data yang sama dapat menghasilkan hasil signifikan karena kebetulan, sehingga kita anggap sebagai p-hack. Namun, menjalankan uji yang sama pada data yang sama berkali-kali bisa menjadi langkah baik untuk mencegah dan mewaspadai p-hacking, jika—dan hanya jika—dikombinasikan dengan metode koreksi, yaitu teknik statistik yang menyesuaikan fakta bahwa ada banyak perbandingan. Dua metode koreksi paling umum adalah koreksi Bonferroni dan prosedur Benjamini–Hochberg (BH).
Bonferroni melibatkan penyesuaian ambang p-value (tingkat signifikansi) ke bawah dengan membaginya dengan jumlah uji yang dilakukan. Meski efektif mengurangi kemungkinan positif palsu, metode ini bisa terlalu konservatif, meningkatkan kemungkinan negatif palsu.
Sebaliknya, prosedur BH adalah salah satu teknik pengendalian False Discovery Rate (FDR) yang bertujuan menyeimbangkan kemungkinan dua jenis galat. Secara singkat, BH bekerja dengan terlebih dulu mengurutkan semua p-value dari yang terkecil hingga terbesar. Setiap p-value kemudian dibandingkan dengan ambang yang meningkat sesuai peringkatnya. P-value terbesar yang masih di bawah ambangnya diidentifikasi, dan semua p-value hingga titik ini dianggap signifikan.
Dalam konteks bisnis, jika perusahaan menguji beberapa versi halaman landas, menggoda untuk menjalankan banyak A/B test dan berhenti saat satu versi tampak berkinerja signifikan lebih baik. Untuk menghindarinya, analis dapat menerapkan koreksi untuk memperhitungkan banyaknya uji yang dijalankan. Dengan demikian, mereka memastikan temuan signifikan tidak sekadar hasil dari pengujian berulang.
Mempertimbangkan hasil tidak signifikan
Terakhir, penting untuk mengakui dan melaporkan hasil yang tidak signifikan alih-alih membuangnya. Ada seruan di komunitas sains untuk mengizinkan publikasi eksperimen dengan hasil tidak signifikan selama mengikuti metodologi pra-registrasi yang ketat, karena temuan “tidak ada temuan” pun tetap sebuah temuan! Kebijaksanaan serupa dapat diikuti dalam bisnis.
Misalnya, jika kampanye pemasaran tidak berdampak signifikan pada penjualan, perusahaan tetap harus melaporkan dan mempertimbangkan temuan ini. Ini memberikan informasi berharga dan mencegah pelaporan yang bias yang dapat mengarah pada keputusan bisnis yang tidak berdasar. Keterbukaan tentang hasil tidak signifikan berkontribusi pada analisis yang lebih jujur dan menghindarkan godaan memanipulasi data demi menampilkan keberhasilan.
Penutup
Dalam artikel ini, kita mengulas dunia p-hacking secara mendalam—di mana p-value rentan terhadap manipulasi. Kita meninjau berbagai p-hack, cara mendeteksinya, dan cara mencegahnya.
Seperti yang terlihat, dan seperti yang kami sebutkan, bagian besar dari kewaspadaan terhadap p-hacking adalah memiliki pengetahuan statistik yang kuat. Anda dapat meraihnya melalui berbagai kursus statistik kami, seperti kursus teoretis Introduction to Statistics, atau kursus praktis Introduction to Statistics in Google sheets, Introduction to Statistics in Python, dan Introduction to Statistics in R.
Jika Anda pernah bekerja dengan statistika inferensial, khususnya pengujian hipotesis dan regresi, Anda mungkin sudah mengenal p-value. Dan jika Anda pernah bekerja dengan p-value, Anda mungkin tahu, atau setidaknya menduga, bahwa p-value rentan dan dapat dimanipulasi—dan itu benar.
Faktanya, manipulasi ini sampai punya istilah tersendiri: p-hacking. Kadang juga disebut sebagai data dredging, data snooping, data fishing, dan inflation bias. Itulah yang akan dibahas dalam artikel ini.
Apa Itu P-Value?
Pertama-tama, mari menyegarkan ingatan kita tentang p-value. Huruf ‘p’ pada p-value berarti probabilitas. Secara khusus, p-value adalah probabilitas mengamati hasil setajam yang diperoleh, dengan asumsi hipotesis nol benar. Penolakan yang keliru ini juga disebut sebagai Galat Tipe I, atau galat positif palsu. Biasanya, p-value diperoleh untuk dibandingkan dengan tingkat signifikansi (dilambangkan α), yaitu probabilitas yang ditoleransi untuk menolak hipotesis nol saat hipotesis nol itu benar.
Secara logis, jika p-value lebih besar dari tingkat signifikansi, kita gagal menolak hipotesis nol dan tetap berpegang padanya. Sebaliknya, jika p-value lebih kecil atau sama dengan tingkat signifikansi, kita dapat menolak hipotesis nol demi hipotesis alternatif, dan dalam kasus ini, kita mengatakan hasilnya signifikan secara statistik.
Jika penyegar singkat tentang p-value ini belum sepenuhnya jelas bagi Anda, jangan khawatir! Anda dapat mengikuti kursus teoretis Introduction to Statistics kami dan dengan cepat memahami dasar-dasar yang diperlukan.
Pengantar P-Hacking
Mencapai hasil yang “signifikan secara statistik” terdengar seperti kesuksesan dan, karena itu, menggiurkan. Dalam bisnis, itu berarti Anda punya sesuatu yang baru, menarik, atau diinginkan untuk dilaporkan. Di dunia akademik, Anda telah menemukan sesuatu dan temuan itu bisa diterbitkan di jurnal.
Karena merupakan kunci dari semua hal yang menggembirakan ini, para profesional data dan peneliti tergoda untuk terlalu berfokus pada p-value dalam studi mereka, dan mengabaikan yang lain, bahkan tingkat signifikansi. Dan karena tingkat signifikansi yang paling lazim dipakai selama beberapa dekade adalah 0,05, menjadi konvensi mudah untuk berkata bahwa jika p-value Anda di bawah 0,05, Anda boleh langsung bersorak bergembira.
Akibatnya, sebagian peneliti terjerumus ke p-hacking, kadang dengan sengaja, tetapi biasanya tanpa sengaja, dengan menerapkan metode yang dapat menurunkan p-value hingga menjadi signifikan secara statistik, padahal pengujian yang tepat akan menunjukkan sebaliknya.
Cara Kerja P-Hacking
Baik disengaja maupun tidak, ada banyak cara sesuatu bisa salah hingga berujung pada p-hacking. Metode yang mengarah pada p-hacking bisa disebut p-hack, dan dapat terjadi pada fase mana pun dalam eksperimen.
Dalam babagian buku The Myriad Forms of p-Hacking, Dorota Reis dan Malte Friese memberikan daftar tidak lengkap p-hack di berbagai tahap eksperimen mulai dari pengumpulan data hingga pelaporan, seperti pada grafik berikut.
Contoh p-hack. Sumber: Avoiding Questionable Research Practices in Applied Psychology.
Mari lihat makna masing-masing dari kiri ke kanan:
Perhatikan bahwa sebagian besar p-hack ini bergantung pada menjalankan eksperimen berulang kali, setiap kali mengubah hal yang seharusnya menjadi dasar yang sudah ditetapkan sebelumnya untuk eksperimen.
Namun tanpa pengutak-atik sekalipun, menjalankan ulang eksperimen yang sama dan hanya melaporkan hasil ketika signifikan secara statistik juga bisa menjadi p-hack, karena selalu ada kemungkinan bahwa jika suatu eksperimen dijalankan cukup sering, pada suatu saat ia akan menghasilkan p-value rendah. Komik di bawah dari xkcd menggambarkan gagasan ini.
Komik “Significant”. Sumber: xkcd.
Contoh Nyata P-Hacking
P-hacking adalah fenomena yang sangat luas. Pada awal 2010-an, banyak studi telaah mulai menemukan bahwa persentase besar riset yang diterbitkan di jurnal-jurnal terkemuka di berbagai bidang kemungkinan besar mengalami p-hacking, terutama di bidang psikologi dan kedokteran, tetapi juga ilmu sosial dan humaniora.
Sebagai contoh, pada 2015, sebuah studi yang dipimpin seorang akademisi di University of Verginia menelaah 100 studi psikologi yang diterbitkan di jurnal papan atas pada 2008, dan menemukan bahwa kurang dari setengahnya dapat direplikasi. Kurangnya reprodusibilitas berarti bahwa studi tersebut, saat dijalankan ulang, tidak menghasilkan hasil yang sama—kadang karena p-hacking.
Proyek lain yang menelaah studi kanker menemukan bahwa hanya 50 eksperimen dari 193 yang dapat direplikasi. Bahkan lebih awal, pada 2009, sebuah studi mencatat jumlah yang mencurigakan dari eksperimen di bidang ilmu saraf yang melaporkan korelasi sangat tinggi antara emosi, kepribadian, kognisi sosial, dan aktivitas otak melalui fMRI. Setelah mensurvei para penulis eksperimen ini, ternyata mereka bergantung pada strategi memilih subset data secara selektif dan hanya melaporkan yang menghasilkan hasil signifikan—p-hack serupa dengan yang kita sebut penggantian post-hoc.
Temuan-temuan dari studi telaah ini mengungkap bagaimana p-hacking, selain praktik penelitian meragukan lainnya, membuat landasan riset ilmiah yang telah lama dihormati menjadi goyah dan penuh lubang. Krisis ini disebut krisis replikabilitas, yang masih berlangsung di tengah banyak diskusi dan upaya mencari jalan keluarnya.
Mengapa P-Hacking Tidak Etis
Jadi, mengapa p-hacking bermasalah?
“P-hacking makes you a wizard”. Sumber: SMBC Comics.
Pertanyaan ini mungkin terdengar terlalu jelas, tetapi merinci alasan mengapa p-hacking itu keliru dan tidak etis juga membantu kita lebih memahami “signifikansi” dari masalah signifikansi yang dipalsukan.
Sederhananya, ini manipulatif
Inti p-hacking tak lain adalah hasil dari memanipulasi metodologi atau memanipulasi hasil. Jika dilakukan dengan sengaja, ini sama saja dengan berbohong demi keuntungan diri sendiri (seperti agar dipublikasikan atau diakui). Jika tidak disengaja, ini seperti menempuh jalan yang salah dan akhirnya hanya sampai pada fatamorgana positif palsu.
Dapat mengarah pada keputusan keliru dan konsekuensi fatal
Eksperimen, baik di ranah ilmiah maupun bisnis, memiliki konsekuensi. Eksperimen dilakukan untuk mengambil keputusan atau membangun sesuatu dari hasilnya. Jika hasil eksperimen direkayasa, keputusan yang bergantung padanya tidak berdasar, dan kadang dapat berujung pada konsekuensi fatal.
Misalnya, riset di ranah sensitif seperti onkologi dan neurologi dapat secara kolektif berkontribusi pada pengembangan terapi dan obat. Akan menjadi bencana jika sebagian riset fondasinya dimanipulasi.
Dalam bisnis, keputusan keliru dapat berdampak ke banyak arah: meluncurkan produk gagal, menguras sumber daya, memecat orang, hingga bangkrut. Satu p-hack sederhana bisa menciptakan efek kupu-kupu.
Mengikis kepercayaan pada metode ilmiah
Krisis replikabilitas telah memicu skeptisisme luas terhadap sains secara keseluruhan, bahkan diekspresikan dalam wacana politik. Walau berpikir kritis selalu berguna saat menerima temuan ilmiah, menolak setiap temuan empiris bisa membawa pada keputusasaan dalam ketidaktahuan dan keputusan tak berdasar.
Dalam bisnis, pada skala lebih kecil, p-hacking dan praktik meragukan serupa dapat membuat para pemimpin bisnis mundur dari pengambilan keputusan berbasis data, kembali bergantung hanya pada firasat dan intuisi—kebalikan dari janji serta kemampuan yang sebenarnya ditawarkan sains data.
Menggoyahkan sifat akumulatif pengetahuan
Pengetahuan manusia bertumpu pada sifat akumulatifnya. Setiap eksperimen kecil adalah batu bata yang membuka jalan bagi struktur pengetahuan yang lebih besar. Ketika semakin banyak batu bata ini goyah akibat praktik meragukan seperti p-hacking, potensi akumulasi menjadi malang. Bahkan praktik sederhana menelusuri literatur terdahulu untuk membangun eksperimen baru menjadi misi sulit layaknya mencari jalan di ladang ranjau.
Tanda Bahaya dan Cara Mendeteksi P-Hacking
Berdasarkan apa yang kini kita ketahui tentang p-hacking dan metodenya, kita dapat menyimpulkan beberapa tanda bahaya yang membantu mendeteksi p-hack. Sebagian besar tanda ini tetap membutuhkan rasa ingin tahu, pemikiran kritis, dan mata yang jeli. Beberapa bahkan bergantung pada pengetahuan domain yang mendalam.
Hasil yang terlalu sensasional
Hasil eksperimen sensasional biasanya terlalu mencurigakan untuk diterima mentah-mentah. Biasanya diangkat media dan tren media sosial, studi yang menyatakan hal seperti “cokelat bisa menurunkan berat badan” jelas belum siap untuk dianggap begitu saja.
Dalam bisnis, uji yang menjanjikan kenaikan laba 100% karena menambahkan fitur kecil di situs web juga bisa dianggap sama sensasionalnya.
Saat menemukan studi semacam ini—jika relevan bagi Anda—selalu periksa ulang metodologi dan hasilnya sebelum menerima temuan tersebut.
Kurangnya transparansi metodologi
Waspadai eksperimen yang tidak jelas metodologinya atau tidak mengungkapkan sebagian komponennya. Keterbukaan tentang hipotesis awal, tingkat signifikansi, ukuran sampel, variabel yang dikumpulkan, jenis uji yang dipilih, dan langkah persiapan data semuanya esensial bagi prosedur ilmiah yang baik. Ketidakjelasan pada salah satu komponen ini adalah tanda bahaya.
Transformasi data yang tidak perlu
Jika persiapan data eksperimen mencakup transformasi variabel, periksa ganda alasannya, karena justifikasinya harus dinyatakan. Jika tidak, atau tidak meyakinkan, ini bisa menjadi indikator langsung p-hacking.
Ukuran sampel kecil yang tidak dibenarkan
Ukuran sampel kecil mengurangi daya statistik studi, meningkatkan risiko negatif palsu. Namun, bila digabung dengan pelaporan selektif atau p-hacking, studi berdaya rendah juga dapat berkontribusi pada tingginya tingkat temuan positif palsu di literatur yang dipublikasikan.
Di beberapa domain, ukuran sampel kecil dapat diterima dan lazim, seperti dalam riset klinis, studi lingkungan, rekayasa, dan kendali mutu. Namun secara umum, ukuran sampel yang lebih besar menghasilkan inferensi yang lebih baik, sehingga mengurangi kemungkinan positif palsu dan p-value signifikan yang tidak benar.
Apa pun kasusnya, jika ukuran sampel kecil tidak dibenarkan, ini dapat menunjukkan kurangnya daya statistik yang meningkatkan risiko temuan positif palsu. Dalam beberapa kasus, ini juga dapat mengisyaratkan pemberhentian dini—praktik p-hacking yang saya sebutkan sebelumnya—di mana pengumpulan data dihentikan begitu signifikansi tercapai alih-alih saat ukuran sampel yang direncanakan terpenuhi.
Effect size yang tidak jelas
Effect size mengukur kekuatan atau besaran hubungan antarvariabel, memberi konteks pada signifikansi statistik suatu hasil. Jika sebuah studi melaporkan signifikansi statistik tetapi gagal memberikan effect size yang jelas atau bermakna, itu menimbulkan kecurigaan.
P-value mungkin menunjukkan bahwa hasil kecil kemungkinannya terjadi karena kebetulan, tetapi tanpa effect size, sulit menentukan signifikansi praktis dari temuan. Dalam studi p-hack, ketidakjelasan tentang effect size dapat menunjukkan bahwa peneliti terlalu fokus mencapai signifikansi statistik, terlepas dari pertimbangan lain
Ketidakkonsistenan antara hipotesis yang dinyatakan dan hasil
Ketika hasil studi sangat menyimpang dari hipotesis awal, itu patut dipertanyakan. Ini bisa menjadi tanda bahwa peneliti memodifikasi hipotesis atau metode setelah mengumpulkan data agar sesuai dengan hasil—praktik yang dikenal sebagai HARKing (Hypothesizing After Results are Known).
Misalnya, jika sebuah eksperimen mengklaim menguji hipotesis tertentu tetapi analisis akhirnya tampak berfokus pada variabel atau hasil yang tidak terkait, ini dapat mengindikasikan p-hacking. Selalu bandingkan hipotesis yang dinyatakan dengan hasil akhir untuk memastikan keduanya selaras.
Effect size yang luar biasa besar
Effect size yang tidak biasa besar dapat menjadi tanda p-hacking. Dalam banyak kasus, efek di dunia nyata kecil hingga sedang, terutama di bidang psikologi, kedokteran, atau ilmu sosial. Seperti menilai ukuran sampel yang tepat, menalar kewajaran effect size memerlukan keahlian domain yang mendalam.
Jika sebuah studi melaporkan effect size yang luar biasa besar, itu bisa mengindikasikan data dimanipulasi secara selektif atau sampelnya bias. Peneliti mungkin secara sengaja atau tidak sengaja mengecualikan data yang akan menurunkan effect size untuk membuat temuan tampak lebih impresif daripada sebenarnya (p-hack penggantian post-hoc).
P-value yang tepat di bawah tingkat signifikansi
Saat p-value yang dilaporkan tepat di bawah ambang signifikansi (mis., p = 0,049 dalam studi dengan batas signifikansi p < 0,05), ini dapat mengindikasikan adanya p-hacking.
Ini karena menjalankan uji berulang atau mengutak-atik variabel dapat menghasilkan hasil yang nyaris melampaui ambang signifikansi secara kebetulan. Pola hasil yang konsisten mengambang tepat di bawah tingkat signifikansi menyiratkan bahwa peneliti mungkin menghentikan pengumpulan data begitu mencapai hasil yang diinginkan (pemberhentian dini), atau melaporkan secara selektif analisis tertentu (penggantian post-hoc).
Tidak dapat direplikasi
Salah satu indikator terkuat p-hacking adalah ketika temuan studi tidak dapat direplikasi. Jika peneliti independen tidak mampu mereplikasi hasil dengan metodologi yang sama, ini dapat mengindikasikan bahwa temuan asli merupakan hasil p-hacking atau pelaporan selektif.
Replikabilitas adalah landasan integritas ilmiah, dan hasil yang tidak dapat direproduksi secara konsisten menyiratkan bahwa analisis asli mungkin cacat atau dimanipulasi.
Tanda Positif dan Cara Mencegah P-Hacking
Dengan membalik tanda bahaya di atas, kita juga bisa merumuskan cara mencegah p-hacking. Cara-cara ini telah mengemuka dalam diskursus komunitas ilmiah selama satu dekade terakhir sebagai respons atas krisis replikabilitas.
Pengetahuan statistik
Pemahaman yang solid tentang prinsip statistik sangat penting untuk mencegah p-hacking. Ketika analis memiliki pengetahuan yang memadai, mereka lebih siap menghindari jebakan umum, seperti salah menafsirkan p-value atau keliru menangani perbandingan berganda.
Contohnya, dalam A/B testing untuk fitur situs web, analis yang paham akan mengerti bahwa p-value bukan tujuan akhir. Meski uji menghasilkan p-value rendah, effect size bisa saja tidak cukup besar, sehingga tidak bermakna secara praktis. Memahami perbedaan antara signifikansi statistik dan praktis membantu analis untuk tidak terlalu berfokus pada p-value—yang berpotensi mendorong praktik p-hacking—sehingga mengurangi kemungkinan memanipulasi hasil demi keluaran yang lebih menguntungkan.
Pra-registrasi
Pra-registrasi dalam riset ilmiah melibatkan penguraian rencana riset atau pengujian—termasuk hipotesis, metode, dan teknik analisis—sebelum mengumpulkan data. Proses ini mencegah p-hacking dengan “mengunci” keputusan tentang bagaimana analisis akan dilakukan, sehingga menyulitkan perubahan analisis secara post hoc untuk mencapai hasil signifikan.
Dalam bisnis, praktik serupa dapat dilakukan bahkan di tingkat tim data. Misalnya, sebelum menjalankan eksperimen untuk mengukur dampak model harga baru, tim dapat mendokumentasikan dan menyatakan secara internal hipotesisnya, menentukan variabel yang akan diuji (mis., pendapatan, tingkat akuisisi pelanggan), tingkat signifikansi, dan ukuran sampel. Ini memastikan tim berpegang pada rencana awal dan tidak mengubah analisis setelah melihat hasil awal, sehingga menghindari praktik penggantian post-hoc dan cherry-picking hanya pada data yang menunjukkan hasil menguntungkan.
Praktik sains terbuka
Sains terbuka merujuk pada ketersediaan data, metode, dan analisis agar dapat ditinjau dan direplikasi oleh pihak lain. Dalam bisnis, walau istilah "sains terbuka" mungkin tidak digunakan langsung, praktik transparansi serupa penting untuk memastikan integritas analisis.
Misalnya, sebuah perusahaan yang melakukan analisis pasar dapat membagikan data mentah dan langkah analisisnya secara internal kepada tim lain, auditor, atau pemangku kepentingan terkait, atau mendokumentasikannya secara sistematis untuk replikasi di masa mendatang. Transparansi ini mengurangi p-hacking karena siapa pun dapat memeriksa ketidaksesuaian atau cacat metodologi. Di organisasi, keterbukaan tentang metode dan hasil menumbuhkan akuntabilitas dan membantu memastikan kesimpulan ditarik dari data yang kokoh dan dapat direproduksi.
Membenarkan pilihan dalam persiapan dan transformasi data
Langkah persiapan dan transformasi data selalu harus memiliki pembenaran yang jelas. Tanpa pembenaran yang jelas, menghapus outlier atau mentransformasikan variabel bisa digunakan untuk memanipulasi hasil dan menciptakan narasi palsu.
Sebagai contoh, saat menganalisis data pembelian pelanggan, seorang analis mungkin mengecualikan titik data tertentu (mis., outlier ekstrem) yang tampak tidak sesuai dengan model. Namun tanpa alasan yang valid—seperti mengidentifikasinya sebagai anomali sejati alih-alih bagian dari distribusi normal—ini bisa menjadi bentuk p-hacking. Untuk mencegahnya, setiap langkah persiapan data (seperti mengecualikan periode waktu tertentu atau menerapkan transformasi log) harus dijelaskan secara eksplisit dalam laporan analisis demi transparansi.
Menyatakan dan mempertimbangkan effect size
Di luar signifikansi statistik, penting untuk melaporkan dan menafsirkan effect size. Ini memastikan hasil bermakna secara praktis dan tidak sekadar memanfaatkan signifikansi statistik karena ukuran sampel besar.
Dalam bisnis, bayangkan A/B test di mana deskripsi produk baru meningkatkan tingkat konversi sebesar 0,5%, tetapi ukuran sampel cukup besar untuk membuat hasilnya signifikan secara statistik. Tanpa konteks, perubahan ini bisa disalahartikan bermakna. Namun, dengan berfokus pada effect size dan menilai apakah kenaikan 0,5% sepadan dengan biaya mengubah semua deskripsi produk, perusahaan dapat menghindari keputusan yang hanya didasarkan pada p-value.
Mengizinkan uji berulang, tetapi dengan metode koreksi
Kita mengatakan bahwa menjalankan uji yang sama (atau berbeda) pada data yang sama dapat menghasilkan hasil signifikan karena kebetulan, sehingga kita anggap sebagai p-hack. Namun, menjalankan uji yang sama pada data yang sama berkali-kali bisa menjadi langkah baik untuk mencegah dan mewaspadai p-hacking, jika—dan hanya jika—dikombinasikan dengan metode koreksi, yaitu teknik statistik yang menyesuaikan fakta bahwa ada banyak perbandingan. Dua metode koreksi paling umum adalah koreksi Bonferroni dan prosedur Benjamini–Hochberg (BH).
Bonferroni melibatkan penyesuaian ambang p-value (tingkat signifikansi) ke bawah dengan membaginya dengan jumlah uji yang dilakukan. Meski efektif mengurangi kemungkinan positif palsu, metode ini bisa terlalu konservatif, meningkatkan kemungkinan negatif palsu.
Sebaliknya, prosedur BH adalah salah satu teknik pengendalian False Discovery Rate (FDR) yang bertujuan menyeimbangkan kemungkinan dua jenis galat. Secara singkat, BH bekerja dengan terlebih dulu mengurutkan semua p-value dari yang terkecil hingga terbesar. Setiap p-value kemudian dibandingkan dengan ambang yang meningkat sesuai peringkatnya. P-value terbesar yang masih di bawah ambangnya diidentifikasi, dan semua p-value hingga titik ini dianggap signifikan.
Dalam konteks bisnis, jika perusahaan menguji beberapa versi halaman landas, menggoda untuk menjalankan banyak A/B test dan berhenti saat satu versi tampak berkinerja signifikan lebih baik. Untuk menghindarinya, analis dapat menerapkan koreksi untuk memperhitungkan banyaknya uji yang dijalankan. Dengan demikian, mereka memastikan temuan signifikan tidak sekadar hasil dari pengujian berulang.
Mempertimbangkan hasil tidak signifikan
Terakhir, penting untuk mengakui dan melaporkan hasil yang tidak signifikan alih-alih membuangnya. Ada seruan di komunitas sains untuk mengizinkan publikasi eksperimen dengan hasil tidak signifikan selama mengikuti metodologi pra-registrasi yang ketat, karena temuan “tidak ada temuan” pun tetap sebuah temuan! Kebijaksanaan serupa dapat diikuti dalam bisnis.
Misalnya, jika kampanye pemasaran tidak berdampak signifikan pada penjualan, perusahaan tetap harus melaporkan dan mempertimbangkan temuan ini. Ini memberikan informasi berharga dan mencegah pelaporan yang bias yang dapat mengarah pada keputusan bisnis yang tidak berdasar. Keterbukaan tentang hasil tidak signifikan berkontribusi pada analisis yang lebih jujur dan menghindarkan godaan memanipulasi data demi menampilkan keberhasilan.
Penutup
Dalam artikel ini, kita mengulas dunia p-hacking secara mendalam—di mana p-value rentan terhadap manipulasi. Kita meninjau berbagai p-hack, cara mendeteksinya, dan cara mencegahnya.
Seperti yang terlihat, dan seperti yang kami sebutkan, bagian besar dari kewaspadaan terhadap p-hacking adalah memiliki pengetahuan statistik yang kuat. Anda dapat meraihnya melalui berbagai kursus statistik kami, seperti kursus teoretis Introduction to Statistics, atau kursus praktis Introduction to Statistics in Google sheets, Introduction to Statistics in Python, dan Introduction to Statistics in R.