Kursus
Memahami Machine Learning
2 jam
313.8K
Selamat datang di entri terakhir dari seri data dijelaskan selama sebulan. Sebagai bagian dari Bulan Literasi Data, seri ini menjelaskan konsep-konsep kunci dari dunia data dan mencoba menjawab pertanyaan-pertanyaan yang mungkin Anda enggan untuk tanyakan. Jika Anda ingin mulai dari awal, baca entri pertama kami dalam seri ini: Apa itu Dataset?
Pada entri ini, kami akan melanjutkan tema dari entri sebelumnya dalam seri data dijelaskan, dan membahas dampak potensial yang berbahaya dari AI, bagaimana AI dapat memperpetuasi bias terhadap kelompok masyarakat tertentu, serta berbagai jenis bias AI yang perlu diketahui semua orang.
Masalah dengan Bias AI
Kebanyakan sistem AI saat ini memanfaatkan machine learning. Machine learning, menurut definisi, menerapkan teknik statistik tingkat lanjut untuk mempelajari pola dari data masa lalu dan membuat prediksi untuk kejadian di masa depan.
Adopsi machine learning secara luas telah menyebabkan peningkatan tajam pada kasus-kasus di mana ia membuat prediksi yang bias. Algoritme AI yang bias telah menjadi perhatian serius di komunitas AI dan merupakan produk dari data yang digunakan untuk pelatihan model. Bias dapat muncul dalam berbagai bentuk—bisa bersifat sosial atau struktural dan dapat muncul terhadap gender, warna kulit, agama, atau kebangsaan tertentu.
Akibatnya, algoritme AI mempelajari bias dari data pelatihan saat mencoba meniru penilaian manusia. Mari kita tinjau kembali beberapa contoh dari masa lalu di mana prediksi AI yang bias berdampak negatif pada masyarakat dan kemanusiaan secara keseluruhan:
Bias Gender: Mesin Rekrutmen Amazon
Amazon mengembangkan mesin rekrutmen untuk mengotomatisasi penyaringan resume pelamar kerja guna proses wawancara lanjutan. Namun, algoritmenya mencerminkan bias yang dipelajarinya dari data masa lalu dan berakhir dengan memilih profil kandidat laki-laki saja.
Bias Rasial: Algoritme PredPol
PredPol, atau Predictive Policing, membuat peta panas area dengan aktivitas kriminal tinggi dan mengidentifikasi lokasi spesifik minoritas sebagai zona panas. Algoritme ini dilatih pada data masukan yang bias yang terdiri dari sejumlah insiden kriminal yang dilaporkan dari area-area tersebut.
Bias Rasial: Algoritme COMPAS
Perangkat lunak Correctional Offender Management Profiling for Alternative Sanctions (COMPAS) digunakan untuk menilai kemungkinan seorang pelaku melakukan pelanggaran ulang. Namun, algoritmenya terbukti bias sebagai bagian dari sebuah investigasi pada 2016. Perangkat lunak ini memberi label bahwa pelaku kulit hitam lebih mungkin mengulangi pelanggaran dibandingkan pelaku kulit putih.
Seperti terlihat dari contoh di atas, algoritme machine learning mempelajari bias dari data pelatihan selain keteraturan data lainnya. Kecuali ditangani dari sumbernya, bias dapat muncul dalam berbagai bentuk di alur kerja AI/ML. Seiring AI semakin meluas di organisasi dan masyarakat, semua orang perlu mengetahui berbagai jenis bias dalam sistem AI. Berikut tiga jenis bias yang paling umum dalam AI.
Tiga Jenis Bias AI yang Umum
Prejudice bias
Ketika data pelatihan mencerminkan prasangka, stereotip, dan asumsi sosial yang sudah ada, bias ini akan tertanam dalam model yang dipelajari; bias semacam ini disebut Prejudice bias. Misalnya, ketika Anda mencari “dokter,” hasil pencarian berisi banyak gambar dokter laki-laki. Sebaliknya, pencarian serupa untuk “perawat” menghasilkan gambar perawat perempuan. Hal ini sangat mencerminkan stereotip gender dalam masyarakat.
Bias Seleksi Sampel
Bias seleksi sampel terjadi ketika data pelatihan tidak mewakili populasi yang diteliti. Contohnya adalah sistem AI yang dilatih untuk mendeteksi kanker kulit. Jika dataset awal tidak mewakili populasi yang lebih luas, sistem ini akan berkinerja kurang baik bagi anggota kelompok yang kurang terwakili dalam dataset.
Bias Pengukuran
Bias pengukuran berasal dari kesalahan dalam proses pengumpulan atau pengukuran data. Misalnya, jika gambar dari kamera yang digunakan untuk memasok data ke sistem pengenalan gambar berkualitas buruk, hal ini dapat menyebabkan hasil yang bias terhadap populasi tertentu. Contoh lain dapat berasal dari penilaian manusia. Misalnya, algoritme diagnostik medis dapat dilatih untuk memprediksi kemungkinan sakit berdasarkan metrik proksi seperti kunjungan ke dokter alih-alih gejala sebenarnya.
Mengembangkan Literasi Data untuk AI yang Bertanggung Jawab
Sepanjang bulan ini, kami menyoroti pentingnya literasi data bagi individu dan organisasi. Literasi data memungkinkan pemangku kepentingan nonteknis untuk berdiskusi dengan para ahli data dan AI serta memahami keterbatasan sistem AI. Lebih penting lagi, literasi data mendorong percakapan dua arah antara pakar bidang dan pakar AI yang memungkinkan diskusi matang tentang potensi dampak berbahaya dari sebuah sistem AI.
Untuk membekali diri dengan pengetahuan yang diperlukan guna melakukan percakapan tersebut, ikuti kursus Understanding Machine Learning kami dan mulai perjalanan literasi data Anda. Untuk konten literasi data dan data dijelaskan lainnya, lihat sumber daya berikut:
Topik
