Alasan untuk AI yang Bertanggung Jawab

Dalam beberapa tahun terakhir, AI mengalami pertumbuhan signifikan dalam pemanfaatan dan efektivitas di organisasi. Penerapannya mencakup mulai dari analitik prediktif untuk operasi bisnis yang lebih efisien dan akurat, visi komputer untuk interaksi langsung dengan dunia, hingga pemrosesan bahasa alami (NLP) untuk interaksi yang lebih efektif dengan teknologi melalui bahasa. Accenture melaporkan bahwa 84% eksekutif yang disurvei percaya mereka perlu memanfaatkan AI untuk mencapai tujuan pertumbuhan mereka.

Dengan pertumbuhan cepat pada teknologi yang relatif baru dan terus matang ini, muncul banyak tanggung jawab dan kekhawatiran etis. Capgemini menemukan bahwa 70% pelanggan mengharapkan transparansi dan keadilan dalam interaksi mereka dengan AI. Selain itu, regulator mulai memperketat regulasi terkait transparansi dan keadilan AI. Uni Eropa baru-baru ini merilis serangkaian regulasi AI yang bertujuan meminimalkan dampak berbahaya dari sistem AI, dan FTC mengumumkan rencana untuk menindak perusahaan yang menjual algoritma bias (MIT Tech Review).

Peningkatan kekhawatiran etis ini beralasan dan didorong oleh kasus penggunaan AI yang kian melibatkan konteks sangat sensitif seperti layanan kesehatan, sistem peradilan, dan keuangan. Tanpa penyetelan yang tepat dan pemahaman risiko etis yang potensial, AI dapat mereproduksi dan memperbesar bias serta diskriminasi historis. Misalnya, ProPublica menyelidiki algoritma COMPAS yang digunakan untuk membantu penjatuhan vonis bagi pelaku kejahatan dengan memprediksi kemungkinan seseorang mengulangi pelanggaran. Mereka menemukan bahwa terdakwa kulit hitam secara signifikan lebih mungkin menerima rekomendasi positif palsu yang menyarankan mereka akan mengulangi pelanggaran padahal tidak, sementara terdakwa kulit putih lebih mungkin menerima rekomendasi negatif palsu yang menyarankan mereka tidak akan mengulangi pelanggaran.

Demikian pula, model transformer NLP GPT-3 dari OpenAI dengan 175 miliar parameter menunjukkan bias signifikan dalam menghasilkan kalimat yang mencakup agama. Model tersebut juga menunjukkan bias terhadap kelompok lain, termasuk gender dan ras yang dibahas dalam makalah asli.

Seiring AI menjadi semakin merata, memastikan penggunaan AI yang bertanggung jawab menjadi krusial. Jika kita hendak mempercayai sistem ini untuk menginformasikan keputusan penting dan sensitif, sistem tersebut tidak boleh bias atau memuat stereotip historis.

Apa itu Bias Algoritmik?

Bias algoritmik cukup sering muncul di berita, seperti terlihat pada bias gender dalam keputusan perekrutan yang menguntungkan pria, iklan online yang mereproduksi redlining pada peta (diskriminasi perumahan), dan algoritma layanan kesehatan yang memuat bias rasial. Semua contoh ini jelas menunjukkan satu kelompok diperlakukan berbeda oleh model dibanding kelompok lain.

Banyak metrik ada untuk mendefinisikan bias algoritmik secara formal. Definisi dasarnya adalah algoritma memperlakukan kelompok dalam data secara berbeda. Kelompok yang menjadi perhatian, seperti ras, gender, agama, serta status kehamilan atau veteran disebut karakteristik yang dilindungi atau sensitif. Saat menganalisis sebuah algoritma, perlu dipahami kelompok mana yang berpotensi paling rentan terhadap dampak berbahaya dari model.

Ada dua kategori metrik untuk menentukan bias dan keadilan suatu algoritma: keadilan berdasarkan representasi dan keadilan berdasarkan kesalahan.

Keadilan Berdasarkan Representasi

Metrik ini mengevaluasi hasil model untuk kelompok yang berbeda. Misalnya, metrik ini dapat melihat proporsi pria yang mendapat panggilan balik wawancara dibanding wanita untuk sebuah algoritma perekrutan.

Keadilan Berdasarkan Kesalahan

Metrik keadilan berdasarkan kesalahan mengamati perbedaan proporsi tingkat kesalahan yang dibuat untuk setiap kelompok. Misalnya, pada bias algoritma COMPAS yang dijelaskan di atas, tingkat positif palsu untuk terdakwa kulit hitam secara signifikan lebih tinggi daripada kelompok lain, dan tingkat negatif palsu untuk terdakwa kulit putih secara signifikan lebih rendah.

Penyebab Bias Algoritmik

Bias dalam sebuah algoritma disebabkan oleh data yang mendasarinya. Model sederhana seperti regresi linear maupun model transformer yang lebih kompleks tidak bias dengan sendirinya; mereka menghasilkan keluaran berdasarkan data yang diberikan. Di bawah ini lima penyebab bias dalam data.

1. Dataset tidak seimbang: Dataset mungkin memiliki proporsi data yang berbeda untuk tiap kelompok atau contoh pelatihan untuk tiap kelompok yang dapat menyebabkan keluaran model menjadi bias.
2. Contoh tercemar: Data mungkin memiliki label yang tidak andal atau terdapat bias historis dalam data.
3. Fitur terbatas: Fitur yang dikumpulkan mungkin tidak andal atau tidak informatif bagi kelompok tertentu karena praktik pengumpulan data yang buruk.
4. Ukuran sampel: Algoritma AI kesulitan berkinerja baik dengan dataset yang lebih kecil.
5. Fitur proksi: Beberapa fitur dapat membocorkan informasi tentang variabel yang dilindungi, meskipun variabel yang dilindungi tidak disertakan dalam data. Riset menunjukkan bahwa variabel seperti kode pos, aktivitas olahraga, dan universitas tempat seseorang menempuh pendidikan dapat secara tidak langsung memberi tahu model tentang variabel yang dilindungi yang dapat menyebabkan bias algoritmik.

Teknik mitigasi apa yang dapat digunakan?

Kini kita memiliki pemahaman formal yang baik tentang apa itu bias algoritmik dan apa penyebabnya. Ada dua jalur potensial untuk memitigasi bias algoritmik: teknik teknis dan tata kelola AI. Kemungkinan besar kombinasi keduanya akan memberikan hasil terbaik dalam mengurangi keberadaan bias dalam sebuah algoritma.

Teknik Mitigasi Teknis

Dalam teknik teknis, ada tiga pendekatan: teknik pra-pemrosesan yang mengurangi bias dalam data asli sebelum pelatihan, metode in-processing yang memitigasi bias selama pelatihan model, dan algoritma pascapemrosesan yang mengurangi bias dengan memodifikasi prediksi.

Makalah ini menjelaskan empat teknik pra-pemrosesan umum yang digunakan dalam literatur pada bagian pendahuluan:

• Suppression: menghapus variabel yang paling berkorelasi dengan variabel sensitif
• Massaging: Melabeli ulang beberapa observasi dalam data secara efisien menggunakan pemeringkat untuk menghapus diskriminasi dalam data masukan
• Reweighting: Memberi bobot pada tiap tuple dalam data pelatihan untuk menghapus diskriminasi
• Sampling: Mengambil sampel dari tiap kelompok untuk mendapatkan representasi yang lebih seimbang dari tiap kelompok menggunakan sampling seragam atau sampling preferensial dengan menggandakan atau melewati observasi.

Teknik lain seperti formulasi probabilistik dalam makalah ini dan makalah ini, yang menjelaskan dua “prosedur perbaikan,” juga menyediakan metode yang baik untuk menghapus bias pada tahap pra-pemrosesan.

Teknik in-processing berfokus pada penghapusan bias selama pelatihan. Teknik ini biasanya mencakup kendala keadilan yang memengaruhi masalah optimisasi dan menghasilkan hasil yang lebih adil. Contoh yang membahas metode in-process termasuk yang menyoroti kendala keadilan dan yang membahas klasifikasi yang sadar keadilan.

Terakhir, algoritma pascapemrosesan memodifikasi keluaran model untuk mengurangi bias. Algoritma ini dapat mengubah prediksi untuk kelompok istimewa atau tidak istimewa sebagaimana ditunjukkan oleh Pleiss et al. dan Hardt et al. atau mengurangi bias ketika keluaran algoritma berada dekat batas keputusan (saat ketidakpastian hasil lebih tinggi) seperti terlihat dalam makalah tentang teori keputusan ini.

Untuk teknik apa pun, penting untuk mendiskusikan dengan semua pemangku kepentingan yang terlibat mengenai trade-off pada akurasi dan risiko yang diambil akibat mengubah data dasar atau hasil model. Teknik-teknik ini dapat mengarah pada prediksi hasil yang belum pernah terlihat secara historis atau tidak tampak dalam data.

Tata Kelola dan Akuntabilitas

Ada banyak manfaat menggunakan AI di organisasi. Namun, seperti terlihat di seluruh artikel ini, risiko etis yang ditimbulkan oleh sistem AI berujung pada risiko organisasi seperti kerusakan reputasi, yang pada akhirnya menyebabkan hilangnya pendapatan. Tidak ada perusahaan yang ingin menjadi tajuk berita karena menggunakan algoritma bias untuk membuat keputusan bisnis yang berdampak negatif pada sekelompok pelanggan atau karyawan.

Tata kelola AI yang tepat dilakukan melalui manajemen risiko yang komprehensif. Kasus penggunaan spesifik dari keputusan AI dan penilaian dampak terkait untuk setiap pemangku kepentingan perlu diidentifikasi. Memahami potensi risiko moneter dan manusia yang terkait dengan kasus penggunaan tersebut adalah hal penting. Setelah besaran tiap risiko dinilai secara akurat untuk setiap pemangku kepentingan, kemungkinan terjadinya konsekuensi ini harus dihitung.

Praktik terbaik tata kelola AI mencakup daftar periksa komprehensif bagi pemangku kepentingan, pengujian otomatis dan manual, pengujian kepatuhan terhadap standar bisnis, laporan terperinci, serta pernyataan dari individu dan kelompok yang bertanggung jawab langsung atas model. Untuk detail lebih lanjut pastikan mengunduh white paper kami.

AI yang Bertanggung Jawab Bergantung pada Literasi Data

Menskalakan AI yang bertanggung jawab di organisasi memerlukan pengembangan literasi data di dalam organisasi. Tata kelola AI yang sukses mencakup banyak pemangku kepentingan yang terlibat dan mengadopsi kerangka kerja tunggal. Memahami cakupan proyek, bagaimana proyek tersebut diterapkan dan dikelola, serta dampak dan potensi risikonya adalah prasyarat AI yang bertanggung jawab bagi semua pemangku kepentingan yang terlibat. Accenture berpendapat bahwa literasi data membangun kepercayaan dan memungkinkan AI yang bertanggung jawab dengan memasukkan beragam perspektif yang menghasilkan hasil yang konsisten lebih baik.

Dengan meningkatkan literasi data dasar di sebuah organisasi, pakar domain yang tidak berinteraksi secara rutin dengan sistem AI dapat memasukkan keahliannya ke dalam sistem tersebut dan berkomunikasi lebih efektif dengan pemangku kepentingan teknis. Komunikasi yang lebih baik ini menumbuhkan kepercayaan di seluruh organisasi bagi semua pemangku kepentingan yang terlibat.

Aspek penting dari literasi data untuk mendorong AI yang bertanggung jawab di organisasi mencakup pemahaman tentang area berikut: alur kerja data science dan machine learning, peran data yang berbeda, aliran data melalui organisasi, perbedaan antara berbagai jenis sistem AI, dan metrik evaluasi untuk model machine learning.

Tingkatkan Literasi Data Dasar untuk Menskalakan AI yang Bertanggung Jawab

Melatih semua pemangku kepentingan di sebuah organisasi diperlukan untuk memajukan AI yang bertanggung jawab. Menghindari risiko terkait dengan bias algoritmik diperlukan agar organisasi dapat berhasil memanfaatkan banyak manfaat penggunaan AI dalam konteks bisnis. Literasi data adalah kunci komunikasi yang sukses antar pemangku kepentingan, kepercayaan di dalam organisasi, dan eksplorasi solusi beragam untuk AI yang bertanggung jawab. UE mengalokasikan €1,1 triliun untuk Agenda Keterampilan mereka, dengan penekanan besar pada keterampilan AI dan literasi data bagi regulator, yang menunjukkan pentingnya alat ini di organisasi. Banyak program mengajarkan dasar-dasar literasi data. Untuk detail lebih lanjut tentang bagaimana literasi data dapat mendorong AI yang bertanggung jawab — lihat white paper terbaru kami.