Etika AI: Sebuah Pengantar

Dalam konteks ini, satu bidang baru yang krusial kian mendapat perhatian: etika AI. Dalam artikel ini, kami akan memberikan gambaran umum tentang bidang ini dan memperkenalkan Anda pada konsep penting seperti bias, risiko keamanan dan privasi, misinformasi, penggantian pekerjaan, dan lainnya.

Jika etika AI adalah sesuatu yang ingin Anda dalami, pertimbangkan kursus tentang Etika AI ini.

Apa itu Etika AI

Etika mungkin tampak seperti konsep yang esoterik. Jadi, sebelum memahami “etika AI,” mari terlebih dahulu fokus pada apa yang dimaksud dengan etika.

Singkatnya, etika adalah subbidang filsafat yang memberi kita kerangka untuk memutuskan apa yang bermoral dan apa yang tidak. Meskipun terdengar abstrak, hal ini memiliki makna spesifik dalam ranah teknologi—etika AI adalah penerapan kerangka moral pada pengembangan dan penggunaan kecerdasan buatan.

Bayangkan algoritma persetujuan pinjaman yang bias atau sistem pengenalan wajah yang tidak transparan. Ini adalah contoh bagaimana AI, tanpa pertimbangan etis, dapat menghasilkan hasil yang tidak adil. Etika AI mengatasi kekhawatiran ini secara langsung dengan menetapkan seperangkat prinsip panduan untuk pengembangan AI yang bertanggung jawab.

Prinsip-prinsip ini bertujuan mendorong keadilan, akuntabilitas, transparansi, dan privasi sepanjang siklus hidup AI. Dengan memahami dan menerapkan etika AI, ilmuwan data dapat memastikan teknologi yang kuat ini bermanfaat bagi semua orang secara adil dan bertanggung jawab.

Mengapa Etika AI Penting?

Kapabilitas AI dibentuk oleh data yang digunakan untuk melatihnya. Data ini dapat mencakup informasi historis, kode, dan elemen lain yang mungkin mencerminkan bias atau prasangka sosial. Jika bias tersebut ada, AI dapat mereplikasi bahkan memperkuatnya dalam keluarannya.

Oleh karena itu, memprioritaskan pertimbangan etis sepanjang pengembangan AI sangatlah krusial. Mari pertimbangkan penggunaan AI dalam menganalisis data pasien. Dengan mengidentifikasi pola, AI dapat menghasilkan wawasan berharga yang membantu tenaga kesehatan. Ini dapat secara signifikan meningkatkan waktu telaah dan akurasi, menghasilkan diagnosis lebih cepat, rencana perawatan yang lebih efektif, dan pada akhirnya hasil pasien yang lebih baik dengan stres yang berkurang.

Walaupun AI menawarkan potensi besar untuk memecahkan masalah kompleks, pengembangan dan penggunaannya menimbulkan pertimbangan etis. Kekhawatiran ini secara umum dapat dikategorikan menjadi risiko jangka pendek dan jangka panjang. Kami akan mengulas lebih dalam masing-masing kategori pada bagian berikut.

Risiko Etis AI Jangka Pendek

Bias

Untuk memastikan model AI yang adil dan tidak bias, data pelatihan harus mewakili seluruh populasi yang akan menjadi sasaran model, dengan perhatian khusus untuk menyertakan kelompok minoritas. Jika data pelatihan gagal merefleksikan komunitas termarjinalkan secara akurat, sistem AI dapat menghasilkan keluaran yang bias, semakin memperlebar kesenjangan dalam hasilnya.

Dr. Joy Buolamwini, Artist-in-Chief dan Presiden The Algorithmic Justice League, mengalami salah satu insiden dari sistem pengenalan wajah yang bias saat ia menjalankan foto profilnya melalui demo daring: “Beberapa tidak mendeteksi wajah saya seperti topeng putih yang gagal. Dan yang lain yang memang mendeteksi wajah saya, mereka memberi label saya laki-laki padahal saya bukan. Saat itu saya berpikir, hmm, mungkin ada sesuatu yang perlu dieksplor di aspek gender dan melihat gender serta jenis kulit.” Jika Anda ingin mendengar lebih lanjut, pastikan untuk menyimak podcast Memperjuangkan Keadilan Algoritmik bersama Dr. Joy Buolamwini ini.

Dengan laju integrasi AI yang cepat ke dalam proses bisnis, terutama yang mendorong keputusan berimbas besar, bias yang tak terkendali semacam ini dapat secara keliru menolak layanan dan perawatan bagi mereka yang membutuhkan. Misalnya, salah satu sistem AI dilaporkan menolak klaim asuransi kesehatan untuk lansia.

Risiko keamanan & privasi data

Data pelatihan masukan yang bias hanyalah salah satu dari banyak tantangan data yang dihadapi sistem AI. Kekhawatiran kritis lainnya muncul ketika data pelatihan mencakup informasi sensitif seperti PII, rekam medis, atau detail keuangan. Pelanggaran dapat mengekspos data sensitif ini, berpotensi mengarah pada pencurian identitas, penipuan finansial, dan penggunaan jahat lainnya.

Selain itu, pelaku buruk dapat memicu serangan data masukan adversarial untuk memanipulasi respons dari sistem AI.

Misinformasi & disinformasi

Sementara isu data yang sudah lama ada seperti salah representasi dan privasi tetap berlangsung, kemunculan aplikasi AI generatif telah menghadirkan kekhawatiran baru, khususnya terkait misinformasi dan disinformasi.

Kebaruan AI generatif dalam menghasilkan keluaran mirip manusia mengejutkan semua orang. Namun, kemampuan menghasilkan teks yang tak tertandingi ini, ketika digunakan dengan niat jahat, dapat menyebarkan konten palsu dalam skala besar dan memperkuat misinformasi.

MIT Technology Review juga menggemakan kekhawatiran ini: “Kebebasan internet berada pada titik terendah sepanjang masa, dan kemajuan AI justru memperburuk krisis ini. Keterjangkauan dan aksesibilitas AI generatif menurunkan hambatan masuk bagi kampanye disinformasi.”

Risiko jangka panjang AI

Beralih dari risiko jangka pendek, mari melihat gambaran yang lebih besar dengan menilai implikasi jangka panjang AI.

Penggantian pekerjaan

Salah satu manfaat inti AI adalah menghadirkan efisiensi dengan meningkatkan proses melalui otomatisasi. Namun, realitas pahit dari otomatisasi tersebut menyebabkan hilangnya pekerjaan, terutama yang melibatkan pekerjaan berkeahlian rendah, berulang, atau rutin, seperti layanan pelanggan dan dukungan administratif.

Lebih buruk lagi, kelompok termarjinalkan atau rentan yang pekerjaannya berisiko sering kali tidak memiliki sumber daya dan akses terhadap peluang untuk meningkatkan atau mengalihkan keterampilan tepat waktu demi peran yang lebih baru. Meskipun kemajuan AI telah menciptakan pekerjaan baru, hasil akhirnya adalah penggantian pekerjaan yang signifikan yang didorong oleh manfaat otomatisasi AI.

Erosi privasi & otonomi manusia

Sistem pengenalan wajah dan audio bertenaga AI dapat menganalisis masukan dari perangkat pengawasan untuk mengidentifikasi dan melacak individu secara waktu nyata. Namun, pemantauan massal semacam itu sering kali dilakukan tanpa persetujuan, sehingga menimbulkan kekhawatiran atas erosi privasi.

Selain itu, algoritma prediksi untuk penegakan hukum, ketika digunakan untuk deteksi kejahatan, dapat mempertahankan dan memperkuat bias sosial yang ada berupa pengawasan berlebihan terhadap kelompok minoritas.

Sementara EU AI Act memberlakukan pembatasan penggunaan algoritma pengenalan wajah, praktik ini mungkin tidak berlaku di negara yang kurang demokratis, memunculkan kekhawatiran etis dan hak asasi manusia yang jauh lebih luas.

Ketidakselarasan AI & risiko eksistensial

Seiring sistem AI otonom berkembang pesat, perdebatan kritis menjadi perhatian para profesional industri, veteran AI, dan publik: apakah kita melaju menuju "superintelligence"?

Skenario hipotetis ini membayangkan AI melampaui kemampuan kognitif manusia dan berpotensi menimbulkan ancaman. Kekhawatiran utamanya terletak pada potensi ketidakselarasan antara tujuan AI dan nilai-nilai manusia.

Kemungkinan AI otonom membuat keputusan yang berpotensi berbahaya menimbulkan pertanyaan kritis: siapa yang mengendalikannya? Meskipun mencapai superintelligence dan kesadaran tampak seperti tujuan yang jauh, kemajuan seperti GPT-4 membuat sebagian futuris menganggapnya sebagai kemungkinan.

Geoffrey Hinton, ilmuwan komputer terkemuka, menekankan dalam wawancara terbaru kemampuan tak tertandingi dari model AI besar ini. Ia menyoroti pengetahuan luas yang dimiliki model-model ini, melampaui pengetahuan manusia mana pun, dan memperingatkan bahwa ini adalah “bentuk kecerdasan yang sama sekali berbeda.”

Berdasarkan lanskap perkembangan AI saat ini, ada kekhawatiran yang membayangi tentang penggunaan AI untuk tujuan jahat, seperti mengayunkan pemilu melalui manipulasi sosial, pengawasan massal, mengobarkan perang, dan lain-lain.

Di sisi lain, Andrew Ng, pendidik dan pengusaha AI, tidak sependapat dengan ketakutan bahwa AI akan meraih superintelligence dan membahayakan umat manusia. Ia menulis bahwa teknologi dan sistem yang ada sudah aman dan akan menjadi lebih aman seiring kemajuan lebih lanjut. Namun, ia mendorong perlunya menciptakan langkah-langkah keamanan AI tingkat lanjut untuk mengatasi potensi risiko yang tersisa, seperti penyalahgunaan AI generatif untuk membuat senjata biologis.

Siapa yang Harus Terlibat dalam Etika AI?

Risiko AI memerlukan perhatian mendesak dan membutuhkan langkah serta kontrol yang kuat untuk mencegahnya lepas kendali.

Mengingat kompleksitas dan sifat multidimensi dari risiko AI, jelas bahwa tidak ada satu entitas pun—baik individu, perusahaan, maupun pemerintah—yang dapat cukup jauh mengantisipasi dan mengatasi tantangan ini sendirian.

Diperlukan pembentukan dewan multi-pemangku kepentingan, dengan perwakilan dari pemerintah, riset dan akademisi, pakar industri, serta organisasi nirlaba. Dewan ini akan menetapkan norma dan pedoman untuk memastikan pengembangan, penerapan, dan pemanfaatan AI yang bertanggung jawab, membentuk masa depannya di mana hanya manfaat yang ditingkatkan, bukan risikonya.

Contoh Etika AI

Mengingat sifat etika yang abstrak, mari telaah kasus-kasus historis untuk memahami dampak mengabaikan etika dalam membangun model AI.

Insiden mengkhawatirkan tentang bias sosial terungkap ketika AI menghasilkan kode yang memprediksi senioritas berdasarkan ras dan gender, yang merugikan kelompok minoritas. Tangkapan layar di bawah mengilustrasikan bagaimana ChatGPT mengklasifikasikan perempuan kulit hitam sebagai junior, sementara laki-laki kulit hitam diklasifikasikan sebagai level menengah. Selain itu, model berasumsi perempuan kulit putih adalah level menengah (perhatikan peningkatan dari perempuan kulit hitam) dan laki-laki kulit putih adalah senior.

Terasa familiar? Tak heran dari mana model kemungkinan mempelajari bias ini.

Mari pertimbangkan kasus lain. Sebuah model AI memprediksi bahwa pasien kulit hitam lebih kecil kemungkinannya membutuhkan perawatan ekstra, menyatakan mereka lebih sehat daripada pasien kulit putih. Bias rasial semacam ini membuat lebih dari setengah pasien kulit hitam kehilangan perawatan yang diperlukan.

Mari pertimbangkan aplikasi AI berdampak tinggi lainnya: keadilan prediktif. Di sini, model AI telah digunakan untuk menilai risiko seorang terdakwa melakukan kejahatan di masa depan. Namun, model-model ini menimbulkan kekhawatiran tentang bias, dengan beberapa kasus memprediksi kemungkinan kambuhnya kejahatan lebih tinggi bagi terdakwa kulit hitam dibandingkan terdakwa kulit putih.

Ini hanyalah beberapa contoh di mana kelompok yang kurang terwakili dirugikan secara tidak adil akibat model yang bias.

Prinsip Etika AI

Seiring etika AI berkembang, banyak pedoman, alat, praktik terbaik, dan standar industri tersedia untuk memfasilitasi pengembangan yang bertanggung jawab. Beberapa prinsip inti yang umum di antara kerangka-kerangka ini mencakup fokus pada peningkatan transparansi dan keadilan.

Transparansi tidak hanya mencakup penjelasan bagaimana model mencapai suatu hasil, tetapi juga mewajibkan pengungkapan kepada pengguna akhir tentang sumber responsnya. Sangat penting untuk menandai respons yang dihasilkan AI agar pengguna dapat memahami sifatnya dan membuat keputusan yang tepat.

Sama pentingnya adalah mempromosikan keadilan, memastikan bahwa tidak ada bagian, kelompok, komunitas, usia, gender, atau demografi tertentu dalam masyarakat kita yang dirugikan secara tidak adil.

Masa Depan Etika AI

Secara empiris terlihat bahwa laju pengembangan teknologi canggih lebih cepat daripada laju pengaturannya. Pemerintah dan badan regulator sedang mengembangkan serta menerapkan kerangka regulasi, seperti AI Act, untuk mengatur penggunaan teknologi AI yang bertanggung jawab. Kerangka ini memprioritaskan transparansi, akuntabilitas, keadilan, dan keselamatan dalam sistem AI sekaligus melindungi privasi, keamanan, dan hak asasi manusia.

Namun, semua orang memiliki peran—baik konsumen maupun produsen sistem AI. Kita harus tetap mengikuti perkembangan terbaru dalam lanskap AI dan terus meningkatkan langkah pertahanan untuk mengurangi dampak dan risiko yang tak terelakkan datang bersama manfaat AI. Dengan secara proaktif memasukkan etika AI ke dalam proses perancangan, Anda dapat lebih siap menghadapi tantangan etis di masa depan secara langsung.

Kesimpulan

Kekuatan transformatif AI tak terbantahkan, tetapi pertimbangan etis harus sejalan. Bias dalam data pelatihan dapat menyebabkan hasil diskriminatif, sementara kurangnya transparansi dapat mengikis kepercayaan.

Etika AI mengatasi isu-isu ini dengan menetapkan prinsip untuk pengembangan yang bertanggung jawab, mendorong keadilan, akuntabilitas, transparansi, dan privasi.

Ilmuwan data yang memahami dan menerapkan prinsip-prinsip ini dapat memastikan AI bermanfaat bagi semua orang.

Jika Anda ingin mempelajari lebih lanjut tentang etika AI, pastikan untuk melihat sumber daya berikut:

• Kursus Strategi Kecerdasan Buatan (AI)
• Membangun AI yang Tepercaya bersama Beena Ammanath, Global Head Deloitte AI Institute
• Memahami Etika AI Generatif: Risiko, Kekhawatiran, dan Praktik Terbaik