Apa Itu AI yang Bertanggung Jawab? Sebuah Pendekatan Komparatif

Apa Itu AI yang Bertanggung Jawab?

Kita belum memiliki definisi bersama secara universal tentang “AI yang Bertanggung Jawab.” Dalam beberapa konteks, ini disebut sebagai AI yang tepercaya, etis, aman, atau selamat. Dalam konteks lain, istilah-istilah ini hanyalah prinsip yang termasuk dalam gagasan RAI yang lebih luas atau dianggap sebagai kategori yang berbeda sama sekali.

Fokus yang meningkat pada AI yang bertanggung jawab, etis, tepercaya, aman, dan selamat berasal dari kekhawatiran luas atas potensi dampak negatifnya, baik yang disengaja maupun tidak disengaja.

Institute of Electrical and Electronics Engineers (IEEE) mengaitkan kekhawatiran ini dengan pengecualian tradisional analisis etika dari praktik rekayasa, di mana standar etika dasar terkait keselamatan, keamanan, fungsionalitas, keadilan, bias, adiksi, dan dampak sosial tidak langsung sering dianggap di luar cakupan.

Namun, mengingat skalabilitas dan dampak luas AI di setiap aspek masyarakat dan kehidupan sehari-hari, sangat penting untuk mengantisipasi dan mengurangi risiko etika sebagai praktik standar. Pendekatan saat ini yang melepaskan teknologi ke dunia tanpa pengawasan yang memadai, lalu membiarkan pihak lain menanggung konsekuensinya, tidak lagi dapat diterima.

Namun demikian, beralih dari teori dan prinsip etika ke praktik yang kontekstual dan dapat ditindaklanjuti tetap menjadi hambatan signifikan bagi adopsi luas analisis dampak etika yang sistematis dalam rekayasa perangkat lunak.

Prinsip AI yang Bertanggung Jawab

Jika kita meninjau literatur, terlihat cukup banyak perkembangan prinsip-prinsip RAI yang dibahas. Mari kita ulas secara singkat.

Kerangka etika

AI yang bertanggung jawab menekankan penggunaan kerangka etika untuk memastikan akuntabilitas, tanggung jawab, dan transparansi dalam sistem AI. Ini mencakup isu seperti privasi, otonomi, dan bias.

Transparansi dan keterjelasan

Transparansi dalam algoritme AI dan proses pengambilan keputusan sangat penting untuk membangun kepercayaan di antara para pemangku kepentingan. Explainable AI (XAI) bertujuan menciptakan model yang dapat ditafsirkan dan dipahami, sehingga mendorong transparansi dan kepercayaan.

Bias dan keadilan

AI yang bertanggung jawab berupaya mengidentifikasi dan mengoreksi bias dalam algoritme AI untuk mendorong keputusan yang adil. Ini mencakup penggunaan set data yang beragam dan inklusif untuk mencegah hasil yang diskriminatif.

Untuk mempelajari lebih lanjut tentang bias dalam AI, simak podcast Fighting for Algorithmic Justice with Dr. Joy Buolamwini ini.

Tata kelola dan regulasi

Pengembangan standar dan kerangka untuk tata kelola AI sangat penting untuk memandu penggunaan AI yang bertanggung jawab. Ini mencakup pembentukan pendekatan terstruktur untuk mengurangi risiko di berbagai tingkat, mulai dari peneliti individu hingga regulasi pemerintah.

Dampak sosial dan lingkungan

AI yang bertanggung jawab mempertimbangkan dampak sosial ekonomi dan lingkungan yang lebih luas dari AI, seperti dampaknya pada pekerjaan, ketimpangan, dan konsumsi sumber daya serta potensi menimbulkan pasar digital yang tidak adil atau kerusakan lingkungan karena penggunaan sumber daya.

Keadilan, keamanan, dan privasi

Upaya Komisi Eropa untuk meregulasi AI menyoroti pentingnya keadilan, keamanan, privasi, keterjelasan, keselamatan, dan reprodusibilitas sebagai komponen AI yang bertanggung jawab.

Tanggung jawab moral dan hukum

Diskusi tentang AI yang bertanggung jawab sering kali melibatkan tanggung jawab moral, yang mencakup kondisi kausal dan epistemik. Artinya, tindakan AI harus menyebabkan keluaran tertentu, dan para pelakunya harus menyadari konsekuensi moralnya. Kerangka hukum juga mengeksplorasi akuntabilitas, tanggung gugat, dan keberdosaan atas sistem AI.

Keterlibatan pemangku kepentingan

Kerangka AI yang bertanggung jawab sering kali menuntut akuntabilitas semua pemangku kepentingan, termasuk pengembang, pengguna, dan berpotensi sistem AI itu sendiri.

Taksonomi Alternatif Prinsip RAI di Akademisi

Di kalangan akademisi, beberapa tinjauan sistematis paling berpengaruh tentang prinsip etika AI menghasilkan taksonomi yang agak berbeda. Misalnya, Jobin dkk. meninjau 84 pedoman etika dan mengusulkan 11 prinsip:

• Transparansi
• Keadilan
• Nonmaleficence (tidak merugikan)
• Tanggung jawab
• Privasi
• Beneficence (memberi manfaat)
• Kebebasan dan otonomi
• Kepercayaan
• Martabat
• Keberlanjutan
• Solidaritas

Secara alami, mereka menemukan perbedaan luas dalam bagaimana prinsip-prinsip ini ditafsirkan dan bagaimana rekomendasi menyarankan penerapannya. Namun, mereka mencatat beberapa bukti konvergensi di sekitar lima prinsip inti:

• Transparansi
• Keadilan
• Nonmaleficence (tidak merugikan)
• Tanggung jawab
• Privasi

Namun, pendapat lain menyarankan bahwa banyaknya kerangka etika AI dapat dikonsolidasikan menjadi hanya lima meta-prinsip:

• Menghormati otonomi
• Beneficence (memberi manfaat)
• Nonmaleficence (tidak merugikan)
• Keadilan
• Keterjelasan (explicability)

Prinsip AI yang Bertanggung Jawab versi OECD

Organisasi internasional juga aktif mendorong diskusi global tentang bagaimana definisi ini dibentuk, untuk tujuan kebijakan dan harmonisasi.

Organisation for Economic Co-operation and Development (OECD)—tempat saya menjadi Pakar AI untuk Risiko dan Akuntabilitas, serta Pemantauan Insiden—telah mengajukan daftar komprehensif prinsip untuk AI yang tepercaya.

Prinsip-prinsip ini mendorong penggunaan AI yang inovatif, tepercaya, dan menghormati hak asasi manusia serta nilai-nilai demokratis. Awalnya diadopsi pada 2019, prinsip-prinsip ini diperbarui pada Mei 2024 agar tetap kuat dan sesuai tujuan, seiring perkembangan teknologi dan kebijakan baru.

Saat ini, Uni Eropa, Dewan Eropa, Amerika Serikat, Perserikatan Bangsa-Bangsa, dan yurisdiksi lain menggunakan definisi sistem AI dan siklus hidup dari OECD di bawah ini dalam kerangka legislatif, regulasi, dan panduan mereka.

Singkatnya, semua ini adalah prinsip berbasis nilai dan dikelompokkan dalam kategori berikut:

Pertumbuhan inklusif, pembangunan berkelanjutan, dan kesejahteraan

Para pemangku kepentingan AI harus secara proaktif terlibat dalam pengelolaan yang bertanggung jawab atas AI tepercaya demi hasil yang bermanfaat bagi manusia dan planet ini, seperti memperkuat kemampuan manusia dan meningkatkan kreativitas, memajukan inklusi kelompok yang kurang terwakili, mengurangi ketimpangan ekonomi, sosial, gender, dan ketimpangan lainnya, serta melindungi lingkungan alam, sehingga mendorong pertumbuhan inklusif, kesejahteraan, pembangunan berkelanjutan, dan keberlanjutan lingkungan.

Hak asasi manusia dan nilai-nilai demokratis, termasuk keadilan dan privasi

Pelaku AI harus menghormati aturan hukum, hak asasi manusia, dan nilai-nilai demokratis yang berpusat pada manusia sepanjang siklus hidup sistem AI. Ini mencakup non-diskriminasi dan kesetaraan, kebebasan, martabat, otonomi individu, privasi dan perlindungan data, keberagaman, keadilan, keadilan sosial, dan hak-hak buruh yang diakui secara internasional.

Transparansi dan keterjelasan

Pelaku AI harus berkomitmen pada transparansi dan pengungkapan yang bertanggung jawab terkait sistem mereka. Untuk itu, mereka harus menyediakan informasi yang bermakna, sesuai konteks, dan selaras dengan teknologi mutakhir, guna mendorong pemahaman umum tentang sistem AI, termasuk kemampuan dan keterbatasannya.

Ketangguhan, keamanan, dan keselamatan

Sistem AI harus tangguh, aman, dan selamat sepanjang siklus hidupnya sehingga, dalam kondisi penggunaan normal, penggunaan atau penyalahgunaan yang dapat diperkirakan, atau kondisi buruk lainnya, sistem berfungsi dengan tepat dan tidak menimbulkan risiko keselamatan dan/atau keamanan yang tidak wajar.

Akuntabilitas

Pelaku AI harus bertanggung jawab atas berfungsinya sistem AI dengan semestinya dan atas penegakan prinsip-prinsip di atas, berdasarkan peran mereka, konteks, dan selaras dengan teknologi mutakhir. Untuk itu, pelaku AI harus memastikan keterlusuran, termasuk terkait dataset, proses, dan keputusan yang dibuat sepanjang siklus hidup sistem AI. Keterlusuran ini harus memungkinkan analisis keluaran sistem AI dan respons terhadap permintaan informasi, sesuai konteks dan selaras dengan teknologi mutakhir.

Prinsip AI yang Bertanggung Jawab versi ISO 

Di sisi lain, bagi International Standards Organization (ISO), ada tiga area kunci yang perlu dipertimbangkan agar suatu sistem AI tepercaya:

1. Memberinya data yang baik dan beragam
2. Memastikan algoritme dapat menangani keberagaman tersebut
3. Serta menguji perangkat lunak yang dihasilkan untuk setiap salah pelabelan atau korelasi yang lemah

Organisasi ini memberikan pedoman berikut untuk mewujudkannya:

1. Rancang untuk manusia dengan menggunakan beragam pengguna dan skenario kasus penggunaan, serta masukkan umpan balik ini sebelum dan sepanjang siklus hidup AI.
2. Gunakan banyak metrik untuk mengevaluasi pelatihan dan pemantauan, termasuk survei pengguna, indikator kinerja sistem secara keseluruhan, serta tingkat positif dan negatif palsu yang diiris lintas berbagai subkelompok.
3. Teliti data mentah untuk kesalahan (misalnya nilai hilang atau tidak selaras, label salah, pengambilan sampel), bias pelatihan (misalnya metode pengumpulan data atau bias sosial yang melekat), dan redundansi—semuanya krusial untuk memastikan prinsip RAI tentang keadilan, kesetaraan, dan akurasi dalam sistem AI.
4. Pahami keterbatasan setiap model untuk mengurangi bias, meningkatkan generalisasi, memastikan kinerja andal dalam skenario kinetik, dan komunikasikan hal ini kepada pengembang dan pengguna.
5. Uji model Anda secara berkelanjutan terhadap prinsip AI yang bertanggung jawab untuk memastikan model mempertimbangkan kinerja dunia nyata dan umpan balik pengguna, demi memperbaiki solusi jangka pendek dan jangka panjang atas permasalahan.

Pandangan Pemimpin Industri tentang AI yang Bertanggung Jawab

Terkait contoh konkret dari para pemimpin industri, kita dapat mengamati perbedaan mencolok dalam nomenklatur dan taksonomi, dengan beragam pemahaman tentang konsep RAI, AI tepercaya, AI etis, dan berbagai interpretasi lain yang diciptakan untuk operasi atau aplikasi mereka.

Microsoft

Microsoft, misalnya, berpegang pada Prinsip AI yang Bertanggung Jawab berikut:

• Keadilan
• Keandalan dan keselamatan
• Privasi dan keamanan
• Inklusivitas
• Transparansi dan akuntabilitas

Apple

Di sisi lain, Apple menyatakan bahwa AI mereka dirancang dengan nilai-nilai inti mereka dan dibangun di atas fondasi inovasi privasi terobosan, serta telah membuat seperangkat prinsip AI yang Bertanggung Jawab untuk memandu bagaimana mereka mengembangkan alat AI, juga model yang mendasarinya:

• Memberdayakan pengguna dengan alat cerdas: Mengidentifikasi area di mana AI dapat digunakan secara bertanggung jawab untuk menciptakan alat yang menjawab kebutuhan spesifik pengguna, dengan menghormati cara pengguna memilih menggunakan alat ini guna mencapai tujuan mereka.
• Mewakili pengguna: Membangun produk yang sangat personal dengan tujuan mewakili pengguna di seluruh dunia secara autentik untuk menghindari pelestarian stereotip dan bias sistemik di berbagai alat dan model AI.
• Merancang dengan penuh kehati-hatian: Mengambil langkah pencegahan di setiap tahap proses kami, termasuk desain, pelatihan model, pengembangan fitur, dan evaluasi kualitas untuk mengidentifikasi bagaimana alat AI kami dapat disalahgunakan atau menimbulkan potensi bahaya.
• Melindungi privasi: Mewujudkannya melalui pemrosesan on-device yang kuat dan infrastruktur terobosan, memastikan bahwa mereka tidak menggunakan data pribadi privat pengguna kami atau interaksi pengguna saat melatih model fondasi mereka.

Nvidia

Nvidia menyebutnya AI tepercaya, dan mereka percaya AI harus menghormati regulasi privasi dan perlindungan data, beroperasi secara aman dan selamat, berfungsi secara transparan dan akuntabel, menghindari bias dan diskriminasi yang tidak diinginkan, serta menandai empat prinsip inti mereka:

• Privasi
• Keselamatan dan Keamanan
• Transparansi 
• Non-diskriminasi

Google

Dengan sudut pandang yang agak berbeda, Google berbicara tentang “Tujuan untuk Aplikasi AI” sebagai berikut:

• Bermanfaat secara sosial.
• Menghindari menciptakan atau memperkuat bias yang tidak adil.
• Dibangun dan diuji untuk keselamatan.
• Akuntabel kepada manusia.
• Mengintegrasikan prinsip desain privasi.
• Menjunjung tinggi standar keunggulan ilmiah yang tinggi.
• Tersedia untuk digunakan sesuai dengan prinsip-prinsip ini guna membatasi aplikasi yang berpotensi merugikan atau abusif.

Kesimpulan

Belum ada konsensus tentang apa yang tepatnya membentuk AI yang bertanggung jawab, AI tepercaya, AI etis, AI yang aman, dan AI yang selamat, atau apakah ini adalah terminologi yang berdiri sendiri atau dapat dikonvergensikan. Namun, menggembirakan melihat bahwa elemen-elemen dari istilah-istilah ini bersifat umum dan berbagi—setidaknya secara teori—di sekitar prinsip inti yang sama di kalangan akademisi, organisasi internasional, dan industri.

Secara umum, kita dapat mengatakan bahwa RAI adalah disiplin yang sedang berkembang yang bertujuan memastikan bahwa pengembangan, penerapan, dan penggunaan kecerdasan buatan dilakukan dengan berpusat pada manusia dan selaras dengan hak asasi manusia yang mendasar dalam praktiknya, baik secara etis maupun legal.