Tata Kelola AI: Kerangka, Alat, Praktik Terbaik

Apa Itu Tata Kelola AI?

Tata kelola AI merujuk pada langkah-langkah dan metode sistematis yang dirancang untuk membimbing dan mengawasi pengembangan serta aplikasi AI. Ini memastikan bahwa AI selaras dengan prinsip etika dan nilai-nilai masyarakat. Ini mencakup undang-undang, regulasi, atau pedoman apa pun yang mengarahkan baik para pembuat maupun pengguna AI.

Untuk mencapai tujuan ini, tata kelola AI berupaya menjaga prinsip-prinsip seperti:

• Meminimalkan risiko: Menghindari bias dan potensi dampak buruk
• Keadilan dan transparansi: Mendorong sistem AI yang mudah dipahami
• Akuntabilitas: Menetapkan tanggung jawab atas hasil AI
• Kepercayaan publik: Bagaimana masyarakat memandang teknologi AI

Mengapa AI yang Adil Itu Penting?

Pengembangan aplikasi AI adalah hasil dari banyak peran dan praktik. Sering kali, aplikasi AI dibangun di atas fondasi data. Pengumpulan, pemrosesan, dan penanganan data itu sendiri adalah perkara yang rumit dan sensitif.

Sementara itu, produk AI dimanfaatkan di berbagai bidang dan sektor, berpotensi dalam skala yang sangat besar. Misalnya, ChatGPT digunakan setiap minggu oleh lebih dari 200 juta pengguna aktif menurut DemandSage.

Mengingat banyaknya individu yang terlibat dalam mengembangkan solusi berbasis AI dan luasnya jangkauan penggunanya, kita dapat benar-benar menghargai kompleksitas AI. Ada banyak potensi masalah yang bisa muncul.

Untuk mendapatkan perspektif, bayangkan Anda melamar pekerjaan di mana proses rekrutmen bergantung pada sistem AI yang menilai apakah Anda kandidat yang sesuai. Sistem ini meninjau kandidat berdasarkan resume dan profil mereka, lalu menyaring yang dianggap tidak cocok untuk posisi tersebut.

Namun, jika sistem AI ini memiliki bias bawaan atau cacat pada algoritmenya, sistem tersebut mungkin secara tidak adil mendiskriminasi kelompok orang tertentu berdasarkan faktor seperti usia, gender, atau etnis. Jika sistem AI seperti ini digunakan secara luas oleh perusahaan, konsekuensinya akan signifikan.

Skenario ini menunjukkan mengapa keadilan AI itu krusial—untuk memastikan keadilan, transparansi, dan akuntabilitas dalam sistem AI yang dapat berdampak besar pada kehidupan orang.

Yang mengejutkan, diskriminasi semacam ini juga tidak jarang terjadi pada manusia. Peneliti menemukan adanya diskriminasi ilegal yang sistematis berdasarkan nama orang dalam proses lamaran kerja. Nama dari kelompok etnis minoritas, meskipun memiliki resume yang sama dengan kandidat lain, menghadapi tingkat keberhasilan yang lebih rendah dalam lamaran mereka.

Jadi, jika rekan manusia dari suatu sistem AI bisa terjebak dalam hal seperti itu, ini berarti menggunakan AI untuk proses pengambilan keputusan tanpa bias adalah tantangan namun juga berbuah hasil.

Tata Kelola AI: Prinsip Kunci dan Kerangka

Tata kelola AI yang efektif berdiri di atas pilar nilai-nilai manusia dan masyarakat. Prinsip-prinsip yang menuntun para ahli dalam mengevaluasi keselarasan sistem mereka. Prinsip-prinsip ini meliputi:

• Transparansi: Sistem AI harus memberikan kejelasan dengan menyajikan wawasan yang jelas tentang mekanisme, pengumpulan data, dan algoritme pengambilan keputusan.
• Keadilan: Memastikan perlakuan dan prediksi yang tidak memihak dengan mengidentifikasi dan mengurangi bias dalam pengembangan dan penerapan sistem AI.
• Akuntabilitas: Menetapkan tanggung jawab yang jelas untuk sistem AI, termasuk protokol ketika terjadi dampak buruk.
• Desain berpusat pada manusia: Mengutamakan nilai dan kesejahteraan manusia di atas segalanya.
• Privasi: Menghormati hak privasi individu dengan langkah perlindungan data yang kuat.
• Keselamatan dan keamanan: Berfokus pada keselamatan pengguna dan keamanan sistem terhadap konsekuensi berbahaya maupun yang tidak diinginkan.

Kerangka tata kelola AI terkemuka

Beberapa organisasi telah mengembangkan kerangka untuk memandu praktik tata kelola AI. Beberapa yang paling menonjol antara lain:

1. NIST AI Risk Management Framework: Dikembangkan oleh U.S. National Institute of Standards and Technology, NIST menawarkan pendekatan untuk mengenali, mengevaluasi, dan mengendalikan risiko terkait sistem AI sepanjang siklus hidupnya.
2. Prinsip AI OECD: Organisation for Economic Co-operation and Development (OECD) menetapkan seperangkat prinsip untuk kecerdasan buatan yang tepercaya. Prinsip-prinsip ini memprioritaskan nilai yang berpusat pada manusia, keadilan, transparansi, ketangguhan, dan akuntabilitas.
3. IEEE Ethically Aligned Design: Institute of Electrical and Electronics Engineers (IEEE) mengembangkan kerangka yang memberikan panduan untuk desain dan implementasi etis sistem otonom dan cerdas.
4. Pedoman Etika UE untuk AI Tepercaya: Uni Eropa menyediakan pedoman untuk ketangguhan teknis, privasi, transparansi, keragaman, non-diskriminasi, kesejahteraan sosial, dan tanggung jawab.
5. Kerangka spesifik industri: Berbagai sektor telah mengembangkan kerangka tata kelola AI yang disesuaikan dengan kebutuhan dan hambatan spesifik mereka. Misalnya:
• Kesehatan: Panduan WHO tentang etika dan tata kelola AI untuk layanan kesehatan
• Keuangan: Prinsip FEAT (Fairness, Ethics, Accountability, and Transparency) dari Monetary Authority of Singapore
• Otomotif: Kerangka Safety First for Automated Driving

Kerangka-kerangka ini menyediakan pagar pembatas yang berharga bagi organisasi yang ingin menerapkan praktik tata kelola AI, mencakup prinsip tingkat tinggi dan rekomendasi praktis.

AI memiliki aplikasi di banyak bidang, termasuk kesehatan. Interpretabilitas dan transparansi adalah dua sifat penting dari sistem tersebut. Gambar di bawah adalah contoh sistem AI yang mengenali infeksi COVID-19:

Sumber: Peng dkk., 2022

Praktik Terbaik untuk Menerapkan Tata Kelola AI

Menerapkan tata kelola AI memerlukan pendekatan holistik yang membutuhkan kolaborasi berbagai pemangku kepentingan dan banyak aspek organisasi. Berikut beberapa praktik terbaik untuk mewujudkan tata kelola AI:

Kepemimpinan dan komitmen budaya

Kepemimpinan dan komitmen budaya sangatlah penting. Para pemimpin harus secara aktif mendukung dan menjunjung standar etika dalam pengembangan AI, memastikan prinsip-prinsip ini diterapkan di seluruh organisasi.

Ini mencakup pembuatan dan pemeliharaan pedoman yang jelas dan terdokumentasi dengan baik untuk setiap fase pengelolaan sistem AI, termasuk pengembangan, pengujian, penerapan, dan pemantauan, agar pertimbangan etis terintegrasi ke dalam siklus hidup AI.

Pelatihan dan edukasi

Pelatihan dan edukasi berkelanjutan sama pentingnya. Semua staf terkait harus menerima pelatihan rutin yang berfokus pada etika dan keadilan AI untuk tetap mengikuti praktik terbaik dan tantangan yang muncul.

Pimpinan juga perlu diedukasi tentang dampak dan signifikansi teknologi AI. Bagi pengembang AI, pelatihan khusus yang disesuaikan dengan peran dan proyek mereka memastikan mereka memiliki pengetahuan yang dibutuhkan untuk pengembangan dan implementasi yang bertanggung jawab.

Pemantauan sistem AI

Saya tidak dapat terlalu menekankan pentingnya memantau sistem AI. Terapkan pemantauan berkelanjutan untuk melacak kinerja dan prediksi AI. Ini membantu mengidentifikasi dan mengoreksi bias atau konsekuensi yang tidak diinginkan dengan cepat.

Penilaian rutin memastikan sistem AI beroperasi sebagaimana dimaksud dan memenuhi standar yang disyaratkan.

Dokumentasi

Dokumentasi yang menyeluruh sangat penting untuk transparansi dan akuntabilitas dalam pengembangan AI. Pertahankan catatan terperinci dari setiap langkah dalam proses pengembangan AI, termasuk sumber data, arsitektur model, dan metrik kinerja.

Tetapkan kerangka untuk pengambilan keputusan etis, baik melalui kebijakan internal maupun standar eksternal yang diakui, guna mendukung praktik yang jelas dan akuntabel sepanjang siklus hidup AI.

Melibatkan pemangku kepentingan

Keterlibatan pemangku kepentingan penting untuk menyelaraskan sistem AI dengan kebutuhan dan nilai yang beragam. Berkomunikasilah secara aktif dengan pengguna, komunitas, dan para ahli untuk memastikan desain dan nilai sistem AI dipahami dengan baik dan menjawab kebutuhan semua pihak yang terlibat.

Menghargai beragam perspektif membantu mencegah dampak yang tidak diinginkan dan memastikan sistem AI yang inklusif dan adil.

Perbaikan berkelanjutan

Perbaikan berkelanjutan adalah kunci untuk menjaga standar tinggi dalam pengembangan AI. Tentukan dan lacak metrik terkait etika dan bias untuk mengevaluasi kinerja sistem AI dan lakukan peningkatan iteratif berdasarkan data ini.

Mintalah dan masukkan umpan balik dari pengguna dan pemangku kepentingan untuk memastikan sistem AI selaras dengan standar etika.

Alat dan Teknologi untuk Tata Kelola AI

Seiring tata kelola AI berkembang, ekosistem alat dan teknologi yang semakin luas dibangun untuk mendukung organisasi dalam menerapkan praktik tata kelola yang tepat. Alat-alat ini menargetkan berbagai aspek tata kelola AI, dari deteksi bias hingga keterjelasan (explainability) dan manajemen risiko.

1. Deteksi dan mitigasi bias:
• IBM AI Fairness 360: Toolkit sumber terbuka yang “dapat membantu memeriksa, melaporkan, dan mengurangi diskriminasi serta bias dalam model pembelajaran mesin sepanjang siklus hidup aplikasi AI.”
• Aequitas: Toolkit penilaian bias dan keadilan sumber terbuka bagi pengembang ML dan analis data.
2. Keterjelasan dan interpretabilitas:
• LIME (Local Interpretable Model-agnostic Explanations): Teknik yang menjelaskan prediksi dari model pembelajaran mesin kotak hitam apa pun.
• SHAP (SHapley Additive exPlanations): Pendekatan teori permainan untuk menjelaskan keluaran model pembelajaran mesin apa pun dengan menganalisis signifikansi setiap fitur dan keterkaitannya satu sama lain.
3. Penilaian dan manajemen risiko:
• AI Risk Management Framework Navigator: Alat lain yang dikembangkan NIST untuk membantu organisasi mengidentifikasi dan mengurangi risiko terkait penerapan dan operasional sistem AI
4. Privasi:
• OpenMined: Proyek sumber terbuka untuk membangun sistem pembelajaran mesin dengan privasi yang sering kali lebih krusial daripada yang diperkirakan
• TensorFlow Privacy: Pustaka untuk melatih model pembelajaran mesin dengan menjaga privasi data pelatihan
5. Dokumentasi model:
• Model Cards: Kerangka dari HuggingFace untuk pelaporan informasi model AI secara transparan
• FactSheets: Pendekatan IBM untuk meningkatkan kepercayaan dan transparansi dalam AI

TensorFlow Privacy. (Sumber: TensorFlow)

Alat dan teknologi ini membantu memastikan bahwa sistem AI dikelola dan dipelihara secara bertanggung jawab. Berbagai departemen dan peran dalam organisasi memiliki alat dan kriteria sendiri terkait tata kelola AI. Namun, penting untuk dicatat bahwa alat saja tidak cukup. Alat harus berjalan beriringan dengan proses dan pengawasan yang kuat agar efektif.

Studi Kasus: Responsible AI dari Microsoft

Berbagai perusahaan telah mengambil langkah praktis untuk menerapkan tata kelola AI. Salah satu contohnya adalah Program Responsible AI dari Microsoft. Microsoft adalah pemain terkemuka dalam AI saat ini, tetapi juga pernah mengalami beberapa proyek AI yang gagal—yang paling terkenal, Tay.

Awalnya dirilis oleh Microsoft pada 2016, Tay adalah chatbot yang seharusnya belajar dan berinteraksi di Twitter. Karena kurangnya langkah-langkah keamanan, hanya dalam 24 jam, para pengguna Twitter mengajari Tay menjadi fasis, ofensif, dan rasis. Tay belajar dari mereka tanpa pagar pembatas tentang apa yang boleh dan tidak boleh dipelajari. Tay akhirnya ditutup, namun menjadi pelajaran berharga.

Microsoft kemudian mengembangkan dan menerapkan praktik tata kelola AI melalui program Responsible AI-nya. Salah satu aspek penting dari program Responsible AI Microsoft adalah struktur operasionalnya. Perusahaan membentuk komite etika AI, yang dikenal sebagai Komite Aether (AI, Ethics, and Effects in Engineering and Research), yang meninjau proyek AI untuk potensi masalah etis. Komite ini merupakan kumpulan para ahli dari berbagai bidang untuk meninjau dampak teknologi AI pada masyarakat dan memberikan panduan.

Selain itu, Microsoft telah mengembangkan dan merilis beberapa alat dan kerangka kerja untuk membantu pengembang menerapkan praktik AI yang bertanggung jawab dalam pekerjaan sehari-hari mereka. Responsible AI Toolbox adalah salah satu contohnya yang membantu menilai dan meningkatkan keadilan sistem AI.

Lanskap Regulasi dan Kebijakan

Regulasi dan tata kelola, meski berbeda secara definisi, saling berdampak. Pemerintah dan organisasi regulasi di seluruh dunia mengembangkan kebijakan dan regulasi baru untuk mengatur pengembangan dan penggunaan AI. Memahami lanskap yang terus berkembang ini diperlukan bagi organisasi yang menerapkan praktik tata kelola AI dalam alur kerjanya.

EU AI Act

Salah satu perkembangan paling signifikan dalam regulasi AI adalah Undang-Undang Kecerdasan Buatan Uni Eropa (EU AI Act). Pokok-pokok dari Undang-Undang ini meliputi:

1. Pendekatan berbasis risiko: Sistem AI dikategorikan berdasarkan tingkat risikonya, dengan persyaratan berbeda untuk setiap kategori.
2. Praktik AI yang dilarang: Aplikasi AI tertentu, seperti penilaian sosial oleh pemerintah, dilarang.
3. Sistem AI berisiko tinggi: Persyaratan ketat ditetapkan untuk sistem AI yang digunakan di bidang krusial seperti kesehatan, pendidikan, dan penegakan hukum.
4. Persyaratan transparansi: Kewajiban untuk memberi tahu pengguna kapan dan dalam bentuk apa mereka berinteraksi dengan sistem AI.

Regulasi lain yang muncul

Meskipun EU AI Act mungkin merupakan regulasi AI paling komprehensif hingga saat ini, badan lain juga mengembangkan pendekatan mereka sendiri.

Kanada mengusulkan Artificial Intelligence and Data Act (AIDA) sebagai bagian dari reformasi privasi yang lebih luas, sementara RUU keselamatan AI California, SB 1047, pada saat artikel ini ditulis sedang dalam proses menjadi undang-undang.

Implikasi bagi bisnis

Lanskap regulasi yang berkembang memiliki implikasi besar bagi organisasi yang mengembangkan sistem AI:

1. Persyaratan kepatuhan: Organisasi harus memastikan sistem AI mereka mematuhi regulasi. Regulasi ini mungkin bertentangan dengan praktik saat ini, sehingga pada akhirnya memerlukan perubahan signifikan pada prosedur pengembangan dan penerapan.
2. Dokumentasi dan transparansi: Peningkatan penekanan pada pendokumentasian proses pengembangan AI dan pemberian penjelasan atas keputusan yang didorong AI. Tingkat kebutuhan transparansi ini tentu berbeda-beda bergantung pada undang-undang.
3. Manajemen risiko: Kebutuhan akan penilaian risiko yang kuat, khususnya untuk sistem AI yang mungkin diklasifikasikan sebagai "berisiko tinggi."
4. Pertimbangan global: Organisasi yang beroperasi di banyak yurisdiksi perlu menangani potensi persyaratan regulasi yang saling bertentangan.
5. Pertimbangan etis: Banyak regulasi memasukkan prinsip etika, sehingga organisasi perlu lebih eksplisit mempertimbangkan implikasi etis dari sistem AI mereka.

Apakah organisasi atau tim Anda tunduk pada undang-undang ini bergantung pada yurisdiksi Anda, jenis produk yang Anda bangun, dan tingkat risiko yang terkait dengan produk tersebut.

Perdebatan tentang Regulasi AI: Pro dan Kontra

Regulasi adalah salah satu topik paling diperdebatkan dalam AI. Meskipun mayoritas komunitas AI sepakat bahwa “sebagian” bentuk regulasi itu bermanfaat, tidak ada kesepakatan tentang sifat, cakupan, dan siapa yang harus bertanggung jawab atas undang-undang tersebut.

Kompleksitas isu ini memicu argumen sengit di antara industri, akademisi, pemerintah, dan masyarakat sipil, masing-masing memperdebatkan potensi manfaat dan kelemahan kerangka regulasi. Memahami argumen-argumen ini diperlukan untuk membentuk perspektif yang tepat dan tidak bias.

Argumen yang mendukung regulasi AI

Para pendukung regulasi AI berpendapat bahwa pedoman ini penting untuk melindungi publik dan bahwa regulasi yang dirancang dengan baik dapat menjaga potensi dampak buruk AI tetap terkendali. Pelanggaran privasi, bias, dan penggantian pekerjaan adalah beberapa potensi dampak tersebut. Mereka percaya bahwa seperangkat undang-undang dan standar yang jelas dapat mencegah “perlombaan menuju dasar” dalam hal etika. Selain itu, standar ini dapat berperan penting dalam membangun kepercayaan publik terhadap teknologi AI.

Argumen lain yang mendukung regulasi adalah dampak sosial AI yang luas. Seiring teknologi ini semakin memengaruhi area seperti ketenagakerjaan, interaksi sosial, dan proses demokratis, para pendukung berpendapat bahwa pengawasan regulatori diperlukan untuk memastikan dampak-dampak ini diperhitungkan dan dikelola secara bertanggung jawab.

Argumen yang menentang regulasi AI

Para penentang regulasi AI mengemukakan beberapa kekhawatiran tentang dampak negatifnya. Argumen utama menentang regulasi ketat adalah kekhawatiran bahwa regulasi pada akhirnya dapat melumpuhkan inovasi. Mereka khawatir aturan yang terlalu membatasi dapat memperlambat AI, berpotensi mengerem kemajuan bermanfaat di bidang seperti kesehatan, perubahan iklim, dan penelitian ilmiah, serta sifat perkembangan AI yang cepat dapat membuat regulasi cepat menjadi usang, sehingga berpotensi menjadi tidak relevan atau bahkan kontra-produktif.

Kekhawatiran signifikan lainnya adalah tantangan kepatuhan bagi perusahaan kecil dan startup. Biaya, tenaga kerja, dan kompleksitas mematuhi regulasi yang luas bisa menjadi beban bagi entitas ini, sehingga mengurangi kompetisi dan inovasi di sektor AI. Akibatnya, ini dapat mengarah pada monopoli pengembangan AI oleh segelintir perusahaan teknologi besar yang memiliki sumber daya memadai untuk menghadapi lanskap regulasi yang kompleks.

Banyak pakar AI mempertanyakan apakah mengatur AI pada tingkat teknologi, alih-alih tingkat aplikasi, adalah pendekatan yang tepat. Mereka berargumen bahwa, seperti teknologi lain seperti listrik dan internet, AI tidaklah jahat secara inheren. Cara penggunaan teknologi tersebut bisa berniat buruk atau konstruktif. Keamanan AI adalah sifat dari aplikasi, bukan teknologinya itu sendiri, sebagaimana disorot dalam artikel ini.

Tanggung Jawab Pengembang

Perlu juga dicatat bahwa nilai-nilai yang menjadikan sistem AI aman—seperti keadilan, bias, atau transparansi—meski berakar pada masyarakat dan pertimbangan etis, juga merupakan persoalan teknis.

Penting untuk diakui bahwa model AI yang bias juga cacat secara teknis. Model yang menunjukkan bias, secara definisi, tidak secara akurat merepresentasikan atau memproses spektrum data penuh yang seharusnya ditangani.

Kekurangan teknis ini dapat menyebabkan kinerja menurun, prediksi yang tidak akurat, dan hasil yang tidak andal. Dari sudut pandang ini, menangani bias dan mendorong keadilan dalam model AI bukan hanya persoalan etis, melainkan tantangan teknis mendasar yang secara langsung memengaruhi kualitas sistem AI yang kita bangun.

Nilai-nilai ini harus dihormati dan ditanamkan ke dalam sistem AI oleh para pengembang yang membangunnya, bahkan tanpa adanya persyaratan hukum atau standar regulasi. Peneliti dan pengembang yang bekerja pada mitigasi keadilan dan bias sering kali terlibat dalam pekerjaan teknis yang sangat mendalam.

Pertimbangkan sebuah sistem AI yang dikembangkan untuk membantu pegawai bank dalam mengevaluasi pengajuan kredit. Jika, karena bias historis dalam praktik pemberian pinjaman, data pelatihan mencerminkan pola di mana kelompok ras tertentu secara tidak proporsional ditolak pinjaman atau ditawari syarat yang kurang menguntungkan, sistem AI kemudian belajar mengaitkan ras dengan skor pemohon, maka sistem ini “buruk secara teknis” sebelum “tidak dapat diterima secara etis.” Contoh ini menunjukkan bahwa menangani bias dalam sistem AI bukan hanya dorongan etis tetapi juga keharusan teknis.

Organisasi dan individu dapat menggunakan transparansi dan dokumentasi sepanjang siklus hidup pengembangan AI untuk menjawab kekhawatiran dan membangun kepercayaan publik. “Transparansi algoritmik” ini mencakup komunikasi yang jelas tentang tujuan model, sumber data, metodologi, atau keterbatasan potensial sistem. Sebagai pengembang, Anda dapat bersikap jelas dan transparan dengan mengomunikasikan:

• Proses pelatihan model
• Rincian tentang dataset yang digunakan
• Langkah prapemrosesan data
• Algoritme yang dipilih

Transparansi ini tidak hanya membantu mengidentifikasi dan memperbaiki cacat teknis, tetapi juga menunjukkan komitmen terhadap pengembangan AI yang etis, sehingga meningkatkan kepercayaan publik terhadap teknologi.

Penutup

Artikel ini telah mengeksplorasi hakikat tata kelola AI, pertimbangan etis, kerangka regulasi, dan implementasi teknisnya. Pentingnya tata kelola AI terletak pada kemampuannya untuk mengidentifikasi risiko sebelum menimbulkan masalah, membangun kepercayaan publik, dan mengarahkan kekuatan AI bagi manfaat dan kebaikan sosial.

Kami juga meninjau berbagai aspek tata kelola AI, termasuk alat dan teknologi yang tersedia, inisiatif perusahaan, dan lanskap regulasi yang terus berkembang. Kami juga menyoroti perdebatan yang sedang berlangsung terkait regulasi AI, menyajikan argumen yang mendukung maupun menentang pengawasan ini.

Pada akhirnya, tanggung jawab atas pengembangan AI yang etis dan bertanggung jawab tidak hanya berada pada badan regulasi, tetapi juga pada perusahaan dan individu yang menciptakan teknologi ini. Seperti yang telah kita lihat, menangani isu seperti bias dan keadilan dalam sistem AI bukan semata persoalan etis, melainkan keharusan teknis.