Etika dalam AI Generatif

Hingga beberapa tahun lalu, dapatkah Anda membayangkan sebuah mesin yang bisa menciptakan karya seni, merangkai cerita, atau bahkan memahami data kompleks seperti dokumen medis dan hukum?

Mungkin tidak. Bagi sebagian besar dari kita, itu terbatas pada fiksi ilmiah yang terasa jauh dari kenyataan.

Namun, kemunculan era AI Generatif telah mendefinisikan ulang pemahaman kita tentang apa yang bisa dilakukan mesin.

Apa itu AI Generatif?

AI Generatif adalah cabang AI yang canggih yang memungkinkan mesin menghasilkan konten baru dengan memanfaatkan konten yang sudah ada dalam bentuk teks, audio, video, dan bahkan kode.

Gartner menyebutnya sebagai “salah satu teknologi paling berpengaruh dan berkembang pesat yang dapat menghadirkan revolusi produktivitas”.

Ini dengan cepat menjadi kenyataan yang memunculkan banyak aplikasi inovatif yang mentransformasi industri, misalnya mempercepat dan memperkuat kreativitas konten di media, pemasaran di ritel, memberikan perawatan kesehatan yang lebih baik dan personal, serta menyediakan pembelajaran dan pendidikan bergaya adaptif.

Kekhawatiran Etis dari AI Generatif

Kecepatan aplikasi semacam ini memasuki pasar sangatlah menarik.

Namun ketika Sam Altman, CEO OpenAI, memperingatkan kita tentang bahaya model bahasa–risikonya nyata, sehingga kita wajib menyeimbangkan manfaatnya dengan kehati-hatian dan memanfaatkan teknologi yang kuat ini secara bertanggung jawab.

Sumber gambar: Business Insider

Mari kita pahami beberapa kekhawatiran etis utama dalam penggunaan AI Generatif.

Distribusi konten berbahaya

Sementara kemampuan sistem AI Generatif untuk menghasilkan konten mirip manusia dapat meningkatkan produktivitas bisnis, kemampuan ini juga dapat memunculkan konten yang berbahaya atau menyinggung. Dampak paling mengkhawatirkan berasal dari alat seperti Deepfakes yang dapat menciptakan gambar, video, teks, atau ucapan palsu yang bisa digerakkan oleh agenda tertentu atau disulut untuk menyebarkan ujaran kebencian.

Baru-baru ini, seorang penipu menggandakan suara seorang gadis muda untuk meminta tebusan dari ibunya dengan memalsukan penculikan. Alat-alat ini telah menjadi begitu canggih sehingga sulit membedakan suara palsu dari yang asli.

Lebih jauh, konten yang dihasilkan secara otomatis dapat mempertahankan atau memperkuat bias yang dipelajari dari data pelatihan, menghasilkan bahasa yang bias, eksplisit, atau bernuansa kekerasan. Konten berbahaya seperti ini membutuhkan intervensi manusia agar selaras dengan etika bisnis organisasi yang memanfaatkan teknologi ini​​.

Hak cipta dan eksposur hukum

Seperti kebanyakan model AI, model AI Generatif dilatih menggunakan data–sangat banyak data. Secara sifat, ini dapat melanggar hak cipta dan hak kekayaan intelektual perusahaan lain. Hal ini dapat menimbulkan risiko hukum, reputasi, dan finansial bagi perusahaan yang menggunakan model pralatih serta berdampak negatif pada para kreator dan pemegang hak cipta.

Pelanggaran privasi data

Data pelatihan yang mendasari dapat berisi informasi sensitif, termasuk informasi pengenal pribadi (PII). PII, sebagaimana didefinisikan oleh Departemen Tenaga Kerja AS, adalah data “yang secara langsung mengidentifikasi individu, mis., nama, alamat, nomor jaminan sosial atau nomor atau kode identifikasi lainnya, nomor telepon, dan alamat email.”

Pelanggaran privasi pengguna dapat mengakibatkan pencurian identitas dan dapat disalahgunakan untuk diskriminasi atau manipulasi.

Oleh karena itu, sangat penting bagi pengembang model pralatih dan perusahaan yang melakukan fine-tuning model tersebut untuk tugas tertentu agar mematuhi pedoman privasi data dan memastikan data PII dihapus dari pelatihan model.

Kami memiliki webinar yang menjelaskan regulasi privasi data, khususnya GDPR, untuk memastikan penggunaan data yang etis.

Pengungkapan informasi sensitif

Memperluas pentingnya penggunaan data pengguna secara cermat, penting untuk mempertimbangkan risiko yang timbul dari pengungkapan informasi sensitif secara tidak sengaja, kekhawatiran yang diperbesar oleh demokratisasi cepat kapabilitas AI​​. Rasa ingin tahu dan kemudahan alat AI generatif, khususnya ChatGPT, terkadang dapat menggoda pengguna untuk mengabaikan keamanan data saat menjelajahi platform baru semacam itu.

Risiko meningkat secara signifikan jika seorang karyawan mengunggah detail sensitif seperti kontrak hukum, kode sumber produk perangkat lunak, atau informasi hak milik, dan lain-lain.

Dampaknya bisa parah, baik secara finansial, reputasi, maupun hukum bagi organisasi, sehingga kebutuhan akan kebijakan keamanan data yang jelas menjadi nyata dan esensial.

Amplifikasi bias yang ada

Model AI hanya sebaik (atau seburuk) data yang digunakan untuk melatihnya. Jika data pelatihan merepresentasikan bias yang lazim di masyarakat, model akan berperilaku serupa–atau, begitulah yang kita pikirkan. Sebuah studi terbaru yang dimuat di Bloomberg membahas bagaimana model-model ini bahkan lebih bias daripada data dunia nyata yang menjadi dasar pelatihannya.

Studi tersebut menyingkap kenyataan pahit ketika menyebut bahwa–“dunia menurut Stable Diffusion dijalankan oleh CEO laki-laki kulit putih. Perempuan jarang menjadi dokter, pengacara, atau hakim. Pria berkulit gelap melakukan kejahatan, sementara perempuan berkulit gelap membalik burger.”

Untuk menciptakan dunia yang adil, data harus mencerminkan hal tersebut dengan menyertakan tim dan perspektif yang beragam sepanjang siklus pengembangan model.

Peran dan moral tenaga kerja

Di satu sisi, AI Generatif dipandang sebagai gelombang berikutnya yang melepaskan produktivitas, sementara sisi lainnya mengisyaratkan hilangnya pekerjaan, karena lebih sedikit manusia yang dibutuhkan untuk melakukan jumlah pekerjaan yang sama.

Hal ini juga terlihat dalam laporan terbaru Mckinsey yang menggema dengan kekhawatiran terkait pergeseran keterampilan saat ini–“AI generatif saat ini dan teknologi lainnya berpotensi mengotomatisasi aktivitas kerja yang menyerap 60 hingga 70 persen waktu karyawan saat ini.”

Walaupun sisi lain yang menempatkan banyak pekerjaan berisiko saat ini bukan berarti menghentikan transformasi yang datang bersama AI Generatif, hal tersebut jelas memerlukan langkah untuk meningkatkan atau mengalihkan keterampilan pekerja ke peran baru yang tercipta seiring hadirnya era AI tingkat lanjut.

Asal-usul data

Sebagian besar kekhawatiran terkait penggunaan alat AI berkaitan dengan data, termasuk privasi pengguna, pembuatan data multimodal sintetis seperti teks, gambar, video, atau audio.

Sistem semacam ini memerlukan pemeliharaan jaminan dan integritas data untuk menghindari penggunaan data yang bias atau data dengan asal-usul yang dipertanyakan​.

Kurangnya transparansi

Sistem AI bersifat kotak hitam, yang berarti sulit untuk memahami bagaimana mereka sampai pada respons tertentu atau faktor apa yang memengaruhi pengambilan keputusan mereka.

Kapabilitas emergen dari model besar semakin memperlebar celah ini, karena bahkan para pengembang pun dibuat terkejut oleh fungsionalitasnya, menyoroti bahwa–“para peneliti berlomba tidak hanya untuk mengidentifikasi kemampuan emergen tambahan tetapi juga untuk mencari tahu mengapa dan bagaimana kemampuan tersebut muncul sama sekali untuk mencoba memprediksi ketidakpastian.”

Contoh Misinformasi yang Dihasilkan AI

Baru-baru ini, sebuah studi dilakukan untuk menilai apakah para peserta dapat mengenali konten yang dihasilkan AI dibandingkan dengan yang ditulis manusia. Tak mengherankan, hasilnya menunjukkan bahwa orang kesulitan membedakan konten dari model bahasa, menyoroti kemampuan model ini untuk menyebarkan misinformasi, bahkan dalam skala besar.

Contoh luar biasa dari misinformasi seperti itu muncul di pengadilan AS baru-baru ini ketika seorang pengacara merujuk pada contoh kasus hukum yang tidak ada, dengan mengandalkan respons yang dihasilkan ChatGPT.

PBB juga menyampaikan kekhawatiran atas konten menyesatkan yang dihasilkan AI yang dapat menyebabkan konflik dan kejahatan.

Praktik Terbaik Etis untuk AI Generatif

Kemajuan teknologi yang dihadirkan oleh pengembangan model AI Generatif memiliki potensi besar untuk memberi manfaat bagi masyarakat bila digunakan secara terkendali dan diatur. Hal ini memerlukan adopsi praktik terbaik etis untuk meminimalkan potensi bahaya yang menyertai keunggulannya.

Tetap terinformasi dan bertindak

Menyelamlah dalam lanskap etika data saat ini dan masa depan. Pahami pedoman penerapannya, baik Anda kontributor individu maupun pemimpin organisasi.

Anda dapat membaca lebih lanjut tentang lanskap etika data saat ini dan masa depan serta pedoman penerapannya dalam artikel terpisah.

Selaraskan dengan standar global

Ada baiknya juga mengenal pedoman etika AI UNESCO, yang diadopsi oleh 193 Negara Anggota pada November 2021.

Pedoman tersebut menekankan empat nilai inti:

• Hak asasi dan martabat manusia
• Masyarakat yang damai dan adil
• Keberagaman dan inklusivitas
• Kelestarian lingkungan

Pedoman ini juga merinci sepuluh prinsip, termasuk proporsionalitas, keselamatan, privasi, tata kelola multi-pemangku kepentingan, tanggung jawab, transparansi, pengawasan manusia, keberlanjutan, kesadaran, dan keadilan.

Pedoman tersebut juga menyediakan area aksi kebijakan untuk tata kelola data, lingkungan, gender, pendidikan, penelitian, kesehatan, dan kesejahteraan sosial.

Terlibat dengan komunitas AI etis

Ada berbagai kelompok lain, seperti AI Ethics Lab dan Montreal AI Ethics Institute, yang mengangkat literasi etis. Prinsip etis yang umum mencakup transparansi, akuntabilitas, privasi data, dan ketangguhan yang berfokus pada penyedia teknologi.

Tetap mengikuti perkembangan di bidang ini dan terlibat dalam diskursus seputar etika AI adalah bagian penting untuk memastikan AI generatif tetap aman bagi semua pengguna.

Bangun kesadaran dan terus belajar

Kita, sebagai pengguna, berkewajiban untuk menepis anggapan bahwa segala sesuatu yang tersedia di dunia digital dapat dipercaya begitu saja.

Sebaliknya, sebagian besar masalah akan teratasi ketika kita mulai menantang dan meragukan informasi yang tersedia dengan melakukan pemeriksaan fakta serta memverifikasi keaslian dan sumber asalnya sebelum menggunakan pengetahuan tersebut.

Kesadaran adalah kunci untuk memanfaatkan AI generatif dengan tepat dan menjadi alasan di balik penulisan artikel ini.

Pemikiran Akhir

AI Generatif memiliki potensi besar untuk merevolusi berbagai sektor, dari kesehatan hingga pendidikan, dengan menciptakan konten baru dan meningkatkan produktivitas.

Namun, teknologi yang kuat ini juga membawa kekhawatiran etis yang signifikan, termasuk distribusi konten berbahaya, pelanggaran hak cipta, pelanggaran privasi data, dan amplifikasi bias yang ada.

Saat kita terus memanfaatkan kapabilitas AI Generatif, sangat penting untuk mengadopsi praktik terbaik etis

Anda dapat memulai perjalanan Anda hari ini dengan kursus Konsep AI Generatif kami, dan mulai menjelajahi proyek AI generatif yang bisa Anda mulai hari ini.