Regulasi AI: Memahami Kebijakan Global dan Dampaknya bagi Bisnis

Apa itu Regulasi AI?

Regulasi AI mengacu pada undang-undang, kebijakan, dan pedoman yang dirancang untuk mengawasi pengembangan, penerapan, dan penggunaan sistem AI. Tujuan regulasi AI adalah memastikan teknologi AI digunakan secara etis, aman, dan bertanggung jawab sambil meminimalkan potensi risiko seperti bias, pelanggaran privasi, dan bahaya bagi individu atau masyarakat.

Etika AI adalah bidang yang mempelajari bagaimana mengembangkan dan menggunakan AI secara adil, akuntabel, transparan, dan menghormati nilai-nilai manusia. Baca blog Pengantar Etika AI kami untuk memahami risiko jangka pendek dan jangka panjang AI. 

Regulasi AI mencakup beragam isu, termasuk:

• Privasi data: Memastikan sistem AI menangani data pribadi sesuai dengan undang-undang privasi.
• Bias dan keadilan: Mencegah AI melestarikan atau memperbesar diskriminasi dan bias.
• Transparansi: Membuat sistem AI dapat dijelaskan dan dipahami, sehingga keputusannya jelas dan dapat dipertanggungjawabkan.
• Keamanan: Memastikan teknologi AI tidak menyebabkan bahaya, khususnya di sektor kritis seperti kesehatan, keuangan, dan sistem otonom.
• Akuntabilitas: Menetapkan tanggung jawab yang jelas atas keputusan yang dibuat oleh sistem AI, termasuk kerangka hukum untuk tanggung gugat.
• Dampak ekonomi, lingkungan, dan sosial: Menangani potensi penggantian pekerjaan, ketimpangan ekonomi, lingkungan dan perubahan sosial yang diakibatkan oleh AI.

Ikuti track AI Fundamentals dari Datacamp untuk mempelajari dasar-dasar AI, menyelami model seperti ChatGPT, dan mengurai rahasia AI generatif untuk menavigasi lanskap AI yang dinamis.

Mengapa Regulasi AI Diperlukan?

Potensi AI disertai risiko signifikan, sehingga regulasi menjadi keharusan. Salah satu kekhawatiran paling mendesak adalah kemungkinan timbulnya dampak berbahaya. Misalnya, sistem AI yang digunakan dalam peradilan pidana menunjukkan bias, yang secara tidak proporsional memengaruhi komunitas marjinal. Jika tidak dikelola dengan baik, AI dapat memperparah ketidaksetaraan sosial yang ada.

Selain itu, masalah "kotak hitam" adalah tantangan yang unik bagi AI. Banyak sistem AI beroperasi dengan cara yang bahkan tidak sepenuhnya dapat dijelaskan oleh para pembuatnya. Tanpa transparansi, sulit untuk memahami bagaimana sistem ini mengambil keputusan, sehingga menimbulkan kekhawatiran tentang akuntabilitas.

Bias adalah isu krusial lainnya. Sistem AI hanya sebaik data yang digunakan untuk melatihnya, dan jika data tersebut mencerminkan bias masyarakat, AI juga akan demikian. Ini dapat menyebabkan hasil yang tidak adil di bidang seperti rekrutmen, peminjaman, dan penegakan hukum. 

Pada 2023, Forbes melaporkan adanya gugatan class action terhadap UnitedHealthcare (penyedia asuransi kesehatan terbesar di AS), yang menuduh penolakan klaim perawatan lanjutan bagi pasien lansia melalui penggunaan algoritma AI.

Tanpa kerangka regulasi, masyarakat mungkin tidak siap menghadapi pergeseran ekonomi ini, yang mengarah pada ketimpangan dan ketidakstabilan. Pastikan untuk membaca artikel kami, AI di Kesehatan: Meningkatkan Diagnostik, Personaliasi Perawatan, dan Merapikan Operasi; artikel ini membahas bagaimana AI memengaruhi masa depan layanan kesehatan dan bagaimana bisnis dapat bertahan dengan keterampilan serta teknologi AI baru. 

Terakhir, AI dapat mengganggu pasar tenaga kerja, menggantikan pekerja seiring otomasi menjadi lebih lazim. McKinsey melaporkan bahwa AI Generatif saat ini dan teknologi AI lainnya berpotensi mengotomasi aktivitas kerja yang menyerap hingga 70 persen waktu karyawan saat ini. 

Pergeseran ini berarti hingga 12 juta pekerja di Eropa dan Amerika Serikat perlu berganti pekerjaan. Beberapa pekerja mungkin memerlukan dukungan dalam reskilling dan upskilling agar tetap kompetitif di pasar baru. 

Kondisi Terkini Regulasi AI

Mari kita lihat peraturan dan regulasi saat ini yang diberlakukan untuk memastikan penggunaan alat AI yang adil: 

Regulasi AI Uni Eropa

EU AI Act, yang diusulkan pada April 2021, merupakan kerangka hukum komprehensif pertama yang bertujuan mengatur AI di Uni Eropa (UE). EU AI Act adalah inisiatif terobosan yang dirancang oleh EU AI Office untuk mengatur masa depan AI di Eropa. Tujuannya adalah mengurangi potensi risiko yang ditimbulkan oleh sistem AI sambil mendorong inovasi dan daya saing di pasar AI Eropa. 

EU AI Act disusun berdasarkan pendekatan berbasis risiko, yang mengategorikan sistem AI berdasarkan tingkat risiko yang ditimbulkannya bagi individu dan masyarakat. Regulasi ini membagi sistem AI menjadi empat kategori risiko yang berbeda:

  Sumber: Kursus Datacamp ‘Understanding the EU AI Act’

• Risiko tidak dapat diterima: Sistem AI yang mengancam keselamatan, hak, atau nilai-nilai demokratis dilarang (misalnya, pemeringkatan sosial, manipulasi yang merugikan).
• AI berisiko tinggi: AI di area kritis seperti layanan kesehatan atau penegakan hukum. Memerlukan pengujian ketat, transparansi, dan pengawasan manusia untuk memenuhi standar UE sebelum digunakan.
• AI berisiko terbatas: Termasuk chatbot dan asisten virtual. Pengguna harus diberi tahu saat berinteraksi dengan AI, tetapi dengan regulasi yang lebih ringan.
• AI berisiko minimal: Aplikasi berisiko rendah seperti filter spam atau AI dalam gim. Largely dibebaskan dari regulasi.

Pastikan untuk mengikuti EU AI Act Fundamentals kami untuk menguasai EU AI Act dan dasar-dasar AI. Dalam kursus ini Anda akan belajar menavigasi regulasi dan membangun kepercayaan dengan Responsible AI.

EU AI Act menempatkan fokus kuat pada transparansi, khususnya untuk sistem AI Generatif seperti ChatGPT yang membuat konten dan berinteraksi langsung dengan pengguna. Bergantung pada cara penggunaannya, sistem ini dapat diklasifikasikan sebagai berisiko tinggi atau berisiko terbatas dalam regulasi tersebut. Salah satu persyaratan utama adalah pengguna harus diberi tahu dengan jelas saat mereka berinteraksi dengan AI. Untuk model generatif, ini berarti:

• Pengungkapan AI: Pengembang harus menyatakan dengan jelas saat konten dihasilkan oleh AI. Ini membantu pengguna memahami bahwa mereka berkomunikasi dengan mesin, bukan dengan manusia.
• Keterjelasan (explainability): Meskipun sistem AI generatif bisa kompleks, EU AI Act menuntut tingkat kejelasan tertentu. Pihak yang menyediakan model AI perlu memberikan informasi yang cukup agar pengguna dan regulator dapat memahami cara kerja sistem dan bagaimana ia membuat keputusan. Ini termasuk membagikan detail tentang algoritme dan data pelatihan yang mendasarinya bila diperlukan.

Untuk menegakkan aturan ini, UE membentuk badan pengawas di tingkat nasional dan UE untuk memantau kepatuhan. Badan-badan ini dapat mengaudit sistem AI, menyelidiki pelanggaran, dan menjatuhkan sanksi hingga €30 juta atau 6% dari pendapatan global, mana yang lebih tinggi.

Untuk mempelajari lebih lanjut tentang EU AI Act, pastikan mengikuti kursus Understanding the EU AI Act kami, di mana Anda akan memahami kategori risiko AI dan kepatuhan, dengan contoh di AI biometrik, pendidikan, dan model tujuan umum. 

Regulasi AI di Amerika Serikat

Amerika Serikat menerapkan pendekatan yang lebih fleksibel dan sektoral terhadap regulasi AI. Meski belum ada undang-undang federal komprehensif tentang AI, sejumlah undang-undang yang ada, rancangan undang-undang, dan pedoman di tingkat federal dan negara bagian membentuk tata kelola sistem AI.

Undang-undang dan regulasi federal yang ada

Berikut undang-undang dan regulasi yang saat ini berlaku di AS: 

Federal Trade Commission (FTC) Act

FTC memiliki kewenangan luas untuk melindungi konsumen dari praktik yang tidak adil atau menyesatkan. Ini termasuk mengatur sistem AI yang berpotensi menyebabkan praktik diskriminatif atau hasil yang menyesatkan, khususnya dalam periklanan dan penggunaan data konsumen.

Undang-undang hak sipil

Berbagai undang-undang hak sipil melarang diskriminasi dalam pekerjaan, perumahan, dan peminjaman. Undang-undang ini relevan bagi aplikasi AI yang tanpa sengaja dapat melanggengkan bias, seperti algoritme untuk perekrutan atau penilaian kredit. Lembaga seperti Equal Employment Opportunity Commission (EEOC) semakin meneliti sistem AI untuk memastikan kepatuhan terhadap undang-undang ini.

Health Insurance Portability and Accountability Act (HIPAA)

Di bidang kesehatan, aplikasi AI harus mematuhi regulasi HIPAA terkait privasi dan keamanan informasi kesehatan. Ini termasuk memastikan bahwa AI yang digunakan dalam perawatan pasien menghormati kerahasiaan dan hak pasien.

Rancangan undang-undang federal

Ada juga rancangan undang-undang yang telah diajukan dan menunggu pengesahan: 

Algorithmic Accountability Act

Diusulkan pada 2022, RUU ini bertujuan mewajibkan perusahaan menilai dampak sistem pengambilan keputusan otomatis terhadap konsumen. Ini mewajibkan audit untuk algoritme yang digunakan di area berisiko tinggi guna mengidentifikasi dan mengurangi bias.

AI Bill of Rights

Pada akhir 2022, pemerintahan Biden merilis cetak biru untuk ‘AI Bill of Rights’, yang merangkum prinsip penggunaan AI yang bertanggung jawab, termasuk keadilan, transparansi, dan hak untuk mengajukan banding atas keputusan otomatis.

Regulasi tingkat negara bagian

Di tingkat negara bagian, berbagai yurisdiksi mengambil inisiatif untuk menerapkan regulasi AI mereka sendiri, sering kali berfokus pada privasi data dan mitigasi bias:

California Consumer Privacy Act (CCPA)

Undang-undang penting ini memberikan hak kepada konsumen untuk mengetahui bagaimana informasi pribadi mereka dikumpulkan, digunakan, dan dibagikan. Ini berdampak langsung pada sistem AI yang memanfaatkan data pribadi, dengan mewajibkan transparansi dan persetujuan konsumen.

Undang-Undang Alat Keputusan Ketenagakerjaan Otomatis Kota New York

Berlaku pada 2023, undang-undang ini mewajibkan perusahaan yang menggunakan alat otomatis untuk perekrutan melakukan audit bias tahunan untuk menilai dampak sistem AI mereka pada berbagai kelompok demografis.

Regulasi spesifik sektor

Selain regulasi federal dan negara bagian, juga terdapat beberapa regulasi AI khusus industri yang diberlakukan: 

Kendaraan otonom

Departemen Transportasi AS telah menerbitkan pedoman untuk pengujian dan penerapan kendaraan otonom, dengan menekankan keselamatan dan akuntabilitas. Pedoman ini mengharuskan perusahaan menunjukkan bahwa teknologi swakemudi mereka memenuhi standar keselamatan sebelum dapat dioperasikan di jalan umum.

Kesehatan

Aplikasi AI di bidang kesehatan, seperti alat diagnostik dan rekomendasi perawatan, berada di bawah pengawasan Food and Drug Administration (FDA), yang tengah membangun jalur regulasi untuk teknologi AI guna memastikan keamanan dan efektivitasnya.

Pendekatan Tiongkok terhadap regulasi AI

Pendekatan Tiongkok terhadap tata kelola AI dipimpin oleh negara, menyeimbangkan inovasi cepat dengan regulasi ketat. Intinya adalah mempertahankan kendali pemerintah yang kuat sambil memastikan keamanan dan mendorong penggunaan yang etis.

Kerangka ini mencakup berbagai kebijakan dan pedoman yang membentuk bagaimana AI dikembangkan dan digunakan. Fitur utamanya meliputi:

Tata kelola terpusat

Pemerintah Tiongkok, melalui berbagai kementerian seperti Kementerian Sains dan Teknologi, berperan krusial dalam mengatur AI. Kontrol terpusat ini memungkinkan penegakan regulasi yang konsisten di berbagai sektor dan wilayah.

Undang-undang dan pedoman

Undang-undang penting seperti Data Security Law dan Personal Information Protection Law menetapkan standar yang jelas untuk penanganan data dalam aplikasi AI. Selain itu, Pedoman Etika AI merangkum prinsip yang harus dipatuhi sistem AI, dengan menekankan hak asasi manusia, privasi, dan keamanan.

Fokus pada keamanan nasional

Lanskap regulasi sangat menekankan keamanan nasional, dengan aplikasi AI menjalani penilaian ketat untuk memastikan tidak mengancam ketertiban umum atau keamanan negara. Pengawasan ini sangat relevan bagi teknologi yang dapat memengaruhi stabilitas sosial atau tata kelola.

Model tata kelola terpusat menimbulkan kekhawatiran tentang transparansi dan akuntabilitas, dengan pengawasan publik yang terbatas berpotensi memungkinkan kekuasaan pemerintah yang tidak terkendali di ranah AI.

Pada 2023, Tiongkok memperkenalkan Regulations on the Administration of Generative Artificial Intelligence Services, yang menetapkan kerangka untuk pengembangan, penerapan, dan penggunaan teknologi AI generatif. Beberapa fitur menonjolnya adalah:

• Pemeriksaan keamanan wajib: Perusahaan memerlukan persetujuan pemerintah sebelum meluncurkan AI penghasil konten, memastikan sistem tidak menimbulkan risiko bagi kepentingan nasional atau stabilitas.
• Pemantauan konten yang ketat: Keluaran AI generatif diatur ketat untuk mencegah misinformasi atau konten yang mengganggu harmoni sosial, menggunakan sensor bila diperlukan.
• Standar kepatuhan tinggi: Perusahaan harus transparan tentang algoritme, sumber data, dan proses mereka untuk memenuhi regulasi ketat, meningkatkan akuntabilitas dan mencegah penyalahgunaan.

Seiring AI mentransformasi industri, memahami risiko etika dan bisnisnya sangat krusial. Perusahaan tidak hanya harus memanfaatkan potensi AI, tetapi juga memastikan penggunaannya secara bertanggung jawab dan transparan.

Dalam webinar kami, “Understanding Regulations for AI in the USA, the EU, and Around the World,” Shalini Kurapati (CEO, Clearbox AI) dan Nick Reiners (Senior Analyst, Eurasia Group) membahas kebijakan AI utama, tren regulasi, dan strategi kepatuhan. Anda akan mempelajari bagaimana regulasi baru berdampak pada bisnis dan mendapatkan kiat praktis untuk menavigasi tata kelola AI, dengan fokus pada AS, UE, dan kerangka global.

Masa Depan Regulasi AI

Sekarang setelah kita memahami lanskap regulasi AI saat ini, saatnya melihat apa yang akan terjadi selanjutnya. Seiring alat ini terus berkembang, undang-undang dan regulasi kita juga harus berevolusi secara bersamaan. 

Kebutuhan kerja sama internasional dan kerangka regulasi global

AI adalah teknologi global, dan regulasi yang efektif memerlukan kerja sama internasional. Sistem AI sering melintasi batas negara, sehingga sulit bagi satu negara saja untuk mengaturnya secara komprehensif. 

Aplikasi AI di area seperti kendaraan otonom, kesehatan, keuangan, dan keamanan sering melibatkan arus data lintas batas, yang menimbulkan kekhawatiran tentang privasi, perlindungan data, dan standar etika. Sifat global ini memerlukan pendekatan terkoordinasi terhadap tata kelola AI. Tujuan kerja sama internasional adalah: 

• Penyelarasan standar: Menetapkan prinsip bersama seperti transparansi, akuntabilitas, dan keadilan untuk menciptakan pedoman global yang konsisten bagi penggunaan AI.
• Privasi dan perlindungan data: Menetapkan aturan umum untuk berbagi data lintas batas guna melindungi privasi dan memastikan aplikasi AI yang etis sambil menghormati hukum nasional.
• Mengatasi bias AI: Berkolaborasi secara global untuk berbagi praktik terbaik, mendeteksi bias, dan mengembangkan strategi untuk sistem AI yang lebih adil dan hasil yang setara.

Lihat kursus kami, Responsible AI Data Management, di mana Anda dapat mempelajari dasar-dasar praktik data yang bertanggung jawab, termasuk akuisisi data, regulasi kunci, serta strategi validasi data dan mitigasi bias. A

nda dapat menerapkan keterampilan ini untuk berpikir kritis pada proyek data apa pun, memastikan proyek Anda berhasil, bertanggung jawab, dan patuh dari awal hingga akhir.

Tantangan menuju kerangka regulasi AI global

Meski kerja sama internasional diperlukan, menciptakan kerangka global yang terpadu untuk regulasi AI menghadapi beberapa tantangan:

• Prioritas nasional yang berbeda-beda: Negara berbeda memprioritaskan aspek regulasi AI yang berbeda—misalnya, AS fokus pada inovasi, UE pada privasi, dan Tiongkok pada kendali negara—sehingga pendekatan global yang terpadu menjadi sulit.
• Ketegangan geopolitik: Persaingan antara pemain AI besar seperti AS dan Tiongkok memunculkan kerangka yang saling bersaing dan kekhawatiran tentang transfer teknologi serta keamanan nasional, yang mempersulit kerja sama.
• Perbedaan etika dan budaya: Pandangan yang beragam tentang pengawasan, privasi data, dan hak asasi manusia membuat pembuatan standar etika universal untuk regulasi AI menjadi menantang.

Upaya menuju kerangka AI global

Terlepas dari tantangan, ada upaya berkelanjutan untuk mempromosikan kerja sama internasional dalam tata kelola AI:

Perserikatan Bangsa-Bangsa dan AI for Good

PBB telah memulai diskusi tentang regulasi AI global melalui forum seperti AI for Good, yang mempertemukan pakar, pembuat kebijakan, dan pemimpin industri untuk mengeksplorasi potensi manfaat dan risiko AI. Diskusi ini bertujuan membentuk norma internasional untuk pengembangan AI, khususnya di area seperti keberlanjutan dan hak asasi manusia.

Global Partnerships on AI (GPAI)

Diluncurkan pada 2020, GPAI adalah inisiatif internasional yang mempromosikan pengembangan AI yang bertanggung jawab melalui kerja sama lintas batas. Inisiatif ini mencakup negara-negara AI terdepan seperti Kanada, Prancis, Jepang, dan India, antara lain, dengan tujuan mendorong praktik terbaik, berbagi data, dan mendorong inovasi sambil menjunjung standar etika.

AI Safety Summit

Inggris menjadi tuan rumah AI Safety Summit global pertama pada November 2023. Acara ini mempertemukan para pemimpin global, pakar teknologi, dan pembuat kebijakan untuk membahas tantangan krusial dalam memastikan pengembangan AI yang aman dan etis. Acara tersebut menekankan pentingnya membangun kerangka untuk keselamatan AI, dengan fokus khusus pada penyelarasan pengembangan AI dengan standar keamanan dan etika global, sambil tetap mendorong inovasi. 

Tanpa tekanan publik untuk standar etika yang lebih kuat dan transparansi, perusahaan mungkin mengutamakan keuntungan dibanding keselamatan, dan pemerintah mungkin menghindari regulasi hingga dampak buruk terlihat. Namun ketika masyarakat menuntut akuntabilitas, hal itu mendorong legislator untuk bertindak dan membuat kebijakan yang memastikan AI memberi manfaat bagi masyarakat alih-alih merusak privasi atau keadilan.

Seperti kata Bruce Schneier dalam episode DataFramed kami tentang Kepercayaan dan Regulasi dalam AI:

Kebutuhan upskilling dan reskilling 

Bukan hanya perundang-undangan yang perlu diperbarui akibat AI; tenaga kerja juga harus beradaptasi. Seiring otomasi dan sistem cerdas mengambil alih tugas rutin, seperangkat keterampilan baru menjadi esensial. 

Seperti yang kami soroti dalam Laporan State of Data & AI Literacy, transisi ini menempatkan penekanan yang semakin besar pada pembekalan literasi AI, kecakapan teknis, dan kefasihan data kepada tenaga kerja agar dapat berkembang dalam lanskap pekerjaan yang berubah.

Dengan 62% pemimpin meyakini bahwa literasi AI kini penting untuk tugas sehari-hari tim mereka, tantangan bagi organisasi bukan hanya mengikuti perubahan teknologi tetapi juga memastikan tim mereka dibekali untuk memanfaatkan alat ini secara bertanggung jawab dan strategis. 

Hal ini memerlukan pendekatan pembelajaran yang terstruktur—yang mencakup konsep AI dasar, pertimbangan etis, dan pelatihan teknis lanjutan.

Organisasi yang berinvestasi dalam upskilling dan reskilling berada pada posisi yang lebih baik untuk mengurangi penggantian pekerjaan, mendorong inovasi, dan tetap kompetitif. Program pembelajaran komprehensif yang menjawab kebutuhan ini dapat menjembatani kesenjangan, mempersiapkan tim teknis dan nonteknis untuk memahami, menerapkan, dan mengelola sistem AI secara efektif.

DataCamp for Business dapat membantu tim Anda meningkatkan keterampilan AI, apa pun skala organisasi Anda. Dengan jalur pembelajaran kustom, pelaporan terperinci, dan tim sukses khusus, Anda dapat mencapai tujuan AI Anda dalam waktu singkat. 

Kesimpulan

Mengatur AI adalah kunci untuk memastikan teknologi ini memberi manfaat bagi masyarakat sambil mengelola risikonya. Dengan AI yang berkembang begitu cepat di berbagai sektor, regulasi yang ada sering kali tidak mampu mengikuti.

Saat AI maju ke area seperti model generatif, pengambilan keputusan otonom, dan deep learning, aturan lama mungkin tidak lagi memadai. Tantangan sebenarnya adalah menciptakan regulasi yang adaptif dan dapat berevolusi seiring teknologi—menyeimbangkan inovasi dengan pengawasan yang bertanggung jawab.

Jika Anda ingin memahami AI dan dampaknya lebih dalam, lihat AI Fundamentals skill track kami untuk membangun pengetahuan dan tetap selangkah lebih maju.