Apa itu UU AI UE? Panduan Ringkas untuk Pimpinan

Apa itu UU AI UE?

UU AI UE adalah kerangka regulasi komprehensif yang mengatur penerapan dan penggunaan sistem AI di pasar Eropa. Tujuannya melindungi hak individu dan memastikan keselamatan serta transparansi teknologi AI sekaligus mendorong inovasi di seluruh Uni Eropa. Dengan menetapkan standar ketat dan persyaratan kepatuhan, undang-undang ini bertujuan memposisikan UE sebagai pemimpin global dalam tata kelola AI.

Undang-undang ini mengklasifikasikan sistem AI ke dalam empat tingkat risiko: tidak dapat diterima, tinggi, terbatas, dan minimal. Ini melarang aplikasi yang menimbulkan risiko tidak dapat diterima, seperti penilaian sosial oleh pemerintah, dan memberlakukan persyaratan ketat pada sistem berisiko tinggi. Undang-undang ini juga mencakup pengamanan untuk AI tujuan umum, pembatasan pada identifikasi biometrik, dan larangan terhadap AI yang mengeksploitasi kerentanan pengguna. 

Diterbitkan pada 1 Agustus 2024 setelah disetujui oleh Parlemen Eropa dan Dewan UE, undang-undang ini memiliki linimasa implementasi bertahap berdasarkan jenis sistem AI, dengan larangan "risiko tidak dapat diterima" mulai berlaku setelah enam bulan dan regulasi AI tujuan umum setelah 12 bulan. Ketidakpatuhan dapat berujung pada denda hingga €35 juta atau 7% dari pendapatan tahunan global, mana yang lebih tinggi.

Kebutuhan akan regulasi AI

Kami telah mengeksplorasi konsep regulasi dalam AI di podcast DataFramed tentang Kepercayaan dan Regulasi dalam AI bersama Bruce Schneier. Kami melihat perubahan besar dalam kondisi AI dalam beberapa tahun terakhir, dengan laju perubahan yang semakin cepat. 

Sebagai masyarakat, kita harus mengikuti inovasi ini untuk memastikan pengguna akhir terlindungi dari risiko yang ditimbulkannya. Kita juga harus mempertimbangkan etika AI dan memiliki kerangka kerja yang memastikan penggunaannya bertanggung jawab. Penekanan harus pada organisasi yang membuat dan menerapkan alat AI yang kuat ini untuk melakukannya secara etis dan demi kepentingan publik, bukan semata-mata untuk keuntungan. 

Seperti dijelaskan oleh Bruce Schneier, kriptografer, profesional keamanan komputer, dan spesialis privasi,

Ketentuan Utama UU AI UE

Komponen utama UU AI UE adalah:

1. Klasifikasi berbasis risiko

Sistem AI umumnya masuk ke dalam empat kategori risiko utama di bawah UU AI UE: 

• Risiko tidak dapat diterima
• Risiko tinggi
• Risiko terbatas
• Risiko minimal/tidak ada.

Menurut laporan Komisi Eropa tentang UU AI, masing-masing diklasifikasikan menurut dua faktor utama:

• Sensitivitas data yang terlibat
• Kasus penggunaan atau aplikasi AI tertentu

Persyaratan bervariasi untuk setiap kategori risiko, dengan sebagian besar naskah undang-undang membahas sistem AI berisiko tinggi. 

2. Persyaratan untuk sistem AI berisiko tinggi

Untuk kategori risiko tinggi, UU AI UE memberlakukan persyaratan yang harus dipenuhi organisasi agar sistem tersebut dapat diterapkan di pasar UE.

Ini mencakup:

• Memiliki sistem manajemen risiko untuk siklus hidup sistem.
• Membangun program tata kelola data untuk memastikan dataset pelatihan, validasi, dan pengujian relevan dan cukup representatif. Pelaksanaannya harus dilakukan seoptimal mungkin agar bebas dari kesalahan dan lengkap sesuai tujuan yang dimaksudkan.
• Mencatat dokumentasi teknis untuk menunjukkan kepatuhan kepada otoritas saat penilaian kepatuhan.
• Merancang sistem agar secara otomatis merekam peristiwa yang relevan untuk mengidentifikasi risiko tingkat nasional dan modifikasi substansial untuk pencatatan. Ini harus dilakukan sepanjang siklus hidup sistem.
• Memberikan instruksi penggunaan kepada pihak penerap hilir untuk memungkinkan kepatuhan.
• Merancang agar memungkinkan penerap menerapkan pengawasan manusia.
• Merancang untuk mencapai tingkat ketepatan, ketangguhan, dan keamanan siber yang sesuai.
• Membangun sistem manajemen mutu untuk kepatuhan.

Ini diuraikan di bawah Kepatuhan terhadap Persyaratan (Pasal 8–17).

Persyaratan untuk sistem AI berisiko tinggi - Dibuat Menggunakan Napkin.ai

Selain itu, Undang-undang ini mewajibkan organisasi memastikan staf dan pihak lain yang terlibat dalam pengembangan atau penggunaan sistem AI memiliki literasi AI yang memadai. Ini mencakup pemahaman teknologi, penerapannya, dan potensi risikonya. 

Perusahaan bertanggung jawab menyediakan pelatihan yang sesuai untuk memastikan sistem AI ditangani secara bertanggung jawab dan etis, selaras dengan konteks penggunaan spesifiknya. Di bagian akhir artikel ini, kami akan membahas bagaimana DataCamp for Business dapat membantu organisasi Anda meningkatkan tingkat literasi AI.

3. Praktik AI yang dilarang

UU AI UE secara tegas melarang praktik tertentu yang dianggap tidak dapat diterima dan menimbulkan risiko ekstrem bagi individu atau masyarakat. Ini mencakup:

• Sistem AI yang mengeksploitasi kerentanan kelompok tertentu (misalnya, anak-anak, penyandang disabilitas)
• Penilaian sosial berdasarkan analisis perilaku oleh AI
• Penggunaan teknik bawah sadar untuk memanipulasi perilaku

Praktik-praktik ini ditetapkan dalam Praktik yang Dilarang (Pasal 5).

Kategori Risiko dalam UU AI UE

UU AI UE mengategorikan sistem AI ke dalam empat tingkat risiko—risiko tidak dapat diterima, risiko tinggi, risiko terbatas, dan risiko minimal atau tidak ada. Setiap kategori memiliki persyaratan dan langkah regulasi yang berbeda. Secara umum, semakin tinggi risikonya, semakin besar kewajiban regulasinya.

Sumber: Kursus Introduction to EU AI Act, DataCamp

1. Risiko tidak dapat diterima

Sistem AI yang dianggap menimbulkan risiko tidak dapat diterima terhadap keselamatan atau hak orang dilarang. Contohnya termasuk aplikasi AI yang memanipulasi perilaku manusia, mengeksploitasi kerentanan, atau memungkinkan penilaian sosial oleh pemerintah.

Menurut Pasal 5, Praktik AI yang Dilarang, sistem ini tidak boleh dipasarkan atau digunakan di Uni Eropa.

Berikut ringkasan praktik AI yang dilarang:

• Menerapkan sistem AI yang dapat memanipulasi perilaku, keputusan, atau opini manusia melalui teknik bawah sadar
• Menggunakan sistem AI untuk mengeksploitasi kerentanan kelompok tertentu (misalnya, anak-anak, lansia penyandang disabilitas)
• Menerapkan penilaian sosial berdasarkan analisis perilaku oleh AI
• Model AI yang mencakup klasifikasi orang alami atau kelompok orang
• Memprediksi risiko seseorang melakukan tindak pidana
• Menggunakan sistem AI yang melakukan pengambilan gambar wajah secara massal tanpa sasaran dari internet atau rekaman CCTV untuk pengenalan wajah
• Menggunakan AI untuk menyimpulkan emosi seseorang di area tempat kerja dan institusi pendidikan
• Mengategorikan individu berdasarkan data biometrik mereka
• Menggunakan sistem identifikasi biometrik jarak jauh 'real-time' selain untuk tujuan penegakan hukum

2. Risiko tinggi

Sistem AI berisiko tinggi, menurut Aturan Klasifikasi untuk Sistem AI Berisiko Tinggi (Pasal 6), adalah sistem AI yang dimaksudkan untuk digunakan sebagai komponen keselamatan suatu produk dan wajib menjalani penilaian kesesuaian oleh pihak ketiga.

Selain itu, setiap sistem AI, sebagaimana dinyatakan dalam Lampiran III, yang termasuk dalam kasus penggunaan berikut juga akan dianggap sebagai sistem AI berisiko tinggi:

• Biometrik
• Infrastruktur kritis
• Pendidikan
• Ketenagakerjaan
• Layanan esensial
• Penegakan hukum
• Migrasi
• Peradilan

3. Risiko terbatas

Sistem AI yang diklasifikasikan sebagai "risiko terbatas" adalah sistem yang menimbulkan beberapa potensi risiko bagi individu atau masyarakat namun tidak dianggap berisiko tinggi atau tidak dapat diterima. Sistem ini tidak memerlukan pengawasan regulasi ketat seperti pada AI berisiko tinggi, tetapi tetap harus mematuhi kewajiban transparansi tertentu.

Untuk sistem AI berisiko terbatas, undang-undang umumnya mengharuskan penyedia memastikan pengguna mengetahui bahwa mereka berinteraksi dengan sistem AI. Artinya, misalnya, chatbot atau antarmuka bertenaga AI lainnya harus secara jelas mengungkapkan bahwa pengguna berinteraksi dengan AI, bukan manusia. Langkah transparansi ini dimaksudkan untuk mencegah kebingungan dan memastikan pengguna memahami sifat teknologi yang mereka gunakan.

Walaupun sistem AI berisiko terbatas tunduk pada kewajiban transparansi ini, sistem tersebut tidak dikenai persyaratan kepatuhan yang lebih ketat seperti pada sistem berisiko tinggi, seperti dokumentasi ekstensif, proses manajemen risiko, atau penilaian wajib. Kategori ini dirancang untuk menyeimbangkan kebutuhan akan kesadaran pengguna dengan dorongan inovasi tanpa membebani pengembang dan penyedia dengan regulasi berat.

Sistem AI yang menggunakan AI tujuan umum (GPAI), seperti GPT-4, Midjourney, dan model LLaMA milik Meta juga diatur dalam kategori ini.

Sumber: Kursus Introduction to EU AI Act, DataCamp

Model GPAI adalah model AI yang dilatih dengan sejumlah besar data menggunakan swa-pengawasan dalam skala besar yang menunjukkan generalitas signifikan dan dapat menjalankan berbagai tugas berbeda dengan beraneka integrasi ke sistem atau aplikasi hilir.

Terlepas dari kasus penggunaan model GPAI ini, regulasi dari UU AI UE tetap berlaku.

Berikut persyaratannya:

• Dokumentasi teknis harus dicatat.
• Informasi dan dokumentasi harus diberikan kepada penyedia hilir.
• Kebijakan untuk menghormati Copyright Directive harus disusun.
• Ringkasan terperinci dari konten yang digunakan untuk melatih model GPAI harus ditulis.

Informasi lebih lanjut dapat ditemukan dalam Pasal 53: Kewajiban bagi Penyedia Model AI Tujuan Umum.

Jika GPAI dinyatakan sebagai Model AI Tujuan Umum dengan Risiko Sistemik, serangkaian kewajiban berbeda diperlukan sesuai Pasal 55: Kewajiban bagi Penyedia Model AI Tujuan Umum dengan Risiko Sistemik.

4. Risiko minimal

Kategori risiko minimal adalah kategori yang tidak diatur.

Beberapa contoh sistem AI semacam ini mungkin mencakup:

• Gim video yang didukung AI
• Filter spam

Saat ini tidak ada regulasi untuk sistem AI dalam kategori ini di UU AI UE.

Dampak Keseluruhan pada Pasar AI

UU AI UE diperkirakan akan berdampak luas bagi individu dan organisasi. Undang-undang ini juga kemungkinan akan dipengaruhi oleh pembentukan aturan UE di masa depan di bawah undang-undang ini serta pedoman yang dikeluarkan oleh regulator UE.

Berikut beberapa dampak yang mungkin timbul dari implementasi UU AI UE:

Untuk ChatGPT/AI generatif

Untuk model bahasa besar yang sudah ada dengan pengaruh luas terhadap konten internet dan perilaku pengguna, seperti ChatGPT milik OpenAI, Gemini milik Google, Llama 3.1 milik Meta, dan Claude AI, langkah kepatuhan yang lebih ketat mungkin diperlukan untuk memastikan penggunaan yang etis. Ini dapat mengarah pada pengawasan dan pembatasan yang lebih besar tentang cara model tersebut digunakan, yang dapat memengaruhi popularitas dan profitabilitasnya.

Selain itu, OpenAI mungkin harus memodifikasi model ChatGPT-nya untuk memastikan tidak ada praktik terlarang sebagaimana diuraikan dalam Pasal 5 UU AI UE jika termasuk dalam salah satu kasus penggunaan yang dilarang.

Untuk bisnis

Undang-undang baru ini juga akan membawa beberapa perubahan pada bisnis di luar model LLM semacam itu.

Perusahaan yang mengembangkan atau menggunakan sistem AI berisiko tinggi harus mematuhi persyaratan ketat dan menjalani pengujian, yang dapat meningkatkan biaya kepatuhan. Bisnis harus berinvestasi lebih banyak pada keahlian hukum dan teknis untuk memastikan kepatuhan. Akibatnya, startup mungkin enggan mengadopsi model AI yang melibatkan aplikasi berisiko lebih tinggi karena biaya kepatuhan komersialisasi AI.

Hal ini biaya tinggi untuk menskalakan model AI dapat mengarah pada konsentrasi pasar di perusahaan “big tech” yang memonopoli industri.

Dampak lain adalah perlindungan rahasia dagang di perusahaan dengan model AI sebagai produk utama. Undang-undang baru ini memaksa transparansi tentang data yang digunakan untuk melatih model AI, yang esensial bagi operasi perusahaan.

Selain itu, hukum yang ketat ini juga dapat menghambat inovasi dan masuknya teknologi baru ke pasar Eropa. Misalnya, Meta menahan model AI multimodal terbarunya dari Uni Eropa, yang mengindikasikan kemungkinan resistensi terhadap inovasi.

Terlepas dari tantangan tersebut, Undang-undang ini juga menawarkan peluang untuk berinovasi. Standar baru dan jelas ini memberikan arena yang setara bagi bisnis untuk mengembangkan teknologi AI yang memenuhi tolok ukur etika dan keselamatan.

Organisasi yang memprioritaskan kepatuhan dan praktik AI yang etis dapat memperoleh keunggulan kompetitif, membangun kepercayaan dengan konsumen, dan memosisikan diri sebagai pemimpin dalam AI yang etis. Diferensiasi ini dapat menarik konsumen dan investor yang peduli sosial, meningkatkan reputasi merek dan pangsa pasar.

Namun, dengan perubahan ini, kebutuhan akan literasi AI menjadi semakin besar, seperti yang akan kami bahas lebih lanjut di bawah.

Untuk konsumen

Bagi konsumen, Undang-undang ini membawa manfaat terbesar dalam hal:

• Transparansi dan keterjelasan sistem AI yang lebih baik
• Kepercayaan yang lebih besar pada produk AI yang disetujui
• Perlindungan yang andal dari praktik AI yang diskriminatif
• Memiliki saluran untuk menyampaikan kekhawatiran

Ke depan, konsumen mungkin dapat menuntut kepatuhan terhadap UU AI UE dari perusahaan yang mengembangkan atau menggunakan sistem AI berisiko tinggi. Ini akan memungkinkan mereka menjaga privasi data dan memastikan informasi pribadi mereka tidak digunakan secara tidak etis.

Untuk negara anggota UE

Negara anggota UE harus menyesuaikan kerangka regulasi nasional yang ada dengan UU AI UE yang baru. Komisi UE juga dapat mengeluarkan pedoman dan arahan yang lebih spesifik untuk diikuti negara anggota. 

Namun, sebagaimana diuraikan dalam laporan Reuters terbaru,

"Akselerasi adopsi AI tahun lalu membantu menempatkan Eropa di jalur yang tepat untuk memenuhi tujuan Dekade Digital."—Tanuja Randery, Managing Director di AWS

Untuk negara-negara global

UU AI UE kemungkinan akan memengaruhi regulasi AI sebagai standar global. Sebagai salah satu kerangka regulasi AI komprehensif pertama, ini menjadi preseden yang mungkin diikuti wilayah lain. Perusahaan yang beroperasi secara internasional harus mengikuti perkembangan ini agar tetap kompetitif.

Kapan UU AI UE Berlaku? Linimasa Implementasi

Berikut linimasa tentatif untuk implementasi UU AI UE:

• 1 Agustus 2024: Tanggal mulai berlakunya UU AI
• 2 Februari 2025: Larangan pada sistem AI tertentu mulai berlaku (Bab 1 dan Bab 2). Di sinilah persyaratan literasi AI akan mulai berlaku.
• 2 Agustus 2025: Aturan berikut mulai berlaku: Badan yang diberitahu (Bab III, Bagian 4), model GPAI (Bab V), Tata Kelola (Bab VII), Kerahasiaan (Pasal 78), Sanksi (Pasal 99 dan 100)
• 2 Agustus 2026: Sisa UU AI mulai berlaku, kecuali Pasal 6(1).
• 2 Agustus 2027: Pasal 6(1) dan kewajiban terkait dalam Regulasi mulai berlaku.

Singkatnya, undang-undang ini tidak akan sepenuhnya diimplementasikan hingga 2027, memberi waktu bagi perusahaan dan negara anggota untuk menyesuaikan dan mematuhi regulasi baru.

Untuk linimasa lengkap, kunjungi Linimasa Implementasi UU AI UE.

UU AI UE: Persyaratan Literasi AI

Selain mengatur bagaimana model AI dikembangkan, UU AI UE juga menekankan pelatihan staf dalam literasi AI.

Menurut Bab I: Ketentuan Umum, Pasal 4: Literasi AI:

"Penyedia dan penerap sistem AI harus mengambil langkah-langkah untuk memastikan, seoptimal mungkin, tingkat literasi AI yang memadai dari staf mereka dan orang lain yang menangani pengoperasian dan penggunaan sistem AI atas nama mereka, dengan mempertimbangkan pengetahuan teknis, pengalaman, pendidikan, dan pelatihan mereka serta konteks penggunaan sistem AI, dan mempertimbangkan orang atau kelompok orang yang akan menjadi subjek penggunaan sistem AI."

Sederhananya, ini berarti perusahaan harus memastikan bahwa karyawan dan individu lain yang terlibat dalam pengembangan atau penggunaan sistem AI mendapat pelatihan yang memadai untuk memahami teknologi, penerapan, dan potensi risikonya.

Sentimen ini sejalan dengan temuan dalam Laporan State of Data & AI Literacy 2024 dari DataCamp. 62% pemimpin yang kami survei meyakini literasi AI penting untuk tugas sehari-hari tim mereka. Demikian pula, 70% pemimpin mengidentifikasi pemahaman dasar konsep AI sebagai yang paling penting bagi tim mereka, menekankan perlunya tim memahami prinsip inti yang mendasari teknologi AI.

Meski demikian, pelatihan data dan AI masih tahap awal di organisasi. 26% pemimpin melaporkan tidak menawarkan bentuk pelatihan AI apa pun. Tambahan 26% pemimpin menyatakan pelatihan AI hanya diperuntukkan bagi peran teknis, sedangkan hanya 18% yang memperluas pelatihan tersebut kepada staf non-teknis. 

Yang mengkhawatirkan, hanya 25% pemimpin berasal dari organisasi yang telah menetapkan program literasi AI komprehensif di seluruh organisasi.

Dengan DataCamp For Business Anda dapat mulai membangun program literasi AI yang mencakup keterampilan data dan AI yang diperlukan untuk memastikan kepatuhan terhadap UU AI UE, baik Anda melatih tim beranggotakan 2 maupun 10.000+.  Selain mencakup cara bekerja dengan dan membangun alat AI, Anda dapat membuat program pelatihan komprehensif yang mencakup etika AI, pengelolaan risiko, dan penerapan model AI, dimulai dengan jalur keterampilan EU AI Act Fundamentals kami.

Kesimpulan

UU AI UE mewakili tonggak penting dalam regulasi kecerdasan buatan. Ini menghadirkan keseimbangan antara mendorong inovasi dan memastikan penggunaan teknologi AI yang etis dan aman. 

Meski dapat menimbulkan tantangan bagi bisnis, ini juga menawarkan peluang untuk pertumbuhan dan diferensiasi. Bagi konsumen, ini menyediakan kerangka untuk memercayai dan meminta pertanggungjawaban perusahaan atas penggunaan AI mereka. Bagi komunitas global, ini menetapkan preseden regulasi AI yang mungkin diadopsi wilayah lain di masa depan.

Mencari opsi untuk meningkatkan pemahaman tim Anda tentang UU AI UE? Pelajari lebih lanjut tentang undang-undang baru ini dalam kursus Understanding the EU AI Act kami dan dapatkan pemahaman menyeluruh tentang cara menavigasi regulasi dan membangun kepercayaan dengan AI yang bertanggung jawab dalam jalur keterampilan EU AI Act Fundamentals kami.