Mempromosikan AI yang Bertanggung Jawab: Moderasi Konten di ChatGPT

Penggunaan istilah kecerdasan buatan yang pertama kali tercatat terjadi pada sebuah konferensi akademik pada tahun 1956 melalui pidato John McCarthy, yang merujuk pada simulasi kecerdasan manusia oleh mesin. Karena itu, ia kerap disebut sebagai salah satu bapak pendiri AI.

Namun, perjalanan untuk memahami apakah mesin bisa berpikir sudah dimulai jauh sebelumnya. Faktanya, pada tahun 1950, ahli matematika Inggris Alan Turing menerbitkan sebuah makalah berjudul Computing Machinery and Intelligence untuk mengusulkan sebuah uji guna menentukan apakah sebuah komputer dapat berpikir.

Saat ini, pertanyaan seputar Artificial Intelligence (AI) berbeda. Teknologi ini semakin populer berkat peningkatan volume data yang kita hasilkan, algoritme yang lebih maju, dan peningkatan signifikan dalam daya komputasi. Kita kini berada pada titik yang wajar untuk mempertimbangkan isu etika dan sosial yang muncul dari penggunaan alat semacam ini.

Walau teknologi AI dapat meningkatkan efisiensi dan produktivitas, ia juga berpotensi menghasilkan konten yang berbahaya, memuat bias, dan melanggar privasi data. Hal ini memicu perbincangan menarik mengenai praktik membangun AI secara bertanggung jawab, sehingga memberdayakan karyawan, berdampak positif bagi pelanggan, dan memungkinkan perusahaan melakukan skala AI secara etis.

Evolusi ChatGPT dan Moderasi Konten

Salah satu kemajuan AI yang paling banyak dibicarakan dalam budaya populer adalah ChatGPT. ChatGPT adalah chatbot AI yang dikembangkan oleh OpenAI untuk meniru interaksi layaknya manusia dengan pengguna.

ChatGPT, yang sempat menyandang gelar layanan online dengan adopsi tercepat selama beberapa bulan setelah meraih satu juta pengguna dalam lima hari, telah melalui beberapa iterasi sejak debut awalnya pada Juni 2018.

Pada saat itu, modelnya bernama Generative Pre-trained Transformer 1 (GPT-1). Ini adalah model bahasa besar (LLM) pertama yang dikembangkan oleh OpenAI, sebagai respons terhadap penemuan arsitektur transformer oleh Google pada 2017. Model ini menjadi fondasi ChatGPT seperti yang kita kenal sekarang, namun ada iterasi lanjutan sebelum sampai ke sana.

Sebagai contoh, pada 2019, OpenAI merilis model GPT-2 yang lebih bertenaga. Pembaruannya berfokus pada peningkatan kemampuan pemahaman bahasa model, yang berarti melatih model pada himpunan data yang jauh lebih besar dan menyempurnakan akses agar pengguna dapat menyesuaikan model untuk kasus penggunaan spesifik mereka. Tak lama kemudian, pada 2020, hadir GPT-3.

Kini ChatGPT dianggap sebagai salah satu model bahasa terkuat yang tersedia pada saat penulisan. Ia mampu melakukan tugas pemrosesan bahasa alami seperti penerjemahan, pelengkapan teks, penjawaban pertanyaan, dan pembuatan teks.

Namun, bukan berarti ia tanpa masalah.

Kekuatan dan keterbatasan ChatGPT

ChatGPT seperti yang kita kenal saat ini berbasis arsitektur GPT-3.5, dengan pelanggan berbayar mendapatkan akses ke GPT-4. Perbedaan utamanya adalah dataset yang digunakan dan fakta bahwa model ini dioptimalkan untuk kasus penggunaan percakapan guna menawarkan pengalaman yang lebih personal saat pengguna berinteraksi melalui antarmuka chat.

Perubahan ini telah meningkatkan efisiensi komunikasi antara manusia dan program komputer. Ini juga secara drastis meningkatkan cara informasi diproses, dikonsumsi, dan pengalaman pelanggan.

Namun, tetap ada kekurangannya. Sejumlah diskusi baru-baru ini menyoroti potensi ChatGPT untuk menghasilkan respons yang tidak pantas atau bias. Panduan kami tentang etika AI generatif membahasnya lebih mendalam.

Masalah ini berakar pada bagaimana ChatGPT dibangun — LLM dilatih menggunakan tulisan kolektif individu dari latar belakang beragam. Meski keragaman ini membantu pemahaman model, ia juga berpotensi memperkenalkan bias dan prasangka ke dalam karya yang dihasilkannya.

Kebutuhan akan moderasi aktif

Moderasi konten aktif menggambarkan proses meninjau dan memantau konten yang dibuat pengguna. Tujuannya adalah memastikan konten buatan pengguna memenuhi standar dan pedoman tertentu, yang melindungi merek Anda dari keterkaitan dengan hal negatif dan melindungi pengguna dari melihat konten yang mungkin menyinggung.

Sebagai contoh, salah satu aspek moderasi konten aktif mencakup penghapusan konten yang tidak pantas dari platform, sementara aspek lain melibatkan penegakan pedoman komunitas untuk mencegah hal-hal seperti perundungan.

Mekanisme Moderasi Konten ChatGPT

OpenAI menyadari ancaman yang ditimbulkan oleh konten buatan pengguna (misalnya merusak reputasi aplikasi, menimbulkan bahaya bagi pengguna, dan lain-lain) dan segera bergerak cepat menyediakan alat untuk mencegah konten yang tidak pantas datang dari model bahasa atau dari pengguna.

Alat ini dikemas rapi dalam Moderation API, yang memungkinkan pengembang memeriksa konten mereka terhadap kebijakan penggunaan OpenAI. Kebijakan ini berupaya menghapus bahasa yang tidak pantas, seperti:

• Ujaran kebencian
• Bahasa yang mengancam
• Pelecehan
• Tindakan menyakiti diri sendiri (niat atau instruksi)
• Konten grafis (termasuk pornografi dan kekerasan)

Namun, model seperti ChatGPT juga dapat mengeluarkan keluaran yang bias atau tidak akurat ketika dipengaruhi oleh masukan pengguna yang tidak tersaring. Karena itu, langkah pengendalian diterapkan untuk mencegah model secara tidak sengaja menyebarkan informasi yang keliru.

Dengan demikian, konten dikendalikan dari dua sisi:

Kendali input pengguna

Teknik untuk memantau, menyaring, dan mengelola konten yang dibuat pengguna; tujuannya adalah memberdayakan bisnis untuk menjaga integritas, keselamatan, dan standar moral saat membangun aplikasi LLM.

Kendali keluaran model

Kebijakan dan prosedur ini memungkinkan pelacakan dan penyaringan balasan yang dihasilkan model saat berinteraksi dengan pengguna; ini memungkinkan pengembang menangani potensi masalah pada keluaran model, seperti bias.

Penerapan kendali input dan output menempatkan tanggung jawab etis LLM pada bisnis; menjadi tanggung jawab bisnis untuk memastikan pengguna memiliki pengalaman positif dengan produk dan layanan mereka, serta memastikan AI digunakan secara bertanggung jawab.

Metode Moderasi Konten

Ada enam jenis moderasi yang umum:

Pra-moderasi

Sebelum konten ditampilkan ke publik, konten harus diperiksa. Ini disebut pra-moderasi. Keuntungan pra-moderasi adalah konten yang dianggap tidak sesuai atau tidak diinginkan untuk platform online dapat dilarang sebelum menimbulkan dampak buruk.

Ini merupakan pilihan moderasi yang sangat populer untuk komunitas online yang menyasar audiens yang lebih muda. Namun, banyak yang menilai hal ini mematikan sifat kepuasan instan dari komunitas online karena konten harus disetujui sebelum dibagikan.

Pascamoderasi

Kebalikan dari pra-moderasi adalah pascamoderasi. Dari perspektif pengalaman pengguna, ini cenderung lebih disukai karena konten dapat diterbitkan segera setelah diajukan, sebelum masuk antrean untuk dimoderasi.

Keuntungan utama pendekatan ini adalah pengguna bisa berkomunikasi secara real-time, namun biayanya bisa menjadi mahal karena operator situs web, yang merupakan penerbit legal konten, memegang tanggung jawab atas apa yang ditampilkan di platform mereka – semakin banyak orang yang melihat konten destruktif, semakin besar kerugian jika kasusnya sampai ke pengadilan.

Moderasi reaktif

Pilihan lain adalah memberikan kekuasaan di tangan anggota komunitas. Ini berarti pengguna dapat menandai konten yang melanggar aturan atau anggota yang berperilaku tidak pantas.

Umum ditemui bahwa moderasi reaktif digunakan bersamaan dengan pra- atau pascamoderasi sebagai jaring pengaman tambahan untuk konten yang lolos dari moderator. Keuntungan besar pendekatan ini adalah dapat diskalakan seiring pertumbuhan komunitas tanpa menambah beban sumber daya Anda.

Moderasi terdistribusi

Moderasi terdistribusi adalah bentuk penyaringan konten yang jarang. Ini bergantung pada sistem penilaian yang digunakan anggota komunitas untuk memberikan suara apakah sebuah kiriman selaras dengan pedoman komunitas.

Perusahaan cenderung enggan membebankan tanggung jawab kepada anggota komunitas untuk memoderasi diri sendiri karena menimbulkan risiko hukum dan citra merek.

Moderasi otomatis

Seiring meningkatnya konten buatan pengguna, meningkat pula kompleksitas bagi moderator manusia untuk turun tangan dan mengelola beban. Bukan hanya sulit bagi individu untuk memilah-milah konten dalam jumlah besar secara manual, tetapi juga dapat membuat mental turun; tidak ada yang berangkat kerja dengan semangat untuk memilah tumpukan konten yang mengganggu.

Menambahkan moderasi otomatis ke moderasi bertenaga manusia adalah solusi yang sangat berharga. Ini terdiri dari berbagai alat teknis, seperti penyaring kata, untuk menolak dan menyetujui kiriman.

Tanpa moderasi

Para moderator konten kemungkinan akan menyarankan untuk tidak menggunakan pendekatan tanpa moderasi. Namun, mereka juga memahami mungkin ada alasan baik mengapa orang memilih agar konten di komunitasnya tidak dimoderasi.

Misalnya, mungkin tidak ada cukup sumber daya untuk melakukannya, atau gagasan tentang “kebebasan berpendapat” adalah hal yang ingin dijunjung oleh komunitas Anda. Pada dasarnya, melepaskan moderasi berarti melepaskan kendali, membuat platform rentan, yang umumnya menjadi penghalang bagi pengguna baru.

Moderasi Konten di Dunia Nyata

Kebanyakan platform saat ini, seperti Facebook dan YouTube, memanfaatkan moderasi konten otomatis untuk memblokir jenis konten tertentu. Ini biasanya melibatkan penggunaan AI dengan tujuan spesifik untuk meningkatkan upaya moderasi konten dan meningkatkan pengalaman pengguna di platform mereka.

Namun, meski AI bisa mendeteksi konten yang tidak pantas dan mengambil alih sebagian besar pekerjaan membosankan yang biasanya diberikan kepada manusia, AI juga punya kekurangan. Mesin sering kali melewatkan nuansa penting seperti misinformasi, bias, dan ujaran kebencian, yang berarti menghapus total moderator manusia bukanlah pilihan ideal.

Dengan kata lain, moderasi otomatis menggunakan AI sering dipasangkan dengan moderasi bertenaga manusia untuk memastikan platform aman bagi pengguna dan citra merek tetap terjaga. Berikut beberapa contoh dunia nyata:

Konten abusif

Twitter (kini X) menghadapi kritik keras karena tidak mampu merespons pelecehan online secara efisien. Namun, sejak pengambilalihan oleh Elon Musk, perusahaan banyak mengandalkan otomasi untuk memoderasi konten. Hasilnya adalah alat seperti Quality filter, yang menggunakan teknik seperti pemrosesan bahasa alami untuk membatasi visibilitas konten berkualitas rendah.

Konten dewasa

YouTube memiliki kebijakan ketat terhadap ketelanjangan dan konten seksual; pengguna berpotensi mendapatkan kanalnya ditutup jika melanggar. Cara mereka menangkap konten semacam itu ada dua: moderasi otomatis dan reaktif.

Dalam pendekatan otomatis, Google menerapkan algoritme yang memanfaatkan teknik seperti visi komputer untuk memeriksa adanya ketelanjangan. Namun, jika konten lolos dari algoritme mereka, YouTube mengandalkan penonton untuk menandai konten sebagai tidak pantas agar dapat ditinjau.

Konten palsu dan menyesatkan

Instagram mengandalkan AI dan moderator manusia untuk menemukan, meninjau, dan mengambil tindakan terhadap konten yang menyebarkan informasi menyesatkan – hal ini sangat terlihat selama wabah Covid.

Menurut Pusat Bantuan Instagram, “[AI Instagram] dapat mendeteksi dan menghapus konten yang bertentangan dengan Pedoman Komunitas kami sebelum ada yang melaporkannya. Di waktu lain, teknologi kami mengirimkan konten ke tim peninjau manusia untuk melihat lebih dekat dan mengambil keputusan.”

Kesimpulan

Saat kita bergerak dari teori dasar Turing dan McCarthy menuju aplikasi praktis ChatGPT, lanskap etika AI menjadi semakin kompleks. Meski teknologi AI seperti ChatGPT menawarkan potensi transformatif, ia juga menghadirkan tantangan etika, termasuk moderasi konten dan bias.

Moderation API dari OpenAI adalah langkah penting menuju AI yang bertanggung jawab, namun bukan solusi serba guna. Bisnis dan pengembang berbagi tanggung jawab etis untuk menerapkan pendekatan moderasi yang berlapis, memadukan sistem otomatis dengan pengawasan manusia. Contoh dunia nyata dari platform seperti Twitter dan YouTube menunjukkan efektivitas model hibrida ini.

Bagi Anda yang ingin mendalami AI yang bertanggung jawab, kami memiliki beberapa sumber untuk membantu, seperti podcast tentang masa depan AI yang bertanggung jawab, webinar tentang evaluasi model machine learning di Python, dan kursus tentang etika AI.

Pengelolaan etis AI adalah upaya kolektif yang memerlukan kewaspadaan berkelanjutan dari semua pemangku kepentingan. Saat kita mendorong batas kemampuan AI, mari juga mendorong integritas etis untuk memastikan teknologi menjadi kekuatan untuk kebaikan.