Mengapa Etika Data Penting
Mari lihat beberapa contoh pentingnya etika data:
- Pada September 2018, peretas menyisipkan kode berbahaya ke situs web British Airways, mengalihkan lalu lintas ke situs tiruan yang curang. Pelanggan kemudian tanpa sadar memberikan informasi mereka kepada penipu, termasuk detail login, informasi kartu pembayaran, alamat, dan informasi pemesanan perjalanan.
- Pada 2019, setelah Apple memperkenalkan kartu kreditnya kepada konsumen, muncul tuduhan adanya algoritme yang bias gender. Beberapa eksekutif teknologi terkemuka (termasuk Steve Wozniak, teknolog terkenal dan salah satu pendiri Apple) menggambarkan menerima limit kredit yang jauh lebih tinggi daripada istri mereka, yang asetnya mereka miliki bersama. Selain gender, tidak ada faktor jelas yang dapat menjelaskan perbedaan tersebut.
- Pada Maret 2021, privasi lebih dari 533 juta pengguna Facebook dikompromikan ketika data mereka diposting di forum peretas terbuka. Itu adalah salah satu kebocoran data terbesar sepanjang masa. Insiden ini menimbulkan kekhawatiran tentang bagaimana organisasi menyimpan dan mengamankan informasi pribadi dan apakah mereka seharusnya diizinkan mengakses data tersebut sejak awal.
Contoh-contoh ini hanyalah gambaran kecil dari pelanggaran keamanan digital. Bahkan DataCamp pernah mengalami pelanggaran keamanan pada 2019.
Terlepas dari keahlian teknis Anda, pentingnya etika data semakin jelas. Kita hidup di dunia di mana data adalah aset yang kuat, mampu mendorong inovasi dan meningkatkan kehidupan. Namun, tanpa pagar pembatas etis, data juga dapat disalahgunakan dan menimbulkan kerugian.
Memahami etika data memungkinkan kita menavigasi penggunaan informasi kita dengan lebih baik, memastikan kita dapat melindungi diri sekaligus tetap terlibat dalam masyarakat yang digerakkan oleh data. Selain itu, ini mendorong kita untuk berpikir kritis tentang masa depan seperti apa yang ingin kita ciptakan, bukan hanya untuk diri kita sendiri tetapi juga untuk generasi mendatang, seiring teknologi terus berkembang.
Memahami Lanskap Etika Data Saat Ini & Masa Depan Potensial
Kecerdasan Buatan (AI) dan pembelajaran mesin berkembang pesat, namun masih pada tahap awal. Hal ini membuat pertimbangan etis menjadi krusial untuk ditangani sekarang, agar teknologi ini tetap bermanfaat bagi masyarakat. Pertanyaan tentang masa depan AI yang bertanggung jawab semakin mendesak, dan penting untuk tetap mendapat informasi tentang isu-isu ini, misalnya melalui sumber seperti podcast DataFramed dari DataCamp.
Seiring kita semakin banyak hidup secara online, batas antara ruang privat dan publik menjadi kabur. Meskipun ada perlindungan hukum untuk data pribadi—seperti General Data Protection Regulation (GDPR) di UE dan Consumer Privacy Act (CCPA) di California—area abu-abu tetap ada, sehingga membuat pengelolaan privasi menjadi menantang.
[Referensi: Statista 2021]
Dan bila Anda sering menggunakan beberapa platform ini, Anda mungkin akan terkejut dengan data apa saja yang sebenarnya dijual. Mulai dari email hingga riwayat chat dan lokasi Anda, agen periklanan atau pembeli lainnya bisa mendapatkan banyak hal ketika Anda tanpa sadar membiarkan mereka masuk ke kehidupan Anda melalui aplikasi.
[Referensi: Harvard Business Review]
Banyak organisasi sedang mengembangkan infrastruktur untuk memungkinkan AI dan sains data di berbagai industri, yang berarti riset mengenai paparan baru saja dimulai. Persetujuan dan penjualan informasi pribadi akan menjadi topik penting di semakin banyak aspek kehidupan.
Untuk memahami potensi dampak ketika perusahaan tertentu mengembangkan infrastruktur guna memfasilitasi proyek big data, alat seni AI open-source seperti DALL-E dan Stable Diffusion menunjukkan betapa cepatnya AI dapat meningkat setelah tersedia luas. Dengan perkembangan yang cepat ini, satu-satunya jaminan untuk masa depan adalah bahwa privasi data, keamanan, dan rasa keadilan akan semakin menantang untuk dijamin.
Prinsip-Prinsip Etika Big Data
Meskipun tidak ada pendekatan yang cocok untuk semua dalam praktik data yang etis, ada prinsip-prinsip dasar yang dapat memandu penggunaan data yang bertanggung jawab:
- Transparansi: Komunikasi yang jelas tentang praktik pengumpulan, penyimpanan, dan pembagian data sangat penting. Pengguna harus memahami bagaimana informasi mereka digunakan, tanpa perlu keahlian hukum untuk menavigasi syarat dan ketentuan.
- Akuntabilitas: Organisasi harus bertanggung jawab atas data yang mereka kumpulkan, termasuk melindunginya dari kebocoran dan penyalahgunaan. Prinsip ini krusial untuk menjaga kepercayaan antara perusahaan dan penggunanya.
- Agensi Individu: Individu harus memiliki kendali atas data pribadi mereka, termasuk kemampuan untuk mengakses, mengoreksi, atau menghapus informasi mereka. Menjamin agensi ini adalah hak asasi manusia yang mendasar di era digital.
- Privasi Data: Privasi adalah ekspektasi bahwa data pribadi akan dilindungi dari paparan yang tidak sah. Organisasi harus menegakkan ekspektasi ini dengan menerapkan langkah-langkah keamanan yang kuat dan menghormati perjanjian yang dibuat dengan pengguna.
Menerapkan Etika Data
Menerapkan etika data bukan hanya soal pertimbangan filosofis; ini tentang membuat keputusan praktis yang mencerminkan nilai-nilai tersebut dalam operasi sehari-hari. Berikut cara berbagai peran dapat mengintegrasikan etika data dalam pekerjaan mereka:
Panduan Etika Data untuk Praktisi Individual
Insinyur Perangkat Lunak, Machine Learning, atau AI
Insinyur harus bekerja sama dengan ahli etika dan pemangku kepentingan lainnya untuk mengatasi tantangan etis. Mendokumentasikan proses dan melakukan telaah data yang menyeluruh dapat membantu mengidentifikasi dan mengurangi potensi masalah etis sejak awal pengembangan.
Manajer Proyek Teknis
Manajer proyek harus memperhitungkan pertimbangan etis dalam perencanaan proyek, memastikan semua anggota tim selaras dengan prioritas ini. Ini mungkin melibatkan koordinasi dengan pemangku kepentingan baru dan mengintegrasikan pengamanan etis ke dalam ruang lingkup proyek.
Manajer Produk
Manajer produk berperan penting dalam memastikan produk dikembangkan dengan mempertimbangkan etika. Ini termasuk pengujian untuk inklusivitas dan menangani setiap masalah etis yang muncul selama proses pengembangan.
Panduan Etika Data untuk Pimpinan Organisasi
Organisasi dari semua ukuran harus memprioritaskan etika data untuk melindungi pengguna dan diri mereka sendiri:
Startup
Bagi startup, membangun praktik etis sejak awal sangat penting. Meskipun sumber daya mungkin terbatas, menetapkan fondasi etis yang kuat dapat mencegah masalah saat perusahaan berkembang.
Bisnis Kecil/Menengah
Saat bisnis kecil berkembang, mereka harus menjaga transparansi dengan pelanggan tentang penggunaan data dan memastikan bahwa persetujuan diperoleh dan dihormati sepanjang proses.
Perusahaan Global
Perusahaan besar harus menjadi teladan, menerapkan program etika data yang komprehensif yang mencakup kolaborasi lintas departemen, pelatihan karyawan, dan audit berkala atas praktik etis.
[Referensi: Spanning]
Tantangan Saat Ini: Contoh Etika Data
Algoritme yang Etis
Algoritme berpotensi melipatgandakan dampak suatu tindakan jutaan kali lipat saat diterapkan. Bahkan pada masa awal kemampuannya, ada banyak contoh bagaimana kurangnya pagar pembatas etis untuk algoritme memengaruhi kita.
Algoritme Perekrutan di Amazon
Proyek yang terkait dengan sumber daya manusia hampir selalu berisiko tinggi karena menentukan akses ke pekerjaan, dan dampaknya sering kali menjadi ancaman nyata bagi mata pencaharian orang. Namun, dengan lamaran online dan alat seperti LinkedIn, menemukan kandidat yang tepat sambil memastikan kesempatan yang setara menghadirkan tantangan baru.
Pada 2016-2017, Amazon mencoba mengatasi kedua masalah ini dengan algoritme perekrutan internal yang memutuskan resume mana yang lolos ke tahap berikutnya. Tak butuh waktu lama sebelum bias terhadap perempuan dalam peran teknis menjadi jelas. Karena adanya bias dalam data historis, algoritme tersebut telah mengajari dirinya sendiri untuk mengidentifikasi dan menyisihkan perempuan tanpa pandang bulu.
Walaupun Amazon mungkin telah membatalkan algoritme ini, sebagian besar perwakilan HR memperkirakan penggunaan rutin alat AI dalam proses perekrutan mereka di masa depan. Baca lebih lanjut tentang cara menggunakan machine learning secara etis untuk mendorong pengambilan keputusan dalam artikel terpisah.
Pengenalan Wajah Kesulitan Mendeteksi Warna Kulit Lebih Gelap
Pengenalan wajah telah digunakan secara luas bukan hanya untuk mengakses ponsel dan akun, tetapi juga sebagai alat penting bagi pengawasan penegakan hukum, pemeriksaan penumpang bandara, serta keputusan ketenagakerjaan dan perumahan.
Namun, pada 2018, penelitian mengungkapkan bahwa algoritme ini berkinerja jauh lebih buruk pada perempuan berkulit gelap—dengan tingkat kesalahan hingga 34% lebih tinggi dibandingkan laki-laki berkulit lebih terang.
Jika Anda penasaran bagaimana deteksi wajah bekerja, lihat tutorial kami tentang deteksi wajah dengan Python menggunakan OpenCV.
Privasi Data
Pelajari lebih lanjut tentang privasi data dan anonimisasi di Python dengan kursus interaktif kami.
Aplikasi Pelacak Menstruasi
Sejak perlindungan aborsi tingkat federal Roe v. Wade dibatalkan di AS, aplikasi pelacak menstruasi menjadi kemungkinan sarana untuk penuntutan dalam pelarangan aborsi di masa depan. Walau sebagian besar aplikasi memiliki ketentuan yang memungkinkan mereka membagikan data pribadi kepada pihak ketiga, banyak aplikasi pelacak menstruasi memiliki bahasa yang tidak jelas tentang apakah data dapat dibagikan kepada otoritas untuk surat perintah penangkapan.
Meski Anda mungkin memerlukan pakar hukum untuk menafsirkan syarat dan ketentuan semua aplikasi yang Anda gunakan setiap hari, memahami pertukaran dan risiko yang Anda hadapi akan menjadi semakin penting.
Uber Melacak Politikus dan Selebritas dengan “God-Mode”
Pada 2014, laporan menyebutkan bahwa “god-mode” milik Uber memberi akses data pengguna lengkap kepada semua karyawan, yang sering digunakan untuk melacak selebritas, politikus, dan bahkan hubungan pribadi (seperti mantan pasangan). Seorang mantan karyawan juga mengajukan gugatan yang menggambarkan perilaku serampangan terhadap perilaku pengguna dan “pengabaian total” terhadap privasi.
Pada waktu yang hampir bersamaan, pada 2016, Uber berusaha menutupi kebocoran data besar dengan membayar peretas dan tidak melaporkan insiden tersebut. Padahal pada saat yang sama tengah ada penyelidikan yang sedang berlangsung oleh US Federal Trade Commission terkait keamanan perusahaan.
Keamanan Data
Mulai dari cacat keamanan bawaan hingga kerentanan peretasan, keamanan data dapat menempatkan lebih dari sekadar info login Anda dalam risiko. Aplikasi dan situs web dari berbagai jenis dapat menentukan lokasi Anda, membaca pesan Anda, melihat siapa yang Anda blokir, dan bagaimana Anda membelanjakan uang.
Apakah Anda aktif di media sosial atau hanya menggunakan layanan digital minimal (perbankan, pesan, email, dll.), kemungkinan besar Anda terekspos dengan lebih banyak cara daripada yang Anda sadari.
Regulasi Etika Data Saat Ini
Banyak orang menyadari pentingnya etika data—tetapi apa artinya bagi kita sebagai konsumen? Apa artinya bagi perusahaan? Apa artinya bagi lembaga pemerintah?
Jawaban atas pertanyaan-pertanyaan ini bergantung pada tempat Anda tinggal. Di beberapa negara, sudah ada undang-undang yang mengharuskan perusahaan untuk transparan tentang bagaimana mereka menangani informasi pribadi; di negara lain, belum ada regulasi sama sekali.
Lalu ada pertanyaan etis yang kita hadapi setiap hari: Seberapa banyak kita berbagi satu sama lain secara online? Haruskah kita berbagi lebih sedikit? Dan apa yang terjadi ketika sesuatu berjalan salah? Ini semua adalah isu mendesak yang memerlukan pertimbangan matang dan kepemimpinan kuat dari pemerintah dan pelaku industri agar masa depan kita tidak terancam oleh perilaku tidak etis atau ketiadaannya.
Di seluruh dunia, pemerintah mencoba metode baru untuk mengatur pengumpulan data yang etis, AI, dan berbagai penggunaan data (mis: pemasaran terarah, dll.).
Berikut beberapa regulasi yang patut diketahui dan diikuti untuk memahami keadaan regulasi data saat ini di tempat Anda tinggal:
- GDPR (Uni Eropa) - Pelajari lebih lanjut dalam webinar kami tentang Etika Data dan GDPR untuk Praktisi Data.
- CCPR, CCPA (AS - California)
Penggunaan AI
- EU AI Act
- Regulasi Bias dalam Perekrutan Berbasis AI di New York (AS - NY)
- Algorithm Justice and Online Platform Transparency Act (AS)
Regulasi Platform
- Digital Services Act (Uni Eropa)
Sementara UE dan AS memimpin dalam legislasi yang telah disahkan, sebagian besar kebijakan ini masih baru dan terus berkembang.
Meningkatkan Keterampilan Tim Anda dalam Etika Data
Seiring pentingnya etika data yang terus meningkat, penting bagi bisnis untuk memastikan tim mereka siap menghadapi tantangan etis dalam bekerja dengan data. Etika data bukan hanya perhatian bagi data scientist atau tim hukum—ini adalah aspek mendasar dari praktik bisnis yang bertanggung jawab di semua departemen.
Jika Anda seorang pemimpin tim atau pemilik bisnis, investasi dalam pelatihan etika data dapat secara signifikan meningkatkan kemampuan tim Anda untuk menangani data secara bertanggung jawab, melindungi privasi pelanggan, dan menjaga reputasi organisasi Anda. DataCamp for Business menawarkan program pelatihan komprehensif yang dapat membantu karyawan Anda mengembangkan pemahaman yang kuat tentang etika data, disesuaikan dengan industri dan kebutuhan Anda. Kami menyediakan:
- Jalur pembelajaran yang disesuaikan: Program pelatihan yang dirancang untuk menyesuaikan dengan peran spesifik tim Anda dan tantangan etis yang mungkin mereka hadapi.
- Aplikasi praktis: Kursus interaktif dan studi kasus dunia nyata yang membantu karyawan menerapkan prinsip etis dalam pekerjaan sehari-hari.
- Penilaian berkelanjutan: Alat untuk melacak pemahaman dan penerapan etika data oleh tim Anda, memastikan mereka tetap terdepan menghadapi isu etis yang muncul.
Dengan meningkatkan keterampilan tim Anda dalam etika data melalui platform seperti DataCamp, Anda tidak hanya membangun budaya kesadaran etis tetapi juga memosisikan bisnis Anda sebagai pemimpin dalam penggunaan data yang bertanggung jawab. Investasi dalam pendidikan etika ini dapat membantu Anda menghindari kesalahan yang mahal, membangun kepercayaan dengan pelanggan, dan memastikan kesuksesan jangka panjang. Hubungi tim kami dan minta demo hari ini.
