Klasifikasi vs Klasterisasi dalam Machine Learning: Panduan Komprehensif

Dalam machine learning, ada dua teknik yang tersedia untuk memisahkan objek ke dalam kelompok yang berbeda: klasifikasi dan klasterisasi. Hal ini sering menimbulkan banyak kebingungan di kalangan praktisi awal.

Sekilas, klasifikasi dan klasterisasi tampak serupa. Keduanya menggunakan algoritme yang memanfaatkan fitur dari suatu dataset untuk menemukan pola dan memisahkan instance ke dalam kelompok yang berbeda. Namun dari sudut pandang praktis, keduanya cukup berbeda.

Pada artikel ini, kita akan membahas masing-masing teknik, berbagai algoritme yang terkait, penerapannya, dan yang terpenting, bagaimana perbedaannya.

Apa itu Klasifikasi?

Tugas klasifikasi termasuk dalam kategori masalah yang disebut "pembelajaran terawasi" (supervised learning). Masalah seperti ini melibatkan pengembangan model yang belajar dari data historis untuk membuat prediksi pada instance baru.

Secara lebih formal, tugas pembelajaran terawasi adalah masalah di mana suatu fungsi dipelajari untuk memetakan masukan ke keluaran berdasarkan pasangan contoh input-output. Dengan demikian, tujuannya adalah mendekati fungsi pemetaan (f) dari masukan (X) ke keluaran (y) — jika Anda berlatar belakang matematika, Anda mungkin mengenalnya sebagai masalah pendekatan fungsi.

Perlu dicatat bahwa pembelajaran terawasi hadir dalam dua bentuk: regresi dan klasifikasi.

Dalam masalah klasifikasi, tujuan algoritme pembelajaran adalah mendekati fungsi pemetaan dari sekumpulan fitur untuk memprediksi keluaran diskret (misalnya, memprediksi apakah gambar adalah kucing atau anjing) — lihat tutorial Memahami klasifikasi teks di Python kami untuk demonstrasi praktik.

Ada beberapa masalah yang melibatkan penerapan algoritme klasifikasi, seperti:

• Pemfilteran spam. Mengklasifikasikan apakah sebuah email tidak diminta, tidak diinginkan, atau terinfeksi virus untuk mencegahnya mencapai kotak masuk pengguna.
• Pengenalan wajah. Mengidentifikasi atau mengonfirmasi identitas individu berdasarkan fitur wajah yang ditangkap dalam foto, video, atau secara real-time.
• Prediksi churn pelanggan. Anda dapat menggunakan klasifikasi untuk memprediksi pelanggan mana yang kemungkinan akan berhenti berlangganan atau meninggalkan layanan Anda, lalu menargetkan mereka dengan kampanye demi mempertahankan mereka.
• Persetujuan pinjaman. Proses menentukan apakah seorang pemohon memenuhi syarat untuk mendapatkan pinjaman cukup berulang; algoritme klasifikasi dapat digunakan untuk memprediksi apakah pinjaman akan diberikan berdasarkan berbagai fitur terkait riwayat keuangan mereka.

Mari kita lihat beberapa algoritme klasifikasi.

Jenis Algoritme Klasifikasi

Regresi Logistik

Sering kali, orang keliru mengira regresi logistik sebagai algoritme regresi, dan itu dapat dipahami. Secara teknis, mereka tidak salah. Regresi logistik tidak melakukan klasifikasi statistik. Yang dilakukannya adalah mengestimasi parameter dari model logistik.

Alasan kita dapat menggunakan regresi logistik untuk klasifikasi adalah adanya batas keputusan yang disisipkan untuk memisahkan kelas. Jadi, dalam bentuk paling sederhana, regresi logistik menggunakan fungsi logistik untuk memodelkan variabel dependen biner.

Sumber: Logistic Function by Scikit-Learn

K-Nearest Neighbors (KNN)

KNN adalah salah satu algoritme machine learning yang paling sederhana dan berbeda dari regresi logistik karena dapat digunakan untuk tugas klasifikasi dan regresi.

Lebih tepatnya, ini adalah algoritme non-parametrik dan lazy learning. Artinya, KNN tidak membuat asumsi tentang karakteristik sampel atau apakah data yang diamati bersifat kuantitatif atau kualitatif (non-parametrik), dan seluruh komputasi ditunda hingga evaluasi fungsi (lazy learner).

Sumber: Nearest Neighbors with Scikit-learn

Decision Tree

Algoritme decision tree adalah algoritme non-parametrik populer yang juga mampu melakukan regresi dan klasifikasi. Popularitasnya banyak disebabkan oleh keterbacaan dan kesederhanaannya — karena ini salah satu algoritme yang paling mudah divisualisasikan dan ditafsirkan.

Secara konseptual, Anda dapat membayangkan decision tree mengalir dari akar ke daun. Jalur dari akar ke daun mendefinisikan aturan keputusan yang dibuat pada fitur.

Sumber: Decision Tree Classification in Python Tutorial

Random Forest

Random forest adalah model ansambel yang terdiri dari dua atau lebih decision tree. Teknik ini memanfaatkan bootstrap aggregation dan metode random subspace untuk menumbuhkan pohon-pohon individual guna menghasilkan prediktor agregat yang kuat yang mampu melakukan klasifikasi dan regresi.

Perlu dicatat, bootstrap aggregation, atau bagging, hanyalah teknik untuk menghasilkan beberapa versi prediktor yang dapat dimanfaatkan untuk membangun prediktor agregat. Tujuannya adalah mengurangi korelasi antarprediktor agar model agregat lebih mampu melakukan generalisasi.

Kebaruan (randomness) diperkenalkan ke setiap prediktor dengan mengambil sampel instance secara acak dari set pelatihan dengan pengembalian (with replacement) dan menggunakan data bootstrap tersebut untuk pelatihan.

Sumber: Bagging: Machine Learning through visuals. #1: What is "Bagging" ensemble learning?

Metode random subspace juga digunakan untuk mengurangi korelasi antar prediktor dalam ansambel. Ini sering disebut sebagai "feature bagging" karena pendekatannya sama seperti bagging tetapi pada fitur. Artinya: metode random subspace mengurangi korelasi dengan membangun setiap prediktor dalam ansambel pada sampel acak fitur dengan pengembalian.

Naïve Bayes

Klasifikator Naive Bayes adalah algoritme probabilistik berdasarkan teorema Bayes, yaitu aturan matematis untuk memperbarui probabilitas berdasarkan data baru.

Dalam konteks Naive Bayes, asumsi "naif" adalah bahwa semua fitur (atau variabel) dalam dataset saling independen saat memprediksi hasil. Ini merupakan penyederhanaan karena pada kenyataannya fitur bisa saling bergantung. Namun, meskipun ada asumsi naif ini, algoritme tersebut sering kali berkinerja sangat baik pada banyak tugas klasifikasi.

Jadi, teorema Bayes sendiri tidak membuat asumsi apa pun tentang independensi variabel. Klasifikator Naive Bayes-lah yang membuat asumsi ini demi kesederhanaan dan efisiensi komputasi.

Apa itu Klasterisasi?

Untuk memahami klasterisasi, kita harus mulai dari definisi pembelajaran tanpa pengawasan (unsupervised learning). Unsupervised learning adalah pendekatan yang digunakan untuk menemukan struktur dasar data, hanya saja algoritme unsupervised learning tidak memerlukan pemetaan input ke output untuk mencapai hal tersebut.

Unsupervised learning biasanya dimanfaatkan untuk mengungkap pola yang ada dalam data sehingga instance dikelompokkan tanpa perlu label. Ia berasumsi bahwa instance yang berada dalam kelompok yang sama memiliki fitur serupa. Dengan demikian, klasterisasi adalah teknik unsupervised learning yang digunakan untuk mengelompokkan data tanpa label berdasarkan kesamaan atau perbedaannya.

Contoh penggunaan klasterisasi meliputi:

• Segmentasi pasar. Tim pemasaran mungkin ingin calon pembeli dikelompokkan ke dalam segmen dengan kebutuhan yang sama; ini membantu bisnis memahami karakteristik umum dan kebiasaan pembelian sehingga mereka dapat menyelaraskan produk dan upaya pemasaran dengan lebih tepat.
• Analisis jejaring sosial. Teknik klasterisasi dapat digunakan pada data media sosial untuk menemukan makna dan mendukung keputusan bisnis.
• Segmentasi citra. Tujuan memisahkan gambar digital menjadi beberapa segmen adalah untuk menyederhanakan atau mengubah representasinya agar lebih mudah dianalisis dan lebih bermakna.
• Mesin rekomendasi. Perilaku pembelian pengguna di masa lalu dapat dipadukan dengan teknik klasterisasi untuk menemukan tren data yang dapat digunakan untuk mengembangkan strategi cross-selling yang efektif.

Berikut beberapa jenis algoritme klasterisasi:

Jenis Algoritme Klasterisasi

K-Means Clustering

Salah satu algoritme yang paling populer dan paling banyak digunakan untuk tugas klasterisasi adalah k-means. Ini adalah algoritme berbasis centroid yang iteratif dan membuat klaster yang tidak tumpang tindih.

Sumber

Klasterisasi Hierarkis

Cara lain untuk membentuk klaster adalah dengan membangun hierarki klaster, karenanya disebut "klasterisasi hierarkis." Ada dua cara untuk membangun hierarki klaster: .

Aglomeratif

Ini adalah pendekatan bottom-up di mana setiap observasi diperlakukan sebagai klaster tersendiri pada tahap awal. Saat hierarki dibangun dari bawah ke atas, setiap observasi digabungkan menjadi pasangan, dan pasangan digabungkan menjadi klaster.

Sumber: An introduction to Hierarchical clustering in Python

Divisif

Klasterisasi divisif adalah pendekatan top-down di mana semua observasi dimulai dalam satu klaster, dan pemisahan dilakukan secara rekursif untuk membangun hierarki dari atas ke bawah.

Sumber: An introduction to Hierarchical clustering in Python

DBSCAN

Salah satu daya tarik besar dari Density-Based Spatial Clustering of Applications with Noise, atau disingkat DBSCAN, adalah ketahanannya terhadap outlier — ini juga merupakan algoritme klasterisasi berbasis densitas yang paling dikenal.

DBSCAN mengasumsikan klaster adalah wilayah padat dalam ruang yang dipisahkan oleh wilayah berdensitas lebih rendah. Berbeda dengan K-Means, DBSCAN menyimpulkan jumlah klaster berdasarkan data, dan dapat menemukan klaster dengan bentuk sewenang-wenang sehingga jumlah klaster tidak perlu diberikan sebagai parameter.

Sumber

OPTICS

Akronim OPTICS adalah singkatan dari Ordering Points to Identify the Clustering Structure. Seperti DBSCAN, ini adalah algoritme berbasis densitas yang dikembangkan oleh kelompok riset yang sama. Namun, OPTICS berupaya mengatasi salah satu kelemahan utama DBSCAN — mengidentifikasi klaster dalam data dengan densitas yang bervariasi — dengan mengabaikan asumsi bahwa densitas data konsisten.

Sumber: Scikit-learn Demo of OPTICS clustering algorithm

Klasifikasi vs Klasterisasi: Perbedaan Utama

Pembelajaran Terawasi vs Tidak Terawasi

Klasifikasi adalah bentuk pembelajaran terawasi. Masalah pembelajaran terawasi melibatkan pembelajaran sebuah fungsi yang memetakan masukan ke keluaran berdasarkan pasangan input-output. Sebaliknya, tugas pembelajaran tidak terawasi menggunakan metode, seperti klasterisasi, untuk menemukan pola tersembunyi dalam data tanpa label.

Kebutuhan Data Pelatihan dan Pengujian

Baik tugas klasifikasi maupun klasterisasi memerlukan data pelatihan untuk mempelajari pola. Namun, praktik yang baik untuk tugas klasifikasi adalah memiliki data pengujian guna mengevaluasi kinerja prediksi model machine learning.

Perbedaan Algoritmik

Algoritme klasterisasi bergantung pada data masukan untuk memodelkan struktur dasar data guna menemukan wawasan. Dengan kata lain, tidak ada "guru" yang memberi tahu algoritme jawaban yang benar — hanya apa yang dipelajari algoritme. Sebaliknya, algoritme klasifikasi memerlukan data input dan output untuk mempelajari fungsi pemetaan, sehingga dapat digunakan untuk memprediksi keluaran dari data input baru.

Penutup

Meskipun klasifikasi dan klasterisasi sama-sama bertujuan memisahkan instance ke dalam kelompok diskret, pendekatannya sangat berbeda. Klasifikasi bergantung pada label yang telah ditentukan dan seorang supervisor untuk memandu proses pembelajaran, sehingga ideal untuk tugas seperti prediksi churn pelanggan atau pemfilteran spam. Di sisi lain, klasterisasi beroperasi tanpa supervisor dan lebih bersifat eksploratif, dengan penerapan pada segmentasi pasar atau sistem rekomendasi. Memahami nuansa ini dapat sangat memengaruhi efektivitas proyek machine learning Anda.

Ingin menyelami lebih dalam? Lihat kursus DataCamp berikut untuk meningkatkan pemahaman dan keterampilan Anda:

• Cluster Analysis in Python
• Unsupervised Learning in Python
• Supervised Learning in R: Classification