Last chance! 50% off DataCamp Premium
Sale ends in

Artificial Neural Networks (ANN)
Categorical Variable Classification
Cross-Validation (not validated)
Database Management System (DBMS)
False Negative (FN, Type II Error)
False Positive (FP, Type I Error)
Natural Language Processing (NLP)
Principal Component Analysis (PCA)
Root Mean Squared Error (RMSE)
Accuracy score adalah metrik evaluasi yang digunakan untuk memperkirakan kinerja model machine learning, dan menunjukkan rasio jumlah prediksi yang benar terhadap total jumlah prediksi.
Activation function digunakan dalam artificial neural networks (ANN) yang menentukan apakah sebuah neuron harus diaktifkan atau tidak dengan menghitung keluarannya ke layer tersembunyi berikutnya (atau layer keluaran) berdasarkan input dari layer sebelumnya (atau layer input). Activation function bertanggung jawab atas transformasi nonlinier dari sebuah jaringan saraf.
Algoritme adalah urutan langkah yang dapat diulang, sering diekspresikan secara matematis, ditulis oleh manusia dan dijalankan oleh komputer, untuk menyelesaikan jenis masalah data science tertentu. Algoritme berkisar dari yang sangat sederhana hingga sangat kompleks. Algoritme yang berbeda cocok untuk berbagai tugas dan teknologi. Konsep utamanya adalah sebuah algoritme menerima input dan menghasilkan output, dan input yang sama akan selalu menghasilkan output yang sama. Dalam machine learning, algoritme menerima input berupa data dan hyperparameter, mengidentifikasi dan mempelajari pola umum dari data, serta menghasilkan keluaran berupa prediksi.
Apache Spark adalah kerangka kerja pemrosesan paralel multifungsi open-source untuk menganalisis dan memodelkan big data. Spark memungkinkan Anda menyebarkan data dan komputasi ke klaster dengan banyak node (anggap setiap node sebagai komputer terpisah). Membagi data memudahkan bekerja dengan dataset yang sangat besar karena setiap node hanya menangani sebagian kecil data. Saat setiap node mengerjakan subsetnya sendiri dari total data, node tersebut juga melakukan sebagian perhitungan total yang diperlukan, sehingga pemrosesan data dan komputasi dilakukan secara paralel di antara node dalam klaster. Fakta bahwa komputasi paralel dapat mempercepat jenis tugas pemrograman tertentu.
API adalah singkatan dari Application Programming Interface, perantara perangkat lunak yang memastikan koneksi antara aplikasi atau komputer. Contoh API adalah menyematkan Google Maps dalam aplikasi Rideshare. Data scientist sering bekerja dengan API untuk mengakses data (misalnya, Twitter API untuk mengunduh tweet), atau untuk mengemas solusi yang mereka buat (misalnya, API yang memanggil model machine learning di produksi).
Kecerdasan buatan adalah cabang ilmu komputer yang melibatkan penggunaan teknik machine learning, pemrograman, dan data science yang memungkinkan komputer berperilaku cerdas. Sistem AI bersifat luas dan memiliki tingkat kompleksitas yang bervariasi. Sistem ini dapat berkisar dari sistem berbasis aturan hingga sistem berbasis machine learning, dan dapat melakukan kemampuan seperti deteksi penipuan, pengenalan objek, penerjemahan bahasa, prediksi harga saham, dan banyak lagi.
Artificial Neural Network adalah model machine learning yang secara longgar terinspirasi oleh jaringan saraf biologis di otak manusia. Jaringan saraf terdiri dari hingga ratusan layer unit yang saling terhubung yang disebut neuron. Secara konseptual, sebuah artificial neural network memiliki jenis layer berikut: input, output, dan hidden layer yang digunakan untuk menyaring data, memprosesnya dengan activation function, dan membuat prediksi pada keluaran. ANN adalah blok bangunan dari subset machine learning yang disebut deep learning, yang memberikan keluaran kompleks seperti pengenalan gambar atau suara, deteksi objek, penerjemahan bahasa, dan lainnya.
Backpropagation adalah teknik yang digunakan dalam melatih jaringan deep learning dan didasarkan pada penerapan gradient descent untuk menyetel bobot dan bias secara iteratif guna meningkatkan akurasi jaringan. Algoritme menghitung kesalahan keluaran di setiap iterasi pelatihan, lalu mempropagasikannya kembali ke dalam jaringan, sehingga memungkinkan untuk meminimalkan kesalahan pada iterasi pelatihan berikutnya.
Bayesian Network adalah grafik probabilistik yang menunjukkan hubungan antara variabel acak untuk domain yang tidak pasti, di mana node grafik mewakili variabel-variabel tersebut, dan tautan antar pasangan node (edge) mewakili probabilitas bersyarat untuk variabel yang bersesuaian. Contoh Bayesian Network adalah pada diagnosis medis, di mana peneliti memprediksi hasil kesehatan dengan mempertimbangkan semua faktor yang dapat memengaruhi suatu hasil.
Bayes' Theorem adalah persamaan matematika untuk menghitung probabilitas bersyarat, yaitu probabilitas terjadinya peristiwa B dengan syarat peristiwa terkait A sudah terjadi. Salah satu penerapan teorema ini dalam data science adalah membangun Bayesian network untuk dataset besar.
Bias mengacu pada kecenderungan model untuk underfit terhadap data, yang menyebabkan prediksi tidak akurat dalam machine learning dan data science. Ini adalah definisi bias yang sering dibahas dalam bias-variance tradeoff. Selain itu, bias juga dapat berarti bias algoritmik—yang mengacu pada kecenderungan model machine learning mereproduksi bias sosial yang merugikan dengan memperlakukan kelompok individu secara berbeda berdasarkan atribut yang dilindungi seperti ras, orientasi seksual, identitas gender, usia, kehamilan, status veteran, dan lainnya.
Bias-variance tradeoff adalah pertukaran antara bias dan variance saat membuat model machine learning. Bias dan variance adalah dua jenis kesalahan prediksi ketika membuat model machine learning—di mana bias tinggi menunjukkan underfitting, dan variance tinggi menunjukkan overfitting. Meminimalkan keduanya ke tingkat optimal menurunkan keseluruhan kesalahan prediksi.
Big Data adalah bidang yang berpusat pada pemrosesan, pengolahan, dan ekstraksi informasi dari kumpulan data yang terlalu besar atau kompleks untuk alat pemrosesan data tradisional. Big data didefinisikan oleh lima V; velocity—kecepatan generasi data; volume—jumlah data yang dihasilkan; variety—keragaman jenis data misalnya teks, gambar, data tabular, dan lain-lain; veracity—kualitas dan kebenaran data; serta value—kecenderungan data untuk diterjemahkan menjadi wawasan bisnis yang bernilai.
Distribusi binomial adalah distribusi probabilitas diskret dari hasil uji coba independen, dengan dua kemungkinan hasil yang saling eksklusif (sukses dan gagal), jumlah percobaan terbatas, dan probabilitas sukses yang konstan. Secara sederhana, distribusi binomial dapat dipahami sebagai probabilitas suatu hasil tertentu (sukses atau gagal) dalam suatu peristiwa yang diulang berkali-kali (misalnya, probabilitas mendapatkan angka 3 pada dadu yang dilempar 5 kali).
Business analyst bertanggung jawab mengaitkan wawasan berbasis data dengan hasil yang dapat ditindaklanjuti untuk meningkatkan profitabilitas atau efisiensi. Mereka memiliki pengetahuan mendalam tentang domain bisnis dan sering menggunakan SQL bersama alat non-koding untuk mengomunikasikan wawasan yang diperoleh dari data.
Business analytics adalah subbidang analytics yang berfokus pada penggunaan data historis dan saat ini untuk menemukan wawasan operasional yang berharga, mengantisipasi kemungkinan tren masa depan, dan membuat keputusan bisnis berbasis data. Perangkat business analytics biasanya mencakup analisis statistik, descriptive analytics dan visualisasi data, serta dapat bersinggungan dengan predictive analytics dan machine learning.
Business intelligence adalah subbidang analytics yang menggabungkan descriptive analytics, business analytics, visualisasi data, analisis statistik, pelaporan, dan lainnya. Ditujukan untuk membantu organisasi membuat keputusan berbasis data. BI biasanya memanfaatkan alat non-koding seperti Tableau dan Power BI untuk mengeksplorasi tren pada data historis dan saat ini. Berbeda dengan business analytics, fokus utama BI adalah pada descriptive analytics.
Variabel kategorikal adalah variabel yang dapat memiliki salah satu dari sejumlah nilai yang terbatas (kategori) tanpa urutan intrinsik. Contoh variabel kategorikal adalah status pernikahan (misalnya, menikah, lajang, bercerai). Disebut juga variabel nominal atau kualitatif.
Klasifikasi adalah masalah supervised learning ketika perlu memprediksi keluaran kategorikal berdasarkan fitur input. Contoh masalah klasifikasi adalah deteksi penipuan (misalnya, apakah transaksi ini penipuan mengingat sekumpulan fitur input?) dan filter spam email (misalnya, apakah email ini spam atau bukan?). Algoritme klasifikasi yang umum digunakan adalah k-nearest neighbors, decision trees, random forest, dan lain-lain.
Clustering adalah masalah unsupervised learning yang berkaitan dengan pengelompokan semua observasi dalam sebuah dataset menurut kemiripannya berdasarkan karakteristik umum. Tidak seperti masalah klasifikasi, kelompok ini (disebut cluster) tidak ditentukan sebelumnya oleh manusia, melainkan diidentifikasi oleh algoritme machine learning saat mempelajari data input. Elemen di setiap cluster serupa satu sama lain dan berbeda dari semua yang lain. Algoritme clustering yang umum adalah k-means, hierarchical clustering, spectral clustering, dan lain-lain.
Computer Science adalah bidang studi multifaset yang berfokus pada aspek teoretis dan praktis pemrosesan informasi dalam komputer digital, perancangan perangkat keras dan perangkat lunak komputer, serta penerapan komputer. Secara khusus, ilmu komputer menangani kecerdasan buatan, sistem komputasional, algoritme, struktur data, pemodelan data, keamanan, desain komputer dan jaringan, dan lain-lain.
Computer vision adalah area ilmu komputer yang berkaitan dengan memungkinkan komputer mencapai pemahaman tingkat tinggi dari gambar atau video digital, mendekati cara manusia melihatnya. Computer vision menjadi sangat populer seiring perkembangan deep learning dan akumulasi big data. Beberapa penerapannya adalah pengenalan objek dan wajah, analisis gerak, mobil otonom, dan optical character recognition.
Confusion matrix adalah tabel yang menggambarkan kinerja prediktif dari model klasifikasi. Biasanya, confusion matrix dibuat untuk keluaran biner (yaitu, masalah prediksi dengan hanya dua jenis prediksi—misalnya, apakah sebuah transaksi penipuan atau tidak), sehingga tabel yang dihasilkan berukuran dua kali dua. Confusion matrix merepresentasikan hubungan antara prediksi vs. label aktual untuk kedua kelas. Tabel ini dengan mudah menampilkan jumlah prediksi akurat (true positive dan true negative), serta jumlah false positive (kesalahan tipe I) dan false negative (kesalahan tipe II) yang dibuat.
Variabel kontinu adalah variabel yang dapat mengambil himpunan nilai tak hingga dalam rentang tertentu. Contoh variabel kontinu adalah tinggi badan dan berat badan.
Korelasi adalah kekuatan dan arah hubungan antara dua atau lebih variabel, diukur oleh koefisien korelasi, atau koefisien Pearson. Secara statistik, koefisien korelasi adalah rasio kovarians dari dua variabel terhadap hasil kali simpangan baku keduanya. Nilainya dapat berkisar dari -1 (korelasi negatif sempurna) hingga 1 (korelasi positif sempurna). Kehadiran korelasi antara dua variabel tidak menyiratkan hubungan sebab-akibat.
Cost function adalah fungsi dalam machine learning yang digunakan untuk mengukur rata-rata selisih antara nilai prediksi dan nilai aktual pada himpunan pelatihan, dan diupayakan untuk diminimalkan.
Kovarians adalah ukuran hubungan antara dua variabel. Berbeda dengan varians yang mengukur variasi di dalam variabel yang sama, kovarians menunjukkan bagaimana variasi pada satu variabel memengaruhi perubahan pada variabel kedua. Kovarians digunakan untuk menghitung koefisien korelasi.
Cross-validation adalah metode resampling saat melatih model machine learning yang membagi data berlabel menjadi himpunan pelatihan dan uji. Pada setiap iterasi cross validation, bagian data yang berbeda digunakan untuk melatih dan menguji model. Himpunan pelatihan digunakan untuk melatih model, dan himpunan uji digunakan untuk membuat prediksi dan membandingkannya dengan label aktual untuk entri tersebut. Setelah itu, metrik akurasi keseluruhan dihitung untuk memperkirakan kinerja prediktif model yang dihasilkan.
Dashboard adalah antarmuka pengguna grafis interaktif yang digunakan untuk memvisualisasikan, merangkum, dan melaporkan key performance indicator (KPI), metrik progres, dan informasi seputar proses bisnis yang memungkinkan audiens sasaran dengan mudah menangkap wawasan terpenting di berbagai tingkat. Dashboard dibuat menggunakan alat non-koding seperti Excel, Tableau, atau PowerBI, atau bahkan alat koding seperti Python dan R. Dashboard sering kali terhubung ke database dan layanan yang diperbarui secara berkala.
Data analysis adalah disiplin yang berfokus pada pembersihan, transformasi, visualisasi, dan eksplorasi data dengan tujuan mengekstrak pola dan wawasan yang bermakna, serta mengomunikasikan hasilnya kepada pihak yang berkepentingan. Data analysis biasanya merupakan tonggak pertama dalam semua proyek data science, tetapi juga dapat menjadi proyek mandiri. Berbeda dengan data science, data analysis lebih banyak menangani descriptive analytics daripada predictive analytics.
Data analyst mirip dengan business analyst, data analyst bertanggung jawab menganalisis data dan melaporkan wawasan dari analisis mereka. Mereka memiliki pemahaman mendalam tentang alur kerja analisis data dan memperoleh serta melaporkan wawasan mereka menggunakan kombinasi alat koding dan non-koding.
Database adalah ruang penyimpanan terstruktur tempat data diorganisasi dalam banyak tabel berbeda sehingga informasi yang diperlukan dapat dengan mudah diakses dan diringkas. Database sebagian besar digunakan dengan sistem manajemen database relasional (RDBMS) seperti Oracle atau PostgreSQL. Bahasa pemrograman yang paling umum digunakan untuk berinteraksi dengan data dari database adalah SQL.
Database management system adalah paket perangkat lunak yang digunakan untuk dengan mudah melakukan berbagai operasi pada data: mengakses, memanipulasi, mengambil, mengelola, dan menyimpan data dalam sebuah database. Berdasarkan cara data diorganisasi dan distrukturkan, terdapat berbagai jenis DBMS: relasional, grafik, hierarkis, dan lain-lain. Beberapa contoh DBMS: Oracle, MySQL, PostgreSQL, Microsoft SQL Server, MongoDB.
Data consumer sering berada dalam peran non-teknis, tetapi mengonsumsi wawasan dan analitik data yang disediakan oleh profesional data untuk membuat keputusan berbasis data. Data consumer sering perlu berdiskusi dengan profesional data dan harus dapat membedakan kapan data dapat dan tidak dapat digunakan untuk menjawab pertanyaan bisnis.
Data engineer adalah spesialis yang bertanggung jawab menyediakan data yang tepat ke tangan data scientist dan data analyst. Mereka merancang dan memelihara infrastruktur penyimpanan dan data pipeline yang membawa sejumlah besar data mentah dari berbagai sumber ke satu lokasi terpusat dengan data yang bersih, terformat dengan benar, dan relevan bagi organisasi.
Data engineering adalah spesialisasi yang berfokus pada penskalaan akses data dalam organisasi. Data engineer mengerjakan akuisisi, pengumpulan, pengelolaan, dan penyimpanan data—serta menyiapkan data pipeline dan mentransformasikan data menjadi data berkualitas tinggi yang dapat digunakan oleh seluruh organisasi.
Data enrichment adalah proses meningkatkan, menyempurnakan, dan menambah data mentah, agar lebih berguna bagi organisasi dan, sebagai hasilnya, memperoleh wawasan bisnis yang lebih bermakna dan mengoptimalkan predictive analytics.
Dataframe adalah struktur data tabular dengan sumbu berlabel (baris dan kolom) yang berpotensi memiliki tipe berbeda-beda.
DAMA mendefinisikan Data Governance sebagai "Perencanaan, pengawasan, dan kontrol atas pengelolaan data dan sumber daya terkait data". Data governance menetapkan peran, tanggung jawab, dan proses untuk memastikan ketersediaan, relevansi, kualitas, kegunaan, integritas, dan keamanan data. Data governance mencakup badan pengatur, kerangka aturan dan praktik untuk memenuhi kebutuhan informasi perusahaan, dan program untuk menjalankan praktik-praktik tersebut.
Data journalism adalah jenis jurnalisme yang berkaitan dengan pemrosesan dan analisis sejumlah besar data numerik, dengan tujuan membuat cerita tentang data tersebut, atau informasi yang diturunkan darinya. Peran ini muncul sebagai hasil dari arus informasi yang terus bertambah dan meningkatnya interaksi jurnalisme modern dengan bidang seperti statistik, teknologi TI, dan data science.
Data lake adalah repositori penyimpanan tunggal yang berisi sejumlah besar data mentah yang belum diproses dari berbagai jenis dan sumber, yang belum memiliki tujuan yang ditetapkan. Data lake mencakup data terstruktur dari berbagai struktur tanpa hubungan satu sama lain dan, lebih sering, data tidak terstruktur, seperti dokumen dan file teks. Data mentah disimpan sebagai sumber informasi asli, tanpa perlu distrukturkan dan diolah kecuali saat data dibutuhkan.
Data literacy adalah kemampuan untuk membaca, menulis, menganalisis, mengomunikasikan, dan bernalar dengan data untuk membuat keputusan berbasis data yang lebih baik. Dari perspektif organisasi, ini adalah spektrum keterampilan data mulai dari pengambilan keputusan berbasis data hingga keterampilan teknis tingkat lanjut dalam data science, data engineering, dan machine learning, sehingga setiap orang di organisasi memiliki kompetensi yang relevan dan menghasilkan nilai dari data dalam skala besar.
Data mining adalah proses mengumpulkan data yang relevan dari berbagai sumber, membersihkan dan mentransformasikannya ke format yang tepat, mendeteksi dan mengekstrak tren tersembunyi yang bermakna, pola, dan keterkaitan antar data, serta mengomunikasikan wawasan yang dapat ditindaklanjuti untuk membantu organisasi membuat keputusan berbasis data dan mengembangkan strategi yang lebih baik. Untuk tujuan ini, digunakan berbagai teknik analitik dan pemodelan, termasuk analisis statistik, visualisasi data, regresi, dan klasifikasi.
Data modeling adalah proses mengembangkan representasi visual dari seluruh sistem TI, atau bagiannya, untuk mengomunikasikan koneksi antara titik data dan struktur. Model data menampilkan jenis data yang digunakan dan disimpan dalam sistem, hubungan antara berbagai sumber data ini, dan bagaimana data dikelompokkan menurut atribut dan karakteristik yang berbeda. Definisi yang sedikit disesuaikan yang mungkin Anda temui dalam data science untuk data modeling adalah: membangun model andal yang mengubah data mentah menjadi wawasan yang prediktif, konsisten, dan dapat ditindaklanjuti. Tujuan utamanya adalah memahami dengan jelas kebutuhan bisnis yang kritis, sumber data yang tersedia dan tenggat waktu, serta menyediakan kerangka kerja berbasis data yang relevan dan terformat dengan benar untuk memenuhi kebutuhan tersebut.
Data pipeline adalah sekumpulan skrip pemrosesan data yang saling terhubung, sehingga mengotomatisasi aliran data di seluruh organisasi di mana data diekstraksi, ditransformasikan, dan dimuat agar siap digunakan.
Data science adalah bidang studi interdisipliner multifaset yang menggunakan berbagai metode ilmiah, teknik analitik tingkat lanjut, dan algoritme pemodelan prediktif untuk mengekstrak wawasan bermakna dari data, guna membantu menjawab pertanyaan strategis bisnis atau ilmiah di banyak bidang. Bidang ini menggabungkan beragam keterampilan teknis dan non-teknis dan biasanya memerlukan pengetahuan domain yang kuat di industri tertentu tempat diterapkan, agar mampu menafsirkan data yang tersedia dan hasil yang diperoleh dengan benar.
Data Scientist menyelidiki, mengekstrak, dan melaporkan wawasan bermakna dari data organisasi. Mereka mengomunikasikan wawasan ini kepada pemangku kepentingan non-teknis, dan memiliki pemahaman yang baik tentang alur kerja machine learning serta cara mengaitkannya kembali ke aplikasi bisnis. Mereka hampir secara eksklusif bekerja dengan alat koding, melakukan analisis, dan sering bekerja dengan alat big data.
Dataset adalah kumpulan data dari satu atau banyak jenis yang merepresentasikan observasi kehidupan nyata atau yang dihasilkan secara sintetis, dan digunakan untuk analisis statistik atau pemodelan data. Data dalam sebuah dataset dapat dikumpulkan dari banyak sumber dan biasanya disimpan dalam semacam struktur data, paling umum berupa tabel, di mana kolom sesuai dengan variabel berbeda, dan baris dengan entri data yang berbeda.
Struktur data adalah cara mengorganisasi dan menyimpan data sehingga dapat diakses dan dikerjakan secara efisien. Struktur data mendefinisikan hubungan antara data dan operasi yang dapat dilakukan terhadapnya. Struktur data yang umum ditemui dalam data science adalah dataframe, list, array, dan lainnya.
Visualisasi data adalah bidang interdisipliner yang menangani pemadatan dan representasi informasi dalam format visual. Data dapat divisualisasikan dalam berbagai bagan seperti peta, histogram, barplot, dan line chart, dan dapat digabungkan menjadi infografis, dashboard, dan lainnya. Visualisasi data sering digunakan untuk membantu audiens sasaran lebih memahami data yang mendasari dan hasil yang diperoleh.
Data warehouse adalah repositori pusat untuk menyimpan data terstruktur, dibersihkan, dan ditransformasikan yang dikumpulkan dari berbagai sumber melalui proses ETL (extraction, transformation, loading). Profesional data dapat dengan mudah mengakses informasi yang diperlukan dari data warehouse melalui alat business intelligence, kueri SQL, dan sebagainya, serta menggunakannya untuk analisis dan pemodelan lebih lanjut guna menjawab pertanyaan bisnis.
Data wrangling juga disebut data munging. Tugas data wrangling berkaitan dengan pembersihan, restrukturisasi, penggabungan, pengagregasian, dan transformasi data ke format yang sesuai untuk tujuan tertentu. Secara keseluruhan, ini adalah proses menyiapkan data agar mudah diakses dan dianalisis lebih lanjut.
Decision tree adalah algoritme supervised machine learning yang terutama digunakan untuk klasifikasi, tetapi juga untuk masalah regresi. Decision tree membuat rangkaian pertanyaan if-else tentang fitur individu, dengan tujuan menyimpulkan label kelas. Decision tree diuntungkan oleh kemungkinan representasi grafis seperti pohon, peniruan kemampuan pengambilan keputusan manusia, dan logika yang mudah dipahami, tetapi jenis model ini cenderung overfit.
Deep learning adalah subset algoritme machine learning yang didasarkan pada artificial neural networks (ANN) berlapis banyak yang sebagian besar terinspirasi oleh struktur otak. ANN sangat fleksibel dan dapat belajar dari sejumlah besar data, untuk memberikan keluaran yang sangat akurat. ANN sering berada di balik beberapa use case data science dan machine learning seperti pengenalan gambar atau suara, penerjemahan bahasa, dan masalah lanjutan lainnya.
Dimensionality reduction adalah proses mengurangi jumlah fitur pada himpunan pelatihan, hanya menyisakan fitur paling relevan yang menangkap sebagian besar variasi, guna meningkatkan kinerja model. Dimensionality reduction sangat berguna untuk dataset besar dengan banyak variabel. Ini membantu mengoptimalkan ruang penyimpanan dan waktu komputasi, serta memperbaiki masalah multikolinearitas. Teknik dimensionality reduction yang paling populer adalah PCA (principal component analysis).
EDA adalah singkatan dari exploratory data analysis dan merujuk pada fase pertama analisis data, yang berfokus pada eksplorasi dasar data yang tersedia; merangkum karakteristik utamanya, dan menemukan pola serta tren awal, masalah yang perlu diperbaiki, dan pertanyaan untuk diteliti lebih lanjut. Pada tahap ini, seorang data analyst atau data scientist menggambar pemahaman umum tentang data sebagai dasar untuk analisis data yang lebih terperinci selanjutnya.
ELT (extract, load, transform) adalah sistem data pipeline yang dirancang oleh data engineer, alternatif dari pendekatan yang lebih populer ETL (extract, transform, load). Sebelum menerapkan transformasi apa pun, data mentah dimuat ke data lake lalu ditransformasikan di tempat. Keunggulan ELT dibanding ETL adalah membutuhkan waktu lebih sedikit, cocok untuk memproses dataset besar, dan lebih hemat biaya.
ETL (extract, transform, load) adalah sistem data pipeline yang dirancang oleh data engineer. Data diekstraksi dari berbagai sumber, ditransformasikan dari bentuk mentahnya ke format yang tepat agar konsisten dengan data dari sumber lain, dan dimuat ke data warehouse target. Dari sini, data dapat digunakan untuk analisis dan pemodelan lebih lanjut guna menyelesaikan berbagai masalah bisnis.
Evaluation metrics adalah sekumpulan metrik yang digunakan untuk memperkirakan kinerja model statistik atau machine learning. Beberapa contoh evaluation metrics adalah accuracy score, f-score, recall dan RMSE.
False negative adalah hasil ketika model klasifikasi secara keliru memprediksi kelas negatif untuk variabel target biner (misalnya, jika kita memprediksi churn pelanggan, false negative menghasilkan prediksi "tidak akan churn" padahal label aktualnya "akan churn").
False positive adalah hasil ketika model klasifikasi secara keliru memprediksi kelas positif untuk variabel target biner. Misalnya, jika kita memprediksi churn pelanggan, false positive menghasilkan prediksi "akan churn" padahal label aktualnya "tidak akan churn".
Feature adalah variabel independen yang digunakan sebagai input dalam model machine learning. Misalnya, jika kita memprediksi kemungkinan diabetes menggunakan tinggi badan, berat badan, dan asupan gula—tinggi badan, berat badan, dan asupan gula adalah feature.
Feature engineering adalah proses menggunakan pengetahuan domain dan keahlian substansi untuk mentransformasikan feature mentah menjadi feature yang lebih mencerminkan masalah yang mendasarinya, dan lebih cocok untuk algoritme machine learning. Ini mencakup mengekstraksi feature baru dari data yang tersedia, atau memanipulasi feature yang ada. Misalnya, jika kita mencoba memprediksi hasil kesehatan seperti kemungkinan menderita diabetes, menghitung feature BMI menggunakan feature tinggi dan berat badan adalah feature engineering.
Feature selection adalah proses memilih subset feature dari dataset yang paling relevan untuk memprediksi variabel target. Proses feature selection yang cerdas sangat penting untuk dataset besar karena mengurangi kompleksitas model, overfitting, dan waktu komputasi, serta meningkatkan akurasi model.
F-Score adalah metrik evaluasi untuk memperkirakan kinerja model yang menggabungkan precision dan recall. Biasanya digunakan F1-score, yaitu mean harmonik dari precision dan recall. Kasus yang lebih umum adalah Fβ di mana bobot tambahan diterapkan pada precision atau recall.
Gradient descent adalah proses optimisasi iteratif yang digunakan dalam machine learning untuk meminimalkan cost function dengan menemukan nilai optimal untuk parameter-parameter fungsi.
Hadoop adalah kerangka kerja perangkat lunak open-source berbasis Java yang memungkinkan pemrosesan paralel dan penyimpanan terdistribusi big data di seluruh klaster banyak komputer. Hadoop memungkinkan penghematan waktu dan penanganan data dalam jumlah jauh lebih besar daripada yang mungkin dilakukan hanya dengan satu komputer.
Hyperparameter adalah atribut yang terkait dengan model machine learning yang nilainya ditetapkan secara manual sebelum memulai proses pelatihan. Tidak seperti parameter lainnya, hyperparameter tidak dapat diestimasi atau dipelajari langsung dari data. Dengan menyetel hyperparameter dan memperkirakan kinerja model yang dihasilkan, kita dapat menentukan nilai optimalnya untuk memperoleh model yang paling presisi. Secara intuitif, menyetel hyperparameter mirip dengan memutar kenop radio saat mencoba mendapatkan sinyal yang sempurna. Contoh hyperparameter adalah jumlah pohon pada algoritme random forest.
Hipotesis adalah asumsi tentang suatu masalah atau peristiwa yang harus diuji, dan bergantung pada hasil eksperimen, dibuktikan atau ditolak.
Imputation adalah proses mengisi nilai yang hilang dalam sebuah dataset. Teknik imputasi dapat berupa teknik statistik (imputasi mean/mode) atau teknik machine learning (imputasi KNN).
K-Means adalah algoritme clustering paling populer yang mengidentifikasi K pusat cluster (disebut centroid) dengan koordinat tentatif pada data dan secara iteratif menetapkan setiap observasi ke salah satu centroid berdasarkan fiturnya hingga centroid berkonvergensi. Titik data serupa di dalam sebuah cluster dan berbeda dari titik data di cluster lainnya.
K-nearest neighbors adalah algoritme supervised learning yang mengklasifikasikan observasi berdasarkan kemiripannya dengan tetangga terdekatnya. Parameter terpenting KNN yang dapat disetel adalah jumlah tetangga terdekat dan metrik jarak (Minkowski, Euclidean, Manhattan, dan lain-lain).
Aljabar linear adalah cabang matematika yang berkaitan dengan sistem linear: garis, bidang, ruang vektor, matriks, dan operasi atasnya, seperti penjumlahan atau perkalian. Aljabar linear sangat berguna dalam data science dan machine learning, karena dataset dan banyak model machine learning dapat direpresentasikan dalam bentuk matriks.
Regresi linear adalah algoritme regresi yang menangani pemodelan hubungan linear antara variabel target kontinu dan satu atau beberapa fitur kontinu. Contoh khas data science yang menggunakan regresi linear adalah prediksi harga berdasarkan berbagai atribut input.
Regresi logistik adalah algoritme regresi yang menggunakan fungsi logistik pada fitur input untuk memprediksi probabilitas kelas atau langsung label kelas untuk variabel target. Pada kasus kedua, keluaran merepresentasikan sekumpulan kategori alih-alih nilai kontinu, yang berarti regresi logistik di sini bertindak sebagai teknik klasifikasi. Use case data science yang khas untuk regresi logistik adalah memprediksi kemungkinan churn pelanggan.
Machine learning adalah cabang dari kecerdasan buatan (AI) yang menyediakan seperangkat algoritme yang dirancang untuk mempelajari pola dan tren dari data historis. Tujuan ML adalah memprediksi hasil di masa depan, dan melakukan generalisasi melampaui titik data pada himpunan pelatihan tanpa diprogram secara eksplisit. Ada dua jenis utama algoritme machine learning: supervised dan unsupervised, masing-masing diwakili oleh banyak teknik yang dapat diterapkan untuk berbagai use case.
Mean adalah nilai rata-rata aritmetika untuk sekumpulan angka yaitu jumlah semua nilai dibagi jumlah nilai. Biasanya digunakan bersama statistik lain untuk mendapatkan pemahaman keseluruhan tentang seluruh dataset.
Mean absolute error (MAE) adalah rata-rata aritmetika dari semua kesalahan absolut nilai prediksi dibandingkan dengan nilai aktual.
Mean squared error (MSE) adalah rata-rata aritmetika dari kuadrat semua kesalahan nilai prediksi dibandingkan dengan nilai aktual.
Median adalah nilai tengah dalam sekumpulan angka yang diurutkan naik atau turun. Jika ada jumlah nilai genap dalam himpunan, median adalah rata-rata aritmetika dari dua nilai tengah. Median biasanya digunakan bersama statistik lain untuk mendapatkan pemahaman keseluruhan tentang seluruh dataset, dan sangat berguna untuk mendeteksi kemungkinan outlier.
Modus adalah nilai (atau nilai-nilai) yang paling sering muncul dalam sekumpulan data.
Model tuning adalah proses menyetel hyperparameter untuk memaksimalkan akurasi model tanpa menyebabkan overfitting.
Multivariate modeling adalah proses memodelkan hubungan antara banyak variabel (prediktor) yang ditentukan pada langkah feature selection, dan variabel target.
Naive Bayes adalah kelompok algoritme klasifikasi yang didasarkan pada Bayes' theorem dan asumsi independensi antar fitur yang digunakan dalam pengklasifikasi. Meskipun, pada kenyataannya, fitur tidak selalu independen, algoritme Naive Bayes dapat berhasil diterapkan untuk berbagai use case data science, seperti penyaringan spam atau analisis sentimen.
Natural Language Processing (NLP) adalah cabang ilmu komputer yang menangani pembuatan aplikasi komputer agar memahami dan menganalisis bahasa manusia tertulis atau lisan. Teknik NLP menerima data teks input, biasanya tidak terstruktur, mengonversinya ke bentuk terstruktur, mencari pola linguistik dan kontekstual, mengkategorikannya, dan mengekstrak wawasan berharga dari data ini. NLP juga melibatkan pemanfaatan machine learning dan deep learning untuk menghasilkan bahasa, mengkategorikannya, dan menyelesaikan tugas kognitif lainnya menggunakan bahasa. Beberapa contoh aplikasi NLP adalah chatbot, konverter ucapan-ke-teks, analisis sentimen, dan terjemahan otomatis.
Normalisasi adalah proses penskalaan ulang data sehingga semua atribut memiliki skala yang sama. Normalisasi diperlukan untuk membuat perbandingan antar atribut menjadi bermakna dan juga diperlukan untuk beberapa algoritme machine learning.
NoSQL adalah singkatan dari "not only SQL". Sebuah sistem manajemen database yang digunakan untuk penyimpanan dan pengambilan database non-relasional (yaitu non-tabular). Beberapa contoh model data non-relasional adalah database grafik, dokumen, dan key-value. Sistem NoSQL diuntungkan oleh fleksibilitas dan kecepatan operasional yang tinggi, serta kemungkinan untuk diskalakan di banyak server".
Hipotesis nol adalah jenis hipotesis yang menyatakan kebalikan dari hipotesis alternatif yang akan diuji, yaitu bahwa tidak ada hubungan statistik yang signifikan antara dua variabel dan bahwa observasi semuanya didasarkan pada kebetulan. Hipotesis nol dapat ditolak atau dikonfirmasi selama eksperimen statistik.
Open source mengacu pada perangkat lunak dan sumber daya berlisensi bebas yang tersedia untuk modifikasi dan berbagi lebih lanjut. Alat open-source memfasilitasi kolaborasi di antara pengguna dan biasanya lebih stabil karena peneliti dapat menambahkan fitur baru yang membantu, atau memperbaiki masalah teknis dan bug yang dilaporkan oleh komunitas.
Variabel ordinal adalah variabel yang dapat memiliki salah satu dari sejumlah nilai terbatas dengan urutan intrinsik. Contohnya adalah kolom respons survei di mana respons diurutkan berdasarkan intensitas (misalnya, "Sangat tidak setuju", "tidak setuju", "netral", "setuju" atau "Sangat setuju").
Outlier adalah nilai abnormal dalam sebuah dataset yang menyimpang secara signifikan dari sisa observasi. Outlier dapat menjadi bukti kesalahan pengukuran atau peristiwa luar biasa.
Overfitting mengacu pada saat model mempelajari terlalu banyak informasi dari himpunan pelatihan termasuk potensi noise dan outlier. Akibatnya, model menjadi terlalu kompleks, terlalu terkondisikan pada himpunan pelatihan tertentu, dan gagal berkinerja memadai pada data yang belum terlihat. Overfitting menyebabkan variance tinggi pada bias-variance tradeoff.
Parameter adalah variabel bernama yang diteruskan ke dalam fungsi dalam pemrograman dan data science. Dalam machine learning, parameter adalah komponen internal dari sebuah algoritme yang dipelajari dari data. Beberapa algoritme machine learning bersifat parametrik dengan himpunan parameter tetap (misalnya, regresi linear dan logistik), sedangkan yang lain non-parametrik (misalnya, k-nearest neighbors).
Precision adalah metrik evaluasi yang digunakan untuk memperkirakan kinerja model machine learning, yang menunjukkan rasio jumlah kasus positif yang diprediksi dengan benar terhadap total jumlah kasus positif yang diprediksi.
Predictive analytics adalah proses menganalisis data historis menggunakan berbagai alat analisis statistik, data mining, visualisasi data, dan machine learning, untuk membuat prediksi tentang peristiwa di masa depan dalam bisnis tertentu.
Principal component analysis (PCA) adalah teknik statistik analisis faktor dan dimensionality reduction yang mentransformasikan sekumpulan fitur awal yang mungkin berkorelasi menjadi himpunan yang lebih kecil dari fitur yang tidak berkorelasi secara linear yang disebut komponen utama. Dengan cara ini, PCA mempertahankan sebanyak mungkin varians dalam dataset, sekaligus meminimalkan jumlah fitur.
Python adalah bahasa pemrograman berorientasi objek, tingkat tinggi, bersifat open-source. Python sangat populer di bidang data science, tetapi juga banyak digunakan untuk pemrograman tujuan umum dalam ilmu komputer. Python intuitif untuk dipahami, mudah dipelajari dan digunakan, sekaligus tetap menjadi sumber yang sangat kuat untuk memecahkan masalah kompleks. Python menyediakan pustaka standar yang luas dan banyak modul tambahan yang berguna, serta terus dikembangkan, ditingkatkan, dan diperluas.
R adalah bahasa pemrograman populer dan perangkat lunak gratis yang banyak digunakan untuk menyelesaikan masalah data science dan machine learning, terutama terkenal karena kekuatan komputasi statistiknya dan solusi visualisasi data yang hebat. R mencakup banyak alat dan paket data science, dapat digunakan di banyak sistem operasi, dan memiliki komunitas online yang kuat.
Random Forest adalah algoritme supervised learning yang digunakan untuk masalah regresi atau klasifikasi, random forest menggabungkan keluaran dari banyak decision tree dalam satu model. Prediksi random forest pada dasarnya merepresentasikan rata-rata hasil dari semua decision tree, sehingga algoritme ini memberikan hasil yang lebih akurat daripada hanya satu decision tree.
Recall adalah metrik evaluasi yang digunakan untuk memperkirakan kinerja model machine learning, yang menunjukkan rasio jumlah kasus positif yang diprediksi dengan benar terhadap total jumlah kasus positif aktual.
Regresi adalah masalah supervised learning di mana perlu memprediksi keluaran kontinu berdasarkan fitur input. Model regresi mempelajari hubungan antara satu atau beberapa fitur independen dan variabel target, lalu menggunakan fungsi yang ditetapkan untuk memprediksi data yang belum terlihat. Contoh algoritme regresi adalah regresi linear dan regresi ridge. Masalah regresi yang umum adalah prediksi harga.
Reinforcement learning (RL) adalah cabang mandiri machine learning (bukan supervised maupun unsupervised) di mana sebuah algoritme secara bertahap belajar dengan berinteraksi dengan sebuah lingkungan. RL membuat keputusan berdasarkan pengalamannya di masa lalu tentang tindakan mana yang dapat membawanya lebih dekat ke tujuan yang dinyatakan. Dengan menerima hadiah untuk tindakan yang benar dan penalti untuk yang salah, algoritme menemukan strategi optimal untuk memaksimalkan kinerjanya. Contoh algoritme RL mencakup sistem machine learning untuk bermain gim seperti engine catur dan agen gim video.
Relational database adalah jenis database yang menyimpan data dalam beberapa tabel yang saling terkait melalui ID unik (kunci) dari mana data dapat diakses, diekstrak, diringkas, atau disusun kembali dengan berbagai cara.
Root mean squared error (RMSE) adalah akar kuadrat dari mean squared error. Metrik evaluasi ini lebih intuitif daripada MSE karena hasilnya lebih mudah dipahami, menggunakan satuan ukuran yang sama dengan data asli.
Sampling error adalah perbedaan statistik antara seluruh populasi data dan subsetnya (sampel), karena sampel tidak mencakup semua elemen dari seluruh populasi.
SQL (structured query language) adalah bahasa pemrograman yang dirancang untuk berinteraksi dengan sistem manajemen database relasional (RDBMS). SQL memiliki beberapa varian, termasuk SQLite, PostgreSQL, dan MySQL. Beberapa di antaranya gratis dan open source. Semua varian memiliki sintaks yang cukup mirip, dengan variasi kecil pada fungsionalitas tambahan.
Simpangan baku adalah akar kuadrat dari varians suatu populasi. Simpangan baku menunjukkan besarnya penyebaran nilai dan lebih intuitif daripada varians karena menggunakan satuan ukuran yang sama dengan data.
Supervised learning adalah cabang machine learning yang berkaitan dengan melatih model pada himpunan pelatihan berlabel dari data historis. Supervised learning mempelajari hubungan antara input dan output lalu mengukur seberapa akurat model tersebut memprediksi output untuk himpunan uji dengan output aktual yang diketahui. Dengan cara ini model dapat digunakan nanti untuk membuat prediksi pada data yang benar-benar baru. Algoritme supervised learning mencakup regresi linear dan logistik, decision tree, dan SVM. Contoh tugas umum termasuk memprediksi harga rumah dan mengklasifikasikan pesan sebagai spam atau bukan spam.
SVM (Support Vector Machine) adalah algoritme supervised learning yang terutama digunakan untuk klasifikasi, tetapi juga untuk masalah regresi. Dalam masalah klasifikasi, SVM menyediakan hyperplane optimal yang memisahkan observasi dari kedua kelas (dalam kasus klasifikasi multikelas, algoritme memecah masalah menjadi serangkaian masalah biner). Dalam masalah regresi, SVM menyediakan hyperplane garis terbaik dalam batas ambang tertentu.
Data sintetis adalah data yang dibuat secara artifisial. Data sintetis biasanya mencerminkan sifat statistik dari dataset awal, sehingga dapat digunakan di bidang dengan privasi tinggi seperti perbankan dan layanan kesehatan, atau untuk menambah dataset yang ada dengan observasi data tambahan yang secara statistik representatif.
Variabel target (disebut juga variabel dependen) adalah variabel yang akan diprediksi dalam algoritme machine learning dengan menggunakan fitur, misalnya jika kita memprediksi kemungkinan diabetes menggunakan tinggi badan, berat badan, dan asupan gula, status diabetes adalah variabel target yang ingin kita prediksi.
Himpunan uji adalah subset dari data yang tersedia yang diisolasi sebelum membangun model, biasanya antara 20 hingga 30% dari seluruh dataset. Himpunan uji digunakan untuk mengevaluasi akurasi model yang dipasangkan pada himpunan pelatihan.
Time series adalah rangkaian observasi suatu variabel yang diambil pada waktu yang berbeda dan diurutkan berdasarkan waktu. Biasanya, pengukuran time series diambil pada titik waktu yang berurutan dan berjarak sama. Beberapa contoh time series adalah harga pasar saham atau suhu selama periode waktu tertentu.
Himpunan pelatihan adalah subset dari data yang tersedia yang diisolasi sebelum membangun model, biasanya 70 hingga 80% dari seluruh dataset. Himpunan pelatihan digunakan untuk memasangkan model yang nantinya akan diuji pada himpunan uji.
True negative (TN) adalah hasil di mana model dengan benar memprediksi kelas negatif untuk variabel target biner (yaitu, memprediksi "False" untuk label aktual False).
True positive (TP) adalah hasil di mana model dengan benar memprediksi kelas positif untuk variabel target biner (yaitu, memprediksi "True" untuk label aktual True).
Underfitting terjadi ketika model tidak mampu mendeteksi pola dari himpunan pelatihan karena dibangun dengan informasi yang tidak memadai. Akibatnya, model terlalu sederhana dan tidak dapat berkinerja baik pada data yang belum terlihat, maupun pada himpunan pelatihan itu sendiri. Model yang underfit memiliki bias tinggi.
Univariate modeling adalah proses memodelkan hubungan antara satu variabel (prediktor) dan variabel target. Univariate modeling biasanya digunakan pada time series.
Data tidak terstruktur adalah data apa pun yang tidak sesuai dengan struktur data yang telah ditentukan sebelumnya seperti struktur baris-kolom khas database. Contoh data seperti ini adalah gambar, email, dokumen teks, video, dan audio.
Unsupervised learning adalah kelas algoritme machine learning yang mempelajari struktur yang mendasari sebuah dataset tanpa diberi variabel target. Unsupervised learning digunakan untuk menemukan pola umum dalam data, mengelompokkan nilai berdasarkan atributnya, dan kemudian membuat prediksi pada data yang belum terlihat. Algoritme unsupervised learning yang paling umum adalah k-means. Contoh tugas umum adalah deteksi anomali, dan segmentasi pelanggan berdasarkan karakteristik umum.
Varians adalah rata-rata kuadrat selisih antara nilai individu dan mean dari seluruh himpunan nilai dalam matematika dan statistik. Dengan kata lain, varians menunjukkan seberapa tersebar nilai-nilai tersebut. Dalam machine learning, varians adalah kesalahan yang disebabkan oleh sensitivitas model terhadap variasi kecil pada himpunan pelatihan. Varians tinggi mencerminkan kecenderungan model untuk mempelajari noise acak dari fitur input yang menyebabkan overfitting model.
Web scraping adalah proses mengekstraksi data tertentu dari situs web untuk digunakan lebih lanjut. Web scraping dapat dilakukan secara otomatis dengan menulis program untuk menangkap informasi yang diperlukan dari sebuah situs web.
Z-Score (disebut juga skor ternormalisasi, skor standar, atau skor normal) adalah jumlah satuan simpangan baku yang menunjukkan seberapa jauh nilai suatu observasi data berada di atas atau di bawah nilai mean dari seluruh himpunan nilai. Z-score sama dengan 0 berarti observasi data berada dekat dengan mean.
blogs
David Woods
13 mnt
blogs
Hugo Bowne-Anderson
13 mnt
blogs
Dario Radečić
15 mnt

blogs
Javier Canales Luna
14 mnt