Kursus
Mengembangkan Model Machine Learning untuk Produksi
4 jam
9.4K
Kita semua pernah mendengar tentang CPU (Central Processing Units) dan GPU (Graphics Processing Units), tetapi apakah Anda tahu perbedaan cara keduanya menangani pemrosesan? Meskipun keduanya penting dalam komputasi modern, keduanya dirancang untuk tujuan yang berbeda.
Dalam panduan ini, saya akan menguraikan perbedaan, kasus penggunaan, dan peran CPU dan GPU yang terus berkembang.
Apa itu CPU?
CPU, yang sering disebut sebagai "otak" komputer, adalah unit pusat yang mengeksekusi tugas komputasi tujuan umum. CPU dioptimalkan untuk mengelola instruksi yang kompleks dan berurutan serta terlibat dalam hampir setiap aspek komputasi, mulai dari menangani aplikasi hingga menjalankan sistem operasi. Aplikasi mencakup segala sesuatu mulai dari peramban hingga program obrolan dan email Anda.
CPU sangat andal untuk tugas yang menuntut presisi dan keandalan, seperti melakukan operasi aritmetika, mengeksekusi keputusan berbasis logika, dan mengendalikan aliran data.
Arsitektur Von Neumann dasar. Gambar oleh Penulis.
CPU modern sering kali memiliki banyak inti (core), memungkinkan eksekusi beberapa tugas secara bersamaan (meski dalam skala lebih kecil dibandingkan GPU). CPU juga menggabungkan teknologi canggih seperti hyper-threading dan hierarki cache untuk meningkatkan efisiensi dan mengurangi latensi saat menjalankan tugas.
Cara kerja CPU
CPU memproses tugas secara berurutan, mengikuti siklus instruksi yang mencakup pengambilan (fetch), penguraian (decode), eksekusi, dan penyimpanan data. Pendekatan langkah demi langkah ini menghasilkan presisi dan keandalan tinggi, menjadikan CPU ideal untuk tugas single-threaded seperti kueri basis data, kompilasi kode, dan simulasi kompleks.
Meskipun CPU modern dapat melakukan multitugas hingga batas tertentu, kekuatannya justru terletak pada kemampuannya menangani komputasi kompleks di mana akurasi dan ketertiban sangat penting.
CPU juga dilengkapi mekanisme penanganan kesalahan yang tangguh untuk melakukan komputasi tanpa korupsi data atau kesalahan logis.
Karakteristik CPU
CPU dicirikan oleh sedikit inti dengan kecepatan clock tinggi. Setiap inti berfokus pada satu atau beberapa thread pada satu waktu, sehingga sangat efisien untuk tugas yang membutuhkan daya pemrosesan besar namun paralelisme terbatas.
Karakteristik inti dari CPU meliputi:
- Kecepatan clock: Diukur dalam GHz, menentukan berapa banyak siklus yang dapat dieksekusi sebuah inti per detik, berdampak langsung pada performa untuk tugas single-threaded.
- Memori cache: CPU memiliki cache terintegrasi (L1, L2, dan L3) yang menyimpan data yang sering diakses, mengurangi waktu yang dibutuhkan untuk mengambil data dari RAM.
- Set instruksi: CPU menggunakan set instruksi kompleks (seperti x86) untuk menangani beragam tugas, mulai dari komputasi matematis hingga pemrosesan multimedia.
Terlepas dari presisi dan fleksibilitasnya, CPU memiliki keterbatasan dalam menangani beban kerja yang sangat paralel secara efisien, seperti melatih model machine learning berukuran besar atau merender grafis beresolusi tinggi. Untuk tugas seperti itu, prosesor khusus seperti GPU sering memimpin. Mari kita lihat alasannya pada bagian berikutnya.
Apa itu GPU?
GPU adalah prosesor khusus yang dioptimalkan untuk tugas yang melibatkan pemrosesan paralel atau memproses banyak kumpulan informasi secara bersamaan.
GPU awalnya dikembangkan untuk menangani perenderan gambar pada video game dan aplikasi visual, tetapi telah berevolusi menjadi alat yang kuat yang digunakan di berbagai bidang, termasuk data science, machine learning, penambangan kripto, dan simulasi ilmiah. Kemampuannya memproses data dalam jumlah besar secara paralel menjadikannya krusial untuk komputasi berkinerja tinggi dan pengembangan AI.
Cara kerja GPU
GPU memiliki ribuan inti kecil yang dapat mengeksekusi tugas-tugas sederhana secara mandiri, menjadikannya ideal untuk beban kerja paralel.
Berbeda dengan CPU yang berfokus pada presisi dan ketertiban, GPU membagi masalah besar menjadi tugas-tugas kecil, memprosesnya secara paralel, lalu menggabungkan hasilnya. Arsitektur ini membuat GPU unggul dalam operasi di mana instruksi yang sama diterapkan berulang kali pada kumpulan data besar.
Misalnya, saat merender gambar, GPU menugaskan setiap piksel ke inti yang terpisah untuk diproses secara bersamaan, sehingga mempercepat operasi secara signifikan. Dalam machine learning, paralelisme ini memungkinkan pelatihan lebih cepat dengan memproses batch data dan melakukan komputasi seperti perkalian matriks di banyak inti sekaligus.
GPU modern juga menyertakan fitur seperti Tensor Cores (pada GPU NVIDIA) atau unit khusus lain yang dirancang untuk mempercepat tugas AI, sehingga makin efisien untuk pelatihan jaringan saraf.
Karakteristik GPU
Singkatnya, berikut karakteristik yang membedakan GPU:
- Jumlah inti: GPU dapat memiliki ribuan inti, memungkinkannya menangani beban kerja paralel yang luas. Meski tiap inti secara individual kurang bertenaga dibanding inti CPU, keluaran gabungannya sangat besar.
- Kecepatan clock: GPU memiliki kecepatan clock lebih rendah dibanding CPU. Kompromi ini memungkinkan lebih banyak inti dimuat dalam satu chip, menekankan throughput alih-alih performa single-threaded.
- Bandwidth memori: GPU dilengkapi memori ber-bandwidth tinggi (seperti GDDR6 atau HBM) untuk menangani kebutuhan data intensif dari pemrosesan paralel.
- Skalabilitas: GPU modern mendukung pengaturan multi-GPU, di mana tugas didistribusikan ke beberapa GPU untuk peningkatan performa yang lebih besar.
Perbedaan Antara CPU dan GPU
Sekarang mari kita perbesar perbedaan spesifik antara CPU dan GPU. Salah satu yang utama yang sudah dibahas adalah komputasi serial vs. paralel, namun ada hal penting lainnya.
Arsitektur dan desain
CPU dibangun dengan lebih sedikit inti yang lebih kuat dan dioptimalkan untuk pemrosesan single-threaded dan berurutan. Inti ini memiliki unit kendali canggih, cache yang lebih besar (L1, L2, dan terkadang L3), serta dukungan untuk set instruksi yang canggih seperti x86-64 atau ARM.
Sebaliknya, GPU memiliki jajaran inti yang sangat banyak dan lebih kecil yang dirancang untuk menangani tugas paralel. Inti ini beroperasi di bawah model Single Instruction, Multiple Data (SIMD), di mana operasi yang sama diterapkan pada banyak titik data secara bersamaan.
Perbandingan arsitektur GPU dan CPU. Gambar sumber.
Performa dan efisiensi
Seperti yang dapat Anda bayangkan, perbedaan arsitektur berdampak langsung pada performa.
Dengan kecepatan clock tinggi dan penanganan instruksi yang canggih, CPU unggul dalam tugas berlatensi rendah yang memerlukan presisi tinggi dan operasi logis. Contohnya termasuk manajemen sistem operasi, kueri basis data, dan menjalankan thread aplikasi. CPU juga lebih serbaguna dan mampu beralih secara efisien di antara beragam beban kerja berkat kemampuan decoding instruksi dan prediksi percabangan.
Seperti disebutkan, GPU unggul dalam tugas di mana paralelisme menjadi kunci. Kemampuannya memproses banyak aliran data secara bersamaan membuatnya tak tergantikan untuk operasi ber-throughput tinggi, seperti pengodean video, simulasi ilmiah, dan pelatihan jaringan saraf. Misalnya, dalam deep learning, GPU mempercepat perkalian matriks dan backpropagation, secara drastis mengurangi waktu pelatihan dibandingkan CPU.
Komprominya terletak pada sifat beban kerja: CPU mengungguli GPU pada tugas berurutan, sedangkan GPU mendominasi tugas paralel yang padat data.
Konsumsi daya
GPU umumnya mengonsumsi lebih banyak daya karena jumlah inti yang tinggi dan tuntutan pemrosesan paralel yang intens, sementara CPU cenderung membutuhkan daya yang lebih rendah.
GPU kelas atas dapat mengonsumsi beberapa ratus watt saat beban puncak, khususnya selama operasi intensif seperti melatih model machine learning atau merender grafis 4K. Selain itu, kebutuhan bandwidth memori yang tinggi semakin meningkatkan konsumsi daya.
Fitur CPU seperti pengaturan tegangan dan frekuensi dinamis (DVFS), status daya rendah (C-states), dan mekanisme pendinginan yang efisien memungkinkan CPU menyeimbangkan performa dengan konsumsi daya secara efektif. Ini membuat CPU lebih cocok untuk perangkat yang memerlukan masa pakai baterai lebih lama atau keluaran termal lebih rendah, seperti laptop dan perangkat seluler.
Biaya dan ketersediaan
CPU tersedia luas pada perangkat konsumen dan umumnya lebih terjangkau. Kegunaan yang luas dan penetrasi pasar membuatnya relatif murah bagi konsumen. CPU level pemula bisa berharga di bawah $100, sementara model berperforma tinggi untuk server atau workstation bisa mencapai ribuan dolar.
GPU, khususnya model berperforma tinggi, lebih mahal dan umum ditemukan pada workstation, sistem gaming, dan lingkungan komputasi berkinerja tinggi. GPU kelas konsumen untuk gaming mungkin berkisar $200 hingga $1.000, sedangkan GPU khusus untuk pusat data atau riset ilmiah, seperti NVIDIA A100 atau seri Instinct dari AMD, dapat berharga puluhan ribu dolar.
Tabel berikut memberikan perbandingan rinci CPU vs GPU, sehingga lebih mudah melihat perbedaannya secara sekilas:
|
CPU (Central Processing Unit) |
GPU (Graphics Processing Unit) |
|
|
Fungsi utama |
Pemrosesan tujuan umum untuk tugas berurutan |
Khusus untuk pemrosesan paralel dan tugas intensif data |
|
Arsitektur |
Sedikit inti yang kuat, dioptimalkan untuk performa single-threaded |
Ribuan inti yang lebih kecil dan sederhana, dioptimalkan untuk paralelisme |
|
Model pemrosesan |
Eksekusi serial: tugas diproses satu per satu |
Eksekusi paralel: banyak tugas diproses secara bersamaan |
|
Jumlah inti |
Biasanya 4–64 inti pada CPU kelas konsumen |
Dapat memiliki ribuan inti pada GPU berperforma tinggi |
|
Kecepatan clock |
Kecepatan clock lebih tinggi (hingga ~5 GHz) |
Kecepatan clock lebih rendah (~1–2 GHz) |
|
Kekuatan |
Presisi, tugas berurutan, fleksibilitas, dan operasi logis |
Throughput tinggi untuk operasi skala besar seperti matematika matriks |
|
Kasus penggunaan |
Menjalankan sistem operasi, logika aplikasi, basis data |
Perenderan grafis, machine learning, komputasi ilmiah |
|
Konsumsi daya |
Lebih rendah karena inti lebih sedikit dan desain hemat energi |
Lebih tinggi karena inti yang padat dan kebutuhan bandwidth memori |
|
Bandwidth memori |
Lebih rendah, umumnya dioptimalkan untuk latensi |
Lebih tinggi, dioptimalkan untuk throughput (mis., memori GDDR6, HBM) |
|
Biaya |
Relatif terjangkau dan tersedia luas |
Lebih mahal, terutama untuk model berperforma tinggi |
|
Aplikasi |
Laptop, desktop, server, perangkat seluler |
Sistem gaming, workstation, lingkungan HPC, beban kerja AI |
|
Fleksibilitas |
Kompatibilitas luas untuk berbagai tugas |
Dioptimalkan untuk beban kerja spesifik yang memerlukan paralelisme |
Kasus Penggunaan CPU
Mari bahas secara singkat beberapa kasus penggunaan CPU yang lebih spesifik:
- Komputasi tujuan umum: CPU sangat cocok untuk tugas sehari-hari, seperti menjelajah internet, menggunakan aplikasi produktivitas, dan penggunaan komputer harian. Mayoritas beban kerja komputer Anda berbasis pada CPU.
- Aplikasi single-threaded: Tugas yang memerlukan pemrosesan single-threaded, seperti perhitungan finansial tertentu, lebih cocok ditangani CPU. Aplikasi single-threaded lainnya adalah pengolah kata, peramban, dan aplikasi musik.
- Manajemen sistem operasi: CPU menangani proses sistem penting, mengelola input, output, dan tugas latar yang menjaga sistem berjalan lancar.
Kasus Penggunaan GPU
Mari kita ulas singkat beberapa kasus penggunaan khusus GPU:
- Grafis dan pemrosesan video: GPU dirancang untuk merender grafis berkualitas tinggi, menjadikannya tak tergantikan dalam gaming, pengeditan video, dan aplikasi yang intensif grafis. Hal ini dimungkinkan karena kemampuan pemrosesan paralelnya, seperti yang saya sebutkan sepanjang artikel. Banyak game dengan grafis berat memerlukan GPU yang cukup kuat agar dapat dimainkan tanpa lag atau masalah.
- Machine learning dan AI: GPU sering digunakan untuk melatih model machine learning dan memproses kumpulan data besar dengan cepat, memenuhi kebutuhan performa tinggi dari algoritma AI. Karena banyaknya perhitungan, GPU sangat diperlukan untuk proyek yang memanfaatkan jaringan saraf. Karena banyak perhitungan dapat dilakukan secara paralel, GPU adalah komponen penting dari machine learning yang kompleks.
- Data science dan komputasi ilmiah: GPU dapat mempercepat komputasi skala besar dan operasi matriks dalam data science, sehingga berharga untuk analisis dan simulasi intensif data. Menghitung hal-hal seperti tensor, analisis citra, dan lapisan konvolusional memerlukan komputasi masif. Misalnya, Polars menyediakan mesin GPU untuk percepatan kueri.
Masa Depan CPU dan GPU
Baik CPU maupun GPU terus berkembang dalam hal daya dan kompleksitas! Masa depan keduanya menunjukkan peningkatan kemampuan komputasi dan penggunaan yang meluas.
CPU beradaptasi dengan lebih banyak inti
CPU meningkatkan jumlah inti untuk memenuhi tuntutan multitugas modern. Ini meningkatkan kemampuan komputasi serialnya dan menawarkan sebagian komputasi paralel melalui multithreading.
Beberapa tren dalam pengembangan CPU meliputi:
- Peningkatan jumlah inti: CPU kelas konsumen kini sering memiliki 8–16 inti, sedangkan prosesor kelas server dapat mencakup 64 inti atau lebih. Ini memungkinkan peningkatan kemampuan komputasi paralel melalui teknologi seperti simultaneous multithreading (SMT) dan hyper-threading.
- Arsitektur heterogen: CPU modern, seperti seri Alder Lake dari Intel atau desain big.LITTLE dari ARM, menggabungkan inti berkinerja tinggi dengan inti hemat energi untuk mengoptimalkan konsumsi daya dan performa tugas.
- Integrasi dengan unit khusus: CPU semakin banyak mengintegrasikan akselerator, seperti mesin inferensi AI atau unit pemrosesan grafis, langsung ke dalam chip untuk meningkatkan performa pada beban kerja tertentu.
Pengembangan GPU untuk komputasi tujuan umum
GPU berevolusi untuk menangani tugas tujuan umum, menjadikannya semakin serbaguna untuk operasi yang padat data. Produsen seperti NVIDIA dan AMD berinvestasi pada ekosistem perangkat lunak yang agnostik perangkat keras (mis., CUDA, ROCm) untuk memperluas penerapan GPU di luar grafis.
Banyak paket machine learning kini mampu menggunakan GPU. Kerangka kerja seperti TensorFlow dan PyTorch kini secara native mendukung akselerasi GPU, secara dramatis memangkas waktu komputasi.
Unit pemrosesan khusus
Masa depan pemrosesan tidak terbatas pada CPU dan GPU saja. Munculnya prosesor khusus, seperti TPU (Tensor Processing Unit) dan NPU (Neural Processing Unit), mencerminkan meningkatnya permintaan akan perangkat keras khusus tugas:
- Tensor Processing Units (TPU): Dikembangkan oleh Google, TPU dirancang khusus untuk mempercepat komputasi jaringan saraf. Berbeda dengan GPU, TPU berfokus pada operasi yang sarat matriks dan dioptimalkan untuk tugas AI berskala besar. Jika Anda memiliki lebih banyak pertanyaan, bacalah artikel tentang TPU vs. GPU.
- Neural Processing Units (NPU): Ditemukan pada perangkat seluler dan komputasi tepi, NPU dibuat untuk menangani tugas terkait AI seperti pengenalan gambar, pemrosesan ucapan, dan pemahaman bahasa alami, semuanya dengan konsumsi daya minimal.
- Kemajuan FPGA dan ASIC: Field-Programmable Gate Arrays (FPGA) dan Application-Specific Integrated Circuits (ASIC) juga semakin diminati karena kemampuannya disesuaikan untuk aplikasi tertentu, seperti penambangan kripto, pemrosesan paket jaringan, dan analitik waktu nyata.
Kesimpulan
CPU dan GPU masing-masing membawa keunggulan unik bagi komputasi: CPU unggul dalam tugas tujuan umum dan presisi, sedangkan GPU bersinar dalam pemrosesan paralel dan beban kerja yang padat data. Memahami perbedaan ini membantu data scientist, gamer, dan para profesional membuat pilihan perangkat keras yang tepat.
Jika Anda tertarik mengeksplorasi bagaimana GPU memberi daya pada model deep learning, lihat Introduction to Deep Learning with PyTorch. Untuk pemahaman yang lebih luas tentang teknologi AI dan penerapannya, AI Fundamentals track menyediakan tinjauan komprehensif. Untuk menggali lebih dalam mekanisme di balik machine learning, jelajahi kursus Understanding Machine Learning.
