Apa Itu Edge AI? Cara Kerja, Aplikasi, Tantangan

Apa Itu Edge AI?

Edge AI adalah praktik menerapkan model dan algoritma AI secara langsung pada perangkat edge, yaitu perangkat yang berada di tepi jaringan, dekat dengan tempat data dihasilkan dan tindakan perlu diambil.

Perangkat ini mencakup beragam jenis, dari server edge yang bertenaga hingga sensor IoT dengan sumber daya terbatas, termasuk contoh yang akrab seperti ponsel pintar, peralatan rumah pintar, kendaraan otonom, dan bahkan robot industri.

Kemajuan terbaru dalam AI, seperti pengembangan model bahasa yang lebih kecil dan efisien seperti GPT-4o Mini, Llama 3.1 8B, dan Gemma 2 2B, semakin mempercepat adopsi edge AI.

Peralihan ke edge AI ini menawarkan beberapa keuntungan:

• Kecepatan: Keputusan dan tindakan terjadi secara real time, tepat di tempat data dihasilkan. Ini diperlukan untuk aplikasi seperti mobil otonom atau perangkat medis yang tidak bisa menanggung keterlambatan akibat pengiriman data ke cloud untuk diproses.
• Privasi: Data sensitif dapat dianalisis secara lokal tanpa perlu dikirim ke cloud, meningkatkan keamanan dan privasi.
• Keandalan: Edge AI mengurangi ketergantungan pada koneksi internet yang konstan, sehingga lebih andal di area dengan konektivitas terbatas atau tidak stabil.
• Efisiensi: Pemrosesan data secara lokal mengurangi bandwidth yang dibutuhkan untuk mengirim semuanya ke cloud, menghemat energi dan biaya.

Cara Kerja Edge AI

Untuk memahami cara kerja edge AI, kita perlu memahami komponen utamanya dan proses yang terlibat.

Komponen utama

Edge AI terdiri dari tiga komponen utama: perangkat edge, model AI, dan komunikasi.

Perangkat edge

Perangkat edge mencakup berbagai jenis perangkat keras, dari server edge bertenaga yang mampu menangani beban komputasi besar hingga sensor IoT dengan sumber daya yang sangat terbatas yang dirancang untuk tugas tertentu.

Perangkat ini meliputi ponsel pintar, drone, kendaraan otonom, robot industri, dan perangkat rumah pintar, yang semuanya dapat menjalankan model AI secara lokal untuk memproses data secara real time. Beberapa produsen perangkat keras, seperti NVIDIA dan Intel, bahkan menyediakan dukungan perangkat keras untuk menerapkan model ML di edge.

Model AI

Edge AI menggunakan berbagai jenis model AI, termasuk pembelajaran mesin, pembelajaran mendalam, dan algoritma visi komputer, yang dioptimalkan untuk dieksekusi secara efisien pada perangkat edge.

Model-model ini disesuaikan untuk beroperasi dalam keterbatasan lingkungan edge, memastikan dapat bekerja efektif meski dengan daya komputasi, memori, dan penyimpanan terbatas.

Misalnya, model seperti GPT-4o Mini dan Llama 3.1 8B dirancang khusus agar ringan dan efisien, sehingga cocok untuk penerapan di edge.

Komunikasi

Pertukaran data yang efisien antara perangkat edge dan cloud difasilitasi oleh protokol komunikasi seperti MQTT dan REST API. Protokol ini memungkinkan konektivitas dan transfer data yang mulus, sehingga perangkat edge dan sistem pusat dapat beroperasi selaras saat diperlukan. Protokol ini memungkinkan transfer informasi dalam bentuk terkompresi dengan hampir tanpa kehilangan untuk menjaga informasi krusial tetap utuh.

MQTT (Message Queuing Telemetry Transport) adalah protokol perpesanan ringan yang dirancang untuk perangkat terbatas dan jaringan berbandwidth rendah, latensi tinggi, atau tidak andal. Ia menggunakan model publikasi-berlangganan, memungkinkan perangkat mengirim (mempublikasikan) dan menerima (berlangganan) pesan tanpa perlu koneksi langsung. Ini membuat MQTT ideal untuk aplikasi IoT di mana perangkat perlu berkomunikasi secara efisien dan andal.

REST API (Representational State Transfer Application Programming Interface) adalah gaya arsitektur untuk merancang aplikasi berjaringan. Ia menggunakan permintaan HTTP untuk mengakses dan menggunakan data. REST API bersifat stateless, artinya setiap panggilan dari klien ke server harus memuat semua informasi yang dibutuhkan server untuk memenuhi permintaan tersebut. Ini membuat REST API dapat diskalakan dan cocok untuk berbagai layanan dan aplikasi web, termasuk yang melibatkan perangkat edge.

Prosesnya

Alur kerja yang menggerakkan edge AI melibatkan tiga langkah: pengumpulan data, pemrosesan data, dan tindakan.

Pengumpulan data

Perangkat edge terus-menerus mengumpulkan data dari sensor, kamera, atau sumber lain, menyediakan aliran informasi yang stabil. Data ini bisa berupa metrik lingkungan dan parameter kesehatan hingga umpan video dan rekaman audio, yang menjadi dasar analisis real time.

Contoh bagus pengumpulan data adalah bagaimana jam tangan pintar Anda mencatat jumlah langkah yang Anda ambil hari ini.

Pemrosesan data

Model AI yang diterapkan pada perangkat edge memproses data yang dikumpulkan secara lokal. Langkah ini melibatkan analisis data untuk mengekstrak wawasan bermakna, mendeteksi pola, dan membuat prediksi menggunakan model AI tanpa bergantung pada sumber daya cloud.

Pemrosesan lokal memastikan keputusan dapat dibuat dengan cepat, seperti mobil otonom yang menentukan jalur mana yang dipilih secara real time.

Tindakan Real Time

Berdasarkan keluaran model AI, perangkat edge dapat mengambil tindakan segera. Tindakan ini mungkin termasuk memicu alarm, menyesuaikan jalur, atau mengirim data ke cloud untuk analisis lebih lanjut. Kemampuan bertindak secara real time sangat penting untuk skenario yang memerlukan respons instan, seperti sistem keamanan atau perangkat medis.

Aplikasi Edge AI di Dunia Nyata

Edge AI mentransformasi berbagai industri dengan menghadirkan kecerdasan dan pengambilan keputusan secara real time. Mari jelajahi beberapa aplikasi yang menonjol.

Manufaktur

Dalam manufaktur, waktu henti peralatan bisa sangat mahal. Edge AI mengatasinya dengan memantau kesehatan peralatan dan memprediksi potensi kegagalan sebelum terjadi. Dengan menganalisis data dari sensor secara real time, model AI dapat mendeteksi anomali dan memberi tahu tim pemeliharaan untuk mengambil tindakan pencegahan. Ini tidak hanya mengurangi waktu henti, tetapi juga memperpanjang umur mesin. 

Memastikan kualitas produk adalah hal yang utama dalam manufaktur. Kamera bertenaga AI yang dilengkapi dengan edge AI dapat memeriksa cacat produk secara real time. Sistem ini menganalisis data visual untuk mengidentifikasi cacat seperti goresan, penyok, atau perakitan yang salah. Dengan mengotomatisasi proses inspeksi, produsen dapat mencapai akurasi, konsistensi, dan efisiensi yang lebih tinggi, pada akhirnya meningkatkan kualitas produk dan kepuasan pelanggan.

Kesehatan

Industri kesehatan mendapatkan banyak manfaat dari Edge AI. Perangkat portabel yang dilengkapi edge AI dapat menganalisis citra medis seperti rontgen, MRI, dan CT scan, sehingga memberikan diagnosis lebih cepat. Kemampuan ini sangat berharga di wilayah terpencil atau kurang terlayani di mana akses ke radiolog spesialis mungkin terbatas. Dengan memproses gambar secara lokal, edge AI mengurangi waktu yang dibutuhkan untuk diagnosis, memungkinkan perawatan tepat waktu dan meningkatkan hasil pasien.

Perangkat yang dapat dikenakan dengan edge AI merevolusi perawatan pasien dengan memungkinkan pemantauan parameter kesehatan secara berkelanjutan. Perangkat ini mengumpulkan data seperti detak jantung, tekanan darah, dan kadar glukosa, lalu menganalisisnya secara real time untuk mendeteksi anomali. Jika kondisi kritis teridentifikasi, perangkat dapat segera memberi tahu penyedia layanan kesehatan. Pendekatan proaktif ini membantu mengelola penyakit kronis, mendeteksi masalah kesehatan lebih dini, dan mengurangi kunjungan ke rumah sakit.

Ritel

Pengelolaan inventaris yang efisien sangat penting bagi bisnis ritel. Kamera dan sensor bertenaga AI dapat melacak tingkat persediaan secara real time, memastikan rak selalu terisi. Dengan menganalisis data dari perangkat ini, edge AI dapat mengoptimalkan pengisian stok, mengurangi pemborosan, dan mencegah kekosongan stok. Ini meningkatkan kepuasan pelanggan dan menurunkan biaya inventaris.

Memahami perilaku pelanggan adalah kunci untuk menghadirkan pengalaman belanja yang dipersonalisasi. Edge AI menganalisis data dari kamera dan sensor di toko untuk memperoleh wawasan tentang preferensi dan perilaku pelanggan. Berdasarkan analisis ini, edge AI dapat memberikan rekomendasi dan promosi yang disesuaikan kepada masing-masing pembeli. Personalisasi meningkatkan pengalaman berbelanja, meningkatkan loyalitas pelanggan, dan mendorong penjualan.

Kota cerdas

Mengelola lalu lintas perkotaan adalah tugas kompleks yang memerlukan analisis data real time. Edge AI dapat mengoptimalkan arus lalu lintas dengan menganalisis data dari kamera lalu lintas, sensor, dan perangkat GPS. Dengan mendeteksi pola kemacetan dan memprediksi kondisi lalu lintas, edge AI dapat menyesuaikan lampu lalu lintas, mengalihkan rute kendaraan, dan memberikan pembaruan lalu lintas real time kepada pengemudi. Ini meningkatkan efisiensi lalu lintas, mengurangi waktu tempuh, dan meningkatkan keselamatan jalan.

Menjamin keamanan publik adalah prioritas utama bagi kota cerdas. Sistem pengawasan bertenaga AI yang dilengkapi edge AI dapat memantau ruang publik, mendeteksi anomali, dan mengidentifikasi potensi ancaman. Sistem ini menganalisis umpan video secara real time, mengenali aktivitas mencurigakan seperti akses tidak sah atau tas yang ditinggalkan. Dengan segera memberi tahu pihak berwenang, edge AI meningkatkan keamanan dan memungkinkan respons cepat terhadap insiden.

Edge AI: Solusi Perangkat Keras dan Perangkat Lunak

Penerapan Edge AI memerlukan kombinasi solusi perangkat keras dan perangkat lunak yang tepat. Berikut beberapa opsi populer:

Platform Perangkat Keras

Untuk berhasil menerapkan Edge AI, Anda memerlukan platform perangkat keras yang sesuai dan mampu menjalankan model AI secara efisien di edge. Mari telusuri beberapa opsi:

• NVIDIA Jetson: NVIDIA Jetson adalah platform bertenaga untuk AI di edge, menawarkan kemampuan komputasi berkinerja tinggi. Platform ini banyak digunakan dalam aplikasi seperti robotika, kota cerdas, dan layanan kesehatan. Perangkat Jetson menyediakan daya pemrosesan yang dibutuhkan untuk menjalankan model AI kompleks secara lokal, sehingga ideal untuk penerapan edge AI.
• Google Coral: Google Coral dirancang untuk penerapan edge AI yang cepat dan efisien. Perangkat ini menyediakan kemampuan inferensi pembelajaran mesin yang dipercepat, sehingga cocok untuk berbagai aplikasi, termasuk visi komputer dan IoT. Perangkat Coral dikenal mudah digunakan dan terintegrasi dengan kerangka kerja AI populer.
• Intel Movidius: Intel Movidius terkenal dengan kinerja hemat energinya, sehingga ideal untuk aplikasi berbasis visi. Ia mendukung beban kerja pembelajaran mendalam dan visi komputer pada perangkat edge, memungkinkan pemrosesan real time dengan konsumsi daya minimal. Chip Movidius umum digunakan pada drone, kamera keamanan, dan perangkat rumah pintar.

Kerangka Perangkat Lunak

Selain perangkat keras, kerangka perangkat lunak yang andal sangat penting untuk mengembangkan dan menerapkan aplikasi Edge AI. Mari telusuri beberapa opsi:

• TensorFlow Lite: TensorFlow Lite adalah versi ringan dari TensorFlow yang dioptimalkan untuk perangkat seluler dan edge. Ia memungkinkan pengembang menerapkan model pembelajaran mesin pada perangkat dengan sumber daya terbatas secara efisien. TensorFlow Lite mendukung berbagai aplikasi AI, dari klasifikasi gambar hingga pemrosesan bahasa alami.
• PyTorch Mobile: PyTorch Mobile memungkinkan penerapan model PyTorch pada platform seluler dan edge. Ia mendukung berbagai tugas AI, termasuk visi komputer, pengenalan ujaran, dan sistem rekomendasi. PyTorch Mobile dikenal fleksibel dan mudah diintegrasikan dengan alur kerja PyTorch yang sudah ada.
• ONNX (Open Neural Network Exchange): ONNX adalah format open-source untuk model AI, memungkinkan model dipindahkan antar kerangka kerja. Ini sangat berguna untuk edge AI karena memungkinkan penggunaan model pra-latih di berbagai platform, termasuk TensorFlow, PyTorch, dan lainnya. ONNX Runtime dioptimalkan untuk kinerja pada perangkat edge, memastikan eksekusi model yang efisien.
• Edge Impulse: Edge Impulse adalah platform yang dirancang khusus untuk pengembangan edge AI. Ia menawarkan alat untuk pengumpulan data, pelatihan model, dan penerapan, sehingga menyederhanakan proses pembuatan dan penerapan solusi edge AI. Edge Impulse mendukung berbagai platform perangkat keras dan menyediakan antarmuka yang intuitif bagi pengembang.

Tantangan dan Pertimbangan

Meskipun Edge AI menawarkan banyak manfaat, ada pula sejumlah tantangan yang perlu diatasi:

• Sumber daya terbatas: Menjalankan model AI kompleks pada perangkat dengan daya komputasi, memori, dan penyimpanan terbatas adalah tantangan. Pengembang harus mengoptimalkan model untuk menyeimbangkan kinerja dan konsumsi sumber daya, memastikan eksekusi yang efisien pada perangkat edge. Teknik seperti kuantisasi model, pruning, dan knowledge distillation lazim digunakan untuk mengurangi beban komputasi dan jejak memori model AI.
• Keterbatasan daya: Perangkat edge, terutama yang bertenaga baterai, memerlukan algoritma dan perangkat keras AI yang hemat energi. Memastikan umur baterai panjang sambil menjaga kinerja sangat penting untuk adopsi luas Edge AI. Teknik seperti desain perangkat keras berdaya rendah, algoritma hemat energi, dan manajemen daya dinamis sangat penting untuk meminimalkan konsumsi daya tanpa mengorbankan kinerja.
• Keamanan dan privasi data: Memroses data sensitif di edge memerlukan langkah keamanan yang kuat. Melindungi data dan memastikan kepatuhan terhadap regulasi seperti GDPR sangat penting untuk menjaga kepercayaan pengguna dan mencegah pelanggaran data. Teknik seperti enkripsi, secure boot, dan trusted execution environment lazim digunakan untuk meningkatkan keamanan dan privasi data dalam penerapan edge AI.

Kesimpulan

Edge AI merepresentasikan perubahan signifikan dalam cara kita menerapkan dan memanfaatkan kecerdasan buatan.

Dengan membawa komputasi lebih dekat ke sumber data, Edge AI mengatasi keterbatasan AI berbasis cloud, seperti latensi, kekhawatiran privasi, dan biaya bandwidth.

Kemajuan perangkat keras dan perangkat lunak, termasuk pengembangan model AI yang lebih kecil dan lebih efisien, mendorong pertumbuhan Edge AI di berbagai industri.

Edge AI menjanjikan masa depan di mana perangkat dan aplikasi cerdas terintegrasi mulus dalam kehidupan sehari-hari, membuatnya lebih cepat, lebih aman, dan lebih responsif.