Lewati ke konten utama

Memahami Model Vision-Language-Action: Bagaimana Robot Belajar Melihat, Memahami, dan Bertindak

Pelajari cara kerja model vision-language-action (VLA), perbedaannya dengan VLM, dan cara memilih antara OpenVLA, pi0, dan SmolVLA pada 2026.
Diperbarui 29 Sep 2026  · 15 mnt Baca

Jelajahi bersama AI

ChatGPTClaudePerplexity

Bayangkan Anda berkata kepada seseorang, “Ambil mug itu dan letakkan di rak.” Mereka tidak butuh diagram; mereka cukup melihat mug, memahami kalimatnya, dan tangan mereka bergerak ke sana.

Tiga hal berbeda terjadi hampir bersamaan. Melihat, memahami, dan bergerak berlangsung nyaris serentak bagi orang itu, bukan tiga langkah terpisah yang diserahkan antarbagian otak yang berbeda. 

Sepanjang sebagian besar sejarah AI robotik, mesin tidak bekerja seperti itu sama sekali.

Dulu, kita memiliki model vision-language yang dapat melihat meja kerja berantakan dan menjelaskan dengan tepat apa yang ada di atasnya, termasuk detail halus seperti merek sebuah alat.

Pengendali robot klasik bisa mengangkat obeng itu dengan andal, asalkan tidak ada yang menggesernya dua sentimeter ke kiri. Dua sisi masalah—melihat dan memahami di satu sisi, dan bertindak di sisi lain—berkembang hampir sepenuhnya terpisah.

Di sinilah model Vision-language-action (VLA) hadir – upaya untuk menutup kesenjangan itu.

Dalam artikel ini, kita akan melihat apa itu model VLA dan bagaimana arsitektur tiga bagiannya bekerja. Kita akan membahas perbedaannya dengan model vision-language (VLM) dan kontrol robot klasik, model-model yang benar-benar relevan pada 2026, serta di mana model itu digunakan. Terakhir, kita akan melihat apa saja yang masih keliru pada mode CLA. 

Apa Itu Model Vision-Language-Action (VLA)?

Mari mulai dengan mendefinisikan secara formal apa itu model VLA:

Model vision-language-action adalah sistem AI yang memproses feed kamera, instruksi bahasa alami, dan status robot itu sendiri, lalu menghasilkan perintah motorik, dengan modul visi, bahasa, dan aksinya dilatih secara bersama dan dijalankan dalam satu forward pass alih-alih sebagai pipeline klasik persepsi-lalu-perencanaan-lalu-kontrol.

Intinya adalah persepsi, bahasa, dan aksi bukan sistem terpisah yang dijahit dengan kode perekat buatan tangan. 

Submodul dilatih bersama. Jadi, kesalahan visi atau bahasa yang akan menggagalkan serah terima pada pipeline klasik dikoreksi oleh gradient descent, bukan ditangkap—atau terlewat—oleh antarmuka yang di-hard-code.

Pipeline robotika klasik dibandingkan dengan model vision-language-action terpadu 

Tiga kotak dan dua serah terima rapuh di atas, satu model terpadu di bawah. Inilah perbedaan struktural yang saya maksud. Gambar oleh Penulis.

Saya suka membedakannya begini: VLM adalah otak tanpa tubuh, dan VLA memberinya tubuh. 

Persepsi bukan layanan terpisah yang dipanggil robot, melainkan terhubung ke pipeline yang dilatih bersama dan memutuskan seberapa jauh gripper harus bergerak.

Sejauh ini saya juga menyebut VLM, jadi mari bandingkan kedua arsitektur ini.

VLA vs. Vision-Language Model (VLM)

VLM (Vision-Language Model) menerima gambar dan teks serta menghasilkan teks atau embedding.

 Sementara VLA (Vision-Language-Action Model) menerima jenis input yang sama dan menghasilkan tindakan sebagai gantinya. 

Kedengarannya perubahan kecil sampai Anda melihat dampaknya di hilir:

 

Vision-language model (VLM)

Vision-language-action model (VLA)

Input

Gambar, video, teks

Gambar (sering dari banyak kamera), teks, status propioseptif robot

Output

Teks, embedding

Perintah motorik kontinu atau yang didiskretisasi

Kemampuan utama

Mendeskripsikan dan menalar tentang sebuah skena

Bertindak pada sebuah skena

Bisakah bertindak di dunia nyata?

Tidak

Ya

Data pelatihan

Pasangan gambar-teks yang di-scrape dari web

Data web plus trajektori demonstrasi robot

Aplikasi tipikal

Visual question answering, captioning, parsing dokumen

Manipulasi, navigasi, kontrol humanoid

Anda mungkin pernah mendengar model seperti GPT-4V, Gemini, atau LLaVA. 

Asumsi yang sangat umum adalah bahwa VLA hanyalah salah satunya yang dipasangi lengan robot.

Namun, tidak sesederhana itu. 

Model harus mempelajari ruang output yang benar-benar baru, di mana sebuah token berkaitan dengan besaran fisik nyata, seperti perpindahan end-effector atau bukaan gripper, dan ketika salah, dampaknya bisa menyingkirkan cangkir dari meja alih-alih hanya menghasilkan kalimat yang agak janggal.

Jika Anda ingin melihat bagaimana GPT-4V, Gemini, dan LLaVA dibandingkan dengan model lain, artikel DataCamp Top 10 Vision Language Models in 2026 merangkum para pemimpin saat ini.

Ada juga konsekuensi dari sisi data. 

VLM dapat berlatih pada miliaran pasangan gambar-teks karena internet menyediakannya secara gratis. 

Namun, trajektori robot harus dikumpulkan oleh robot nyata yang melakukan tugas nyata, biasanya di bawah teleoperasi. Itulah tepatnya mengapa dataset robotika terbuka terbesar, Open X-Embodiment, berhenti di sekitar 1 juta trajektori, bukan 1 miliar.

Mengumpulkan trajektori semacam itu secara manual juga sangat mahal dan lambat.

Kisi 22 perwujudan robot berbeda dalam dataset Open X-Embodiment 

22 perwujudan, satu dataset, dan totalnya tetap di bawah 1 juta trajektori. Inilah yang saya maksud saat mengatakan data robot tidak dapat diskalakan seperti teks web. Sumber: laman proyek Open X-Embodiment.

VLA vs kontrol robot klasik

Sebelum membahas cara kerja Arsitektur VLA, saya juga ingin mengeksplorasi dan membandingkannya dengan kontrol robot klasik.

Kontrol robot klasik dibuat untuk satu tugas di satu tempat, dalam kondisi yang dikunci terlebih dahulu.

Ambil contoh lengan mesin penjual otomatis. 

Lengan itu mengambil camilan yang sama dari rak yang sama di lokasi yang sama setiap kali karena pencahayaan, posisi objek, dan gerakan yang diperlukan tidak berubah antar pengambilan.

Pengaturan yang sempit dan tidak berubah itulah yang membuat sistem kendali bisa kaku sekaligus andal.

Namun kini ubah konfigurasi internal mesin penjual, atau ubah pencahayaan, atau jatuhkan benda yang tidak pernah masuk rencana ke dalam skena. 

Kini pengendali akan benar-benar gagal karena belum pernah melihat lingkungan seperti ini.

VLA melakukan generalisasi lebih baik ke kondisi yang tidak pernah secara eksplisit dilatih, karena backbone VLM yang mendasarinya sudah tahu seperti apa rupa mug, handuk, atau laci dari pretraining berskala web sebelum model melihat demonstrasi robot sama sekali.

Fine-tuning pada seratus contoh melipat handuk memungkinkan model belajar bagaimana bergerak untuk objek yang sudah dikenali.

Transfer itulah terobosan sebenarnya di sini, bukan presisi mentah, dan saya ingin menekankan bahwa pengendali klasik yang disetel baik masih bisa mengalahkan VLA dalam hal presisi pada lingkungan yang tetap dan terkontrol.

Bagaimana Cara Kerja Model VLA?

Mari menyelami arsitekturnya. 

Untuk artikel ini, saya memilih Arsitektur OpenVLA karena mudah dipahami.

Diagram arsitektur OpenVLA menampilkan vision encoder, backbone bahasa, dan action decoder 

Inilah pipeline yang saya jelaskan di bawah: DINOv2 dan SigLIP memberi masukan ke backbone Llama 2, dengan action decoder memprediksi token terdiskretisasi di sisi keluaran. Sumber: laman proyek OpenVLA.

VLA memiliki tiga modul terpisah: 

  • Vision encoder
  • Backbone bahasa 
  • Action decoder

Ketiganya dilatih end-to-end secara bersama. 

Representasi visi dan bahasa digabungkan, dan representasi gabungan inilah yang diubah action decoder menjadi perintah motorik. 

Penting dicatat, ketiga bagian terkait erat alih-alih berpipeline—ini keputusan desain yang membedakan VLA dari VLM yang dibautkan ke pengendali.

Jika membantu, anggaplah seperti yang saya jelaskan tentang pemisahan visi, memori, dan pengendali dalam makalah World Models asli: ia melihat, ia memahami, ia bertindak. 

Bedanya, VLA mempelajari ketiganya bersama, end-to-end, dari demonstrasi, alih-alih melatih setiap bagian secara terpisah lalu menjahitnya kemudian.

Sekarang mari kita bahas masing-masing secara terpisah.

Vision encoder: apa yang dilihat model

Vision encoder mengubah frame kamera mentah menjadi representasi padat yang dapat benar-benar digunakan oleh jaringan lainnya. 

VLA modern menggunakan vision transformer pralatih seperti DINOv2 atau SigLIP, dan cukup sering keduanya sekaligus.

OpenVLA adalah contoh baik penggunaan keduanya. 

Ia menggabungkan DINOv2, yang kuat pada detail spasial dan geometris, dengan SigLIP, yang lebih kuat pada fitur semantik yang selaras baik dengan bahasa. 

Dua set fitur ini dikonkatenasi per patch gambar dan diproyeksikan ke ruang embedding model bahasa (dalam hal ini LLama 2 7B).

Perlu saya sebutkan bahwa menggunakan lebih dari satu kamera adalah standar pada penerapan nyata. 

Misalnya, kamera yang dipasang di pergelangan tangan memberi detail jarak dekat saat pendekatan akhir ke objek, kamera di atas kepala memberikan tata letak skena, dan tampak samping membantu kedalaman yang tidak bisa dipulihkan oleh satu kamera saja. 

pi0 (dibahas di bawah) mengambil banyak tampak kamera plus status propioseptif robot.

Harap dicatat bahwa input status lebih penting daripada kedengarannya, karena foto lengan tidak memberi tahu torsi yang saat ini ada di sendi.

Language encoder: apa yang diperintahkan kepada model

Sisi bahasa mengenkode sebuah instruksi, seperti “angkat balok merah dan letakkan di kotak biru,” menjadi representasi yang selaras dengan fitur visual dalam ruang yang sama. 

Hampir setiap VLA menggunakan ulang backbone large language model (LLM) pralatih alih-alih melatih encoder teks dari nol.

Dalam kasus kita, OpenVLA menggunakan Llama 2 7B. pi0 dan pi0.5 dibangun di atas PaliGemma, VLM 3 miliar parameter. SmolVLA menggunakan tumpukan SmolVLM2 yang dimodifikasi.

Menggunakan ulang LLM seperti ini pada dasarnya soal pewarisan. 

Anda mendapatkan kemampuan mengikuti instruksi dan pemahaman komposisional, itulah sebabnya VLA sering dapat menangani “masukkan buah ke dalam mangkuk” meski tidak pernah melihat frasa persis itu saat pelatihan robot.

Action decoder: apa yang dilakukan model

Action decoder adalah tempat representasi gabungan benar-benar menjadi perintah motorik, dan di sinilah desain VLA paling banyak berbeda satu sama lain. Saat ini ada tiga pendekatan besar.

Prediksi token autoregresif

Anda memotong setiap dimensi aksi menjadi bin diskret dan memprediksinya satu per satu, sama seperti setup next-token yang sudah dikenal LLM saat berlatih. 

OpenVLA menggunakan 256 bin per dimensi dan loss next-token biasa, sehingga Anda bisa tetap memakai peranti LLM yang umum.

Komprominya adalah resolusi dan kecepatan—pembinning meninggalkan gerak bergerigi, dan sampling token demi token terlalu lambat untuk apa pun yang cepat atau kaya kontak.

Diffusion dan decoding flow-matching

Alih-alih memprediksi satu token sekaligus, model memperlakukan generasi aksi sebagai proses denoising dan menghasilkan satu potong aksi kontinu sekaligus. 

pi0 adalah VLA pertama yang dibangun di sekitar kepala aksi flow-matching, di mana mereka melakukan denoising sekitar 10 langkah untuk menghasilkan potongan hingga 50 aksi ke depan. 

Hasilnya gerak menjadi jauh lebih halus daripada pendekatan berbasis token.

Arsitektur hibrida dua tingkat

Model yang lebih besar menangani penalaran tingkat tinggi dan memecah tugas menjadi langkah-langkah, sementara pengendali yang lebih kecil dan cepat menangani eksekusi presisi berfrekuensi tinggi. 

Contoh yang sangat baik menurut saya adalah Gemini Robotics 1.5, yang memasangkan model penalaran dengan model aksi.

Menurut saya pribadi, setelah membaca banyak makalah ini, orang lebih banyak memperdebatkan ukuran backbone ketimbang kepala aksi, dan saya rasa itu terbalik. 

Jika decoder Anda memampatkan aksi kontinu 7 dimensi menjadi 256 bin diskret, kualitas backbone sebaik apa pun tidak akan mengembalikan kehalusan itu!

Model VLA Kunci pada 2026

Sekarang saya ingin menyajikan tabel yang menampilkan beberapa Model VLA penting yang kemungkinan akan Anda temui:

Model

Pengembang

Parameter

Kepala aksi

Lisensi

Perangkat keras

Terbaik untuk

OpenVLA

Stanford, Berkeley, dan kolaborator

7B

Token autoregresif

MIT

A100 atau H100, atau 24GB dengan kuantisasi 4-bit

Baseline riset terbuka

Octo

UC Berkeley

27M atau 93M

Kebijakan difusi

MIT

Satu RTX 4090

Pekerjaan dengan komputasi terbatas

pi0 / pi0.5 / pi0.6

Physical Intelligence

3,3B (backbone 3B plus 300M action expert)

Flow matching

Checkpoint terbuka (openpi)

Multi-GPU atau satu A100

Tugas lincah dan horizon panjang

Gemini Robotics 1.5

Google DeepMind

Tidak diungkap

Hibrida, cloud plus edge

Tertutup

Terikat cloud

Baseline kepemilikan frontier

SmolVLA

Hugging Face

450M

Flow matching

Apache 2.0

RTX 3060, GPU laptop, atau Jetson

Robotika hobi dan edge

Sekarang mari kita bahas masing-masing di bawah ini, dimulai dari baseline riset yang masih paling sering dijadikan pembanding.

OpenVLA

OpenVLA adalah model 7 miliar parameter yang dilatih pada 970.000 demonstrasi robot dunia nyata yang diambil dari Open X-Embodiment. 

Model ini menggabungkan backbone Llama 2 7B dengan vision encoder gabungan DINOv2 dan SigLIP yang sudah saya jelaskan, dan keseluruhan model bersifat open source.

Hasil yang mengejutkan adalah model ini mengalahkan model tertutup RT-2-X sebesar 16,5 poin persentase keberhasilan tugas di 29 tugas, padahal RT-2-X menjalankan 55 miliar parameter dibanding 7 miliar pada OpenVLA! 

Pelatihan total menggunakan 64 GPU A100 selama 15 hari.

Alasan model ini masih populer adalah karena fine-tuning LoRA dan kuantisasi 4-bit sama-sama bekerja baik padanya. 

Artinya RTX 4090 24GB dapat menjalankan versi terkuantisasi, dan sebagian besar karya yang dipublikasikan tentang serangan, pertahanan, dan pruning VLA menggunakan OpenVLA sebagai target karena sangat mudah diakses. 

Tindak lanjut—OpenVLA-OFT memperbaiki resep fine-tuning untuk kecepatan dan tingkat keberhasilan.

Octo

Octo adalah VLA kecil dengan dua ukuran—27 juta dan 93 juta parameter di atas backbone ViT-S dan ViT-B—dan dapat dijalankan pada satu RTX 4090 di 20 hingga 30 Hz.

Model ini dilatih pada sekitar 800.000 trajektori dari Open X-Embodiment di 22 perwujudan robot, dan arsitektur transformernya benar-benar modular. 

Anda dapat menambah input observasi baru atau menukar kepala aksi saat fine-tuning tanpa membangun ulang model dari nol, dan model ini mendukung token diskret dan aksi kontinu berbasis difusi sesuai kebutuhan.

Arsitektur Octo menampilkan task token, observation token, readout token, dan fine-tuning dengan sensor atau kepala aksi baru 

Transformer Octo: token tugas dan observasi masuk, token readout keluar ke kepala aksi, dengan ruang untuk menambah sensor atau ruang aksi baru saat fine-tuning. Sumber: makalah Octo.

Saya pribadi menggunakan Octo setiap kali faktor pembatasnya adalah komputasi, bukan kesulitan tugas. 

Model ini juga mendukung pengkondisian gambar tujuan, yang berguna saat mendeskripsikan keadaan target dengan kata-kata lebih canggung ketimbang menunjukkan foto yang diinginkan.

pi0 dan keluarga Physical Intelligence

pi0 dari Physical Intelligence sangat andal dalam kelincahan tangan. Model ini berangkat dari PaliGemma, sebuah VLM terbuka 3 miliar parameter, dan menambahkan action expert 300 juta parameter yang dilatih dari nol, menghasilkan total 3,3 miliar parameter. 

Model ini menggunakan flow matching untuk menghasilkan potongan hingga 50 aksi ke depan sekaligus, bukan selangkah demi selangkah.

Hasil kunci adalah tugas bimanual seperti melipat cucian, mengemas bahan belanja, dan merakit kotak, semuanya ditangani dengan tingkat kelincahan yang belum pernah ditunjukkan sebelumnya.

Robot pi0 melipat cucian menggunakan dua lengan

Robot pi0 melipat cucian menggunakan dua lengan. Ini salah satu tugas bimanual yang saya sebut, melipat cucian, dan layak ditonton, bukan sekadar dibaca. Sumber: Physical Intelligence, “pi0: Our First Generalist Policy”.

Flow matching adalah kunci utamanya di sini, karena mengoordinasikan dua lengan sekaligus membutuhkan output kontinu 16 dimensi yang halus, dan baik token diskret maupun sampling difusi yang lambat tidak bisa memberikannya pada kecepatan yang dapat digunakan.

Keluarga pi0 terus berkembang:

  • pi0.5 (April 2025): menambahkan generalisasi dunia terbuka dengan proses dua tahap yang memprediksi sub-tugas tingkat tinggi secara verbal sebelum memprediksi aksi tingkat rendah
  • pi0.6 (November 2025): belajar dari pengalaman robot itu sendiri, bukan hanya dari demonstrasi
  • openpi: checkpoint dan perkiraan pipeline pelatihan tersedia di repositori openpi, pralatih pada lebih dari 10.000 jam data robot

Satu catatan yang ingin saya tekankan adalah bahwa hasil terkuat pi0 bergantung pada data kepemilikan yang dikumpulkan di armada robot mereka sendiri. 

Tidak ada pihak luar yang mereplikasi angka persis itu hanya dengan data publik, jadi seberapa besar kinerja berasal dari arsitektur versus keunggulan data masih benar-benar belum terjawab.

Gemini Robotics 1.5

Gemini Robotics 1.5 dari Google DeepMind paling tepat dipahami sebagai dua model yang bekerja bersama, bukan satu. 

Gemini Robotics-ER 1.5 adalah model embodied reasoning yang merencanakan, memanggil alat seperti Google Search, dan dapat mengestimasi kemajuan tugasnya sendiri. 

Gemini Robotics 1.5 adalah VLA yang mengeksekusi keputusan model penalaran tersebut.

Gemini Robotics-ER 1.5 di atas untuk embodied reasoning, Gemini Robotics 1.5 di bawah sebagai VLA, pemanggilan alat bersama di tengah, dan aksi berjalan pada ALOHA 2, Franka, dan Apollo tanpa penyelarasan ruang aksi. Sumber: makalah Gemini Robotics 1.5.

Bagian yang berguna adalah pencampuran aksi dengan proses penalaran internal yang ditulis dalam bahasa alami, sehingga robot berpikir sebelum bertindak dan dapat menjelaskan keputusannya sesudahnya. 

Diberi instruksi seperti “pilah cucian saya berdasarkan warna”, model ini terlebih dulu menyimpulkan bahwa pakaian putih masuk ke satu kotak dan sisanya ke kotak lain, lalu merencanakan pengambilan satu per satu.

DeepMind melaporkan sekitar 250 milidetik dari observasi ke aksi, frekuensi kendali efektif 50Hz, dicapai dengan menaruh penalaran berat di cloud dan menjaga action decoder ringan tetap lokal pada robot.

Hasil lain yang ingin saya tekankan adalah Motion Transfer, yaitu tugas yang dipelajari pada platform dual-arm ALOHA 2 dibawa langsung ke setup bi-arm Franka dan humanoid Apollo dari Apptronik, tanpa pelatihan ulang pada keduanya. 

Bobot modelnya tertutup, jadi anggap ini sebagai baseline frontier kepemilikan alih-alih sesuatu yang bisa Anda unduh dan fine-tune sendiri.

SmolVLA

SmolVLA dari Hugging Face memiliki 450 juta parameter (di bawah lisensi Apache 2.0). Model ini memasangkan backbone SmolVLM2 yang dimodifikasi dengan action expert flow-matching, menggunakan layer skipping dan pengurangan jumlah token visual untuk menjaga inferensi tetap hemat untuk perangkat keras kecil.

Model ini berjalan pada satu GPU konsumen, termasuk RTX 3060, pada CPU MacBook (meski lambat), dan dapat diterapkan di Jetson Orin untuk inferensi onboard. 

Fine-tuning selama 20.000 langkah memakan waktu sekitar 4 hingga 5 jam pada satu GPU A100. 

Meski dilatih pada kurang dari 30.000 episode, model ini menyamai atau mengalahkan model yang jauh lebih besar pada LIBERO, Meta-World, dan lengan robot nyata SO-100 dan SO-101.

Yang terbaik adalah keseluruhan model dipralatih pada dataset kontribusi komunitas melalui kerangka LeRobot.

Cara Memilih VLA untuk Proyek Anda

Setelah memaparkan beberapa Model VLA, mari bahas mana yang perlu dipilih untuk proyek spesifik Anda.

Memilih di antara kelimanya terutama soal mencocokkan frekuensi kendali dan perangkat keras dengan setup Anda yang sebenarnya, bukan mengejar siapa yang berada di puncak leaderboard bulan lalu. 

Kira-kira begini cara saya memikirkannya:

Bagan alur keputusan untuk memilih model VLA berdasarkan kendala perangkat keras dan tugas 

Lima kendala, lima model. Jika Anda hanya mengingat satu diagram dari artikel ini, jadikan yang ini. Gambar oleh Penulis.

Jika Anda memiliki GPU konsumen atau lengan SO-101 di meja, mulailah dengan SmolVLA. Tidak ada yang lain di ekosistem terbuka yang memberi kebijakan kerja semurah ini.

  • Jika tugasnya membutuhkan manipulasi kaya kontak atau bimanual, langsung pilih pi0 atau pi0.5. Kepala flow-matching sangat cocok untuk tugas kelincahan seperti itu.
  • Jika Anda menulis makalah dan butuh baseline yang dikenali reviewer, gunakan OpenVLA karena semua orang sudah memilikinya.
  • Jika komputasi yang membatasi namun tetap butuh dukungan multi-perwujudan, Octo adalah pilihan masuk akal.
  • Jika Anda ingin melihat apa yang bisa dicapai di frontier, lihat Gemini Robotics 1.5, dengan pemahaman bahwa Anda tidak bisa meng-host sendiri.

Dan poin besar terakhir yang ingin saya tekankan adalah seratus demonstrasi rapi pada SmolVLA hampir selalu mengalahkan lima puluh yang berantakan pada OpenVLA. 

Maksud saya, habiskan 60 hingga 70 persen waktu proyek untuk pengumpulan data dan kontrol kualitas, sisanya untuk pelatihan.

Aplikasi Model VLA

VLA telah bergerak keluar dari video demo dan masuk ke sejumlah penerapan nyata, meski belum merata. 

Pola yang saya lihat adalah mereka pertama kali hadir di lingkungan yang variasinya terlalu besar untuk diskrip, tetapi manusia masih dapat turun tangan saat terjadi masalah. Berikut beberapa contohnya:

Manipulasi robotik

Ini adalah medan utama, dengan tugas seperti pick-and-place, kitting, pengemasan, penyortiran, perakitan, dan sebagainya. 

Ini adalah tugas di mana robot harus mengidentifikasi, mencengkeram, dan memosisikan ulang objek yang posisi dan orientasinya berubah di setiap percobaan—tepat kondisi yang buruk ditangani sistem terskrip.

Pekerjaan gudang dan pemenuhan adalah kasus komersial paling jelas saat ini. Pengambil terskrip butuh item disajikan dengan cara yang sama setiap kali, sementara yang berbasis VLA dapat bekerja dengan tote berisi empat puluh SKU berbeda yang tercampur.

Robot humanoid

Perusahaan termasuk Figure, 1X, dan Apptronik membangun fondasinya pada VLA, dan alasannya sederhana: robot berkaki dua dengan dua tangan fungsional memiliki terlalu banyak kemungkinan tugas untuk diskrip satu per satu. 

Hasil Gemini Robotics Motion Transfer, di mana keterampilan yang dilatih di ALOHA 2 dibawa langsung ke humanoid Apollo dari Apptronik, adalah sifat yang tepat dibutuhkan program humanoid jika ingin berskala.

Demo Gemini Robotics Motion Transfer pada ALOHA 2 dan humanoid Apollo 

Keterampilan yang sama, dilatih sekali di ALOHA 2, berjalan di humanoid Apollo milik Apptronik tanpa pelatihan ulang. Sumber: Google DeepMind, “Gemini Robotics 1.5 brings AI agents into the physical world”.

Kendaraan otonom

Stack berkendara mulai mengadopsi arsitektur bergaya VLA untuk menghubungkan apa yang dilihat mobil dengan apa yang harus dilakukan selanjutnya, dalam satu loop penalaran alih-alih serah terima persepsi-ke-perencana. 

Daya tariknya sama seperti pada manipulasi: situasi langka yang tak pernah diantisipasi aturan mana pun, ditangani oleh model yang telah melihat cukup dunia untuk menalarnya alih-alih membeku.

Robotika bedah dan medis

Perlu saya sebutkan ini adalah aplikasi paling awal tahapnya dalam daftar ini. 

Gagasannya adalah sistem yang mampu mengikuti instruksi lisan dokter bedah dan menyesuaikan dengan kondisi jaringan yang bervariasi akan mengungguli sistem yang diprogram kaku, namun persetujuan regulatori adalah kendala utama di sini, bukan kapabilitas modelnya. 

Saya memperkirakan aplikasi asistif dan pelatihan jauh sebelum apa pun yang mendekati otonom.

Model Vision Language Action: Tantangan dan Keterbatasan

Meski VLA hebat, mereka masih memiliki kelemahan, khususnya pada empat aspek berikut:

Pemulihan di tengah tugas

VLA menangani variasi di awal tugas dengan cukup baik, tetapi ketika cengkeraman meleset di tengah jalan, atau objek bergeser di bawah gripper, pemulihannya tidak konsisten. 

Sebagian besar data demonstrasi menangkap upaya yang berhasil, sehingga model sangat sedikit melihat contoh seperti apa pemulihan dari kesalahan itu sebenarnya.

Inferensi di perangkat

Manipulasi halus membutuhkan loop kendali berjalan pada 10 hingga 100Hz, dan membuat model 7 miliar parameter atau lebih mencapai laju itu pada perangkat keras robot sendiri masih berupa aspirasi, belum rekayasa yang tuntas. 

Inilah mengapa sebagian besar sistem terpasang menambat ke server edge atau memisahkan penalaran dari kontrol, seperti Gemini Robotics 1.5. 

Kuantisasi, layer skipping, dan distilasi semuanya membantu, tetapi itu masih solusi sementara yang terus diiterasi, bukan jawaban final.

Bottleneck data

Kini bobot terbuka yang andal tersedia untuk siapa pun, data menjadi pembeda sebenarnya. 

Mengumpulkan data teleoperasi yang beragam dan beranotasi baik itu lambat dan mahal, tidak seperti scraping web, dan jarak antara hasil terpublikasi pi0 dan apa yang direplikasi dengan data publik saja adalah bukti paling jelas tentang apa yang dibeli oleh keunggulan data privat.

Batas generalisasi

VLA saat ini melakukan generalisasi dengan baik di dalam distribusi pelatihannya dan menurun terlihat di luar itu. 

Model yang dilatih pada 22 perwujudan untuk manipulasi tabletop masih dapat berkinerja buruk pada bentuk tugas yang benar-benar belum pernah dilihat.

Penutup

Seperti yang Anda lihat, model VLA menyatukan persepsi, pemahaman bahasa, dan generasi aksi dalam satu arsitektur—sebuah pergeseran struktural, bukan inkremental. 

Hal yang bisa mereka lakukan dan tidak dapat dicapai kontrol klasik adalah melakukan generalisasi ke kondisi yang tidak pernah secara eksplisit dilatihkan, karena backbone bahasa dan visi sudah membawa model kerja tentang dunia fisik ke dalam robot sebelum melihat demonstrasi.

Yang paling mengejutkan saya tentang keadaan pada 2026 adalah betapa banyak pertanyaan tersulit telah bergeser. 

Tiga tahun lalu, pertanyaan tersulit adalah arsitektur. 

Kini, setelah OpenVLA, Octo, pi0, dan SmolVLA ada di GitHub untuk diunduh siapa pun, pertanyaan tersulit adalah kualitas data, perilaku pemulihan, dan apakah Anda benar-benar bisa menjalankan semua ini di 50Hz pada robot itu sendiri alih-alih di pusat data.

Jika Anda ingin melanjutkan, kursus Introduction to AI Agents dari DataCamp membahas konteks agen yang lebih luas, dan Large Language Models (LLMs) Concepts membahas sisi backbone.

FAQs

Apa perbedaan VLA dengan VLM?

Vision-language model (VLM) menghasilkan teks atau embedding. VLA menghasilkan perintah motorik sebagai gantinya, yang berarti dapat bertindak pada sebuah skena, bukan hanya mendeskripsikannya.

Perangkat keras apa yang saya butuhkan untuk menjalankan model VLA?

Tergantung modelnya. SmolVLA berjalan di RTX 3060 atau Jetson Orin, Octo berjalan di satu RTX 4090, dan OpenVLA biasanya membutuhkan GPU A100 atau H100.

Mengapa data pelatihan robot jauh lebih kecil daripada data yang digunakan VLM?

VLM dilatih pada miliaran pasangan gambar-teks yang di-scrape dari web. VLA memerlukan trajektori demonstrasi robot nyata, yang mahal dan lambat untuk dikumpulkan, sehingga bahkan dataset terbuka terbesar (Open X-Embodiment) pun memiliki kurang dari 1 juta trajektori.

Apa yang belum bisa dilakukan model VLA dengan baik?

Model ini kesulitan melakukan pemulihan di tengah tugas karena sebagian besar data pelatihan hanya menunjukkan upaya yang berhasil. Menjalankan model besar dengan cukup cepat untuk manipulasi waktu nyata (sekitar 10–100Hz) di robot itu sendiri juga sebagian besar masih belum terpecahkan.

Mengapa sebagian besar model VLA menggunakan kembali backbone LLM yang sudah ada?

Menggunakan ulang LLM pralatih seperti Llama 2 atau PaliGemma memberi model kemampuan mengikuti instruksi dan pemahaman bahasa komposisional secara gratis. Inilah mengapa VLA sering dapat menangani instruksi seperti "masukkan buah ke dalam mangkuk" meski tidak pernah melihat frasa persis itu saat pelatihan robot.


Vaibhav Mehra's photo
Author
Vaibhav Mehra
LinkedIn
Topik
Kecerdasan Buatan
Large Language Models

Kursus Teratas di DataCamp

Kursus

Intermediate Deep Learning with PyTorch

4 jam
30.1K
Pelajari tentang arsitektur deep learning fundamental seperti CNN, RNN, LSTM, dan GRU untuk memodelkan data citra dan data berurutan.
Lihat DetailRight Arrow
Mulai Kursus
Lihat SelengkapnyaRight Arrow
Terkait

blogs

40 Pertanyaan Wawancara DBMS Teratas di 2026

Kuasai pertanyaan wawancara basis data, dari konsep SQL dasar hingga skenario desain sistem tingkat lanjut. Panduan mendalam ini mencakup semua yang Anda perlukan untuk sukses di wawancara DBMS dan meraih peran berikutnya.
Dario Radečić's photo

Dario Radečić

15 mnt

blogs

Tutorial Korelasi di R

Dapatkan pengenalan dasar-dasar korelasi di R: pelajari lebih lanjut tentang koefisien korelasi, matriks korelasi, plotting korelasi, dan sebagainya.
David Woods's photo

David Woods

13 mnt

blogs

Spaghetti Plot dan Jalur Badai

Temukan alasan mengapa Anda sebaiknya (tidak) menggunakan spaghetti plot untuk menyampaikan ketidakpastian jalur prediksi badai serta dampaknya terhadap interpretasi.
Hugo Bowne-Anderson's photo

Hugo Bowne-Anderson

13 mnt

blogs

12 Alternatif ChatGPT Terbaik yang Bisa Anda Coba pada 2026

Artikel ini menyajikan daftar alternatif ChatGPT yang akan meningkatkan produktivitas Anda.
Javier Canales Luna's photo

Javier Canales Luna

14 mnt

Lihat SelengkapnyaLihat Selengkapnya