Penjelasan Agen LLM: Arsitektur, Framework, dan Use Case

Bagi banyak orang, large language models (LLM) terutama digunakan sebagai antarmuka percakapan. Anda mengajukan pertanyaan, model menjawab, dan interaksi berakhir di sana. 

Namun, LLM mampu melakukan lebih banyak hal: model ini ditanamkan ke dalam sistem yang dapat merencanakan, mengingat, dan mengambil tindakan secara otonom, membuka apa yang dikenal sebagai agen LLM. Sistem agentic semakin populer dalam analitik modern dan workflow bisnis. 

Di akhir artikel ini, Anda akan memahami apa itu agen LLM, bagaimana cara membangunnya, berbagai jenis agen, dan di mana agen ini dapat menciptakan nilai. 

Untuk memaksimalkan informasi dalam artikel ini, padukan dengan jalur keterampilan AI Fundamentals untuk menyegarkan pengetahuan Anda tentang AI dan LLM.

Apa Itu Agen LLM?

Mari bahas bagaimana agen LLM berbeda dari model bahasa standar. 

Antarmuka LLM biasa Anda, seperti chatbot, hanya bisa menerima prompt dan mengembalikan respons yang dihasilkan berdasarkan pelatihannya, tanpa tindakan atau status eksternal. Sebaliknya, agen LLM menggunakan LLM sebagai mesin penalaran inti (seperti otak) dan melengkapinya dengan komponen pendukung yang memungkinkannya bernalar, merencanakan, dan mengeksekusi.

Agen LLM menggeser fokus dari otomasi ke otonomi.

Otomasi memungkinkan LLM menerima masukan dan mengikuti serangkaian langkah untuk menghasilkan keluaran. Dengan otonomi, kita memberikan sekumpulan alat kepada LLM dan kemampuan untuk memutuskan cara terbaik mencapai solusi berdasarkan apa yang diketahuinya tentang situasi. Ini memberi lebih banyak keluwesan dan kompleksitas agar LLM dapat bertindak “mandiri”.

Bayangkan LLM biasa sebagai konsultan ahli yang menjawab pertanyaan berdasarkan pengetahuannya. Agen LLM seperti ahli itu yang memimpin sebuah tim: ia memutuskan pertanyaan apa yang harus diajukan, anggota tim (alat) mana yang harus dikonsultasikan, dan bagaimana menggabungkan jawaban mereka menjadi sebuah solusi.

Komponen Inti Agen LLM

Sebuah agen LLM terdiri dari beberapa komponen inti:

• LLM itu sendiri (otak)
• Logika perencanaan
• Memori
• Alat

Grafik berikut memvisualisasikan hubungan di antara masing-masing komponen.

Otak LLM

LLM berfungsi sebagai inti kognitif agen. Ia menafsirkan tujuan pengguna, bernalar tentang langkah-langkah perantara, dan memutuskan tindakan yang akan diambil. Dalam praktiknya, LLM dipanggil berulang kali, bukan hanya sekali.

Setiap kali LLM dipanggil, ia menerima konteks yang dapat mencakup tujuan awal, tindakan sebelumnya, keluaran alat, dan memori yang relevan. Berdasarkan informasi ini, ia memutuskan tindakan berikutnya. Ini membuat fungsi LLM lebih mirip pengendali daripada generator teks statis.

Bagi praktisi data, penting untuk memahami bahwa LLM tidak mengeksekusi kode atau kueri secara langsung. Ia menghasilkan instruksi terstruktur yang ditafsirkan oleh komponen lain. Kualitas sebuah agen sering bergantung pada seberapa baik instruksi ini dibatasi dan divalidasi.

Logika perencanaan

Logika perencanaan adalah mekanisme yang memungkinkan agen memecahkan masalah kompleks dengan membaginya menjadi langkah-langkah yang dapat dikelola. Tanpa perencanaan, agen akan mencoba menyelesaikan semuanya dalam satu respons, yang sering kali menyebabkan kesalahan atau halusinasi.

Dalam fase perencanaan, agen menguraikan tujuan tingkat tinggi menjadi tugas-tugas yang lebih kecil. Misalnya, “Analisis churn pelanggan” bisa menjadi “memuat data pelanggan,” “menghitung tingkat churn,” “mengidentifikasi tren,” dan “merangkum temuan.” Setiap sub-tugas kemudian dieksekusi secara berurutan atau kondisional.

Salah satu teknik populer adalah Chain-of-Thought (CoT), yang mendorong model untuk bernalar secara eksplisit dengan merangkai serangkaian tindakan sebagai prompt berurutan. 

ReAct (reasoning and acting) melangkah lebih jauh dan menyisipkan jejak penalaran dengan tindakan yang memanggil alat serta observasi eksternal. Umpan balik eksternal ini membantu agen tetap membumi dan mengoreksi diri ketika hasil perantara tidak sesuai dengan ekspektasi.

Memori

Memori memungkinkan agen mempertahankan kesinambungan di seluruh interaksi dan tindakan dengan memanfaatkan kembali informasi sebelumnya. Tanpa memori, setiap langkah akan terisolasi, memaksa agen menemukan kembali pengetahuan yang sama berulang kali.

Memori jangka pendek biasanya ada dalam jendela konteks LLM. Ini mencakup pesan terbaru, penalaran perantara, dan keluaran alat. Seperti RAM dalam arsitektur komputer, memori ini cepat tetapi terbatas dan hilang begitu konteks terlampaui.

Memori jangka panjang diimplementasikan secara eksternal, sering kali menggunakan database vektor. Teknik seperti RAG (Retrieval-Augmented Generation) memungkinkan agen mengambil dokumen yang relevan atau interaksi masa lalu dan menyuntikkannya ke dalam konteks saat ini. 

Alat

Alat memperluas kemampuan agen melampaui bahasa. Alat memungkinkan agen berinteraksi dengan dunia nyata, termasuk database, API, dan mesin komputasi.

Dari perspektif agen, alat adalah fungsi yang dapat dipanggil dengan masukan dan keluaran yang terdefinisi. LLM memutuskan kapan menggunakan alat, argumen apa yang diberikan, dan bagaimana menafsirkan hasilnya. Pengambilan keputusan ini yang membedakan agen dari workflow terskript.

Alat dapat mencakup fitur seperti pencarian Google, eksekusi SQL, interpreter Python, dan API. Agen pada dasarnya memiliki akses ke alat teknologi yang sama seperti kita dan dapat menggabungkannya untuk mengeksekusi solusi.

Gambar di atas menggambarkan arsitektur umum agen LLM. Otak menyediakan informasi memori dan perencanaan, yang kemudian memulai serangkaian tugas menggunakan alat.

Jenis Agen LLM

Bagian ini merangkum berbagai kategori agen dari agen refleks paling dasar hingga agen pembelajar yang kompleks.

Agen Refleks Sederhana

Agen refleks sederhana beroperasi pada aturan kondisi-tindakan langsung. Mereka tidak mempertimbangkan riwayat, konsekuensi masa depan, atau tindakan alternatif. Jika suatu kondisi terpenuhi, tindakan yang sesuai dieksekusi segera.

Kesederhanaan ini membuatnya mudah diimplementasikan, tetapi sangat rapuh. Setiap masukan tak terduga atau sinyal yang hilang dapat menyebabkan perilaku yang salah. Mereka juga tidak dapat beradaptasi dengan lingkungan yang berubah.

Contoh bot berhenti berlangganan email menyoroti keterbatasan ini. Ia melakukan tugasnya dengan cepat tetapi kurang kesadaran, yang dapat mengarah pada hasil yang tidak diinginkan.

Agen Refleks Berbasis Model

Agen refleks berbasis model meningkatkan agen refleks sederhana dengan mempertahankan representasi internal dari lingkungan. Model internal ini memungkinkan mereka bernalar tentang hal-hal yang tidak langsung terlihat.

Dengan melacak suatu status dari waktu ke waktu, agen-agen ini dapat menangani keteramatan parsial. Mereka mengingat apa yang sudah terjadi dan menggunakan informasi tersebut untuk memengaruhi tindakan di masa depan.

Asisten IDE seperti Copilot atau Cursor AI adalah contoh yang kuat. Mereka mempertahankan kesadaran atas file, variabel, dan fungsi sepanjang sesi, sehingga memungkinkan saran yang lebih cerdas daripada pencocokan pola sederhana. Mereka juga menjembatani celah menuju kategori agen berikutnya.

Agen Berbasis Tujuan

Agen berbasis tujuan dirancang berdasarkan hasil alih-alih pemicu. Mereka merencanakan dan mengevaluasi tindakan berdasarkan apakah tindakan tersebut membawa sistem lebih dekat ke tujuan yang diinginkan, bukan sekadar reaktif.

Agen-agen ini menghasilkan rencana yang mungkin melibatkan banyak langkah dan percabangan kondisional. Jika satu pendekatan gagal, mereka dapat mencoba jalur alternatif. Ini membuatnya jauh lebih fleksibel daripada agen berbasis refleks.

Misalnya, membuat rencana perjalanan menunjukkan bagaimana satu tujuan tingkat tinggi dapat diuraikan menjadi banyak tindakan terkoordinasi di berbagai sistem. 

Agen tidak sekadar merespons prompt sederhana “beri saya itinerary” dan memuntahkan informasi. Sebaliknya, ia mungkin menguraikan tujuan menjadi masalah-masalah kecil, seperti: 

• Bagaimana kita bepergian antar kota?
• Apa restoran terbaik di setiap kota?
• Bagaimana kita menjadwalkan berbagai aktivitas secara bersamaan?

Tujuan menghasilkan itinerary kemudian dicapai dengan menggabungkan solusi dari masing-masing masalah tersebut.

Agen Berbasis Utilitas

Agen berbasis utilitas memperluas agen berbasis tujuan dengan memperkenalkan optimisasi. Alih-alih sekadar mencapai tujuan, mereka mengevaluasi berbagai hasil dengan menggunakan “fungsi utilitas”.

Fungsi utilitas memberikan skor pada hasil berdasarkan kriteria seperti biaya, waktu, risiko, atau preferensi pengguna. Agen kemudian memilih urutan tindakan yang memaksimalkan utilitas keseluruhan.

Pendekatan ini umum dalam sistem rekomendasi dan masalah optimisasi. Misalnya mencari rute terbaik ke suatu lokasi, merekomendasikan produk yang tepat, atau bahkan menyusun analisis terbaik untuk ditampilkan kepada pengguna tertentu.

Agen Pembelajar

Agen pembelajar dirancang untuk meningkatkan perilakunya dari waktu ke waktu tanpa pemrograman ulang eksplisit. 

Pada setiap iterasi, agen mendapat umpan balik dan menggunakan informasi tersebut untuk meningkatkan kinerjanya. Mereka beroperasi di lingkungan tempat perilaku optimal tidak diketahui sebelumnya dan tidak memerlukan pemrograman ulang eksplisit untuk setiap situasi baru.

Ada dua komponen utama: “Critic” dan “Learning Element”. “Critic” mengevaluasi hasil dan memberikan umpan balik. “Learning Element” menggunakan umpan balik ini untuk menyesuaikan keputusan di masa depan. Seiring waktu, agen menjadi lebih selaras dengan preferensi pengguna atau kendala lingkungan.

Sebagai contoh, bayangkan agen LLM yang merangkum berita harian untuk Anda. Ia bisa mengamati perilaku Anda dan menyesuaikan dengan preferensi Anda. Jika agen melihat Anda jarang membuka ringkasan “Olahraga”, tetapi tertarik pada “Makanan dan Minuman”, agen dapat berhenti memberikan ringkasan olahraga dan sebagai gantinya fokus pada ketertarikan Anda pada masakan atau restoran tertentu.

Ringkasan Agen LLM

Tabel berikut merangkum perbedaan antar jenis agen LLM.

Framework Populer untuk Membangun Agen LLM

Bagian ini memperkenalkan framework umum yang digunakan untuk membangun sistem agen LLM.

LangChain

LangChain menyediakan framework modular untuk membangun sistem bertenaga LLM. Gagasan intinya adalah bahwa workflow kompleks dapat dibangun dengan menyusun komponen sederhana. Ini menangani tantangan berkomunikasi dengan LLM yang berbeda dan mengabstraksikan proses itu bagi pengguna melalui objek Python.

Konsep kunci di LangChain adalah konsep “Chains,” yang menautkan prompt, model, dan parser ke dalam workflow yang dapat diulang. Misalnya, idenya adalah Anda mengambil PromptTemplate, yang diberikan ke LLM dan diproses oleh OutputParser. 

LCEL (LangChain Expression Language) menyediakan sintaks deklaratif yang memungkinkan pengguna menggunakan pipa (|) untuk menyusun chain secara visual. Jadi alih-alih workflow Python klasik yang mengharuskan Anda memberi makan prompt secara eksplisit ke model Anda, Anda cukup menulis chain = prompt | model dan membiarkan LangChain menangani templating. 

Untuk fungsionalitas yang lebih kompleks, LangChain memungkinkan pengguna menambahkan alat seperti Wikipedia, Python REPL, dan Google Search ke agen mereka

LangGraph dibangun di atas fungsionalitas LangChain dan menggabungkan konsep-konsep ini dengan memori untuk mendukung arsitektur agen yang stateful, siap produksi, dengan kontrol eksplisit atas alur eksekusi. 

Di luar LangGraph, ekosistem LangChain telah berkembang lebih jauh untuk memasukkan cara mengamati agen dengan lebih mudah (LangSmith) dan bahkan antarmuka seret-dan-lepas (LangFlow). 

LlamaIndex

LlamaIndex unggul dalam workflow berpusat pada dokumen dengan menyediakan OCR dan parsing akurasi tinggi untuk 90+ tipe file tak terstruktur, yang dapat dipadukan dengan workflow agentic untuk pengambilan dan ekstraksi yang cerdas.

Konektor datanya menyederhanakan ingestion dari banyak sumber, sementara struktur pengindeksannya mengoptimalkan pengambilan. VectorStoreIndex adalah pilihan paling umum untuk pencarian semantik.

Mesin kueri mengorkestrasi pengambilan dan generasi, sementara router memperkenalkan pengambilan keputusan mirip agen dengan memilih sumber data yang paling sesuai untuk kueri tertentu.

CrewAI

CrewAI dirancang dengan berfokus pada kolaborasi. Alih-alih satu agen, ia memungkinkan banyak agen dengan peran berbeda untuk bekerja bersama.

Fokusnya pada gagasan “Crew,” yaitu sekumpulan agen yang terdefinisi. Setiap agen diberi persona, tujuan, dan latar belakang, yang membentuk perilakunya. 

Tugas mendefinisikan apa yang perlu dilakukan dan seperti apa keberhasilannya. Anda mendefinisikan seperti apa sebuah tugas individual, memberikan beberapa parameter, keluaran yang diharapkan, dan agen mana yang harus mengerjakan tugas tersebut.

Proses menentukan bagaimana tugas dieksekusi: secara berurutan, hierarkis, atau melalui pola orchestrator-worker di mana agen utama menguraikan tugas kompleks secara dinamis, meniru tim manusia.

Dari dokumentasi CrewAI, kita dapat melihat bahwa flow menyediakan cara untuk mengorkestrasi dan memicu crew. Setiap crew menggunakan agen LLM dengan peran dan tugas yang ditentukan untuk melakukan pekerjaan tertentu dan menciptakan hasil yang diinginkan.

Memilih Framework yang Tepat

Memilih framework bergantung pada domain masalah dan kendala Anda. Masing-masing framework yang disajikan memiliki kekuatannya sendiri:

• LangChain: Menawarkan fleksibilitas dan kontrol dengan visibilitas terbaik tentang cara kerja setiap alat
• LlamaIndex: Unggul pada workflow berpusat dokumen saat parsing informasi sangat penting
• CrewAI: Sangat bagus ketika kolaborasi dan pemisahan peran penting, dan Anda kurang fokus pada bagaimana tepatnya agen menyelesaikan pekerjaan.

Pertimbangkan kompleksitas data Anda, tingkat otonomi yang dibutuhkan, dan kendala operasional. Tidak ada pilihan yang benar secara universal.

Untuk mendukung pengambilan keputusan Anda, Anda juga dapat melihat artikel kami yang membandingkan LangChain dengan LlamaIndex, dan CrewAI dengan LangGraph.

Use Case Agen LLM

Use case untuk agen LLM pada dasarnya tidak terbatas dan hanya dibatasi oleh imajinasi Anda.

Asisten Koding

Asisten koding modern menggunakan workflow agentic untuk merencanakan, mengeksekusi, dan memverifikasi perubahan. Mereka dapat mengeksplorasi codebase, menghasilkan solusi, menjalankan pengujian, dan memperbaiki kesalahan secara iteratif. 

Sebagai contoh, Cursor terintegrasi secara native ke IDE Anda dan membantu Anda melengkapi baris atau memperbaiki perubahan pada pipeline dengan implikasi hilir. Claude Code dapat membantu Anda menulis pengujian, membuat seluruh skrip, atau menilai inkonsistensi dalam kode Anda di seluruh repo. Kita dapat menggunakan GitHub Copilot untuk membantu menulis pull request dan menguji kode sebagai bagian dari workflow permintaan.

Ini menggeser peran pengembang dari menulis setiap baris menjadi mengawasi dan membimbing sistem cerdas. Bagi praktisi data, hal ini dapat secara dramatis mempercepat eksperimen dan pembuatan prototipe.

Saya merekomendasikan Anda mengambil kursus Software Development with GitHub Copilot jika Anda ingin memulai dengan asisten koding bertenaga LLM.

Business Intelligence

Sistem BI agentic memungkinkan pengguna mengajukan pertanyaan dalam bahasa alami dan menerima wawasan yang dapat ditindaklanjuti. Agen dapat menerjemahkan pertanyaan ke SQL, mengeksekusi kueri, dan menjelaskan hasilnya. 

Anda dapat berbicara dengan data Anda seperti berbicara dengan anggota senior tim dan mendapatkan wawasan serta visualisasi baru secara real-time. Ini mengurangi ketergantungan pada dasbor dan memungkinkan analisis eksploratori bagi anggota tim non-teknis. 

Dokumentasi dan Sintesis Informasi

Agen riset mengotomatiskan pengumpulan dan sintesis informasi. Mereka menelusuri web, mengambil sumber, dan merangkum temuan; beberapa sistem menyertakan filter kualitas sumber dasar. Mereka bahkan dapat melihat dokumentasi internal yang dihosting di situs seperti Notion atau pesan di Slack. 

Dengan akses ke semua sumber informasi ini, agen LLM tidak hanya dapat dengan cepat menyintesis informasi tetapi juga menghasilkan seluruh dokumen dan dokumen ringkasan untuk tim agar cepat berbagi informasi. 

Ini sangat berharga di domain yang bergerak cepat di mana dataset statis cepat menjadi usang. Agen menyediakan wawasan yang terus diperbarui.

Untuk ide lebih lanjut tentang bagaimana orang menggunakan AI Agent, lihat panduan kami tentang 10 Proyek AI Agent Teratas.

Tantangan Kunci dalam Workflow Agentic

Walaupun workflow agentic luar biasa dan sangat kuat, workflow ini memiliki tantangan tersendiri. Agen bisa berhalusinasi langkah, salah menafsirkan keluaran alat, atau masuk ke loop yang panjang atau tidak diinginkan. Guardrail, validasi, dan keteramatan sangat penting untuk sistem produksi.

Setiap tindakan agen sering membutuhkan pemanggilan LLM. Tugas kompleks dapat melibatkan puluhan panggilan, meningkatkan latensi dan biaya API. Selain itu, Anda mungkin membayar infrastruktur tambahan seperti penyimpanan cloud, komputasi cloud, dan biaya lain untuk mendukung agen LLM.

Sistem otonom lebih sulit di-debug daripada kode deterministik. Memahami mengapa agen membuat keputusan memerlukan penelusuran status, memori, dan langkah penalaran. 

Bergantung pada framework agen yang Anda gunakan, ini bisa sangat menantang. Beberapa framework, seperti CrewAI, melakukan abstraksi lebih dalam karena kompleksitas tambahannya dibanding framework yang lebih lugas seperti LangChain, yang fokus pada penyederhanaan akses ke LLM Anda.

Kesimpulan

Kita sedang beralih dari chatbot terisolasi ke workflow yang sepenuhnya agentic yang dapat bernalar, merencanakan, dan bertindak. Meski masih awal, paradigma ini sudah membentuk ulang bagaimana sistem data dibangun dan digunakan.

Bagi calon praktisi data, mempelajari agen LLM hari ini memberikan keunggulan kuat untuk peran masa depan. Sistem ini merepresentasikan masa depan otomasi cerdas. 

Mulailah berlatih dan membangun agen LLM ini dengan kursus Designing Agentic Systems with LangChain kami!