LLM Ajanları Açıklanıyor: Mimari, Çerçeveler ve Kullanım Alanları

Birçok kişi için büyük dil modelleri (LLM’ler) öncelikle sohbet arayüzleri olarak kullanılır. Bir soru sorarsınız, model yanıtlar ve etkileşim orada biter. 

Ancak LLM’ler bundan fazlasını yapabilir: planlayabilen, hatırlayabilen ve kendi başına eyleme geçebilen sistemlere gömülerek LLM ajanları olarak bilinen yapıları ortaya çıkarırlar. Ajan odaklı sistemler modern analitik ve iş akışlarında giderek daha popüler hale geliyor. 

Bu makalenin sonunda LLM ajanlarının ne olduğunu, nasıl inşa edildiklerini, farklı ajan türlerini ve nerede değer yaratabileceklerini anlayacaksınız. 

Bu makaledeki bilgiden en iyi şekilde yararlanmak için, Yapay Zekâ Temelleri beceri yoluyla AI ve LLM bilgilerinizi tazeleyin.

LLM Ajanı Nedir?

LLM ajanlarının standart dil modellerinden nasıl farklılaştığını konuşalım. 

Alışılagelmiş bir LLM arayüzü, örneğin bir sohbet botu, yalnızca istemleri alır ve eğitimi temelinde yanıtlar üretir; harici eylemler ya da durum yönetimi yoktur. Buna karşılık bir LLM ajanı, LLM’i çekirdek akıl yürütme motoru (beyin gibi) olarak kullanır ve etrafını akıl yürütmesine, plan yapmasına ve yürütmesine olanak tanıyan destekleyici bileşenlerle çevreler.

LLM ajanları odağı otomasyondan özerkliğe kaydırır.

Otomasyon, LLM’lerin girdileri almasına ve bir çıktı üretmek için bir dizi adımı izlemesine imkân tanır. Özerklikle birlikte, LLM’e bir dizi araç ve duruma dair bildiklerine göre en iyi çözüm yolunu seçme yetisi veriyoruz. Bu da LLM’in “bağımsız” hareket etmesi için daha fazla esneklik ve karmaşıklık sağlar.

Düz bir LLM’i, bilgisine dayanarak soruları yanıtlayan uzman bir danışman gibi düşünün. Bir LLM ajanı ise o uzmanın bir ekibi yönetmesine benzer: Hangi soruların sorulacağına, hangi ekip üyelerine (araçlara) danışılacağına ve yanıtların bir çözümde nasıl birleştirileceğine karar verir.

Bir LLM Ajanının Temel Bileşenleri

Bir LLM ajanı birkaç temel bileşenden oluşur:

• LLM’in kendisi (beyin)
• Planlama mantığı
• Bellek
• Araçlar

Aşağıdaki grafik bunların birbirleriyle ilişkisini görselleştirir.

LLM Beyni

LLM, ajanın bilişsel çekirdeği olarak hizmet eder. Kullanıcının amacını yorumlar, ara adımlar hakkında akıl yürütür ve hangi eylemleri yapacağına karar verir. Pratikte LLM sadece bir kez değil, tekrar tekrar çağrılır.

LLM her çağrıldığında, orijinal amaç, önceki eylemler, araç çıktıları ve ilgili bellek gibi bağlamı alır. Bu bilgilere dayanarak bir sonraki eyleme karar verir. Bu da LLM’i durağan bir metin üretecinden çok bir kontrolör gibi çalışır hâle getirir.

Veri profesyonelleri için önemli olan, LLM’in doğrudan kod ya da sorgu çalıştırmadığını anlamaktır. Diğer bileşenlerin yorumladığı yapılandırılmış talimatlar üretir. Bir ajanın kalitesi çoğunlukla bu talimatların ne kadar iyi sınırlandırıldığı ve doğrulandığına bağlıdır.

Planlama mantığı

Planlama mantığı, ajanların karmaşık problemleri yönetilebilir adımlara bölerek çözmesini sağlayan düzendir. Planlama olmadan, bir ajan her şeyi tek bir yanıtta çözmeye çalışır ki bu da sıklıkla hatalara veya halüsinasyonlara yol açar.

Planlama aşamasında ajan, üst düzey bir hedefi daha küçük görevlere ayırır. Örneğin “müşteri kaybını analiz et” şu adımlara dönüşebilir: “müşteri verisini yükle”, “kaybetme oranını hesapla”, “eğilimleri belirle” ve “bulguları özetle”. Her alt görev ardışık ya da koşullu şekilde yürütülür.

Yaygın bir teknik Düşünce Zinciri (CoT)dir; modeli, eylemleri bir dizi ardışık istem olarak birbirine bağlayıp açıkça akıl yürütmeye teşvik eder. 

ReAct (akıl yürütme ve eylem) bunu bir adım öteye taşıyarak akıl yürütme izlerini, araç çağrılı eylemler ve haricî gözlemlerle iç içe geçirir. Bu dış geri bildirim, ajanların ayakları yere basan şekilde kalmasına ve ara sonuçlar beklentileri karşılamadığında kendini düzeltmesine yardımcı olur.

Bellek

Bellek, bir ajanın önceki bilgileri yeniden kullanarak etkileşimler ve eylemler boyunca süreklilik sağlamasına olanak tanır. Bellek olmadan her adım yalıtık olur ve ajan aynı bilgiyi tekrar tekrar keşfetmek zorunda kalır.

Kısa vadeli bellek genellikle LLM’in bağlam penceresi içinde bulunur. Son iletileri, ara akıl yürütmeyi ve araç çıktıları içerir. Bilgisayar mimarisindeki RAM’e benzer şekilde bu bellek hızlıdır ama sınırlıdır ve bağlam aşıldığında kaybolur.

Uzun vadeli bellek haricen uygulanır; sıklıkla vektör veritabanları kullanılır. RAG (Retrieval-Augmented Generation) gibi teknikler, ajanın ilgili belgeleri veya geçmiş etkileşimleri almasına ve mevcut bağlama enjekte etmesine olanak tanır. 

Araçlar

Araçlar, bir ajanın yeteneklerini dilin ötesine taşır. Ajana veritabanları, API’ler ve hesaplama motorları dahil gerçek dünya ile etkileşim kurma imkânı sağlarlar.

Ajanın bakış açısından araçlar, tanımlı girdi ve çıktıları olan çağrılabilir fonksiyonlardır. LLM bir aracı ne zaman kullanacağına, hangi argümanları sağlayacağına ve sonucu nasıl yorumlayacağına karar verir. Bu karar verme, ajanları betiklenmiş iş akışlarından ayırır.

Araçlar; Google aramaları, SQL çalıştırma, Python yorumlayıcıları ve API’ler gibi özellikleri içerebilir. Ajan, bizim sahip olduğumuz aynı teknolojik araçlara fiilen erişir ve bunları bir araya getirerek çözümler uygular.

Yukarıdaki görsel genel LLM ajan mimarisini tasvir eder. Beyin, bellek ve planlama bilgilerini sağlar; bu da araçlar kullanılarak bir dizi görevi başlatır.

LLM Ajan Türleri

Bu bölüm, en temel refleks ajanlardan karmaşık öğrenen ajanlara kadar farklı ajan kategorilerini özetler.

Basit Refleks Ajanları

Basit refleks ajanları, doğrudan koşul-eylem kurallarıyla çalışır. Geçmişi, gelecekteki sonuçları veya alternatif eylemleri dikkate almazlar. Bir koşul karşılandığında, karşılık gelen eylem anında yürütülür.

Bu basitlik, uygulamayı kolaylaştırsa da son derece kırılgandır. Beklenmeyen bir girdi veya eksik bir sinyal hatalı davranışa yol açabilir. Değişen ortamlara da uyum sağlayamazlar.

E-posta abonelikten çıkma botu örneği bu sınırlamayı ortaya koyar. Görevini hızlıca yerine getirir ama farkındalığı yoktur; bu da istenmeyen sonuçlara yol açabilir.

Model Tabanlı Refleks Ajanları

Model tabanlı refleks ajanları, çevrenin dahili bir temsilini tutarak basit refleks ajanlarını geliştirir. Bu iç model, hemen görünür olmayan şeyler hakkında akıl yürütmelerini sağlar.

Zaman içinde bir durumu izleyerek bu ajanlar kısmi gözlemlenebilirlikle başa çıkabilir. Nelerin zaten gerçekleştiğini hatırlar ve bu bilgiyi gelecekteki eylemleri bilgilendirmek için kullanırlar.

Copilot veya Cursor AI gibi IDE asistanları güçlü örneklerdir. Bir oturum boyunca dosyaların, değişkenlerin ve fonksiyonların farkındalığını korurlar; bu da basit örüntü eşleştirmeden daha zeki öneriler sunmalarını sağlar. Ayrıca bir sonraki ajan kategorisine köprü oluştururlar.

Hedef Tabanlı Ajanlar

Hedef tabanlı ajanlar, tetikleyicilerden ziyade çıktılar etrafında tasarlanır. Salt tepkisel olmak yerine, eylemleri sistemi istenen bir hedefe yaklaştırıp yaklaştırmadığına göre planlar ve değerlendirirler.

Bu ajanlar birden çok adımı ve koşullu dallanmayı içerebilen planlar üretir. Bir yaklaşım başarısız olursa alternatif bir yol deneyebilirler. Bu da onları refleks tabanlı ajanlara kıyasla çok daha esnek kılar.

Örneğin bir seyahat planı oluşturmak, tek bir üst düzey hedefin nasıl birden çok sistemde koordine edilen eylemlere ayrıştırılabileceğini gösterir. 

Ajan, yalnızca “bana bir plan ver” gibi basit bir isteme yanıt verip bilgiyi kusmuyor. Bunun yerine hedefi şu alt problemlere ayırabilir: 

• Şehirler arasında nasıl seyahat ederiz?
• Her şehirde en iyi restoranlar hangileri?
• Farklı etkinlikleri birlikte nasıl planlarız?

Seyahat planı oluşturma hedefi, bu problemlerin her birinin çözümlerini birleştirerek elde edilir.

Fayda Tabanlı Ajanlar

Fayda tabanlı ajanlar, optimizasyon getirerek hedef tabanlı ajanları genişletir. Salt bir hedefe ulaşmak yerine, farklı sonuçları bir “fayda fonksiyonu” ile değerlendirirler.

Bir fayda fonksiyonu; maliyet, süre, risk veya kullanıcı tercihi gibi ölçütlere göre sonuçlara puan atar. Ajan daha sonra toplam faydayı maksimize eden eylem dizisini seçer.

Bu yaklaşım, öneri sistemleri ve optimizasyon problemlerinde yaygındır. Bir konuma en iyi rotayı bulmak, doğru ürünleri önermek ya da belirli bir kullanıcıya gösterilecek en iyi analizi oluşturmak gibi görevler olabilir.

Öğrenen Ajanlar

Öğrenen ajanlar, açıkça yeniden programlanmaya gerek kalmadan zaman içinde davranışlarını iyileştirmek üzere tasarlanır. 

Her yinelemede bir ajan geri bildirim alır ve bu bilgiyi performansını geliştirmek için kullanır. En iyi davranışın önceden bilinmediği ortamlarda çalışırlar ve her yeni durum için açık yeniden programlama gerektirmezler.

İki ana bileşen vardır: “Eleştirmen” ve “Öğrenme Öğesi”. “Eleştirmen” sonuçları değerlendirir ve geri bildirim sağlar. “Öğrenme Öğesi” bu geri bildirimi gelecekteki kararları ayarlamak için kullanır. Zamanla ajan, kullanıcı tercihleri veya çevresel kısıtlarla daha uyumlu hâle gelir.

Örneğin, sizin için günlük haberleri özetleyen bir LLM ajanını hayal edin. Davranışınızı gözlemleyip tercihlerinizle uyum sağlayabilir. Ajanın “Spor” özetlerini nadiren açtığınızı, buna karşın “Yiyecek ve İçecek”e ilgi duyduğunuzu fark ettiğini düşünün; spor özetlerini sunmayı bırakıp belli mutfaklara veya restoranlara ilişkin ilginize odaklanabilir.

LLM Ajanlarının Özeti

Aşağıdaki tablo, LLM ajan türleri arasındaki farkları özetler.

LLM Ajanları İnşa Etmek İçin Popüler Çerçeveler

Bu bölüm, LLM ajan sistemleri kurmak için kullanılan yaygın çerçeveleri tanıtır.

LangChain

LangChain, LLM destekli sistemler kurmak için modüler bir çerçeve sunar. Çekirdek fikri, basit bileşenleri birleştirerek karmaşık iş akışlarının oluşturulabilmesidir. Farklı LLM’lerle iletişim kurma zorluğunu ele alır ve bu süreci Python nesneleri aracılığıyla kullanıcı için soyutlar.

LangChain’deki kilit kavram, istemleri, modelleri ve ayrıştırıcıları tekrarlanabilir iş akışlarına bağlayan “Zincirler”dir. Örneğin bir PromptTemplate alıp LLM’e verir, ardından bir OutputParser ile işlersiniz. 

LCEL (LangChain Expression Language), kullanıcıların boru sembolünü (|) kullanarak zincirleri görsel olarak birleştirmesine imkân veren bildirimsel bir söz dizimi sağlar. Böylece istemleri modelinize açıkça beslemenizi gerektiren klasik Python iş akışları yerine, yalnızca chain = prompt | model yazabilir ve şablonlamayı LangChain’in halletmesine izin verebilirsiniz. 

Daha karmaşık işlevler için LangChain, kullanıcılara Wikipedia, Python REPL’ler ve Google Arama gibi araçları ajanlarına ekleme olanağı tanır

LangGraph, LangChain’in işlevselliğinin üzerine inşa edilir ve bu kavramları bellekle birleştirerek, yürütme akışı üzerinde açık kontrol sunan, durumlu ve üretim düzeyinde ajan mimarilerini destekler. 

LangGraph’in ötesinde, LangChain ekosistemi, ajanları daha kolay gözlemleme yollarını (LangSmith) ve hatta sürükle-bırak arayüzlerini (LangFlow) bile kapsayacak şekilde büyümüştür. 

LlamaIndex

LlamaIndex, belge merkezli iş akışlarında 90’dan fazla yapılandırılmamış dosya türü için yüksek doğruluklu OCR ve ayrıştırma sunarak öne çıkar; isteğe bağlı olarak akıllı getirme ve çıkarım için ajan odaklı iş akışlarıyla birleştirilebilir.

Veri bağlayıcıları çok sayıdaki kaynaktan alımı basitleştirirken, indeksleme yapıları getirimi optimize eder. VectorStoreIndex, anlamsal arama için en yaygın seçenektir.

Sorgu motorları, getirme ve üretimi orkestre ederken; yönlendiriciler, belirli bir sorgu için en uygun veri kaynağını seçerek ajan benzeri karar verme sunar.

CrewAI

CrewAI iş birliği etrafında tasarlanmıştır. Tek bir ajan yerine, farklı rollere sahip birden çok ajanın birlikte çalışmasını sağlar.

“Ekipler” fikrine odaklanır; bu, tanımlı bir ajan kümesidir. Her ajana, davranışını şekillendiren bir kişilik, amaç ve geçmiş hikâye atanır. 

Görevler, neyin yapılması gerektiğini ve başarının nasıl göründüğünü tanımlar. Bireysel bir görevin nasıl görüneceğini, bazı parametreleri, beklenen çıktıyı ve o görevi hangi ajanların yürüteceğini belirlersiniz.

Süreçler, görevlerin nasıl yürütüleceğini belirler: sıralı, hiyerarşik ya da birincil ajanın karmaşık görevleri dinamik olarak parçaladığı, insan ekiplerini taklit eden orkestratör–işçi desenleriyle.

CrewAI dokümantasyonundan gördüğümüz üzere, akışlar ekipleri orkestre etmenin ve tetiklemenin bir yolunu sunar. Her ekip, belirlenmiş rollere ve görevlere sahip LLM ajanlarını kullanarak belirli işleri yapar ve istenen sonuçları üretir.

Doğru Çerçeveyi Seçmek

Bir çerçeve seçimi, problem alanınıza ve kısıtlarınıza bağlıdır. Sunulan her çerçevenin kendi güçlü yönleri vardır:

• LangChain: Her aracın nasıl çalıştığına dair en iyi görünürlükle esneklik ve kontrol sunar
• LlamaIndex: Bilgi ayrıştırmanın kritik olduğu belge merkezli iş akışlarında mükemmeldir
• CrewAI: İş birliği ve rol ayrımının önemli olduğu; ajanların işi tam olarak nasıl yaptığına daha az odaklandığınız durumlarda parıldar.

Veri karmaşıklığınızı, gereken özerklik düzeyini ve operasyonel kısıtları göz önünde bulundurun. Evrensel olarak doğru bir seçim yoktur.

Karar vermenize destek olmak için, LangChain ile LlamaIndex’i karşılaştıran ve ayrıca CrewAI ile LangGraph’ı karşılaştıran makalelerimize de bakabilirsiniz.

LLM Ajan Kullanım Alanları

LLM ajanlarının kullanım alanları neredeyse sınırsızdır ve yalnızca hayal gücünüzle sınırlıdır.

Kodlama Asistanları

Modern kodlama asistanları, planlamak, yürütmek ve değişiklikleri doğrulamak için ajan odaklı iş akışları kullanır. Bir kod tabanını keşfedebilir, çözümler üretebilir, testler çalıştırabilir ve hataları yinelemeli olarak düzeltebilirler. 

Örneğin Cursor IDE’nize yerel olarak entegre olur ve satırları tamamlamanıza veya aşağı akış etkileri olan boru hatlarındaki değişiklikleri düzeltmenize yardımcı olur. Claude Code test yazmanıza, tüm betikleri oluşturmanıza veya bir depoda kodunuzdaki tutarsızlıkları değerlendirmeye yardımcı olabilir. GitHub Copilot’u, çekme istekleri yazmaya ve bir istek iş akışının parçası olarak kodu test etmeye yardımcı olması için kullanabiliriz.

Bu, geliştiricinin rolünü her satırı yazmaktan, akıllı sistemleri denetlemeye ve yönlendirmeye kaydırır. Veri profesyonelleri için bu, denemeleri ve prototiplemeyi dramatik biçimde hızlandırabilir.

LLM destekli kodlama asistanlarıyla başlamak istiyorsanız GitHub Copilot ile Yazılım Geliştirme kursunu öneririm.

İş Zekâsı

Ajan odaklı BI sistemleri, kullanıcıların doğal dille soru sormasına ve eyleme dönüştürülebilir içgörüler almasına olanak tanır. Ajan, soruları SQL’e çevirebilir, sorguları çalıştırabilir ve sonuçları açıklayabilir. 

Verinizle, ekipte kıdemli bir üye ile konuşur gibi konuşabilir ve gerçek zamanlı olarak yeni içgörüler ve görselleştirmeler elde edebilirsiniz. Bu, panellere bağımlılığı azaltır ve teknik olmayan ekip üyeleri için keşifsel analizi mümkün kılar. 

Dokümantasyon ve Bilgi Sentezi

Araştırma ajanları, bilgi toplamayı ve sentezini otomatikleştirir. Web’de arama yapar, kaynakları getirir ve bulguları özetler; bazı sistemler temel kaynak kalitesi filtreleri içerir. Hatta Notion gibi sitelerde barındırılan iç dokümantasyona veya Slack içindeki iletilere de bakabilirler. 

Tüm bu bilgi kaynaklarına erişimle LLM ajanları sadece bilgiyi hızla sentezlemekle kalmaz, aynı zamanda ekiplerin bilgiyi hızlıca paylaşabilmesi için tüm belgeleri ve özet belgeleri de üretebilir. 

Bu, durağan veri kümelerinin hızla güncelliğini yitirdiği hızlı ilerleyen alanlarda özellikle değerlidir. Ajanlar sürekli yenilenen içgörüler sunar.

İnsanların AI Ajanlarını nasıl kullandığına dair daha fazla fikir için En İyi 10 AI Ajanı Projesi rehberimize göz atın.

Ajan Odaklı İş Akışlarında Temel Zorluklar

Ajan odaklı iş akışları harika ve son derece güçlü olsa da kendi zorluklarıyla gelir. Ajanlar adımları uydurabilir, araç çıktılarının yanlış yorumlayabilir veya uzun ya da istenmeyen döngülere girebilir. Üretim sistemleri için korkuluklar, doğrulama ve gözlemlenebilirlik kritik önemdedir.

Her ajan eylemi genellikle bir LLM çağrısı gerektirir. Karmaşık görevler, gecikmeyi ve API maliyetlerini artıran düzinelerce çağrı içerebilir. Ayrıca, LLM ajanını desteklemek için bulut depolama, bulut bilişim ve diğer altyapılar gibi ek maliyetler ödüyor olabilirsiniz.

Özerk sistemlerin hata ayıklaması, deterministik koda kıyasla daha zordur. Bir ajanın neden belirli bir karar aldığını anlamak, durumu, belleği ve akıl yürütme adımlarını izlemeyi gerektirir. 

Kullandığınız ajan çerçevesine bağlı olarak bu olağanüstü zor olabilir. CrewAI gibi bazı çerçeveler, LangChain gibi daha doğrudan LLM erişimini basitleştirmeye odaklanan çerçevelere kıyasla, ek karmaşıklıkları nedeniyle çok daha derin soyutlamalar yapar.

Sonuç

Yalıtık sohbet botlarından, akıl yürütebilen, plan yapabilen ve eyleme geçebilen tam anlamıyla ajan odaklı iş akışlarına geçiş yapıyoruz. Henüz erken olsa da bu paradigma, veri sistemlerinin nasıl kurulduğunu ve kullanıldığını şimdiden dönüştürüyor.

Gelecek vadeden veri profesyonelleri için LLM ajanlarını bugün öğrenmek, yarının rollerinde güçlü bir avantaj sağlar. Bu sistemler, akıllı otomasyonun geleceğini temsil ediyor. 

Bu LLM ajanlarını uygulamaya koyup inşa etmeye, LangChain ile Ajan Odaklı Sistemler Tasarlama kursumuzla başlayın!