Kurs
Kasım 2022'de OpenAI, ChatGPT'yi piyasaya sürdü. Eşsiz yetenekleriyle dünyanın gündemine oturması sadece birkaç gün sürdü. Üretken yapay zekâ devrimi başlamıştı ve herkes aynı soruyu soruyordu: sırada ne var?
O dönemde, Büyük Dil Modelleri (LLM'ler) tarafından desteklenen ChatGPT ve birçok diğer üretken yapay zekâ aracı, kullanıcıların metin girdilerini işleyip metin çıktıları üretmek üzere tasarlanmıştı. Başka bir deyişle, bunlar tek modlu (unimodal) yapay zekâ araçları olarak değerlendiriliyordu.
Ancak bu sadece başlangıçtı. LLM'lerin neler yapabileceğinin henüz yüzeyini kazıyorduk. ChatGPT'nin lansmanından sadece bir yıl sonra sektörün kaydettiği ilerleme gerçekten şaşırtıcı; bu da mümkün olanın sınırlarını belirlemeyi çok zorlaştırıyor. Bunu, ChatGPT ve Üretken Yapay Zekânın uzun vadeli etkileri üzerine ayrı makalemizde analiz ettik.
Bugün, “sırada ne var?” sorusuna cevap verecek olsak, en iyi yanıt muhtemelen multimodal öğrenme olurdu. Bu, devam eden yapay zekâ devrimindeki en umut verici trendlerden biri. Multimodal üretken yapay zekâ modelleri, çeşitli türde girdileri birleştirip, birden fazla türde çıktıyı da içerebilen çıktılar oluşturabiliyor.
Bu rehberde sizi multimodal yapay zekâ kavramına götüreceğiz. Multimodal yapay zekânın tanımına, temel kavramlarına, altyapı teknolojilerine ve uygulamalarına, ayrıca gerçek dünyada nasıl hayata geçirileceğine bakacağız. Çok modluluğa hazır mısınız? Haydi başlayalım!
Multimodal Yapay Zekâyı Anlamak
En gelişmiş üretken yapay zekâ araçlarının çoğu hâlâ insanlar gibi düşünemese de, bizi Genel Yapay Zekâ (AGI) eşiğine biraz daha yaklaştıran çığır açıcı sonuçlar veriyor. Bu terim, tıpkı bir insan gibi geniş bir görev yelpazesinde anlayabilen, öğrenebilen ve bilgiyi uygulayabilen varsayımsal bir yapay zekâ sistemini ifade eder.
AGI'ye nasıl ulaşılacağı tartışmasında yanıtlamamız gereken temel soru, insanların nasıl öğrendiğidir. Bu da bizi insan beyninin nasıl çalıştığına götürür. Uzun lafın kısası, beynimiz çevremizden her türlü bilgiyi toplamak için beş duyumuza dayanır. Bu bilgiler hafızamızda depolanır, yeni içgörüler öğrenmek için işlenir ve kararlar almak üzere kullanılır.
İlk modern üretken yapay zekâ modelleri, örneğin ChatGPT, tek modlu olarak değerlendiriliyordu; yani yalnızca tek bir veri türünü girdi olarak alabiliyor ve aynı türde çıktı üretebiliyorlardı. Özellikle, bu modellerin çoğu metin istemlerini işleyip metin yanıtları üretmek üzere tasarlanmıştı.
Bu mantıklıdır; çünkü bu modellerin eğitilmesi için muazzam miktarda veriye ihtiyaç vardır ve metin, yalnızca kolayca depolanıp işlenebilen bir veri türü olmakla kalmaz, aynı zamanda kolayca erişilebilirdir. ChatGPT gibi araçların eğitim verilerinin çoğunun İnternet üzerindeki farklı kaynaklardan gelmesi şaşırtıcı değildir. Tüm bu teknik ayrıntıları soruları doğrudan ChatGPT'ye sorduğumuz ChatGPT Nedir makalemizde açıklıyoruz.
Ancak okumak, insanların yeni şeyler öğrenebileceği çeşitli yolların yalnızca biridir ve birçok görev için en etkili olanı değildir.
Multimodal öğrenme, makinelerin öğrenme kapasitesini artırmak amacıyla onları büyük miktarda metnin yanı sıra görüntüler, videolar veya ses kayıtları gibi duyusal veriler olarak da bilinen diğer veri türleriyle eğiten bir yapay zekâ alt alanıdır. Bu, modellere metin açıklamaları ile bunlara karşılık gelen görüntüler, videolar veya sesler arasındaki yeni örüntüleri ve ilişkileri öğrenme imkânı sağlar.
Multimodal öğrenme, akıllı sistemler için yeni olasılıkların kapısını aralıyor. Eğitim sürecinde birden fazla veri türünün bir arada kullanılması, multimodal yapay zekâ modellerini birden fazla modalitede girdi alabilen ve birden fazla türde çıktı üretebilen hale getiriyor. Örneğin, ChatGPT'nin temel modeli olan GPT-4 hem görüntü hem de metin girdilerini kabul edip metin çıktıları üretebilir ve OpenAI'ın yakın zamanda duyurduğu Sora metinden videoya modelini düşünebiliriz.
Multimodal Yapay Zekânın Temel Kavramları
Multimodal üretken yapay zekâ modelleri, en gelişmiş LLM'lere yeni bir karmaşıklık katmanı ekler. Bu modeller, Transformer adı verilen bir sinirsel mimari türüne dayanır. Google araştırmacıları tarafından geliştirilen transformer'lar, verilerin verimli şekilde işlenmesini sağlamak için kodlayıcı-çözücü (encoder-decoder) mimarisine ve dikkat mekanizmasına dayanır.
Bu oldukça karmaşık ve anlaşılması zor olabilen bir süreçtir. LLM'lerin ve transformer'ların nasıl çalıştığı hakkında daha fazla ayrıntı istiyorsanız, Transformer'lar Nasıl Çalışır rehberimizi okumanızı şiddetle öneririz. Ya da işe koyulup adım adım LLM oluşturmayı öğrenmek isterseniz Büyük Dil Modelleri (LLM) Kavramları Kursumuza göz atın.

Kaynak: DataCamp
Multimodal yapay zekâ, farklı veri türlerini entegre etmek ve altta yatan veriye ilişkin daha bütünlüklü ve doğru bir anlayış oluşturmak için veri füzyonu tekniklerine dayanır. Nihai amaç, farklı veri modalitelerinin sunduğu tamamlayıcı bilgileri birleştirerek daha iyi tahminler yapmaktır.

Tek Modlu vs Multimodal Yapay Zekâ. Kaynak: ResearchGate
Multimodal zorlukları ele almak için çeşitli veri füzyon teknikleri uygulanabilir. Füzyonun gerçekleştiği işleme aşamasına bağlı olarak veri füzyon tekniklerini üç kategoriye ayırabiliriz:
- Erken füzyon. Farklı modalitelerin modele kodlanarak ortak bir temsil alanı oluşturulmasını içerir. Bu süreç, tüm modalitelerden gelen anlamsal bilgiyi kapsayan, tek bir modaliteye duyarsız çıktı ile sonuçlanır.
- Orta düzey füzyon. Modalitelerin farklı ön işleme aşamalarında birleştirilmesini içerir. Bu, özellikle veri füzyonu amacıyla tasarlanmış sinir ağında özel katmanlar oluşturarak başarılır.
- Geç füzyon. Farklı modaliteleri işlemek için birden fazla model oluşturmayı ve her bir modelin çıktısını yeni bir algoritmik katmanda birleştirmeyi içerir.
Tüm senaryolar için en iyi olan tek bir veri füzyon tekniği yoktur. Bunun yerine, seçilecek teknik eldeki multimodal göreve bağlıdır. Bu nedenle, en uygun multimodal yapay zekâ hattını (pipeline) bulmak için muhtemelen deneme-yanılma süreci gerekecektir.
Multimodal Yapay Zekâyı Güçlendiren Teknolojiler
Multimodal yapay zekâ, yapay zekânın birden fazla alt alanındaki birikmiş bilginin sonucudur. Son yıllarda yapay zekâ uygulayıcıları ve akademi, verileri birden fazla format ve modalitede depolama ve işleme konusunda etkileyici ilerlemeler kaydetti.
Aşağıda, multimodal yapay zekâ patlamasını besleyen alanların bir listesini bulabilirsiniz:
Derin öğrenme
Derin öğrenme, karmaşık görevleri ele almak için yapay sinir ağı adı verilen bir algoritma türünü kullanan bir yapay zekâ alt alanıdır. Güncel üretken yapay zekâ devrimi, bir sinirsel mimari türü olan transformer'lar başta olmak üzere derin öğrenme modelleri tarafından desteklenmektedir.
Multimodal yapay zekânın geleceği de bu alandaki yeni ilerlemelere bağlı olacaktır. Özellikle transformer'ların yeteneklerini artırmanın yeni yollarını bulmak ve yeni veri füzyon teknikleri geliştirmek için araştırmaya büyük ihtiyaç vardır.
Bu umut vadeden alandaki öğreniminizi ilerletmek için Python ile Derin Öğrenme Yolumuzu inceleyin.
Doğal Dil İşleme (NLP)
NLP, insan iletişimi ile bilgisayarların anlayışı arasındaki boşluğu kapatan, yapay zekâda kilit bir teknolojidir. Bilgisayarların insan dilini yorumlamasını, analiz etmesini ve üretmesini sağlayarak insanlar ile makineler arasında kesintisiz etkileşim kurulmasına imkân veren disiplinler arası bir alandır.
Makinelerle iletişimin birincil yolu metin olduğundan, NLP'nin multimodal olanlar da dâhil olmak üzere üretken yapay zekâ modellerinin yüksek performansını sağlamada kritik olması şaşırtıcı değildir.
NLP ile ilgileniyor musunuz? Yapılandırılmamış verileri değerli içgörülere dönüştürmek için gereken temel NLP becerilerini kazanmak üzere Python ile Doğal Dil İşleme Yolumuzu inceleyin.
Bilgisayarlı Görü
Görüntü analizi, diğer adıyla bilgisayarlı görü, bilgisayarların bir görüntüyü “görmesini” ve anlamasını sağlayan teknikler bütünüdür. Bu alandaki ilerleme, görselleri ve videoları hem girdi hem de çıktı olarak işleyebilen multimodal yapay zekâ modellerinin geliştirilmesini mümkün kılmıştır.
Bu büyüleyici konuya daha derinlemesine dalmak isterseniz, veri bilimi araç kutunuza görüntü işleme becerileri katmak için Python ile Görüntü İşleme Yetenek Yolumuzu inceleyin.
Ses İşleme
En gelişmiş üretken yapay zekâ modellerinin bir kısmı, ses dosyalarını hem girdi hem de çıktı olarak işleyebilmektedir. Ses işlemenin olanakları, sesli mesajları yorumlamadan eşzamanlı çeviriye ve müzik oluşturmaya kadar uzanır.
Ham ses dosyalarından konuşmayı Python ile yüklemeyi, dönüştürmeyi ve yazıya dökmeyi öğrenmek için Python ile Konuşma Dili İşleme Kursumuza göz atın.
Multimodal Yapay Zekânın Uygulamaları
Multimodal öğrenme, makinelerin yeni “duyular” edinmesini sağlayarak doğruluklarını ve yorumlama yeteneklerini artırır. Bu güçler, sektörler ve endüstriler genelinde sayısız yeni uygulamanın kapısını aralıyor; bunlar arasında şunlar bulunur:
Geliştirilmiş üretken yapay zekâ
İlk nesil üretken yapay zekâ modellerinin çoğu, kullanıcıların metin istemlerini işleyip metin yanıtları sağlayabilen metinden metne modellerdi. GPT-4 Turbo, Google Gemini veya DALL-E gibi multimodal modeller, hem girdi hem de çıktı tarafında kullanıcı deneyimini iyileştirebilecek yeni olanaklarla geliyor. İstemleri birden fazla modalitede kabul etmekten içeriği çeşitli formatlarda üretmeye kadar multimodal yapay zekâ ajanlarının olanakları sınırsız görünüyor.
Otonom araçlar
Sürücüsüz araçlar, multimodal yapay zekâya büyük ölçüde dayanır. Bu araçlar, çevreden gelen bilgileri çeşitli formatlarda işlemek üzere birden fazla sensörle donatılmıştır. Multimodal öğrenme, bu araçların bu kaynakları gerçek zamanlı olarak akıllı kararlar almak için etkili ve verimli bir şekilde birleştirmesi açısından kilittir.
Biyomedikal alan
Biyobankalar, elektronik sağlık kayıtları, klinik görüntüleme ve tıbbi sensörlerin yanı sıra genomik verilerden giderek daha fazla biyomedikal verinin erişilebilir hâle gelmesi, tıp alanında multimodal yapay zekâ modellerinin oluşturulmasını besliyor. Bu modeller, birden fazla modalitede gelen bu çeşitli veri kaynaklarını işleyerek insan sağlığı ve hastalıkların gizemlerini çözmemize ve akıllı klinik kararlar almamıza yardımcı olabiliyor.
Yer bilimleri ve iklim değişikliği
Yer sensörleri, dronlar, uydu verileri ve diğer ölçüm tekniklerinin hızla yaygınlaşması, gezegeni anlama kapasitemizi artırıyor. Multimodal yapay zekâ, bu bilgileri doğru şekilde birleştirmek ve sera gazı emisyonlarının izlenmesi, aşırı iklim olaylarının tahmin edilmesi ve hassas tarım gibi çeşitli görevlerde bize yardımcı olabilecek yeni uygulamalar ve araçlar yaratmak için kritik öneme sahip.
Multimodal Yapay Zekâ Çözümlerini Uygulamanın Zorlukları
Multimodal yapay zekâ patlaması, işletmeler, hükümetler ve bireyler için sonsuz olanaklar sunuyor. Ancak her yeni teknoloji gibi, bunları günlük operasyonlarınıza entegre etmek zorlu olabilir.
Öncelikle, özel ihtiyaçlarınıza uyan kullanım senaryolarını bulmanız gerekir. Kavramdan canlı kullanıma geçiş her zaman kolay değildir; özellikle de multimodal yapay zekânın arkasındaki teknik ayrıntıları doğru şekilde anlayan kişilerden yoksunsanız. Ancak mevcut veri okuryazarlığı beceri açığı göz önüne alındığında, modellerinizi üretime almak için doğru kişileri bulmak zor ve maliyetli olabilir; zira şirketler bu sınırlı yeteneği çekmek için yüksek rakamlar ödemeye isteklidir.
Son olarak, üretken yapay zekâdan bahsederken uygun maliyetten söz etmek zorunludur. Bu modeller, özellikle multimodal olanlar, çalışmak için önemli hesaplama kaynakları gerektirir ve bu da para demektir. Bu nedenle, herhangi bir üretken yapay zekâ çözümünü benimsemeden önce yatırım yapmak istediğiniz kaynakları tahmin etmek önemlidir.
Multimodal Yapay Zekânın Riskleri
Her yeni teknoloji gibi, multimodal yapay zekâ modellerinde de aşmamız gereken çeşitli potansiyel tuzaklar vardır:
- Şeffaflık eksikliği. Algoritmik kapalılık, üretken yapay zekâ ile ilişkili başlıca endişelerden biridir. Bu durum multimodal yapay zekâ için de geçerlidir. Bu modeller, karmaşıklıkları nedeniyle sıklıkla ‘kara kutu’ modeller olarak etiketlenir; bu da akıl yürütmelerini ve iç işleyişlerini izlemenin imkânsız olduğu anlamına gelir.
- Multimodal yapay zekâ tekel riski. Bir multimodal model geliştirmek, eğitmek ve çalıştırmak için gereken önemli kaynaklar göz önüne alındığında, pazar, gerekli bilgi birikimine ve kaynaklara sahip birkaç Büyük Teknoloji şirketinde yoğunlaşmıştır. Neyse ki, piyasaya giderek daha fazla açık kaynak LLM ulaşıyor; bu da geliştiricilerin, yapay zekâ araştırmacılarının ve toplumun LLM'leri anlamasını ve işletmesini kolaylaştırıyor.
- Önyargı ve ayrımcılık. Multimodal yapay zekâ modellerini eğitmekte kullanılan verilere bağlı olarak, bu modeller haksız kararlara yol açabilen ve özellikle azınlık gruplarına karşı ayrımcılığı artıran önyargılar içerebilir. Daha önce belirtildiği gibi, potansiyel önyargıları daha iyi anlamak ve ele almak için şeffaflık esastır.
- Gizlilik sorunları. Multimodal yapay zekâ modelleri, birden fazla kaynak ve formattan gelen çok büyük miktarda veriyle eğitilir. Çoğu durumda, kişisel veriler içerebilir. Bu da veri gizliliği ve güvenliğiyle ilgili sorun ve risklere yol açabilir.
- Etik hususlar. Multimodal yapay zekâ bazen temel haklarımız üzerinde önemli etkileri olan, hayatımızı ciddi şekilde etkileyebilecek kararlara yol açabilir. Üretken yapay zekânın etiğini ayrı bir yazıda inceledik.
- Çevresel hususlar. Araştırmacılar ve çevre izleme kuruluşları, üretken yapay zekâ modellerinin eğitilmesi ve işletilmesiyle ilişkili çevresel ayak izine dair endişelerini dile getiriyor. Mülkiyete tabi multimodal yapay zekâ modellerinin sahipleri, modellerin tükettiği enerji ve kaynaklara ya da ilişkili çevresel ayak izine dair bilgileri nadiren yayımlıyor; bu da bu araçların hızla benimsenmesiyle birlikte son derece sorunlu.
Multimodal Yapay Zekânın Geleceği
Multimodal yapay zekâ, üretken yapay zekâ devriminin kesinlikle bir sonraki sınırıdır. Multimodal öğrenme alanındaki hızlı gelişim, her türlü amaca yönelik yeni modellerin ve uygulamaların oluşturulmasını besliyor. Bu devrimin henüz başındayız. Daha fazla ve yeni modaliteleri birleştirmeye yönelik teknikler geliştikçe multimodal yapay zekânın kapsamı genişleyecek.
Ancak büyük güç büyük sorumluluk getirir. Multimodal yapay zekâ, adil ve sürdürülebilir bir geleceği güvence altına almak için ele alınması gereken ciddi risk ve zorluklarla birlikte geliyor.
Üretken yapay zekâya başlamak istiyorsanız, DataCamp yanınızda. Özel kurslarımıza, bloglarımıza ve materyallerimize göz atın:
Serbest çalışan bir veri analistiyim; dünya genelinde şirketler ve kuruluşlarla veri bilimi projelerinde iş birliği yapıyorum. Ayrıca 2+ yıllık deneyime sahip bir veri bilimi eğitmeniyim. Düzenli olarak İngilizce ve İspanyolca veri bilimiyle ilgili makaleler yazıyorum; bunların bir kısmı DataCamp, Towards Data Science ve Analytics Vidhya gibi köklü internet sitelerinde yayımlandı. Siyaset bilimi ve hukuk geçmişine sahip bir veri bilimci olarak amacım, kamu politikası, hukuk ve teknolojinin kesişiminde çalışmak; fikirlerin gücünden yararlanarak özellikle iklim krizi olmak üzere acil sorunların üstesinden gelmemize yardımcı olabilecek yenilikçi çözümler ve anlatılar geliştirmek. Kendimi otodidakt bir kişi, sürekli öğrenen ve disiplinlerarasılığın güçlü bir savunucusu olarak görüyorum. Yeni şeyler öğrenmek için asla geç değildir.

