Last chance! 50% off DataCamp Premium
Sale ends in
DeepSeek’in yapay zeka pazarını sarsmasının ardından, bir diğer Çinli şirket Qwen, DeepSeek’in ileri akıl yürütme modellerini dahi geride bırakan bir dizi son teknoloji model yayımladı. DeepSeek lansmanından sadece birkaç gün sonra Qwen, yalnızca sohbet botu gibi çalışmak yerine gerçek dünyada değer üreten, üst seviye ve göreve özel modeller yayınladı.
DeekSeek R1’e benzer Qwen akıl yürütme modeli hakkında bilgi edinmek için QwQ 32B Önizlemesini Test Ettim: Alibaba’nın Akıl Yürütme Modeli blogunu okuyabilirsiniz.
Bu derste, görsel yetenekleri açısından tüm kapalı modelleri geride bırakan bir görsel-dil modeli olan Qwen2.5-VL’yi inceleyeceğiz. Ayrıca onu yerelde nasıl kullanacağımızı ve amiral gemisi modeli çevrimiçi olarak nasıl deneyimleyeceğimizi öğreneceğiz.
Görsel: Yazar
Yapay zekaya ve büyük dil modellerine (LLM’ler) yeniyseniz, Python ile LLM’lere Giriş kursunu düşünün. Bu kurs, LLM’leri ve onların temelini oluşturan devrim niteliğindeki dönüştürücü (transformer) mimarisini anlamanıza yardımcı olacaktır.
Qwen2.5-VL’ye Giriş
Qwen2.5-VL, Qwen’in yeni amiral gemisi görsel-dil modelidir ve selefi Qwen2-VL’ye kıyasla önemli bir sıçramadır. Bu model, yalnızca çiçekler, kuşlar, balıklar ve böcekler gibi yaygın nesneleri tanımakta ustalaşmakla kalmayıp, aynı zamanda görseller içindeki karmaşık metinleri, grafikleri, simgeleri, grafiksel öğeleri ve mizanpajları analiz ederek çok modlu yapay zekada yeni bir standart belirliyor.
Ayrıca Qwen2.5-VL yüksek derecede ajans kabiliyetine sahip olacak şekilde tasarlanmıştır ve ister bilgisayarda ister telefonda kullanılsın, dinamik akıl yürütme ve araç yönlendirmesi yapabilir.
Modelin gelişmiş özellikleri arasında bir saatten uzun videoları anlayabilme, içlerinde belirli olayları tespit edebilme ve görüntülerdeki nesneleri sınırlayıcı kutular veya noktalar üreterek doğru şekilde yerelleştirme yeteneği bulunur. Ayrıca koordinatlar ve öznitelikler için kararlı JSON çıktıları sağlar; bu da yapılandırılmış veri gerektiren görevlerde hassasiyet sunar.
Bunun yanında Qwen2.5-VL, faturalar, formlar ve tablolar gibi taranmış belgeler için de yapılandırılmış çıktıları destekler; bu da onu finans ve ticaret gibi sektörler için son derece faydalı kılar.
Kaynak: Qwen2.5 VL
Amiral gemisi model Qwen2.5-VL-72B-Instruct, çok çeşitli kıyaslamalarda olağanüstü performans sunarak, farklı alan ve görevleri ele alma konusundaki çok yönlülüğünü gösteriyor. Gemini 2 Flash, GPT-4o ve Claude 3.5 Sonnet gibi önde gelen modelleri geride bırakarak üst düzey bir görsel-dil modeli olarak konumunu pekiştiriyor.
Qwen modelini veya herhangi bir LLM’i kendiniz de değerlendirebilirsiniz; bunun için DeepEval Kullanarak LLM’leri Etkili Şekilde Değerlendirme rehberini izleyin.
GPU’lu Bir Dizüstü Bilgisayarda Qwen2.5-VL Kullanma
Şimdi Qwen2.5-VL’yi yerelde çalıştırmanın birkaç yolunu öğreneceğiz. Bu çözümler zaten QwenLM/Qwen2.5-VL GitHub deposunda mevcut. Yapmamız gereken tek şey ortamı kurmak, bazı yaygın hataları gidermek ve web uygulamasını yerelde çalıştırmak.
1. Qwen2.5-VL web uygulamasını yerelde çalıştırma
1. Qwen2.5-VL GitHub deposunu klonlayarak başlayın ve proje dizinine gidin:
git clone https://github.com/QwenLM/Qwen2.5-VL
cd Qwen2.5-VL2. Aşağıdaki komutla web uygulaması için gereken bağımlılıkları yükleyin:
pip install -r requirements_web_demo.txt3. GPU’nuzla uyumluluğu sağlamak için CUDA destekli en yeni PyTorch, TorchVision ve TorchAudio sürümlerini yükleyin. PyTorch yüklü olsa bile web uygulamasını çalıştırırken sorunlarla karşılaşabilirsiniz; bu yüzden güncellemek en iyisi:
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu1244. Bağlantı ve arayüzle ilgili hatalardan kaçınmak için Gradio ve Gradio Client’ı güncelleyin; eski sürümler sorun yaratabilir:
pip install -U gradio gradio_client 5. Şimdi, daha küçük 3B model kontrol noktasını kullanarak web demo uygulamasını çalıştırın. Bu, sınırlı GPU belleğine (ör. 8 GB VRAM) sahip dizüstü bilgisayarlar için önerilir. 7B model de çalışabilir, ancak büyük olasılıkla yanıt üretimi yavaş olacaktır:
python web_demo_mm.py --checkpoint-path "Qwen/Qwen2.5-VL-3B-Instruct" Görüldüğü gibi, önce modeli indirdi, ardından işlemciyi ve modeli yükledi ve şimdi web uygulaması yerel URL’de çalışıyor: http://127.0.0.1:7860.
Web uygulaması sorunsuz çalışıyor.
6. Metin ve birden fazla şekil içeren bir görsel yükleyip modelden açıklamasını isteyebilirsiniz. Küçük 3B model bile görseldeki ince ayrıntıları belirleyerek etkileyici bir performans sergiliyor.
7. Bir görsel vermeden de modelle etkileşime geçebilirsiniz. Model, standart bir büyük dil modeli gibi metin tabanlı yanıtlar üretecektir.
Görev Yöneticinizi açıp performansı izlerseniz GPU kullanımının yaklaşık %6 civarında olduğunu görürsünüz; bu da akıcı bir çalışmaya işaret eder.
2. Deneysel bir Qwen2.5-VL web uygulamasını yerelde çalıştırma
GitHub deposu ayrıca web_demo_streaming dizininde bulunan deneysel bir akışlı video sohbet demosu içerir. Bu demo, modelle web kameranızı kullanarak etkileşim kurmanıza olanak tanır.
Akışlı video sohbet demosunu çalıştırmak için akış demosu dizinine gidin ve uygulamayı 3B model kontrol noktasıyla başlatın.
cd web_demo_streaming/
python app.py --checkpoint-path "Qwen/Qwen2.5-VL-3B-Instruct" Daha güçlü bir GPU’nuz varsa bu web uygulaması sorunsuz çalışacaktır. Web kameranıza erişim izni verin ve sorular sormaya başlayın.
Yerelde dağıtılmış modeli nasıl kullanacağınızı öğrenin ve bunun etrafında düzgün bir kullanıcı arayüzü uygulaması geliştirin. Bunu LangChain ile LLM Uygulamaları Geliştirme kursunu tamamlayarak yapabilirsiniz.
3. Qwen2.5-VL’yi Docker Desktop ile yerelde çalıştırma
Qwen2.5-VL’yi yerelde kullanmanın en kararlı yolu, onu Docker üzerinden çalıştırmaktır. Qwen ekibi, gerekli tüm ortamların yapılandırıldığı hazır Docker imajları sağlar.
1. Docker Desktop’ı resmi web sitesinden indirin ve kurun.
2. Dağıtımı basitleştirmek için önceden oluşturulmuş qwenllm/qwenvl Docker imajını kullanın. Gerekli sürücüleri yükleyin ve demoyu başlatmak için model dosyalarını indirin.
docker run --gpus all --ipc=host --network=host --rm --name qwen2 -it qwenllm/qwenvl:2-cu121 bashQwen 2.5 Coder adlı bir kod üretim modeli hakkında bilgi edinmek için Qwen 2.5 Coder: Örneklerle Bir Rehber yazımızı okuyun.
Qwen2.5-VL Çevrimiçi Sohbet Botunu Kullanma
Amiral gemisi model Qwen2.5-VL 72B Instruct’ı deneyimlemek istiyorsanız, Qwen Chat sitesine gidin, bir hesap oluşturun ve modeli tıpkı ChatGPT gibi kullanmaya başlayın. Görseli yüklemeden önce modeli seçmeniz gerekebilir.
Görseli yükleyin ve onunla ilgili sorular sormaya başlayın.
Yanıt üretimi hızlı ve doğru; biraz emekle üst seviye bir yapay zeka modelini deneyimleyebilirsiniz.
Alibaba Cloud, API üzerinden çeşitli yapay zeka modellerine erişmeniz için, OpenAI platformuna benzer şekilde ince ayar yapabileceğiniz tüm gerekli araçları sağlar. Daha fazla bilgi için Qwen (Alibaba Cloud) Eğitimi: Giriş ve İnce Ayar yazısını okuyun.
Sonuç
Qwen2.5-VL, yapay zekanın geleceğine bir bakış sunuyor ve ileri seviye yapay zeka modellerindeki inovasyonun yalnızca ABD’ye veya Batı dünyasına özgü olmadığını kanıtlıyor. Bu model olağanüstü bir doğruluk sergiliyor ve farklı iş akışlarına sorunsuzca entegre olarak kullanıcıların görevleri otomatikleştirmek için özel yapay zeka araçları oluşturmasına imkân tanıyor.
Örneğin, Qwen2.5-VL ile bir LinkedIn hesabı oluşturabilir, gerekli tüm bilgileri doldurabilir ve hatta sizin adınıza makaleler paylaşabilirsiniz — hem de minimum çabayla.
Bu derste, bir görseldeki en küçük ayrıntıları bile yakalayabilen bir görsel model olan Qwen 2.5-VL hakkında bilgi edindik. Ayrıca onu GPU’lu bir dizüstü bilgisayarda yerelde nasıl kullanacağımızı öğrendik. Son olarak bir Qwen hesabı oluşturduk ve ChatGPT’ye benzer şekilde amiral gemisi modeli çevrimiçi kullandık.
Alibaba’nın Qwen 2.5-Max hakkında okuyun; GPT-4o, Claude 3.5 Sonnet ve DeepSeek V3 ile rekabet eden bir model.
