Llama 3.3: Adım Adım Eğitim ve Demo Proje

Llama 3.3’ü Kurma

Başlamak için bunu birkaç adıma böleceğiz. Önce Hugging Face kullanarak Llama 3.3’e nasıl erişileceğini, hesabınızı nasıl kuracağınızı ve gerekli izinleri nasıl alacağınızı ele alacağız. Ardından, proje ortamını oluşturup gerekli bağımlılıkları yükleyeceğiz.

Hugging Face’te Llama 3.3’e erişim

Llama 3.3’e erişmenin bir yolu, makine öğrenimi modelleri için en popüler platformlardan biri olan Hugging Face üzerinden olmaktır. Hugging Face’in Inference API’si aracılığıyla Llama 3.3’ü kullanmak için şunlara ihtiyacınız olacak:

1. Bir Hugging Face hesabı.
• Şu adrese gidin: Hugging Face ve henüz bir hesabınız yoksa kaydolun.
2. Doğru izinlere sahip bir API belirteci.
• Oturum açtıktan sonra Access Tokens (Erişim Belirteçleri) sayfanıza gidin.
• Read token oluşturun.
• Belirteci güvenle kopyalayın.
3. Llama-3.3-70B-Instruct modeline erişim.
• Llama-3.3-70B-Instruct sayfasına gidin.
• Lisans koşullarını kabul edip erişim talep etmeniz gerekecek.
• Not: Bu modele erişim için Pro abonelik gerekir. Hesabınızın yükseltildiğinden emin olun.

Proje ortamınızı hazırlayın

Modele erişimi sağladığımıza göre, uygulamanın ortamını oluşturalım. Önce bu proje için bir klasör oluşturacağız. Terminalinizi açın, proje klasörünü oluşturmak istediğiniz dizine gidin ve şunu çalıştırın:

mkdir multilingual-code-explanation
cd multilingual-code-explanation

Ardından, kodu tutacak app.py adlı bir dosya oluşturacağız: touch app.pyŞimdi bir ortam oluşturup etkinleştiriyoruz:

python3 -m venv venv
source venv/bin/activate’

Gerekli bağımlılıkları yükleyin

Ortam hazır olduğuna göre gerekli kütüphaneleri yükleyelim. Python 3.8+ kullandığınızdan emin olun. Terminalde, Streamlit, Requests ve Hugging Face kütüphanelerini yüklemek için şu komutu çalıştırın:

pip install streamlit requests transformers huggingface-hub

Bu aşamada elinizde şunlar olmalı:

1. Llama 3.3 modeline erişim ve bir API belirteci olan bir Hugging Face hesabı.
2. Kodlamaya hazır, temiz bir proje klasörü.
3. Aşağıdakiler dahil tüm gerekli kütüphaneler kurulmuş durumda:
• Arayüz için Streamlit.
• API çağrıları için Requests.
• Hugging Face modelleriyle etkileşim için Transformers ve huggingface-hub.

Kurulum tamamlandığına göre, uygulamayı geliştirmeye hazırız! Bir sonraki bölümde, çok dilli kod açıklama uygulamasını adım adım kodlamaya başlayacağız.

Arka Uç (Backend) Yazımı

Arka uç, kod parçacığını göndermek ve açıklamayı almak için Hugging Face API ile iletişim kurar.

Gerekli kütüphaneleri içe aktarın

Öncelikle requests kütüphanesini içe aktarmamız gerekiyor. Bu kütüphane, API’lara HTTP isteği göndermemizi sağlar. app.py dosyanızın en üstüne şunu yazın:

import requests

API erişimini ayarlayın

Hugging Face üzerinde barındırılan Llama 3.3 API’siyle etkileşim kurmak için şunlara ihtiyacınız var:

1. API uç noktası (modelin barındığı URL).
2. Kimlik doğrulama için Hugging Face API anahtarınız.

HUGGINGFACE_API_KEY = "hf_your_api_key_here"  # Replace with your actual API key
API_URL = "https://api-inference.huggingface.co/models/meta-llama/Llama-3.3-70B-Instruct"
HEADERS = {"Authorization": f"Bearer {HUGGINGFACE_API_KEY}"}

Yukarıdaki kodda:

• "hf_your_api_key_here" kısmını daha önce oluşturduğunuz belirteçle değiştirin.
• HEADERS sözlüğü, Hugging Face’e uç noktayı kullanma yetkinizin olduğunu göstermek için API anahtarını içerir.

Llama 3.3’e sorgu gönderen fonksiyonu yazın

Şimdi API’ye istek gönderen bir fonksiyon yazacağız. Bu fonksiyon:

1. Modele ne yapması gerektiğini söyleyen bir istem (prompt) oluşturur.
2. İsteği Hugging Face’e gönderir.
3. Yanıtı işler ve üretilen açıklamayı çıkarır.

def query_llama3(input_text, language):
   # Create the prompt
   prompt = (
       f"Provide a simple explanation of this code in {language}:\n\n{input_text}\n"
       f"Only output the explanation and nothing else. Make sure that the output is written in {language} and only in {language}"
   )
   # Payload for the API
   payload = {
       "inputs": prompt,
       "parameters": {"max_new_tokens": 500, "temperature": 0.3},
   }
  
   # Make the API request
   response = requests.post(API_URL, headers=HEADERS, json=payload)
   if response.status_code == 200:
       result = response.json()
      
       # Extract the response text
       full_response = result[0]["generated_text"] if isinstance(result, list) else result.get("generated_text", "")
      
       # Clean up: Remove the prompt itself from the response
       clean_response = full_response.replace(prompt, "").strip()
       # Further clean any leading colons or formatting
       if ":" in clean_response:
           clean_response = clean_response.split(":", 1)[-1].strip()
      
       return clean_response or "No explanation available."
   else:
       return f"Error: {response.status_code} - {response.text}"

İstem, Llama 3.3’e kod parçacığını istenen dilde açıklamasını söyler. 

Bilgilendirme: En iyi çıktıyı veren istemi bulmak için farklı istemlerle denemeler yaptım; dolayısıyla bir miktar prompt engineering söz konusuydu!

Ardından yük (payload) tanımlanır. Girdi olarak, istemin modele gönderileceğini belirtiyoruz. Parametrelerde, max_new_tokens yanıt uzunluğunu kontrol ederken temperature, çıktının yaratıcılık düzeyini ayarlar.

requests.post() fonksiyonu verileri Hugging Face’e gönderir. Yanıt başarılıysa (status_code == 200), oluşturulan metin çıkarılır. Hata durumunda, açıklayıcı bir mesaj döndürülür.

Son olarak, çıktıyı düzgün hale getirmek ve biçimlendirmek için adımlar bulunur. Bu, sunumu düzenli kılar ve kullanıcı deneyimini ciddi ölçüde iyileştirir.

Streamlit Ön Yüzünü Oluşturun

Ön yüz, kullanıcıların uygulamayla etkileşime gireceği yerdir. Streamlit yalnızca Python koduyla etkileşimli web uygulamaları oluşturan, süreci basit ve sezgisel kılan bir kütüphanedir. Uygulamamızın ön yüzünü oluşturmak için bunu kullanacağız. Demo ve POC geliştirmek için Streamlit’i gerçekten seviyorum!

Streamlit’i içe aktarın

app.py dosyanızın en üstüne şunu ekleyin:

import streamlit as st

Sayfa yapılandırmasını ayarlayın

set_page_config() ile uygulama başlığını ve yerleşimi tanımlayacağız. Aşağıdaki kodda:

• page_title: Tarayıcı sekmesi başlığını ayarlar.
• layout="wide": Uygulamanın ekran genişliğinin tamamını kullanmasını sağlar.

st.set_page_config(page_title="Multilingual Code Explanation Assistant", layout="wide")

Kenar çubuğu yönergelerini oluşturun

Kullanıcıların uygulamayı nasıl kullanacağını anlamasına yardımcı olmak için kenar çubuğuna yönergeler ekleyeceğiz: Aşağıdaki kodda:

• st.sidebar.title(): Kenar çubuğu için bir başlık oluşturur.
• st.sidebar.markdown(): Basit yönergeler içeren metin ekler.
• divider(): Temiz bir görsel ayrım ekler.
• Özel HTML: Altta küçük bir dipnot gösterir. Bu kısmı kişiselleştirmekten çekinmeyin!

st.sidebar.title("How to Use the App")
st.sidebar.markdown("""
1. Paste your code snippet into the input box.
2. Enter the language you want the explanation in (e.g., English, Spanish, French).
3. Click 'Generate Explanation' to see the results.
""")
st.sidebar.divider()
st.sidebar.markdown(
   """
   <div style=\"text-align: center;color: grey;\">
       Made with ♡ by Ana
   </div>
   """,
   unsafe_allow_html=True
)

Ana uygulama bileşenlerini ekleyin

Sayfaya ana başlık ve alt başlık ekleyeceğiz:

st.title("Multilingual Code Explanation Assistant")
st.markdown("### Powered by Llama 3.3 from Hugging Face 🦙")

Kullanıcıların kod yapıştırması ve tercih ettikleri dili seçebilmesi için girdi alanlarına ihtiyacımız var. Kod metni dil adından genellikle daha uzun olacağından, kod için bir metin alanı, dil içinse bir metin girişi seçiyoruz:

• text_area(): Kod yapıştırmak için geniş bir kutu oluşturur.
• text_input(): Kullanıcıların dili yazmasına olanak tanır.

code_snippet = st.text_area("Paste your code snippet here:", height=200)
preferred_language = st.text_input("Enter your preferred language for explanation (e.g., English, Spanish):")

Şimdi açıklama üretmek için bir düğme ekliyoruz. Kullanıcı kodu ve dili girip Generate Explanation düğmesine tıklarsa bir yanıt üretilir.

if st.button("Generate Explanation"):
	   if code_snippet and preferred_language:
	       with st.spinner("Generating explanation... ⏳"):
	           explanation = query_llama3(code_snippet, preferred_language)
	       st.subheader("Generated Explanation:")
	       st.write(explanation)
	   else:
	       st.warning("⚠️ Please provide both the code snippet and preferred language.")
	

Düğmeye tıklandığında, uygulama:

• Kod parçacığı ve dilin girilip girilmediğini kontrol eder.
• API sorgulanırken bir yükleniyor simgesi gösterir.
• Üretilen açıklamayı gösterir veya girdi eksikse uyarı verir.

Bir alt bilgi (footer) ekleyin

Son olarak bir alt bilgi ekleyelim:

st.markdown("---")
st.markdown("🧠 **Note**: This app uses Llama 3.3 from Hugging Face for multilingual code explanations.")

Llama 3.3 Uygulamasını Çalıştırın

Şimdi uygulamayı çalıştırma zamanı! Uygulamanızı başlatmak için terminalde şu komutu çalıştırın:

streamlit run app.py

Uygulama tarayıcınızda açılacak ve denemeye başlayabileceksiniz!

Llama 3.3’ü Uygulamada Test Etme

Artık çok dilli kod açıklama uygulamamızı oluşturduğumuza göre, modelin ne kadar iyi çalıştığını test etme zamanı. Bu bölümde, uygulamayı birkaç kod parçacığını işlemek için kullanacak ve farklı dillerde üretilen açıklamaları değerlendireceğiz.

Test 1: Python’da faktöriyel fonksiyonu

İlk testimiz için, özyineleme (recursion) kullanarak bir sayının faktöriyelini hesaplayan bir Python betiğiyle başlayalım. Kullanacağımız kod şöyle:

def factorial(n):
    if n == 0:
        return 1
    else:
        return n * factorial(n - 1)
num = 5
result = factorial(num)
print(f"The factorial of {num} is {result}")

Bu betik, verilen bir sayının faktöriyelini hesaplayan özyinelemeli factorial(n) fonksiyonunu tanımlar. num = 5 için fonksiyon 5×4×3×2×1 hesaplayarak 120 sonucuna ulaşır. Sonuç print() deyimiyle ekrana yazdırılır. İşte İspanyolca açıklama ürettiğimizde alınan çıktı:

Bir İspanyolca konuşuru olarak, açıklamanın kodun özyinelemeyle bir sayının faktöriyelini hesapladığını doğru şekilde belirttiğini doğrulayabilirim. Özyinelemenin nasıl çalıştığını adım adım açıklayarak basit terimlerle ayrıntılandırıyor.

Model, özyineleme sürecini açıklıyor ve fonksiyonun n değerini 0’a ulaşana kadar azalan değerlerle nasıl çağırdığını gösteriyor.

Açıklama, istendiği gibi tamamen İspanyolca; bu da Llama 3.3’ün çok dilli yeteneklerini gösteriyor.

Basit ifadelerin kullanımı, programlamaya aşina olmayan okurlar için bile özyineleme kavramını takip etmeyi kolaylaştırıyor.

Ayrıca, 3 gibi diğer girdiler için özyinelemenin nasıl çalıştığını ve programlamada verimli bir problem çözme kavramı olarak özyinelemenin önemini özetleyip vurguluyor.

Bu ilk test, Llama 3.3’ün gücünü öne çıkarıyor:

• Kodu adım adım doğru şekilde açıklar.
• Açıklama, istenen dile (bu örnekte İspanyolca) uyum sağlar.
• Sonuçlar, talimatlara uygun biçimde ayrıntılı, net ve yeni başlayanlar için uygundur.

Python betiğini test ettiğimize göre JavaScript veya SQL gibi diğer programlama dillerine geçebiliriz. Bu, Llama 3.3’ün akıl yürütme, kodlama ve çok dilli destek alanlarındaki yeteneklerini daha fazla keşfetmemize yardımcı olacak.

Test 2: Javascript’te faktöriyel fonksiyonu

Bu testte, çok dilli kod açıklama uygulamasının bir JavaScript fonksiyonunu ne kadar iyi ele aldığını ve Fransızca bir açıklama ürettiğini değerlendireceğiz.

Modelin bunu ne kadar iyi ele aldığını görmek için kasıtlı olarak belirsiz değişkenler kullandığım aşağıdaki JavaScript kod parçacığını kullanıyoruz:

function x(a) {
    if (a === 1) return 1;
    return a * x(a - 1);
}
const y = 6;
const z = x(y);
console.log("The result is: " + z);

Bu kod parçacığı, verilen a sayısının faktöriyelini hesaplayan özyinelemeli x(a) fonksiyonunu tanımlar. Taban koşulu a === 1 olup bu durumda 1 döner. Aksi halde fonksiyon kendini a - 1 ile çağırır ve sonucu a ile çarpar. y sabiti 6 olarak ayarlandığından, x fonksiyonu 6×5×4×3×2×1 hesaplar. Son olarak sonuç z değişkeninde saklanır ve console.log ile görüntülenir. İşte çıktı ve İngilizce çevirisi:

Not: Yanıtın aniden kesilmiş gibi göründüğünü fark edebilirsiniz; bunun nedeni çıktıyı 500 belirteçle (token) sınırlandırmış olmamızdır!

Bunu çevirdikten sonra, açıklamanın x(a) fonksiyonunun özyinelemeli olduğunu doğru şekilde belirlediği sonucuna vardım. Özyinelemenin nasıl çalıştığını, taban durumu (a === 1) ve özyinelemeli durumu (a * x(a - 1)) açıklayarak parçalara ayırıyor. Açıklama, fonksiyonun 6’nın faktöriyelini nasıl hesapladığını açıkça gösteriyor ve y’nin (girdi değeri) ve z’nin (sonuç) rollerinden bahsediyor. Ayrıca sonucun nasıl görüntülendiğini belirtmek için console.log kullanımına değiniyor.

Açıklama, talep edildiği gibi tamamen Fransızca. “récursive” (özyinelemeli), “factorielle” (faktöriyel) ve “produit” (çarpım) gibi teknik terimler doğru kullanılmış. Ayrıca kodun, bir sayının faktöriyelini özyinelemeli biçimde hesapladığını tespit ediyor.

Açıklama, aşırı teknik jargon kullanmaktan kaçınarak özyinelemeyi basitleştiriyor ve programlamaya yeni başlayanlar için anlaşılır kılıyor.

Bu test, Llama 3.3’ün şunları yaptığını gösteriyor:

• Özyineleme içeren JavaScript kodunu doğru şekilde açıklar.
• Fransızca olarak net ve ayrıntılı açıklamalar üretir.
• Açıklamasını, değişkenlerin rolleri ve kodun davranışını içerecek şekilde uyarlar.

Uygulamayı Python ve JavaScript ile test ettiğimize göre, çok dillilik ve akıl yürütme yeteneklerini daha da değerlendirmek için bir SQL sorgusuyla test etmeye geçelim.

Test 3: Almanca SQL sorgusu

Son testte, Çok Dilli Kod Açıklama Uygulaması’nın bir SQL sorgusunu nasıl ele aldığını ve Almanca bir açıklama ürettiğini değerlendireceğiz. Kullanılan SQL parçacığı şu şekilde:

SELECT a.id, SUM(b.value) AS total_amount
FROM table_x AS a
JOIN table_y AS b ON a.ref_id = b.ref
WHERE b.flag = 1
GROUP BY a.id
HAVING SUM(b.value) > 1000
ORDER BY total_amount DESC;

Bu sorgu, id sütununu seçer ve her id için toplam değeri (SUM(b.value)) hesaplar. Verileri iki tablodan okur: table_x (a takma adıyla) ve table_y (b takma adıyla). Ardından, a.ref_id = b.ref olduğu satırları bağlamak için bir JOIN koşulu kullanır. b.flag = 1 olan satırları filtreler ve verileri a.id’ye göre gruplar. HAVING maddesi, yalnızca b.value toplamı 1000’den büyük olan grupları dahil etmek için grupları filtreler. Son olarak sonuçları azalan düzende total_amount’a göre sıralar.

Açıklama üret düğmesine bastıktan sonra elde ettiğimiz çıktı şöyle:

Üretilen açıklama öz, doğru ve iyi yapılandırılmış. Her bir temel SQL ifadesi (SELECT, FROM, JOIN, WHERE, GROUP BY, HAVING ve ORDER BY) açıkça açıklanmış. Ayrıca açıklama, SQL’deki yürütme sırasıyla örtüşerek okurların sorgu mantığını adım adım takip etmesine yardımcı oluyor.

Açıklama talep edildiği gibi tamamen Almanca.

Temel SQL terimleri (örn. "filtert", "gruppiert", "sortiert") bağlamında doğru kullanılmış. Açıklama, HAVING maddesinin, yeni başlayanların sıklıkla karıştırdığı bir konu olan gruplandırılmış sonuçları filtrelemek için kullanıldığını tespit ediyor. Ayrıca, tabloları ve sütunları netlik için yeniden adlandırmak üzere takma adların (AS) kullanımını açıklıyor.

Açıklama, aşırı karmaşık terminolojiden kaçınarak her ifadenin işlevine odaklanıyor. Bu, yeni başlayanların sorgunun nasıl çalıştığını anlamasını kolaylaştırıyor.

Bu test, Llama 3.3’ün şunları yaptığını gösteriyor:

• SQL sorgularını etkin bir şekilde işler.
• Açık ve yapılandırılmış, ifade bazlı açıklamalar üretir.
• Çıktı dili olarak Almanca’yı destekler.
• Yeni başlayanların SQL sorgularının mantığını anlamasına yetecek ayrıntı sağlar.

Uygulamayı Python, JavaScript ve SQL kod parçacıklarıyla test ettik ve açıklamaları İspanyolca, Fransızca ve Almanca olarak ürettik. Her testte:

• Açıklamalar doğru, net ve ayrıntılıydı.
• Model, güçlü akıl yürütme becerileri ve çok dilli destek sergiledi.

Bu testle, farklı programlama dilleri ve doğal diller arasında kod açıklamada oluşturduğumuz uygulamanın esnek, güvenilir ve etkili olduğunu doğruladık.

Sonuç

Tebrikler! Hugging Face’ten Llama 3.3 ve Streamlit kullanarak tamamen işlevsel bir çok dilli kod açıklama asistanı geliştirdiniz.

Bu eğitimde şunları öğrendiniz:

1. Hugging Face modellerini bir Streamlit uygulamasına nasıl entegre edeceğinizi.
2. Kod parçacıklarını açıklamak için Llama 3.3 API’sinin nasıl kullanılacağını.
3. API yanıtını nasıl temizleyip kullanıcı dostu bir uygulama oluşturacağınızı.

Bu proje, Llama 3.3’ün kod akıl yürütme, çok dilli destek ve öğretici içerik üretme yeteneklerini keşfetmek için harika bir başlangıç noktasıdır. Modelin güçlü özelliklerini keşfetmeye devam etmek için kendi uygulamanızı oluşturmaktan çekinmeyin!