Laplasyen Açıklaması: Kalkülüsten ML'e

Laplasyen; graf tabanlı algoritmalarda, görüntü işleme hatlarında ve spektral kümelemede karşımıza çıkar. Dolayısıyla grafiklerle, görüntülerle veya yüksek boyutlu verilerle çalışan modeller geliştiriyorsanız, Laplasyen arka planda kalan isteğe bağlı bir matematik değildir. Kaputun altında asıl işi yapan şey odur.

Bu yazıda, Laplasyeni temelden ele alacağım: arkasındaki matematik, geometrik sezgi, grafik Laplasyeni ve matris biçimi ile gerçek makine öğrenmesi uygulamalarında nasıl kullanıldığı.

Uygulamalı bir diferansiyel denklemler girişine mi ihtiyacınız var? Temellerden pratik makine öğrenmesi uygulamalarına uzanan en yeni makalemizi okuyun.

Laplasyen Nedir?

Laplasyen, ikinci mertebeden bir diferansiyel operatördür. Bir fonksiyonun herhangi bir noktadaki kıvrımını söyler.

Bazen gradyanın ıraksaması olarak da tanımlandığını görürsünüz.

Ve bu, operatörün gerçekte ne yaptığını anlamanın anahtarıdır:

• Gradyan, bir fonksiyonun en hızlı arttığı yönü söyler
• Iraksama, bu akışın dışa mı yayıldığını yoksa içe mi toplandığını ölçer.

Birleştirildiğinde, Laplasyen size bir noktanın yerel bir tepe, yerel bir çukur mu yoksa arada düz bir yerde mi olduğunu söyler.

Basitçe söylemek gerekirse, Laplasyen bir noktadaki fonksiyon değerinin komşularının ortalama değerinden ne kadar saptığını ölçer. Laplasyen sıfırsa, fonksiyon yerel olarak "dengeli"dir. Pozitifse nokta çevresinin altındadır. Negatifse üstündedir.

Formül

2B’de, f(x, y) fonksiyonu için:

2B Laplasyen formülü

3B’de, f(x, y, z) fonksiyonu için:

3B Laplasyen formülü

Bu örüntü herhangi bir boyutta geçerlidir - her eksen boyunca ikinci kısmi türevleri toplarsınız. Bu da Laplasyeni yüksek boyutlu veriler için mükemmel bir seçenek yapar; tam da bu yüzden makine öğrenmesinde bu kadar sık karşımıza çıkar.

Çok Değişkenli Kalkülüste Laplasyen Formülü

Laplasyen formülü, makine öğrenmesinin pek çok alanında karşımıza çıkan bir şey için bekleyeceğinizden daha kısadır.

3B’de, f(x, y, z) fonksiyonu için, şu şekildedir:

3B Laplasyen formülü

Hepsi bu. Her boyut boyunca ikinci kısmi türevleri topluyorsunuz.

Her terim kendi ekseni boyunca aynı soruyu sorar: fonksiyon yukarı kıvrılıyor mu, aşağı mı kıvrılıyor yoksa düz mü? Bu yanıtları topladığınızda, o noktadaki genel kıvrımı tanımlayan tek bir sayı elde edersiniz.

3B’den n boyuta

Formül n boyuta genelleşir. n girdili bir fonksiyon için genel formül budur:

Laplasyen formülünün genellemesi

Bu nedenle, verilerinizin sıklıkla yüzlerce veya binlerce boyutta yaşadığı makine öğrenmesinde Laplasyen iyi çalışır. Operatör, her boyuttaki kıvrımı sadece toplar.

Optimizasyonla bağlantı

Gradyan inişiyle çalıştıysanız, zaten birinci türevleri düşünürsünüz - aşağı yokuş hangi yönde? Laplasyen sizi bir adım daha ileri götürür.

İkinci türevler size o tepenin şeklini anlatır.

Bir noktada büyük pozitif Laplasyen, fonksiyonun tüm yönlerde keskin biçimde yukarı kıvrıldığı anlamına gelir - bir minimuma yakınsınız. Büyük negatif değer bir maksimuma yakın olduğunuzu gösterir. Sıfıra yakınsa yüzey yerel olarak düzdür.

Bu kıvrım bilgisi, düz gradyan inişten daha akıllı adımlar atan ikinci mertebe optimizasyon yöntemlerinde önemlidir. Laplasyen, bu kıvrımı tek bir skaler değerde özetlemenin bir yoludur.

Geometrik Sezgi: Laplasyen Ne Ölçer?

Bir noktadaki Laplasyenin işareti, çevresindeki fonksiyonun şeklini söyler.

• Eğer ∇²f > 0 ise, fonksiyon tüm yönlerde yukarı kıvrılır. Nokta çevresinin altındadır. Bu konveksliktir.

• Eğer ∇²f < 0 ise, fonksiyon aşağı kıvrılır. Nokta çevresinin üstündedir. Bu konkavlıktır.

• Eğer ∇²f = 0 ise, fonksiyon yerel olarak düzdür. Hiçbir yönde net kıvrım yoktur.

Bu, zaten bildiğiniz ikinci türev testinin çok değişkenli hâlidir. 1B’de, pozitif ikinci türev yerel minimum, negatif olan yerel maksimum demektir. Laplasyen, tüm eksenlerdeki kıvrımı toplayarak aynı fikri herhangi bir boyuta genişletir.

Hesyen ile ilişki

Hesyen matrisi tam kıvrım resmini yakalar. Tüm ikinci kısmi türevlerin matrisidir ve her giriş, fonksiyonun bir eksen çifti boyunca nasıl kıvrıldığını açıklar.

Laplasyen, Hesyenin izidir - köşegen girişlerinin toplamı. Hesyen size kıvrımın tam dökümünü verirken, Laplasyen bunu tek bir sayıya indirger.

Bu ödünleşim makine öğrenmesinde önemlidir. Yüksek boyutlu modeller için tam Hesyeni hesaplamak pahalıdır - n parametreli bir modelin Hesyeni n × n’dir. Laplasyen, kıvrımın ucuz bir skaler özetini sunar ve üzerinde çalışmak hızlıdır.

Bu, makine öğrenmesi için neden önemlidir

Bir modeli eğitirken bir kayıp yüzeyinde gezinirsiniz. Düz bölgeler yavaş öğrenme demektir. Konveks alanlarda iyileştirici fazla ilerleyebilir. Laplasyen, hangi durumda olduğunuzu hızlıca okumanızı sağlar.

Graf tabanlı yöntemler, bir grafın düğümleri boyunca değerlerin ne kadar düzgün değiştiğini ölçmek için Laplasyeni kullanır. Bu, sürekli fonksiyonlardaki aynı kıvrım sezgisinin ayrık yapılara doğrudan bir uzantısıdır.

Makine Öğrenmesinde Laplasyen ve Optimizasyon

Gradyan inişi yalnızca birinci türevleri kullanır.

Gradyan size hangi yöne adım atacağınızı söyler. Adımın ne kadar büyük olması gerektiğini söylemez. Düz, geniş bir vadide dik bir gradyan büyük bir adım gerektirir. Aynı dik gradyan, keskin bir uçurum kenarında küçük bir adım ister. Yalnızca birinci türevler bu ayrımı yapamaz.

İşte burada ikinci türevler devreye girer.

Kıvrım ve adım boyu

Kıvrım, gradyanın kendisinin ne kadar hızlı değiştiğini açıklar. Yüksek kıvrım, kayıp yüzeyinin keskin biçimde büküldüğü anlamına gelir - parametre uzayındaki küçük adımlar gradyanda büyük değişimler üretir. Düşük kıvrım yüzeyin düz olduğunu ve gradyanın yavaş değiştiğini gösterir.

Kıvrımı göz ardı edip sabit bir öğrenme oranı kullanırsanız, tahmin yürütürsünüz. Çok büyükse, yüksek kıvrımlı bölgelerde fazla ilerlersiniz. Çok küçükse, düz bölgelerde sürünürsünüz.

İkinci mertebe optimizasyon yöntemleri olan Newton yöntemi gibi teknikler, adım boylarını otomatik olarak ayarlamak için kıvrımı kullanır. Gradyanı kıvrıma bölerler; yüzeyin düz olduğu yerlerde daha büyük, keskin olduğu yerlerde daha küçük adımlar atarlar.

Laplasyen nereye oturur

Laplasyen, Hesyenin izidir - bir noktadaki toplam kıvrımı özetleyen tek bir skaler. Hesyenin sunduğu tam resmi yakalamaz, ancak hesaplaması ucuzdur ve sinyal olarak faydalıdır.

İşte akılda tutulması gerekenlerin sade bir özeti:

• Kayıbın bir noktadaki büyük pozitif Laplasyeni, yerel bir minimuma yakın olduğunuzu gösterir - kayıp tüm yönlerde yukarı kıvrılır
• Negatif bir değer maksima yakın olduğunuzu gösterir
• Sıfıra yakınsa düz ya da eyer bölgesindesinizdir; bu da gradyan inişinin tam da takılma eğiliminde olduğu yerdir

Kararlılık ve düzenlileştirme

Kıvrım, eğitim kararlılığıyla da ilişkilidir. Keskin minimumlar - yüksek kıvrımlı bölgeler - düz olanlara kıyasla daha kötü genelleşme eğilimindedir. Keskin bir minimumda yakınsayan bir model, girdideki küçük değişikliklere duyarlıdır.

Bazı düzenlileştirme teknikleri, kayıp yüzeyinin daha düz bölgelerine doğru optimizasyonu itmek için kıvrımı doğrudan cezalandırır. Laplasyen burada da karşımıza çıkar; modelin tahminlerinin girdi uzayı boyunca ne kadar keskin değiştiğini ölçmenin ve kısıtlamanın bir yolu olarak.

Kıvrımı anlamak, iyileştiricinizin neden duraksadığını, öğrenme oranınızın neden bu kadar önemli olduğunu ve neden bazı minimumların diğerlerinden daha iyi genelleştiğini anlamanıza yardımcı olur.

Grafik Laplasyeni ve Laplasyen Matrisi

Şimdiye kadar Laplasyen, sürekli fonksiyonlar dünyasında yaşıyordu. Peki verileriniz düzgün bir yüzey değil de bir grafik olduğunda ne olur?

İşte grafik Laplasyeni burada devreye girer. Aynı temel fikri - bir noktadaki değerin komşularından nasıl saptığını ölçmeyi - alır ve bunu düğümlere ve kenarlara uygular.

Formül

Grafik Laplasyeni L şu şekilde tanımlanır:

Grafik Laplasyeni formülü (basitleştirilmiş)

İki matris. Hepsi bu. Her birinin ne anlama geldiğini açalım.

Komşuluk matrisi

Komşuluk matrisi A hangi düğümlerin bağlı olduğunu kodlar. n düğümlü bir grafik için, A bir n × n matristir; burada A_ij = 1 eğer i düğümü ile j düğümü arasında bir kenar varsa ve yoksa 0.

Basit, yönsüz 3 düğümlü bir grafikte; 1. düğüm 2 ve 3 ile bağlı, ancak 2 ve 3 birbirine bağlı değilse:

Komşuluk matrisi

Derece matrisi

Derece matrisi D köşegen bir matristir. Her köşegen giriş D_ii, i düğümünün derecesidir - ona bağlı kenarların sayısıdır. Köşegen dışındaki tüm girişler sıfırdır.

Aynı grafik için formül şudur:

Derece matrisi

1. düğümün derecesi 2’dir (iki düğüme bağlı). 2 ve 3. düğümlerin her birinin derecesi 1’dir.

Birleştirmek

D’den A’yı çıkarırsanız L’yi elde edersiniz:

Derece matrisinden komşuluk matrisini çıkarma

Her köşegen giriş, bir düğümün kaç bağlantısı olduğunu söyler. Her köşegen dışı L_ij girişi, düğümler i ve j bağlıysa -1, bağlı değilse 0’dır.

Eğer L’yi, her düğüme atanmış değerlerden oluşan bir vektörle çarparsanız, sonuç her düğümün değerinin komşularının değerlerinden ne kadar saptığını ölçer. Bu, az önceki aynı kıvrım sezgisinin ayrık versiyonudur - sadece sürekli bir yüzeye değil bir grafa uygulanır.

Özdeğerler bir grafik hakkında ne söyler

L’nin asıl gücü, özdeğerleri ve özvektörlerinden gelir:

• En küçük özdeğer her zaman 0’dır. Karşılık gelen özvektör sabit bir vektördür - her düğüm aynı değeri alır. Bu mantıklıdır: sabit bir fonksiyon graf boyunca sıfır "varyasyona" sahiptir.

• Sıfır özdeğerlerin sayısı grafikteki bağlı bileşenlerin sayısına eşittir. Grafiğiniz üç ayrı kümeden oluşuyorsa, L üç sıfır özdeğere sahiptir. Bu, grafik bağlılığını bir matriste doğrudan okumanın bir yoludur.

• Küçük sıfır olmayan özdeğerler, graf boyunca yavaş değişen özvektörlere karşılık gelir - yakın düğümler benzer değerler alır. Büyük özdeğerler bağlanmış düğümler arasında hızlı salınan özvektörlere karşılık gelir.

İlginç bilgi: Özdeğerlerin bu tayfı, spektral yöntemlere adını verir.

Spektral kümeleme ve topluluk tespiti

Spektral kümeleme, L’nin özvektörlerini kullanarak graf yapısındaki verilerde kümeleri bulur. Küçük özdeğerlerle ilişkili özvektörlerin, yoğun biçimde bağlı düğümlere benzer ve gevşek biçimde bağlı olanlara farklı değerler ataması fikrine dayanır.

k kümeyi bulmak için, L’nin en küçük sıfır olmayan k özdeğerine karşılık gelen k özvektörü alır, bunları bir matriste sütun olarak yığar ve satırlar üzerinde k-ortalama çalıştırırsınız. Her satır bir düğümdür ve bu düşük boyutlu uzaydaki konumu, düğümün grafik komşuluğunu yansıtır.

Bu, sosyal ağlarda topluluk tespiti, belge kümeleme, görüntü bölütleme ve verilerinizin doğal bir grafik yapısına sahip olduğu her yerde işe yarar. Sıkı biçimde bağlı iki düğüm, özvektör uzayında birbirine yakın düşer. Farklı topluluklardan iki düğüm ise birbirinden uzaklaşır.

Grafik Laplasyeni, zor bir birleşimsel problemi - bu grafikte kümeleri bul - çözmesi kolay bir lineer cebir problemine dönüştürür.

Spektral Kümelerde Laplasyen

Spektral kümeleme, grafik Laplasyeninin ilginç matematikten pratik bir ML aracına dönüştüğü yerdir.

Temel fikir, ham veri noktalarını doğrudan kümemek yerine, bunları L’nin özvektörlerinin tanımladığı bir uzayda kümemektir. Bu uzay, grafik yapısını yakalar; böylece hangi düğümlerin sıkı biçimde bağlı, hangilerinin gevşek bağlı ve hangilerinin ayrı topluluklara ait olduğunu görebilirsiniz.

Özvektörler kümeleri nasıl tanımlar

L’nin en küçük sıfır olmayan k özdeğerine karşılık gelen k özvektörü alın. Bunları sütunlar olarak bir matriste yığın. Bu matrisin her satırı bir düğümdür ve artık k boyutlu bir uzayda bir nokta olarak temsil edilir.

Küçük özdeğerlerle ilişkili özvektörler, graf boyunca yavaş değişir. Yoğun biçimde bağlı düğümler, bu özvektörlerde benzer değerler alır - benzer değerler benzer satırlar demektir - benzer satırlar da yeni uzayda birbirine yakın düşer.

Normalize edilmemiş ve normalleştirilmiş Laplasyen

Pratikte karşınıza iki tür grafik Laplasyeni çıkar.

Normalize edilmemiş Laplasyen doğrudan L = D - A’dır. Düğümlerin derecelerinin kabaca benzer olduğu - yani çoğu düğümün benzer sayıda bağlantıya sahip olduğu - durumlarda iyi çalışır

Normalleştirilmiş Laplasyen derece dengesizliğini telafi eder. Birkaç varyantı vardır, ancak en yaygını şudur:

Normalleştirilmiş Laplasyen formülü

Bu, her düğümün katkısını derecesiyle yeniden ölçekler. Gerçek dünya graflarında - sosyal ağlar, web grafları, atıf ağları - bazı düğümlerin yüzlerce bağlantısı varken bazılarının yalnızca bir ya da iki bağlantısı vardır. Normalizasyon olmadan, yüksek dereceli düğümler özvektörlere hâkim olur ve kümeleme sonuçları zarar görür.

Grafınızın derece dağılımının uniform olduğunu bilmiyorsanız, varsayılan olarak normalleştirilmiş Laplasyeni kullanın.

Pratik uygulamalar

Grafik Laplasyeniyle spektral kümeleme, geniş bir makine öğrenmesi görev yelpazesinde karşımıza çıkar. İşte birkaç örnek:

• Görüntü bölütleme - pikseller düğüm olur, kenar ağırlıkları benzerliği kodlar ve kümeler görüntü bölgelerine karşılık gelir
• Belge kümeleme - belgeler düğüm olur, kenarlar ortak terimleri veya atıfları kodlar
• Sosyal ağ analizi - kullanıcılar düğüm olur, kenarlar bağlantıları kodlar ve kümeler toplulukları ortaya çıkarır
• Öneri sistemleri - öğeler veya kullanıcılar bir grafik oluşturur ve spektral yöntemler benzer davranışa sahip grupları bulur

Verilerinizin doğal bir grafik yapısı olduğu ya da ikili benzerliklerden bir grafik inşa edebildiğiniz her durumda, spektral kümeleme, saf uzaklık tabanlı yöntemlerin kaçırdığı grupları bulmanız için ilkeli bir yol sunar.

Görüntü İşleme ve Bilgisayarlı Görmede Laplasyen

Laplasyen, bilgisayarlı görmenin en eski araçlarından biridir ve bugün hâlâ etkin şekilde kullanılmaktadır.

Görüntü işlemde piksel yoğunluğu fonksiyondur. Laplasyen, bir pikselin yoğunluğunun komşularından ne kadar saptığını ölçer. Yoğunluğun yavaş değiştiği yerlerde Laplasyen sıfıra yakındır. Keskin değiştiği yerlerde - bir kenarda - Laplasyen güçlü bir tepki üretir.

Laplasyen kenar tespitinin tüm dayanağı budur.

İkinci türevler neden kenar bulur

Birinci türev, yoğunluğun nerede değiştiğini bulur. İkinci türev ise bu değişimin kendisinin nerede değiştiğini bulur - başka bir deyişle, değişim hızının nerede zirve yapıp sonra düştüğünü.

Bir kenarda, yoğunluk yükselir ve sonra dengelenir. Birinci türev bu rampada sivrilir. İkinci türev - Laplasyen - bu sivrinin tepesinde sıfırı geçer. Bu sıfır geçişleri, kenarın tam yerini işaretler; bu da Laplasyeni, Sobel süzgeci gibi birinci türev yöntemlerine kıyasla kenar konumlandırmada daha hassas kılar.

Ayrık Laplasyen çekirdeği

Pratikte görüntüler sürekli fonksiyonlar değil, piksel ızgaralarıdır. Sürekli Laplasyen, bir evrişim çekirdeği kullanılarak yaklaşıklanır - görüntü üzerinde kaydırdığınız küçük bir matris.

Standart 3×3 ayrık Laplasyen çekirdeği şu şekildedir:

3x3 ayrık Laplasyen çekirdeği

Merkez ağırlık -4, dört doğrudan komşunun her biri +1 alır. Bu çekirdeği bir piksele uyguladığınızda, o pikselin yoğunluğu ile dört komşusunun ortalaması arasındaki farkı hesaplamış olursunuz - az önceki "bu nokta çevresiyle nasıl karşılaştırılır" sorusunun ayrık versiyonu.

Pratik hususlar

Ham Laplasyen süzme, gürültüye duyarlıdır. Tek bir gürültülü piksel keskin bir yoğunluk sivrisi üretir ve Laplasyen bunu bir kenar olarak işaretler.

Standart çözüm, önce Gauss bulanıklığı ile görüntüyü yumuşatmak, sonra Laplasyeni uygulamaktır. Bu birleşime Gaussian Laplasyeni (LoG) denir. Gauss gürültüyü bastırır, Laplasyen gerçek kenarları bulur.

Derin öğrenmede evrişimli sinir ağları, veriden kendi kenar tespit süzgeçlerini öğrenir - ancak bu öğrenilen süzgeçler çoğu zaman Laplasyen çekirdeğine benzer. Yani bir bakıma, Laplasyeni klasik bilgisayarlı görmede kullanışlı kılan matematiği, sinir ağları da kendiliğinden yeniden keşfeder.

Ayrık ve Sürekli Laplasyen

Laplasyen, farklı bağlamlarda karşımıza çıkan üç ilişkili fikirdir.

Hangi sürümle çalıştığınızı bilmek, kalkülüs kitapları, sayısal kod ve grafik ML makaleleri arasında gezinirken çokça kafa karışıklığını önler.

Sürekli Laplasyen

Sürekli Laplasyen, kalkülüste olanıdır. Sürekli bir uzayda tanımlı düzgün bir f fonksiyonu için, ikinci kısmi türevlerin toplamıdır:

Sürekli Laplasyen

Bu sürüm, fonksiyonunuzun her yerde düzgün ve türevlenebilir olduğunu varsayar. Teorik temeldir - ancak gerçek veri asla süreklilik göstermez. Piksel ızgarasında veya ölçüm tablolarında tam türevler hesaplayamazsınız.

Ayrık Laplasyen

Sürekli fonksiyonlardan örneklenmiş verilere geçtiğinizde, türevler yerini komşu değerlerden hesaplanan sonlu farklara bırakır - yaklaşımlar bu şekilde yapılır.

Eşit aralıklı noktalarda örneklenen 1B bir fonksiyon için, i noktasındaki ayrık ikinci türev şudur:

Ayrık Laplasyen

i noktasındaki değeri iki komşusuyla karşılaştırırsınız. Aynı fikir 2B ızgaralara (görüntüler), 3B hacimlere ve ötesine uzanır. Görüntü işleme bölümündeki evrişim çekirdekleri tam da budur - sürekli Laplasyenin, piksel ızgarasına uygulanan sonlu fark yaklaşımları.

Bu ayrıklaştırma, Laplasyeni sayısal yöntemlerde ve ML hatlarında hesaplanabilir kılar. Koddaki herhangi bir Laplasyen filtresi uygulaması, tam kalkülüs operatörü değil, bir sonlu fark yaklaşımı çalıştırır.

Grafik Laplasyeni

Grafik Laplasyeni, ayrıklaştırmayı bir adım daha ileri taşır. Düzenli, eş aralıklı bir ızgara yerine, değişen ağırlıklara sahip kenarlarla bağlanmış, keyfî bir düğüm kümesine sahipsiniz.

Burada "komşu piksel" kavramı yoktur - yalnızca düğümler ve aralarındaki bağlantılar vardır. Grafik Laplasyeni L = D - A, sonlu fark yapısını komşuluk (adjacency) yapısıyla değiştirir. Aynı temel soru kalır: bir düğümün değeri komşularıyla nasıl karşılaştırılır? Ancak "komşular" artık mekânsal yakınlıkla değil, graf tarafından tanımlanır.

Bu, ML’de neden önemlidir

Çoğu ML verisi düzenli bir ızgarada yaşamaz. Moleküller, sosyal ağlar, bilgi grafları ve 3B nokta bulutları düzensiz yapıya sahiptir. Bunlara standart bir sonlu fark Laplasyeni uygulayamazsınız.

Grafik Laplasyeni bunu, komşuluk yapısını komşuluk matrisi aracılığıyla açık hale getirerek çözer. Bu sayede grafik sinir ağları ve spektral yöntemler, doğal bir koordinat sistemi olmayan verilere Laplasyen tabanlı işlemler uygulayabilir.

Çözülmüş Örnek: Bir Laplasyen Hesaplamak

Bunu biri sürekli, diğeri graf tabanlı iki örnekle somutlaştıralım.

Örnek 1: f(x, y) = x² + y² fonksiyonunun sürekli Laplasyeni

f(x, y) = x² + y² fonksiyonunu ele alın. Bu, her yönde yukarı kıvrılan basit bir paraboloittir - bir kâse şekli.

Laplasyeni hesaplamak için her değişkene göre ikinci kısmi türeve ihtiyacınız var.

Önce x’e göre:

Sürekli Laplasyen hesaplaması (1)

Sonra y’ye göre:

Sürekli Laplasyen hesaplaması (2)

Ve şimdi sadece toplayın:

Sürekli Laplasyen hesaplaması (3)

Laplasyen her yerde sabit 4’tür. Bu anlamlıdır; çünkü bir paraboloit her noktada aynı kıvrıma sahiptir. Pozitif değer, fonksiyonun tüm yönlerde yukarı kıvrıldığını söyler; bu da kâse şekliyle tutarlıdır.

Örnek 2: Küçük bir grafik için grafik Laplasyeni

4 düğümlü ve şu kenarlara sahip bir grafik alın:

• 1. düğüm 2 ve 3 ile bağlı
• 2. düğüm 1 ve 4 ile bağlı
• 3. düğüm 1 ile bağlı
• 4. düğüm 2 ile bağlı

Komşuluk matrisi A bağlantıları kodlar:

Grafik Laplasyeni hesaplaması (1)

Derece matrisi D, her düğümün bağlantı sayısını köşegene yazar:

Grafik Laplasyeni hesaplaması (2)

1 ve 2. düğümlerin her birinin 2 bağlantısı vardır. 3 ve 4. düğümlerin her birinin 1 bağlantısı vardır.

Son olarak, L = D - A elde etmek için çıkarın:

Grafik Laplasyeni hesaplaması (3)

Bu matrisi şöyle okursunuz: 1. satır şunu söyler: 1. düğümün derecesi 2’dir ve 2 ve 3. düğümlerle bağlantılıdır (-1 girişleri). 3. satır şunu söyler: 3. düğümün derecesi 1’dir ve yalnızca 1. düğüme bağlıdır. Sıfırlar, hangi düğüm çiftlerinin kenar paylaşmadığını gösterir.

Doğrulamak için Python’da da hesaplayabilirsiniz:

import numpy as np

A = np.array([
    [0, 1, 1, 0],
    [1, 0, 0, 1],
    [1, 0, 0, 0],
    [0, 1, 0, 0]
])

D = np.diag(A.sum(axis=1))
L = D - A

print(L)

Python’da grafik Laplasyeni hesaplaması

Yaygın Karışıklıklar

Laplasyen, birkaç başka kavrama benzer ve farklar yalnızca adlardan her zaman açıkça anlaşılmaz. Bu bölümde, tüm kafa karışıklıklarını gidermeye çalışacağım.

Laplasyen ve gradyan

Gradyan ∇f bir vektördür. En dik artış yönünü gösterir ve büyüklüğü fonksiyonun ne kadar hızlı yükseldiğini söyler. Birinci türevleri kullanır.

Laplasyen ∇²f skaler bir değerdir. Hangi yöne hareket edeceğinizi söylemez - bir noktadaki fonksiyonun şekli hakkında bilgi verir. İkinci türevlerden oluşur.

Laplasyen ve Hesyen

Bu, insanları en sık tökezleten konudur.

Hesyen H tüm ikinci kısmi türevlerin bir matrisidir. n girdili bir fonksiyon için, her eksen çifti boyunca gradyanın nasıl değiştiğini yakalayan n × n bir matristir. Size kıvrımın tam resmini verir.

Laplasyen, Hesyenin izidir - köşegen girişlerinin toplamı. Köşegen dışı kıvrım bilgisini kaybedersiniz, ancak hızlıca hesaplanan tek bir sayı elde edersiniz.

Tam kıvrım dökümüne ihtiyacınız olduğunda Hesyeni kullanın. Skaler bir özetin yeterli olduğu durumlarda Laplasyeni kullanın.

Grafik Laplasyeni ve diferansiyel operatör

Bunlar aynı adı ve aynı temel sezgiyi paylaşır, ancak tamamen farklı nesneler üzerinde çalışırlar.

Diferansiyel Laplasyen, düzgün, sürekli fonksiyonlar üzerinde etkide bulunur. Türevleri gerektirir; bu da fonksiyonunuzun her yerde türevlenebilir olduğunu varsayar.

Grafik Laplasyeni L = D - A ise düğüm ve kenarlardan oluşan ayrık yapılar üzerinde çalışır. Türev yoktur. Her düğümdeki değerin komşularından nasıl saptığını matris işlemleriyle ölçer.

Bağlantı kavramsaldır, hesaplamasal değil. Her ikisi de bir komşuluk ortalamasından yerel sapmayı ölçer, ancak tamamen farklıdır.

İşaret sözleşmeleri

Bazı alanlar Laplasyeni negatif işaretle tanımlar: -∇²f. Bunu fizikte ve bazı grafik sinir ağı makalelerinde göreceksiniz. Negatif Laplasyen −L pozitif yarı-belirlidir; bu da belirli optimizasyon problemleri için daha iyi özellikler sunar ve özdeğer analizini daha temiz hale getirir.

Bir makale okurken Laplasyenin özdeğerlerinin tümü negatif olmayan ise, L mi yoksa -L mi kullandıklarını kontrol edin. Matematik eşdeğerdir, ancak sözleşmeleri karıştırmak yanlış sonuçlara yol açabilir.

Laplasyenin Veri Biliminde Önemi

Bu noktada, Laplasyenin kalkülüs, grafik kuramı, görüntü işleme ve optimizasyon boyunca ortaya çıktığını gördünüz. Aynı operatör, farklı bağlamlarda aynı temel problemi çözüyor: bir noktadaki değerin çevresiyle ilişkisini ölçmek.

İşte veri biliminde bunun göründüğü yerler:

• Graf tabanlı ML: Grafik Laplasyeni L = D - A, spektral yöntemlerin temelidir. Verilerinizin doğal bir grafik yapısı olduğu her durumda, Laplasyen size tüm bağlılık örüntüsünü, üzerinde lineer cebir uygulayabileceğiniz bir biçimde kodlayan bir matris verir

• Kümleme: Spektral kümeleme, L’nin özvektörlerini kullanarak, saf uzaklık tabanlı yöntemlerin kaçırdığı grupları bulur. Kümeler konveks veya lineer ayrılabilir olmadığında iyi çalışır

• Yarı denetimli öğrenme: Pek çok yarı denetimli yöntem, etiketleri etiketli düğümlerden etiketsizlere yaymak için grafik Laplasyenini kullanır. Varsayım, bağlı düğümlerin büyük olasılıkla aynı etiketi paylaştığıdır; Laplasyen etiketlerin graf boyunca ne kadar düzgün değişmesi gerektiğini niceler

• Manifold öğrenme: Laplacian Eigenmaps gibi algoritmalar, yüksek boyutlu verilerin düşük boyutlu temsillerini bulmak için grafik Laplasyenini kullanır. L’nin özvektörleri, özgün uzayda yakın olan noktaları indirgenmiş uzayda da yakına eşler

• Görüntü özellik çıkarımı: Ayrık Laplasyen, kenarları ve hızlı yoğunluk değişimi bölgelerini tespit eder. Bu özellikler, hem klasik bilgisayarlı görme hatlarına doğrudan girer hem de derin öğrenme mimarilerinde ön kabuller olarak kullanılır

Özetle, Laplasyen; tek bir kalkülüs denkleminden devasa grafik sinir ağlarına kadar ölçeklenebilen az sayıdaki matematiksel araçtan biridir.

Sonuç

Laplasyen, sürekli fonksiyonlardaki kıvrımı ölçen bir kalkülüs operatörü olarak başlar. Grafik tabanlı ML’ye geldiğinizde, tüm bir ağın yapısını kodlayan bir matrise dönüşür. Temel fikir tamamen aynıdır, yalnızca formu farklıdır.

Bu yazıda ele alınan pek çok kavram ve konuyu uygulamalı olarak deneyimlemek için R ile Veri Bilimi için Lineer Cebir kursumuza kaydolun.