Kurs
Bir şirket en iyi kâr marjını bulmak için fiyatları belirlediğinde ya da bir model tahmin hatasını küçültmek için ağırlıklarını ayarladığında, altta aynı analiz problemi çalışır: bir fonksiyonun en yüksek veya en düşük değerini bulmak. Minimum ve maksimum tam da bununla ilgilidir. Bir fonksiyonun aşırı değerlere ulaştığı zirveler ve vadiler.
Bu yazıda, önce aşırı değerlerin gerçekten ne anlama geldiğiyle başlayacak, yerel davranışı küreselden ayıracak, türevleri kullanarak bunları bulma adımlarını ele alacak ve tüm bunların optimizasyon ve veri bilimi açısından neden önemli olduğuna bağlayacağız. Bu fikirleri uygulamalı olarak pekiştirmek isterseniz, Python ile Optimizasyona Giriş kursumuz hesaplamalı yönü kapsar.
Minimum ve Maksimum Nedir?
Bir minimum, bir fonksiyonun ulaştığı en düşük değerdir; bir maksimum ise en yüksek değerdir. Birlikte bunlara aşırı değerler (tekil: aşırı değer) denir. Grafikte tam da beklediğiniz gibidirler: vadilerin tabanları ve zirvelerin tepeleri.
Baştan net tutmaya değer bir nokta: aşırı değer fonksiyon değeridir (y-koordinatı), bunun oluştuğu nokta ise x-değeridir. "Maksimum x = 3'te" demek, "maksimum değer f(3) = 10'dur" demekten farklıdır. Bu ayrım, düşündüğünüzden daha sık kafa karıştırır ve hem sınav sorularında hem de mülakatlarda karşınıza çıkar.
Her fonksiyonun hem minimumu hem de maksimumu olmak zorunda değildir. Bir doğruyun hiçbiri yoktur. Yukarı açılan bir parabolün minimumu vardır ama maksimumu yoktur. Açık aralıklarda tanımlı fonksiyonlar, aşırı değerlere yaklaşabilir ama onlara hiç ulaşmayabilir. Aşırı değerler garanti değildir; fonksiyonun şekline ve üzerinde çalıştığınız tanım kümesine bağlıdır.
Yerel ve Küresel Minimumlar ile Maksimumlar
Aşırı değerleri bulmadan önce, bundan sonraki her şeye nüfuz eden bir ayrımı netleştirmekte fayda var: yerel olarak önemli olanlarla küresel olarak önemli olanlar arasındaki fark. Bu, optimizasyondaki en pratik açıdan önemli fikirlerden biridir ve insanların en sık kafasının karıştığı yerdir.
Fark kapsamla ilgilidir. Yerel bir aşırı değer bir noktanın çevresindeki küçük bir komşuluğa bakar; küresel bir aşırı değer tüm tanım kümesini dikkate alır.
Yerel minimum ve maksimum
Bir yerel minimum, fonksiyon değerinin çevredeki tüm değerlerden daha düşük olduğu noktadır. Grafiğin başka bir yerinde daha derin bir vadi olsa bile, siz bir vadinin dibindesinizdir. Bir yerel maksimum, yakın çevresinden daha yüksek olan bir zirvedir; daha uzakta daha yüksek bir tepe olsa bile.
Yuvarlanan tepelerin olduğu bir yürüyüş parkurunu hayal edin. Her tepe zirvesi bir yerel maksimumdur ve tepeler arasındaki her çukur bir yerel minimumdur. Bunları belirlemek için tüm parkuru görmenize gerek yok; yalnızca hemen çevrenizle karşılaştırırsınız.
Küresel minimum ve maksimum
Bir küresel minimum (mutlak minimum olarak da adlandırılır) fonksiyonun tüm tanım kümesi boyunca aldığı tek en düşük değerdir. Küresel maksimum (ya da mutlak maksimum) ise tek en yüksek değerdir. Küresel bir aşırı değer her zaman aynı zamanda yerel bir aşırı değerdir, ancak tersi doğru değildir.
Aynı yürüyüş parkurunda, küresel maksimum, yalnızca en yüksek yakın tepe değil, tüm rotanın en yüksek noktasıdır. Bir fonksiyonun birçok yerel aşırı değeri olabilir, ancak en fazla bir küresel minimum değeri ve bir küresel maksimum değeri vardır (bu değerler birden fazla noktada gerçekleşebilir).
Bu yerel-küresel ayrımı sadece teorik değildir. Doğrudan makine öğreniminde karşımıza çıkar; gradyan inişi küresel bir minimum ararken yerel minimumlarda takılabilir. Buna daha sonra değineceğiz.
Minimum ve Maksimum Nasıl Bulunur
Aşırı değerleri bulmak tutarlı bir süreci izler. Esasen şu soruyu sorarsınız: fonksiyon nerede artmayı bırakıp azalmaya başlar ya da tersi? Türevler buna kesin bir yanıt vermenizi sağlar.
Genel yaklaşım şöyledir:
- Birinci türevi f'(x) hesaplayın.
- f'(x) = 0 olduğu veya f'(x)'in var olmadığı kritik noktaları bulun.
- Her kritik noktayı yerel minimum, yerel maksimum veya hiçbiri olarak sınıflandırın.
- Kapalı bir aralıkta çalışıyorsanız uç noktaları da kontrol edin.
- Mutlak aşırı değerleri belirlemek için tüm aday değerleri karşılaştırın.
Somut kalması için tek bir fonksiyonu kullanacağız: f(x) = 2x³ − 9x² + 12x − 4, [0, 4] aralığında tanımlı.
Kritik Noktalar ve Aşırı Değerler
f(x)'in bir kritik noktası, tanım kümesi içinde f'(x) = 0 ya da f'(x)'in tanımsız olduğu herhangi bir x değeridir. Bunlar, fonksiyonun yön değiştirebileceği aşırı değer adaylarıdır.
Aşırı değerler neden kritik noktalarda ortaya çıkar? Pürüzsüz bir tepe ya da vadide teğet doğru yataydır, dolayısıyla türev sıfıra eşittir. Ancak her kritik nokta bir aşırı değer değildir ve bu önemlidir. Klasik karşı örnek x = 0'da f(x) = x³'tür: türev sıfırdır, fakat fonksiyon yön değiştirmez; sadece kısaca yataylaşır, sonra yükselmeye devam eder. Türevlerin var olmadığı noktalar da dikkat ister. f(x) = |x| fonksiyonunda x = 0'daki keskin köşe için türev yoktur; ama minimum tam oradadır.
Örneğimiz için f'(x) = 6x² − 18x + 12 = 6(x² − 3x + 2) = 6(x − 1)(x − 2). Bunu sıfıra eşitlemek x = 1 ve x = 2'de kritik noktalar verir. Şimdi her birinde neler olduğuna bakmamız gerekiyor.
Birinci Türev Testi Nasıl Kullanılır
Birinci türev testi, f'(x)'in işaret değiştirip değiştirmediğini kontrol ederek kritik noktaları sınıflandırır. Fonksiyon artıştan azalışa geçiyorsa bir tepedesiniz. Azalıştan artışa geçiyorsa bir vadidesiniz.
Pozitiften negatife
f'(x) bir kritik noktadan geçerken pozitiften negatife dönüyorsa, o nokta bir yerel maksimumdur. Fonksiyon oraya kadar tırmanmış ve sonra geri inmiştir.
Negatiften pozitife
f'(x) negatiften pozitife döndüğünde, fonksiyon düşüyordu ve sonra yükselmeye başladı. Bu kritik nokta bir yerel minimumdur.
İşaret değişimi yok
f'(x) her iki tarafta da pozitif kalırsa (ya da her iki tarafta da negatif kalırsa), kritik nokta ne minimumdur ne de maksimum. Fonksiyon duraklamış ama yön değiştirmemiştir; x = 0'da f(x) = x³ gibi.
Fonksiyonumuz için x = 1 ve x = 2 çevresindeki aralıkları test edelim. Test noktaları seçin: f'(0.5) = 6(0.5 − 1)(0.5 − 2) = 6(−0.5)(−1.5) = 4.5 > 0, f'(1.5) = 6(0.5)(−0.5) = −1.5 < 0 ve f'(3) = 6(2)(1) = 12 > 0. x = 1'de türev pozitiften negatife gider: yerel maksimum. x = 2'de negatiften pozitife gider: yerel minimum. Fonksiyon değerleri f(1) = 1 ve f(2) = 0.
Birinci türev testi her zaman çalışır, ancak her aralıkta test noktaları seçmeyi gerektirir ki bu hızla yorucu hale gelir. Belirli koşullar sağlandığında daha hızlı bir yöntem vardır.
İkinci Türev Testi Nasıl Kullanılır
İkinci türev testi, kritik noktada f''(x) ≠ 0 olduğunda çalışır. Aralıklar boyunca işaret değişimlerini kontrol etmek yerine, ikinci türevi doğrudan kritik noktada değerlendirirsiniz.
Fikir, içbükeylik/dışbükeylik ile bağlantılıdır. f''(c) > 0 ise fonksiyon c noktasında yukarı doğru içbükeydir, bir kase gibi kıvrılır; dolayısıyla kritik nokta diptedir: yerel minimum. f''(c) < 0 ise fonksiyon aşağı doğru içbükeydir, bir tepe gibi kıvrılır; kritik nokta tepede olur: yerel maksimum. f''(c) = 0 ise test size bir şey söylemez. Birinci türev testine geri dönmeniz gerekir.
Fonksiyonumuz için f''(x) = 12x − 18. x = 1'de: f''(1) = 12 − 18 = −6 < 0, yerel maksimumu doğrular. x = 2'de: f''(2) = 24 − 18 = 6 > 0, yerel minimumu doğrular. Öncekiyle aynı cevaplar, ama daha hızlı. İkinci türev testi her zaman çalışmaz (eğrilik değişim noktalarında ve bazı dejenerik kritik noktalarda başarısız olur), ancak çalıştığında zaman kazandırır.
Bir Aralıkta Mutlak Minimum ve Maksimum Nasıl Bulunur
Sürekli bir fonksiyonla kapalı bir [a, b] aralığında çalışırken, Aşırı Değer Teoremi hem mutlak maksimumun hem de mutlak minimumun var olduğunu garanti eder. Boşa arama yapmıyorsunuz.
Yönteme kapalı aralık yöntemi denir:
- (a, b) aralığı içindeki tüm kritik noktaları bulun.
- Her kritik noktada f(x)'i değerlendirin.
- Her iki uç noktada, a ve b'de f(x)'i değerlendirin.
- En büyük değer mutlak maksimumdur; en küçük değer mutlak minimumdur.
[0, 4] aralığında f(x) = 2x³ − 9x² + 12x − 4 için kritik noktaların x = 1 ve x = 2 olduğunu zaten biliyoruz. Önemli her yerde değerlendirelim:
f(0) = -4
f(1) = 2 - 9 + 12 - 4 = 1
f(2) = 16 - 36 + 24 - 4 = 0
f(4) = 128 - 144 + 48 - 4 = 28
Mutlak minimum f(0) = −4 ve mutlak maksimum f(4) = 28'dir. Dikkat edin, mutlak maksimum bir kritik noktada değil, bir uç noktadadır. Bu nedenle uç nokta kontrolünü atlayamazsınız; bu aynı zamanda insanların en sık yaptığı hatadır. Hatalar bölümünde buna değineceğiz.
Buraya kadar olanların tümü tek değişkenli fonksiyonlar için geçerlidir. Çoğu gerçek dünya problemi çok değişkenlidir; bu yüzden bunun nasıl genellendiğini görmek değerlidir.
Çok Değişkenli Fonksiyonlarda Minimum ve Maksimum
f(x, y) fonksiyonu için, her iki kısmi türevi sıfıra eşitleyerek kritik noktaları bulursunuz: ∂f/∂x = 0 ve ∂f/∂y = 0. Artık bir kritik nokta tek bir değer yerine bir (x, y) ikilisidir. Sınıflandırma daha zorlaşır çünkü yeni bir olasılık ortaya çıkar: eyer noktaları; fonksiyonun bir yönde yukarı, başka bir yönde aşağı kıvrıldığı yerler. Pringles cipsinin ortasını düşünün.
Çok değişkenli kritik noktaları sınıflandırmak için, ikinci dereceden kısmi türevlerden oluşan kare bir matris olan Hessian matrisini kullanırsınız. Determinantı ve girdilerinin işaretleri, yerel minimumda mı, yerel maksimumda mı, yoksa eyer noktasında mı olduğunuzu söyler. Hessian Matrisi eğitimiz, mekaniği daha derine indirir ve bunun yüksek boyutlardaki eğrilikle nasıl bağlandığını gösterir.
Optimizasyon ve Makine Öğreniminde Minimum ve Maksimum
Makine öğrenimiyle hiç çalıştıysanız, zaten minimum problemleri çözüyorsunuz demektir. Bir modeli eğitmek, bir kayıp fonksiyonunu minimize etmek demektir ve bir kayıp fonksiyonu da minimum ve maksimumları olan başka bir fonksiyondur.
Gradyan inişi burada temel yöntemdir. Kayıp fonksiyonunun mevcut parametre değerlerindeki türevini (ya da çok boyutta gradyanını) hesaplar, ardından kaybı azaltan yöne doğru bir adım atar. Kayıp yüzeyinde aşağı doğru yürüyerek bir minimum aramak. Makine Öğreniminde Gradyan İnişi eğitimiz tüm algoritmayı kapsar.
Yerel-küresel ayrımının gerçek bir mühendislik problemine dönüştüğü yer burasıdır. Konveks olmayan kayıp fonksiyonlarında (çoğu sinir ağında olduğu gibi) gradyan inişi küresel minimumu bulmak yerine yerel minimumlarda takılabilir. Öğrenme oranı programları, momentum ve stokastik gradyan inişi gibi teknikler, algoritmanın sığ yerel minimumlardan kaçmasına yardımcı olur; ancak konveks olmayan problemlerde küresel minimumu garanti altına almak hâlâ çözülememiş bir zorluktur. Maliyet Fonksiyonları eğitimiz, bu amaç fonksiyonlarının nasıl kurulduğunu ve şekillerinin neden önemli olduğunu açıklar.
Minimum ve Maksimum Bulurken Yaygın Hatalar
Her kritik noktanın bir aşırı değer olduğunu varsaymak
Her kritik nokta bir minimum veya maksimum vermez. f(x) = x³ fonksiyonunda x = 0 gibi eğrilik değişim noktalarında f'(x) = 0'dır ama yön değişimi yoktur. Her zaman bir türev testiyle doğrulayın.
Yerel ve küresel aşırı değerleri karıştırmak
Yerel minimum yalnızca bir komşuluktaki en düşük noktadır. Küresel minimum bambaşka bir yerde ya da bir uç noktada olabilir. Bir yerel aşırı değer bulduktan sonra durmayın.
Uç noktaları unutmak
Kapalı bir aralıkta, mutlak aşırı değerler sınırda ortaya çıkabilir. Örneğimizde mutlak maksimum x = 4'teydi, kritik noktalarda değil. Uç noktaları atlamak, optimizasyon problemlerinde en yaygın hatalardan biridir ve iddia ederim ki kavramsal yanlış anlamalardan daha fazla kayıp sınav puanına neden olur.
İkinci türevin sıfır olmasını aşırı değer yokluğu sanmak
f''(c) = 0 olduğunda ikinci türev testi kararsızdır. Bu, noktanın bir aşırı değer olmadığı anlamına gelmez. x = 0'da f(x) = x⁴'ü düşünün: f''(0) = 0'dır, ama x = 0 açıkça bir minimumdur. İkinci türev testi başarısız olduğunda birinci türev testini kullanın.
Aşırı değer noktasını değeriyle karıştırmak
Aşırı değer değeri f(c)'dir, c'nin kendisi değil. "Minimum x = 2'dir" demek yerine "minimum değer f(2) = 0'dır" demeniz gerekir; aksi halde girdiyi çıktıyla karıştırırsınız. Raporlar ve sınav cevapları yalnızca konumu değil, fonksiyon değerini ister.
Sonuç
Bu konunun, "türevin sıfıra eşit olduğu yeri bul"da duran bir anlatımı vardır. Birçok giriş dersi tam olarak bunu yapar ve öğrencileri pratikte gerçekten önemli olan kısma hazırlıksız bırakır: bulduğunuz şeyin yerel bir minimum mu yoksa küresel mi olduğunu bilmek ve yapmak istediğiniz şeye bağlı olarak bunların çok farklı şeyler olduğunu anlamak.
Buradaki analiz kısadır. Kritik noktalar, türev testleri, uç nokta kontrolleri. Daha uzun süren, bunun altındaki geometrinin içselleştirilmesidir: neden içbükeyliğin bir minimumun şeklini belirlediği, neden uç noktaların kritik noktalardan daha baskın olabildiği, neden bir sinir ağında gradyan inişinin gerçekten yüzlerce yerel minimuma sahip olabilecek bir yüzeyde minimum aradığı.
Uygulama için, Python ile Optimizasyona Giriş kursumuz bu problemleri SciPy ve SymPy kullanarak hesaplamalı olarak ele alır. Analiz ile kod arasındaki bağlantının somutlaştığı yer burasıdır.
Vinod Chugani kariyerine Tokyo'da JPMorgan'ın en genç Hedge Fund Sales Desk Lideri olarak başladı ve daha sonra Lehman Brothers'ta bireysel satış rekoru kırdı, ardından 30 ülkede faaliyet gösteren bir elektronik dağıtım işi kurdu ve veriye yönelmeden önce geliri SG$100 milyonun üzerine taşıdı. Duke Ekonomimezunu ve NYC Data Science Academy alum, Maven'de Hugo Bowne-Anderson'ın Building AI Applications kursu için 100+ başvuru arasından seçilen üç bursiyerden biriydi. Bugün, istatistikten ajan temelli yapay zekâya uzanan konularda DataCamp, KDnuggets, Machine Learning Mastery ve Statology için yazıyor ve adında 1.000'i aşkın bire bir oturum bulunan NYC Data Science Academy'de veri profesyonellerine mentorluk yapıyor.
SSS
Minimum ve maksimum arasındaki fark nedir?
Minimum, bir fonksiyonun belirli bir noktada ulaştığı en düşük değerdir; maksimum ise en yüksek değerdir. Birlikte aşırı değerler olarak adlandırılırlar. Bir fonksiyonun birden çok yerel minimumu ve maksimumu olabilir; ancak küresel (mutlak) minimum tüm tanım kümesi boyunca tek en düşük değerdir ve küresel maksimum tek en yüksek değerdir.
Bir fonksiyonun minimum ve maksimumları nasıl bulunur?
Birinci türevi alın, sıfıra eşitleyin ve x için çözerek kritik noktaları bulun. Ardından birinci türev testini (işaret değişimlerini kontrol edin) veya ikinci türev testini (her kritik noktada f''(x)'i değerlendirin) kullanarak her birini minimum, maksimum veya hiçbiri olarak sınıflandırın. Kapalı bir aralıkta uç noktaları da değerlendirin.
Yerel ve küresel aşırı değerler arasındaki fark nedir?
Yerel bir aşırı değer, bir noktanın çevresindeki küçük bir komşuluktaki en yüksek ya da en düşük değerdir. Küresel (mutlak) bir aşırı değer ise fonksiyonun tüm tanım kümesi boyunca en yüksek ya da en düşük değerdir. Her küresel aşırı değer aynı zamanda yerel bir aşırı değerdir; fakat çoğu yerel aşırı değer küresel değildir.
Bir fonksiyonun birden fazla küresel minimumu olabilir mi?
Bir fonksiyon yalnızca bir küresel minimum değerine sahip olabilir, ancak bu değer birden çok noktada gerçekleşebilir. Örneğin, f(x) = cos(x) fonksiyonunun küresel minimum değeri −1'dir; x = π, x = 3π, x = −π vb. noktalarında gerçekleşir. Minimum değer tektir; onun gerçekleştiği konumlar tek olmak zorunda değildir.
Kritik nokta nedir ve her zaman bir aşırı değer midir?
Kritik nokta, f'(x) = 0 olduğu ya da f'(x)'in tanımsız olduğu yerdir. Aşırı değer adayıdır, ancak garanti değildir. Örneğin, f(x) = x³ fonksiyonunda x = 0 bir kritik noktadır (çünkü f'(0) = 0), ama bu bir aşırı değer değil, eğrilik değişim noktasıdır; fonksiyon orada yön değiştirmez.
İkinci türev testi ne zaman başarısız olur?
İkinci türev testi, kritik bir c noktasında f''(c) = 0 olduğunda kararsızdır. Bu durumda birinci türev testini kullanmanız veya daha yüksek mertebeden türevleri analiz etmeniz gerekir. Klasik bir örnek f(x) = x⁴'tür; hem f'(0) = 0 hem de f''(0) = 0'dır, ancak x = 0 bir minimumdur.
Mutlak aşırı değerleri bulurken uç noktalar neden önemlidir?
Kapalı bir [a, b] aralığında, Aşırı Değer Teoremi sürekli bir fonksiyonun hem mutlak maksimuma hem de minimuma sahip olduğunu garanti eder. Bunlar kritik noktalarda ya da uç noktalarda ortaya çıkabilir. Uç noktaları göz ardı etmek, gerçek mutlak aşırı değeri kaçırmanıza neden olabilir; bu, bu tür problemlerde en yaygın hatalardan biridir.
Minimum ve maksimum makine öğreniminde nasıl kullanılır?
Bir makine öğrenimi modelini eğitmek bir optimizasyon problemidir: bir kayıp fonksiyonunu minimize edersiniz (ya da eşdeğer olarak bir performans metriğini maksimize edersiniz). Gradyan inişi ve türevleri, kayıp fonksiyonunun negatif gradyanını izleyerek minimumları iteratif olarak bulur. Yerel ve küresel minimumlar sorunu doğrudan ilgilidir—konveks olmayan kayıp fonksiyonları, optimizasyon algoritmalarını optimal olmayan yerel minimumlarda tuzağa düşürebilir.
