Yapay Genel Zekâ (AGI): Tahminler, Riskler, Zorluklar

Yapay Genel Zekâ Nedir?

Genel olarak AGI, bir insanın yapabildiği her entelektüel görevi yerine getirebilen gelişmiş bir yapay zekâ sistemini ifade eder. Belirli görevlere (görüntü tanıma veya dil işleme gibi) yönelik tasarlanan dar yapay zekâ modellerinden farklı olarak AGI, birden çok alanda insan benzeri akıl yürütme, öğrenme ve uyum yeteneğine sahip olacaktır. Bu, örneğin bir AGI sisteminin şunları yapabileceği anlamına gelir:

• Farklı görevlerde bir insan gibi anlamak ve akıl yürütmek.
• Devasa veri setleri ve yeniden eğitim gerekmeksizin deneyimden öğrenmek.
• Açıkça programlanmamış olsa bile karmaşık, çok alanlı problemleri çözmek.

AGI, bakış açısına ve bağlama bağlı olarak birden fazla tanıma sahiptir. Tüm tanımlar onun insan benzeri bilişsel yeteneklere sahip olması gerektiğinde birleşirken, vurguları farklılaşır. İşte bazı temel odaklar:

• İşlevsel AGI: yetenek odaklı
• Bilişsel AGI: insan benzeri zekâ
• Kendiliğinden öğrenen AGI: otonom iyileşme
• Felsefî AGI: öz-farkındalık

İşlevsel AGI

AGI’nin işlevsel tanımı, farklı alanlarda herhangi bir entelektüel görevi yerine getirme yeteneğine odaklanır. İnsan düşünce süreçlerini taklit etmesi gerekmez; bilgiyi genelleştirebilmeli, yeni problemlere uyum sağlayabilmeli ve kapsamlı yeniden eğitim olmadan görevleri çözebilmelidir.

Odak, her görev için ayrı modeller gerektirmeden tıbbî teşhis, programlama ve müzik besteleme gibi disiplinler arasında geçiş yapabilen bir yapay zekâ sistemi üzerinedir.

Bilişsel AGI

Bilişsel AGI ise sağduyu, soyut düşünme ve bağlamsal kavrayış dâhil olmak üzere insan benzeri akıl yürütmeyi yineleyebilmelidir. Bu tür bir AGI yalnızca görevleri tamamlamakla kalmayacak, aynı zamanda onları tıpkı bir insan gibi mantık, yaratıcılık ve hatta duygusal zekâ kullanarak anlayacaktır.

Bu tanıma dayalı bir yapay zekâ, anlamlı sohbetler edebilir, mizahı yorumlayabilir ve insan beyninin doğal biçimde yaptığı gibi sorunları çözebilir.

Kendiliğinden öğrenen AGI

Kendiliğinden öğrenen AGI, insan müdahalesi olmadan kendini sürekli geliştiren bir sistemi ifade eder. Önceden tanımlı veri setlerine dayanmak yerine deney yapar, yeni bilgiler keşfeder ve zamanla daha verimli hâle gelmek için kendi algoritmalarını iyileştirir. Bu tür bir AGI, bağımsız olarak bilimsel araştırmalar yürütebilir, yeni teoriler üretebilir veya yeteneklerini artırmak için kendi mimarisini dahi değiştirebilir.

Felsefî AGI

Son olarak AGI’nin felsefî tanımı zekânın ötesine geçerek yapay zekânın öz-farkındalık, duygular ve hatta muhtemel bilinç sahibi olmasına odaklanır. Bu bakış açısı, gerçek AGI’nin varoluşunu sorgulayabilmesi, kişisel hedefler belirleyebilmesi ve öznel düşünce ya da duygular yaşayabilmesi gerektiğini öne sürer.

Eğer başarılırsa, böyle bir yapay zekâ kendi ahlâk pusulasını geliştirebilir, merak ifade edebilir ve hatta insanlar gibi varoluşsal sorularla boğuşabilir.

AGI Yelpazesi: AGI ve (Dar) Yapay Zekâ

Çeşitli tanımlarla çerçeveyi oluşturduğumuza göre, yapay zekâ sistemlerinin gerçek AGI’ye doğru ilerlerken ulaşabileceği farklı zekâ düzeylerine bakalım. AGI yelpazesi, yapay zekâyı yetenekleri, uyarlanabilirliği ve özerkliği temelinde kategorize etmeye yardımcı olur. Genellikle şu aşamaları içerir:

• ANI: Yapay Dar Zekâ
• AGI: Yapay Genel Zekâ
• ASI: Yapay Üstün Zekâ

Dar Yapay Zekâ

Dar yapay zekâ, belirli görevleri yüksek verimle yerine getirmek üzere tasarlanmış, ancak eğitim verisinin ötesine genelleme yapamayan yapay zekâyı ifade eder. Bu sistemler dil işleme, görüntü tanıma veya protein katlanması gibi tek bir alanda mükemmeldir; ancak yeniden eğitim olmadan tamamen yeni görevlere uyum sağlayamazlar.

Bu aşama, güçlü olmakla birlikte önceden tanımlı yeteneklerle sınırlı olan GPT-4o veya Grok 4, sürücüsüz araç yazılımı ve öneri algoritmaları gibi güncel yapay zekâ modellerini de kapsar.

Dar Yapay Zekâ ile AGI arasındaki fark, eğitimin ötesine genelleme yapamamasıdır. Yapay zekâ sistemlerinin daha çok işlevli ve uyarlanabilir hâle geldiği geçiş evresi, sıklıkla Geniş Yapay Zekâ veya Ön-AGI olarak adlandırılır. Böyle bir sistem, tam yeniden eğitim gerektirmeden farklı türdeki görevleri ele alabilir; ancak gerçek özerklik ve akıl yürütmeden yoksundur, çünkü kendi kendine yönlendirilen problem çözme yerine önceden tanımlanmış öğrenme yapılarını izler.

AGI

AGI ise, herhangi bir entelektüel görevde bir insan gibi düşünebilen, öğrenebilen ve akıl yürütebilen varsayımsal bir yapay zekâdır. Dar Yapay Zekâdan farklı olarak bilgiyi genelleştirebilir, kendini bağımsız olarak geliştirebilir ve kendi hedeflerini özerk biçimde kovalar.

Başarıldığı takdirde AGI, bir insanın yapabildiği her bilişsel fonksiyonu yerine getirerek sektörleri dönüştürebilir ve etik ile felsefî sınırları zorlayabilir.

Yapay Üstün Zekâ

Son olarak Yapay Üstün Zekâ (ASI), tüm bilişsel ve problem çözme yeteneklerinde insan zekâsını aşan bir yapay zekâ düzeyini ifade eder. Bilim kurgu filmlerinden aşina olduğumuz bu tür yapay zekâ, AGI’den farklı olarak kendini hızla geliştirebilir, insan kavrayışını aşan yenilikler üretebilir ve potansiyel olarak tüm sektörleri ve toplumları yeniden şekillendirebilir. Şu aşamada yalnızca bir gelecek vizyonu olsa da beraberinde getirdiği varoluşsal riskler şimdiden tartışmaya değerdir.

Şu an neredeyiz

2025 itibarıyla hâlâ sağlam biçimde Dar Yapay Zekâ aşamasındayız. OpenAI’ın o3’ü veya DeepSeek’in R1’i gibi akıl yürütme modelleri ve Manus AI veya ChatGPT Agent gibi aracısal çerçeveler gibi gelişmelerle Dar Yapay Zekâdan Geniş Yapay Zekâya doğru ilerliyoruz. Yine de AGI, kendiliğinden öğrenme, genelleme ve akıl yürütmede teknik atılımlar gerektiren, henüz ulaşılamamış bir hedef olarak kalmaktadır.

AGI’ye Ulaşmada Güçlükler ve Engeller

Artık nerede durduğumuzu ve AGI’nin nasıl göründüğünü bildiğimize göre, A’dan B’ye nasıl gideriz? Şu anda karşılanması gereken pek çok ekonomik, teknik ve etik zorluk var.

Ekonomik zorluklar

AGI’nin hayata geçirilmesi yönünde yapay zekâyı ilerletme konusunda ilgi eksikliği kesinlikle yok. Küresel aktörler teknolojik liderlik, pazar hâkimiyeti ve jeopolitik etki için kıyasıya yarışıyor. Özellikle Çin ve Amerika Birleşik Devletleri, pek çok kişinin 1960’lardaki ABD-Sovyetler Birliği Ay Yarışı ile kıyasladığı bir rekabet içinde.

Bununla birlikte, insan benzeri akıl yürütmeye ulaşmak için gereken işlem gücü muazzamdır. Veri merkezlerinin ölçeklenmesi ve artan model karmaşıklığının, ilave devasa bir enerji talebine yol açması bekleniyor. Yapay zekâ modellerine ev sahipliği yapan veri merkezleri hâlihazırda küresel enerji kullanımının yaklaşık %1 ila %1,5’inden sorumlu—bu oran zaman ve gelişmeler ilerledikçe kesinlikle artacaktır.

Son dönemde yapay zekâ araştırmalarına büyük yatırımlar akmasına rağmen, hesaplama maliyetleri ve ölçeklenebilirlik, AGI geliştirme sürecinde ciddi sorunlar olmaya devam ediyor. Bu zorlukların çözümü verimlilik artışlarında ve alternatif enerji kaynaklarının geliştirilmesinde yatabilir.

Teknik zorluklar

Teknik tarafta, örtük bilginin ve sezginin tanımlanması ve temsili ile bilginin uzun vadeli korunumu gibi zorluklar bulunur.

Nedensellik veya sosyal normlar gibi örtük bilgi, çoğu zaman dile getirilmese de bağlamı anlamak için önemlidir. İnsanlar anlamı deneyimden, kültürel normlardan ve eksik bilgilerden çıkarırken bu varsayımlar yapay zekâ sistemleri için gizlidir. Bu nedenle, açıkça ifade edilmemiş bilgiyi kodlamak ve geri çağırmakta zorlanırlar; oysa insanlar bunu sağduyu olarak karar alma süreçlerine doğal biçimde katarlar.

Benzer şekilde sezgi, insanın karar alma süreçlerinde kilit rol oynar ancak yapay zekâ sistemlerinde biçimselleştirilmesi güçtür. Çoğunlukla bilinçdışı örüntü tanıma, soyut muhakeme ve deneyime dayalı içgörülere dayanır; bunların hiçbiri kolayca açık kurallara veya veri setlerine indirgenemez. Derin öğrenme modelleri belirli görevlerde sezgisel yargıları yaklaşık olarak taklit edebilse de, insanların sezgiyi zamanla geliştirmesine olanak tanıyan öz-düşünümsel, uyarlanabilir öğrenme sürecinden yoksundurlar.

Bu da başka bir soruna, yani yapay zekâ modellerinde insan benzeri uzun vadeli bilgi tutumunun eksikliğine yol açar. Geçmiş deneyimlerin üzerine inşa edip anlayışını rafine eden insanlardan farklı olarak, yapay zekâ modelleri periyodik yeniden eğitim olmadan bilgiyi tutmak ve güncellemekte zorlanır. Mevcut yapay zekâ sistemleri sıklıkla, yeni öğrenilen bilgilerin önceki bilgiyi geçersiz kılabildiği veya bozabildiği felaket unutma sorunu yaşar; bu da istikrarlı ve evrilen bir bilgi tabanını sürdürmeyi zorlaştırır.

Etik zorluklar

AGI’nin insan değerleri ve hedefleriyle uyumlu olmasını sağlamak, birbirine bağlı çeşitli teknik, etik ve toplumsal hususlar nedeniyle geliştirmedeki en acil zorluklardan biridir. Teknik sınırlamalar, insan değerlerinin doğasındaki karmaşıklık ve söz konusu yüksek risklerin etkileşimi, bunu özellikle zor kılar.

Her şeyden önce insan değerleri doğası gereği karmaşık ve muğlaktır. Neyin doğru, uygun veya kötü olduğu sorusu kültürler, toplumlar ve bağlamlar arasında önemli ölçüde değişir. Bu çok yönlü yapı, çelişkiler veya tercih dengeleriyle (örneğin özgürlük ile güvenlik arasında denge kurma) birleştiğinde ahlâkî belirsizliğe yol açar ve dolayısıyla değerleri AGI için net, işletilebilir hedeflere çevirmeyi son derece güçleştirir.

AGI’nin üzerinde çalışacağı iyi tanımlanmış bir ahlâkî çerçevenin var olduğunu varsaysak bile, dış ve iç hizalanmaya ilişkin teknik engeller sürer.

İnsan değerlerini, bir AGI’nin optimize edebileceği kesin, matematiksel bir amaç fonksiyonuna çevirmek zordur. Bu fonksiyon, optimizasyon baskısına dayanıklı olmalı; yani AGI onu agresif biçimde optimize ettiğinde istenmeyen davranışları teşvik etmemelidir—filozof Nick Bostrom’un 2003’te tarif ettiği bir senaryo. Ayrıca AGI, amaçlarından sapmadan yeni bilgilere göre davranışını uyarlayabilmelidir.

AGI sistemleri karmaşıktır ve anlaşılması veya öngörülmesi güç iç süreçler geliştirebilir. Örneğin, amaçlanandan farklı ortaya çıkan hedefler geliştirebilir. Bu karmaşıklık, AGI’nin iç hedeflerinin belirlenen hedeflerle uyumlu olmasını sağlamayı zorlaştırır. Bu iç süreçleri analiz etmek ve kontrol etmek için yöntemler geliştirmek, iç hizalanmayı sağlamak açısından esastır.

Hizalanmamış bir AGI, insan çıkarlarıyla çelişen biçimde hareket edebilir; riskler küçük verimsizliklerden insanlık için varoluşsal tehditlere kadar uzanır. Örneğin bir AGI, insan özerkliğini veya güvenliğini baltalayan güç arayışı ya da kaynak edinimi gibi araçsal hedefler peşinde koşabilir. Dahası, AGI sistemleri kötü niyetli aktörlerce kullanılabilir veya amaçlanan hizalanmaya aykırı hareket edecek biçimde manipüle edilebilir.

Küresel aktörler arasında AGI’yi hızla geliştirme yönündeki rekabet baskıları özellikle varken, geliştirme sürecinde yeterli güvenlik önlemleri almak, yıkıcı sonuçlardan kaçınmak için elzemdir. Riskleri azaltırken AGI’nin potansiyel faydalarını en üst düzeye çıkarmak; teknik alanlar, etik ve politika yapımı arasında disiplinler arası işbirliği gerektirir.

AGI’ye Ne Zaman Ulaşacağız?

Uzmanlar, önceki bölümde tanımlanan zorluklar ve teknik darboğazlar nedeniyle AGI’nin hâlâ yıllar—hatta onlarca yıl—uzakta olduğuna inanıyor. Derin öğrenme, pekiştirmeli öğrenme ve yapay zekâ hizalamasındaki ilerlemeler sürerken, gerçek AGI mevcut bir gerçeklikten ziyade teorik bir hedef olmaya devam ediyor. Nörosimbolik yapay zekâ, kendiliğinden öğrenen mimariler ve daha verimli hesaplama gibi birden çok alanda atılımlar, AGI geliştirmesi için kritik önemde olacaktır.

AGI’nin ne zaman başarılacağına dair net bir zaman vermek imkânsız olsa da, yapay zekâ alanındaki öncülerden çeşitli öngörüler vardır.

İyimser seslerden biri, AGI’ye önümüzdeki birkaç yıl içinde (2028’e kadar) ulaşılabileceğine inanan OpenAI CEO’su Sam Altman. Ona göre yapay zekâ teknolojisindeki gelişim hızla ilerliyor ve altyapısal zorluklar, teknik sorunlara kıyasla ihmal edilebilir düzeyde.

Google Brain’in kurucusu ve önde gelen yapay zekâ araştırmacısı Andrew Ng ise konuya daha şüpheci yaklaşıyor. Onun tahminine göre AGI hâlâ “birçok on yıl uzakta, belki daha da fazla”. Ng, AGI’nin yalnızca teknik bir sorun olmadığını; insan zekâsını yinelemek için önemli bilimsel atılımlar da gerektirdiğini vurguluyor.

Daha da karamsar görüşler de var. New York Üniversitesi’nde sinirbilim profesörü olan Gary Marcus, AGI geliştirme zaman çizelgesine ilişkin iddialardan şüphe duyuyor. Ona göre büyük ölçekli dil modellerindeki mevcut ilerlemeler AGI’ye işaret etmiyor. Marcus, temel teknik sorunların sürdüğünü ve eğitim ile hesaplama kapasitelerinin ölçeklendirilmesinin sınırlarına yaklaşıldığını vurguluyor.

Görüldüğü gibi, öngörülen zamanlar ve gerçekleşme olasılıkları, altta yatan terim yorumuna önemli ölçüde bağlıdır. Örneğin Altman, AGI’yi “ekonomik olarak en değerli işlerin çoğunda insanları geride bırakan, yüksek düzeyde otonom sistem” olarak anlayan işlevsel ve özerklik merkezli bir tanıma atıf yapıyor. Öte yandan Ng ve Marcus, şu an için teknik olarak en zor alanı temsil eden, insan benzeri akıl yürütmenin yinelenmesini içeren bir tanım kullanıyor.

AGI’nin Riskleri ve Etik Zorlukları

AGI, geniş bir yelpazedeki insan görevlerini otomatikleştirme kabiliyeti nedeniyle önemli ekonomik sarsıntılara yol açma potansiyeline sahiptir ve çeşitli sektörlerde insan emeğinin yerini alabilir.

Kitlesel işsizlik

Zararlı sonuçlardan biri, pek çok işteki (özellikle beyaz yakalı) insan çalışanların ikame edilmesiyle kitlesel işsizlik olabilir. Uygun şekilde yönetilmezse, AGI’nin yol açtığı hızlı ekonomik değişimler toplumsal huzursuzluklara ve siyasal istikrarsızlığa neden olabilir.

Bu sarsıntıları hafifletmek için politika yapıcıların, AGI’nin faydalarının adil biçimde dağıtılmasını sağlayan, çalışanları iş kaybına karşı koruyan ve toplumsal-siyasal istikrarı teşvik eden stratejiler geliştirmesi gerekecektir. Bu; eğitim ve yeniden beceri kazandırma programlarına yatırım yapmayı, UEV gibi politikaları uygulamayı ve küresel etkileri ele almak için uluslararası işbirliğini teşvik etmeyi içerebilir.

Önyargı

Önyargı ve adalet, AGI ile ilişkili diğer önemli risklerdir; çünkü mevcut toplumsal eşitsizlikleri sürdürme ve büyütme potansiyeli vardır. Önyargılı algoritmalar, kalıp yargıları ve ayrımcı uygulamaları pekiştirerek veya görünüşte tarafsız verilerdeki örüntüler üzerinden yeni ayrımcılık biçimleri üreterek, ırk veya cinsiyet azınlıkları gibi belirli grupları sistematik olarak dezavantajlı konuma itebilir. Örneğin, posta kodlarını ırkın vekili olarak kullanmak önyargılı kararlara yol açabilir.

Grup adaleti metrikleri uygulandığında bile, AGI sistemleri daha büyük bir grubun alt gruplarına karşı ayrımcılık yapabilir. Buna adalet çevre çizimi (fairness gerrymandering) denir; bir grubun içindeki bazı bireyler kötü muamele görürken, diğerleri genel adalet metriklerini korumak için bunu telafi eder.

Varoluşsal riskler

Son olarak AGI, esasen kontrol edilemez hâle gelme ya da insan değerleriyle hizasız kalma potansiyeliyle ilgili çeşitli varoluşsal riskler taşır. AGI, insan zekâsını aşarak, insanlık için zararlı hedefler peşinde koşabilecek bir üstün zekâya dönüşebilir; bu da insan soyunun tükenmesine veya medeniyetin kalıcı gerilemesine yol açabilir.

Popüler bilim kurgu eserlerinden de bildiğimiz bazı ürkütücü senaryolar arasında, insan hayatı yerine kaynak edinimini önceleyen, totaliter bir yönetim kuran veya geliştirilmiş patojenlerin oluşturulmasını kolaylaştıran bir AGI yer alır.

Bu riskleri azaltmak için araştırmacılar ve politika yapıcılar kontrol ve hizalama stratejileri geliştirmeye odaklanıyor. Bu, AGI’nin özerkliğini sınırlayan mimariler tasarlamak veya kaçışı önlemek için “kutulanmış” ortamlar oluşturmak gibi teknikler kullanılarak güvenlik önlemleri yaratmayı içerir.

AGI kendini geliştirirken insan değerleriyle uyumlu kalmasını sağlamak için, hizalama ve merkeziyetsiz AGI geliştirmesi üzerine araştırmalar önceliklendirilerek tekelleşme önlenmeli ve güvenlik teşvik edilmelidir.

Sonuç

AGI uzun vadeli bir hedef olarak kalsa da, yapay zekâ araştırmalarındaki devam eden ilerlemeler makinelerin neleri başarabileceğinin sınırlarını zorlamayı sürdürüyor. AGI’ye giden yol; akıl yürütme, uyarlanabilirlik ve insan değerleriyle hizalanma konularında atılımlar gerektiren teknik, ekonomik ve etik zorluklarla dolu.

AGI’nin önümüzdeki on yıllar içinde gerçeğe dönüşüp dönüşmeyeceği ya da kaçınılmaz bir kavram olarak kalıp kalmayacağı belirsiz olsa da, toplum, endüstri ve insanlık üzerindeki potansiyel etkisi onu çağımızın en önemli teknolojik uğraşlarından biri yapmaktadır.