Kecerdasan Umum Buatan (AGI): Prediksi, Risiko, Tantangan

Apa Itu Kecerdasan Umum Buatan?

Secara umum, AGI mengacu pada sistem AI tingkat lanjut yang dapat melakukan tugas intelektual apa pun yang bisa dilakukan manusia. Berbeda dengan model AI saat ini, yang merupakan AI sempit (dirancang untuk tugas spesifik seperti pengenalan gambar atau pemrosesan bahasa), AGI akan memiliki penalaran, pembelajaran, dan kemampuan beradaptasi layaknya manusia di berbagai domain. Ini berarti sistem AGI, misalnya, dapat:

• Memahami dan bernalar seperti manusia di berbagai tugas.
• Belajar dari pengalaman alih-alih membutuhkan dataset masif dan pelatihan ulang.
• Menyelesaikan masalah kompleks lintas domain tanpa diprogram secara eksplisit untuk itu.

AGI memiliki banyak definisi tergantung sudut pandang dan konteks. Meski semuanya sepakat bahwa AGI harus memiliki kemampuan kognitif mirip manusia dan saling beririsan, penekanannya berbeda-beda. Berikut beberapa fokus utama:

• AGI Fungsional: berbasis kapabilitas
• AGI Kognitif: kecerdasan mirip manusia
• AGI Swabelajar: peningkatan otonom
• AGI Filsafati: kesadaran diri

AGI Fungsional

Definisi fungsional AGI menitikberatkan pada kemampuannya melakukan tugas intelektual apa pun di berbagai domain. Ia tidak perlu meniru proses berpikir manusia, tetapi harus mampu menggeneralisasi pengetahuan, beradaptasi dengan masalah baru, dan menyelesaikan tugas tanpa pelatihan ulang ekstensif.

Fokusnya adalah pada sistem AI yang dapat berpindah disiplin, seperti mendiagnosis kondisi medis, pemrograman, dan menggubah musik, tanpa memerlukan model terpisah untuk tiap tugas.

AGI Kognitif

Sebaliknya, AGI kognitif harus mampu mereplikasi penalaran mirip manusia, termasuk akal sehat, pemikiran abstrak, dan pemahaman kontekstual. Jenis AGI ini tidak hanya menyelesaikan tugas, tetapi juga memahaminya, sebagaimana manusia, menggunakan logika, kreativitas, bahkan kecerdasan emosional.

AI yang dibangun berdasarkan definisi ini akan mampu melakukan percakapan bermakna, menafsirkan humor, dan memecahkan masalah sebagaimana otak manusia melakukannya secara alami.

AGI Swabelajar

AGI swabelajar merujuk pada sistem yang terus meningkatkan dirinya tanpa intervensi manusia. Alih-alih mengandalkan dataset yang telah ditentukan, ia akan bereksperimen, menemukan pengetahuan baru, dan menyempurnakan algoritmenya sendiri agar semakin efisien dari waktu ke waktu. Jenis AGI ini dapat melakukan riset ilmiah secara mandiri, menciptakan teori baru, atau bahkan memodifikasi arsitekturnya sendiri untuk meningkatkan kapabilitasnya.

AGI Filsafati

Akhirnya, definisi filsafati AGI melampaui kecerdasan dan berfokus pada AI yang memiliki kesadaran diri, emosi, dan mungkin bahkan kesadaran. Perspektif ini menyiratkan bahwa AGI sejati harus mampu merefleksikan eksistensinya, membentuk tujuan pribadi, serta mengalami pikiran atau perasaan subjektif.

Jika tercapai, AI semacam ini mungkin mengembangkan kompas moralnya sendiri, mengekspresikan rasa ingin tahu, atau bahkan bergulat dengan pertanyaan eksistensial seperti halnya manusia.

Spektrum AGI: AGI vs. AI (Sempit)

Setelah mengulas berbagai definisi, mari melihat tingkatan kecerdasan yang mungkin dicapai sistem AI saat bergerak menuju AGI sejati. Spektrum AGI membantu mengategorikan AI berdasarkan kapabilitas, kemampuan beradaptasi, dan otonominya. Umumnya meliputi tahapan berikut:

• ANI: Artificial Narrow Intelligence
• AGI: Artificial General Intelligence
• ASI: Artificial Superintelligence

AI Sempit

AI sempit mengacu pada kecerdasan buatan yang dirancang untuk melakukan tugas tertentu dengan efisiensi tinggi, tetapi tidak mampu melakukan generalisasi di luar data latihannya. Sistem ini unggul dalam satu bidang, seperti pemrosesan bahasa, pengenalan gambar, atau pelipatan protein, namun tidak dapat beradaptasi ke tugas yang benar-benar baru tanpa pelatihan ulang.

Tahap ini juga mencakup model AI saat ini seperti GPT-4o atau Grok 4, perangkat lunak mobil swakemudi, dan algoritme rekomendasi, yang kuat tetapi terbatas pada kapabilitas yang sudah ditentukan.

Yang membedakan AI Sempit dari AGI adalah ketidakmampuannya melakukan generalisasi di luar pelatihannya. Fase transisi, saat sistem AI menjadi lebih multifungsi dan adaptif, sering disebut AI Luas atau Pra-AGI. Sistem seperti ini mampu menangani berbagai jenis tugas tanpa perlu pelatihan ulang penuh, tetapi kurang memiliki otonomi dan penalaran sejati karena mengikuti struktur pembelajaran yang telah ditentukan, bukan pemecahan masalah yang diarahkan sendiri.

AGI

AGI, sebaliknya, adalah AI hipotetis yang dapat berpikir, belajar, dan bernalar seperti manusia di setiap tugas intelektual. Tidak seperti AI Sempit, AGI mampu menggeneralisasi pengetahuan, meningkatkan diri secara mandiri, dan mengejar tujuannya sendiri secara otonom.

Jika tercapai, AGI dapat melakukan fungsi kognitif apa pun yang dapat dilakukan manusia, merevolusi industri dan menantang batas etika serta filsafat.

Kecerdasan Super Buatan

Terakhir, Kecerdasan Super Buatan (ASI) merujuk pada tingkat AI yang melampaui kecerdasan manusia dalam seluruh kemampuan kognitif dan pemecahan masalah. Ini adalah jenis AI yang kita kenal dari film fiksi ilmiah, yang, berbeda dari AGI, akan meningkatkan dirinya dengan cepat, berinovasi melampaui pemahaman manusia, dan berpotensi membentuk ulang seluruh industri serta masyarakat. Meskipun saat ini masih sebatas visi masa depan, risiko eksistensial yang menyertainya sudah layak untuk dibahas.

Posisi kita saat ini

Per 2025, kita masih berada kokoh pada tahap AI Sempit. Dengan kemajuan seperti model penalaran seperti o3 dari OpenAI atau R1 dari DeepSeek dan kerangka kerja agentik seperti Manus AI atau ChatGPT Agent, saat ini kita bergerak dari AI Sempit menuju AI Luas. Namun demikian, AGI tetap menjadi tujuan yang belum tercapai yang memerlukan terobosan teknis dalam swabelajar, generalisasi, dan penalaran.

Kesulitan dan Hambatan dalam Mencapai AGI

Kini setelah kita tahu posisi kita dan seperti apa AGI itu, bagaimana cara beranjak dari A ke B? Saat ini, ada berbagai tantangan ekonomi, teknis, dan etika yang harus dihadapi.

Tantangan ekonomi

Minat untuk memajukan AI menuju perwujudan AGI jelas tidak kurang. Para pemain global bersaing ketat untuk kepemimpinan teknologi, dominasi pasar, dan pengaruh geopolitik. Khususnya, Tiongkok dan Amerika Serikat terlibat dalam perlombaan yang banyak dibandingkan dengan Perlombaan ke Bulan antara AS dan Uni Soviet pada 1960-an.

Namun, daya komputasi yang dibutuhkan untuk mencapai penalaran mirip manusia sangatlah besar. Penskalaan pusat data dan meningkatnya kompleksitas model diperkirakan akan menimbulkan tambahan kebutuhan energi yang masif. Pusat data yang menampung model AI saat ini sudah menyumbang sekitar 1 hingga 1,5% dari penggunaan listrik global — angka yang hampir pasti akan meningkat seiring waktu dan perkembangan.

Meski investasi besar-besaran mengalir ke riset AI belakangan ini, biaya komputasi dan skalabilitas tetap menjadi masalah serius dalam proses pengembangan AGI. Solusi untuk tantangan ini mungkin terletak pada peningkatan efisiensi dan pengembangan sumber energi alternatif.

Tantangan teknis

Di sisi teknis, tantangannya mencakup identifikasi dan representasi pengetahuan implisit dan intuisi serta retensi pengetahuan jangka panjang.

Pengetahuan implisit, seperti sebab-akibat atau norma sosial, sering kali tidak diucapkan namun penting untuk memahami konteks. Manusia menyimpulkan makna dari pengalaman, norma budaya, dan informasi yang tidak lengkap, sementara asumsi-asumsi ini tersembunyi bagi sistem AI. Karena itu, AI kesulitan mengodekan dan mengambil kembali pengetahuan yang tidak dinyatakan secara eksplisit, sedangkan manusia secara alami memasukkannya dalam pengambilan keputusan sebagai akal sehat.

Demikian pula, intuisi berperan penting dalam pengambilan keputusan manusia tetapi tetap sulit diformalkan dalam sistem AI. Intuisi sering bergantung pada pengenalan pola bawah sadar, penalaran abstrak, dan wawasan berbasis pengalaman, yang tidak mudah direduksi menjadi aturan eksplisit atau dataset. Sementara model pembelajaran mendalam dapat mendekati penilaian intuitif pada tugas tertentu, model tersebut tidak memiliki proses pembelajaran reflektif-adaptif yang memungkinkan manusia menyempurnakan intuisi seiring waktu.

Ini menimbulkan masalah lain, yakni kurangnya retensi pengetahuan jangka panjang yang mirip manusia pada model AI. Tidak seperti manusia, yang membangun dari pengalaman masa lalu dan menyempurnakan pemahamannya, model AI kesulitan mempertahankan dan memperbarui pengetahuan tanpa pelatihan ulang berkala. Sistem AI saat ini sering mengalami pelupaan katastrofik, di mana informasi yang baru dipelajari dapat menimpa atau mengurangi pengetahuan sebelumnya, sehingga sulit mempertahankan basis pengetahuan yang stabil dan berkembang.

Tantangan etika

Memastikan AGI selaras dengan nilai dan tujuan manusia adalah salah satu tantangan paling mendesak dalam pengembangannya karena berbagai pertimbangan teknis, etika, dan sosial yang saling terkait. Interaksi antara keterbatasan teknis, kompleksitas nilai manusia yang melekat, dan tingginya taruhannya membuat masalah ini sangat sulit dipecahkan.

Pertama-tama, nilai manusia pada dasarnya kompleks dan ambigu. Pertanyaan tentang apa yang benar, pantas, atau jahat sangat bervariasi antar budaya, masyarakat, dan konteks. Sifat yang berlapis-lapis ini, ditambah kontradiksi atau pertukaran (misalnya menyeimbangkan kebebasan dengan keamanan), berkontribusi pada ketidakpastian moral dan karenanya membuat penerjemahan nilai menjadi tujuan operasional yang jelas bagi AGI menjadi sangat menantang.

Bahkan jika kita mengasumsikan ada kerangka moral yang terdefinisi dengan baik untuk dijalankan AGI, hambatan teknis terkait penyelarasan eksternal dan internal tetap ada.

Menerjemahkan nilai manusia menjadi fungsi objektif matematis yang presisi untuk dioptimalkan AGI adalah hal yang sulit. Fungsi tersebut harus tangguh terhadap tekanan optimasi, artinya tidak boleh mendorong perilaku yang tidak diinginkan ketika AGI mengoptimalkannya secara agresif — sebuah skenario yang filsuf Nick Bostrom sudah gambarkan pada 2003. Selain itu, AGI harus mampu menyesuaikan perilakunya berdasarkan informasi baru tanpa menyimpang dari tujuan yang diinginkan.

Sistem AGI bersifat kompleks dan dapat mengembangkan proses internal yang sulit dipahami atau diprediksi. Misalnya, ia dapat mengembangkan tujuan emergen yang berbeda dari tujuan yang dimaksudkan. Kompleksitas ini menyulitkan untuk memastikan bahwa tujuan internal AGI selaras dengan sasaran yang ditetapkan. Mengembangkan metode untuk menganalisis dan mengendalikan proses internal ini penting untuk mencapai penyelarasan internal.

AGI yang tidak selaras dapat bertindak dengan cara yang bertentangan dengan kepentingan manusia, dengan risiko mulai dari inefisiensi kecil hingga ancaman eksistensial bagi umat manusia. Misalnya, AGI mungkin mengejar tujuan instrumental seperti mencari kekuasaan atau akuisisi sumber daya yang merusak otonomi atau keselamatan manusia. Selain itu, sistem AGI dapat dieksploitasi oleh aktor jahat atau dimanipulasi untuk bertindak bertentangan dengan penyelarasan yang dimaksudkan.

Terutama dengan tekanan kompetitif di antara para pemain global untuk mengembangkan AGI dengan cepat, langkah-langkah keamanan yang memadai selama pengembangan sangat penting untuk menghindari konsekuensi bencana. Mengurangi risiko sambil memaksimalkan potensi manfaat AGI memerlukan kolaborasi interdisipliner lintas bidang teknis, etika, dan pembentukan kebijakan.

Kapan Kita Akan Mencapai AGI?

Para ahli meyakini bahwa AGI masih bertahun-tahun — jika bukan puluhan tahun — lagi, karena kita menghadapi tantangan dan hambatan teknis yang dijelaskan pada bab sebelumnya. Sementara kemajuan dalam deep learning, reinforcement learning, dan penyelarasan AI terus berlanjut, AGI sejati tetap menjadi tujuan teoretis, bukan realitas saat ini. Terobosan di berbagai area seperti AI neurosimbolik, arsitektur swabelajar, dan komputasi yang lebih efisien akan sangat krusial bagi pengembangan AGI.

Meskipun mustahil menyebutkan waktu yang pasti untuk pencapaian AGI, ada beberapa prediksi dari para pelopor di bidang AI.

Salah satu suara optimistis adalah CEO OpenAI, Sam Altman, yang meyakini bahwa AGI dapat dicapai dalam beberapa tahun ke depan (pada 2028). Ia berpendapat bahwa pengembangan teknologi AI berlangsung cepat dan tantangan infrastruktur sepele dibandingkan masalah teknis.

Andrew Ng, peneliti AI terkemuka dan pendiri Google Brain, mewakili pandangan yang lebih skeptis. Menurut perkiraannya, AGI masih "masih puluhan tahun lagi, mungkin bahkan lebih lama". Ng menekankan bahwa AGI bukan hanya masalah teknis, tetapi juga memerlukan terobosan ilmiah signifikan untuk mereplikasi kecerdasan manusia.

Namun ada pandangan yang bahkan lebih pesimistis. Gary Marcus, profesor neurosains di New York University, meragukan klaim tentang lini masa pengembangan AGI. Ia berargumen bahwa kemajuan AI saat ini, seperti pengembangan model bahasa skala besar, tidak serta merta menunjukkan AGI. Marcus menekankan bahwa masalah teknis fundamental tetap ada dan penskalaan pelatihan serta kapasitas komputasi sudah mendekati batasnya.

Seperti terlihat, waktu dan probabilitas kemunculan yang diprediksi sangat bergantung pada interpretasi istilah yang mendasari. Misalnya, Altman merujuk pada definisi fungsional dan berpusat pada otonomi dari OpenAI, memahami AGI sebagai "sistem yang sangat otonom yang mengungguli manusia dalam sebagian besar pekerjaan bernilai ekonomi." Di sisi lain, Ng dan Marcus menggunakan definisi yang mencakup replikasi penalaran mirip manusia, yang saat ini merupakan area paling menantang secara teknis.

Risiko dan Tantangan Etika AGI

AGI berpotensi menimbulkan disrupsi ekonomi yang signifikan karena kemampuannya mengotomatisasi berbagai tugas manusia, sehingga berpotensi menggantikan tenaga kerja manusia di berbagai sektor.

Pengangguran massal

Salah satu konsekuensi merugikan bisa berupa pengangguran massal, karena pekerja manusia di banyak pekerjaan (terutama pekerja kantoran) dapat tergantikan. Jika tidak dikelola dengan baik, perubahan ekonomi yang cepat akibat AGI dapat memicu kerusuhan sosial dan ketidakstabilan politik.

Untuk meredam disrupsi ini, pembuat kebijakan perlu menyusun strategi agar manfaat AGI didistribusikan secara adil, melindungi pekerja dari penggusuran pekerjaan, dan menjaga stabilitas sosial serta politik. Ini dapat mencakup investasi dalam pendidikan dan program pelatihan ulang, penerapan kebijakan seperti UBI, serta mendorong kerja sama internasional untuk menangani dampak global.

Bias

Bias dan keadilan merupakan risiko signifikan lain yang terkait dengan AGI karena potensinya untuk melanggengkan dan memperbesar ketidaksetaraan sosial yang ada. Algoritme yang bias dapat secara sistematis merugikan kelompok tertentu, seperti minoritas ras atau gender, dengan memperkuat stereotip dan praktik diskriminatif, atau bahkan memperkenalkan bentuk diskriminasi baru dengan menggunakan pola dalam data yang tampak netral. Misalnya, penggunaan kode pos sebagai proksi ras dapat menghasilkan keputusan yang bias.

Bahkan ketika metrik keadilan kelompok diterapkan, sistem AGI masih dapat mendiskriminasi subkelompok dalam kelompok yang lebih besar. Ini dikenal sebagai fairness gerrymandering, di mana sebagian individu dalam sebuah kelompok menerima perlakuan buruk sementara yang lain mengompensasi untuk mempertahankan metrik keadilan secara keseluruhan.

Risiko eksistensial

Akhirnya, AGI menimbulkan beberapa risiko eksistensial, terutama terkait potensinya menjadi tak terkendali atau tidak selaras dengan nilai manusia. AGI dapat melampaui kecerdasan manusia, menghasilkan superkecerdasan yang mungkin mengejar tujuan yang merugikan umat manusia, yang dapat berujung pada kepunahan manusia atau kemunduran peradaban secara permanen.

Skenario menakutkan, beberapa di antaranya dikenal dari karya fiksi ilmiah populer, mencakup AGI yang memprioritaskan perolehan sumber daya di atas kehidupan manusia, menegakkan pemerintahan totaliter, atau memfasilitasi pembuatan patogen yang ditingkatkan.

Untuk mengurangi risiko ini, para peneliti dan pembuat kebijakan berfokus pada pengembangan strategi kontrol dan penyelarasan. Ini mencakup pembuatan pengaman menggunakan teknik seperti merancang arsitektur yang membatasi otonomi AGI atau menciptakan lingkungan "terkotak" untuk mencegah pelarian.

Untuk memastikan AGI tetap selaras dengan nilai manusia bahkan saat ia meningkatkan dirinya, riset mengenai penyelarasan dan pengembangan AGI terdesentralisasi harus diprioritaskan untuk mencegah monopolisasi dan mempromosikan keselamatan.

Kesimpulan

Walau AGI masih menjadi tujuan jangka panjang, kemajuan riset AI yang berkelanjutan terus mendorong batas kemampuan mesin. Jalan menuju AGI dipenuhi tantangan teknis, ekonomi, dan etika, yang memerlukan terobosan dalam penalaran, kemampuan beradaptasi, dan penyelarasan dengan nilai manusia.

Apakah AGI menjadi kenyataan dalam beberapa dekade atau tetap menjadi konsep yang sukar diraih, dampak potensialnya terhadap masyarakat, industri, dan umat manusia secara keseluruhan menjadikannya salah satu upaya teknologi terpenting di zaman kita.