Perbaikan Diri Rekursif dalam AI: Cara Kerjanya dan Mengapa Penting

Pada September 2026, peneliti Jacob Coxon (yang menghabiskan sekitar tiga tahun meneliti pra-pelatihan di OpenAI sebelum bergabung dengan Anthropic dua bulan sebelumnya) mengundurkan diri, memperingatkan secara publik bahwa laboratorium terdepan berlomba menuju apa yang ia sebut "superkecerdasan yang memperbaiki diri" tanpa bertindak cukup bertanggung jawab mengingat risikonya. Evan Hubinger, yang memimpin sains penyelarasan di Anthropic, secara terbuka setuju bahwa risiko masa depan patut menjadi perhatian serius, sambil membedakannya dari apa yang benar-benar dapat dilakukan sistem saat ini. Perdebatan itu dengan cepat masuk ke wacana AI arus utama.

Konsep yang berada di pusat argumen itu adalah perbaikan diri rekursif (RSI). Ini layak dipahami menurut istilahnya sendiri, terpisah dari kontroversinya, karena gagasan dasarnya lebih luas dan lebih memperjelas daripada satu siklus berita. Artikel ini membahas apa arti RSI sebenarnya, bagaimana loop umpan baliknya bekerja, apa yang benar-benar dapat dilakukan AI saat ini menuju itu, dan mengapa para peneliti berbeda pendapat tentang ke mana arahnya.

Apa Itu Perbaikan Diri Rekursif?

Perbaikan diri rekursif menggambarkan loop umpan balik di mana AI berkontribusi untuk menciptakan AI yang lebih mumpuni, dan AI yang lebih mumpuni itu menjadi lebih baik dalam berkontribusi pada peningkatan berikutnya, dan seterusnya:

AI membantu meningkatkan AI → AI yang ditingkatkan menjadi lebih baik dalam meningkatkan AI → sistem itu berkontribusi pada peningkatan berikutnya → ulangi

Ada baiknya memisahkan tiga hal yang sering disamakan.

• Pertama, ada AI yang digunakan manusia untuk mempercepat riset AI. Ini sedang terjadi sekarang, secara luas.
• Kedua, ada riset AI yang semakin otonom, di mana sistem mengambil alih lebih banyak alur kerja riset dengan arahan manusia yang lebih sedikit.
• Ketiga, ada perbaikan diri rekursif penuh, di mana sistem AI secara substansial dapat merancang dan mengembangkan penerusnya sendiri.

RSI penuh adalah hal ketiga. Tidak ada sistem AI saat ini yang secara meyakinkan mencapainya. Inilah tepatnya garis yang ditarik Anthropic sendiri, mencatat bahwa RSI penuh belum tercapai dan mungkin tidak tak terelakkan. Pembedaan ini juga yang membuat perdebatan Coxon begitu tajam: perdebatan ini bukan tentang apakah RSI ada hari ini, melainkan tentang seberapa cepat celahnya menyempit dan apa yang dituntut dari orang-orang yang membangun sistem ini.

Cara Kerja Perbaikan Diri Rekursif

Sebuah sistem yang memperbaiki diri, dalam pengertian RSI, akan berkontribusi pada jalur pengembangan AI itu sendiri. Artinya menulis dan menyempurnakan kode riset, merancang eksperimen, menghasilkan atau memfilter data pelatihan, mengevaluasi kinerja model, mengidentifikasi kelemahan, dan mengusulkan peningkatan algoritmik. Bagian rekursifnya penting: jika sistem yang dihasilkan melalui proses ini menjadi lebih baik dalam tugas-tugas yang sama, maka iterasi pengembangan AI berikutnya bisa terjadi lebih cepat atau lebih efektif.

Diagram yang menggambarkan loop umpan balik perbaikan diri rekursif di berbagai generasi AI berturut-turut. Gambar oleh Penulis. 

Ini bukan model yang secara harfiah menulis ulang bobotnya sendiri secara real time. Anggaplah sebagai generasi berturut-turut: setiap generasi AI berkontribusi lebih efektif untuk membangun generasi berikutnya. Loopnya terakumulasi lintas versi, bukan dalam satu sistem yang berjalan.

Perbaikan Diri Rekursif vs. Koreksi Diri AI

Kesalahpahaman paling umum tentang RSI adalah menyamakannya dengan koreksi diri. Ini menjebak bahkan orang yang mengikuti AI dengan dekat, jadi ada baiknya bersikap presisi.

Koreksi diri

Koreksi diri adalah ketika model mengkritisi atau merevisi jawabannya sendiri, kodenya, atau rencananya selama suatu tugas. Termasuk menemukan kesalahan dalam penalarannya, men-debug kode yang baru saja ditulisnya, atau menyempurnakan draf. Ini terjadi terus-menerus pada sistem saat ini.

Perbaikan diri rekursif

RSI secara kategoris berbeda. Peningkatan memengaruhi kapabilitas sistem AI atau penerusnya, berpotensi membuat pengembangan AI di masa depan itu sendiri lebih efektif. Agen yang berulang kali men-debug kodenya sendiri tidak serta-merta merupakan perbaikan diri rekursif; itu hanya agen yang cakap. Pembedanya adalah apakah peningkatan itu bertahan dan terakumulasi ke dalam pengembangan sistem berikutnya.

Koreksi diri adalah alat yang digunakan sistem pada suatu tugas. RSI adalah apa yang terjadi ketika tugasnya adalah membangun sistem berikutnya.

Perbaikan Diri Rekursif vs. Konsep AI Terkait

Membantu untuk memetakan RSI dengan beberapa konsep lain yang sering muncul dalam percakapan yang sama, terutama karena perdebatan Coxon telah mendorong istilah seperti "superkecerdasan" dan "singularitas" ke dalam tajuk berita yang sama.

RSI vs. riset AI otomatis

Riset & Pengembangan AI otomatis mencakup sistem yang menjalankan eksperimen, menganalisis hasil, dan mengusulkan langkah selanjutnya. Ini dapat berkontribusi pada RSI tanpa merupakan RSI penuh. Sistem yang mengotomatiskan bagian dari jalur riset adalah bagian dari trennya, bukan titik akhirnya. Kesenjangan antara "membantu riset" dan "secara otonom mengembangkan penerusnya" adalah hal yang penting. Karya terbitan Anthropic sendiri menggambarkan AI mengambil lebih banyak bagian dari jalur ini, itulah mengapa pengunduran diri Coxon berdampak besar. Gerakannya nyata; pertanyaannya adalah sejauh mana itu berlangsung.

RSI vs. pembelajaran berkelanjutan

Pembelajaran berkelanjutan berarti model yang telah dideploy memperbarui diri dari informasi baru seiring waktu. RSI berarti menyempurnakan proses yang digunakan untuk mengembangkan sistem AI yang semakin mumpuni. Yang satu mengubah apa yang diketahui model; yang lain mengubah seberapa mumpuni model berikutnya.

RSI vs. superkecerdasan buatan

RSI menggambarkan sebuah proses. Superkecerdasan menggambarkan tingkat kapabilitas yang diusulkan. Keduanya terkait dalam arti RSI adalah salah satu jalur hipotesis menuju superkecerdasan, namun bukan konsep yang sama, dan menyamakannya mengaburkan keduanya.

Saat Coxon memperingatkan tentang "superkecerdasan yang memperbaiki diri", ia menggambarkan skenario di mana RSI menghasilkan sistem yang melampaui kemampuan setingkat manusia di berbagai domain. Itu adalah klaim spesifik tentang apa yang pada akhirnya bisa dihasilkan oleh proses tersebut, bukan deskripsi proses itu sendiri.

RSI vs. singularitas AI

Singularitas AI adalah titik hipotetis di mana peningkatan AI menjadi begitu cepat dan mandiri sehingga manusia tidak lagi dapat memprediksi atau mengendalikan apa yang terjadi selanjutnya. Anggap itu sebagai momen ketika kurva menjadi vertikal: perubahan terjadi lebih cepat daripada kemampuan kita untuk memahaminya atau meresponsnya. RSI adalah salah satu mekanisme yang diajukan untuk sampai ke sana. Namun singularitas adalah hasil spekulatif, bukan proses itu sendiri, dan banyak peneliti berpikir kurvanya mendatar jauh sebelum terjadi hal seperti itu.

Seberapa Dekat Kita dengan Perbaikan Diri Rekursif?

Lebih dekat daripada yang disadari kebanyakan orang beberapa tahun lalu. Tidak sedekat yang disiratkan beberapa tajuk berita.

Sistem AI sudah terlibat dalam pengodean, debugging, menjalankan eksperimen, menganalisis hasil eksperimen, evaluasi model, dan asistensi riset AI. Anthropic secara terbuka mengatakan bahwa mereka mendelegasikan porsi yang semakin besar dari pekerjaan pengembangan AI kepada sistem AI, dan bahwa para insinyurnya kini merilis jauh lebih banyak kode daripada tahun-tahun sebelumnya. Pada saat yang sama, Anthropic secara eksplisit menyatakan bahwa manusia mempertahankan peran penting dalam penilaian riset. Itu berarti memutuskan masalah mana yang akan dikejar dan mengevaluasi apakah hasil benar-benar berarti seperti yang terlihat.

Meningkatnya keterlibatan AI dalam R&D AI adalah bukti pergerakan menuju otomasi yang lebih besar. Itu bukan bukti bahwa loop RSI otonom sudah ada. Jalur pengembangan memiliki lebih banyak AI di dalamnya; jalur itu belum berjalan sendiri. Ambiguitas ini—kemajuan nyata dengan titik akhir yang tidak jelas—adalah tepatnya yang dianggap Coxon tidak memadai. Pengunduran dirinya bukan klaim bahwa RSI telah tiba. Itu adalah argumen bahwa memperlakukannya sebagai kekhawatiran yang jauh tidak lagi dapat dipertahankan.

Apa yang Dapat Mempercepat Perbaikan Diri Rekursif?

Jadi apa yang sebenarnya diperlukan untuk menutup celah itu? Beberapa hambatan menonjol, dan jarak ke masing-masing memberi tahu kita sesuatu tentang lini masa yang realistis.

Kemampuan pengodean AI

Menulis dan memodifikasi kode riset secara otonom adalah prasyarat. Model saat ini benar-benar bagus dalam hal ini, meskipun masih membuat kesalahan yang memerlukan tinjauan manusia pada pekerjaan yang berdampak.

Eksperimentasi otomatis

Menjalankan eksperimen secara otonom adalah hambatan terpisah dari menulis kode untuk menjalankannya. Sistem yang dapat merancang eksperimen, mengeksekusinya, menafsirkan hasilnya, dan memutuskan apa yang akan dicoba selanjutnya menutup bagian loop yang bermakna. Sistem saat ini dapat melakukan sebagian dari ini. Siklus penuh, tanpa manusia yang memeriksa penalaran di setiap langkah, masih di luar jangkauan.

Selera riset dan pembangkitan ide

Di sinilah keadaan menjadi menarik. Anthropic secara khusus mengidentifikasi selera dan penilaian riset manusia sebagai area keunggulan komparatif yang tersisa. Itu adalah mengetahui eksperimen mana yang layak dijalankan, hasil mana yang dapat dipercaya, arah mana yang menjanjikan. Banyak pekerjaan eksperimental dalam riset menjadi dapat diotomasi. Lapisan penilaiannya belum. Inilah juga area di mana Anthropic yakin manusia saat ini menambah nilai yang paling tak tergantikan, dan di mana jarak menuju RSI penuh tetap paling besar.

Evaluasi model

Mengetahui apakah suatu model benar-benar menjadi lebih baik lebih sulit daripada kedengarannya. Evaluasi memerlukan penilaian tentang apa yang penting, dan tolok ukur saat ini mudah dimanipulasi atau segera usang. Hingga sistem AI dapat secara andal menilai penerusnya sendiri, manusia tetap berada dalam loop pada tahap ini, yang dengan sendirinya merupakan rem signifikan pada RSI otonom.

Komputasi dan infrastruktur

Kapabilitas mentah bukan satu-satunya kendala. Menjalankan siklus pengembangan secara otonom memerlukan infrastruktur yang dapat mendukung pelatihan dan evaluasi skala besar tanpa intervensi manusia yang konstan, dan itu tetap mahal serta kompleks secara organisasi.

Evaluasi model

Mengetahui apakah suatu model benar-benar menjadi lebih baik lebih sulit daripada kedengarannya. Evaluasi memerlukan penilaian tentang apa yang penting, dan tolok ukur saat ini mudah dimanipulasi atau segera usang. Hingga sistem AI dapat secara andal menilai penerusnya sendiri, manusia tetap berada dalam loop pada tahap ini, yang dengan sendirinya merupakan rem signifikan pada RSI otonom.

Tinjauan manusia

Bahkan jika sistem AI dapat menulis kode, menjalankan eksperimen, dan mengevaluasi hasil, manusia masih yang mengesahkan apa yang benar-benar dirilis. Langkah tinjauan itu adalah kendala keras pada seberapa cepat loop dapat berjalan. Anda dapat mengotomasi pekerjaannya dan tetap terhambat pada persetujuan. Hingga penilaian AI cukup dipercaya untuk menghapus gerbang itu, tinjauan manusia mungkin merupakan plafon paling langsung bagi kemajuan RSI, bukan kekhawatiran filosofis tentang masa depan.

Keuntungan dari Perbaikan Diri Rekursif

Jawabannya ada dua bagian: potensi keuntungan dan risiko serius.

Kemajuan sains dan teknologi yang lebih cepat

Jika sistem AI dapat mempercepat riset AI itu sendiri, efek yang sama dapat meluas ke pengembangan perangkat lunak, penemuan ilmiah, kedokteran, dan rekayasa secara lebih luas. Argumennya adalah bahwa AI yang cukup baik dalam percepatan riset dapat memampatkan lini masa di banyak bidang, bukan hanya AI.

Pengembangan kapabilitas AI yang lebih cepat

Inilah argumen loop umpan balik yang dinyatakan secara gamblang: peningkatan kemampuan riset AI dapat meningkatkan laju terjadinya peningkatan AI lebih lanjut. Penggandaan itu yang membuat RSI secara teoretis signifikan, dan yang membuat peneliti seperti Coxon cukup gelisah hingga mengundurkan diri karenanya. Perlu dicatat: pengembangan kapabilitas yang lebih cepat tidak otomatis menghasilkan ledakan kecerdasan. Loopnya bisa nyata namun tetap lambat, terbatas, atau mengalami penurunan hasil.

Risiko Perbaikan Diri Rekursif

Pengawasan manusia menjadi hambatan

Eksperimen, kode, dan perubahan model yang dihasilkan AI pada akhirnya bisa diproduksi lebih cepat daripada yang dapat ditinjau manusia secara bermakna. Pengawasan yang saat ini membentuk pengembangan AI bergantung pada kemampuan manusia untuk mengikuti kecepatan dari apa yang sedang dibangun. Ini salah satu alasan Anthropic masih menekankan peran penilaian manusia dalam jalur risetnya, meskipun semakin banyak pekerjaan yang diotomasi.

Penyelarasan dan kontrol

Sistem yang lebih mumpuni yang terlibat dalam mengembangkan penerusnya membuat masalah penyelarasan menjadi lebih krusial. Jika sistem yang berkontribusi pada generasi berikutnya memiliki tujuan yang sedikit tidak selaras, hal itu bisa terbawa atau memburuk pada penerusnya. Inilah tepatnya risiko yang telah banyak ditulis Hubinger, dan itulah yang ia isyaratkan saat ia setuju dengan kekhawatiran Coxon tentang risiko masa depan sambil mempertahankan bahwa sistem saat ini belum menimbulkan ancaman yang sama.

Keamanan siber

Sistem otonom yang lebih mumpuni juga memperluas permukaan serangan. Sistem yang terlibat dalam jalur pengembangannya sendiri adalah target bernilai lebih tinggi, dan mode kegagalannya menjadi lebih konsekuensial seiring meningkatnya otonomi. Penahanan dan kontrol akses menjadi lebih sulit dirancang ketika sistem yang ditahan juga membantu membangun versi berikutnya dari dirinya sendiri.

Lonjakan kapabilitas yang cepat

Jika loop umpan balik secara bermakna mempercepat pengembangan, institusi mungkin memiliki lebih sedikit waktu untuk mengevaluasi dan merespons kapabilitas baru. Anthropic mengatakan RSI penuh dapat meningkatkan risiko hilangnya kendali manusia atas sistem AI, sambil juga mengatakan bahwa RSI belum tercapai dan tidak tak terelakkan.

Mengapa Perbaikan Diri Rekursif Jadi Berita

Pengunduran diri Jacob Coxon dari Anthropic pada September 2026 membingkai isu ini dalam istilah yang mendesak: bahwa Anthropic dan OpenAI berlomba menuju superkecerdasan yang memperbaiki diri dan tidak bertindak cukup hati-hati, mengingat konsekuensi potensialnya. Evan Hubinger secara terbuka setuju (menempatkan perkiraan pribadinya tentang kepunahan manusia yang disebabkan AI dalam dekade ini di atas 10% dan mengakui bahwa Anthropic belum memiliki rencana untuk menyelaraskan superkecerdasan) sambil membedakan kekhawatiran masa depan itu dari risiko yang ditimbulkan oleh sistem saat ini. Sejak itu Coxon mengatakan ketidaksetujuan utamanya dengan pimpinan Anthropic adalah apakah perlombaan kompetitif menuju RSI tak terelakkan dan karena itu harus diikuti.

Perbedaan pendapat itu berdampingan dengan publikasi Anthropic sendiri sebelumnya yang menggambarkan kemajuan menuju pengembangan AI yang diotomasi AI, riset yang sama yang menunjukkan AI mengambil lebih banyak bagian dari jalur pengembangan. Kedua hal itu konsisten satu sama lain, yang menjadi bagian alasan mengapa perdebatan ini sulit untuk diabaikan. Jangan anggap prediksi Coxon tentang hasil yang katastrofik sebagai fakta yang sudah mapan. Itu adalah bagian dari argumen yang sedang berlangsung, bukan sains yang sudah tuntas.

Dapatkah Perbaikan Diri Rekursif Mengarah pada Ledakan Kecerdasan?

Argumen teoretisnya begini: AI yang lebih baik mengarah pada riset AI yang lebih baik mengarah pada AI yang semakin baik mengarah pada peningkatan yang lebih cepat. Logikanya bersih. Pertanyaannya adalah apakah itu berlaku dalam praktik.

Percepatan tanpa batas tidak serta-merta mengikuti. Kendala nyata mencakup komputasi, energi, perangkat keras, data pelatihan, hambatan algoritmik, siklus umpan balik eksperimental, penurunan hasil, dan ketergantungan yang tersisa pada penilaian manusia. Ledakan kecerdasan adalah hipotesis yang diperdebatkan tentang apa yang dapat dihasilkan oleh RSI yang cukup efektif, bukan definisi RSI itu sendiri. Itu adalah satu skenario dalam suatu distribusi, bukan titik akhir yang jelas. Tidak ada seorang pun, termasuk para peneliti di Anthropic yang paling memikirkan hal ini, yang tahu seberapa curam kurvanya atau di mana ia mendatar.

Bagaimana Perbaikan Diri Rekursif Dapat Diatur?

Ketidakpastian itu membuat tata kelola menjadi lebih mendesak dan lebih sulit. Tantangan utamanya adalah mempertahankan pengawasan yang bermakna jika riset yang dihasilkan AI mulai melampaui tinjauan manusia. Usulan dan area riset yang aktif mencakup evaluasi kapabilitas sebelum penerapan, pendekatan penahanan model, kontrol akses pada sistem AI yang terlibat dalam pengembangan AI, pemantauan aktivitas R&D AI, persyaratan persetujuan manusia untuk tindakan yang konsekuensial, evaluasi independen, dan koordinasi antar laboratorium AI terdepan.

Tidak satu pun dari ini yang merupakan solusi lengkap, dan perdebatan Coxon menekankan alasannya: kerangka tata kelola yang dirancang untuk tingkat keterlibatan AI saat ini dalam jalur pengembangan mungkin tidak skala untuk esok hari. Kesenjangan antara di mana alat-alatnya berada dan ke mana teknologi menuju adalah bagian dari alasan mengapa momen ini terasa benar-benar konsekuensial bagi orang-orang yang bekerja paling dekat dengannya.

Kesimpulan

Perbaikan diri rekursif menggambarkan loop umpan balik di mana AI berkontribusi untuk menciptakan AI yang lebih mumpuni, yang kemudian mungkin menjadi lebih baik dalam berkontribusi pada peningkatan berikutnya. Mudah untuk dinyatakan, benar-benar tidak pasti untuk dievaluasi.

Pengembangan berbantuan AI saat ini nyata dan semakin tumbuh, sebagaimana riset Anthropic sendiri menjelaskan. RSI otonom penuh, di mana sistem AI secara substansial merancang dan mengembangkan penerusnya tanpa arahan manusia, belum tercapai. Anthropic sendiri memegang garis itu. Kesenjangan antara dua hal itu adalah tempat semua pertanyaan menarik dan diperdebatkan berada: seberapa cepat itu menyempit, apa yang terjadi jika memang demikian, dan siapa yang berhak memutuskan seberapa cepat bergerak?

Pertukaran pandangan Coxon–Hubinger tidak menciptakan pertanyaan-pertanyaan itu. Pertukaran itu membuatnya mustahil untuk diperlakukan sebagai teoretis semata. Apakah Anda menganggap lini masa Coxon mengkhawatirkan atau kerangka Anthropic lebih terukur, dinamika dasarnya sama: AI semakin berada di dalam loop yang membangun AI. Memahami apa artinya itu, dengan jelas dan tanpa sensasi ke salah satu arah, adalah alasan RSI layak untuk diketahui.