Apa Itu Buffer of Thoughts (BoT) dan Cara Kerjanya?

Bayangkan Anda memiliki seorang teman brilian yang sangat mahir memecahkan masalah kompleks. Namun, setiap kali Anda mengajukan pertanyaan baru, prosesnya harus dimulai dari nol, seolah-olah semua yang dipelajari dari masalah sebelumnya terlupakan sama sekali.

Cukup membuat frustasi, bukan? Inilah tantangan yang kita hadapi dengan large language model (LLM) saat berurusan dengan tugas penalaran yang kompleks. LLM unggul dalam menghasilkan teks tetapi sering kesulitan dalam penalaran kompleks karena ketidakmampuannya mempertahankan pengetahuan dari interaksi sebelumnya.

Sekarang, bayangkan Anda memberi LLM tersebut sebuah "buku catatan mental" untuk menyimpan dan menggunakan kembali wawasan berharga – inilah inti dari kerangka kerja Buffer of Thoughts (BoT).

Dalam tutorial ini, kita akan mengeksplorasi Buffer of Thoughts (BoT), kerangka kerja baru yang mengubah cara LLM memecahkan masalah kompleks. Saya akan mulai dengan menjelaskan gagasan dasar di balik BoT, termasuk meta-buffer dan manajer buffer. Lalu, kita akan melihat cara kerja BoT langkah demi langkah, dari memahami masalah hingga menemukan dan menggunakan templat pemikiran yang tepat—Anda akan melihat bagaimana BoT membuat LLM menjadi lebih akurat, efisien, dan andal.

Saya juga akan membagikan beberapa hasil eksperimen yang mengesankan dari makalah ini yang menunjukkan performa BoT pada berbagai tugas. Di akhir tutorial, Anda akan memahami mengapa BoT menjadi sorotan saat ini dan bagaimana ia dapat digunakan dalam aplikasi dunia nyata. 

Apa Itu Buffer of Thoughts (BoT)?

Buffer of Thoughts (BoT) adalah kerangka kerja baru yang dirancang untuk meningkatkan kemampuan penalaran LLM.

BoT menggabungkan dua elemen utama untuk memandu LLM melalui tugas penalaran yang kompleks:

1. Sebuah meta-buffer, yaitu kumpulan strategi pemecahan masalah tingkat tinggi.
2. Seorang manajer buffer, sistem cerdas yang mengorganisasi dan memperbarui strategi-strategi ini.

Mari kita lihat kedua komponen ini lebih detail.

Meta-buffer

Meta-buffer ibarat pustaka berisi strategi pemecahan masalah universal. Ia menyimpan "templat pemikiran," yaitu pendekatan tingkat tinggi untuk memecahkan masalah. Templat-templat ini berasal dari berbagai tugas yang pernah ditemui LLM.

Anggap saja sebagai kotak peralatan yang dipenuhi perkakas serbaguna yang bisa disesuaikan untuk banyak jenis pekerjaan.

Manajer buffer

Manajer buffer adalah pengelola dinamis dalam sistem BoT. Perannya mencakup memperbarui meta-buffer dengan templat pemikiran baru seiring semakin banyak tugas terselesaikan, memilih templat pemikiran yang paling relevan untuk setiap masalah baru, serta menyempurnakan templat yang ada berdasarkan efektivitasnya.

Ibarat memiliki asisten pribadi yang terus mengatur catatan Anda, menyoroti informasi paling berguna, dan membantu menerapkannya pada tantangan baru.

Penalaran yang diperkaya pemikiran

Keajaiban sesungguhnya terjadi melalui penalaran yang diperkaya pemikiran. Saat menghadapi masalah baru, kerangka kerja BoT akan:

1. Menganalisis masalah untuk memahami elemen kuncinya.

2. Mengambil templat pemikiran yang relevan dari meta-buffer.

3. Menyesuaikan templat tersebut untuk membentuk struktur penalaran khusus bagi masalah itu.

4. Membimbing LLM melalui proses pemecahan masalah menggunakan struktur ini.

Bayangkan Anda seorang koki. Meta-buffer adalah buku resep pribadi Anda. Buku ini bukan hanya berisi resep tertentu, tetapi juga berbagai teknik memasak. Misalnya, ada bagian tentang cara menumis sayuran dengan benar, membuat saus reduksi yang sempurna, atau menyeimbangkan cita rasa. Strategi tingkat tinggi ini dapat diterapkan pada berbagai hidangan. 

Sekarang, bayangkan Anda juga memiliki seorang sous-chef yang sangat teratur dan berpengetahuan. Sous-chef ini adalah manajer buffer Anda. Ia membantu dengan memutuskan teknik mana dari buku resep (meta-buffer) yang paling cocok untuk hidangan yang sedang Anda siapkan. Saat memasak, sous-chef mencatat apa yang berhasil dan yang tidak, lalu memperbarui teknik dan strategi Anda sesuai temuan tersebut.

Saat pesanan baru masuk, Anda tidak mulai dari nol. Anda merujuk ke buku resep (meta-buffer) untuk teknik terbaik dan mengandalkan sous-chef (manajer buffer) untuk membimbing prosesnya secara efisien. Sous-chef mengingat apa yang paling berhasil untuk hidangan serupa di masa lalu dan membantu menyesuaikan pendekatan Anda, memastikan hidangan disiapkan dengan cepat dan berstandar tinggi.

Begini cara prosesnya bekerja di dapur Anda:

1. Analisis pesanan: Anda (sang koki) menganalisis pesanan baru untuk memahami elemen kuncinya—jenis hidangan, bahan yang diperlukan, dan permintaan khusus dari pelanggan.
2. Ambil teknik yang relevan: Sous-chef Anda (manajer buffer) mengambil teknik memasak yang relevan (templat pemikiran) dari buku resep Anda (meta-buffer). Misalnya, ia menyarankan metode tertentu untuk memasak bahan utama dan teknik lain untuk membuat saus pendamping.
3. Sesuaikan teknik: Bersama-sama, Anda menyesuaikan teknik tersebut untuk membuat rencana spesifik bagi hidangan baru. Ini mungkin melibatkan mengubah resep saus agar sesuai dengan bahan utama atau menyesuaikan waktu memasak berdasarkan porsi.
4. Panduan proses memasak: Dengan rencana yang disesuaikan ini, Anda menyiapkan hidangan dipandu oleh pendekatan terstruktur yang telah Anda dan sous-chef susun.

Cara Kerja Buffer of Thoughts (BoT)

Sekarang setelah kita memahami apa itu BoT dan komponen utamanya, mari lihat cara kerjanya di balik layar. Kita akan membaginya menjadi empat elemen:

1. Penyuling masalah (problem distiller)
2. Meta-buffer dan pengambilan pemikiran
3. Penalaran yang diinstansiasi
4. Manajer buffer

Penyuling masalah

Penyuling masalah berfungsi seperti penerjemah andal, mengonversi masalah kompleks ke dalam bahasa yang mudah dipahami dan diolah BoT.

Bayangkan ia sebagai pembaca teliti yang mengekstrak informasi penting dan batasan dari masalah masukan, layaknya menyoroti bagian paling penting dari sebuah bab buku teks.

Setelah elemen kunci diidentifikasi, penyuling masalah mengorganisasikannya menjadi konsep dan struktur tingkat tinggi. Proses ini dapat disamakan dengan membuat ringkasan singkat dari artikel panjang, berfokus pada gagasan utama dan mengabaikan detail yang tidak perlu.

Misalnya, Anda diberi masalah kompleks tentang jadwal kereta. Penyuling masalah akan mengekstrak elemen penting seperti "kecepatan kereta", "waktu keberangkatan", dan "jarak antar stasiun". Lalu, elemen tersebut diatur dalam format terstruktur yang mudah diproses dan dipahami BoT.

Meta-buffer dan pengambilan pemikiran

Meta-buffer adalah bank pengetahuan BoT, yang menyimpan dan mengorganisasi templat pemikiran agar mudah diakses. Di dalamnya terdapat templat beserta deskripsinya, dikategorikan untuk pengambilan yang efisien.

Ibarat perpustakaan yang tertata baik, di mana setiap buku (templat pemikiran) memiliki deskripsi rinci dan ditempatkan di bagian yang tepat.

Ketika BoT perlu mengambil templat pemikiran, ia menemukan yang paling relevan dengan membandingkan masalah yang telah disuling dengan deskripsi templat. Proses ini mirip pustakawan yang cepat menemukan buku paling tepat berdasarkan deskripsi kebutuhan Anda.

BoT juga dapat mengenali saat suatu tugas benar-benar baru dan memerlukan templat pemikiran baru. Ini seperti menyadari bahwa Anda perlu membuat kategori baru di perpustakaan pribadi untuk jenis buku yang unik.

Mengikuti contoh masalah kereta tadi, BoT akan memiliki berbagai templat pemikiran dalam meta-buffer, masing-masing dengan deskripsi terperinci. Misalnya, beberapa templat terkait manajemen waktu, lainnya penalaran spasial, dan lainnya strategi optimasi.

Saat BoT menemui masalah jadwal kereta, ia mengambil templat pemikiran paling relevan dengan membandingkan elemen yang telah disuling, seperti "kecepatan kereta", "waktu keberangkatan", dan "jarak antar stasiun", dengan deskripsi dalam meta-buffer. Misalnya, BoT dapat memilih templat yang mengkhususkan diri pada penjadwalan dan optimasi waktu untuk menangani masalah ini secara efektif.

Misalkan BoT mengenali bahwa masalah jadwal kereta melibatkan elemen unik yang belum pernah ditemui sebelumnya, seperti jenis batasan yang tidak biasa atau tujuan optimasi baru. Dalam hal ini, ia dapat mengidentifikasi bahwa tugas ini sepenuhnya baru dan memerlukan templat pemikiran baru.

Andaikan masalahnya melibatkan koordinasi jadwal di beberapa moda transportasi (kereta, bus, penerbangan). Maka, BoT bisa membuat dan menyimpan templat pemikiran baru yang membahas penjadwalan multimoda, sehingga lebih siap menghadapi masalah serupa di masa depan.

Dengan cara ini, meta-buffer memungkinkan BoT menyimpan, mengambil, dan membuat strategi baru untuk pemecahan masalah secara efisien, sehingga meningkatkan kemampuannya menangani tugas-tugas kompleks.

Penalaran yang diinstansiasi

Di sinilah BoT menerapkan templat pemikiran terpilih untuk menyelesaikan masalah spesifik yang sedang dihadapi.

Untuk templat yang sudah ada, templat yang diambil akan disesuaikan agar pas dengan masalah saat ini. Ini mirip menggunakan resep namun menyesuaikan bahan dan takaran untuk porsi lebih besar. BoT menyetel halus templat pemikiran agar sesuai dengan spesifik masalah, memastikan solusi yang tepat sasaran dan efektif.

Ketika menghadapi tugas baru yang belum memiliki templat yang tersedia, BoT menggunakan templat umum yang telah ditentukan sebelumnya. Anggap saja menggunakan teknik memasak dasar untuk menyiapkan hidangan yang belum pernah Anda buat. Dengan mengandalkan prinsip fundamental, BoT dapat menavigasi masalah yang belum dikenal dan mengembangkan strategi baru sesuai kebutuhan.

Untuk masalah jadwal kereta kita, BoT akan mengambil templat pemikiran yang berfokus pada optimasi waktu dan penjadwalan. Agar sesuai dengan masalah saat ini, BoT akan menyesuaikan templat tersebut. Misalnya, jika templat asli mencakup metode untuk mengoptimasi jadwal satu kereta, BoT memodifikasinya untuk menangani banyak kereta, kecepatan yang bervariasi, dan waktu keberangkatan yang berbeda. Pendekatan yang disesuaikan ini memastikan semua kereta berjalan efisien dan tepat waktu, dengan mempertimbangkan batasan unik dari masalah saat ini.

Namun, misalkan BoT menemui aspek baru dari masalah jadwal kereta, seperti mengintegrasikan jadwal kereta dengan bus dan penerbangan untuk menciptakan sistem transportasi multimoda yang mulus. Karena belum ada templat pemikiran untuk skenario spesifik ini, BoT menggunakan templat umum yang telah ditentukan. BoT dapat menerapkan prinsip-prinsip dasar penjadwalan dan optimasi, seperti memecah masalah menjadi bagian-bagian kecil, menganalisis setiap moda transportasi secara terpisah, lalu mengintegrasikan solusinya. Melalui proses ini, BoT dapat mengembangkan strategi dan templat baru, meningkatkan kemampuannya menanggulangi masalah penjadwalan multimoda serupa di masa depan.

Manajer buffer

Manajer buffer adalah komponen pembelajaran dan optimasi sistem, yang terus menyempurnakan basis pengetahuan BoT.

Dalam proses distilasi templat, manajer buffer merangkum proses pemecahan masalah menjadi pemikiran tingkat tinggi. Ini seperti menulis dokumen "pembelajaran yang didapat" setelah menyelesaikan proyek, menangkap inti dari hal yang efektif dan alasannya.

Untuk pembaruan dinamis, manajer buffer memperbarui meta-buffer dengan templat pemikiran baru. Ia menggunakan ambang kemiripan untuk memutuskan apakah akan menambahkan templat baru atau memperbarui yang sudah ada, memastikan meta-buffer tetap ringan dan efisien. Ini mirip koki yang terus menyempurnakan buku resepnya, menambahkan teknik baru dan memperbaiki yang lama, sambil menjaga buku tetap ringkas dan praktis.

Bayangkan BoT baru saja menyelesaikan masalah jadwal kereta yang kompleks melibatkan banyak kereta, kecepatan bervariasi, dan waktu keberangkatan berbeda. Setelah tugas selesai, manajer buffer merangkum proses pemecahan masalah menjadi pemikiran tingkat tinggi, menangkap strategi kunci yang berhasil, seperti teknik khusus untuk mengoptimasi jadwal yang tumpang tindih atau menangani jam sibuk.

Sekarang, misalkan BoT di masa depan menemui masalah penjadwalan kereta yang serupa namun sedikit berbeda. Manajer buffer memperbarui meta-buffer dengan templat pemikiran baru berdasarkan pengalaman ini. Misalnya, jika masalah baru melibatkan integrasi jadwal kereta dengan jadwal bus, manajer buffer dapat menyempurnakan templat penjadwalan kereta yang ada untuk memasukkan teknik integrasi multimoda.

Manfaat Buffer of Thoughts (BoT)

Kerangka kerja Buffer of Thoughts (BoT) menawarkan sejumlah keuntungan penting bagi pengembangan penalaran LLM, seperti peningkatan akurasi, efisiensi penalaran, dan ketangguhan model. 

Peningkatan akurasi

BoT secara signifikan meningkatkan akurasi penalaran LLM melalui pendekatan barunya:

• Templat pemikiran bersama
• LLM memulai dengan fondasi yang kuat untuk setiap tugas.
• Hal ini dilakukan dengan menggunakan pustaka strategi pemecahan masalah yang telah terbukti.
• Instansiasi adaptif
• BoT tidak sekadar menerapkan templat pemikiran secara kaku.
• Ia menyesuaikannya dengan masalah spesifik yang dihadapi.
• Pendekatan yang konsisten
• BoT mengurangi peluang terjadinya kesalahan acak.
• Hal ini dicapai dengan menggunakan strategi serupa untuk masalah yang serupa.

Efisiensi penalaran

BoT sangat meningkatkan efisiensi penalaran LLM, menghemat waktu dan sumber daya komputasi:

• Pemanfaatan struktur historis: Alih-alih selalu mulai dari nol, BoT menggunakan kembali dan menyesuaikan pola penalaran yang telah terbukti.
• Proses yang lebih ringkas: BoT menghindari kebutuhan proses multi-kueri yang kompleks seperti pada metode penalaran LLM lainnya.
• Beban komputasi berkurang: BoT memerlukan daya pemrosesan jauh lebih sedikit per tugas dengan memanfaatkan templat pemikiran.

Ketangguhan model

BoT meningkatkan ketangguhan LLM, membuatnya lebih andal dan konsisten di berbagai tugas:

• Pendekatan pemecahan masalah yang konsisten: BoT memastikan masalah serupa ditangani dengan cara yang serupa dengan memanfaatkan proses berpikir terstruktur seperti manusia.
• Kemampuan beradaptasi pada skenario baru: Kemampuan kerangka kerja untuk mengenali tugas baru dan menerapkan templat umum membuatnya tangguh dalam situasi yang belum dikenal.
• Sensitivitas terhadap variasi masukan berkurang: BoT kurang terpengaruh oleh perubahan kecil pada perumusan masalah karena berfokus pada struktur pemikiran tingkat tinggi.

Hasil Eksperimental

Kerangka kerja Buffer of Thoughts (BoT) telah diuji pada beragam tugas dengan hasil yang mengesankan. Untuk informasi lebih rinci, lihat makalah dan repositori GitHub, tempat hasil yang dibahas pada bagian ini disajikan lebih detail.

BoT dievaluasi pada 10 tugas menantang yang intensif penalaran, menunjukkan daya guna dan efektivitas. Tugas-tugas ini mencakup:

• Game of 24
• Geometric Shapes
• Checkmate-in-One
• Word Sorting

Tugas-tugas ini dipilih untuk merepresentasikan beragam skenario penalaran kompleks, mulai dari pemecahan masalah matematika hingga strategi permainan dan manipulasi bahasa.

BoT menunjukkan peningkatan kinerja yang signifikan dibanding metode terbaik sebelumnya:

• Peningkatan 11% pada Game of 24
• Peningkatan 20% pada Geometric Shapes
• Peningkatan 51% pada Checkmate-in-One

Yang khususnya mengesankan, BoT meraih hasil ini sambil hanya memerlukan sekitar 12% dari biaya komputasi dibanding metode multi-kueri!

Ditemukan pula bahwa menerapkan BoT dengan model bahasa yang lebih kecil, seperti Llama3-8B, berpotensi melampaui performa model yang lebih besar seperti Llama3-70. Temuan ini menunjukkan bahwa BoT dapat secara signifikan meningkatkan kapabilitas model bahasa yang lebih ringkas dan efisien.

Hasil ini menunjukkan bahwa BoT dapat meningkatkan akurasi sambil tetap efisien dan tangguh di berbagai tugas penalaran. Konsistensi hasil menyoroti peningkatan performa BoT yang andal. Namun, verifikasi independen lebih lanjut dan pengujian pada tugas yang lebih beragam tetap diperlukan untuk sepenuhnya memahami kapabilitas dan keterbatasan BoT.

Kesimpulan

Kita telah membahas banyak hal hari ini, jadi mari kita tutup dengan beberapa poin penting dan pandangan tentang arah BoT ke depan.

Itu saja untuk eksplorasi Buffer of Thoughts kita. Saya harap tutorial ini memberi Anda pemahaman yang jelas tentang konsep kunci, cara kerja, manfaat, dan potensi dampaknya pada penalaran AI.

Terima kasih sudah membaca, sampai jumpa di lain waktu!

Jika Anda ingin mempelajari lebih lanjut tentang prompt engineering, saya merekomendasikan blog berikut:

• Prompt Compression: Panduan dengan Contoh Python
• Prompt Chaining untuk LLM
• Apa Itu DSPy? Cara Kerja, Use Case, dan Sumber Daya
• Memahami Prompt Tuning