Panduan OpenAI o1: Cara Kerja, Use Case, API, dan Lainnya

Cara Kerja OpenAI o1

Hal pertama yang akan Anda perhatikan saat berinteraksi dengan o1 adalah waktu yang dibutuhkan terasa lebih lama untuk menghasilkan respons dibandingkan GPT-4o. Jeda yang disengaja ini mencerminkan penekanan model pada penalaran. O1 menghabiskan lebih banyak waktu untuk “berpikir” sebelum merespons, memungkinkannya menangani tugas kompleks dan memecahkan masalah yang lebih sulit dalam logika, matematika, pengkodean, dan sains.

OpenAI o1-preview sedang mengatasi masalah logika

Reinforcement learning dan chain-of-thought

Keunggulan penalaran o1 dicapai melalui kombinasi reinforcement learning dan penalaran chain-of-thought.

Melalui reinforcement learning, model belajar menyempurnakan proses berpikirnya, mengeksplorasi strategi berbeda, mengenali kesalahan, dan menyesuaikan pendekatannya untuk mencapai solusi yang paling akurat dan logis.

Di sisi lain, penalaran chain-of-thought adalah teknik untuk memecah masalah kompleks menjadi komponen yang lebih kecil dan mudah ditangani. Pendekatan ini memungkinkan o1 untuk ‘berpikir sebelum menjawab,’ seperti menyusun langkah-langkah resep rumit secara cermat sebelum mulai memasak.

Dengan secara eksplisit menguraikan proses penalarannya, o1 dapat mengidentifikasi potensi kesalahan sejak awal dan meningkatkan peluang untuk mencapai solusi yang benar, sebagaimana manusia lebih kecil kemungkinannya membuat kesalahan saat kita menguraikan alur pikir dengan saksama.

Fakta bahwa OpenAI o1 menggunakan penalaran chain-of-thought membuatnya sangat efektif di bidang seperti matematika, sains, dan pengkodean, di mana mendapatkan jawaban yang benar sering kali memerlukan banyak langkah.

Paradigma baru dalam alokasi komputasi

Pembedaan kunci OpenAI o1 terletak pada realokasi strategis sumber daya komputasi. Sementara LLM tradisional terutama berfokus pada dataset pra-pelatihan yang masif, o1 menggeser penekanan ke fase pelatihan dan inferensi.

Pergeseran ini menunjukkan bahwa mengalokasikan lebih banyak komputasi ke tahap-tahap tersebut dapat menghasilkan peningkatan signifikan dalam kemampuan penalaran kompleks.

Sumber: OpenAI

Bagan di atas menunjukkan dampak peningkatan sumber daya komputasi pada kinerja model o1 OpenAI saat menghadapi AIME (American Invitational Mathematics Examination) yang menantang. Terdapat dua grafik, masing-masing memplot akurasi model terhadap daya komputasi yang didedikasikan untuk pelatihan atau pengujian (inferensi).

Korelasi positif yang jelas terlihat pada kedua grafik: seiring meningkatnya sumber daya komputasi, akurasi model dalam menyelesaikan soal AIME pada percobaan pertama juga meningkat. Secara khusus, hubungan tersebut lebih nyata pada grafik waktu pengujian, yang menunjukkan bahwa memberi model lebih banyak waktu untuk “berpikir” saat memecahkan masalah menghasilkan peningkatan kinerja yang signifikan.

Pengamatan ini menegaskan sifat o1 yang intensif komputasi, menyoroti ketergantungannya pada sumber daya komputasi yang besar. Namun, tren kenaikan pada kedua grafik juga menyiratkan bahwa peningkatan akurasi lebih lanjut dimungkinkan dengan komputasi yang lebih besar, membuka peluang menjanjikan bagi pengembangan kemampuan penalaran AI di masa depan.

Benchmark OpenAI O1: Lebih Unggul pada Tugas yang Menuntut Penalaran

Untuk menampilkan kemampuan penalaran o1 yang lebih baik dibandingkan GPT-4o, OpenAI mengevaluasi model pada berbagai benchmark matematika, pengkodean, dan sains yang menantang.

Ujian manusia

Ujian manusia menunjukkan bahwa o1 secara konsisten melampaui GPT-4o dan o1-preview.

Batang solid menunjukkan akurasi pass@1 dan area berbayang menunjukkan kinerja voting mayoritas (konsensus) dengan 64 sampel. Sumber: OpenAI

Mungkin pengamatan yang paling mencolok adalah lompatan besar dalam kinerja antara GPT-4o dan o1 (bahkan o1-preview) pada benchmark matematika dan pengkodean.

Dan meskipun peningkatan di domain sains kurang menonjol, patut dicatat bahwa baik o1-preview maupun model o1 yang dioptimalkan sepenuhnya melampaui pakar manusia pada pertanyaan sains tingkat PhD. Ini menunjukkan potensi o1 untuk mengatasi masalah dunia nyata yang rumit dan bahkan melampaui kinerja manusia di domain tertentu.

Benchmark ML

Melihat hasil pada benchmark ML, kemajuan penalaran o1 cukup jelas. Pada MathVista (benchmark matematika) dan MMLU, o1 menunjukkan peningkatan akurasi yang substansial dibandingkan GPT-4o.

Sumber: OpenAI

Versi khusus o1, yang dikenal sebagai o1-ioi, menunjukkan kemampuan pengkodean yang unggul dengan meraih peringkat persentil ke-49 pada International Olympiad in Informatics 2024, bahkan di bawah kondisi kompetisi yang ketat.

Dalam kontes simulasi (lihat bagan di bawah), kinerja o1-ioi melesat lebih tinggi lagi, melampaui 93% pesaing.

Sumber: OpenAI

Use Case OpenAI o1

Kemampuan penalaran OpenAI o1 membuatnya sangat cocok untuk memecahkan masalah kompleks dalam sains, pengkodean, dan matematika.

Riset ilmiah

Peneliti kesehatan, misalnya, dapat memanfaatkan o1 untuk memberi anotasi data pengurutan sel yang rumit, sementara para fisikawan dapat menggunakannya untuk menghasilkan rumus matematis canggih yang dibutuhkan untuk riset optika kuantum.

Pengkodean

Mulai dari menyarankan optimasi kode dan menghasilkan test case hingga mengotomatiskan code review dan memfasilitasi berbagi pengetahuan, o1 berpotensi meningkatkan produktivitas pengembang secara signifikan dan menyederhanakan alur kerja.

Selain itu, kemampuan o1 untuk memahami dan menghasilkan kode memperluas kegunaannya melampaui sekadar pengkodean. Ia dapat membantu dalam perencanaan proyek, analisis kebutuhan, dan perancangan arsitektur perangkat lunak, membantu pengembang menyusun solusi yang lebih efektif.

Walaupun kapabilitas penuh o1 masih dikembangkan, fitur-fiturnya saat ini sudah menjanjikan. Seiring OpenAI terus menyempurnakan modelnya, o1 kemungkinan akan menjadi alat yang berharga bagi para pengembang, mendorong inovasi dan memengaruhi masa depan pengembangan perangkat lunak.

Seperti dijelaskan pada bagian benchmark, model o1 menunjukkan potensi besar di bidang pengkodean.

Matematika

Bidang matematika juga dapat merasakan manfaat signifikan dari kemampuan penalaran tingkat lanjut o1. Performa kuatnya pada benchmark seperti AIME menunjukkan potensi aplikasi dalam menyelesaikan persamaan kompleks, membuktikan teorema, dan mengeksplorasi konsep matematika baru, menguntungkan baik bagi siswa maupun peneliti.

Use case yang menuntut penalaran

Di luar domain spesifik, fokus o1 pada penalaran dapat menjadikannya aset berharga untuk tugas apa pun yang memerlukan pemikiran kritis dan deduksi logis. Mulai dari memecahkan teka-teki dan riddles hingga menganalisis argumen kompleks dan memfasilitasi pengambilan keputusan yang terinformasi, o1 dapat membuka cara baru untuk pemecahan masalah.

Cara Mengakses OpenAI o1

Jika Anda memiliki langganan ChatGPT Plus atau ChatGPT Team, Anda dapat mengakses model o1 langsung di antarmuka ChatGPT. Pilih o1 dari menu dropdown pemilih model di bagian atas halaman. 

Perlu diingat bahwa dengan akun ChatGPT Plus atau Team, Anda mendapatkan 50 pesan per minggu dengan OpenAI o1 dan 50 pesan per hari dengan OpenAI o1-mini untuk memulai.

OpenAI o1 API

Meskipun o1 dapat diakses di ChatGPT bagi pelanggan Plus dan Team, pengembang dan peneliti yang membutuhkan fleksibilitas dan opsi integrasi lebih besar akan menemukan OpenAI o1 API lebih sesuai dengan kebutuhan mereka.

Batasan beta

Meskipun model o1 sudah keluar dari pratinjau di antarmuka chat, pada saat artikel ini ditulis (6 Desember 2024), API hanya menyediakan akses ke dua varian model o1:

• o1-preview: Ini adalah pratinjau awal dari model o1 penuh, dirancang untuk menghadapi masalah kompleks yang memerlukan pengetahuan umum yang luas.
• o1-mini: Versi o1 yang lebih cepat dan hemat biaya, sangat cocok untuk tugas dalam pengkodean, matematika, dan sains di mana pengetahuan umum yang luas mungkin tidak diperlukan.

Baik o1-preview maupun o1-mini dapat diakses melalui endpoint chat completions, sehingga mudah untuk mengintegrasikannya ke dalam proyek yang sudah ada. Prosesnya melibatkan pemilihan model yang diinginkan (misalnya, model="o1-preview") saat melakukan panggilan API. Untuk mempelajari langkah demi langkah cara menggunakan o1 melalui API, baca tutorial ini: Tutorial OpenAI O1 API: Cara Terhubung ke OpenAI API.

Karena o1 saat ini masih beta, parameter dan fitur API tertentu belum didukung. Ini termasuk:

• Modalitas: Saat ini, hanya input dan output teks yang didukung; penanganan gambar belum tersedia.
• Jenis pesan: Pesan sistem tidak didukung; hanya pesan user dan assistant yang diizinkan.
• Streaming: Fitur streaming belum tersedia untuk model o1.
• Tools dan function calling: Kemampuan tingkat lanjut ini saat ini belum didukung.
• Logprobs: Probabilitas log belum tersedia.
• Parameter lain: Parameter seperti temperature, top_p, dan n ditetapkan ke 1, sementara presence_penalty dan frequency_penalty ditetapkan ke 0.
• Assistants dan Batch API: Model o1 belum terintegrasi dengan Assistants API atau Batch API.

OpenAI berencana secara bertahap menambahkan dukungan untuk beberapa parameter dan fitur ini seiring o1 keluar dari beta. Fungsionalitas yang lebih canggih seperti multimodalitas dan penggunaan tool dijadwalkan untuk disertakan dalam iterasi seri o1 mendatang.

Memahami reasoning token

Aspek kunci dari model o1 adalah pengenalan "reasoning token." Token ini merepresentasikan proses berpikir internal model saat ia menguraikan prompt, mempertimbangkan berbagai pendekatan, dan merumuskan respons. Meskipun reasoning token ini tidak terlihat melalui API, token tersebut menghabiskan ruang dalam jendela konteks model dan berkontribusi pada jumlah token keseluruhan, yang berdampak pada penagihan.

Sumber: OpenAI

Jendela konteks dan biaya

Baik o1-preview maupun o1-mini menawarkan jendela konteks sebesar 128.000 token. Namun, setiap completion memiliki batas maksimum pada total jumlah token output yang dihasilkan, termasuk reasoning token yang tidak terlihat dan token completion yang terlihat. Untuk menghindari biaya tak terduga dan memastikan model memiliki ruang yang cukup untuk “berpikir,” sangat penting untuk mengelola jendela konteks secara efektif dan menetapkan batas yang sesuai menggunakan parameter max_completion_tokens.

Praktik terbaik untuk prompting

Untuk hasil optimal dengan model o1, buat prompt Anda sederhana dan langsung. Hindari teknik seperti few-shot prompting atau secara eksplisit menginstruksikan model untuk “berpikir selangkah demi selangkah,” karena hal tersebut dapat menghambat alih-alih meningkatkan kinerja. Gunakan delimiter untuk menyusun input Anda dengan jelas dan, dalam skenario retrieval-augmented generation, sediakan hanya konteks yang paling relevan agar model tidak terlalu mempersulit responsnya.

Apa Itu OpenAI o1-mini?

Bersamaan dengan model o1-preview yang lengkap, OpenAI juga merilis o1-mini, varian yang lebih kecil dan lebih cepat yang dirancang untuk memberikan titik awal yang lebih mudah diakses bagi pengembang dan peneliti dalam mengeksplorasi kapabilitas seri o1.

Meskipun o1-mini mungkin tidak memiliki kedalaman pengetahuan umum yang sama seperti saudaranya yang lebih besar, ia unggul dalam tugas yang menuntut keterampilan penalaran terfokus, khususnya di ranah pengkodean, matematika, dan sains.

Ukurannya yang lebih kecil berdampak pada waktu respons yang lebih cepat dan kebutuhan komputasi yang lebih rendah, menjadikannya pilihan praktis untuk aplikasi di mana kecepatan dan efisiensi penting.

Walaupun o1-mini saat ini masih beta dan memiliki keterbatasan tertentu, model ini memberikan gambaran tentang potensi seri o1 dan fokusnya pada peningkatan kemampuan penalaran AI. Seiring OpenAI terus menyempurnakan dan mengembangkan model o1, kita dapat berharap o1-mini berevolusi seiring saudaranya yang lebih besar, menyediakan alat yang semakin kuat dan serbaguna untuk berbagai aplikasi.

Apa Itu O1 Pro Mode?

Selain model o1 standar, OpenAI juga memperkenalkan o1 pro mode. Model ini dirancang untuk pengguna yang memerlukan kemampuan penalaran yang lebih canggih lagi dan bersedia mengorbankan sebagian kecepatan demi peningkatan akurasi serta kemampuan menangani tugas yang sangat kompleks.

o1 pro mode memanfaatkan daya komputasi yang jauh lebih besar dibandingkan model o1 standar. Hal ini memungkinkan model untuk “berpikir lebih lama” dan “berpikir lebih keras” guna menghasilkan respons yang lebih andal, terutama untuk masalah menantang di bidang seperti data science, pemrograman, dan analisis yurisprudensi.

Untuk mengakses o1 pro mode, Anda memerlukan langganan ChatGPT Pro. Langganan ini memberi Anda penggunaan tak terbatas untuk o1 dan o1 pro mode, serta model dan fitur canggih lainnya.

Kami membahas o1 pro mode secara mendalam dalam artikel terpisah: Apa Itu O1 Pro Mode dari OpenAI? Fitur, ChatGPT Pro, dan Lainnya.

Keterbatasan OpenAI o1

Meskipun OpenAI o1-preview menawarkan kapabilitas yang mengesankan, ada beberapa keterbatasan yang perlu diperhatikan. Batasan-batasan ini dapat memengaruhi kegunaannya dalam konteks tertentu, jadi ada baiknya Anda mengetahui hal-hal berikut.

Chain of thought tersembunyi

Untuk memastikan potensi pemantauan dan peningkatan keamanan di masa depan, proses penalaran chain-of-thought mentah yang digunakan o1 tidak terlihat langsung oleh pengguna. Meskipun keputusan ini bertujuan untuk memungkinkan pengawasan model yang lebih efektif, hal ini membatasi transparansi dan dapat memengaruhi pemahaman pengguna tentang proses pengambilan keputusan model.

Belum dapat menjelajah web

OpenAI o1-preview tidak dapat menjelajah web, yang berarti informasi yang diberikannya mungkin tidak selalu terbaru. Jika Anda mencari data waktu nyata atau peristiwa terkini, model tidak akan dapat mengambilnya secara langsung.

Waktu respons lebih lama

Salah satu keterbatasan yang paling terlihat adalah model memerlukan waktu yang relatif lama untuk memproses kueri kompleks. Meskipun waktu ekstra ini memungkinkan model menghasilkan respons yang lebih matang, hal ini dapat menyebabkan penundaan bagi pengguna yang mengharapkan jawaban lebih cepat.

Tidak cocok untuk aplikasi latensi rendah

Karena waktu responsnya yang lebih lambat, OpenAI o1 tidak ideal untuk aplikasi yang memerlukan interaksi cepat, seperti chatbot waktu nyata atau layanan penerjemahan. Dalam use case ini, penundaan dapat menghasilkan pengalaman pengguna yang buruk, karena menunggu beberapa detik untuk mendapatkan respons terasa membuat frustrasi.

Jika model diterapkan dalam situasi yang kekuatannya tidak selaras dengan tugas, hal itu dapat menghasilkan pengalaman pengguna yang negatif. Ini terutama benar untuk skenario yang memerlukan respons cepat secara langsung, di mana waktu pemrosesan model yang lebih lambat dapat menjadi hambatan alih-alih manfaat.

Keamanan OpenAI o1

Model o1 yang baru menampilkan pendekatan pelatihan keamanan yang menggunakan kemampuan penalarannya untuk keamanan in-context yang lebih baik.

Langkah keselamatan kunci adalah menguji ketahanan model terhadap upaya “jailbreaking”, ketika pengguna mencoba melewati aturan keselamatan. Dalam uji jailbreaking yang menantang, GPT-4o mencetak 22 dari 100, sedangkan model o1-preview yang lebih baru meraih 84, menunjukkan peningkatan substansial.

Upaya keselamatan diperkuat melalui pengujian ketat, tata kelola internal, dan kolaborasi dengan pemerintah federal. Ini mencakup penggunaan Preparedness Framework, red teaming, dan tinjauan setingkat dewan oleh Safety & Security Committee mereka.

Selain itu, kemitraan dengan U.S. dan U.K. AI Safety Institutes telah diformalkan, memberi mereka akses awal ke versi riset dari model-model tersebut.

Namun, penting untuk menyikapi hasil awal ini dengan optimisme yang berhati-hati.

Masa Depan: Seri O OpenAI

Pengenalan OpenAI o1 bukan hanya model baru melainkan awal dari sebuah seri baru: Seri O OpenAI. Ini menandakan pergeseran strategis yang disengaja dalam arah OpenAI, menekankan kemampuan penalaran kompleks sebagai fokus inti untuk pengembangan AI di masa depan.

Hasil awal yang mengesankan dari o1 dan o1 pro mode, terutama performanya yang kuat pada benchmark yang memerlukan pemecahan masalah rumit, menunjukkan bahwa seri baru ini memiliki prospek yang signifikan.

Seiring OpenAI terus menyempurnakan dan memperluas kapabilitas model seri o, kita dapat mengantisipasi masa depan di mana AI memainkan peran yang lebih aktif dalam penemuan ilmiah, pengembangan perangkat lunak, dan bidang lain yang memerlukan keterampilan kognitif tingkat lanjut.

Namun, jalan untuk mewujudkan sepenuhnya potensi Seri O tidak tanpa tantangan. Sifat model-model ini yang intensif komputasi dan batasan penskalaan unik yang mereka hadirkan memerlukan riset dan pengembangan berkelanjutan.

Kesimpulan

Sementara kita menantikan kedatangan GPT-5 tahun ini, OpenAI mengejutkan kita dengan memperkenalkan o1, model yang memprioritaskan kemampuan penalaran kompleks.

Keberhasilan awal o1 di berbagai benchmark menunjukkan potensinya untuk mengatasi masalah menantang di bidang seperti matematika, pengkodean, dan riset ilmiah.

Terlepas dari kapabilitasnya yang menjanjikan, o1 masih pada tahap awal dan menghadapi tantangan, termasuk sifatnya yang intensif komputasi dan kebutuhan akan riset berkelanjutan terkait keselamatan dan penerapan etis.