OpenAI Umumkan GPT-4 Turbo dengan Vision: Yang Kami Ketahui Sejauh Ini

Pada OpenAI DevDay baru-baru ini, organisasi tersebut membuat pengumuman yang sangat dinantikan: peluncuran GPT-4 Turbo, peningkatan pada model AI terobosan mereka. Di sini, kami membahas secara komprehensif apa itu GPT-4 Turbo, fitur-fiturnya yang utama, dan bagaimana ini dapat memberi manfaat bagi pengembang serta pengguna.

Dalam artikel terpisah, Anda dapat membaca lebih lanjut tentang GPTs dan ChatGPT Store, serta Assistants API, yang juga diumumkan pada Dev Day.

Apa itu GPT-4 Turbo?

GPT-4 Turbo adalah pembaruan dari model bahasa besar GPT-4 yang sudah ada. Pembaruan ini menghadirkan sejumlah peningkatan, termasuk jendela konteks yang jauh lebih besar dan akses ke pengetahuan yang lebih mutakhir. OpenAI secara bertahap telah meningkatkan kapabilitas GPT-4 di ChatGPT dengan penambahan instruksi khusus, plugin ChatGPT, DALL-E 3, dan Advanced Data Analytics. Pembaruan terbaru ini membawa banyak fitur baru yang menarik.

Apa itu GPT-4 Turbo dengan Vision?

GPT-4 Turbo dengan vision adalah varian dari GPT-4 Turbo yang menyertakan kapabilitas optical character recognition (OCR). Artinya, Anda dapat memberinya sebuah gambar, dan ia dapat mengembalikan teks apa pun yang terdapat dalam gambar tersebut. Misalnya, Anda dapat memasukkan foto menu, dan model ini akan mengembalikan pilihan makanan yang tertulis pada foto tersebut. Demikian pula, Anda dapat memberikan foto faktur dan mengekstrak nama vendor serta rincian item secara otomatis.

Fitur "dengan vision" akan tersedia secara default di ChatGPT, dan tersedia bagi pengembang dengan memilih model "gpt-4-vision" di OpenAI API.

Fitur Utama GPT-4 Turbo

GPT-4 Turbo menghadirkan beberapa peningkatan dibandingkan model sebelumnya, sehingga kapabilitasnya kian meningkat. Berikut beberapa fitur utama yang membuatnya menonjol:

Batas pengetahuan yang diperbarui

Sam Altman berjanji memastikan ChatGPT tetap terkini

Versi GPT-3.5 dan GPT-4 yang ada sebelumnya memiliki batas pengetahuan pada September 2021. Artinya, model tersebut tidak dapat menjawab pertanyaan tentang peristiwa nyata yang terjadi setelah waktu itu, kecuali diberi akses ke sumber data eksternal.

GPT-4 memperpanjang batas pengetahuan selama sembilan belas bulan menjadi April 2023. Ini berarti GPT-4 Turbo memiliki akses ke informasi dan peristiwa hingga tanggal tersebut, menjadikannya sumber informasi yang lebih terinformasi dan andal. Selain itu, CEO OpenAI, Sam Altman, berjanji bahwa "[OpenAI] akan berusaha agar [GPT] tidak ketinggalan zaman lagi."

Jendela konteks 128K

Jendela konteks sebuah large language model (LLM) adalah ukuran seberapa lama memori percakapannya bertahan. Jika sebuah model memiliki jendela konteks 4.000 token (sekitar 3.000 kata), maka segala sesuatu dalam chat yang melampaui 4.000 token yang lalu akan diabaikan, dan tanggapannya bisa menjadi kurang akurat atau bahkan bertentangan dengan respons sebelumnya. Ini menjadi masalah saat bekerja dengan dokumen lebih panjang, atau untuk chatbot yang melakukan percakapan berkepanjangan.

GPT-4 memiliki panjang konteks maksimum 32k (32.000) token. GPT-4 Turbo meningkatkan ini menjadi 128k token (sekitar 240 halaman dengan 400 kata per halaman). Ini melampaui konteks maksimum 100k pada model Claude 2 milik Anthropic dan menyetarakannya dengan model YARN-MISTRAL-7b-128k dari Nous Research.

Masih perlu dilihat apakah jendela konteks yang lebih panjang menghasilkan kinerja respons yang memuaskan di seluruh jendela. Riset terbaru dari Stanford University menunjukkan bahwa model konteks panjang yang ada hanya dapat memberikan respons akurat saat mengambil informasi dari dekat awal atau akhir dokumen.

Perlu juga dicatat bahwa 128k tampaknya hanyalah batu loncatan menuju impian "konteks tak terbatas". Riset tahap awal dari Microsoft dan Universitas Xi'an Jiaotong menargetkan untuk menskalakan LLM hingga satu miliar token konteks.

GPT dijual lebih murah

OpenAI menanggapi meningkatnya persaingan di pasar LLM dan menurunkan harga GPT-4 Turbo agar ramah anggaran bagi pengembang. Saat menggunakan OpenAI API, harga token input GPT-4 Turbo kini sepertiga dari harga sebelumnya, turun dari 3 sen AS menjadi 1 sen AS per 1000 token. Token output kini setengah harga, turun dari 6 sen AS menjadi 3 sen AS per 1000 token.

Tren yang sama berlanjut pada model GPT-3.5 Turbo, menawarkan token input 3x lebih murah pada 0,1 sen AS per 1000 token dan token output 2x lebih murah pada 0,2 sen AS per 1000 token.

Selain itu, token input model GPT-3.5 Turbo 4K yang disetel khusus kini 4x lebih terjangkau, dengan harga turun dari 1,2 sen AS menjadi 0,3 sen AS per 1000 token, dan token output 2,7x lebih murah, turun dari 1,6 sen AS menjadi 0,6 sen AS per 1000 token. Harga pelatihan tetap sama pada 0,8 sen AS per 1000 token.

Penyesuaian harga ini bertujuan agar model AI tingkat lanjut lebih hemat biaya bagi para pengembang.

GPT menjadi multimodal: prompt gambar & text-to-speech

"GPT-4 Turbo dengan vision" diumumkan akan segera hadir. Anda segera dapat memberi prompt ke GPT-4 Turbo menggunakan gambar sebagai prompt dengan memasukkannya langsung ke kotak chat. Alat ini kemudian dapat menghasilkan takarir atau memberikan deskripsi tentang apa yang ditampilkan gambar. Alat ini juga akan menangani permintaan text-to-speech.

Pembaruan function calling

Function calling adalah fitur bagi pengembang yang mengintegrasikan AI generatif ke dalam aplikasi mereka. Fitur ini memungkinkan mereka mendeskripsikan fungsi dari aplikasi atau API eksternal kepada GPT-4 Turbo. Dengan kemampuan memanggil beberapa fungsi dalam satu pesan, fitur ini menyederhanakan interaksi dengan model. Misalnya, pengguna dapat mengirim satu pesan yang meminta beberapa tindakan sekaligus, menghilangkan kebutuhan bolak-balik berkali-kali dengan model.

Cara Mengakses GPT-4 Turbo

Akses ke GPT-4 Turbo tersedia untuk "semua pengembang berbayar," artinya jika Anda memiliki akses API, Anda cukup meneruskan "gpt-4-1106-preview" sebagai nama model di OpenAI API. Demikian pula, untuk GPT-4 Turbo dengan vision, Anda dapat meneruskan "gpt-4-vision-preview" sebagai nama model.

Perlu dicatat bahwa model pratinjau ini belum dianggap cocok untuk penggunaan produksi. Namun, sebagai bagian dari pengumuman, Altman juga menjanjikan versi siap produksi akan tersedia dalam beberapa minggu mendatang.

Bagi non-pengembang, GPT-4 Turbo kemungkinan akan tersedia untuk pengguna ChatGPT Plus dan ChatGPT Enterprise dalam beberapa minggu mendatang.

Batas permintaan (rate limits)

Akses ke model GPt melalui OpenAI API memiliki batas laju. Artinya, Anda hanya dapat membuat sejumlah permintaan terbatas ke API per bulan. OpenAI kini telah menerbitkan pedoman yang lebih jelas tentang cara kerja batas tersebut, sehingga aplikasi Anda tidak akan terputus secara tak terduga.

Selain itu, batas laju untuk GPT-4 telah digandakan

Karena GPT-4 Turbo saat ini berada pada tahap pratinjau, batas laju untuk GPT-4 Turbo ditetapkan pada 20 permintaan per menit dan 100 permintaan per hari. OpenAI mengindikasikan bahwa mereka tidak akan mengakomodasi peningkatan batas laju untuk model ini saat ini. Namun, kemungkinan akan dilakukan setelah versi publik tersedia.

Penutup

Pengumuman GPT-4 Turbo memberikan gambaran menarik tentang masa depan AI generatif, dan kami tidak sabar untuk mencobanya lebih jauh. Jika Anda baru mulai mempelajari semua hal tentang GPT, lihat kursus Introduction to ChatGPT kami. Bagi yang mencari pembahasan lebih mendalam, tutorial kami tentang penggunaan GPT-3.5 dan GPT-4 melalui OpenAI API di Python menyediakan banyak hal untuk dieksplorasi.