Kursus
Memahami ChatGPT
1 jam
436.4K
Fitur OpenAI API
Berikut beberapa fitur utama yang menjadikan OpenAI API alat berharga bagi siapa pun yang ingin mengadopsi AI dalam bisnisnya:
1. Model AI pra-latih
Model pra-latih adalah model pembelajaran mesin yang telah dilatih pada dataset besar, sering kali untuk tugas umum, sebelum digunakan untuk tugas khusus. Tim OpenAI telah melatih dan merilis model-model ini dalam bentuk API, artinya “sekali dilatih, digunakan berkali-kali,” yang dapat menghemat waktu dan sumber daya secara signifikan.
Beberapa model yang dirilis antara lain:
- GPT-4: Versi yang ditingkatkan dari model GPT-3.5, mampu memahami dan membuat teks maupun kode.
- GPT-3.5:: Versi yang ditingkatkan dari model GPT-3, mampu memahami dan menghasilkan teks atau kode.
- GPT Base: Model yang dapat memproses dan menghasilkan teks atau kode, tetapi tidak memiliki kemampuan mengikuti instruksi.
- DALL·E: Model yang membuat dan memodifikasi gambar berdasarkan perintah teks.
- Whisper: Mengubah masukan audio menjadi teks tertulis.
- Embeddings: Model yang mengubah teks menjadi nilai numerik.
- Moderation: Model yang di-fine-tune untuk mengidentifikasi teks yang berpotensi sensitif atau tidak aman.
Model-model ini telah dilatih pada data yang sangat besar dan memanfaatkan daya komputasi yang sangat tinggi, yang sering kali tidak tersedia atau terjangkau bagi individu atau bahkan banyak organisasi. Kini, ilmuwan data dan pelaku bisnis dapat dengan mudah memanfaatkan model pra-latih dalam bentuk API.
2. Model AI yang dapat disesuaikan
Menyesuaikan model di OpenAI API terutama melibatkan proses yang dikenal sebagai fine-tuning, yang memungkinkan pengguna menyesuaikan model pra-latih agar lebih sesuai dengan use case spesifik mereka.
OpenAI API memungkinkan kita mengambil model pra-latih dan menggunakan data pelatihan kita, melatih ulang model lebih lanjut, lalu menggunakan model hasil fine-tune untuk use case kita. Anda dapat membaca lebih lanjut tentang proses fine-tuning model GPT-3 di sini. Fine-tuning menghemat biaya dan memungkinkan permintaan berlatensi lebih rendah untuk aplikasi hilir.
3. Antarmuka API yang sederhana
Platform OpenAI API intuitif dan sederhana untuk digunakan pemula. Hanya dengan beberapa baris kode, berkat dokumentasi yang komprehensif dan contoh quick start, memulai penggunaan API untuk use case Anda menjadi mudah tanpa harus menaklukkan kurva belajar yang curam.
Kesederhanaan ini membantu individu yang baru memulai karier data, sehingga langkah masuk ke AI terasa kurang menakutkan dan lebih menarik.
4. Infrastruktur yang skalabel
OpenAI telah menskalakan klaster Kubernetes hingga 7.500 node untuk menyediakan infrastruktur yang dapat diskalakan bagi model besar seperti GPT-3, CLIP, dan DALL·E, serta untuk riset iteratif skala kecil yang cepat. Azure OpenAI Service berjalan di infrastruktur global Azure untuk memenuhi kebutuhan produksi seperti keamanan perusahaan yang kritis, kepatuhan, dan ketersediaan regional, yang menunjukkan infrastruktur skalabel guna mendukung penggunaan OpenAI API.
Saat proyek Anda menjadi lebih besar dan kompleks, Anda memerlukan infrastruktur yang dapat tumbuh bersama proyek tersebut. Kemampuan OpenAI API untuk menskalakan saat penggunaan meningkat sangat berguna ketika Anda beralih dari proyek kecil ke proyek yang lebih besar dan menuntut, menjadikan OpenAI API alat yang andal untuk proyek Anda.
Use Case Industri untuk OpenAI API
Lebih dari 300 aplikasi kini memanfaatkan GPT-3 melalui OpenAI API, yang menunjukkan beragam aplikasi kreatif dan unik yang dikembangkan di seluruh dunia. Berikut beberapa aplikasi industri umum dari OpenAI API:
1. Chatbot dan asisten virtual
Kemampuan OpenAI API untuk memahami dan menghasilkan teks seperti manusia menjadikannya kandidat utama untuk membuat chatbot dan asisten virtual yang cerdas. Model pra-latih seperti GPT-4 atau ChatGPT dapat digunakan untuk menggerakkan agen percakapan yang dapat berinteraksi dengan pengguna secara alami dan intuitif. Agen ini dapat diterapkan di situs web, aplikasi, atau platform layanan pelanggan untuk meningkatkan keterlibatan pengguna dan menyediakan dukungan otomatis.
2. Analisis sentimen
Analisis Sentimen berkaitan dengan memahami sentimen di balik data tekstual. Dengan OpenAI API, Anda dapat menganalisis ulasan pelanggan, komentar media sosial, atau data tekstual apa pun untuk mengukur opini publik atau kepuasan pelanggan. Dengan memanfaatkan model seperti GPT-4 atau 3.5, Anda dapat mengotomatiskan proses analisis sentimen, memperoleh wawasan yang dapat menjadi penentu strategi bisnis.
3. Pengenalan gambar
Meskipun OpenAI sering dikaitkan dengan pemrosesan teks, OpenAI juga merambah ke ranah pengenalan gambar dengan model seperti CLIP. CLIP adalah model yang mempelajari konsep visual dari deskripsi bahasa alami dan dapat digunakan melalui OpenAI API untuk tugas seperti deteksi objek, klasifikasi gambar, dan lainnya. Ini membuka peluang di berbagai bidang, termasuk layanan kesehatan, di mana pengenalan gambar dapat digunakan untuk mengidentifikasi kondisi medis dari data pencitraan.
4. Gim dan reinforcement learning
OpenAI API juga menemukan penerapannya di industri gim dan lingkungan reinforcement learning. Model dapat dilatih atau di-fine-tune untuk berinteraksi dengan lingkungan gim, membuat keputusan yang dapat memainkan gim secara otonom atau membantu pemain dalam permainan.
OpenAI telah mencontohkannya dengan model seperti Dactyl, yang belajar menyelesaikan kubus Rubik menggunakan reinforcement learning, dan OpenAI Five, yang bertanding melawan pemain manusia dalam gim Dota 2.
Sekarang setelah kita memahami OpenAI API dan use case-nya, mari praktik langsung dan mulai menggunakannya.
Praktik Langsung: Memulai dengan OpenAI API
Anggaplah Anda benar-benar pemula di OpenAI API dan mari kita bantu Anda melakukan panggilan API pertama secara bertahap.
Langkah 1: Buat akun platform OpenAI
Sebelum apa pun, Anda memerlukan akun di platform OpenAI.
Kunjungi platform OpenAI dan ikuti petunjuk untuk membuat akun. Setelah mendaftar, Anda akan melihat tampilan seperti berikut:
Langkah 2: Dapatkan kunci API Anda
Setelah akun Anda siap, Anda perlu mengambil kunci API, yang penting untuk berinteraksi dengan API.
Buka halaman kunci API di akun OpenAI Anda, seperti ditunjukkan pada diagram di bawah.
Sekarang Anda dapat membuat kunci API, yang harus Anda salin dan simpan dengan aman, karena Anda tidak akan bisa melihatnya lagi. Namun, jika Anda kehilangannya atau membutuhkan yang baru, Anda dapat menghasilkan yang baru.
Langkah 3: Instal pustaka Python OpenAI
Setelah penyiapan akun dan kunci API siap, langkah berikutnya adalah menyiapkan mesin lokal kita. Kita dapat mengakses OpenAI API dari mesin lokal melalui pustaka Python OpenAI.
Anda dapat memasangnya menggunakan pip dengan perintah berikut:
pip install openai
Langkah 4: Melakukan panggilan API pertama Anda
Sekarang setelah Anda memiliki kunci API dan pustaka OpenAI terpasang, saatnya melakukan panggilan API pertama Anda.
Berikut kodenya:
def get_chat_completion(prompt, model="gpt-3.5-turbo"):
# Creating a message as required by the API
messages = [{"role": "user", "content": prompt}]
# Calling the ChatCompletion API
response = openai.ChatCompletion.create(
model=model,
messages=messages,
temperature=0,
)
# Returning the extracted response
return response.choices[0].message["content"]
response = get_chat_completion("Translate into Spanish: As a beginner data scientist, I'm excited to learn about OpenAI API!")
print(response)
Kita menulis fungsi pembantu untuk menggunakan ChatCompletion API dengan memilih model “gpt-3.5-turbo”, yang menerima prompt dari pengguna dan mengembalikan respons.
Berikut responsnya (silakan validasi jika Anda sedikit paham bahasa Spanyol!):
Langkah 5: Mengeksplorasi lebih lanjut
Dengan panggilan API pertama Anda, Anda sudah berada di jalur yang tepat! Berikut beberapa langkah selanjutnya yang bisa dipertimbangkan:
- Jelajahi berbagai engine dan temukan yang paling cocok untuk use case Anda.
- Bereksperimenlah dengan berbagai prompt dan parameter untuk melihat bagaimana respons API.
- Pelajari dokumentasi OpenAI untuk mengetahui lebih jauh apa saja yang dapat dilakukan dengan API.
Gagasannya adalah Anda perlu melakukan brainstorming mulai dari sini tentang bagaimana menggunakan API untuk masalah bisnis yang dihadapi (ada lebih banyak sumber daya di akhir tutorial).
Praktik Terbaik Saat Menggunakan OpenAI API
Sekarang setelah Anda nyaman berpraktik langsung dengan API, berikut beberapa praktik terbaik yang perlu diperhatikan sebelum menggunakannya dalam proyek Anda:
1. Memahami harga API
API menyediakan beragam model, masing-masing dengan kapabilitas dan titik harga berbeda, dengan pendekatan bayar sesuai penggunaan. Biaya dikenakan per 1.000 token, di mana token pada dasarnya adalah potongan kata, dan 1.000 token setara sekitar 750 kata. Anda dapat menemukan harga terbaru untuk semua model di halaman harga OpenAI.
Saat Anda mendaftar, Anda memulai dengan kredit gratis sebesar $5 yang dapat digunakan selama tiga bulan pertama. Anda dapat mencoba tutorial dan memahami API lebih baik sebelum memutuskan untuk membayar.
2. Mengamankan kunci API Anda
Alih-alih menanamkan kunci API langsung di kode sumber aplikasi Anda, gunakan variabel lingkungan untuk menyimpan dan mengambil kunci API, yang merupakan praktik yang lebih aman.
Mengelola kunci API yang ditanamkan juga menantang, terutama dalam lingkungan tim. Jika kunci perlu diputar atau diubah, setiap instance kunci yang ditanamkan di kode sumber harus ditemukan dan diperbarui.
3. Menggunakan model terbaru
OpenAI merekomendasikan penggunaan model terbaru untuk masalah yang ingin Anda selesaikan ketika tersedia beberapa versi. Ini masuk akal karena model yang lebih baru lebih mampu, tetapi juga datang dengan biaya lebih tinggi. Secara umum, ada baiknya bereksperimen dengan beberapa model yang tersedia dan memilih yang paling sesuai dengan kebutuhan use case Anda, dengan mempertimbangkan trade-off biaya vs performa.
4. Memanfaatkan batas token secara efisien melalui Batching
Batching adalah teknik yang memungkinkan Anda mengelompokkan beberapa tugas ke dalam satu permintaan API untuk memprosesnya secara efisien bersama-sama, alih-alih mengirim permintaan terpisah untuk setiap tugas.
OpenAI API memberlakukan batas terpisah untuk jumlah permintaan per menit dan jumlah token per menit yang dapat Anda proses. Jika Anda mencapai batas permintaan per menit tetapi masih memiliki kapasitas tidak terpakai dalam batas token per menit, batching dapat membantu memanfaatkan kapasitas ini secara efisien.
Dengan mengelompokkan beberapa tugas kecil ke dalam satu permintaan, Anda mengurangi total jumlah permintaan yang dikirim sambil mungkin memproses lebih banyak token dalam satu permintaan, sehingga tetap berada di bawah batas laju dan mengoptimalkan biaya.
Kesimpulan
Jika Anda relatif baru di bidang ilmu data, Anda mungkin belum banyak berkutat dengan API. Meskipun itu wajar di masa lalu, dengan kemajuan pesat dan kapabilitas AI dari perusahaan seperti OpenAI, mengetahui cara menggunakan model pra-latih mereka (dan melakukan fine-tune) melalui API telah menjadi keterampilan penting bagi setiap ilmuwan data untuk menghemat waktu, biaya, dan sumber daya lainnya.
Tutorial ini memperkenalkan OpenAI, API-nya, dan beberapa use case spesifik industri. Tutorial ini juga memandu Anda praktik langsung dengan OpenAI API beserta praktik terbaik yang perlu diikuti.
Langkah selanjutnya adalah memperluas pengetahuan Anda tentang OpenAI API menggunakan tutorial seperti:
- Lembar contekan OpenAI API di Python
- Menggunakan GPT-3.5 dan GPT-4 melalui OpenAI API di Python
- Pengantar Text Embeddings dengan OpenAI API
- Tutorial Function Calling OpenAI
Jika Anda lebih menyukai pendekatan terstruktur yang memberi pengalaman praktik langsung untuk melengkapi tutorial ini, lihat kursus kami Working with the OpenAI API.
Topik
