Panduan Pemula untuk GPT-3

Natural Language Processing (NLP) adalah subbidang linguistik, ilmu komputer, kecerdasan buatan, dan rekayasa informasi yang berfokus pada interaksi antara komputer dan bahasa manusia (alami), khususnya bagaimana memprogram komputer untuk memproses dan menganalisis sejumlah besar data bahasa alami.

Menarik, bukan? Bagaimana jika kami memberi tahu Anda bahwa kami meminta sebuah algoritme bernama GPT-3 untuk menulis seluruh paragraf ini dan berhasil pada percobaan pertama? Kami tidak bercanda! Lihat ini…

GPT-3 Beraksi

Luar biasa, bukan?! Kembali ke NLP. Bidang ini memungkinkan komputer memproses bahasa manusia dalam bentuk teks atau suara dan “memahami” maknanya secara utuh, mencakup maksud serta sentimen penutur atau penulis. NLP telah menjadi panggung bagi beberapa penemuan dan implementasi AI paling menarik dalam satu dekade terakhir. Dalam beberapa tahun terakhir, tren paling menarik dan produktif di area ini adalah model bahasa besar, tempat GPT-3 bernaung.

GPT-3 dianggap oleh sebagian orang sebagai langkah awal dalam pencarian Artificial General Intelligence. Model ini menyita perhatian lebih besar daripada model AI lainnya. Fleksibilitasnya dalam menjalankan serangkaian tugas umum dengan efisiensi dan akurasi mendekati manusia adalah hal yang membuatnya begitu memikat. Model ini dirilis dalam bentuk API dengan tujuan memberikan akses tanpa preseden kepada data scientist, pengembang, dan orang dari berbagai latar serta profesi di seluruh dunia ke salah satu model bahasa paling kuat di dunia.

Model ini dibuat oleh OpenAI, perusahaan di garis depan R&D kecerdasan buatan. Sejak rilis awal pada Juli 2020, pengembang di seluruh dunia telah menemukan ratusan aplikasi menarik untuk GPT-3 yang berpotensi meningkatkan cara kita berkomunikasi, belajar, dan bermain. Model ini mampu menyelesaikan tugas-tugas berbasis bahasa umum dengan mudah dan dapat berpindah bebas antar gaya dan tujuan teks yang berbeda.

Sebelum GPT-3, model bahasa dirancang untuk melakukan satu tugas NLP spesifik, seperti pembuatan teks, peringkasan, atau klasifikasi. GPT-3 adalah model bahasa generik pertama dalam sejarah pemrosesan bahasa alami yang dapat berkinerja sama baiknya pada serangkaian tugas NLP. GPT-3 adalah singkatan dari “Generative Pre-trained Transformer,” dan ini merupakan iterasi ketiga dari model tersebut oleh OpenAI. Mari kita uraikan tiga istilah ini:

• Generative: Model generatif adalah jenis model statistik yang digunakan untuk menghasilkan data baru. Model ini mempelajari hubungan mendasar antarvariabel dalam suatu dataset untuk menghasilkan titik data baru yang mirip dengan yang ada di dataset.
• Pre-trained: Model pra-latih adalah model yang telah dilatih pada dataset berukuran besar. Ini memungkinkannya digunakan untuk tugas-tugas yang sulit jika harus melatih model dari nol. Model pra-latih mungkin tidak 100% akurat, namun menghindarkan Anda dari “menemukan roda” lagi, menghemat waktu, dan meningkatkan performa.
• Transformer: Model transformer adalah jaringan saraf tiruan terkenal yang ditemukan pada 2017. Ini adalah model deep learning yang dirancang untuk menangani data berurutan, seperti teks. Model transformer sering digunakan untuk tugas seperti penerjemahan mesin dan klasifikasi teks.

Pada bagian berikutnya, kita akan melihat konteks yang lebih luas tentang model bahasa—apa itu, bagaimana cara kerjanya, dan untuk apa digunakan. Anda dapat mengetahui lebih lanjut tentang apa yang kita ketahui tentang GPT-4 di artikel terpisah, pelajari lebih lanjut tentang AI di sini atau pelajari perkembangan terbaru OpenAI, Google AI, dan dampaknya bagi data science.

Apa Itu Model Bahasa Besar?

Dalam beberapa tahun terakhir, minat di bidang pemrosesan bahasa alami (NLP) terhadap pembangunan model bahasa besar, atau LLM, meningkat pesat. LLM, yang dilatih pada sejumlah besar teks, dapat digunakan untuk berbagai tugas berbasis bahasa, termasuk pembuatan teks, penerjemahan mesin, dan penjawaban pertanyaan.

Pemodelan bahasa adalah tugas menggunakan probabilitas untuk memahami bagaimana kalimat tersusun dalam suatu bahasa. Model bahasa sederhana dapat melihat sebuah kata dan memprediksi kata (atau kata-kata) berikutnya yang paling mungkin mengikutinya, berdasarkan analisis statistik urutan teks yang ada. Misalnya, kalimat "I love walking my ..." lebih mungkin diakhiri dengan kata "dog" daripada "refrigerator". Penting untuk melatih model bahasa dengan banyak data agar akurat dalam memprediksi urutan kata.

LLM dapat dianggap sebagai mesin prediksi statistik, di mana teks masuk dan prediksi keluar. Anda mungkin sudah familiar melalui fitur pelengkapan otomatis di ponsel. Misalnya, jika Anda mengetik “good”, pelengkapan otomatis mungkin menyarankan “morning” atau “luck.” Aplikasi pemrosesan bahasa alami seperti pelengkapan otomatis sangat bergantung pada model bahasa.

Walau model bahasa sudah ada sejak lama, baru belakangan ini mereka menjadi sangat sukses. Ini disebabkan beberapa faktor, termasuk ketersediaan data pelatihan dalam jumlah besar, pengembangan algoritme pelatihan yang lebih baik, dan penggunaan GPU untuk mempercepat pelatihan. Dengan lebih banyak data, model dapat mempelajari lebih banyak tentang hubungan antar kata dan konteks penggunaannya. Ini memungkinkan model lebih baik memahami makna teks dan menghasilkan prediksi yang lebih akurat.

Keberhasilan LLM disebabkan kemampuannya menangkap ketergantungan antar kata dalam sebuah teks. Misalnya, pada kalimat "The cat sat on the mat," kata "cat" bergantung pada kata "the," dan kata "mat" bergantung pada kata "on." Dalam model bahasa besar, ketergantungan ini ditangkap di parameter model. Seiring model bahasa besar menjadi lebih canggih, jumlah parameter yang digunakan melonjak, sebagaimana terlihat pada grafik berikut yang diterbitkan oleh Microsoft Research.

Tren ukuran model NLP terdepan dari waktu ke waktu dalam skala logaritmik
Sumber: tulisan blog Microsoft Research ini pada 11 Okt 2021

Prapelatihan model bahasa besar memerlukan komputasi dalam jumlah besar, yang intensif energi. Permintaan yang meningkat untuk model ini memerlukan sumber daya komputasi yang semakin banyak. Hal ini berdampak lingkungan yang signifikan, seperti penggunaan energi yang tidak berkelanjutan dan emisi karbon.

Dalam studi tahun 2019, peneliti di University of Massachusetts memperkirakan bahwa melatih model deep learning besar menghasilkan 626.000 pon karbon dioksida pemanas bumi, setara emisi seumur hidup lima mobil. Saat model membesar, kebutuhan komputasinya melampaui peningkatan efisiensi perangkat keras. Sebuah studi tahun 2021 memperkirakan bahwa pelatihan GPT-3 menghasilkan sekitar 552 metrik ton karbon dioksida. Ini kira-kira setara dengan jumlah emisi 120 mobil dalam satu tahun berkendara.

Namun, makalah Green AI 2019 mencatat “bahwa tren merilis model pra-latih secara publik adalah sebuah keberhasilan hijau,” dan para penulis mendorong organisasi “untuk terus merilis model mereka guna menghemat biaya pelatihan ulang bagi pihak lain.” Perusahaan seperti OpenAI yang merilis model bahasa besar pra-latih terus meneliti dan mengembangkan teknik untuk mengurangi jejak karbon dari pelatihan model.

GPT-3 sangat akurat saat melakukan berbagai tugas NLP karena ukuran dataset latihannya yang sangat besar dan arsitekturnya yang juga besar dengan 175 miliar parameter, yang memungkinkannya memahami hubungan logis dalam data tersebut. GPT-3 dipra-latih pada korpus teks dari lima dataset besar yang mencakup Common Crawl, WebText2, Books1, Books2, dan Wikipedia. Secara keseluruhan, korpus ini mencakup hampir satu triliun kata yang memungkinkan GPT-3 berhasil melakukan sejumlah mengejutkan tugas NLP dalam pengaturan zero-shot, atau tanpa menyediakan data contoh.

Pada bagian berikutnya, kita akan mengeksplorasi transformer, arsitektur terkenal yang memungkinkan model yang mengguncang bidang pemodelan bahasa dan mengubah definisi kemungkinan dalam ranah NLP.

Apa Itu Model Transformer?

Transformer adalah jenis arsitektur jaringan saraf yang sangat cocok untuk tugas pemodelan bahasa. Pertama kali diperkenalkan dalam makalah "Attention is All You Need" pada 2017. Makalah tersebut menjelaskan transformer sebagai jenis arsitektur jaringan saraf yang dirancang untuk secara efisien melakukan tugas sequence-to-sequence sembari menangani ketergantungan jarak jauh dengan mudah. Model transformer dengan cepat menjadi arsitektur andalan untuk tugas-tugas pemrosesan bahasa alami, dan saat ini mendominasi ranah NLP.

Sequence-to-Sequence adalah mekanisme yang menjadi tulang punggung model transformer. Dikenal juga sebagai Seq2Seq, arsitektur ini mengubah urutan elemen yang diberikan, seperti kata-kata dalam sebuah kalimat, menjadi urutan lain, seperti kalimat dalam bahasa berbeda, yang membuatnya sangat cocok untuk tugas penerjemahan. Google Translate mulai menggunakan arsitektur serupa dalam produksi pada akhir 2016.

Sumber: tulisan blog “The Illustrated Transformer” oleh Jay Alammar

Model Seq2Seq terdiri dari dua bagian: encoder dan decoder. Encoder dan decoder dapat diibaratkan penerjemah manusia yang hanya bisa berbahasa dua bahasa. Masing-masing memiliki bahasa ibu yang berbeda; untuk contoh kita, anggap encoder adalah penutur asli bahasa Mandarin dan decoder penutur asli bahasa Inggris. Keduanya memiliki bahasa kedua yang sama; misalkan bahasa Jepang. Untuk menerjemahkan Mandarin ke Inggris, encoder mengonversi kalimat Mandarin ke bahasa Jepang. Kalimat Jepang tersebut, yang dikenal sebagai konteks, diteruskan ke decoder. Karena decoder memahami bahasa Jepang dan dapat membacanya, ia kini dapat menerjemahkan dari Jepang ke Inggris.

Komponen kunci lain dari arsitektur transformer adalah mekanisme bernama “attention”. Ini adalah teknik yang meniru perhatian kognitif. Perhatian kognitif mencerminkan cara otak kita memusatkan perhatian pada bagian-bagian penting dari sebuah kalimat, membantu kita memahami makna keseluruhannya. Misalnya, saat Anda membaca kalimat ini, Anda selalu fokus pada kata yang sedang dibaca, tetapi pada saat yang sama, ingatan Anda menahan kata-kata kunci terpenting untuk memberikan konteks.

Mekanisme attention melihat urutan masukan selangkah demi selangkah dan memutuskan pada tiap langkah bagian mana dari urutan tersebut yang penting. Ini membantu transformer menyaring gangguan dan fokus pada hal yang relevan dengan menghubungkan kata-kata terkait yang secara tersendiri tidak membawa penanda jelas satu sama lain.

Model transformer diuntungkan dari arsitektur yang lebih besar dan asupan data dalam jumlah lebih besar. Hal ini membuatnya lebih baik memahami konteks kata dalam kalimat daripada jenis jaringan saraf lainnya, yang menjelaskan dampak besarnya pada bidang machine learning. Seiring terus berevolusi, model ini kemungkinan berdampak lebih besar lagi di tahun-tahun mendatang, dan Anda dapat memulai eksperimen dengan LLM dalam beberapa langkah mudah.

Memulai dengan GPT-3

Menavigasi API OpenAI

Meski GPT-3 boleh jadi salah satu model bahasa paling canggih dan kompleks di dunia, kemampuannya dapat diakses melalui antarmuka “teks-masuk-teks-keluar” yang sederhana. Hal pertama yang Anda perlukan untuk memulai dengan GPT-3 adalah mendapatkan akses ke API OpenAI. Anda dapat mengajukannya di sini dan dalam hitungan menit, akun Anda akan siap.

Setelah Anda memiliki akses ke akun pengembang OpenAI, kita akan melihat Playground, lingkungan sandbox privat berbasis web yang memungkinkan Anda bereksperimen dengan API dan mempelajari bagaimana berbagai komponennya bekerja bersama.

Komponen API OpenAI

Berikut gambaran komponen API yang berbeda dan fungsinya:

• Mesin Eksekusi: Menentukan model bahasa yang digunakan untuk eksekusi. Memilih mesin yang tepat adalah kunci kemampuan model Anda dan pada gilirannya menentukan keluaran yang tepat.
• Panjang Respons: Menetapkan batas seberapa banyak teks yang disertakan API dalam completion-nya. Karena OpenAI mengenakan biaya berdasarkan panjang teks yang dihasilkan per panggilan API, panjang respons adalah parameter krusial bagi siapa pun dengan anggaran. Panjang respons yang lebih tinggi akan berbiaya lebih besar.
• Suhu (Temperature): Mengontrol kerandoman respons, dalam rentang 0 hingga 1. Nilai lebih rendah berarti API akan merespons dengan hal pertama yang “dilihat” model; nilai lebih tinggi berarti model mengevaluasi kemungkinan respons yang sesuai konteks sebelum menghasilkan hasil.
• Top P: Mengontrol berapa banyak hasil acak yang harus dipertimbangkan model untuk completion, sebagaimana disarankan oleh pengaturan suhu, sehingga menentukan cakupan kerandoman. Rentangnya dari 0 hingga 1. Nilai lebih rendah membatasi kreativitas, sementara nilai lebih tinggi memperluas cakrawalanya.
• Frequency dan Presence Penalty: Frequency penalty menurunkan kemungkinan model mengulang baris yang sama persis dengan “menghukum”nya. Presence penalty meningkatkan kemungkinan model membahas topik baru.
• Best of: Parameter ini memungkinkan Anda menentukan jumlah completion (n) yang dihasilkan di sisi server dan mengembalikan yang terbaik dari “n” completion.
• Stop Sequence: Sekumpulan karakter yang memberi sinyal kepada API untuk berhenti menghasilkan completion.
• Inject Start & Restart Text: Parameter ini memungkinkan Anda menyisipkan teks di awal atau akhir completion, masing-masing.
• Tampilkan Probabilitas: Opsi ini memungkinkan Anda men-debug prompt teks dengan menampilkan probabilitas token yang dapat dihasilkan model untuk masukan tertentu.

API OpenAI menawarkan empat mesin eksekusi berbeda yang bervariasi dalam jumlah parameter yang digunakan, kemampuan performa, dan harga. Mesin utama dalam urutan meningkatnya kemampuan dan ukuran adalah Ada (diambil dari Ada Lovelace), Babbage (Charles Babbage), Curie (Madame Marie Curie) dan Davinci (Leonardo da Vinci).

Berdasarkan empat model utama di atas, OpenAI meluncurkan serangkaian model yang ditingkatkan bernama InstructGPT, yang lebih baik dalam memahami instruksi dan mengikutinya untuk menghasilkan keluaran spesifik sesuai kebutuhan Anda. Yang perlu Anda lakukan hanyalah memberi tahu model apa yang Anda ingin ia lakukan dan model akan berupaya sebaik mungkin memenuhi instruksi tersebut. Proses memberikan instruksi ke model GPT-3 disebut rekayasa prompt.

Rekayasa Prompt

GPT-3 dirancang bersifat agnostik terhadap tugas. Artinya, ia berpotensi melakukan sejumlah tugas apa pun, dengan catatan diberi prompt pelatihan yang spesifik. Menciptakan solusi AI tidak pernah mudah, tetapi dengan GPT-3 yang Anda perlukan hanyalah prompt pelatihan masuk akal dalam bahasa Inggris biasa.

Sumber: Cuitan Andrej Karpathy pada 18 Juni 2020

Hal pertama dan terpenting saat membuat aplikasi GPT-3 adalah desain dan konten prompt pelatihan. Desain prompt adalah proses paling signifikan dalam mempersiapkan model GPT-3 agar memberikan respons yang menguntungkan dan kontekstual.

Prompt adalah masukan teks yang Anda berikan ke model agar ia menghasilkan keluaran yang Anda inginkan. Merancang prompt yang baik berarti memberi model cukup konteks tentang tugas tersebut dalam masukan teks. GPT-3 melihat masukan dan berupaya merespons dengan teks yang menurutnya paling baik melengkapi masukan tersebut.

Dalam banyak hal, merancang prompt seperti bermain tebak kata!

Rahasia menulis prompt yang baik adalah memahami apa yang diketahui GPT-3 tentang dunia dan bagaimana membuat model menggunakan informasi tersebut untuk menghasilkan hasil yang bermanfaat. Dalam permainan tebak kata, tujuan kita adalah memberi pemain informasi secukupnya agar mereka menebak kata yang benar menggunakan kecerdasan mereka. Dengan cara yang sama, kita harus memberi GPT-3 konteks yang cukup dalam bentuk prompt pelatihan agar model memahami pola dan menjalankan tugas. Kita tidak ingin mengganggu aliran “kecerdasan” alami model dengan membebaninya dengan informasi, tetapi memberi terlalu sedikit dapat menghasilkan hasil yang tidak akurat.

Sebagai patokan, saat merancang prompt pelatihan Anda sebaiknya mengincar respons zero-shot dari model. Jika itu tidak memungkinkan, lanjutkan dengan beberapa contoh alih-alih memberikan seluruh korpus. Alur standar untuk desain prompt pelatihan sebaiknya seperti:

Zero-Shot → Few Shots → Priming Berbasis Korpus

Jika dalam masukan teks model melihat huruf “Q” dan sebuah pertanyaan, ia akan mencoba menulis jawaban, tetapi belum tentu jawaban yang Anda harapkan. Tanpa konteks yang memadai, model mungkin mengira Anda sedang menulis daftar pertanyaan dan jawaban yang salah. Jika Anda ingin mendapatkan jawaban terbaik, Anda perlu memberi tahu GPT-3 jenis jawaban seperti apa yang harus diberikan.

Alih-alih meminta GPT-3 melengkapi masukan ini:

Q:
A:

Yang mana completion pertama kami adalah:

Q:
A:

Q:
A:

Anda akan sangat meningkatkan keluaran untuk pertanyaan dengan menggunakan prompt seperti ini (atau variasinya, tergantung jenis pertanyaan yang ingin Anda minta model hasilkan):

Tulis beberapa pertanyaan trivia.

Q:
A:

Di mana kami mendapatkan completion berikut pada percobaan pertama:

What is the name of the longest river in Africa?
The Nile

What are the top 5 most spoken languages in the world?
Mandarin, Spanish, English, Hindi, Arabic

Instruksi sederhana seperti di atas sudah cukup untuk membuat GPT-3 memahami bahwa ia perlu memberikan jawaban yang lebih sesuai dengan yang Anda cari; dalam hal ini, beberapa pertanyaan trivia. Anda juga dapat menggunakan frasa seperti “Factual answer:” alih-alih “A:” untuk meningkatkan hasil.

Tulis beberapa pertanyaan trivia.

Question:
Factual answer:

Untuk masukan ini kami mendapatkan completion berikut:

1. What is the world’s largest desert?

The Sahara desert.

2. What is the world’s deepest Ocean?

The Pacific Ocean.

Sandbox GPT-3—Menggunakan API OpenAI dengan Python

Pada bagian ini, kami akan memandu Anda melalui GPT-3 Sandbox, alat sumber terbuka untuk mewujudkan ide hanya dengan beberapa baris kode Python. Kami akan menunjukkan cara menggunakannya dan menyesuaikannya untuk aplikasi spesifik Anda. Tujuan sandbox ini adalah memberdayakan Anda untuk membuat aplikasi web keren, apa pun latar belakang teknis Anda.

Ikuti seri video interaktif ini untuk panduan langkah demi langkah tentang membuat dan menerapkan aplikasi GPT-3. Anda akan memerlukan tumpukan teknis berikut untuk menggunakan sandbox GPT-3:

• Python 3.7+
• Sebuah IDE, seperti VS Code

Kloning kode dari repositori ini dengan membuka terminal baru di IDE Anda dan menggunakan perintah berikut:

git clone https://github.com/Shubhamsaboo/kairos_gpt3

Semua yang Anda butuhkan untuk membuat dan menerapkan aplikasi web sudah ada di kode. Anda hanya perlu mengubah beberapa berkas untuk menyesuaikan sandbox dengan kasus penggunaan spesifik Anda. Sekarang, buat lingkungan virtual Python untuk memulai. Setelah membuat lingkungan virtual, Anda dapat memasang dependensi yang diperlukan menggunakan perintah berikut:

pip install -r requirements.txt

Sekarang Anda dapat mulai menyesuaikan kode sandbox. Berkas pertama yang perlu Anda lihat adalah training_data.py. Buka berkas itu dan ganti prompt bawaan dengan prompt pelatihan yang ingin Anda gunakan. Anda dapat menggunakan playground GPT-3 untuk bereksperimen dengan berbagai prompt pelatihan (lihat bab 2 dari buku dan video berikut untuk lebih lanjut tentang menyesuaikan sandbox).

Anda sekarang siap menyetel parameter API (Maximum tokens, Execution Engine, Temperature, Top-p, Frequency Penalty, Stop Sequence). Kami menyarankan untuk bereksperimen dengan berbagai nilai parameter API untuk prompt pelatihan tertentu di playground guna menentukan nilai yang paling sesuai untuk kasus penggunaan Anda. Setelah mendapatkan hasil yang memuaskan, Anda dapat mengubah nilainya di berkas training_service.py.

Itu saja! Aplikasi web berbasis GPT-3 Anda kini siap. Anda dapat menjalankannya secara lokal menggunakan perintah berikut:

streamlit run gpt_app.py

Anda dapat menggunakan Streamlit sharing untuk menerapkan aplikasi dan membagikannya ke audiens yang lebih luas. Ikuti video ini untuk panduan lengkap penerapan aplikasi Anda.

Apa yang Dapat Anda Bangun dengan GPT-3?

Sebelum rilis GPT-3, interaksi kebanyakan orang dengan AI terbatas pada tugas-tugas tertentu, seperti meminta Alexa memutar lagu favorit Anda atau menggunakan Google Translate untuk bercakap dalam bahasa berbeda. Dengan perkembangan LLM, kita menyaksikan pergeseran paradigma yang signifikan. LLM telah menunjukkan bahwa dengan meningkatkan ukuran model, aplikasi AI dapat melakukan tugas kreatif dan kompleks yang mirip manusia.

GPT-3 mendorong gelombang startup berikutnya dengan memantik imajinasi wirausahawan kreatif melalui teknologi yang tepat. Tak lama setelah OpenAI merilis API, lanskap startup dipenuhi perusahaan yang menggunakannya untuk memecahkan masalah. Mari jelajahi ekosistem dinamis ini dengan melihat beberapa startup berperforma tinggi yang menggunakan GPT-3 sebagai inti produk mereka di bidang seperti seni kreatif, analisis data, chatbot, penulisan naskah pemasaran, dan alat pengembang.

1. Aplikasi Kreatif GPT-3: Fable Studio

Salah satu kemampuan GPT-3 yang paling menarik adalah penceritaan. Anda dapat memberi model sebuah topik dan memintanya menulis cerita dalam pengaturan zero-shot. Kemungkinan ini membuat penulis memperluas imajinasi dan menghasilkan karya luar biasa. Misalnya, drama AI, disutradarai Jennifer Tang dan dikembangkan bersama Chinonyerem Odimba dan Nina Segal, menggambarkan kolaborasi unik antara pikiran manusia dan komputer dengan bantuan GPT-3.

Fable Studio adalah perusahaan yang memanfaatkan kemampuan penceritaan kreatif model ini. Mereka mengadaptasi buku anak-anak karya Neil Gaiman dan Dave McKean, Wolves in the Walls, menjadi pengalaman film VR pemenang Emmy. Lucy, tokoh protagonis film, dapat berdialog alami dengan orang berkat dialog yang dihasilkan GPT-3. Perusahaan percaya bahwa ke depannya, dengan iterasi model selanjutnya, memungkinkan untuk mengembangkan pendongeng AI yang terampil dan kreatif layaknya penulis manusia terbaik.

2. Aplikasi Analisis Data GPT-3: Viable

Viable adalah alat agregasi umpan balik yang mengidentifikasi tema, emosi, dan sentimen dalam survei, tiket help desk, log obrolan langsung, dan ulasan pelanggan. Lalu memberikan ringkasan hasil dalam hitungan detik. Misalnya, jika ditanya, “Apa yang membuat pelanggan kami frustrasi tentang pengalaman checkout?” Viable mungkin menjawab: “Pelanggan frustrasi dengan alur checkout karena butuh waktu lama untuk memuat. Mereka juga menginginkan cara untuk mengedit alamat saat checkout dan menyimpan beberapa metode pembayaran.”

Sesuai ekspektasi dari spesialis umpan balik pelanggan, Viable memiliki tombol jempol naik dan turun di samping setiap jawaban yang dihasilkan perangkat lunak. Mereka menggunakan umpan balik ini untuk pelatihan ulang. Manusia juga bagian dari proses: Viable memiliki tim anotasi yang bertanggung jawab membangun dataset pelatihan, baik untuk model internal maupun fine-tuning GPT-3. Mereka menggunakan iterasi terkini dari model yang di-fine-tune tersebut untuk menghasilkan keluaran, yang kemudian dinilai kualitasnya oleh manusia. Jika keluaran tidak masuk akal atau tidak akurat, mereka menulis ulang. Dan setelah memiliki daftar keluaran yang memuaskan, daftar itu dimasukkan kembali ke iterasi berikutnya dari dataset pelatihan.

3. Aplikasi Chatbot GPT-3: Quickchat

Emerson AI adalah persona chatbot milik perusahaan Quickchat dan dikenal karena pengetahuan umum dunianya, dukungan multi-bahasa, serta kemampuannya untuk terus bercakap. Emerson AI digunakan untuk memamerkan kemampuan chatbot bertenaga GPT-3 dan mendorong pengguna bekerja sama dengan Quickchat dalam mengimplementasikan persona serupa bagi perusahaan mereka. Penawaran produk Quickchat adalah AI percakapan tujuan umum yang dapat berbicara tentang topik apa pun. Pelanggan dapat menyesuaikan chatbot dengan menambahkan informasi tambahan spesifik produk mereka. Quickchat telah melihat beragam aplikasi, seperti otomatisasi dukungan pelanggan dan penerapan persona AI untuk membantu pengguna menelusuri basis pengetahuan internal perusahaan.

Tidak seperti penyedia layanan chatbot tipikal, Quickchat tidak membangun pohon percakapan atau skenario kaku, dan tidak perlu mengajarkan chatbot menjawab dengan cara tertentu. Sebaliknya, pelanggan mengikuti proses sederhana: Anda salin-tempel teks yang berisi semua informasi yang ingin digunakan AI Anda lalu klik tombol retrain, yang hanya butuh beberapa detik untuk menyerap pengetahuan, dan selesai. Kini dilatih pada data Anda, chatbot siap untuk percakapan uji.

4. Aplikasi Pemasaran GPT-3: Copysmith

Salah satu aplikasi GPT-3 paling populer adalah menghasilkan konten kreatif secara instan. Copysmith adalah salah satu contoh platform pembuatan konten. Platform ini menggunakan GPT-3 untuk menghasilkan prompt yang kemudian diubah menjadi salinan untuk bisnis e-commerce. GPT-3 tampak menonjol di bidang pemasaran, membantu menghasilkan, berkolaborasi, dan meluncurkan konten berkualitas dengan sangat cepat. Berkat model ini, bisnis kecil dan menengah daring dapat menulis ajakan bertindak dan deskripsi produk yang lebih baik, serta meningkatkan upaya pemasaran mereka.

5. Aplikasi Pengodean GPT-3: Stenography

Bram Adams, OpenAI Community Ambassador, membuat Stenography, program yang menggunakan GPT-3 dan Codex untuk mengotomatiskan proses penulisan dokumentasi kode.

Stenography langsung sukses, diluncurkan sebagai produk #1 di ProductHunt. Adams melihat dokumentasi sebagai cara bagi orang untuk menjangkau anggota tim lain, diri mereka di masa depan, atau orang-orang yang tertarik yang menemukan proyek dev di GitHub. Tujuan Stenography adalah membuat sebuah proyek dapat dipahami orang lain.

Untuk mempelajari lebih lanjut tentang ekosistem GPT-3 yang tengah naik daun, lihat Bab-4 (GPT-3 sebagai Landasan Peluncuran Startup Generasi Berikutnya) dan Bab-5 (GPT-3 untuk Korporasi) dari buku O’Reilly kami yang akan datang.

Kesimpulan

• GPT-3 menandai tonggak penting dalam sejarah AI. Model ini juga bagian dari tren LLM yang lebih besar yang akan terus tumbuh ke depan. Langkah revolusioner menyediakan akses API telah menciptakan model bisnis baru: model-as-a-service.
• Kemampuan umum berbasis bahasa GPT-3 membuka pintu untuk membangun produk inovatif. Model ini sangat unggul dalam menyelesaikan tugas seperti pembuatan teks, peringkasan teks, klasifikasi, dan percakapan.
• Ada sejumlah perusahaan sukses yang dibangun sebagian besar atau sepenuhnya di atas GPT-3. Kasus penggunaan favorit kami adalah penceritaan kreatif, analisis data, chatbot, penulisan naskah pemasaran, dan alat pengembang.