Cara Membangun Aplikasi LLM dengan Tutorial LangChain

Jika Anda terpikat oleh kemampuan transformatif Generative AI dan LLM, tutorial ini tepat untuk Anda. Di sini, kita mengeksplorasi LangChain - kerangka kerja Python open-source untuk membangun aplikasi berbasis Large Language Models seperti GPT.

Pelajari lebih lanjut tentang membangun aplikasi AI dengan LangChain dalam Building Multimodal AI Applications with LangChain & the OpenAI API AI Code Along di mana Anda akan mempelajari cara mentranskripsikan konten video YouTube dengan AI speech-to-text Whisper dan kemudian menggunakan GPT untuk mengajukan pertanyaan tentang konten tersebut.

Apa itu Large Language Models (LLM)?

Large Language Models (LLM) adalah sistem kecerdasan buatan tingkat lanjut yang dirancang untuk memahami dan menghasilkan teks layaknya manusia. Model-model ini dilatih pada data dalam jumlah sangat besar, sehingga mampu menangkap pola yang kompleks, memahami nuansa bahasa, dan menghasilkan respons yang koheren. LLM dapat melakukan berbagai tugas terkait bahasa, termasuk penerjemahan, pelengkapan teks, peringkasan, hingga percakapan interaktif. GPT adalah salah satu contoh LLM.

LLM merupakan jenis Generative AI. Jika Anda ingin mempelajari Generative AI dan bagaimana teknologi ini dapat meningkatkan kreativitas Anda, baca blog kami tentang Menggunakan Generative AI untuk Meningkatkan Kreativitas Anda dan podcast kami, Inside the Generative AI Revolution. Anda juga dapat mendaftar untuk kursus mendatang kami tentang Konsep Large Language Models.

Pendahuluan LangChain

LangChain adalah kerangka kerja open-source yang dirancang untuk memudahkan pengembangan aplikasi yang didukung oleh large language models (LLM). LangChain menawarkan seperangkat alat, komponen, dan antarmuka yang menyederhanakan pembuatan aplikasi berfokus LLM. Dengan LangChain, Anda dapat dengan mudah mengelola interaksi dengan model bahasa, menghubungkan berbagai komponen secara mulus, serta memasukkan sumber daya seperti API dan basis data. Anda dapat membaca lebih lanjut tentang LangChain untuk Data Engineering dan Aplikasi Data di artikel terpisah.

Platform LangChain menyertakan kumpulan API yang dapat disematkan pengembang ke dalam aplikasi mereka, sehingga mereka dapat menambahkan kemampuan pemrosesan bahasa tanpa harus membangun semuanya dari nol. Karena itu, LangChain secara efisien menyederhanakan proses pembuatan aplikasi berbasis LLM, sehingga cocok untuk pengembang dengan berbagai tingkat keahlian.

Aplikasi seperti chatbot, asisten virtual, utilitas penerjemahan bahasa, dan alat analisis sentimen adalah contoh aplikasi yang didukung LLM. Pengembang memanfaatkan LangChain untuk membuat aplikasi berbasis model bahasa yang disesuaikan dengan kebutuhan spesifik.

Dengan kemajuan berkelanjutan dan adopsi pemrosesan bahasa alami yang semakin luas, potensi penerapan teknologi ini diperkirakan hampir tak terbatas. Berikut beberapa karakteristik penting LangChain:

1. Prompt yang dapat disesuaikan untuk memenuhi kebutuhan spesifik Anda

2. Membangun komponen rantai taut untuk skenario penggunaan lanjutan

3. Mengintegrasikan model untuk augmentasi data dan mengakses kemampuan model bahasa kelas atas, seperti GPT dan HuggingFace Hub.

4. Komponen yang fleksibel yang memungkinkan pencampuran dan pencocokan sesuai kebutuhan

5. Memanipulasi konteks untuk menetapkan dan membimbing konteks demi ketepatan dan kepuasan pengguna yang lebih baik

Menyiapkan LangChain di Python

Menginstal LangChain di Python cukup mudah. Anda dapat memasangnya dengan pip atau conda.

Instal menggunakan pip

pip install langchain

Instal menggunakan conda

install langchain -c conda-forge

Ini akan menyiapkan kebutuhan dasar LangChain. Sebagian besar kegunaan LangChain terealisasi saat diintegrasikan dengan beragam penyedia model, penyimpanan data, dan sejenisnya.

Secara bawaan, dependensi yang diperlukan untuk integrasi tersebut TIDAK disertakan dalam instalasi. Untuk memasang semua dependensi, Anda dapat menjalankan perintah berikut:

pip install langchain[all]

Opsi terakhir adalah membangun pustaka dari sumber. Dalam hal ini, Anda dapat mengklon proyek dari repositori GitHub-nya.

Penyiapan lingkungan

Menggunakan LangChain biasanya memerlukan integrasi dengan berbagai penyedia model, penyimpanan data, API, dan komponen lain yang serupa. Seperti halnya integrasi apa pun, kita harus menyediakan kunci API yang sesuai dan relevan agar LangChain dapat berfungsi. Ada dua cara untuk melakukan ini:

1. Menyiapkan kunci sebagai variabel lingkungan

OPENAI_API_KEY="..."

Jika Anda tidak ingin menetapkan variabel lingkungan, Anda dapat langsung meneruskan kunci melalui parameter bernama openai_api_key saat menginisialisasi kelas OpenAI LLM:

2. Menetapkan kunci langsung di kelas yang relevan

from langchain.llms import OpenAI

llm = OpenAI(openai_api_key="...")

Komponen Kunci LangChain

LangChain menonjol karena penekanannya pada fleksibilitas dan modularitas. LangChain memecah pipeline pemrosesan bahasa alami menjadi komponen terpisah, memungkinkan pengembang menyesuaikan alur kerja sesuai kebutuhan. Adaptabilitas ini menjadikan LangChain ideal untuk membangun aplikasi AI di berbagai skenario dan sektor.

Komponen dan chain

Dalam LangChain, komponen adalah modul yang menjalankan fungsi spesifik dalam pipeline pemrosesan bahasa. Komponen-komponen ini dapat dihubungkan menjadi "chain" untuk alur kerja yang disesuaikan, misalnya chain chatbot layanan pelanggan dengan modul analisis sentimen, pengenalan intent, dan pembuatan respons.

Template prompt

Template prompt adalah prompt pradefinisi yang dapat digunakan kembali di berbagai chain. Template ini dapat dibuat dinamis dan adaptif dengan menyisipkan "nilai" tertentu. Misalnya, prompt yang menanyakan nama pengguna dapat dipersonalisasi dengan menyisipkan nilai tertentu. Fitur ini bermanfaat untuk menghasilkan prompt berdasarkan sumber daya dinamis.

Vector store

Komponen ini digunakan untuk menyimpan dan mencari informasi melalui embedding, pada dasarnya menganalisis representasi numerik dari makna dokumen. VectorStore berfungsi sebagai fasilitas penyimpanan embedding tersebut, memungkinkan pencarian efisien berdasarkan kemiripan semantik.

Indeks dan retriever

Indeks bertindak sebagai basis data yang menyimpan detail dan metadata tentang data pelatihan model, sedangkan retriever dengan cepat mencari indeks ini untuk informasi tertentu. Ini meningkatkan respons model dengan menyediakan konteks dan informasi terkait.

Output parser

Output parser berperan untuk mengelola dan menyempurnakan respons yang dihasilkan model. Parser dapat menghapus konten yang tidak diinginkan, menyesuaikan format keluaran, atau menambahkan data ekstra pada respons. Dengan demikian, output parser membantu mengekstrak hasil terstruktur, seperti objek JSON, dari respons model bahasa.

Example selector

Example selector di LangChain berfungsi mengidentifikasi contoh yang tepat dari data pelatihan model, sehingga meningkatkan ketepatan dan relevansi respons yang dihasilkan. Selector ini dapat disetel untuk memprioritaskan jenis contoh tertentu atau menyaring yang tidak relevan, sehingga memberikan respons AI yang disesuaikan berdasarkan masukan pengguna.

Agen

Agen adalah instance LangChain yang unik, masing-masing dengan prompt, memori, dan chain khusus untuk suatu kasus penggunaan. Agen dapat digunakan di berbagai platform, termasuk web, seluler, dan chatbot, untuk menjangkau audiens yang luas.

Cara Membangun Aplikasi Model Bahasa di LangChain

LangChain menyediakan kelas LLM yang dirancang untuk berinteraksi dengan berbagai penyedia model bahasa, seperti OpenAI, Cohere, dan Hugging Face. Fungsi paling dasar dari sebuah LLM adalah menghasilkan teks. Membangun aplikasi dengan LangChain yang mengambil prompt string dan mengembalikan output sangatlah mudah.

API_KEY ="..."

from langchain.llms import OpenAI

llm = OpenAI(model_name="text-ada-001", openai_api_key=API_KEY)

print(llm("Tell me a joke about data scientist"))

Keluaran:

>>> "What do you get when you tinker with data? A data scientist!"

Pada contoh di atas, kita menggunakan model text-ada-001 dari OpenAI. Jika Anda ingin menukarnya dengan model open-source dari HuggingFace, perubahannya sederhana:

API_KEY ="..."

from langchain import HuggingFaceHub

llm = HuggingFaceHub(repo_id = "google/flan-t5-xl", huggingfacehub_api_token = API_KEY)

print(llm("Tell me a joke about data scientist"))

Anda bisa mendapatkan token id Hugging Face hub dari akun HF Anda.

Jika Anda memiliki banyak prompt, Anda dapat mengirim daftar prompt sekaligus menggunakan metode generate:

llm_response = llm.generate(['Tell me a joke about data scientist',

'Tell me a joke about recruiter',

'Tell me a joke about psychologist'])

Keluaran:

Ini adalah aplikasi paling sederhana yang dapat Anda buat menggunakan LangChain. Aplikasi ini mengambil prompt, mengirimkannya ke model bahasa pilihan Anda, dan mengembalikan jawabannya. Ada banyak parameter yang dapat Anda kendalikan, seperti `temperature`. Parameter temperature menyesuaikan tingkat keacakan keluaran, dan secara bawaan disetel ke 0,7.

Mengelola Template Prompt untuk LLM di LangChain

LLM memiliki API yang khas. Walaupun tampaknya intuitif untuk memasukkan prompt dalam bahasa alami, sebenarnya diperlukan sedikit penyesuaian prompt untuk mencapai keluaran yang diinginkan dari sebuah LLM. Proses penyesuaian ini dikenal sebagai prompt engineering. Setelah Anda memiliki prompt yang baik, Anda mungkin ingin menggunakannya sebagai template untuk tujuan lain.

Sebuah PromptTemplate di LangChain memungkinkan Anda menggunakan templating untuk menghasilkan sebuah prompt. Ini berguna ketika Anda ingin menggunakan kerangka prompt yang sama di banyak tempat tetapi dengan nilai tertentu yang diubah.

USER_INPUT = 'Paris'

from langchain.llms import OpenAI

from langchain import PromptTemplate

llm = OpenAI(model_name="text-davinci-003", openai_api_key=API_KEY)

template = """ I am travelling to {location}. What are the top 3 things I can do while I am there. Be very specific and respond as three bullet points """

prompt = PromptTemplate(

input_variables=["location"],

template=template,

)

final_prompt = prompt.format(location=USER_INPUT )

print(f"LLM Output: {llm(final_prompt)}")

Keluaran:

1. Climb the Eiffel Tower and take in the breathtaking views of the city

2. Enjoy a romantic cruise along the River Seine and admire the beautiful architecture along the riverbanks

3. Explore the Louvre and admire the world-renowned works of art on display

Jika sekarang Anda ingin menggunakan ulang prompt ini untuk kota lain, Anda hanya perlu mengubah variabel USER_INPUT. Saya mengubahnya dari Paris menjadi Cancun, Mexico. Lihat bagaimana keluarannya berubah:

Keluaran:

1. Relax on the Beach: Enjoy the white sand beaches and crystal-clear waters of the Caribbean Sea.

2. Explore the Mayan Ruins: Visit ancient archaeological sites such as Chichen Itza, Tulum, and Coba to learn about the history and culture of the Mayans.

3. Take a Food Tour: Taste the traditional flavors and learn about the local cuisine by taking a food tour of Cancun.

Menggabungkan LLM dan Prompt dalam Alur Kerja Multi-langkah

Chaining dalam konteks LangChain mengacu pada tindakan mengintegrasikan LLM dengan elemen lain untuk membangun sebuah aplikasi. Beberapa contohnya meliputi:

• Menggabungkan beberapa LLM secara berurutan dengan menggunakan keluaran LLM pertama sebagai masukan untuk LLM kedua (lihat bagian ini)
• Mengintegrasikan LLM dengan template prompt
• Menggabungkan LLM dengan data eksternal, seperti untuk tanya jawab
• Menggabungkan LLM dengan memori jangka panjang, seperti riwayat chat

Mari lihat contoh skenario pertama di mana kita akan menggunakan output dari LLM pertama sebagai input untuk LLM kedua.

from langchain.llms import OpenAI

from langchain.chains import LLMChain, SimpleSequentialChain

from langchain import PromptTemplate

llm = OpenAI(model_name="text-davinci-003", openai_api_key=API_KEY)

# first step in chain

template = "What is the most popular city in {country} for tourists? Just return the name of the city"

first_prompt = PromptTemplate(

input_variables=["country"],

template=template)

chain_one = LLMChain(llm = llm, prompt = first_prompt)

# second step in chain

second_prompt = PromptTemplate(

input_variables=["city"],

template="What are the top three things to do in this: {city} for tourists. Just return the answer as three bullet points.",)

chain_two = LLMChain(llm=llm, prompt=second_prompt)

# Combine the first and the second chain

overall_chain = SimpleSequentialChain(chains=[chain_one, chain_two], verbose=True)

final_answer = overall_chain.run("Canada")

Keluaran:

Dalam contoh ini, kita membuat chain dengan dua komponen. Komponen pertama bertugas mengidentifikasi kota paling populer yang sesuai dengan suatu negara yang dimasukkan pengguna. Sementara itu, komponen kedua berfokus memberikan informasi tentang tiga aktivitas atau atraksi utama bagi wisatawan yang mengunjungi kota tersebut.

Jika Anda ingin mempelajari konsep yang lebih lanjut tentang membangun aplikasi di LangChain, lihat kursus langsung Building AI Applications with LangChain and GPT di DataCamp.

Kesimpulan dan Pembelajaran Lanjutan

Belum lama ini, kita semua sangat terkesan dengan kemampuan ChatGPT. Namun, lanskapnya berkembang pesat, dan kini kita memiliki alat pengembang baru seperti LangChain yang memberdayakan kita untuk membuat prototipe luar biasa serupa di laptop pribadi hanya dalam hitungan jam.

LangChain, kerangka kerja Python open-source, memungkinkan siapa pun membuat aplikasi yang didukung LLM (Language Model Models). Kerangka kerja ini menawarkan antarmuka serbaguna ke berbagai model fondasi, memfasilitasi pengelolaan prompt dan berfungsi sebagai pusat bagi komponen lain seperti template prompt, LLM tambahan, data eksternal, dan alat lain melalui agen (pada saat penulisan).

Jika Anda berusaha mengikuti semua kemajuan dalam Generative AI dan LLM, lihat webinar kami Building AI Applications with LangChain and GPT. Di sini, Anda akan mempelajari dasar penggunaan LangChain untuk mengembangkan aplikasi AI, serta cara menyusun aplikasi AI dan cara melakukan embedding data teks untuk kinerja tinggi. Anda juga dapat melihat lembar contekan kami tentang landskap alat generative AI untuk mengeksplorasi berbagai kategori alat generative AI, penerapannya, dan pengaruhnya di berbagai sektor. Terakhir, lihat daftar LLM open-source terbaik kami untuk mempelajari alat hebat lainnya.