Mulai Menggunakan Claude 2 dan Claude 2 API

Jika Anda ingin mengintegrasikan model bahasa yang terdengar lebih natural dan sangat akurat ke dalam aplikasi Anda, Claude 2 dari Anthropic adalah pilihan terbaik. Model ini hadir dengan aplikasi chat publik (mirip ChatGPT), API, dan playground untuk berbagai versi model.

Pelajari perbedaan antara respons Claude dan ChatGPT dalam artikel blog Claude vs. ChatGPT: Asisten AI Mana yang Terbaik untuk Data Scientist pada 2023?

Dalam tutorial ini, kita akan mempelajari model Claude 2X dan cara mengaksesnya menggunakan Python API. Kita akan membahas penyiapan API, membuat kueri dasar, dan menangani respons. Kita juga akan mempelajari kueri streaming, permintaan asinkron, dan beberapa fungsi API yang lebih lanjut. Seluruh kode sumber untuk tutorial ini tersedia di buku kerja DataLab ini; Anda dapat dengan mudah membuat salinannya untuk mengedit dan menjalankan kode langsung di browser tanpa perlu memasang apa pun di komputer Anda.

Pada akhirnya, Anda akan memahami cara mengintegrasikan Claude 2 ke dalam aplikasi Anda sendiri untuk memanfaatkan kemampuan bahasa alaminya yang canggih.

Bagi yang baru mengenal AI generatif, jalur keterampilan AI Fundamentals kami membantu Anda mempelajari teknologi dan model baru untuk mempersiapkan dunia AI di masa depan.

Dasar-Dasar Claude 2

Anthropic baru-baru ini meluncurkan Claude 2, versi terbaru dari model bahasa berskala besar mereka. Model ini menunjukkan peningkatan kinerja di berbagai tugas dengan respons yang lebih panjang dan lebih koheren. Selain itu, tersedia akses API dan situs beta publik di claude.ai.

Gambar dari claude.ai

Claude 2 terkenal untuk percakapan yang natural, dengan kemampuan penalaran yang ditingkatkan, memori yang diperluas, dan pelacakan konteks sembari meminimalkan keluaran yang berbahaya. Model ini menunjukkan peningkatan dalam kemampuan seperti pengkodean, penalaran matematis, dan logika.

Contohnya, dalam penalaran hukum, Claude 2 meraih skor 76,5% pada bagian pilihan ganda Ujian Pengacara, 3,5% lebih tinggi dibanding Claude 1.3. Saat dievaluasi pada tes bakat akademik, Claude 2 berada di atas persentil ke-90 pada bagian membaca dan menulis GRE, setara dengan pelamar median pada penalaran kuantitatif.

Mengenal Claude 2.1

Pada 21 November 2023, Anthropic merilis Claude 2.1, yang menunjukkan peningkatan signifikan untuk memungkinkan penalaran yang lebih maju sekaligus mengurangi konten halusinasi. Fokus utamanya adalah meningkatkan keandalan melalui kejujuran yang lebih baik. Claude 2.1 kini lebih transparan mengenai celah dalam basis pengetahuannya alih-alih mencoba mengarang informasi.

Model ini memiliki jendela konteks yang lebih besar, 200K, memungkinkan Claude merujuk dan memeriksa silang konten panjang seperti makalah riset untuk menjaga konsistensi faktual dalam rangkuman atau analisis yang panjang.

Claude 2.1 juga memperkenalkan penggunaan alat secara eksperimental. Ini memungkinkan Claude 2 mengambil dan memproses data dari sumber tambahan dengan akurasi tinggi sembari memanggil fungsi dan melakukan tindakan.

Menyiapkan Claude 2

Akses ke Anthropic API saat ini dibatasi untuk sekelompok individu dan organisasi tertentu. Jika Anda ingin menjadi yang pertama mencobanya, Anda dapat mengisi formulir aplikasi yang tersedia di situs web. Anthropic secara bertahap memberikan akses untuk memastikan keamanan dan skalabilitas API. Harap diperhatikan bahwa karena tingginya volume permintaan, mungkin diperlukan waktu untuk mendapatkan akses ke API.

Setelah Anda menerima email persetujuan dari Anthropic dan membuat akun, Anda akan diarahkan ke dasbor. Dasbor memiliki tautan ke workbench, mirip dengan OpenAI Playground, tempat Anda bisa beralih antar model dan menganalisis respons. Selain itu, terdapat juga tautan untuk membuat kunci API dan dokumentasi.

Gambar dari Dashboard

Untuk membuat kunci API, Anda perlu mengeklik tombol "Get API Keys" dan memasukkan nama kuncinya. Setelah selesai, Anda akan menerima kunci yang dapat digunakan untuk menghasilkan respons menggunakan Claude 2 API.

Gambar dari Anthropic

Untuk menyiapkan kunci API sebagai variabel lingkungan, Anda dapat menggunakan perintah Bash atau menetapkannya di buku kerja DataLab. Pertama, luncurkan buku kerja baru lalu buka tombol "Environment" di panel kiri. Klik tombol plus dan tambahkan nama serta nilai variabel. Terakhir, tekan simpan untuk menerapkan perubahan.

Gambar dari DataLab

Catatan: Anda dapat menerapkan kunci API langsung di fungsi Python, tetapi sangat tidak dianjurkan karena alasan keamanan.

Untuk mengakses Anthropic API di Python, Anda harus terlebih dahulu memasang Anthropic SDK for Python menggunakan PIP.

pip install anthropic

Mengakses Claude 2 API

Di bagian ini, kita akan mempelajari cara mengakses Anthropic API untuk menghasilkan respons menggunakan model Claude 2.1. Anda dapat ikut menulis kode dengan membuat salinan workbook ini: Mulai Menggunakan Claude 2 dan Claude 2 API.

Kita akan memuat pustaka os untuk mengakses kunci API dan pustaka anthropic untuk membuat pipeline AI percakapan menggunakan kunci API.

from anthropic import Anthropic, HUMAN_PROMPT, AI_PROMPTimport osanthropic_api_key = os.environ["ANTHROPIC_API_KEY"]anthropic = Anthropic(    api_key= anthropic_api_key,)

“HUMAN_PROMPT” dan “AI_PROMPT” sebenarnya adalah string untuk membuat struktur prompt yang benar bagi pipeline generasi.

Sekarang kita akan menghasilkan respons dengan menyediakan versi model, panjang token maksimum, dan prompt. Pastikan prompt Anda mengikuti templat Claude 2X.

completion = anthropic.completions.create(    model="claude-2.1",    max_tokens_to_sample=350,    prompt=f"{HUMAN_PROMPT} How do I learn Python in a week?{AI_PROMPT}",)print(completion.completion)

Kita mendapatkan hasil yang sangat baik. Claude 2.1 memberikan rencana terperinci untuk mempelajari Python dalam seminggu.

Anthropic menyediakan dukungan untuk permintaan API sinkron dan asinkron.

API sinkron mengeksekusi permintaan secara berurutan, memblokir hingga respons diterima sebelum memanggil panggilan berikutnya. Di sisi lain, API asinkron memungkinkan banyak permintaan bersamaan tanpa memblokir, menangani respons saat masing-masing selesai. Ini membuat API asinkron lebih efisien dan skalabel dibandingkan yang sinkron.

Untuk memanggil API secara asinkron, impor AsyncAnthropic alih-alih Anthropic. Definisikan fungsi menggunakan sintaks async dan gunakan await pada setiap panggilan API.

from anthropic import AsyncAnthropicanthropic = AsyncAnthropic()async def main():    completion = await anthropic.completions.create(        model="claude-2.1",        max_tokens_to_sample=300,        prompt=f"{HUMAN_PROMPT}How many moons does Jupiter have?{AI_PROMPT}",    )    print(completion.completion)await main()

Kita mendapatkan hasil yang hampir akurat. Beberapa sumber menyebut 79, tetapi NASA menyatakan Jupiter memiliki 95 bulan.

Catatan: Gunakan asyncio.run(main()) alih-alih await main() saat menjalankan kode di berkas Python .py dan bukan di Jupyter Notebook.

LLM Streaming dengan Claude 2

Streaming telah menjadi teknik penting bagi model bahasa besar, menawarkan beberapa manfaat dibanding metode pemrosesan tradisional. Alih-alih menunggu seluruh respons, streaming memungkinkan pemrosesan keluaran segera setelah tersedia. Pendekatan ini mengurangi latensi yang dirasakan dengan mengembalikan keluaran model bahasa token demi token, bukan sekaligus.

Untuk mengaktifkan streaming, tetapkan argumen 'stream' ke `True` pada fungsi completion.

anthropic = Anthropic()stream = anthropic.completions.create(    prompt=f"{HUMAN_PROMPT}Could you please write a Python code to train a simple classification model?{AI_PROMPT}",    max_tokens_to_sample=350,    model="claude-2.1",    stream=True,)for completion in stream:    print(completion.completion, end="", flush=True)

Terlihat bahwa kita menerima respons baris demi baris dengan jauh lebih cepat, seolah-olah Claude 2.1 sedang mengetikkannya.

Demikian pula, kita juga dapat menjalankan streaming dalam mode `async`. Perhatikan bahwa kita hanya menambahkan `await` di depan fungsi completion dan `async` sebelum perulangan for.

anthropic = AsyncAnthropic()stream = await anthropic.completions.create(    prompt=f"{HUMAN_PROMPT}Please write a blog post on Neural Networks and use Markdown format. Kindly make sure that you proofread your work for any spelling, grammar, or punctuation errors.{AI_PROMPT}",    max_tokens_to_sample=350,    model="claude-2.1",    stream=True,)async for completion in stream:    print(completion.completion, end="", flush=True)

AI generatif kita melakukan pekerjaan yang baik dalam menulis blog yang layak.

Lihat daftar 7 alat AI Generatif penting yang dapat membantu Anda membangun aplikasi chatbot yang fungsional dan peka konteks.

Fitur Lanjutan dan Kustomisasi

Anthropic API menyediakan beberapa fitur lanjutan dan opsi kustomisasi selain generasi respons dasar:

• Penanganan error: Tipe pengecualian spesifik seperti APIConnectionError dan APIStatusError memungkinkan penanganan masalah koneksi dan error HTTP dengan rapi.
• Header bawaan: Header anthropic-version dikirim secara otomatis untuk mengidentifikasi klien. Ini dapat dikustomisasi dengan mengubah argumen default_headers pada objek anthropic.
• Logging: Debug logging dapat diaktifkan dengan menetapkan variabel lingkungan ANTHROPIC_LOG. Ini membantu pemecahan masalah.
• Klien HTTP: Klien HTTPX yang mendasari permintaan dapat dikonfigurasi untuk proxy, transport, dan fungsionalitas tingkat lanjut lainnya.
• Manajemen resource: Anda dapat menutup klien secara manual menggunakan metode .close() atau dengan context manager yang menutup secara otomatis saat keluar.
• Teknik prompting: Dokumentasi API menyediakan berbagai kata kunci untuk mengoptimalkan input Anda untuk teks, dokumen terstruktur, potongan kode, dan hasil RAG.
• Validasi prompt: API melakukan sanitasi dan validasi prompt dasar untuk memastikan prompt dioptimalkan untuk model Claude 2.

Untuk mempelajari lebih lanjut tentang fungsi lanjutan, lihat dokumentasi Anthropic API.

Aplikasi Praktis Claude 2 API

Claude 2 API memiliki aplikasi praktis yang luas di banyak industri dan domain. Dalam pembuatan konten dan copywriting, API ini dapat membantu menyusun artikel berkualitas tinggi, materi pemasaran, dan tulisan kreatif. Selain itu, dalam:

• Terjemahan bahasa: Anda dapat membangun aplikasi yang menyediakan terjemahan waktu nyata dengan memanfaatkan kemampuan multibahasa yang canggih.
• Pendidikan: sangat baik untuk pembelajaran yang dipersonalisasi. Siswa dapat memanfaatkannya untuk mempelajari topik kompleks lebih cepat.
• Dukungan pelanggan: menyediakan respons peka konteks yang lebih akurat dan menyerupai manusia.
• Bantuan pemrograman: menghasilkan potongan kode, debugging, dan menjelaskan konsep kompleks untuk mempercepat pengembangan
• Seni kreatif: berkolaborasi dengan seniman untuk menghasilkan konten seperti komposisi musik
• Hukum/kepatuhan: menyusun dokumen, merangkum peraturan, dan memastikan kepatuhan regulasi.

Kesimpulan

Python API menyediakan cara yang kuat untuk mengakses model AI percakapan mutakhir dari Anthropic. Kita telah membahas dasar-dasar penyiapan dengan kunci akses, membuat panggilan API sinkron dan asinkron, respons streaming, serta beberapa fitur lanjutan. Selain itu, kita mempelajari aplikasi praktis dari Claude 2.

Walaupun API masih tersedia secara terbatas, Anthropic secara bertahap memberikan lebih banyak akses dari waktu ke waktu. Seiring kemajuan Claude 2, Python API akan memungkinkan pengembang untuk dengan mudah mengintegrasikan kemampuannya yang terdepan ke berbagai produk dan layanan.

Semoga pengantar Claude 2 API ini bermanfaat! Silakan bereksperimen dengan contoh kode untuk melihat langsung kemampuan mengesankan Claude 2. Berikut daftar 5 Proyek yang Dapat Anda Bangun dengan Model AI Generatif agar Anda terinspirasi membangun proyek AI generatif berikutnya menggunakan Claude 2.