Lewati ke konten utama

Panduan Komprehensif Bekerja dengan Model Mistral Large

Tutorial mendetail tentang fungsionalitas, perbandingan, dan penerapan praktis Model Mistral Large.
Diperbarui 28 Sep 2026  · 12 mnt Baca

Jelajahi bersama AI

ChatGPTClaudePerplexity

Gambar sampul Mistral Au Large.

Gambar oleh Penulis

Dunia data science berubah total sejak kemunculan large language models (LLM), dengan alat seperti GPT-3 dari OpenAI menjadi pendorong utama inovasi di bidang ini dan membuka keterampilan baru yang sebelumnya dianggap tidak mungkin.

Meski model GPT dari OpenAI sempat mendominasi pasar, keadaan berubah seiring waktu, dengan hadirnya banyak model baru, masing-masing memiliki kemampuan dan aplikasi khususnya sendiri.

Di antara semuanya, model-model Mistral menonjol berkat kemampuan penalaran yang maju dan dukungan multibahasa, sekaligus andal dalam menulis kode, menandai lompatan besar ke depan dalam AI.

Tutorial ini memperkenalkan Anda pada model terbaru Mistral, Mistral Large, termasuk akses API untuk penggunaan model on-demand, dengan pembahasan mendalam tentang fungsionalitasnya, analisis perbandingan dengan LLM lain, serta penerapan praktisnya.

Baik Anda seorang data scientist berpengalaman, pengembang yang ingin memperluas perangkat kerja, maupun penggemar AI yang ingin menjelajahi teknologi terkini, tutorial ini disusun untuk Anda.

Apa itu Mistral AI?

Mistral AI adalah perusahaan Prancis yang didirikan pada April 2023 oleh mantan karyawan Meta Platforms dan Google DeepMind. Tujuan utamanya adalah menjual produk dan layanan AI sekaligus menyediakan LLM open-source yang andal bagi masyarakat.

Perusahaan ini merevolusi pasar dengan model Mistral 7B yang diluncurkan pada September 2023. Ini adalah model dengan 7,3 miliar parameter yang mengalahkan model open-source paling maju saat itu, termasuk LlaMa 2, yang memberi Mistral AI peran terdepan di ranah AI open-source.

Dalam beberapa bulan terakhir, Mistral AI menjadi kekuatan pelopor di industri kecerdasan buatan dan berupaya menawarkan alat-alat kuat yang dirancang untuk memecahkan masalah kompleks dan merampingkan operasi.

Dan inilah yang membawa kita ke peluncuran terbarunya, model Mistral Large.

Apa itu Mistral Large

Mistral Large adalah large language model terbaru dan paling kuat dari Mistral, diluncurkan pada Februari 2024. Model ini memposisikan diri sebagai model andalan untuk generasi teks yang menyaingi kemampuan ternama GPT-4.

Model ini ditujukan memiliki kemampuan penalaran dan pengetahuan yang kuat dengan pemahaman coding yang solid (dalam berbagai bahasa pemrograman) serta pemahaman multibahasa, dan inilah tugas-tugas utama yang paling dikuasainya:

Penalaran dan pengetahuan

Mistral Large menunjukkan kemampuan penalaran yang kuat. Untuk mengevaluasi kemampuan tersebut, kinerja LLM seperti Mistral Large atau GPT-4 dibandingkan menggunakan berbagai tolok ukur yang menguji pemahaman, penalaran, pengetahuan, dan kemampuan menangani berbagai tipe data.

Beberapa yang paling umum adalah:

  • MMLU atau Measuring massive multitask language in understanding: Menguji pemahaman model di berbagai topik, dari domain profesional hingga penalaran akal sehat.
  • HellaSwag: Menilai pemahaman model terhadap skenario akal sehat dan kemampuannya memprediksi kelanjutan paling masuk akal dari konteks yang diberikan.
  • Arc Challenge: Tujuan: Mengukur kemampuan model menjawab pertanyaan sains setingkat sekolah dasar yang kompleks dan memerlukan penalaran logis serta pemahaman konsep ilmiah.

Kinerja model pra-latih pada tiga tolok ukur di atas dan beberapa lainnya digambarkan pada gambar berikut:

Kinerja pada tolok ukur akal sehat, penalaran, dan pengetahuan yang tersebar luas dari model LLM teratas di pasar: MMLU (Measuring massive multitask language in understanding), HellaSwag (10-shot), Wino Grande (5-shot), Arc Challenge (5-shot), Arc Challenge (25-shot), TriviaQA (5-shot) dan TruthfulQA.

Gambar oleh Mistral AI. Kinerja pada tolok ukur akal sehat, penalaran, dan pengetahuan yang tersebar luas dari model LLM teratas di pasar: MMLU (Measuring massive multitask language in understanding), HellaSwag (10-shot), Wino Grande (5-shot), Arc Challenge (5-shot), Arc Challenge (25-shot), TriviaQA (5-shot) dan TruthfulQA.

Seperti terlihat, Mistral Large adalah model berkinerja terbaik di ArcC dan TruthfulQA sekaligus mempertahankan nilai yang mendekati GPT-4 di hampir semua tolok ukur.

Kapasitas multibahasa

Tidak seperti banyak model yang mahir hanya dalam satu bahasa, Mistral Large memiliki kefasihan native dalam bahasa Inggris, Prancis, Spanyol, Jerman, dan Italia.

Kemampuan multibahasa ini melampaui sekadar penerjemahan; mencakup pemahaman mendalam tentang tata bahasa dan konteks budaya, sehingga ideal untuk aplikasi global yang memerlukan pendekatan native terhadap bahasa-bahasa tersebut.

Matematika dan coding

Mistral Large juga unggul dalam tugas pemrograman dan matematika, menunjukkan kemampuan yang superior. Lagi-lagi, ada beberapa tolok ukur standar untuk membandingkan LLM dalam keahlian matematika dan coding. Beberapa yang paling umum adalah:

  • HumanEval: Mengukur kemampuan model menghasilkan solusi kode yang benar untuk berbagai masalah pemrograman.
  • MBPP: Menguji kemahiran model dalam menyelesaikan masalah pemrograman Python.
  • GSM8K: Menilai keterampilan pemecahan masalah model dalam matematika tingkat sekolah dasar.

Tabel berikut memberikan gambaran kinerjanya pada berbagai tolok ukur terkenal, membandingkan kemampuan coding dan matematika LLM terkemuka.

Kinerja pada tolok ukur coding dan matematika populer dari model LLM terkemuka di pasar: HumanEval pass@1, MBPP pass@1, Math maj@4, GSM8K maj@8 (8-shot) dan GSM8K maj@1 (5 shot).

Gambar oleh Mistral AI. Kinerja pada tolok ukur coding dan matematika populer dari model LLM terkemuka di pasar: HumanEval pass@1, MBPP pass@1, Math maj@4, GSM8K maj@8 (8-shot) dan GSM8K maj@1 (5 shot).

Seperti sebelumnya, Mistral Large unggul di sebagian besar tolok ukur (MBPP, Math maj@4, dan GSM8K) sambil mempertahankan skor tinggi di semuanya.

Selain itu, Mistral Large hadir dengan beberapa kemampuan dan keunggulan baru:

  • Jendela konteks 32K token memungkinkannya mengambil informasi secara akurat dari dokumen yang luas. Sederhananya, Mistral Large kini dapat mempertimbangkan hingga 32.000 token (potongan kata) teks masukan sekaligus saat menghasilkan respons atau menganalisis teks, dibandingkan jendela konteks 8K token pada Mistral 7B.
  • Akurasi dalam mengikuti instruksi memungkinkan pengembang menyesuaikan kebijakan moderasi – kami memanfaatkan kemampuan ini untuk menetapkan moderasi tingkat sistem untuk le Chat.
  • Mendukung function calling secara inheren. Ini berarti Mistral Large secara bawaan dapat memproses dan menjalankan pemanggilan fungsi dalam kerangkanya. LLM dapat memahami permintaan untuk mengeksekusi fungsi tertentu, menjalankan fungsi tersebut sebagai bagian dari generasi respons, atau memanipulasi data sesuai logika fungsi.

Semua model Mistral AI dirilis di bawah lisensi Apache 2.0, memungkinkan penggunaan tanpa batasan. Anda dapat mempelajari lebih lanjut tentang arsitektur dan kinerja model di situs resmi dan dokumentasi Mistral.

Mistral Large vs. LLM Lainnya

Dibandingkan dengan model lain di ranah LLM, seperti ChatGPT dan Claude, Mistral Large membedakan diri terutama melalui keterjangkauan yang lebih baik.

Menonjol di lanskap AI yang kompetitif, Mistral Large menunjukkan hasil mengesankan di berbagai tolok ukur yang diakui luas, mengukuhkan posisinya sebagai model peringkat kedua di dunia yang tersedia melalui API.

Pencapaian ini menegaskan efektivitasnya dalam memahami dan menghasilkan teks, dibandingkan dengan raksasa lain di bidang ini seperti GPT-4, Claude 2, dan LLaMA 2 70B dalam penilaian komprehensif seperti MMLU (Measuring massive multitask language understanding).

Perbandingan GPT-4, Mistral Large (pra-latih), Claude 2, Gemini Pro 1.0, GPT 3.5 dan LLaMA 2 70B pada MMLU (Measuring massive multitask language understanding).

Gambar oleh Mistral AI. Perbandingan GPT-4, Mistral Large (pra-latih), Claude 2, Gemini Pro 1.0, GPT 3.5 dan LLaMA 2 70B pada MMLU (Measuring massive multitask language understanding).

Sementara ChatGPT merevolusi percakapan AI interaktif dan Claude 2 memperkenalkan pemahaman serta kemampuan generatif yang lebih baik, Mistral Large mendorong batas lebih jauh dengan mengintegrasikan penalaran mendalam dalam kerangka yang hemat biaya, membuat AI canggih lebih mudah diakses khalayak luas.

Sekarang, saatnya belajar cara menjinakkan “monster” ini!

Mulai Menggunakan Mistral Large

Mengakses Mistral AI dimulai dengan proses penyiapan yang sederhana agar Anda bisa langsung menggunakan tanpa hambatan.

Ada dua cara utama untuk mengakses model:

  • Menggunakan antarmuka Mistral yang terinspirasi ChatGPT, bernama “Le Chat.”
  • Mengintegrasikannya ke dalam kode menggunakan endpoint API Mistral.

Menggunakan Mistral Large melalui API atau melalui Le Chat.

Gambar oleh Penulis.

Jika Anda ingin mulai dengan model yang lebih sederhana, saya sangat menyarankan mengikuti panduan penggunaan dan fine-tuning Mistral 7B ini.

Mistral ChatBot - Le Chat

Antarmuka ini memungkinkan Anda melakukan percakapan berbasis teks dengan Mistral mirip dengan yang dimiliki perusahaan komersial seperti OpenAI atau Google, di mana Anda bisa mengajukan pertanyaan atau memberikan instruksi, dan Mistral akan berusaha merespons secara informatif.

Tangkapan layar Antarmuka Mistral Le Chat.

Tangkapan layar antarmuka Mistral Le Chat.

Untuk mengakses antarmuka ini, Anda hanya perlu mengunjungi situs Mistral Le Chat dan mendaftar. Gratis digunakan tanpa batas atau pembatasan.

Mistral API

Pengembang dapat berinteraksi dengan Mistral melalui API-nya, yang serupa dengan pengalaman menggunakan sistem API OpenAI.

API ini memungkinkan Anda mengirim prompt teks dan menerima respons yang dihasilkan model. Saat menggunakan Python untuk berinteraksi dengan Mistral API, pustaka seperti mistralai mempermudah interaksi dengan Mistral API.

Jadi, mari lakukan langkah paling dasar untuk berinteraksi dengan Mistral Large.

LANGKAH 1 - Membuat akun Mistral

Langkah pertama adalah membuka situs Mistral dan mengeklik tombol “Build Now”.

Tangkapan layar situs utama MistralAI.

Tangkapan layar situs utama MistralAI.

Anda akan diminta membuat akun baru atau masuk jika sudah memiliki akun.

Tangkapan layar antarmuka pendaftaran MistralAI.

Tangkapan layar antarmuka pendaftaran MistralAI.

Setelah masuk, Anda akan diminta untuk berlangganan guna mendapatkan akses ke model melalui API.

Tangkapan layar akun MistralAI.

Tangkapan layar akun MistralAI.

Kemudian, Anda perlu mengisi informasi pribadi dan penagihan.

Tangkapan layar proses pendaftaran MistralAI.

Tangkapan layar proses pendaftaran MistralAI.

Dan selesai, kita sudah membuat akun yang siap digunakan!

LANGKAH 2 - Membuat API KEY

Setelah akun aktif, Anda perlu membuat API Key untuk memanggil model Mistral Large menggunakan kode Python Anda. Untuk itu, buka bagian API Keys.

Tangkapan layar proses pendaftaran MistralAI.

Tangkapan layar proses pendaftaran MistralAI.

Setelah di sana, Anda cukup menekan tombol “Create new key” dan memberikan nama serta tanggal kedaluwarsa (opsional).

Tangkapan layar proses pendaftaran MistralAI.

Tangkapan layar proses pendaftaran MistralAI.

LANGKAH 3 - Menyiapkan lingkungan lokal

Untuk memanggil model Mistral dari kode Python Anda, Anda akan menggunakan pustaka mistralai, yang bisa diinstal dengan mudah menggunakan perintah pip berikut:

pip install mistralai

Karena Anda akan menggunakan API Key, saya menyarankan memanfaatkan pustaka dotenv untuk menyimpan kunci Anda. Anda dapat menginstalnya dengan mudah menggunakan perintah pip berikut:

pip install python-dotenv

Lalu, Anda dapat dengan mudah mendefinisikan Mistral API Key Anda ke dalam berkas .env dan memuatnya dengan kode berikut:

import os
from dotenv import load_dotenv


# Load environment variables from the .env file
load_dotenv()

# Access the API key using os.getenv
api_key = os.getenv("MISTRAL_API_KEY")

Penerapan Praktis Mistral Large

Mistral Large dapat digunakan di berbagai bidang, termasuk pembuatan konten, otomatisasi dukungan pelanggan, bantuan pemrograman, analisis data, penerjemahan bahasa, dan alat edukasi.

Penerapan ini menunjukkan fleksibilitas LLM Mistral dalam meningkatkan produktivitas, kreativitas, dan pengambilan keputusan di berbagai industri. Untuk mulai mencobanya, pertama Anda perlu menginisialisasi model.

Untuk itu, Anda akan mengimpor pustaka mistralai.client dan fungsi chat completion untuk mendapatkan respons dari model. Lalu, untuk mempermudah proses berinteraksi dengan API, Anda mendefinisikan fungsi chat_mistral yang menerima prompt Anda sebagai masukan dan memberikan respons model sebagai keluaran.

from mistralai.client import MistralClient
from mistralai.models.chat_completion import ChatMessage

model = "mistral-large-latest"


client = MistralClient(api_key=api_key)

def chat_mistral(prompt: str):
   messages = [
       ChatMessage(role="user", content=prompt)
   ]

   # No streaming
   chat_response = client.chat(
       model=model,
       messages=messages,
   )

   return chat_response.choices[0].message.content

Mari lihat beberapa contoh yang dapat ditangani Mistral:

Generasi dan Pemrosesan Teks

Mistral Large unggul dalam tugas yang melibatkan pembuatan, pemahaman, dan transformasi teks. Dari menyusun narasi dan artikel yang menarik hingga merangkum dokumen kompleks dan mengubah gaya teks, aplikasi utamanya dalam pemrosesan teks adalah sebagai berikut:

Generasi teks

Salah satu aplikasi utama Mistral Large, dan LLM mana pun, adalah menghasilkan teks dari prompt awal Anda. Inti dari kemampuan ini adalah pelatihan model secara ekstensif pada beragam himpunan data yang berisi sejumlah besar teks dari berbagai domain.

Pelatihan yang luas ini memungkinkan model memahami berbagai gaya penulisan, topik, dan struktur bahasa, sehingga cakap menyusun teks yang sesuai dengan nada atau kebutuhan konten tertentu.

# Starting prompt for a fairytale poem
prompt = """Write a short story starting with "Once upon a time" """
print(chat_mistral(prompt))

_________________________________________ #OUTPUT

Once upon a time, in a bustling city filled with towering skyscrapers and endless traffic, there was a small, quaint bookstore named "Whispers of the Past". This wasn't an ordinary bookstore. It was a magical place where every book held a secret story, waiting to be discovered.

The owner of the store, Mr. Benjamin, was an old man with a heart full of kindness and a mind full of tales. He had a peculiar habit of recommending books to his customers, not based on their genre preference, but on their current life situations. His recommendations were always spot on, and people often found solace, guidance, or inspiration from the books he suggested.

One day, a young girl named Lily walked into the store. She was new in town and had a lost look in her eyes. Seeing this, Mr. Benjamin approached her and asked, "What can I help you find today, my dear?"

Lily…

Anda dapat mempelajari lebih lanjut tentang generasi teks di artikel What is Text Generation?

Analisis sentimen

Kemampuan analisis sentimen Mistral Large berakar pada kerangka deep learning, yang memungkinkannya memahami konteks bahasa, secara efektif membedakan antara sentimen positif, negatif, dan netral.

Dengan menganalisis masukan teks, model dapat menyimpulkan nada emosional di balik kata-kata, memanfaatkan pelatihan luas pada beragam himpunan data untuk memastikan deteksi sentimen yang akurat di berbagai jenis konten.

Penggunaan yang baik untuk Mistral adalah memintanya membedakan sentimen dari teks tertentu.

# Sample text
text = "This movie was absolutely fantastic! I highly recommend it."

prompt = f"""Analyze the sentime of the following {text}.
Generate a json like response with the corresponding sentiment (positive, neutral or negatie).

"""
print(chat_mistral(prompt))

_________________________________________ #OUTPUT

{
  "Sentiment": "Positive",
  "Text": "This movie was absolutely fantastic! I highly recommend it."
}

Perangkuman teks

Mistral Large unggul dalam perangkuman teks dengan memanfaatkan kemampuan pemrosesan bahasa alami yang maju untuk mengubah dokumen panjang menjadi ringkasan yang padat dan informatif. Model memahami tema utama dan detail kunci suatu teks, mengidentifikasi dan mengekstrak informasi paling penting untuk menghasilkan ringkasan yang koheren dan singkat.

Kemampuan ini sangat berguna untuk dengan cepat memahami inti dari teks berjumlah besar, menjadikan Mistral Large alat esensial bagi profesional yang perlu mencerna dan bertindak atas informasi secara efisien.

Contoh mudahnya adalah meminta model merangkum suatu teks, seperti berikut:

# Sample text
text = """The quick brown fox jumps over the lazy dog. The rain in Spain falls mainly on the plain.
This is a longer sentence to show summarization capabilities."""

prompt = f"""Summarize the following {text} in 4 words.
"""
print(chat_mistral(prompt))

_________________________________________ #OUTPUT

Fox jumps, rain falls.

Penerjemahan teks dan tugas multibahasa

Mistral Large juga menunjukkan kemampuan unggul dalam menangani tugas multibahasa. Mistral-large secara khusus dilatih untuk memahami dan menghasilkan teks dalam berbagai bahasa, terutama Prancis, Jerman, Spanyol, dan Italia.

Mistral Large bisa sangat berharga bagi bisnis dan pengguna yang perlu berkomunikasi dalam banyak bahasa.

Contoh sederhana adalah menggunakan Mistral Large sebagai penerjemah.

# Sample text
text = """The quick brown fox jumps over the lazy dog. The rain in Spain falls mainly on the plain.
This is a longer sentence to show summarization capabilities."""

language_in = "english"
language_out = "spanish"

prompt = f"""Translate the following {text} that is written in {language_in} to {language_out} and
just output the translated text.
"""
print(chat_mistral(prompt))

_________________________________________ #OUTPUT
The quick brown fox jumps over the lazy dog. The rain in Spain falls mainly on the plain.
Translation to Spanish:
El rápido zorro marrón salta sobre el perro perezoso. La lluvia en España cae principalmente en la llanura.

This is a longer sentence to show summarization capabilities.
Translation to Spanish:
Esta es una oración más larga para mostrar las capacidades de resumen.

Generasi Kode dan Pemecahan Masalah Matematika

Di luar teks, Mistral Large menunjukkan kecakapan luar biasa dalam menghasilkan kode dan memecahkan masalah matematika. Dengan pernyataan masalah yang ringkas, Anda dapat memanfaatkan Mistral Large untuk menghasilkan potongan kode yang teroptimasi dan menyelesaikan tantangan matematika, menunjukkan kegunaan model dalam konteks pendidikan, riset, dan pengembangan.

Generasi kode

Mistral Large unggul dalam generasi kode dengan memahami deskripsi tingkat tinggi dan menerjemahkannya menjadi kode yang benar secara sintaksis dan efisien dalam berbagai bahasa pemrograman.

Model memanfaatkan pelatihan ekstensif pada basis kode, dokumentasi teknis, dan forum pengembang untuk menghasilkan kode yang memenuhi persyaratan yang ditentukan, memastikan fungsionalitas dan optimasi.

Contoh sederhana adalah meminta model menghasilkan fungsi yang menjalankan tugas tertentu.

# Prompt: Generate a Python function that takes a list of numbers and returns the sum of squares.

prompt = """def sum_of_squares(numbers):
   # Your code here
   pass

# Call the generated function with a sample list
numbers = [1, 2, 3]
result = sum_of_squares(numbers)

print(f"Sum of squares: {result}")  # Expected output: Sum of squares: 14"""

print(chat_mistral(prompt))

_________________________________________ #OUTPUT
Sure, I can help you define the function `sum_of_squares`. This function should take a list of numbers as an argument, square each number, and then return the sum of those squares. Here's how you could do it:

```python
def sum_of_squares(numbers):
    return sum(num ** 2 for num in numbers)
```

Kemampuan ini merampingkan proses pengembangan, membantu programmer dalam pembuatan prototipe cepat, debugging, dan mengimplementasikan algoritma kompleks dengan mudah.

Pemecahan masalah matematika

Mistral Large mahir memecahkan masalah matematika melalui pemahaman mendalam terhadap konsep numerik dan kemampuan memproses serta menafsirkan instruksi matematika yang kompleks.

Model menerapkan algoritma yang dilatih pada beragam data matematika, memungkinkannya menangani masalah mulai dari aritmetika dasar hingga kalkulus dan aljabar tingkat lanjut.

Misalnya, Anda dapat meminta model menyelesaikan masalah matematika.

# Prompt: Solve a system of linear equations with two variables.

prompt = """We have a system of equations:
 x + 2y = 5
 3x - y = 1

Solve for x and y.
"""

print(chat_mistral(prompt))

_________________________________________ #OUTPUT
Sure, I'd be happy to help you solve this system of equations. We can use the method of substitution or elimination. I'll use substitution for this example.

First, let's solve the first equation for x:

x = 5 - 2y

Now, we can substitute x in the second equation with the expression we just found:

3(5 - 2y) - y = 1

Expanding and simplifying this gives:

15 - 6y - y = 1
-7y = 1 - 15
-7y = -14

Now, divide both sides by -7 to solve for y:

y = -14 / -7
y = 2

Substitute y = 2 into the first equation:

x + 2(2) = 5
x + 4 = 5
x = 5 - 4
x = 1

So, the solution to the system of equations is x = 1 and y = 2.

Kemampuan ini memungkinkan Mistral Large menjadi alat berharga bagi pendidik, pelajar, dan peneliti yang ingin menemukan solusi atas pertanyaan matematika atau memverifikasi kebenaran pekerjaan mereka.

Fitur Lanjutan Mistral Large dan Praktik Terbaik

Memahami harga dan akses

Mistral AI menawarkan model harga pay-as-you-go untuk layanan API mereka, dengan tarif berbeda untuk chat completions dan embedding API. Harga dihitung per satu juta token, bervariasi menurut kompleksitas model, dengan opsi termasuk Mistral 7B, Mixtral 8x7B, dan berbagai ukuran model Mistral (Small, Medium, Large).

Platform ini menawarkan berbagai tingkatan, termasuk Mistral Small, Medium, dan Large, masing-masing dirancang untuk memenuhi kebutuhan proyek dan batasan anggaran yang berbeda. Harga terendah tetap untuk Mistral 7B dengan 0,25$ per token hingga 8$ untuk output Mistral Large dan 24$ untuk input Mistral Large.

Fleksibilitas ini memungkinkan Anda memilih versi model yang paling sesuai, mengoptimalkan kinerja sekaligus pengeluaran.

Tabel harga model Mistral AI.

Tabel harga model Mistral AI.

Platform memberlakukan batas laju sebesar 5 permintaan per detik, 2 juta token per menit, dan 10.000 juta token per bulan, dengan kemungkinan penyesuaian atas permintaan.

Untuk informasi detail tentang harga dan batas laju, kunjungi halaman harga Mistral AI.

Mengoptimalkan kinerja

Memilih model Mistral yang tepat memerlukan pertimbangan antara kinerja dan biaya. Kebutuhan Anda menentukan pilihan, yang mungkin berubah seiring evolusi model.

Secara umum, model yang lebih besar berkinerja lebih baik, dengan Mistral Large memimpin di tolok ukur seperti MMLU (tolok ukur LLM bernama Measuring massive multitask language in understanding yang telah kami jelaskan di atas), diikuti Mistral Medium, Small, Mixtral 8x7B, dan Mistral 7B.

Membandingkan kinerja Model Mistral. Gambar oleh Mistral AI.

Membandingkan kinerja Model Mistral. Gambar oleh Mistral AI.

Untuk memaksimalkan efektivitas Mistral Large sambil mengelola biaya, Anda dapat menyetel kueri dan memilih versi model yang paling sesuai untuk tugasnya. Anda dapat mempelajari lebih lanjut tentang fine-tuning LLM di Panduan Pengantar Fine-Tuning LLM

Mistral AI menyediakan lima endpoint API yang menampilkan lima Large Language Model terdepan:

  • open-mistral-7b (alias mistral-tiny-2312)
  • open-mixtral-8x7b (alias mistral-small-2312)
  • mistral-small-latest (alias mistral-small-2402)
  • mistral-medium-latest (alias mistral-medium-2312)
  • mistral-large-latest (alias mistral-large-2402)

Mistral Model terbaru menghadirkan tiga varian, dengan biaya dan kinerja yang diturunkan sesuai aplikasi yang ingin kita lakukan:

  • Mistral Small: Dioptimalkan untuk tugas sederhana dan massal seperti klasifikasi, dukungan pelanggan, dan generasi teks dasar. Hemat biaya untuk aplikasi langsung seperti deteksi spam.
  • Mistral Medium: Dirancang untuk tugas dengan kompleksitas sedang, Mistral Medium unggul dalam ekstraksi data, perangkuman dokumen, dan menghasilkan konten deskriptif. Menyeimbangkan kemampuan dan efisiensi.
  • Mistral Large: Unggul di hampir semua tolok ukur. Mistral Large paling cocok untuk tugas kompleks yang sarat penalaran atau aplikasi khusus, termasuk generasi teks sintetis dan kode. Menunjukkan kinerja superior dalam penalaran lanjutan dan pemecahan masalah.

Apa Selanjutnya untuk Mistral Large?

Seiring Mistral Large terus berkembang, pengembangan di masa depan, kontribusi komunitas, dan peningkatan fitur sudah di depan mata.

Mengikuti perkembangan ini penting bagi pengguna yang ingin memanfaatkan kemampuan penuh Mistral Large dan mengintegrasikan fitur terbaru ke dalam proyek mereka.

Peta jalan model menjanjikan inovasi berkelanjutan, dengan fokus pada peningkatan penalaran, dukungan bahasa, dan aksesibilitas pengguna.

Kesimpulan

Mistral Large mewakili langkah maju monumental di bidang AI dan Data Science, menawarkan penalaran tingkat lanjut dengan dukungan multibahasa sekaligus memberi bantuan coding dan matematika kepada pengguna.

Ini adalah pertama kalinya kita memiliki model open-source yang terjangkau, tidak hanya memiliki kemampuan kuat namun juga memimpin beberapa tolok ukur dengan mengalahkan model komersial seperti GPT-4 dari OpenAI atau Gemini dari Google.

Artinya, dengan memanfaatkan kekuatan Mistral Large, Anda dapat membuka kemungkinan baru, merampingkan proses, dan menciptakan solusi inovatif yang sebelumnya sulit dijangkau dengan anggaran rendah dan kinerja lebih baik.

Anda dapat melihat seluruh kodenya di repositori GitHub berikut.

Jika Anda ingin terus berkembang di bidang LLM, saya sangat menganjurkan mengikuti beberapa tutorial lanjutan. Jika Anda benar-benar baru di bidang ini, Anda bisa mulai dengan kursus LLM Concepts dari DataCamp, yang membahas banyak metodologi pelatihan kunci dan riset terbaru.

Untuk pengguna tingkat lanjut, beberapa sumber bagus lainnya untuk diikuti adalah:


Josep Ferrer's photo
Author
Josep Ferrer
LinkedIn
Twitter

Josep adalah Data Scientist freelance yang berfokus pada proyek-proyek Eropa, dengan keahlian dalam penyimpanan data, pemrosesan, analitik lanjutan, dan penyusunan narasi data yang berdampak. 

Sebagai pendidik, ia mengajar Big Data di program Magister di University of Navarra dan berbagi wawasan melalui artikel di platform seperti Medium, KDNuggets, dan DataCamp. Josep juga menulis tentang Data dan Teknologi dalam buletin Databites (databites.tech). 

Ia meraih gelar Sarjana di bidang Fisika Teknik dari Polytechnic University of Catalonia dan gelar Magister di bidang Intelligent Interactive Systems dari Pompeu Fabra University.

Topik
Kecerdasan Buatan

Lanjutkan Perjalanan AI Anda Hari Ini!

Program

Dasar-Dasar Kecerdasan Buatan

10 jam
Pelajari dasar-dasar kecerdasan buatan (AI), pelajari cara memanfaatkan AI secara efektif untuk pekerjaan, dan jelajahi model seperti ChatGPT untuk memahami lanskap AI yang dinamis.
Lihat DetailRight Arrow
Mulai Kursus
Lihat SelengkapnyaRight Arrow
Terkait

blogs

40 Pertanyaan Wawancara DBMS Teratas di 2026

Kuasai pertanyaan wawancara basis data, dari konsep SQL dasar hingga skenario desain sistem tingkat lanjut. Panduan mendalam ini mencakup semua yang Anda perlukan untuk sukses di wawancara DBMS dan meraih peran berikutnya.
Dario Radečić's photo

Dario Radečić

15 mnt

blogs

12 Alternatif ChatGPT Terbaik yang Bisa Anda Coba pada 2026

Artikel ini menyajikan daftar alternatif ChatGPT yang akan meningkatkan produktivitas Anda.
Javier Canales Luna's photo

Javier Canales Luna

14 mnt

blogs

Tutorial Korelasi di R

Dapatkan pengenalan dasar-dasar korelasi di R: pelajari lebih lanjut tentang koefisien korelasi, matriks korelasi, plotting korelasi, dan sebagainya.
David Woods's photo

David Woods

13 mnt

blogs

Spaghetti Plot dan Jalur Badai

Temukan alasan mengapa Anda sebaiknya (tidak) menggunakan spaghetti plot untuk menyampaikan ketidakpastian jalur prediksi badai serta dampaknya terhadap interpretasi.
Hugo Bowne-Anderson's photo

Hugo Bowne-Anderson

13 mnt

Lihat SelengkapnyaLihat Selengkapnya