Apa Itu Mistral Large 2? Cara Kerja, Kasus Penggunaan, & Lainnya

Apa Itu Mistral Large 2?

Mistral Large 2 adalah model bahasa terbaru dari Mistral AI, dirancang untuk unggul di berbagai area seperti pembuatan kode, matematika, dan tugas multibahasa. Mari lihat fitur dan kemampuannya yang utama.

123 miliar parameter

Mistral Large 2 memiliki 123 miliar parameter, menjadikannya sangat andal untuk memahami dan menghasilkan tugas bahasa yang kompleks dengan akurasi tinggi.

Ukuran besar ini memungkinkan model menangani masalah rumit dengan presisi lebih baik. Model ini juga dibangun untuk inferensi single-node dengan aplikasi konteks panjang, sehingga efisien dioperasikan pada satu node.

Jendela konteks 128k

Jendela konteks 128k memungkinkan Mistral Large 2 menjaga koherensi dan relevansi dalam percakapan atau dokumen panjang, memberikan keluaran yang konsisten dan bermakna sepanjang interaksi yang diperpanjang.

Dukungan banyak bahasa dan pemrograman

Mistral Large 2 mendukung beragam bahasa, termasuk Rusia, Tiongkok, Jepang, Korea, Spanyol, Italia, dan banyak lainnya.

Model ini juga unggul dalam lebih dari 80 bahasa pemrograman, seperti Python, Java, C, C++, dan JavaScript, menjadikannya alat serbaguna bagi pengguna di seluruh dunia.

Sumber terbuka dan mudah diakses

Mistral Large 2 tersedia di bawah Mistral Research License, memungkinkan penggunaan dan modifikasi sumber terbuka untuk tujuan riset dan nonkomersial.

Ini membuatnya mudah diakses bagi peneliti dan pengembang yang tertarik mengeksplorasi dan meningkatkan kapabilitasnya.

Lisensi komersial

Untuk penggunaan komersial, Mistral Large 2 memerlukan Mistral Commercial License. Pihak yang berminat dapat menghubungi Mistral untuk memperoleh lisensi ini.

Cara Kerja Mistral Large 2

Jadi, bagaimana Mistral Large 2 bekerja? Model ini menggunakan arsitektur Transformer khusus decoder, desain yang populer dan efektif untuk model bahasa modern. Susunan ini memungkinkan model menangani berbagai tugas bahasa secara efisien. Berikut dua cara utama Mistral Large 2 menonjol dalam mengelola beragam tugas bahasa dan pengkodean.

Pelatihan pada dataset masif

Mistral Large 2 dilatih pada sejumlah besar teks dan kode di banyak bahasa dan subjek. Pelatihan ekstensif ini membantu model memahami beragam topik dan keterampilan, dari dokumen teknis hingga percakapan sehari-hari dan cuplikan kode.

Dataset yang beragam juga meningkatkan kemampuan model membantu tugas pemrograman seperti pembuatan kode dan debugging.

Mengurangi halusinasi

Masalah umum pada model bahasa besar adalah terkadang menghasilkan informasi yang terdengar benar namun tidak akurat. Untuk mengatasinya, Mistral AI berfokus meminimalkan “halusinasi” ini dengan fine-tuning yang cermat.

Mereka menambahkan pemeriksaan akurasi yang lebih ketat dan sistem umpan balik untuk memastikan model memberikan informasi yang andal. Mistral Large 2 juga dirancang untuk mengenali saat tidak memiliki cukup informasi untuk memberikan jawaban yang meyakinkan, sehingga mengurangi kemungkinan respons yang menyesatkan atau salah. Fokus pada akurasi ini menjadikan Mistral Large 2 alat yang tepercaya bagi pengguna yang membutuhkan informasi presisi dan dapat diandalkan.

Aplikasi Mistral Large 2

Seperti pendahulunya, Mistral Large 2 adalah alat serbaguna dengan beragam kegunaan. Model ini sangat baik untuk tugas pengodean, termasuk menghasilkan, melengkapi, dan debugging kode.

Model ini juga menangani soal matematika kompleks dan menawarkan penjelasan yang jelas, sehingga berguna bagi pelajar dan profesional.

Kemampuan penalaran dan logika yang kuat ideal untuk menjawab pertanyaan dan menganalisis teks, memberikan wawasan mendalam terhadap konten tertulis.

Terakhir, dukungan multibahasa Mistral Large 2 membantu dalam penerjemahan, pembelajaran bahasa, dan komunikasi lintas budaya.

Walau saat ini terutama menangani teks, pembaruan mendatang mungkin memperluas kemampuannya untuk bekerja dengan gambar atau audio.

Tolok Ukur dan Kinerja

Mistral Large 2 menetapkan standar baru untuk kinerja dan efisiensi biaya. Berikut tinjauan kinerjanya di berbagai tolok ukur.

MMLU

Pada tolok ukur Massive Multitask Language Understanding (MMLU), Mistral Large 2 meraih akurasi 84,0% yang mengesankan.

Tolok ukur ini menguji kemampuan model menangani berbagai tugas, dari sains dan humaniora hingga tantangan profesional. Skor tinggi ini menyoroti pengetahuan umum dan kemampuan penalaran Mistral Large 2 yang kuat.

Pembuatan kode dan matematika

Mistral Large 2 unggul dalam pembuatan kode dan matematika, meraih skor teratas di area ini sambil menggunakan parameter lebih sedikit daripada model yang lebih besar seperti Llama 3.1 405B. Rasio kinerja terhadap ukuran yang tinggi membuatnya menonjol, secara konsisten melampaui model Llama 3.1 yang lebih besar maupun lebih kecil.

Sumber: Mistral AI

Pada tolok ukur pembuatan kode, Mistral Large 2 berada di peringkat kedua setelah GPT-4o, dengan akurasi mengesankan pada Human Eval dan Human Eval Plus. Meski berada di posisi keenam pada MBPP Base dan MBPP Plus, model ini tetap berkinerja baik dibandingkan model lain.

Sumber: Mistral AI

Untuk pembuatan kode multibahasa, Mistral Large 2 menempati peringkat kedua tepat di belakang GPT-4o dan menunjukkan peningkatan signifikan dibanding pendahulunya. Secara keseluruhan, model ini sangat efisien dan serbaguna, khususnya kuat dalam menangani tugas kode dan matematika.

Sumber: Mistral AI

Mistral Large 2 tampil baik pada GSM8K, berada tepat di belakang LLaMA 3.1 70B. Pada tolok ukur Math Instruct yang lebih sulit, Mistral Large 2 berada di peringkat kedua setelah GPT-4o, menunjukkan kemampuan penalaran matematis yang kuat sejak awal. Peningkatan ini, terutama pada tugas zero-shot, mencerminkan kemampuan matematika yang maju dan pelatihan yang solid.

Sumber: Mistral AI

Secara keseluruhan, Mistral Large 2 unggul dalam pembuatan kode dan penalaran matematis, bidang yang menuntut presisi dan keandalan. Dilatih pada korpus kode yang substansial, model ini jauh melampaui pendahulunya dan kompetitif dengan model papan atas seperti GPT-4o dan Llama 3.1 405B. Kinerjanya menunjukkan bahwa ini adalah alat yang kuat untuk pengembangan perangkat lunak dan riset akademis.

Mengikuti instruksi & penyelarasan

Kinerja penting lainnya dari Mistral Large 2 adalah peningkatan kuat dalam kemampuan mengikuti instruksi dan percakapan, membuatnya lebih baik dalam mengikuti perintah dan menangani percakapan panjang.

Mistral Large 2 tampil baik pada Wild Bench, berada di posisi kedua setelah GPT-4o. Pada Arena Hard, model ini peringkat ketiga, di belakang GPT-4o dan Claude 3.5 Sonnet.

Sumber: Mistral AI

Kinerja Mistral Large 2 pada MT Bench juga mendapat skor tinggi dari juri GPT-4o, berada di peringkat ketiga di antara model besar, dan peringkat kedua dalam panjang generasi, tepat di belakang Mistral Large asli. Ini menunjukkan bahwa Mistral Large 2 dapat memberikan respons yang detail sekaligus berkualitas tinggi.

Sumber: Mistral AI

MMLU multibahasa

Salah satu fitur menonjol Mistral Large 2 adalah kapabilitas multibahasa. Pada tolok ukur MMLU multibahasa, yang mengevaluasi kinerja di berbagai bahasa, Mistral Large 2 memberikan hasil kuat di semua bahasa yang diuji, secara konsisten berada di peringkat kedua di belakang model LLaMA 3.1 405B yang jauh lebih besar. Ini menunjukkan keseimbangan kuat Mistral Large 2 antara kinerja dan efisiensi.

Sumber: Mistral AI

Function calling

Function calling penting karena memungkinkan model mengeksekusi tugas atau perintah tertentu dengan akurat, sehingga sangat efektif untuk aplikasi praktis yang memerlukan tindakan presisi berdasarkan masukan pengguna.

Mistral Large 2 melampaui semua model yang lebih besar seperti GPT-4o dan Claude 3.5 Sonnet dalam function calling. Peningkatan signifikan ini menunjukkan kapabilitas lanjut Mistral Large 2 dan membedakannya dari model sebelumnya serta para pesaing.

Sumber: Mistral AI

Efisiensi kinerja/biaya

Mistral Large 2 menetapkan tolok ukur baru pada Pareto kinerja/biaya, yang mengevaluasi keseimbangan antara kinerja model dan biaya pelayanannya. Intinya, model ini menawarkan kinerja hebat tanpa terlalu mahal, menjadikannya pilihan terjangkau bagi bisnis dan peneliti. Efisiensi ini membantu pengguna meraih hasil mengesankan sambil tetap dalam batas anggaran.

Mengakses Model Mistral

Anda dapat mengakses Mistral Large 2 melalui dua cara utama: La Plateforme dan Penyedia Layanan Cloud.

La Plateforme

Mistral Large 2 tersedia di La Plateforme dengan nama mistral-large-2407, tempat Anda juga dapat mencobanya menggunakan le Chat. Bobot model dihosting di HuggingFace. Secara umum, Anda dapat mengakses Mistral Nemo, Mistral Large, Codestral, dan Embed untuk berbagai kebutuhan di La Plateforme. Opsi fine-tuning kini juga tersedia untuk Mistral Large, Mistral Nemo, dan Codestral.

Penyedia layanan cloud

Sebagai alternatif, Anda juga dapat mengakses Mistral Large 2 melalui penyedia cloud besar. Anda dapat menemukannya di Vertex AI Google Cloud Platform, Azure AI Studio, Amazon Bedrock, dan IBM watsonx.ai.

Keamanan dan Tanggung Jawab: Prioritas Utama

Mistral AI berkomitmen memastikan modelnya digunakan secara etis dan bertanggung jawab.

Langkah keamanan yang kuat

Mistral Large 2 telah diuji dan di-fine-tune secara menyeluruh untuk meminimalkan risiko keluaran yang berbahaya atau bias. Ini termasuk fokus pada pengurangan informasi yang salah atau menyesatkan yang dihasilkan model.

Penggunaan yang bertanggung jawab

Menggunakan Mistral Large 2 secara bertanggung jawab melampaui pengamanan teknis semata. Ini juga melibatkan tindakan etis para penggunanya. Untuk memastikan model digunakan dengan tepat, pengguna harus mengikuti Mistral Research License untuk riset nonkomersial atau memperoleh Commercial License untuk tujuan bisnis. Kami mendorong pengguna menerapkan Mistral Large 2 dengan cara yang bermanfaat bagi masyarakat dan menghindari penggunaan yang dapat merugikan atau menyebarkan informasi keliru.

Kesimpulan

Mistral Large 2 menandai langkah maju bagi model bahasa sumber terbuka.

Kinerja yang kuat, dukungan bahasa yang luas, serta penekanan pada akurasi dan keamanan menjadikannya alat yang bertenaga bagi pengembang, peneliti, dan bisnis.

Jika Anda ingin mempelajari lebih lanjut tentang rangkaian LLM Mistral, saya merekomendasikan artikel blog berikut:

• Codestral Mamba
• Codestral 22B
• Tutorial API Codestral 22B: Mulai Menggunakan API Mistral