Llama 3 là gì?
Llama 3 là một AI sinh văn bản. Tức là, tương tự các mô hình GPT của OpenAI và Claude của Anthropic, bạn nhập một lời nhắc văn bản và nó tạo ra phản hồi bằng văn bản. Các mô hình mới hứa hẹn hiệu năng được cải thiện, đặc biệt ở khả năng hiểu ngữ cảnh và lập luận logic tốt hơn. Dòng Llama được dùng để vận hành Meta AI, một trợ lý thông minh tích hợp trong Instagram, WhatsApp, Messenger và Facebook.
Llama 3 là mô hình "trọng số mở". Nghĩa là bản thân mô hình là mã nguồn mở, mang lại mức độ minh bạch nhất định về cách nó tính toán. Tuy vậy, các chi tiết đầy đủ để tái tạo, như tập dữ liệu dùng để huấn luyện, không được công khai.
Hình ảnh 3 chú lạc đà không bướu tạo bằng Midjourney. Lời nhắc dùng: “A cartoon of 3 llamas happily frolicking in a field”
Các khả năng mới của Llama3
Llama 3 có hai kích thước: mô hình 8 tỷ tham số và mô hình 70 tỷ tham số. Nhìn chung, nhiều tham số hơn cho chất lượng đầu ra tốt hơn nhưng khiến mô hình chạy chậm hơn và tốn kém hơn. 70 tỷ tham số tương đương nhiều mô hình đối thủ, dù cũng đã có các mô hình với số tham số lớn hơn đáng kể. Một mô hình thứ ba, lớn hơn với 400 tỷ tham số, được thông báo là đang phát triển.
Cửa sổ ngữ cảnh—lượng văn bản có thể được suy luận cùng lúc—đã được tăng gấp đôi từ 4096 lên 8192 token. Token dùng để chỉ một từ đơn hoặc một dấu câu, dù một số từ có thể bị tách thành nhiều token. Trong tiếng Anh, bốn token tương đương khoảng ba từ, nên cửa sổ ngữ cảnh mới vào khoảng 15 trang văn bản (400 từ mỗi trang). Dù mức tăng là đáng mừng, nó vẫn còn cách xa mức tiên tiến nhất, khi các mô hình Claude 3 cung cấp cửa sổ ngữ cảnh tới 200.000 token.
Những tính năng khác của mô hình không được mô tả trong bài công bố. Thay vào đó, phần lớn tập trung vào hệ sinh thái phần mềm xung quanh.
Hệ sinh thái Llama 3
Cùng với việc công bố Llama3, Meta giới thiệu một bộ công cụ giúp làm việc với Llama dễ dàng và an toàn hơn. Dưới đây là tổng quan.
Llama Guard 2
Llama Guard 2 là công cụ LLM để phân loại văn bản là "an toàn" hoặc "không an toàn." Có thể dùng cho cả lời nhắc và phản hồi. Ví dụ, nó có thể phát hiện liệu văn bản có chứa mô tả bạo lực, thù ghét, hoặc nội dung gây phản cảm khác hay không.
Một trường hợp sử dụng là chatbot. Bạn có thể kiểm tra từng lời nhắc, và nếu nội dung bị gắn cờ là không an toàn, bạn đưa ra cảnh báo hoặc cách xử lý khác với nội dung có vấn đề. Tương tự, nếu chatbot tạo phản hồi bị gắn cờ là không an toàn, bạn có thể chặn lại và thử lại trước khi người dùng nhìn thấy.
Ngoài cờ an toàn/không an toàn, phản hồi từ Llama Guard 2 còn được gắn nhãn an toàn—một trong mười một danh mục nội dung phản cảm theo Phân loại An toàn AI của MLCommons.
Llama Code Shield
Llama Code Shield phân loại mã là an toàn hay không an toàn. Khi nhiều nhà phát triển phần mềm dùng LLM để hỗ trợ viết mã, có rủi ro sinh ra mã kém an toàn và bị đưa vào sản phẩm. Công cụ này được thiết kế để tích hợp vào các trợ lý lập trình AI và các công cụ khác như VSCode và DataLab.
CyberSec Eval 2
CyberSec Eval 2 cho phép bạn đánh giá mức độ an toàn của một LLM. Phiên bản gốc hỗ trợ đánh giá an toàn của sinh mã và bảo vệ trước tấn công mạng. Phiên bản mới xây dựng trên đó, với các tính năng đánh giá khả năng dễ bị tấn công bằng prompt injection, khả năng tấn công an ninh mạng tự động, và xu hướng lạm dụng trình thông dịch mã.
torchtune
torchtune là gói Python hoạt động cùng với khung học sâu PyTorch để giúp bạn phát triển LLM của riêng mình một cách dễ dàng. Có các công cụ cho bốn tác vụ.
- Tạo mô hình mới từ các khối xây dựng dựa trên các LLM hiện có
- Tinh chỉnh LLM bằng các kỹ thuật như LoRA và QLoRA
- Cấu hình thiết lập cho huấn luyện, lượng tử hóa và đánh giá mô hình
- Mẫu prompt và tích hợp tập dữ liệu để việc huấn luyện dễ tiếp cận hơn
torchtune được tích hợp với các nền tảng máy học phổ biến như Hugging Face, Weights & Biases, EleutherAI và Executorch.
Các trường hợp sử dụng của Llama 3 là gì?
Các trường hợp sử dụng của Llama 3 giống với Llama 2 và các LLM khác. Những cách dùng phổ biến gồm:
- Chatbot: Tự động hóa chăm sóc khách hàng, hỗ trợ và tương tác qua các tác nhân hội thoại.
- Tóm tắt tài liệu: Cô đọng tài liệu dài thành phiên bản ngắn hơn làm nổi bật ý chính, hữu ích trong bối cảnh pháp lý, học thuật và kinh doanh.
- Sáng tạo nội dung: Tạo bài viết, báo cáo, blog và cả sáng tác như thơ và truyện.
- Hỗ trợ email và giao tiếp: Tự động soạn email, phản hồi và các thông điệp thường nhật khác.
- Mô tả sản phẩm: Tự động tạo mô tả sản phẩm độc đáo, hấp dẫn cho trang thương mại điện tử.
- Công cụ giáo dục: Tạo tài liệu học tập, câu hỏi thi và nội dung giáo dục điều chỉnh theo trình độ người học.
- Lập trình và sinh mã: Hỗ trợ nhà phát triển bằng cách tạo đoạn mã, gỡ lỗi mã hiện có, hoặc đưa ra gợi ý lập trình.
- Báo cáo phân tích dữ liệu: Tóm tắt phát hiện dữ liệu và tạo báo cáo từ đầu vào dữ liệu có cấu trúc.
- Trợ lý ảo: Vận hành các ứng dụng trợ lý cá nhân quản lý lịch, trả lời câu hỏi và thực hiện tác vụ.
Hiệu năng của Llama 3 so với các mô hình khác thế nào?
Thông báo của Meta đưa ra kết quả điểm chuẩn cho hai phiên bản Llama 3 với tám tỷ (8B) và bảy mươi tỷ (70B) tham số so với hai mô hình khác.
Các bộ điểm chuẩn sau được sử dụng.
- Massive Multitask Language Understanding (MMLU). Các bài kiểm tra về toán cơ bản, lịch sử Hoa Kỳ, khoa học máy tính, luật, và hơn thế nữa. Để đạt độ chính xác cao, mô hình phải có kiến thức rộng về thế giới và khả năng giải quyết vấn đề.
- Graduate-Level Google-Proof Q&A (GPQA). Câu hỏi trắc nghiệm do chuyên gia trong sinh học, vật lý và hóa học biên soạn. Câu hỏi chất lượng cao và cực kỳ khó: chuyên gia đã có hoặc đang theo đuổi bằng tiến sĩ trong lĩnh vực tương ứng đạt 74% độ chính xác.
- HumanEval. Bài test về tính đúng chức năng của mã máy tính, dùng để kiểm tra sinh mã.
- GSM-8K. Bộ bài toán đố toán tiểu học chất lượng cao, đa dạng ngôn ngữ.
- MATH. Bài toán toán học cấp trung học cơ sở và trung học phổ thông.
Mô hình Llama 3 8B được so sánh điểm chuẩn với Gemma 7B It của Google và Mistral 7B Instruct. Đây là các LLM có kích thước tương đương (số tham số tương tự), là mô hình trọng số mở có trên nền tảng Hugging Face và nhắm tới các trường hợp sử dụng giống nhau. Kết quả thể hiện ở Hình 1.
Llama 3 8B vượt trội thoải mái so với hai mô hình còn lại trên cả năm bộ điểm chuẩn.
Hình 1. Hiệu năng của Llama 3 8B so với hai mô hình tương đương trên 5 bộ điểm chuẩn LLM.
Llama 3 70B được so sánh điểm chuẩn với Gemini Pro 1.5 của Google DeepMind và Claude 3 Sonnet của Anthropic. Đây là những mô hình gần với mức tiên tiến, dù không phải các mô hình hiệu năng cao nhất hiện có (ngôi vị này hiện luân phiên giữa GPT-4 Turbo của OpenAI và Claude 3 Opus của Anthropic). Kết quả thể hiện ở Hình 2.
Ở đây, hiệu năng gần như ngang nhau trên ba bộ điểm chuẩn. Llama 3 80B thắng ở điểm chuẩn HumanEval về sinh mã và xếp thứ hai sau Gemini Pro 1.5 ở điểm chuẩn MATH.
Hình 2. Hiệu năng của Llama 3 70B so với hai mô hình tương đương trên 5 bộ điểm chuẩn LLM.
Diễn giải kết quả điểm chuẩn
Có nhiều hơn năm bộ điểm chuẩn: Llama 3 được đánh giá trên 15 bộ, nhưng chỉ năm kết quả được hiển thị trong bài công bố. Tương tự, còn rất nhiều lựa chọn LLM để so sánh. Không rõ Meta đã lựa chọn kết quả đến mức nào khi trình bày.
Thứ hai, chất lượng đầu ra chỉ là một thước đo hiệu năng. Thời gian và chi phí để tạo phản hồi cũng quan trọng và không được đề cập trong bài công bố.
Thứ ba, hiệu năng luôn thay đổi theo trường hợp sử dụng, nên bạn cần thử trên bài toán và phần cứng của chính mình để có kết quả chính xác cho nhu cầu của bạn.
Xếp hạng Chatbot Arena
Trong những ngày sau thông báo của Meta, hiệu năng Llama 3 đã xuất hiện trên Bảng xếp hạng LMSYS Chatbot Arena, một bảng xếp hạng công khai các LLM. Llama 3 70B hiện xếp hạng 6, là thứ hạng cao nhất trong các LLM trọng số mở. (Xếp sau nhiều phiên bản của OpenAI GPT-4, Anthropic Claude 3 Opus và Google Gemini Pro.) Trong khi đó, Llama 3 8B đứng thứ 14.
Đây là những bước nhảy hạng đáng chú ý, và đáng để tìm hiểu điều gì đã thay đổi so với Llama 2.
Llama 3 hoạt động như thế nào?
Llama 3 sử dụng kiến trúc transformer chỉ decoder, giống các tiền nhiệm và dòng GPT. Đây là kiến trúc phổ biến nhất cho các mô hình sinh văn bản. (Kiểu ngược lại, chỉ encoder, dùng để hiểu hoặc phân loại văn bản do người dùng cung cấp.)
Thông báo về Llama 3 không mô tả thay đổi mang tính đột phá nào với cấu trúc mô hình hoặc quy trình huấn luyện. Thay vào đó, có nhiều tối ưu xoay quanh cân bằng giữa chất lượng phản hồi, tốc độ phản hồi và quá trình phát triển.
Bộ tokenizer mới, dùng để chuyển văn bản thành token, hiệu quả hơn, nên lời nhắc và phản hồi chiếm ít hơn 15% số token, đồng nghĩa có thể đưa nhiều văn bản hơn vào cửa sổ ngữ cảnh.
Cơ chế attention mới—kỹ thuật LLM dùng để quyết định từ hoặc cụm nào quan trọng để sinh đầu ra—gọi là grouped query attention, mang lại cân bằng tốt hơn giữa chất lượng đầu ra và tốc độ sinh so với các cơ chế trước đây.
Tập dữ liệu huấn luyện lớn gấp bảy lần so với Llama 2, chứa lượng mã nhiều gấp bốn lần. Nhìn chung, có nhiều mã hơn trong dữ liệu huấn luyện giúp LLM giỏi sinh mã hơn.
Đáng chú ý, mô hình Llama 2 được dùng để đánh giá và phân loại dữ liệu đưa vào tập huấn luyện cho Llama 3. Việc dùng AI để tạo ra AI tốt hơn nữa là một mô-típ lâu đời trong khoa học viễn tưởng (nó là một nút thắt trong Hitchhiker's Guide to the Galaxy) và nay đang được áp dụng thực tế.
Quy trình hậu huấn luyện cũng được tối ưu. Sau khi tạo ra một LLM, LLM “thô” đó có thể được tinh chỉnh để cải thiện hiệu năng. Meta cho biết quy trình Llama 3 bao gồm các kỹ thuật sau.
- Tinh chỉnh có giám sát, một kỹ thuật học máy có giám sát trong đó các cặp lời nhắc và câu trả lời chất lượng cao được dùng làm ví dụ về đầu ra tốt.
- Rejection sampling, trong đó sinh ra nhiều đầu ra và xếp hạng, rồi loại bỏ những cái tệ nhất.
- Các kỹ thuật học tăng cường Direct Policy Optimization và Proximal Policy Optimization trong đó mô hình được thưởng cho phản hồi tốt.
Những gì chưa có?
Có một số thiếu vắng đáng chú ý trong lần phát hành này.
Chưa có AI đa phương thức
ChatGPT của OpenAI kết hợp AI văn bản GPT-4 với AI hình ảnh DALL∙E 3. Tức là nó "đa phương thức". Thông báo của Meta gợi ý rằng đưa Llama 3 thành đa phương thức là mục tiêu trong tương lai gần.
Chưa có AI đa ngôn ngữ
Tập dữ liệu Llama 3 được mô tả là chứa 95% văn bản tiếng Anh. Điều đó nghĩa là hiệu năng dự kiến sẽ yếu hơn nhiều cho các ngôn ngữ khác. Tương tự đa phương thức, phiên bản đa ngôn ngữ của Llama 3 cũng nằm trên lộ trình.
Không dùng Mixture of Experts
Một kỹ thuật không được nhắc đến trong thông báo là sử dụng kiến trúc mixture of experts. Với kỹ thuật này, một LLM gồm vài LLM nhỏ hơn chuyên về các tác vụ hẹp hơn (ví dụ, LLM sinh mã, LLM tóm tắt tài liệu và LLM hội thoại). Kỹ thuật này được phổ biến bởi các mô hình Mixtral của Mistral AI và được đồn đoán là nền tảng của GPT-4 của OpenAI, giúp cải thiện hiệu năng trên mỗi tham số. Tức là, bạn có thể đạt hiệu năng tương đương với mô hình nhỏ hơn (do đó rẻ và nhanh hơn) bằng kỹ thuật này. Vì Meta không đề cập kỹ thuật này (và cũng không có đề cập trong kho GitHub của Llama 3), có thể giả định rằng phương pháp này không được sử dụng.
Chưa có World Model
Giám đốc Khoa học AI của Meta, Yann LeCun, là người ủng hộ mạnh mẽ world model, nơi AI phát triển mô hình nội tại về cách thế giới vận hành để học nhanh hơn, hoàn thành tác vụ phức tạp và thích nghi với tình huống lạ. Không thấy nhắc tới kiến trúc mang tính cách mạng này trong thông báo, nên có vẻ nó không hiện diện trong Llama 3.
Tôi có thể truy cập Llama 3 ở đâu?
Llama 3 có thể tải xuống từ trang web của nó và kho GitHub. Nó đã vận hành trợ lý Meta AI trong Facebook, Instagram, WhatsApp và Messenger, nên bạn có thể gián tiếp thử Llama 3 bằng cách sử dụng Meta AI trên các nền tảng đó.
Tích hợp với AWS, Databricks, Google Cloud, Hugging Face, Kaggle, IBM WatsonX, Microsoft Azure, NVIDIA NIM và Snowflake được hứa hẹn "sẽ sớm có", cho phép bạn truy cập Llama 3 thông qua các nền tảng đó.
Llama 3 có quan trọng không?
Ở nhóm hiệu năng cao, bức tranh gần đây của các mô hình ngôn ngữ lớn là cuộc cạnh tranh giữa GPT-4 của OpenAI và Claude 3 Opus của Anthropic cho ngôi vị dẫn đầu, với Google Gemini Pro và Command R+ của Cohere bám sát. Vẫn còn phải xem liệu phiên bản cỡ lớn hơn của Llama 3 đang phát triển có trở thành ứng viên cho ngôi vương hay không, nhưng trước mắt, Meta đã đạt được những cải thiện hiệu năng đáng kể với Llama 3.
Trong vài năm qua, các mô hình đóng (nơi chi tiết mô hình không công khai) vượt trội hơn các mô hình mở. Việc Llama 3 vươn lên hạng 6 vì thế là một dấu mốc lớn.
Mục tiêu ngắn hạn chính của Meta với Llama đơn giản là vận hành trợ lý thông minh Meta AI cho các nền tảng mạng xã hội của mình. Đây là mô hình kinh doanh rất khác với OpenAI, Anthropic hay Cohere, những bên muốn bán LLM của họ để dùng trong sản phẩm AI của các công ty khác. Ở khía cạnh này, các điểm chuẩn hiệu năng về sinh mã hoặc giải toán có thể không quá quan trọng với công ty.
Meta có tập dữ liệu huấn luyện độc nhất từ các bài đăng xã hội do hàng tỷ người dùng tạo ra, và—ngoài chuyện danh tiếng—chỉ số hiệu năng duy nhất quan trọng là "Llama 3 có đáp ứng đủ nhu cầu của người dùng mạng xã hội không?"
Bên cạnh đó, cách tiếp cận trọng số mở khiến Llama 3 có khả năng rẻ hơn để vận hành so với đối thủ. Về cơ bản là tặng miễn phí AI, điều này tạo áp lực giảm giá các API mà đối thủ có thể tính phí. Đây là điều quan trọng, vì sự lạc quan ngất ngây của năm 2023 và những giấc mơ về hiệu năng generative AI tăng không ngừng đã nhường chỗ cho năm 2024 tỉnh táo hơn, khi các lãnh đạo bắt đầu chú ý mức chi phí đắt đỏ của tính năng LLM, và hiệu năng trên mỗi đô la trở thành ưu tiên cao.
Các mô hình trọng số mở cũng quan trọng trong bối cảnh dữ liệu riêng tư là tối thượng, ví dụ khi dùng dữ liệu tài chính, dữ liệu y tế hoặc thông tin nhận dạng cá nhân. Chuyển những dữ liệu cực kỳ nhạy cảm như vậy tới một LLM do công ty khác lưu trữ (như trường hợp GPT và các mô hình đóng khác) tạo ra rủi ro kinh doanh mà đa số công ty không chấp nhận. Điều này đồng nghĩa phải dùng kiến trúc phức tạp hơn cho chatbot hoặc tính năng AI khác để tách dữ liệu nhạy cảm khỏi LLM. Một mô hình trọng số mở như Llama 3 có thể được lưu trữ ở bất kỳ đâu tổ chức mong muốn, giúp dễ tạo sản phẩm và tính năng AI hơn trong khi vẫn giữ quyền riêng tư dữ liệu.
Lời kết
Llama 3 có vẻ là bước cải tiến lặp so với Llama 2. Không có thay đổi đáng kể nào được công bố về kiến trúc, và không có tính năng lớn nào được giới thiệu.
Tập trung vào cân bằng chi phí-hiệu năng cho thấy Meta đang nhắm tới một AI có thể vận hành rẻ ở quy mô lớn. Tin tức thú vị nhất là về các sản phẩm hệ sinh thái: giúp các nhà phát triển khác tạo LLM chất lượng cao hiệu quả hơn là một trong những lợi ích quan trọng nhất từ cách tiếp cận mở của Meta.
Nếu bạn háo hức bắt đầu bước vào thế giới generative AI, lộ trình kỹ năng AI Fundamentals của chúng tôi sẽ giúp bạn bắt kịp với machine learning, deep learning, NLP, mô hình sinh và hơn thế nữa. Bạn cũng có thể đọc các hướng dẫn về tinh chỉnh Llama 3, Llama 3.1 và Llama 3.2.
