Làm việc với Llama 3

Trung cấpTrình độ kỹ năng

Đã cập nhật tháng 03, 2025

Khám phá các kỹ thuật mới nhất để chạy Llama LLM tại chỗ và tích hợp nó vào hệ thống của bạn.

Mô tả khóa học

Tìm hiểu cách sử dụng Mô hình Ngôn ngữ Lớn Llama (LLM)

Llama LLM là gì, và làm thế nào bạn có thể sử dụng nó để nâng cao các dự án của bạn? Khóa học này sẽ dạy bạn cách chạy Llama trên máy tính cá nhân, hướng dẫn phản hồi của nó bằng kỹ thuật nhắc lệnh, và xây dựng các cuộc hội thoại có cấu trúc và nhận biết ngữ cảnh.

Tìm hiểu về mô hình Llama và các ứng dụng của nó

Bạn sẽ bắt đầu với phần giới thiệu về các khái niệm nền tảng của Llama, học cách tương tác với các mô hình Llama và khám phá các trường hợp sử dụng của chúng. Bạn sẽ có trải nghiệm thực hành trong việc thiết lập, vận hành và tương tác với mô hình bằng thư viện llama-cpp-python. Khi bạn tiến bộ, bạn sẽ áp dụng các kỹ thuật để cải thiện phản hồi của Llama, duy trì lịch sử hội thoại và tạo ra các đầu ra có cấu trúc sẵn sàng để tích hợp vào các quy trình tự động.

Đây là phần giới thiệu lý tưởng về Llama dành cho các nhà phát triển và người làm AI. Nó khám phá các nền tảng của LLM mã nguồn mở mạnh mẽ này và cách áp dụng nó trong các tình huống thực tế.

Điều kiện tiên quyết

Python Toolbox

Tìm hiểu về LLM và Llama

Lĩnh vực mô hình ngôn ngữ lớn đang bùng nổ, và Llama là một điểm nhấn. Với Llama 3, khả năng đã được mở rộng đáng kể. Hãy khám phá các năng lực của nó, học cách sử dụng với llama-cpp-python, và hiểu cách kiểm soát hành vi của mô hình bằng cách điều chỉnh tham số và gán các vai trò cụ thể để dẫn dắt hội thoại.

Llama là gì?

50 XP

Trò chuyện với Llama 3

100 XP

Trích xuất phản hồi

100 XP

Điều chỉnh tham số của Llama 3

50 XP

Định hướng phản hồi hỗ trợ khách hàng

100 XP

Đảm bảo phản hồi an toàn

100 XP

Tạo nội dung sáng tạo

100 XP

Gán vai trò trong hội thoại

50 XP

Xây dựng một cuộc hội thoại

100 XP

Thông điệp hệ thống

100 XP

Bắt Đầu Chương

Sử dụng Llama cục bộ

Mô hình ngôn ngữ không chỉ tạo văn bản — chúng có thể được định hướng để tạo ra phản hồi có cấu trúc và nhận biết ngữ cảnh. Trong chương này, bạn sẽ khám phá cách tận dụng llama-cpp-python để tạo đầu ra theo các định dạng cụ thể, bao gồm phản hồi tương thích JSON để tích hợp dữ liệu. Bạn cũng sẽ tinh chỉnh đầu ra của Llama bằng kỹ thuật nhắc (prompting) để căn chỉnh phản hồi với các nhiệm vụ khác nhau. Cuối cùng, bạn sẽ xây dựng các cuộc trò chuyện duy trì ngữ cảnh qua nhiều lượt trao đổi, đảm bảo tương tác tự nhiên hơn.

Định hướng phản hồi không có cấu trúc

50 XP

Định dạng prompt cho Llama

100 XP

Few-shot prompting với Llama

100 XP

Tạo đầu ra có cấu trúc

50 XP

Tạo danh sách kiểm kê ở dạng JSON

100 XP

Chỉ định schema JSON có cấu trúc

100 XP