Giải thích về tác tử LLM: Kiến trúc, framework và trường hợp sử dụng

Với nhiều người, mô hình ngôn ngữ lớn (LLM) chủ yếu được dùng làm giao diện hội thoại. Bạn đặt câu hỏi, mô hình trả lời, và tương tác kết thúc tại đó. 

Tuy nhiên, LLM có thể làm được nhiều hơn: chúng được nhúng vào các hệ thống có thể lập kế hoạch, ghi nhớ và tự chủ thực hiện hành động, mở ra cái gọi là tác tử LLM (LLM agents). Các hệ thống mang tính tác tử đang trở nên phổ biến hơn trong phân tích hiện đại và các quy trình kinh doanh. 

Đến cuối bài viết này, bạn sẽ hiểu tác tử LLM là gì, cách chúng được xây dựng, các loại tác tử khác nhau và nơi chúng có thể tạo ra giá trị. 

Để tận dụng tối đa thông tin trong bài, hãy kết hợp với lộ trình kỹ năng Những điều căn bản về AI để ôn lại kiến thức về AI và LLM.

Tác tử LLM là gì?

Hãy nói về cách tác tử LLM khác với các mô hình ngôn ngữ tiêu chuẩn. 

Giao diện LLM thông thường, như chatbot, chỉ có thể nhận prompt và trả lại phản hồi được tạo dựa trên dữ liệu huấn luyện, không có hành động hoặc trạng thái bên ngoài. Ngược lại, tác tử LLM dùng một LLM làm động cơ suy luận cốt lõi (như bộ não) và bao quanh nó bằng các thành phần hỗ trợ cho phép suy luận, lập kế hoạch và thực thi.

Tác tử LLM chuyển trọng tâm từ tự động hóa sang tự chủ.

Tự động hóa cho phép LLM nhận đầu vào và làm theo một chuỗi bước để tạo đầu ra. Với tự chủ, chúng ta trao cho LLM một bộ công cụ và khả năng quyết định cách tốt nhất để đi đến lời giải dựa trên những gì nó biết về tình huống. Điều này mang lại sự linh hoạt và mức độ phức tạp hơn để LLM hành động một cách “độc lập”.

Hãy coi một LLM thuần túy như một chuyên gia tư vấn trả lời câu hỏi dựa trên kiến thức của họ. Một tác tử LLM thì giống như chuyên gia đó dẫn dắt một đội nhóm: quyết định cần hỏi gì, tham vấn “thành viên” nào (công cụ), và cách kết hợp các câu trả lời thành một giải pháp.

Các thành phần cốt lõi của tác tử LLM

Một tác tử LLM gồm một số thành phần cốt lõi:

• Bản thân LLM (bộ não)
• Logic lập kế hoạch
• Bộ nhớ
• Công cụ

Biểu đồ sau minh họa mối quan hệ giữa các thành phần này.

Bộ não LLM

LLM đóng vai trò là lõi nhận thức của tác tử. Nó diễn giải mục tiêu của người dùng, suy luận về các bước trung gian và quyết định hành động cần thực hiện. Trên thực tế, LLM được gọi lặp lại nhiều lần, không chỉ một lần.

Mỗi lần LLM được gọi, nó nhận bối cảnh có thể bao gồm mục tiêu ban đầu, các hành động trước đó, kết quả từ công cụ và bộ nhớ liên quan. Dựa trên thông tin này, nó quyết định hành động tiếp theo. Điều này khiến LLM hoạt động giống như một bộ điều khiển hơn là một trình tạo văn bản tĩnh.

Với người làm dữ liệu, điều quan trọng là hiểu rằng LLM không trực tiếp thực thi mã hoặc truy vấn. Nó tạo ra các hướng dẫn có cấu trúc để các thành phần khác diễn giải. Chất lượng của một tác tử thường phụ thuộc vào việc các hướng dẫn này được ràng buộc và xác thực tốt đến đâu.

Logic lập kế hoạch

Logic lập kế hoạch là cơ chế cho phép tác tử giải quyết các vấn đề phức tạp bằng cách chia nhỏ thành các bước có thể quản lý. Không có lập kế hoạch, một tác tử sẽ cố gắng giải quyết mọi thứ trong một phản hồi duy nhất, điều này thường dẫn đến lỗi hoặc ảo giác.

Trong giai đoạn lập kế hoạch, tác tử phân rã một mục tiêu cấp cao thành các nhiệm vụ nhỏ hơn. Ví dụ, “Phân tích churn của khách hàng” có thể trở thành “tải dữ liệu khách hàng,” “tính tỷ lệ churn,” “xác định xu hướng,” và “tổng hợp phát hiện.” Mỗi nhiệm vụ con sau đó được thực thi tuần tự hoặc có điều kiện.

Một kỹ thuật phổ biến là Chain-of-Thought (CoT), khuyến khích mô hình suy luận một cách rõ ràng bằng cách xâu chuỗi một loạt hành động dưới dạng các prompt tuần tự. 

ReAct (suy luận và hành động) tiến xa hơn và đan xen dấu vết suy luận với các hành động gọi công cụ và quan sát bên ngoài. Phản hồi bên ngoài này giúp tác tử bám sát thực tế và tự điều chỉnh khi kết quả trung gian không khớp kỳ vọng.

Bộ nhớ

Bộ nhớ cho phép tác tử duy trì tính liên tục xuyên suốt các tương tác và hành động bằng cách tái sử dụng thông tin trước đó. Không có bộ nhớ, mỗi bước sẽ bị cô lập, buộc tác tử phải “tái khám phá” cùng một kiến thức hết lần này đến lần khác.

Bộ nhớ ngắn hạn thường tồn tại trong cửa sổ ngữ cảnh của LLM. Nó bao gồm các tin nhắn gần đây, suy luận trung gian và kết quả công cụ. Giống như RAM trong kiến trúc máy tính, bộ nhớ này nhanh nhưng hạn chế và biến mất khi vượt quá ngữ cảnh.

Bộ nhớ dài hạn được triển khai bên ngoài, thường dùng cơ sở dữ liệu vector. Các kỹ thuật như RAG (Retrieval-Augmented Generation) cho phép tác tử truy xuất các tài liệu hoặc tương tác trước đó có liên quan và đưa chúng vào ngữ cảnh hiện tại. 

Công cụ

Công cụ mở rộng khả năng của tác tử vượt ra ngoài ngôn ngữ. Chúng cho phép tác tử tương tác với thế giới thực, bao gồm cơ sở dữ liệu, API và các công cụ tính toán.

Từ góc nhìn của tác tử, công cụ là các hàm có thể gọi với đầu vào và đầu ra được định nghĩa. LLM quyết định khi nào dùng công cụ, cung cấp đối số gì và cách diễn giải kết quả. Khả năng ra quyết định này là điều phân biệt tác tử với các quy trình được kịch bản hóa.

Công cụ có thể bao gồm các tính năng như tìm kiếm Google, thực thi SQL, trình thông dịch Python và API. Tác tử thực chất có quyền truy cập vào cùng các công cụ công nghệ như chúng ta và có thể kết hợp chúng để thực thi giải pháp.

Hình ảnh trên mô tả kiến trúc tổng quát của tác tử LLM. Bộ Não cung cấp thông tin bộ nhớ và lập kế hoạch, từ đó khởi tạo một chuỗi nhiệm vụ sử dụng các công cụ.

Các loại tác tử LLM

Phần này tóm tắt các nhóm tác tử khác nhau, từ tác tử phản xạ đơn giản đến tác tử học tập phức tạp.

Tác tử phản xạ đơn giản

Tác tử phản xạ đơn giản vận hành dựa trên các quy tắc điều kiện-hành động trực tiếp. Chúng không xét đến lịch sử, hệ quả tương lai, hay các hành động thay thế. Nếu điều kiện được đáp ứng, hành động tương ứng sẽ được thực thi ngay lập tức.

Sự đơn giản này giúp chúng dễ triển khai, nhưng lại cực kỳ mong manh. Bất kỳ đầu vào bất ngờ hoặc tín hiệu thiếu hụt nào cũng có thể gây hành vi sai. Chúng cũng không thể thích nghi với môi trường thay đổi.

Ví dụ về bot hủy đăng ký email làm nổi bật hạn chế này. Nó thực hiện nhiệm vụ nhanh chóng nhưng thiếu nhận thức, có thể dẫn đến kết quả không mong muốn.

Tác tử phản xạ dựa trên mô hình

Tác tử phản xạ dựa trên mô hình cải thiện so với tác tử phản xạ đơn giản bằng cách duy trì một biểu diễn nội bộ về môi trường. Mô hình nội bộ này cho phép chúng suy luận về những thứ không nhìn thấy ngay lập tức.

Bằng cách theo dõi trạng thái theo thời gian, các tác tử này có thể xử lý tính quan sát một phần. Chúng nhớ những gì đã xảy ra và dùng thông tin đó để định hướng các hành động tương lai.

Các trợ lý IDE như Copilot hoặc Cursor AI là ví dụ điển hình. Chúng duy trì nhận thức về tệp, biến và hàm trong suốt phiên làm việc, cho phép đưa ra gợi ý thông minh hơn là chỉ khớp mẫu đơn thuần. Chúng cũng là cầu nối đến nhóm tác tử tiếp theo.

Tác tử dựa trên mục tiêu

Tác tử dựa trên mục tiêu được thiết kế xoay quanh kết quả thay vì tác nhân kích hoạt. Chúng lập kế hoạch và đánh giá hành động dựa trên việc liệu chúng có đưa hệ thống tiến gần hơn đến mục tiêu mong muốn hay không, thay vì chỉ phản ứng thụ động.

Những tác tử này tạo ra kế hoạch có thể gồm nhiều bước và rẽ nhánh có điều kiện. Nếu một cách tiếp cận thất bại, chúng có thể thử lộ trình thay thế. Điều này khiến chúng linh hoạt hơn đáng kể so với tác tử dựa trên phản xạ.

Ví dụ, việc tạo một lịch trình du lịch cho thấy cách một mục tiêu cấp cao duy nhất có thể được phân rã thành nhiều hành động phối hợp trên các hệ thống. 

Tác tử không chỉ phản hồi đơn giản “hãy cho tôi một lịch trình” và lặp lại thông tin. Thay vào đó, nó có thể chia nhỏ mục tiêu thành các bài toán con, chẳng hạn: 

• Di chuyển giữa các thành phố như thế nào?
• Nhà hàng tốt nhất ở mỗi thành phố là gì?
• Làm sao xếp lịch các hoạt động với nhau?

Mục tiêu tạo lịch trình sau đó được đạt được bằng cách kết hợp lời giải của từng bài toán đó.

Tác tử dựa trên độ hữu ích

Tác tử dựa trên độ hữu ích mở rộng tác tử dựa trên mục tiêu bằng cách đưa tối ưu hóa vào. Thay vì chỉ đạt mục tiêu, chúng đánh giá các kết quả khác nhau bằng cách dùng một “hàm độ hữu ích”.

Hàm độ hữu ích gán điểm cho các kết quả dựa trên tiêu chí như chi phí, thời gian, rủi ro hoặc sở thích người dùng. Tác tử sau đó chọn chuỗi hành động tối đa hóa độ hữu ích tổng thể.

Cách tiếp cận này phổ biến trong hệ thống gợi ý và các bài toán tối ưu hóa. Có thể là tìm tuyến đường tốt nhất đến một địa điểm, đề xuất đúng sản phẩm, hoặc thậm chí đưa ra phân tích phù hợp nhất để trình bày cho một người dùng cụ thể.

Tác tử học tập

Tác tử học tập được thiết kế để cải thiện hành vi theo thời gian mà không cần lập trình lại một cách tường minh. 

Qua mỗi vòng lặp, tác tử nhận phản hồi và dùng thông tin đó để cải thiện hiệu suất. Chúng hoạt động trong các môi trường nơi hành vi tối ưu không được biết trước và không cần lập trình lại tường minh cho từng tình huống mới.

Có hai thành phần chính: “Critic” (Người phê bình) và “Learning Element” (Thành phần học tập). “Critic” đánh giá kết quả và cung cấp phản hồi. “Learning Element” dùng phản hồi này để điều chỉnh các quyết định trong tương lai. Theo thời gian, tác tử trở nên phù hợp hơn với sở thích người dùng hoặc các ràng buộc môi trường.

Ví dụ, hãy tưởng tượng một tác tử LLM tóm tắt tin tức hằng ngày cho bạn. Nó có thể quan sát hành vi của bạn và thích nghi với sở thích. Nếu nó nhận thấy bạn hiếm khi mở phần tóm tắt “Thể thao” nhưng lại quan tâm đến “Ẩm thực & Đồ uống”, nó có thể ngừng cung cấp tóm tắt thể thao và thay vào đó tập trung vào các món ăn hoặc nhà hàng bạn quan tâm.

Tóm tắt về các tác tử LLM

Bảng sau tóm tắt sự khác biệt giữa các loại tác tử LLM.

Các framework phổ biến để xây dựng tác tử LLM

Phần này giới thiệu các framework thường dùng để xây dựng hệ thống tác tử LLM.

LangChain

LangChain cung cấp một framework mô-đun để xây dựng hệ thống vận hành bằng LLM. Ý tưởng cốt lõi là quy trình phức tạp có thể được cấu thành bằng cách ghép các thành phần đơn giản. Nó giải quyết thách thức giao tiếp với các LLM khác nhau và trừu tượng hóa quy trình đó cho người dùng thông qua các đối tượng Python.

Khái niệm then chốt trong LangChain là “Chuỗi” (Chains), liên kết prompt, mô hình và bộ phân tích thành các quy trình lặp lại. Ví dụ, bạn dùng PromptTemplate, được đưa vào LLM và xử lý bởi OutputParser. 

LCEL (LangChain Expression Language) cung cấp cú pháp khai báo cho phép người dùng dùng ký tự ống (|) để trực quan ghép chuỗi. Vì vậy thay vì các quy trình Python cổ điển yêu cầu bạn truyền prompt vào mô hình một cách tường minh, bạn chỉ cần viết chain = prompt | model và để LangChain xử lý phần templating. 

Với chức năng phức tạp hơn, LangChain cho phép người dùng thêm các công cụ như Wikipedia, Python REPL và Google Search vào tác tử của mình

LangGraph xây dựng trên chức năng của LangChain và kết hợp các khái niệm này với bộ nhớ để hỗ trợ kiến trúc tác tử có trạng thái, đạt chuẩn sản xuất, với quyền kiểm soát rõ ràng luồng thực thi. 

Vượt ra ngoài LangGraph, hệ sinh thái của LangChain đã phát triển thêm gồm các cách quan sát tác tử dễ dàng hơn (LangSmith) và thậm chí giao diện kéo-thả (LangFlow). 

LlamaIndex

LlamaIndex vượt trội trong các quy trình tập trung vào tài liệu nhờ cung cấp OCR và phân tích cú pháp độ chính xác cao cho hơn 90 loại tệp phi cấu trúc, có thể kết hợp với quy trình tác tử để truy xuất và trích xuất thông minh.

Các bộ kết nối dữ liệu của nó đơn giản hóa việc nạp dữ liệu từ nhiều nguồn, trong khi các cấu trúc đánh chỉ mục tối ưu hóa truy xuất. VectorStoreIndex là lựa chọn phổ biến nhất cho tìm kiếm ngữ nghĩa.

Các công cụ truy vấn điều phối truy xuất và sinh nội dung, trong khi bộ định tuyến đưa ra quyết định kiểu tác tử bằng cách chọn nguồn dữ liệu phù hợp nhất cho một truy vấn nhất định.

CrewAI

CrewAI được thiết kế xoay quanh sự cộng tác. Thay vì một tác tử đơn lẻ, nó cho phép nhiều tác tử với vai trò khác nhau làm việc cùng nhau.

Nó tập trung vào ý tưởng về “Đội nhóm” (Crews), là một tập hợp tác tử được định nghĩa sẵn. Mỗi tác tử được gán một persona, mục tiêu và câu chuyện nền, định hình hành vi của nó. 

Nhiệm vụ xác định cần làm gì và thế nào là thành công. Bạn định nghĩa hình dạng của một nhiệm vụ cụ thể, cung cấp một số tham số, đầu ra kỳ vọng và tác tử nào nên làm nhiệm vụ đó.

Quy trình xác định cách thực thi nhiệm vụ: tuần tự, phân cấp hoặc theo mô hình điều phối-giám sát, nơi một tác tử chính động thái phân rã nhiệm vụ phức tạp, mô phỏng đội nhóm con người.

Theo tài liệu CrewAI, chúng ta thấy rằng “flows” cung cấp cách điều phối và kích hoạt các đội nhóm. Mỗi đội dùng các tác tử LLM với vai trò và nhiệm vụ được định nghĩa để thực hiện công việc cụ thể và tạo ra kết quả mong muốn.

Chọn framework phù hợp

Việc chọn framework phụ thuộc vào miền bài toán và các ràng buộc của bạn. Mỗi framework nêu trên có điểm mạnh riêng:

• LangChain: Cung cấp sự linh hoạt và khả năng kiểm soát với mức độ quan sát tốt nhất về cách từng công cụ hoạt động
• LlamaIndex: Vượt trội ở các quy trình hướng tài liệu, nơi việc phân tích thông tin là quan trọng
• CrewAI: Tỏa sáng khi sự cộng tác và tách bạch vai trò là quan trọng, và bạn ít tập trung vào việc tác tử hoàn thành công việc như thế nào.

Hãy cân nhắc độ phức tạp dữ liệu, mức độ tự chủ cần thiết và các ràng buộc vận hành. Không có lựa chọn đúng cho mọi trường hợp.

Để hỗ trợ quyết định, bạn cũng có thể tham khảo các bài viết của chúng tôi so sánh LangChain với LlamaIndex, và CrewAI với LangGraph.

Trường hợp sử dụng của tác tử LLM

Các trường hợp sử dụng cho tác tử LLM gần như vô tận và chỉ bị giới hạn bởi trí tưởng tượng của bạn.

Trợ lý lập trình

Các trợ lý lập trình hiện đại dùng quy trình tác tử để lập kế hoạch, thực thi và kiểm tra thay đổi. Chúng có thể khám phá codebase, tạo giải pháp, chạy kiểm thử và sửa lỗi lặp đi lặp lại. 

Chẳng hạn, Cursor tích hợp gốc vào IDE của bạn và giúp bạn hoàn thiện dòng mã hoặc sửa đổi pipeline với các tác động phía hạ nguồn. Claude Code có thể giúp bạn viết kiểm thử, tạo toàn bộ script hoặc đánh giá các điểm bất nhất trong mã của bạn trên cả repo. Chúng ta có thể dùng GitHub Copilot để hỗ trợ viết pull request và kiểm thử mã như một phần của quy trình yêu cầu.

Điều này chuyển vai trò của lập trình viên từ viết từng dòng mã sang giám sát và định hướng các hệ thống thông minh. Với người làm dữ liệu, điều này có thể tăng tốc đáng kể việc thử nghiệm và tạo mẫu.

Tôi khuyến nghị bạn học khóa Phát triển phần mềm với GitHub Copilot nếu bạn muốn bắt đầu với trợ lý lập trình dùng LLM.

Business Intelligence

Hệ thống BI mang tính tác tử cho phép người dùng đặt câu hỏi bằng ngôn ngữ tự nhiên và nhận insight có thể hành động. Tác tử có thể dịch câu hỏi sang SQL, thực thi truy vấn và giải thích kết quả. 

Bạn có thể “trò chuyện” với dữ liệu như với một thành viên cấp cao trong đội và nhận insight cùng trực quan hóa theo thời gian thực. Điều này giảm phụ thuộc vào dashboard và cho phép các thành viên không kỹ thuật thực hiện phân tích khám phá. 

Tài liệu và tổng hợp thông tin

Tác tử nghiên cứu tự động hóa việc thu thập và tổng hợp thông tin. Chúng tìm kiếm web, truy xuất nguồn và tóm tắt phát hiện; một số hệ thống còn có bộ lọc chất lượng nguồn cơ bản. Chúng thậm chí có thể xem tài liệu nội bộ trên các trang như Notion hoặc tin nhắn trong Slack. 

Với quyền truy cập vào tất cả các nguồn thông tin này, tác tử LLM không chỉ nhanh chóng tổng hợp thông tin mà còn có thể tạo toàn bộ tài liệu và bản tóm tắt để đội nhóm nhanh chóng chia sẻ thông tin. 

Điều này đặc biệt giá trị trong các lĩnh vực biến động nhanh, nơi bộ dữ liệu tĩnh nhanh chóng lỗi thời. Tác tử cung cấp insight được làm mới liên tục.

Để có thêm ý tưởng về cách mọi người đang dùng AI Agents, hãy xem hướng dẫn của chúng tôi về 10 dự án AI Agent hàng đầu.

Thách thức chính trong quy trình tác tử

Dù quy trình tác tử rất ấn tượng và mạnh mẽ, chúng cũng đi kèm thách thức riêng. Tác tử có thể “ảo giác” bước, hiểu sai kết quả từ công cụ, hoặc rơi vào vòng lặp dài hay ngoài ý muốn. Hàng rào bảo vệ, xác thực và khả năng quan sát là tối quan trọng cho hệ thống sản xuất.

Mỗi hành động của tác tử thường cần một lần gọi LLM. Nhiệm vụ phức tạp có thể liên quan đến hàng chục lần gọi, làm tăng độ trễ và chi phí API. Thêm vào đó, bạn có thể phải trả cho hạ tầng bổ sung như lưu trữ đám mây, tính toán đám mây và các chi phí khác để hỗ trợ tác tử LLM.

Hệ thống tự chủ khó gỡ lỗi hơn mã quyết định (deterministic). Việc hiểu tại sao tác tử đưa ra quyết định đòi hỏi phải truy vết trạng thái, bộ nhớ và các bước suy luận. 

Tùy thuộc vào framework tác tử bạn dùng, điều này có thể cực kỳ thách thức. Một số framework như CrewAI trừu tượng hóa sâu hơn nhiều do độ phức tạp bổ sung, so với framework thẳng thắn hơn như LangChain, vốn tập trung vào việc đơn giản hóa truy cập LLM của bạn.

Kết luận

Chúng ta đang chuyển từ chatbot cô lập sang các quy trình tác tử hoàn chỉnh có thể suy luận, lập kế hoạch và hành động. Dù vẫn còn sớm, mô hình này đã định hình lại cách các hệ thống dữ liệu được xây dựng và sử dụng.

Với những người khao khát trở thành chuyên gia dữ liệu, học về tác tử LLM ngay hôm nay mang lại lợi thế lớn cho các vai trò trong tương lai. Những hệ thống này đại diện cho tương lai của tự động hóa thông minh. 

Hãy bắt đầu luyện tập và xây dựng các tác tử LLM này với khóa Thiết kế hệ thống tác tử với LangChain của chúng tôi!