OpenAI công bố Assistants API

Tại Dev Day của OpenAI, công ty đã đưa ra một số thông báo, bao gồm một Assistants API mới. Xem thêm các bài viết về GPT-4 Turbo và GPTs và GPT Store để biết chi tiết về các thông báo khác.

Assistants API mở rộng API hiện có của OpenAI nhằm giúp các nhà phát triển phần mềm dễ dàng xây dựng các trợ lý AI, như chatbot.

Bốn tính năng mới đã được công bố:

1. "Threads" để hỗ trợ quản lý các cuộc trò chuyện dài hơn
2. "Retrieval" để hỗ trợ lưu trữ văn bản
3. Khả năng diễn giải mã được tích hợp sẵn
4. Cải tiến chức năng gọi hàm (function calling).

Các tính năng chính của Assistants API

Tại đây, chúng tôi sẽ đề cập chi tiết hơn đến từng tính năng này.

Quản lý hội thoại dễ dàng hơn với threads

Trong khi một số tác vụ có thể được thực hiện bằng cách gửi một lời nhắc duy nhất đến API và nhận về một phản hồi duy nhất, chatbot lại cần một cuộc trò chuyện dài hơn (hay "thread"). Cho đến nay, trách nhiệm thuộc về nhà phát triển trong việc theo dõi trạng thái hội thoại trước đó và quyết định nên gửi những tin nhắn nào trước đó đến API. Khi cuộc trò chuyện kéo dài, điều này đòi hỏi phải gửi ngày càng nhiều văn bản trong mỗi lần gọi API, làm chậm hiệu năng.

Ngoài ra, khi cuộc trò chuyện vượt quá "cửa sổ ngữ cảnh" (lượng văn bản mà GPT có thể ghi nhớ cùng lúc), bạn cần đưa ra quyết định: loại bỏ các tin nhắn cũ, hay cố gắng tóm tắt chúng, hoặc lưu trữ và sau đó quyết định nội dung nào phù hợp cần được đưa vào? Việc này nhanh chóng trở nên rắc rối và làm chậm quá trình phát triển ứng dụng.

Các công cụ threading mới biến OpenAI từ một mô hình "không trạng thái" (không có bộ nhớ) thành "có trạng thái". Các tin nhắn trước đó có thể được lưu trữ phía OpenAI, giúp nhà phát triển không phải lo lắng về các vấn đề quản lý này.

Công cụ retrieval cho phép bạn lưu thêm văn bản

Bài thuyết trình của OpenAI cũng đề cập đến các công cụ retrieval để lưu trữ văn bản. Điều này được giới thiệu như một tính năng thứ hai, dù có vẻ tính năng threading cũng tận dụng điều này, nên chưa rõ mức độ tách biệt giữa hai tính năng.

Chi tiết kỹ thuật trong buổi thuyết trình khá ít, nhưng có thể phỏng đoán cách thức hoạt động. Hiện tại, việc đưa AI sinh sinh (generative AI) vào ứng dụng thường cần hai công nghệ khác nhau: mô hình ngôn ngữ lớn (LLM) như GPT và một cơ sở dữ liệu vector.

Cơ sở dữ liệu vector lưu trữ văn bản (hoặc hình ảnh hay các loại dữ liệu phi cấu trúc khác) dưới dạng vector số thông qua quy trình gọi là embedding. Bạn có thể truy xuất các đoạn văn bản này sau đó để đưa vào lời nhắc. Một trường hợp sử dụng điển hình là có một kho sự kiện liên quan đến chủ đề bạn muốn thảo luận.

Ví dụ, nếu bạn tạo một chatbot để hỗ trợ trả lời câu hỏi về sản phẩm của công ty, bạn có thể lưu thông tin sản phẩm trong cơ sở dữ liệu vector và sử dụng nó để đảm bảo LLM đưa ra phản hồi chính xác về mặt thực tế.

Các khả năng retrieval được đề cập trong bài thuyết trình gợi ý rằng Assistants API có thể cho phép bạn truy cập API đến một cơ sở dữ liệu vector. Điều này mở ra những khả năng thú vị vượt ra ngoài năng lực cho hội thoại dài, vì nó có nghĩa là bạn không cần dùng một cơ sở dữ liệu vector riêng như Pinecone, Milvus, hoặc Weaviate để lưu trữ văn bản của mình.

Đây hiện vẫn là suy đoán, và chúng ta sẽ phải đợi các chi tiết cụ thể về Assistants API được công bố.

Diễn giải mã (code-interpretation) được tích hợp sẵn

ChatGPT có công cụ Advanced Data Analysis cho phép GPT tạo và thực thi mã Python dựa trên hướng dẫn bằng ngôn ngữ tự nhiên. Dù chi tiết trong bài thuyết trình của OpenAI còn khá mơ hồ, nhưng có gợi ý rằng tính năng này sẽ được tích hợp vào Assistants API, để bạn có thể đưa ra lời nhắc khiến GPT chạy mã Python.

Chức năng gọi hàm được cải thiện giúp tương tác với phần mềm khác dễ dàng hơn

Tính năng function calling của API cho phép bạn viết hướng dẫn bằng ngôn ngữ tự nhiên và để GPT trả về một chuỗi JSON đại diện cho một lệnh gọi đến hàm mà bạn đã định nghĩa. Điều này quan trọng đối với các tác nhân AI, vốn được thiết kế để thực hiện nhiệm vụ dựa trên đầu vào ngôn ngữ tự nhiên.

Thông báo mô tả hai cải tiến cho tính năng này. Thứ nhất, có "chế độ JSON" trong đó phản hồi được đảm bảo là JSON hợp lệ và bám sát hơn với chữ ký hàm đã chỉ định. Trước đây, có khả năng phản hồi không hợp lệ, đòi hỏi mã phát hiện lỗi kỹ lưỡng trong phần mềm của bạn.

Chức năng mới này sẽ đơn giản hóa việc tạo tác nhân AI và giúp xây dựng giao diện ngôn ngữ tự nhiên cho phần mềm dễ dàng hơn.

Tóm tắt

Mặc dù cuộc cách mạng AI sinh trong năm 2023 thật ấn tượng, nhưng vẫn cần kỹ năng kỹ thuật phần mềm đáng kể để tích hợp AI sinh vào các phần mềm khác. Assistants API hứa hẹn phần nào hạ thấp rào cản này, giúp nhiều sản phẩm tích hợp công nghệ nhanh hơn.

Tiếp tục học hỏi

DataCamp có một số khóa học giúp bạn học cách sử dụng OpenAI API. Bắt đầu với Làm việc với OpenAI API và tiếp tục với Giới thiệu về Embeddings với OpenAI API.

Bạn cũng có thể tìm hiểu về API gọi hàm trong Hướng dẫn Gọi Hàm của OpenAI.