Last chance! 50% off DataCamp Premium
Sale ends in
Tại OpenAI DevDay gần đây, tổ chức này đã đưa ra một thông báo được mong đợi từ lâu: giới thiệu GPT-4 Turbo, một cải tiến trên mô hình AI đột phá của họ. Ở đây, chúng tôi sẽ nhìn tổng quan về GPT-4 Turbo là gì, các tính năng chính của nó, và cách nó có thể mang lại lợi ích cho nhà phát triển và người dùng.
Trong các bài viết riêng, bạn có thể đọc thêm về GPTs và Cửa hàng ChatGPT, và Assistants API, vốn cũng được công bố tại Dev Day.
GPT-4 Turbo là gì?
GPT-4 Turbo là một bản cập nhật cho mô hình ngôn ngữ lớn GPT-4 hiện có. Nó mang lại một số cải tiến, bao gồm cửa sổ ngữ cảnh được mở rộng đáng kể và khả năng truy cập kiến thức cập nhật hơn. OpenAI đã dần cải thiện khả năng của GPT-4 trong ChatGPT với việc bổ sung hướng dẫn tùy chỉnh, plugin ChatGPT, DALL-E 3 và Phân tích Dữ liệu Nâng cao. Bản cập nhật mới nhất này mang đến hàng loạt tính năng thú vị.
GPT-4 Turbo có Thị giác là gì?
GPT-4 Turbo có thị giác là một biến thể của GPT-4 Turbo bao gồm khả năng nhận dạng ký tự quang học (OCR). Tức là bạn có thể cung cấp cho nó một hình ảnh, và nó có thể trả về bất kỳ văn bản nào có trong hình ảnh đó. Ví dụ, bạn có thể đưa vào ảnh chụp một thực đơn, và nó sẽ trả về các món ăn được ghi trong bức ảnh. Tương tự, bạn có thể đưa ảnh một hóa đơn và tự động trích xuất tên nhà cung cấp và chi tiết mặt hàng.
Các tính năng "có thị giác" sẽ có sẵn trong ChatGPT theo mặc định, và có sẵn cho nhà phát triển bằng cách chọn mô hình "gpt-4-vision" trong OpenAI API.
Các tính năng chính của GPT-4 Turbo
GPT-4 Turbo có một số cải tiến so với các mô hình trước, nâng cao khả năng của nó. Dưới đây là một số tính năng nổi bật:
Mốc kiến thức được cải thiện
Sam Altman hứa đảm bảo ChatGPT luôn cập nhật
Các phiên bản hiện tại của GPT-3.5 và GPT-4 có mốc kiến thức dừng ở tháng 9 năm 2021. Điều đó có nghĩa là chúng không thể trả lời câu hỏi về các sự kiện thực tế xảy ra sau thời điểm đó, trừ khi được cấp quyền truy cập nguồn dữ liệu bên ngoài.
GPT-4 kéo dài mốc kiến thức thêm mười chín tháng, đến tháng 4 năm 2023. Điều này có nghĩa GPT-4 Turbo có quyền truy cập thông tin và sự kiện đến thời điểm đó, khiến nó trở thành nguồn thông tin cập nhật và tin cậy hơn. Hơn nữa, CEO của OpenAI, Sam Altman, hứa rằng "[OpenAI] sẽ cố gắng không bao giờ để [GPT] lỗi thời đến mức đó nữa."
Cửa sổ ngữ cảnh 128K
Cửa sổ ngữ cảnh của một mô hình ngôn ngữ lớn (LLM) là thước đo thời lượng bộ nhớ hội thoại của nó. Nếu một mô hình có cửa sổ ngữ cảnh 4.000 token (khoảng 3.000 từ), thì mọi thứ trong cuộc trò chuyện vượt quá 4.000 token trước đó sẽ bị bỏ qua, và phản hồi có thể kém chính xác hoặc thậm chí mâu thuẫn với các phản hồi trước. Đây là vấn đề khi làm việc với tài liệu dài, hoặc với chatbot cần duy trì hội thoại kéo dài.
GPT-4 có độ dài ngữ cảnh tối đa 32k (32.000) token. GPT-4 Turbo tăng lên 128k token (khoảng 240 trang với 400 từ mỗi trang). Điều này vượt qua giới hạn ngữ cảnh tối đa 100k của Claude 2 từ Anthropic và đưa nó tiệm cận với mô hình YARN-MISTRAL-7b-128k của Nous Research.
Vẫn cần xem liệu cửa sổ ngữ cảnh dài hơn có mang lại hiệu năng phản hồi thỏa đáng trên toàn bộ cửa sổ hay không. Nghiên cứu gần đây từ Đại học Stanford cho thấy các mô hình ngữ cảnh dài hiện có chỉ có thể cung cấp phản hồi chính xác khi truy xuất thông tin gần đầu hoặc cuối tài liệu.
Cũng đáng lưu ý rằng 128k dường như chỉ là bước đệm hướng tới giấc mơ "ngữ cảnh vô hạn". Nghiên cứu giai đoạn đầu từ Microsoft và Đại học Giao thông Tây An đang hướng tới việc mở rộng LLM lên mức một tỷ token ngữ cảnh.
GPT giảm giá
OpenAI đã phản ứng trước sự cạnh tranh gia tăng trên thị trường LLM và giảm giá GPT-4 Turbo để phù hợp ngân sách cho nhà phát triển. Khi dùng OpenAI API, giá token đầu vào của GPT-4 Turbo nay chỉ còn một phần ba so với trước, từ 3 xu Mỹ xuống còn 1 xu Mỹ cho mỗi 1000 token. Token đầu ra nay rẻ bằng một nửa, từ 6 xu Mỹ xuống còn 3 xu Mỹ cho mỗi 1000 token.
Xu hướng tương tự tiếp tục với các mô hình GPT-3.5 Turbo, với token đầu vào rẻ hơn 3 lần ở mức 0,1 xu Mỹ mỗi 1000 token và token đầu ra rẻ hơn 2 lần ở mức 0,2 xu Mỹ mỗi 1000 token.
Ngoài ra, token đầu vào cho mô hình GPT-3.5 Turbo 4K tinh chỉnh nay rẻ hơn 4 lần, giá giảm từ 1,2 xu Mỹ xuống 0,3 xu Mỹ mỗi 1000 token, và token đầu ra rẻ hơn 2,7 lần, từ 1,6 xu Mỹ xuống còn 0,6 xu Mỹ mỗi 1000 token. Giá huấn luyện giữ nguyên ở mức 0,8 xu Mỹ mỗi 1000 token.
Các điều chỉnh giá này nhằm giúp các mô hình AI tiên tiến trở nên tiết kiệm chi phí hơn cho nhà phát triển.
GPT đa phương thức: nhắc bằng hình ảnh & chuyển văn bản thành giọng nói
"GPT-4 Turbo có thị giác" đã được công bố là sắp ra mắt. Bạn sẽ sớm có thể nhắc GPT-4 Turbo bằng hình ảnh bằng cách nhập trực tiếp vào hộp chat. Công cụ sau đó có thể tạo phụ đề hoặc mô tả những gì hình ảnh thể hiện. Nó cũng sẽ xử lý yêu cầu chuyển văn bản thành giọng nói.
Cập nhật gọi hàm
Gọi hàm là một tính năng dành cho nhà phát triển tích hợp AI sinh trong ứng dụng của họ. Nó cho phép họ mô tả các hàm của ứng dụng hoặc API bên ngoài cho GPT-4 Turbo. Với khả năng gọi nhiều hàm trong một tin nhắn, tính năng này giúp đơn giản hóa tương tác với mô hình. Ví dụ, người dùng có thể gửi một tin nhắn yêu cầu nhiều hành động, loại bỏ nhu cầu trao đổi qua lại nhiều lần với mô hình.
Cách truy cập GPT-4 Turbo
Quyền truy cập GPT-4 Turbo có sẵn cho "tất cả nhà phát triển trả phí", nghĩa là nếu bạn có quyền truy cập API, bạn chỉ cần truyền "gpt-4-1106-preview" làm tên mô hình trong OpenAI API. Tương tự, với GPT-4 Turbo có thị giác, bạn có thể truyền "gpt-4-vision-preview" làm tên mô hình.
Lưu ý rằng các mô hình xem trước này chưa được coi là phù hợp cho môi trường sản xuất. Tuy nhiên, trong thông báo, Altman cũng hứa rằng phiên bản sẵn sàng cho sản xuất sẽ có trong vài tuần tới.
Đối với người không phải nhà phát triển, GPT-4 Turbo nhiều khả năng sẽ có sẵn cho người dùng ChatGPT Plus và ChatGPT Enterprise trong vài tuần tới.
Giới hạn tốc độ
Quyền truy cập các mô hình GPt qua OpenAI API bị giới hạn tốc độ. Tức là, bạn chỉ có thể gửi một số lượng yêu cầu giới hạn tới API mỗi tháng. OpenAI hiện đã công bố hướng dẫn rõ ràng hơn về cách hoạt động của giới hạn tốc độ, để ứng dụng của bạn không bị ngắt bất ngờ.
Ngoài ra, giới hạn tốc độ cho GPT-4 đã tăng gấp đôi
Vì GPT-4 Turbo hiện đang ở giai đoạn xem trước, giới hạn tốc độ cho GPT-4 Turbo được đặt ở mức 20 yêu cầu mỗi phút và 100 yêu cầu mỗi ngày. OpenAI cho biết họ sẽ chưa đáp ứng các yêu cầu tăng giới hạn tốc độ cho mô hình này vào thời điểm hiện tại. Tuy nhiên, nhiều khả năng họ sẽ làm vậy khi có phiên bản công khai.
Kết luận
Thông báo về GPT-4 Turbo mang đến một cái nhìn đầy hứng khởi về tương lai của AI sinh, và chúng tôi nóng lòng muốn trải nghiệm nó. Nếu bạn mới bắt đầu với mọi thứ liên quan đến GPT, hãy xem khóa học Nhập môn ChatGPT của chúng tôi. Với những ai muốn tìm hiểu sâu hơn, hướng dẫn về cách sử dụng GPT-3.5 và GPT-4 qua OpenAI API bằng Python của chúng tôi có rất nhiều điều để khám phá.
Chủ đề
