GPT-4 là hệ thống AI sinh tạo tiên tiến nhất do OpenAI phát triển. Nó đang thay đổi cách chúng ta làm việc. Tuy nhiên, GPT-4 không phải là nguồn mở, nghĩa là chúng ta không có quyền truy cập vào mã nguồn, kiến trúc mô hình, dữ liệu hoặc trọng số mô hình để tái tạo kết quả. Chúng ta không thể tự tạo một chatbot giống GPT-4.
Để tạo thế cân bằng, cộng đồng LLM nguồn mở đã bắt đầu xây dựng các phương án thay thế GPT-4 với hiệu năng và chức năng gần tương đương, đồng thời cần ít tài nguyên tính toán hơn.
Bạn có thể tìm hiểu về GPT-1, GPT-2, GPT-3 và GPT-4 qua bài: GPT-4 là gì và vì sao quan trọng?, hoặc học cách dùng ChatGPT cho dự án khoa học dữ liệu và rèn luyện kỹ thuật prompt để xây dựng dự án end-to-end tốt hơn.
Trong bài viết này, chúng tôi sẽ giới thiệu 12 lựa chọn thay thế GPT-4 với mô tả ngắn gọn và liên kết đến bài nghiên cứu, bài blog, bản demo chatbot, mã nguồn và thẻ mô hình tương ứng.
Lưu ý: Một số mô hình được nhắc đến có giấy phép không thương mại, chỉ cho phép sử dụng cho mục đích nghiên cứu và học thuật. Bạn cần hiểu rõ các giới hạn này trước khi sử dụng.
1. ColossalChat
ColossalChat là một dự án nguồn mở cho phép bạn nhân bản các mô hình AI bằng một pipeline RLHF (Học tăng cường từ phản hồi của con người) hoàn chỉnh.
Đây là dự án hoàn toàn nguồn mở gồm bộ dữ liệu song ngữ, mã huấn luyện, bản demo và suy luận lượng tử hóa 4-bit. Tất cả các thành phần này giúp bạn tạo một chatbot tùy chỉnh với chi phí rẻ hơn và nhanh hơn.
Hình ảnh từ ColossalChat
- Bài nghiên cứu: Colossal-AI: A Unified Deep Learning System For Large-Scale Parallel Training
- Bài blog: ColossalChat: Giải pháp nguồn mở nhân bản ChatGPT với pipeline RLHF hoàn chỉnh
- GitHub: hpcaitech/ColossalAI
- Demo: ColossalChat (colossalai.org)
2. Alpaca-LoRA
Alpaca-LoRA là mô hình được tạo bằng Stanford Alpaca và Low-Rank Adaptation (LoRA). Cách thích nghi hạng thấp này cho phép chạy một mô hình Instruct có chất lượng tương đương GPT-3.5 trên Raspberry Pi 4 với RAM 4GB.
Dự án cung cấp mã nguồn, ví dụ fine-tune, mã suy luận, trọng số mô hình, bộ dữ liệu và demo. Điểm hay là chúng ta có thể huấn luyện mô hình của mình trong vài giờ trên một RTX 4090 duy nhất.
Hình ảnh từ Alpaca-LoRA
- GitHub: tloen/alpaca-lora
- Thẻ mô hình: tloen/alpaca-lora-7b
- Demo: Alpaca-LoRA
3. Vicuna
Vicuna có thể tạo văn bản mạch lạc và sáng tạo cho chatbot. Đây là kiến trúc dựa trên transformer được fine-tune trên bộ dữ liệu hội thoại thu thập từ ShareGPT.com.
Vicuna đạt gần 90% hiệu năng của ChatGPT. Nó là một phần của FastChat, nền tảng mở cho phép người dùng huấn luyện, phục vụ và đánh giá chatbot của mình. FastChat cung cấp đầy đủ thành phần và công cụ để xây dựng mô hình chatbot tùy chỉnh.
Hình ảnh từ FastChat (lmsys.org)
- Bài blog: Vicuna: Chatbot nguồn mở gây ấn tượng với GPT-4 với 90%* chất lượng ChatGPT | bởi Nhóm có thành viên từ UC Berkeley, CMU, Stanford và UC San Diego
- GitHub: lm-sys/FastChat
- Demo: FastChat (lmsys.org)
4. GPT4ALL
GPT4ALL là chatbot do Nhóm Nomic AI phát triển trên lượng dữ liệu lớn đã chọn lọc kỹ về tương tác hỗ trợ như bài toán lời, mã nguồn, truyện, mô tả và đối thoại nhiều lượt. Kiến trúc mô hình dựa trên LLaMa, và dùng các bộ tăng tốc học máy độ trễ thấp để suy luận nhanh hơn trên CPU.
Với GPT4ALL, bạn có client Python, suy luận bằng GPU và CPU, ràng buộc Typescript, giao diện chat và backend Langchain.
Hình ảnh từ gpt4all-ui
- Báo cáo kỹ thuật: GPT4All
- GitHub: nomic-ai/gpt4al
- Giao diện Chatbot: nomic-ai/gpt4all-ui
- Thẻ mô hình: nomic-ai/gpt4all-lora
5. Raven RWKV
Raven RWKV là một phần của ChatRWKV, mô hình nguồn mở giống ChatGPT nhưng sử dụng mô hình ngôn ngữ RWKV (100% RNN), không dựa trên transformer.
Bằng cách tận dụng RNN, mô hình đạt mức chất lượng và khả năng mở rộng tương đương transformer, đồng thời có ưu thế về tốc độ xử lý nhanh hơn và tiết kiệm VRAM. Raven được fine-tune để làm theo hướng dẫn, và đã fine-tune trên Stanford Alpaca, code-alpaca và nhiều bộ dữ liệu khác.
Hình ảnh từ Raven RWKV 7B
- GitHub: BlinkDL/ChatRWKV
- Demo: Raven RWKV 7B
- Thẻ mô hình: BlinkDL/rwkv-4-raven
6. OpenChatKit
OpenChatKit là bộ công cụ toàn diện cung cấp lựa chọn nguồn mở thay thế ChatGPT để phát triển ứng dụng chatbot.
Bộ công cụ bao gồm hướng dẫn từng bước để huấn luyện mô hình ngôn ngữ lớn tinh chỉnh theo hướng dẫn, fine-tune mô hình và hệ thống truy xuất có thể mở rộng để cập nhật phản hồi của bot. Ngoài ra, nó còn bao gồm các tính năng kiểm duyệt giúp lọc các câu hỏi không phù hợp.
Hình ảnh từ OpenChatKit
- Bài blog: Giới thiệu OpenChatKit — TOGETHER
- GitHub: togethercomputer/OpenChatKit
- Demo: OpenChatKit
- Thẻ mô hình: togethercomputer/GPT-NeoXT-Chat-Base-20B
7. OPT
Các mô hình ngôn ngữ OPT (Open Pre-trained Transformer) đã thể hiện khả năng nổi bật trong học không ví dụ và ít ví dụ, cũng như phân tích Định kiến Rập khuôn, dù chưa đạt chất lượng như ChatGPT.
OPT là họ mô hình ngôn ngữ lớn với số tham số từ 125M đến 175B. Các mô hình là transformer chỉ decoder, nghĩa là tạo văn bản tự hồi quy từ trái sang phải.
Hình ảnh từ A Watermark for LLMs
- Bài nghiên cứu: OPT: Open Pre-trained Transformer Language Models
- GitHub: facebookresearch/metaseq
- Demo: A Watermark for LLMs
- Thẻ mô hình: facebook/opt-1.3b
8. Flan-T5-XXL
Flan-T5-XXL là các mô hình T5 đã được fine-tune trên tập hợp lớn các bộ dữ liệu được trình bày dưới dạng hướng dẫn. Kiểu fine-tune này đã cải thiện đáng kể hiệu năng trên nhiều dòng mô hình như PaLM, T5 và U-PaLM. Hơn nữa, Flan-T5-XXL được fine-tune trên hơn 1000 tác vụ bổ sung, bao phủ nhiều ngôn ngữ.
Hình ảnh từ Chat Llm Streaming
- Bài nghiên cứu: Scaling Instruction-Fine Tuned Language Models
- GitHub: google-research/t5x
- Demo: Chat Llm Streaming
- Thẻ mô hình: google/flan-t5-xxl
9. Baize
Baize thể hiện hiệu năng ấn tượng trong đối thoại nhiều lượt nhờ các guardrail giúp giảm thiểu rủi ro. Thành công này đạt được nhờ một kho ngữ liệu chat nhiều lượt chất lượng cao, được xây dựng bằng cách cho ChatGPT tự đối thoại với chính nó.
Mã nguồn, mô hình và bộ dữ liệu của Baize được phát hành theo giấy phép không thương mại (mục đích nghiên cứu).
Hình ảnh từ Baize 7B
- Bài nghiên cứu: Baize: An Open-Source Chat Model with Parameter-Efficient Tuning on Self-Chat Data
- GitHub: project-baize/baize-chatbot
- Demo: Baize 7B
- Thẻ mô hình: project-baize/baize-lora-7B
10. Koala
Koala là chatbot được huấn luyện bằng cách fine-tune LLaMa trên bộ dữ liệu hội thoại thu thập từ web. Koala hoạt động tốt hơn Alpaca và trong nhiều trường hợp tương tự ChatGPT.
Koala cung cấp mã huấn luyện, trọng số công khai và bộ fine-tune hội thoại, và đã được đánh giá bởi 100 người.
Hình ảnh từ FastChat/Koala
- Bài blog: Koala: Mô hình đối thoại cho nghiên cứu học thuật
- GitHub: young-geng/EasyLM
- Demo: FastChat/Koala
11. Dolly
Dolly là mô hình ngôn ngữ lớn được huấn luyện bởi đội ngũ Databricks để chứng minh rằng chúng ta có thể dùng các mô hình ngôn ngữ nguồn mở cũ và trao cho chúng khả năng làm theo hướng dẫn kiểu “phép màu” của ChatGPT. Việc huấn luyện mô hình mất 30 phút trên một máy, sử dụng dữ liệu huấn luyện chất lượng cao. Bạn thậm chí không cần mô hình cực lớn để đạt chất lượng cao. Nhóm đã dùng mô hình 6 tỷ tham số, so với 175 tỷ của GPT-3.
Hãy xem Dolly 2.0, một mô hình ngôn ngữ theo hướng dẫn có thể dùng cho mục đích thương mại.
Hình ảnh từ Hello Dolly
- Bài blog: Hello Dolly: Dân chủ hóa “phép màu” của ChatGPT với các mô hình mở
- GitHub: databrickslabs/dolly
- Thẻ mô hình: databricks/dolly-v1-6b
12. Open Assistant
Open Assistant là dự án thực sự nguồn mở, nghĩa là trao quyền truy cập cho mọi người tới các mô hình ngôn ngữ lớn theo kiểu chat hàng đầu. Mục tiêu là tạo cuộc cách mạng đổi mới trong ngôn ngữ bằng cách cho phép con người tương tác với hệ thống bên thứ ba, truy xuất thông tin động và tạo ứng dụng mới bằng ngôn ngữ.
Bạn có thể chạy chatbot ngôn ngữ lớn này trên một GPU tiêu dùng cao cấp duy nhất, và mã, mô hình, dữ liệu của nó đều theo giấy phép nguồn mở.
Hình ảnh từ open-assistant.io
- Bài blog: Những mô hình Open Assistant đầu tiên đã ra mắt!
- GitHub: LAION-AI/Open-Assistant
- Demo: open-assistant.io
- Thẻ mô hình: OpenAssistant/oasst-sft-1-pythia-12b
Các lựa chọn thay thế GPT-4: Cách tiếp cận so sánh
Hãy điểm lại những gì đã đề cập qua bảng so sánh sau:
| Tên mô hình | Tính năng chính | Lợi ích | Giấy phép |
| ColossalChat | Pipeline RLHF hoàn chỉnh, bộ dữ liệu song ngữ, suy luận lượng tử hóa 4-bit | Tùy chỉnh chatbot nhanh hơn, rẻ hơn | Nguồn mở |
| Alpaca-LoRA | Thích nghi hạng thấp, chạy trên Raspberry Pi 4 | Mô hình Instruct chất lượng cao trên phần cứng hạn chế | Nguồn mở |
| Vicuna | Fine-tune trên bộ dữ liệu hội thoại ShareGPT.com | Gần 90% hiệu năng của ChatGPT, là một phần của nền tảng FastChat | Nguồn mở |
| GPT4ALL | Kiến trúc LLaMa, bộ tăng tốc độ trễ thấp | Suy luận nhanh trên CPU, đối thoại nhiều lượt | Nguồn mở |
| Raven RWKV | Mô hình ngôn ngữ dựa trên RNN (không phải transformer) | Xử lý nhanh hơn, tiết kiệm VRAM | Nguồn mở |
| OpenChatKit | LLM tinh chỉnh theo hướng dẫn, fine-tuning, tính năng kiểm duyệt | Bộ công cụ toàn diện để phát triển chatbot | Nguồn mở |
| OPT | Transformer chỉ decoder, nhiều kích thước tham số | Học không ví dụ và ít ví dụ, phân tích định kiến rập khuôn |
Giấy phép không thương mại (chỉ nghiên cứu & học thuật)
|
| Flan-T5-XXL | Fine-tune theo hướng dẫn trên 1000+ tác vụ, đa ngôn ngữ | Cải thiện hiệu năng trên nhiều dòng mô hình | Nguồn mở |
| Baize | Đối thoại nhiều lượt, guardrail để giảm thiểu rủi ro | Kho ngữ liệu chat chất lượng cao |
Giấy phép không thương mại (chỉ nghiên cứu & học thuật)
|
| Koala | Fine-tune LLaMa trên bộ dữ liệu hội thoại | Hiệu năng vượt Alpaca, tương tự ChatGPT trong nhiều trường hợp | Nguồn mở |
| Dolly | LLM theo hướng dẫn được huấn luyện trong 30 phút trên một máy | Thể hiện khả năng giống ChatGPT với mô hình nhỏ hơn | Nguồn mở |
| Open Assistant | Chatbot ngôn ngữ lớn trên một GPU tiêu dùng | Thực sự nguồn mở, truy xuất thông tin động | Nguồn mở |
Những lưu ý quan trọng
Mặc dù các lựa chọn nguồn mở này mang đến nhiều khả năng thú vị, điều quan trọng là phải nhận thức các hạn chế của chúng so với GPT-4.
- Khoảng cách hiệu năng: Dù một số mô hình tiến gần khả năng của GPT-4, chưa mô hình nào sao chép hoàn toàn hiệu năng của nó trên mọi tác vụ.
- Giới hạn tài nguyên: Một số mô hình có thể cần tài nguyên tính toán đáng kể để huấn luyện và fine-tune.
- Do cộng đồng dẫn dắt: Dự án nguồn mở phụ thuộc vào đóng góp cộng đồng, có thể dẫn tới chênh lệch về chất lượng và mức độ hỗ trợ.
Kết luận
Những lựa chọn thay thế GPT-4 này có thể giúp nhà nghiên cứu, nhà phát triển và các công ty nhỏ tạo công nghệ dựa trên ngôn ngữ và cạnh tranh với các “ông lớn” trong ngành. Hiệu năng của các mô hình chưa vượt GPT-4, nhưng theo thời gian và với sự đóng góp của cộng đồng, một số mô hình có thể có tiềm năng vượt qua GPT-4.
Nếu bạn mới làm quen với ChatGPT, hãy thử khóa học Giới thiệu về ChatGPT, và nếu bạn đã hiểu về AI sinh tạo, bạn có thể nâng cao kỹ năng prompt bằng cách xem ChatGPT Cheat Sheet cho Khoa học Dữ liệu toàn diện, hoặc tham khảo các tài nguyên dưới đây.
