Inkling: Mô hình Mở Trọng số Đầu tiên của Thinking Machines

Thinking Machines, phòng thí nghiệm do cựu CTO OpenAI Mira Murati sáng lập, đã ra mắt mô hình đầu tiên: Inkling. Khác với các mô hình chủ lực của OpenAI, Anthropic và Google, Inkling được phát hành kèm trọng số đầy đủ để tải xuống, cho phép nhà phát triển chỉnh sửa trực tiếp thay vì chỉ gọi qua API tính phí theo lưu lượng.

Inkling là một transformer Mixture-of-Experts (MoE) với tổng 975 tỷ tham số và 41 tỷ tham số hoạt động, cửa sổ ngữ cảnh 1 triệu token, và được tiền huấn luyện trên 45 nghìn tỷ token gồm văn bản, hình ảnh, âm thanh và video.

Thinking Machines thẳng thắn thừa nhận đây không phải là mô hình mạnh nhất hiện có: công ty nêu rõ Inkling "không phải là mô hình mạnh nhất hiện nay, dù mở hay đóng." Điểm nhấn là hiệu năng cân bằng cùng thiết kế hướng đến tùy biến qua Tinker, nền tảng tinh chỉnh của công ty.

Trong bài viết này, tôi sẽ điểm qua mọi điều mới về Inkling, xem xét các tính năng, khám phá bộ điểm chuẩn, và đề xuất các thử nghiệm thực hành bạn có thể tự chạy. Bạn cũng nên xem hướng dẫn chạy Inkling cục bộ của chúng tôi.

Inkling là gì?

Inkling là một transformer MoE mở trọng số với tổng 975 tỷ tham số và 41 tỷ tham số hoạt động trên mỗi token, được định vị như một mô hình nền tảng rộng cho tinh chỉnh hơn là chatbot đứng đầu bảng xếp hạng. Đây là bản phát hành đầu tiên trong một dòng sản phẩm dự kiến, ra mắt ngày 15 tháng 7 năm 2026, cùng bản xem trước của phiên bản nhỏ hơn, Inkling-Small.

Mục tiêu thiết kế là độ bao quát. Thinking Machines huấn luyện Inkling trên các tác vụ đại diện, suy luận, lập trình, tuân thủ hướng dẫn, tính chính xác, thị giác và âm thanh, thay vì tối ưu cho một miền duy nhất.

Điều này quan trọng vì công ty đặt cược rằng các tổ chức sẽ tinh chỉnh mô hình trên dữ liệu riêng, và một nền tảng rộng sẽ thích ứng được với nhiều quy trình làm việc hơn so với một nền tảng hẹp.

Tuyên bố năng lực nổi bật là về hiệu quả hơn là đỉnh điểm điểm chuẩn. Trên Terminal Bench 2.1, Thinking Machines báo cáo Inkling dùng số token bằng một phần ba so với Nemotron 3 Ultra của NVIDIA để đạt cùng mức hiệu năng lập trình.

Với một mô hình có thể được gọi hàng triệu lần trong các quy trình dài hơn, đường cong chi phí token quan trọng hơn một điểm số tối đa đơn lẻ.

Inkling được xây dựng như thế nào

Thiết kế MoE của Inkling phần lớn theo DeepSeek-V3, với 256 expert được định tuyến, 2 expert chia sẻ, và 6 expert được kích hoạt trên mỗi token, sử dụng bộ định tuyến sigmoid với cân bằng tải không cần auxiliary loss.

Thinking Machines đan xen attention cửa sổ trượt và attention toàn cục theo tỷ lệ 5:1 và dùng nhúng vị trí tương đối thay cho RoPE, cho biết khả năng ngoại suy tốt hơn với chuỗi dài.

Tiền huấn luyện chạy trên 45 nghìn tỷ token đa phương thức dùng bộ tối ưu lai: Muon cho trọng số ma trận lớn và Adam cho các tham số khác.

Hậu huấn luyện được khởi động bằng một lượng nhỏ SFT trên dữ liệu tổng hợp từ các mô hình mở trọng số, bao gồm Kimi K2.5, sau đó là RL bất đồng bộ quy mô lớn với hơn 30 triệu rollout qua hai đợt liên tục.

Các tính năng chính của Thinking Machines Inkling

Điểm khác biệt của Inkling ít nằm ở năng lực thô và nhiều hơn ở cách nó được thiết kế để tùy biến và kiểm soát. Dưới đây là các tính năng nổi bật.

Tăng giảm mức độ suy luận

Inkling cho phép bạn đặt mức "nỗ lực suy nghĩ" để đánh đổi giữa mức độ kỹ lưỡng với chi phí token và độ trễ.

Bạn có thể đẩy mức nỗ lực lên 0.99 để đạt hiệu năng tối đa cho bài toán khó, hoặc hạ thấp cho các tác vụ khối lượng lớn nơi tốc độ và chi phí là ưu tiên.

Đây là hành vi được huấn luyện, không phải lớp bao bọc.

Trong quá trình tăng cường học tăng cường quy mô lớn, Thinking Machines thay đổi mức nỗ lực theo mẫu bằng cách thay đổi system message và điều chỉnh chi phí trên mỗi token, để mô hình học cách chi tiêu các ngân sách token khác nhau trên các rollout khác nhau.

Thiết lập mức nỗ lực có thể được truyền từ bên trong khung lập trình hoặc agent.

Với những người vận hành khối lượng công việc sản xuất, đây là tính năng đáng quan tâm nhất. Độ trễ thường là ràng buộc chính với các công cụ tương tác, và khả năng kiểm soát nó theo từng yêu cầu mà không phải thay mô hình là rất hữu ích.

Đầu vào đa phương thức gốc cho văn bản, hình ảnh và âm thanh

Inkling suy luận gốc trên văn bản, hình ảnh và âm thanh, với các thành phần đa phương thức được huấn luyện từ đầu trên dữ liệu miền tổng quát.

Nó có thể chuyển lời nói thành văn bản, theo dõi hướng dẫn bằng giọng nói, trả lời câu hỏi về bản ghi âm, mô tả hình ảnh và suy luận trên biểu đồ, sơ đồ.

Kiến trúc không dùng encoder.

Âm thanh được đưa vào dưới dạng phổ dMel, hình ảnh được mã hóa thành các mảng ô 40x40 pixel qua hMLP bốn lớp, và cả hai đi qua lớp nhúng gọn nhẹ để xử lý chung với token văn bản.

Ở phía thị giác, Inkling có thể gọi công cụ Python để phóng to và cắt trong lúc suy luận, kết hợp suy luận trực quan và dựa trên mã trong một lượt.

Một lưu ý: đầu vào là đa phương thức, nhưng đầu ra trong bộ công cụ hiện tại chỉ là văn bản. Nếu trường hợp sử dụng của bạn cần mô hình sinh trực tiếp hình ảnh hoặc âm thanh, Inkling sẽ không đáp ứng.

Câu trả lời được hiệu chỉnh, thừa nhận bất định

Inkling được huấn luyện để thể hiện mức độ tự tin phù hợp, bao gồm việc nói "Tôi không biết" khi có khả năng trả lời sai, điều mà Thinking Machines gom vào mục "nhận thức luận" của mô hình.

Công ty huấn luyện hiệu chỉnh bằng học tăng cường dựa trên các quy tắc chấm điểm chuẩn tắc trên một kho lớn câu hỏi thực tế đã có kết quả.

Họ dùng hai bộ chấm tự động trong hậu huấn luyện: một bộ chấm theo rubric kiểm tra phản hồi theo danh sách kiểm tra về nội dung của một câu trả lời tốt, và một bộ chấm tuyên bố xác minh từng mệnh đề thực tế qua tìm kiếm web theo tác tử.

Bộ chấm tuyên bố phạt các khẳng định không được xác thực, giúp giảm ảo tưởng thay vì chỉ thưởng cho khả năng nhớ lại.

Tại sao điều này quan trọng: một mô hình tự tin với mọi câu trả lời sẽ buộc bạn phải kiểm tra lại tất cả. Trên ForecastBench Brier Index không dùng tìm kiếm, Inkling đạt 61,1, ngang Grok 4.3 và nhỉnh hơn GPT-5.5 ở 59,1 và Gemini 3.1 Pro ở 54,6.

Khả năng an toàn tích hợp mạnh mẽ cho mô hình mở trọng số

Inkling đạt điểm an toàn đối kháng FORTRESS cao nhất trong số các mô hình mở trọng số mà Thinking Machines so sánh, ở mức 78,0%. FORTRESS kiểm tra việc từ chối các yêu cầu liên quan đến vũ khí và bạo lực cùng với các truy vấn vô hại tương tự, nên điểm cao nghĩa là từ chối yêu cầu gây hại mà không từ chối quá mức các yêu cầu an toàn.

Để so sánh, Nemotron 3 Ultra đạt 77,6%, Kimi K2.5 đạt 54,1%, GLM 5.2 đạt 65,6%, và DeepSeek V4 Pro đạt 36,0% trên cùng bộ đối kháng.

Inkling cũng vượt 98,6% trên StrongREJECT, một bài kiểm tra từ chối các yêu cầu gây hại rõ ràng, tương đương với các mô hình mở và đóng khác.

Câu hỏi còn bỏ ngỏ là điều gì xảy ra sau khi tinh chỉnh.

Thinking Machines cho biết họ vẫn đang nghiên cứu cách hành vi an toàn thay đổi khi khách hàng tinh chỉnh trên Tinker, điều này là mối quan ngại thực sự với bất kỳ mô hình có thể tải xuống nào.

Các điểm chuẩn của Inkling

Inkling nằm ở nhóm giữa trong số các mô hình mở trọng số: vượt Nemotron 3 Ultra và Kimi K2.5 trên hầu hết bài kiểm tra suy luận và lập trình, nhưng kém GLM 5.2 và Kimi K2.6 ở các bài khó nhất. So với các mô hình biên đóng như GPT-5.6 Sol, Gemini 3.1 Pro và Claude Fable 5, nó liên tục kém hơn. Tất cả điểm dưới đây được báo cáo ở mức nỗ lực 0,99.

Nguồn

SWE-Bench Verified và Terminal Bench 2.1

Terminal Bench 2.1 kiểm tra lập trình theo tác tử trong môi trường terminal.

Inkling đạt 63,8% trên bộ khung tốt nhất của mình, vượt Nemotron 3 Ultra ở 56,4% và Kimi K2.5 ở 51,3%, nhưng kém xa GLM 5.2 ở 82,7% và GPT-5.6 Sol ở 89,5%.

Đây là nơi tuyên bố về hiệu quả token xuất hiện: Inkling đạt hiệu năng lập trình của Nemotron 3 Ultra với khoảng một phần ba số token.

Humanity's Last Exam và GPQA Diamond

Humanity's Last Exam (HLE) là một bộ điểm chuẩn suy luận rộng và khó.

Inkling đạt 29,7% ở chế độ chỉ văn bản và 46,0% khi dùng công cụ, vượt Nemotron 3 Ultra (26,6% / 37,4%) nhưng kém GLM 5.2 (40,1% / 54,7%) và các mô hình đóng, với GPT-5.6 Sol đạt 47,2% chỉ văn bản.

GPQA Diamond kiểm tra các câu hỏi khoa học trình độ sau đại học.

Tính xác thực: SimpleQA Verified và AA Omniscience

Inkling đạt 43,9% trên SimpleQA Verified, cao hơn Nemotron 3 Ultra ở 32,4% và Kimi K2.5 ở 36,9%, nhưng kém xa Gemini 3.1 Pro ở 77,3% và GPT-5.6 Sol ở 71,6%. Khả năng nhớ lại dữ kiện thô không phải điểm mạnh của nó.

Nơi Inkling nổi bật là AA Omniscience, bài đánh giá thưởng cho việc biết điều mình không biết.

Inkling đạt 2,1 điểm dương, trong khi vài mô hình mở bị âm: Kimi K2.5 ở -8,0, DeepSeek V4 Pro ở -10,0, và Nemotron 3 Ultra ở -1,0. Khoảng cách này phản ánh việc huấn luyện hiệu chỉnh phát huy tác dụng.

Đa phương thức: MMMU Pro, Charxiv RQ, và âm thanh

Trên MMMU Pro (Standard 10), bộ đánh giá suy luận thị giác, Inkling đạt 73,5%, kém Kimi K2.6 ở 79,0% và Gemini 3.1 Pro ở 82,0%.

Trên Charxiv RQ cho suy luận biểu đồ, nó đạt 78,1%, tăng lên 82,0% khi được phép dùng công cụ Python.

Về âm thanh, Inkling đạt 91,4% trên VoiceBench, 77,2% trên MMAU và 56,6% trên Audio MC, nằm trong nhóm mô hình âm thanh mở trọng số mạnh nhất.

Gemini 3.1 Pro vẫn dẫn đầu ở cả ba, lần lượt 94,3%, 82,5% và 66,8%.

Giá và khả dụng của Inkling

Inkling hiện khả dụng để tinh chỉnh trên Tinker, với lựa chọn độ dài ngữ cảnh 64K và 256K token, và trọng số đầy đủ có trên Hugging Face dưới dạng cả checkpoint gốc và checkpoint NVFP4 cho suy luận trên NVIDIA Blackwell.

Thinking Machines đang ưu đãi giảm giá 50% trong thời gian có hạn, mức giá đầy đủ có trong tài liệu của họ.

Với mức giảm giá này, chi phí trên mỗi 1 triệu token như sau:

• Tiêu chuẩn (ngữ cảnh 64K): $1,87 cho đầu vào/prefill ($0,374 nếu được cache), $4,68 cho sinh đầu ra, và $5,61 cho huấn luyện.
• Mở rộng (ngữ cảnh 256K): $3,74 cho đầu vào/prefill ($0,748 nếu được cache), $9,36 cho sinh đầu ra, và $11,23 cho huấn luyện.

(Lưu ý: Dù Tinker sẽ tăng giá cho hầu hết mô hình vào ngày 17/7, mức giá của Inkling không bị ảnh hưởng. Phí lưu trữ nền tảng tiêu chuẩn $0,10 mỗi GB/tháng vẫn áp dụng cho việc tinh chỉnh).

Hỗ trợ triển khai rất rộng. Checkpoint đã tinh chỉnh có thể chạy qua API trên TogetherAI, Fireworks, Modal, Databricks và Baseten, với hỗ trợ suy luận nguồn mở trong SGLang, vLLM và llama.cpp, cùng giao diện chat tích hợp tìm kiếm web trong Inkling Playground, miễn phí trong thời gian có hạn.

Inkling so với Inkling-Small

Cùng với Inkling, Thinking Machines đã giới thiệu Inkling-Small, một MoE 276 tỷ tham số với 12 tỷ tham số hoạt động so với 41 tỷ của bản đầy đủ. Nó ngang bằng hoặc vượt người anh lớn trên một số điểm chuẩn nhờ cải tiến dữ liệu và công thức tiền huấn luyện cho mô hình nhỏ.

• HLE với công cụ: Inkling-Small 46,6% so với Inkling 46,0%
• GPQA Diamond: Inkling-Small 88,3% so với Inkling 87,2%
• IFBench: Inkling-Small 83,4% so với Inkling 79,8%
• SimpleQA Verified: Inkling-Small 20,9% so với Inkling 43,9%
• Terminal Bench 2.1: Inkling-Small 52,7% so với Inkling 63,8%

Inkling-Small đánh đổi khả năng nhớ lại dữ kiện và lập trình tác tử khó để lấy chi phí và độ trễ thấp hơn, phù hợp cho khối lượng công việc như chấm điểm, tạo dữ liệu tổng hợp và lập trình khối lượng lớn. Trọng số đầy đủ sẽ được phát hành sau khi hoàn tất thử nghiệm.

Kết luận

Inkling là một tuyên ngôn về chiến lược hơn là chiến thắng bảng xếp hạng. Thinking Machines đặt cược rằng các tổ chức sẵn sàng tinh chỉnh và sở hữu mô hình sẽ thu được nhiều giá trị hơn so với việc gọi tính phí đến một mô hình biên đóng, và Inkling là nền tảng họ đưa ra cho mục tiêu đó.

Tôi thấy sự thẳng thắn này thật đáng giá. Công ty nói thẳng Inkling không phải mô hình mạnh nhất, điều vốn hiếm thấy khi ra mắt, và các điểm chuẩn xác nhận điều đó: nó kém GLM 5.2 và Kimi K2.6 ở các bài kiểm tra lập trình và suy luận khó nhất, và đứng sau khá xa các mô hình đóng như GPT-5.6 Sol và Gemini 3.1 Pro. Thay vào đó, nó mang đến độ bao quát, đầu vào đa phương thức gốc, câu trả lời được hiệu chỉnh, khả năng kiểm soát mức độ suy luận, và điểm an toàn đối kháng FORTRESS tốt nhất trong nhóm mô hình mở trọng số được so sánh.

Nếu bạn muốn điểm số cao nhất trên một điểm chuẩn đơn lẻ, Inkling không phải lựa chọn. Nếu bạn muốn một nền tảng mở trọng số để tinh chỉnh trên dữ liệu của riêng mình, với hiệu chỉnh và an toàn mạnh ngay từ đầu, đây là lựa chọn hợp lý, dù mức giá theo token và độ dài dòng phản hồi mặc định cần theo dõi với các triển khai khối lượng lớn.

Nếu bạn muốn xây dựng kỹ năng tinh chỉnh để tận dụng một mô hình như Inkling, tôi khuyến nghị bắt đầu với lộ trình kỹ năng AI Fundamentals của chúng tôi.