Chuyển đến nội dung chính

Hướng dẫn API Gemini 4 Carbon: Xây dựng Agent kiểm toán mô hình gian lận

Học API Gemini 4 Carbon trong Python: xây dựng agent gọi hàm để kiểm toán mô hình gian lận, tìm quy tắc xung đột và thử nghiệm thay đổi chính sách.
· 15 phút đọc

Khám phá cùng AI

Trong Hướng dẫn API Gemini 4 Argon, agent có một nhiệm vụ rõ ràng: tìm đoạn mã chậm, chỉnh sửa nó và vượt qua các bài kiểm tra ẩn. Thí nghiệm đi kèm này giữ nguyên mô thức công cụ kiểm soát và kiểm tra bên ngoài, nhưng thay đổi quyết định. Gemini 4 Carbon phải xác định xem các quy tắc ban đầu có thể được đáp ứng hay không.

PayGuard, một cửa hàng trực tuyến hư cấu, có một mô hình máy học (ML) đã được huấn luyện để chấm điểm gian lận cho đơn hàng. Chính sách triển khai yêu cầu mô hình bắt đủ tổng giá trị gian lận nói chung và trên từng kênh bán hàng mà không làm quá tải đội ngũ rà soát. Agent phải điều tra các quy tắc đó mà không được cho biết liệu có tồn tại ngưỡng hợp lệ hay không.

Gemini 4 Carbon là một mô hình suy luận của Google mà bạn gọi từ Python thông qua Interactions API. Ở đây, nó hoạt động như một tác tử AI: nó chọn những phép kiểm tra nào cần yêu cầu, và Python chạy chúng qua ba công cụ chỉ đọc bằng gọi hàm. Câu hỏi của tôi là liệu nó có thể xác định xung đột, giải thích bằng chứng và đề xuất một thay đổi được phép mà không coi thay đổi đó như đã được phê duyệt hay không.

Bạn sẽ cần Python cơ bản và chút kinh nghiệm với yêu cầu API. Tôi định nghĩa từng chỉ số gian lận trước khi các con số sử dụng nó. Chúng ta sẽ tìm hiểu cách:

  • Gửi yêu cầu đầu tiên đến Gemini 4 Carbon từ Python
  • Cấp cho mô hình các công cụ chỉ đọc và chạy chúng trong một vòng lặp với giới hạn
  • Nhận lại phán quyết dưới dạng JSON để mã của bạn có thể kiểm tra
  • Xác minh phán quyết đó bằng mã và dữ liệu mà mô hình không bao giờ nhìn thấy
  • So sánh hai mức suy luận, điều khiển mức độ mô hình lập luận trước khi trả lời

Nếu bạn muốn câu chuyện ra mắt và điểm benchmark, phần tổng quan Gemini 4 Carbon của chúng tôi có đầy đủ, và bài So sánh Claude Fable 5.2 và Gemini 4 Carbon đối chiếu hai mô hình. Tôi chạy thí nghiệm này ngay ngày hôm sau khi Google mở API cho nhà phát triển trả phí.

Gemini 4 Carbon API là gì?

Gemini 4 Carbon API là giao diện lập trình ứng dụng (API) trả phí cho gemini-4-carbon, mà trang mô hình mô tả là mô hình suy luận cho các tác vụ agent dài, nhiều bước. Đầu vào, suy nghĩ và đầu ra dùng chung một cửa sổ ngữ cảnh 1.048.576 token, và phản hồi đồng bộ dừng ở 65.536 token suy nghĩ cộng đầu ra theo mặc định.

Vì sao kiểm toán mô hình ML là bài kiểm tra tốt cho Gemini 4 Carbon

Nhiệm vụ đòi hỏi nhiều phép kiểm tra, tìm kiếm qua các thay đổi được phép và dừng rõ ràng khi các quy tắc khiến không còn câu trả lời. Tôi chọn nó vì Python có thể tính kết quả tham chiếu. Thẻ mô hình liệt kê ảo tưởng (hallucinations) trong số những giới hạn đã biết của Gemini 4 Carbon, nên mô hình điều tra trong khi Python quyết định đề xuất của nó có đứng vững hay không.

Dự án: Quyết định xem mô hình gian lận của PayGuard có thể đưa vào hoạt động

PayGuard là cửa hàng hư cấu từ phần mở đầu, và toàn bộ dự án có trong kho GitHub. Bộ phân loại của nó đã được huấn luyện sẵn.

Cách PayGuard chấm điểm giao dịch

Mỗi giao dịch có dấu thời gian UTC, số tiền, kênh (Website hoặc Ứng dụng di động), điểm rủi ro và nhãn gian lận. Một HistGradientBoostingClassifier của scikit-learn tạo ra điểm số, làm tròn đến 0,001, và PayGuard gắn cờ một giao dịch khi risk_score >= threshold. Hướng dẫn đường cong precision-recall của chúng tôi cho thấy việc di chuyển ngưỡng thay đổi những gì bị gắn cờ ra sao, và khóa học Phát hiện gian lận bằng Python của chúng tôi đề cập đến khía cạnh mô hình hóa.

Dữ liệu tổng hợp được chia theo thời gian:

  • Huấn luyện: chín tuần đầu, chỉ dùng để fit bộ phân loại
  • Xác thực: bốn tuần tiếp theo, là khung thời gian duy nhất các công cụ có thể đọc
  • Giữ lại: bốn tuần sau nữa, được niêm phong cho đến khi đề xuất được đóng băng

Ngưỡng hiện tại là 0,5, và dữ liệu cùng chính sách không bao giờ thay đổi trong suốt thí nghiệm. Gian lận trên Website để lại tín hiệu rõ ràng trong dữ liệu này, trong khi đa số gian lận trên Ứng dụng di động trông như đơn hàng bình thường.

Sơ đồ kiến trúc của agent kiểm toán PayGuard: giao dịch xác thực và chính sách triển khai cấp dữ liệu cho ba công cụ Python chỉ đọc, Gemini 4 Carbon yêu cầu các công cụ đó qua Interactions API, và báo cáo đóng băng được gửi đến bộ đánh giá độc lập và phép kiểm tra giữ lại nằm ngoài tầm với của agent

Gemini 4 Carbon hỏi, Python quyết định. Hình: Tác giả.

Ba quy tắc triển khai của PayGuard

Dưới đây là ba quy tắc từ phần mở đầu, được viết theo cách chính sách nêu ra. Tất cả đều là mục tiêu hư cấu tôi chọn cho thí nghiệm này:

  • R1: giao dịch bị gắn cờ bao phủ ít nhất 85% tổng giá trị gian lận đã gán nhãn
  • R2: chúng bao phủ ít nhất 70% giá trị gian lận đã gán nhãn trong mỗi kênh
  • R3: không quá 200 giao dịch bị gắn cờ trong bất kỳ một ngày UTC nào

Recall theo giá trị gian lận là giá trị gian lận bị gắn cờ chia cho tổng giá trị gian lận. Khác với recall theo mức giao dịch trong hướng dẫn precision so với recall của chúng tôi, một vụ gian lận 2.000 đô bị bỏ lỡ có trọng số lớn hơn nhiều so với vụ 15 đô, và việc gắn cờ không có nghĩa là đã cứu được tiền. R3 giới hạn ngày bận nhất, và cách diễn đạt đó cuối cùng quyết định cuộc kiểm toán.

Agent có thể điều tra hai thay đổi: năng lực xử lý hằng ngày lên tối đa 260 với một ngưỡng, hoặc tách ngưỡng theo kênh ở mức trần ban đầu. Cả hai đều cần con người phê duyệt, không thể kết hợp, và chính sách ưu tiên phương án không cần thêm người rà soát.

Thế nào là một cuộc kiểm toán đúng

Một kiểm toán đúng cần xác định bốn điều, và bạn nên quyết định chúng trước yêu cầu đầu tiên:

  • Phán quyết: liệu bất kỳ ngưỡng đơn nào có đáp ứng R1, R2 và R3 trên tập xác thực hay không
  • Xung đột: những yêu cầu nào khiến chính sách ban đầu là không thể thực hiện
  • Phương án thay thế: một thay đổi được phép vượt qua mọi quy tắc khi Python tính lại
  • Ưu tiên: khuyến nghị tuân theo thứ tự ưu tiên của chính sách

Một bộ đánh giá mà agent không thể gọi sẽ tính câu trả lời.

Cách thiết lập API Gemini 4 Carbon trong Python

Thiết lập Gemini 4 Carbon API cần Python 3.11 trở lên và một khóa API từ một dự án Google AI Studio có bật thanh toán, vì trang giá không có bậc miễn phí.

Cài đặt Google Gen AI SDK và chuẩn bị dự án

Tôi đã thử nghiệm dự án này với bộ SDK Google Gen AI cố định tại google-genai==3.1.0, bản phát hành trên PyPI vào ngày ra mắt đã thêm gemini-4-carbon vào danh sách mô hình Interactions. Hãy clone dự án và cài đặt trong môi trường ảo:

git clone https://github.com/KhalidAbdelaty/gemini-4-carbon-api.git
cd gemini-4-carbon-api
python -m venv .venv
.venv\Scripts\Activate.ps1          # macOS or Linux: source .venv/bin/activate
pip install -r requirements.txt

Sau đó, chạy hai lệnh trên trang kho để dựng dữ liệu và fit bộ phân loại với seed cố định. Trên một bản clone mới, chúng in ra như sau:

Đầu ra terminal từ việc xây dựng bộ dữ liệu gian lận tổng hợp của PayGuard và fit bộ phân loại scikit-learn, hiển thị số dòng huấn luyện, xác thực và giữ lại với số vụ gian lận, tiếp theo là tóm tắt bộ phân loại

Seed cố định tái tạo cùng một bộ dữ liệu. Hình: Tác giả.

Tiếp theo đặt GEMINI_API_KEY=your-key trong tệp .env. Kho sẽ tải nó mà không in ra.

Thực hiện yêu cầu API Gemini 4 Carbon đầu tiên của bạn

Chạy ví dụ hoàn chỉnh này từ thư mục dự án. Nó cung cấp cho Gemini 4 Carbon chính sách và tóm tắt bộ phân loại và hỏi những gì nó cần đo lường, mà không gợi ý về xung đột:

import json
import os

from dotenv import dotenv_values
from google import genai

import config as cfg  # the project's policy text, threshold, and limits

os.environ.pop("GOOGLE_API_KEY", None)  # it would take precedence over GEMINI_API_KEY
os.environ["GEMINI_API_KEY"] = dotenv_values(".env")["GEMINI_API_KEY"]
client = genai.Client()

summary = json.loads(open("data/model_summary.json").read())
prompt = ("PayGuard is an e-commerce fraud classifier that gives each transaction a risk score from 0 to 1. "
          f"Model summary: {json.dumps(summary)}\n\n{cfg.POLICY_TEXT}\n\n"
          f"The current threshold is {cfg.CURRENT_THRESHOLD}. Before you judge whether this model can be "
          "deployed, list in at most five short bullets the measurements you would need and why.")

interaction = client.interactions.create(
    model="gemini-4-carbon",
    input=prompt,
    generation_config={"thinking_level": "medium"},
    timeout=900,  # Google recommends at least 15 minutes
)
print(interaction.output_text)
u = interaction.usage
print(f"status={interaction.status} | input={u.total_input_tokens} cached={u.total_cached_tokens} "
      f"output={u.total_output_tokens} thinking={u.total_thought_tokens}")

Mức suy luận nằm trong generation_config, và output_text chứa câu trả lời. Đây là một phần phản hồi trả về:

* Peak single-day UTC flag count at threshold 0.5: The maximum number of transactions
  flagged on any single UTC calendar day, to check ... the strict R3 cap ...
* Channel-specific threshold grid: ... to test the preferred zero-extra-capacity
  alternative (<= 200/day) if no single global threshold complies.

status=completed | input=536 cached=0 output=310 thinking=1412

Nó đọc R3 là giá trị đỉnh và lập kế hoạch theo thứ tự ưu tiên của chính sách trước cả khi thấy con số. Tuy nhiên, nó không bao giờ hỏi cách xử lý đồng điểm hoặc làm tròn điểm, và phép kiểm tra toàn diện mà tôi sẽ trình bày sau phụ thuộc chính xác vào điều đó. Lệnh gọi mất khoảng 40 giây và tốn khoảng 2 xu.

Bỏ qua temperature, top_p và top_k, vì Gemini 4 Carbon bỏ qua chúng, và cả thinking_budget.

Cách xây dựng Agent kiểm toán ML với gọi hàm của Gemini 4 Carbon

Một agent kiểm toán Gemini 4 Carbon là một vòng lặp: mô hình yêu cầu đánh giá, Python xác thực và chạy nó, và kết quả được gửi lại cho đến khi mô hình ngừng yêu cầu.

Định nghĩa các công cụ chỉ đọc để đánh giá mô hình

Agent có ba công cụ. Tất cả đều bị giới hạn trong khung xác thực:

  • get_audit_context: tóm tắt bộ phân loại, cấu hình hiện tại, chính sách và các thay đổi được phép
  • evaluate_global_threshold: recall theo giá trị gian lận tổng thể và theo kênh, số lượng gắn cờ theo ngày, và chẩn đoán cho một ngưỡng
  • evaluate_policy_change: các phép đo tương tự cho việc tăng năng lực hoặc một cặp ngưỡng theo kênh

Các schema đầy đủ có trong kho. Trích đoạn rút gọn này lược bỏ các trường ngưỡng và năng lực, nên không phải là khai báo hoàn chỉnh để sao chép. Nó chỉ cho thấy ranh giới quan trọng ở đây: công cụ chấp nhận hai thay đổi chính sách mà PayGuard cho phép, đọc dữ liệu xác thực và không phê duyệt gì cả.

{"type": "function", "name": "evaluate_policy_change",
 "description": ("Evaluate one allowed policy change on validation. "
                 "Read-only; it approves nothing."),
 "parameters": {"type": "object", "properties": {
     "change_type": {"type": "string",
                     "enum": ["capacity_increase", "channel_thresholds"]}},
   "required": ["change_type"]}}

Python xác thực các trường ngưỡng và năng lực bị lược bỏ, từ chối các thay đổi ngoài chính sách, và trả về phép đo thay vì cờ pass/fail. Agent không thể truy cập tập giữ lại, gọi bộ đánh giá, hay thay đổi chính sách. Tôi giải thích trong phần Câu hỏi thường gặp vì sao tôi bỏ qua tính năng thực thi mã tích hợp của Gemini 4 Carbon.

Đưa cho agent một mục tiêu rõ ràng và quy tắc dừng

Lời dẫn hệ thống (system instruction) đặt phương pháp. Giống yêu cầu đầu tiên, nó không gợi ý xung đột ở đâu:

- Read the audit context first, then evaluate the current configuration before anything else.
- Check every requirement yourself by comparing tool numbers with the policy text: R1, R2 for
  Website, R2 for Mobile App, and R3. R3 is a limit on the busiest single day, not on the average.
- Use only numbers that a tool returned. Do not estimate a metric you have not measured.
- If the evidence does not settle a question, say so. Inconclusive is an acceptable answer.

Prompt chỉ có thể yêu cầu, vì vậy các giới hạn nằm trong agent harness, tức mã Python bao quanh mô hình. Vì API không có thiết lập ngân sách, ứng dụng đặt chúng theo mỗi lần thử: 25 lượt, 60 lần gọi công cụ, 30 phút và 3 đô, với chi tiêu được kiểm tra giữa các lượt.

Triển khai vòng lặp gọi hàm với Interactions API

Mỗi lượt là một lệnh gọi client.interactions.create(). Gemini 4 Carbon thường yêu cầu nhiều công cụ cùng lúc, nên vòng lặp chạy ở mỗi bước function_call. Đây là vòng lõi, và phiên bản trong kho bổ sung logging và kiểm tra giới hạn:

request = dict(model="gemini-4-carbon", system_instruction=SYSTEM_INSTRUCTION, tools=DECLARATIONS,
               generation_config={"thinking_level": level, "max_output_tokens": 65_536,
                                  "thinking_summaries": "auto"})
interaction = client.interactions.create(input=TASK, timeout=900, **request)

while True:
    calls = [s for s in interaction.steps if s.type == "function_call"]
    if interaction.status in ("failed", "cancelled", "incomplete") or not calls:
        break                                   # incomplete: the output cap cut the turn off
    results = []
    for call in calls:
        out, is_error = tools.call(call.name, dict(call.arguments))   # allowlisted, validated
        results.append({"type": "function_result", "name": call.name, "call_id": call.id,
                        "is_error": is_error, "result": [{"type": "text", "text": json.dumps(out)}]})
    # turn, tool-call, time, and spend limits are checked here, before the next request
    interaction = client.interactions.create(input=results, previous_interaction_id=interaction.id,
                                             timeout=900, **request)

Tôi giữ các thiết lập này trong một dict request để mọi lệnh gọi tiếp theo gửi lại chúng. previous_interaction_id mang lịch sử, nhưng tools, system_instruction và generation_config chỉ áp dụng cho một tương tác. Nếu một lượt kết thúc incomplete, max_output_tokens đã cắt ngắn nó, và bạn vẫn phải trả tiền cho token suy nghĩ.

Trả về báo cáo kiểm toán có cấu trúc với JSON schema

Tài liệu structured output của Google liệt kê công cụ cộng với JSON schema trong một yêu cầu dưới dạng tính năng Preview bao gồm Gemini 4 Carbon. Tôi vẫn tách chúng: các lượt điều tra chỉ đo lường, và một lượt cuối cùng trên cùng lịch sử và cấu hình viết báo cáo với schema và không có công cụ:

final = client.interactions.create(
    input=REPORT_PROMPT, previous_interaction_id=interaction.id, model="gemini-4-carbon",
    system_instruction=SYSTEM_INSTRUCTION, generation_config=request["generation_config"],
    response_format={"type": "text", "mime_type": "application/json",
                     "schema": AuditReport.model_json_schema()},
    timeout=900)
report = AuditReport.model_validate_json(final.output_text)

AuditReport là một mô hình Pydantic với phán quyết, xung đột, bằng chứng, khuyến nghị và phê duyệt. Python đo thời gian và chi phí thay vì yêu cầu Gemini 4 Carbon báo cáo chúng.

Chạy kiểm toán Gemini 4 Carbon trên mô hình phát hiện gian lận

Gemini 4 Carbon đã kiểm toán mô hình theo cách tôi mong một nhà phân tích mới làm: đo lường trước khi kết luận. Ở lần thử medium đầu tiên, nó đọc ngữ cảnh kiểm toán, kiểm tra khoảng hai chục ngưỡng đơn và thử nghiệm tám thay đổi chính sách.

Cả 32 lần gọi công cụ, theo thứ tự. Hình: Tác giả.

Đánh giá ngưỡng hiện tại của PayGuard

Agent đánh giá ngưỡng hiện tại 0,5 và tìm thấy recall Website 91%, recall Ứng dụng di động 20%, recall tổng thể 64%, và 85 lượt gắn cờ ở ngày bận nhất. Điều đó không đạt R1 và phần R2 của Ứng dụng di động với dư địa dưới R3, nên bước hiển nhiên là hạ ngưỡng.

Kiểm tra recall theo giá trị gian lận so với năng lực rà soát hằng ngày

Hạ ngưỡng bắt được nhiều giá trị gian lận hơn và gửi nhiều đơn hàng hơn để rà soát. PayGuard cần đủ điều đầu tiên đồng thời giữ điều thứ hai dưới trần theo ngày.

Agent thử vài ngưỡng thô trong một lô, rồi thu hẹp đến các điểm lưới đơn. Các lần gọi 11, 12, 17 và 18 trong vết theo dõi đã kết luận.

Trong khung xác thực này, sàn của Ứng dụng di động cần 0,108 hoặc thấp hơn, vì cao hơn một bước sẽ rơi ngay dưới 70%. Trần cần 0,118 hoặc cao hơn. Không có ngưỡng nào đáp ứng cả hai.

Recall tổng thể giữ được đến 0,137, nên R1 nằm ngoài xung đột. Ở 0,108, ngày trung bình có khoảng 169 lượt gắn cờ, và chỉ một ngày thứ Bảy vượt quá. Đây là lý do chính sách dùng khối lượng công việc của ngày bận nhất thay vì trung bình ngày.

Biểu đồ đường của recall tổng thể, Website và Ứng dụng di động theo giá trị gian lận và lượt gắn cờ ngày bận nhất trên các ngưỡng toàn cục của PayGuard từ 0,05 đến 0,40, với các mức sàn recall và trần 200/ngày được đánh dấu, cho thấy không có ngưỡng nào đồng thời đạt sàn của Ứng dụng di động và trần

Recall của Mobile và năng lực không bao giờ giao nhau. Hình: Tác giả.

Kiểm tra hiệu năng trên cả hai kênh thanh toán

Gian lận trên Ứng dụng di động, với tín hiệu yếu hơn, nằm thấp trong dải điểm số. Kéo một ngưỡng xuống 0,108 cho Ứng dụng di động cũng lôi vào nhiều đơn Website hợp lệ hơn, và vào ngày thứ Bảy đó, chúng đẩy tổng vượt trần.

Con số tổng thể che giấu điều đó: ở 0,118, recall tổng thể khoảng 87% trong khi Ứng dụng di động nằm dưới sàn của nó. Nếu chính sách của bạn nêu các phân đoạn, hãy đo từng phân đoạn, vì tổng có thể đạt trong khi một phân đoạn không đạt.

Gemini 4 Carbon có phát hiện được các yêu cầu triển khai mâu thuẫn không?

Có, trong kiểm toán này. Báo cáo đóng băng ghi not deployable, nói rằng không có ngưỡng đơn nào hoạt động, và nêu R2 cho Ứng dụng di động và R3 là xung đột.

Đối chiếu phán quyết triển khai của Gemini 4 Carbon với bằng chứng của nó

Mọi con số báo cáo trích dẫn đều khớp với kết quả công cụ, nhưng một câu khẳng định nhiều hơn những gì agent đo được. Nó nói không có ngưỡng nào hoạt động "trên tất cả các điểm lưới điểm rủi ro 0,001", nhưng agent chỉ kiểm tra khoảng hai chục điểm trong vết theo dõi ở trên, trong tổng số 1.002 ngưỡng có thể có.

Khẳng định này vẫn đúng vì recall và số lượt theo ngày đều giảm khi ngưỡng tăng, điều mà báo cáo không bao giờ nói ra. Hãy kiểm tra từng khẳng định trong báo cáo của một agent so với những gì nó đã đo, và hướng dẫn của chúng tôi về đánh giá tác tử AI bao quát thêm các kiểm tra dạng này.

Xác minh xung đột bằng bộ đánh giá Python toàn diện

Gemini 4 Carbon lấy mẫu các ngưỡng và suy ra rằng không ngưỡng nào có thể hoạt động. Bộ đánh giá chứng minh kết quả đó cho tập xác thực này bằng cách kiểm tra mọi tập gắn cờ khác nhau, không dùng chung mã với các công cụ.

Điểm số nằm trên lưới 0,001, nên 1.002 điểm cắt ứng viên bao phủ mọi tập gắn cờ có thể. Bộ đánh giá kiểm tra tất cả, cộng mọi cặp ngưỡng theo kênh, sử dụng đơn vị xu để 85% và 70% là số chính xác.

Đầu ra terminal của bộ đánh giá PayGuard: tìm kiếm toàn diện qua mọi ngưỡng toàn cục và cặp kênh, cho thấy không có ngưỡng toàn cục khả thi, các ranh giới 0,108 và 0,118, và bốn cấu hình cố ý sai bị từ chối

Kiểm tra toàn diện và bốn cấu hình bị từ chối. Hình: Tác giả.

Không có ngưỡng toàn cục nào vượt qua cả ba quy tắc, nên tuyên bố của Gemini 4 Carbon giờ có bằng chứng phía sau. Bộ đánh giá khớp các ranh giới 0,108 và 0,118 từ phép thăm dò của agent và tìm thấy hàng nghìn cặp kênh đạt ở mức 200 mỗi ngày.

Một bộ đánh giá chỉ hữu ích nếu nó loại bỏ câu trả lời kém, nên tôi đưa vào bốn cấu hình sai, và nó loại bỏ cả bốn.

Thử nghiệm các phương án triển khai với Gemini 4 Carbon

Gemini 4 Carbon thử cả hai thay đổi được phép và chọn tách ngưỡng theo kênh ở mức trần ban đầu thay vì thêm người rà soát. Nó gắn cờ lựa chọn đó là ngoại lệ cần con người phê duyệt.

Thử tăng năng lực rà soát thủ công

Một ngưỡng toàn cục hoạt động nếu trần tăng từ 200 lên 205, và bộ đánh giá xác nhận 205 là mức tăng nhỏ nhất. Gemini 4 Carbon vẫn xếp phương án này thứ hai, vì quy tắc ưu tiên tôi đã mô tả trước đó.

Thử tách ngưỡng cho từng kênh thanh toán

Về phía kênh, agent giữ ngưỡng Ứng dụng di động gần giới hạn của nó (nó đã thấy 0,109 làm vỡ sàn) và nâng ngưỡng Website, giảm lượt gắn cờ ở các đơn Website hợp lệ. Nó thử bảy cặp, và một cặp trượt chỉ vì thiếu một lượt gắn cờ trong ngày bận nhất. Nó đề xuất Website 0,3 và Ứng dụng di động 0,1 vì cặp này vượt qua mọi quy tắc với dư địa, và bộ đánh giá xác nhận ở mức trần ban đầu.

So sánh các phương án đã được xác minh

Những con số này đã xuất hiện ở trên, và bộ đánh giá tính lại từng số:

Phương án

Ngưỡng

Tổng thể

Website

Ứng dụng di động

Ngày bận nhất

Phê duyệt

Chính sách gốc

Toàn cục 0,108

87,5%

98,2%

70,1%

205, trần 200

Trượt

Tăng năng lực

Toàn cục 0,108

87,5%

98,2%

70,1%

205, trần 205

Cần phê duyệt

Tách kênh

Website 0,3, Ứng dụng di động 0,1

86,2%

94,5%

72,8%

191, trần 200

Cần phê duyệt

Phương án tách kênh cũng gắn cờ ít giao dịch hơn khoảng 6% so với phương án tăng năng lực. Tuy nhiên, dưới một nửa lượt gắn cờ là gian lận, điều mà báo cáo liệt kê là một vấn đề mở.

Cách xác minh khuyến nghị của Gemini 4 Carbon trên dữ liệu chưa thấy

Bạn xác minh khuyến nghị bằng cách áp dụng nó, ở trạng thái đóng băng, lên tập giữ lại đã niêm phong. Khác biệt với bộ đánh giá là dữ liệu: bộ đánh giá chấm điểm các tuần mà agent có thể xem, còn tập giữ lại chấm điểm bốn tuần sau đó mà không công cụ nào có thể đọc. Bài kiểm tra chạy một lần cho mỗi khuyến nghị đóng băng và sẽ không bắt đầu nếu báo cáo thay đổi sau khi đóng băng.

Biểu đồ cột về khuyến nghị PayGuard của Gemini 4 Carbon đã đóng băng trên tập giữ lại bốn tuần, hiển thị recall theo giá trị gian lận tổng thể, Website và Ứng dụng di động và lượt gắn cờ ngày bận nhất bên cạnh giới hạn từng quy tắc triển khai

Khuyến nghị đóng băng vượt qua trên tập giữ lại. Hình: Tác giả.

Nó vượt qua cả ba quy tắc, và ngày bận nhất vẫn dưới trần. Tuy nhiên đừng diễn giải quá nhiều. Ba điều khiển kết quả này ở mức khiêm tốn:

  • Tập giữ lại đến từ cùng một bộ sinh, nên nó không nói gì về dạng gian lận mới hay trôi dữ liệu
  • Recall tổng thể vượt 85% chưa đến hai điểm phần trăm
  • Phỏng đoán chưa kiểm chứng của tôi: tách kênh có thể phá vỡ trần nếu lưu lượng Ứng dụng di động tăng nhanh hơn Website, vì ngưỡng của Ứng dụng di động đặt khá thấp

Hai điều đầu đến từ các con số.

Xem toàn bộ kiểm toán trên Streamlit

Kho cũng bao gồm một ứng dụng Streamlit và sáu lần thử đã được ghi lại, vì vậy bạn có thể mở kiểm toán này mà không cần gọi API. Trong video, tôi tải nó và bước qua từng tab.

Ứng dụng Streamlit hiển thị một cuộc kiểm toán. Video: Tác giả.

Gemini 4 Carbon mức Medium so với High: Độ chính xác, thời gian và chi phí

Thành công ở đây nghĩa là hoàn thành trong giới hạn của ứng dụng và trả về một báo cáo được bộ đánh giá chấp nhận. Một lần thử bị dừng không có phán quyết để chấm điểm. Theo định nghĩa đó, medium hoàn thành mọi lần thử và tốn chưa đến một nửa chi phí cho mỗi kiểm toán đúng.

Sáu lần thử là quá ít để biến điều đó thành quy tắc chung. Nếu mức suy luận là mới với bạn, hướng dẫn API Gemini 3.8 Flash của chúng tôi trình bày chi tiết hơn về thinking_level.

So sánh mức medium và high trên cùng một kiểm toán

Đây là so sánh đầy đủ phía sau TL;DR. Tôi chạy 3 lần thử mỗi mức, mỗi lần từ trạng thái sạch không nhớ lần khác, với dữ liệu, prompt, công cụ, giới hạn và bộ đánh giá giống hệt:

Mỗi mức

medium

high

Lần thử kết thúc với báo cáo

3/3

2/3

Kiểm toán đúng trong số đó

3/3

2/2

Token suy nghĩ mỗi lần thử

Khoảng 7.700

Khoảng 17.500

Thời gian mỗi lần thử

Khoảng 5 phút

Khoảng 6 phút

Chi phí mỗi kiểm toán đúng, mức giá giới thiệu

Khoảng $0,25

Khoảng $0,62

Chi phí mỗi kiểm toán đúng, mức giá tiêu chuẩn

Khoảng $0,51

Khoảng $1,24

Các hàng chi phí tính tổng chi tiêu của mọi lần thử, bao gồm lần bị dừng. Mọi lần thử hoàn tất đều đi đến cùng phán quyết và xung đột, và chọn một cặp kênh được bộ đánh giá chấp nhận, nên suy nghĩ thêm được dùng cho nhiều kiểm tra hơn.

Tôi thấy mô thức tương tự trong thí nghiệm mã hóa Gemini 4 Argon: high tiêu nhiều hơn và làm nhiều việc hơn cho thay đổi nhỏ hơn trong kết quả đã xác minh. Nhiệm vụ khác nhau, nên chi phí và tỷ lệ thành công không thể so sánh trực tiếp. Ở cả hai, kiểm tra độc lập cho chúng ta biết nhiều hơn tổng suy nghĩ.

Vì sao một lần thử ở mức high không bao giờ hoàn tất

Lần thử bị dừng là lần đầu của mức high, và nó chưa bao giờ đưa ra phán quyết sai. Nó thăm dò mọi điểm lưới từ 0,101 đến 0,119 rồi đi săn ranh giới 70% của Website, vốn không ảnh hưởng đến điều gì, và nó cứ yêu cầu thêm kiểm tra cho đến khi chạm giới hạn 60 lần gọi mà tôi đặt trước đó và ứng dụng dừng nó trước khi viết báo cáo.

Biểu đồ đường số lần gọi công cụ lũy kế mỗi lượt Interactions API cho ba lần thử medium và ba lần thử high của Gemini 4 Carbon trên PayGuard, với mốc giới hạn 60, nơi một lần high vượt giới hạn và năm lần còn lại hoàn thành bên dưới

Chỉ một lần thử chạm giới hạn. Hình: Tác giả.

Điểm dừng đó là phần hữu ích. Một prompt yêu cầu ít lần gọi hơn sẽ không kết thúc nó, và giới hạn trong mã đã làm được, sau khoảng 22 xu.

Năm báo cáo hoàn tất cũng vượt qua các kiểm tra khác của Python. Không có báo cáo nào đọc sai cấu hình hiện tại, nêu yêu cầu ngoài xung đột, trích dẫn một lần gọi công cụ không tồn tại, hoặc khuyến nghị một cấu hình mà nó chưa thử.

Đo lường token, thời gian và chi phí mỗi kiểm toán

Một kiểm toán có chi phí bằng tổng usage của mỗi lượt, tính giá $2,00 mỗi triệu token đầu vào, $0,10 cache, và $10,00 cho đầu ra gồm suy nghĩ, tất cả sẽ tăng gấp đôi vào ngày 1 tháng 12 năm 2026. total_input_tokens bao gồm token được cache, nên mã định giá hai phần riêng biệt.

Biểu đồ cột xếp chồng chi phí mỗi lượt Interactions API trong lần thử medium đầu tiên của PayGuard, tách thành đầu vào không cache, đầu vào cache, và đầu ra cộng suy nghĩ, trong đó lượt báo cáo không công cụ có chi phí cao nhất

Lượt báo cáo tốn kém nhất. Hình: Tác giả.

Điều bất ngờ là báo cáo, hay chính xác hơn, hóa đơn của nó. Caching ngầm bao phủ khoảng ba phần tư số token đầu vào ở các lượt điều tra, nhưng yêu cầu báo cáo không công cụ không bao giờ được cache hit.

Nguyên nhân có thể là bỏ tools làm thay đổi phần đầu của yêu cầu. Dù thế nào, lượt đó đọc lại toàn bộ lịch sử với giá đầy đủ và chiếm khoảng 40% chi phí của mỗi lần thử hoàn tất. Hãy tính lượt đó khi bạn đặt giới hạn chi tiêu.

Hạn chế khi dùng Gemini 4 Carbon cho kiểm toán mô hình ML

Tôi tự thiết kế bài kiểm tra này và sinh dữ liệu của nó, nên kết quả mang các giới hạn sau:

  • Dữ liệu là tổng hợp và đến từ một bộ phân loại, và tôi tinh chỉnh bộ sinh cho đến khi xuất hiện xung đột, trước bất kỳ lệnh gọi API nào
  • Phán quyết chỉ bao phủ bộ phân loại này, và một bộ tốt hơn có thể đáp ứng cả ba quy tắc với một ngưỡng
  • Một ngưỡng có thể kiểm tra được, nhưng phê duyệt tách kênh là quyết định kinh doanh và công bằng
  • Tương tác được lưu trữ trong 55 ngày ở bậc trả phí theo mặc định, và store=false loại trừ previous_interaction_id, nên một agent gửi hàng loạt dòng giao dịch cần được rà soát dữ liệu

Bộ đánh giá tự giải quyết bài toán ngưỡng, không cần mô hình. Nếu tất cả những gì bạn cần là một ngưỡng, hãy dùng một trình giải tối ưu hóa. Điều Gemini 4 Carbon bổ sung là phần kiểm toán xung quanh nó.

Không có gì ở đây gắn chặt với gian lận. Thiết lập này phù hợp với bất kỳ mô hình nào có các quy tắc Python có thể đo lường.

Kết luận

Kết quả chính là Gemini 4 Carbon nhận ra chính sách ban đầu không có ngưỡng toàn cục hợp lệ. Cả 5 lần thử hoàn tất đều nêu xung đột và đề xuất tách kênh được bộ đánh giá chấp nhận; một lần high dừng lại trước khi tạo báo cáo.

Thí nghiệm Gemini 4 Argon và Gemini 4 Carbon kiểm tra hai mặt của độ tin cậy agent. Agent Gemini 4 Argon thay đổi mã và phải giữ nguyên hành vi, trong khi agent Gemini 4 Carbon đi đến quyết định theo các quy tắc khiến câu trả lời ban đầu là không thể. Cả hai đều cần công cụ hẹp, giới hạn tài nguyên và kiểm tra ngoài mô hình.

Đó là tiêu chuẩn tôi sẽ dùng cho một agent: xác định những gì công cụ của nó có thể xác lập, xác minh kết quả một cách độc lập, và cho phép câu trả lời inconclusive khi bằng chứng cạn kiệt. Tiếp theo, tôi sẽ đặt hai hoặc ba bộ phân loại ứng viên dưới cùng một chính sách và hỏi bộ nào, nếu có, có thể đưa vào hoạt động.

Khalid Abdelaty

Tác giả

Khalid Abdelaty

Tôi là một kỹ sư dữ liệu và người xây dựng cộng đồng, làm việc với pipeline dữ liệu, đám mây và công cụ AI, đồng thời viết các hướng dẫn thực hành, tác động cao cho DataCamp và các nhà phát triển mới nổi.

FAQs

Làm sao tôi có thể truy cập Gemini 4 Carbon API?

Thông qua một dự án Google AI Studio trả phí hoặc thông qua Gemini for business trên Google Cloud. Ứng dụng Gemini, Antigravity và AI Mode cũng cung cấp cho người đăng ký Google AI Ultra, nhưng các ứng dụng người dùng đó không cấp khóa API cho bạn.

Gemini 4 Carbon API có giá bao nhiêu?

Tổng chi phí cho 6 lần kiểm toán ở đây là $2,00 theo mức giá giới thiệu. Các yêu cầu tiêu chuẩn như thế này nhận được caching ngầm sau khi một yêu cầu vượt 4.096 token đầu vào, vì vậy hãy giữ phần đầu của mỗi yêu cầu giống hệt nhau. Flex inference, cũng được Interactions hỗ trợ, giảm một nửa mức giá token đổi lấy phản hồi chậm hơn, kém ổn định hơn.

Giới hạn tần suất của Gemini 4 Carbon API là gì?

Các dự án trả phí có giới hạn theo phút cộng giới hạn chi tiêu, là $10 mỗi cửa sổ 10 phút cuộn ở Tier 1, và vượt quá sẽ trả về 429 RESOURCE_EXHAUSTED. Một lần kiểm toán ở đây tốn dưới $1, nên chỉ nhiều lần thử song song mới chạm giới hạn. Các giới hạn tăng theo tier của bạn, vì vậy hãy kiểm tra trang giới hạn tần suất của Google cho dự án của bạn.

Sự khác biệt giữa mức medium và high trong Gemini 4 Carbon là gì?

Gemini 4 Carbon có ba mức, low, medium (mặc định) và high, và tôi chỉ so sánh hai mức trên cùng ở đây. Để xem suy nghĩ bổ sung trông như thế nào, đặt thinking_summaries thành "auto" và bạn sẽ nhận được các bản tóm tắt cô đọng bên cạnh mỗi câu trả lời. Chúng tắt theo mặc định và có thể trống khi mô hình hầu như không suy luận.

Gemini 4 Carbon có thể chạy mã Python không?

Có. Thêm {"type": "code_execution"} vào tools và Gemini 4 Carbon có thể viết và chạy Python phía Google, tính phí theo mức token bình thường. Tôi bỏ qua để giữ quyền kiểm soát phía mình: ba công cụ quyết định nó có thể đo gì, và các giao dịch thô cùng tập giữ lại không rời máy của tôi.

Chủ đề

Liên quan