Thứ Ba, 17/11/2026
Tin mới→

Google ra mắt Tool Retrieval trên Gemini API: Giải bài toán lãng phí hàng chục nghìn token cho AI Agent

Ban Biên Tập TinTứcAI
Ban Biên Tập TinTứcAIBộ phận Phân tích Công nghệ Chuyên sâu
6 phút đọc
Tóm tắt bài viết với AI:

Điểm nhấn cốt lõi (Key Takeaways)

  • Cắt giảm hàng chục nghìn token mỗi lượt gọi: Cơ chế Deferred Loading hoãn nạp toàn bộ parameter schema chi tiết, chỉ gửi tên và mô tả ngắn cho đến khi mô hình thực sự kích hoạt công cụ.
  • Hỗ trợ 2 chế độ Server-side và Client-side: Tùy chọn Server-side tự động tìm kiếm không cần hạ tầng chỉ mục, trong khi Client-side cho phép doanh nghiệp nhúng vector search riêng và chèn công cụ động giữa phiên làm việc.
  • Tương thích sâu với giao thức MCP và Caching: Tích hợp trực tiếp với Model Context Protocol (MCP) qua cờ cấu hình defer_loading, hỗ trợ implicit caching nhưng yêu cầu kiểm soát ngưỡng dung lượng prompt tối thiểu.

Google vừa thử nghiệm tính năng Tool Retrieval trên Gemini API, cho phép các hệ thống AI Agent chỉ nạp định nghĩa tham số của công cụ khi phát sinh nhu cầu thực tế. Cơ chế nạp trễ này giúp cắt giảm hàng chục nghìn token schema dư thừa trên mỗi request, giải quyết triệt để rào cản chi phí và độ trễ khi tích hợp thư viện công cụ lớn hoặc máy chủ MCP.

Google ra mắt Tool Retrieval trên Gemini API: Giải bài toán lãng phí hàng chục nghìn token cho AI Agent
📷 Ảnh bìa chuyên đề: Google ra mắt Tool Retrieval trên Gemini API: Giải bài toán lãng phí hàng chục nghìn token cho AI Agent
Chế độ đọc tối ưu

Google vừa chính thức kích hoạt bản xem trước (preview) tính năng Tool Retrieval trong khuôn khổ Interactions API trên Gemini API, trực tiếp tháo gỡ điểm nghẽn kỹ thuật lớn nhất của các hệ thống tác tử thông minh (AI Agents): chi phí token khổng lồ từ việc khai báo định nghĩa công cụ (tool parameter schemas). Thay vì bắt buộc mô hình phải tiếp nhận toàn bộ cấu trúc tham số phức tạp ở từng lượt tương tác, tính năng mới áp dụng cơ chế nạp trễ (deferred loading), chỉ tải cấu trúc chi tiết khi phát sinh nhu cầu thực tế.

Điểm nghẽn chi phí: Khi schema công cụ 'ngốn' sạch context window

Trong kiến trúc phát triển AI Agent hiện đại, mô hình ngôn ngữ lớn (LLM) không chỉ sinh văn bản đơn thuần mà còn đóng vai trò bộ não điều phối hành động thông qua Function Calling hoặc máy chủ giao thức MCP (Model Context Protocol). Tuy nhiên, khi một tác tử cần tích hợp từ vài chục đến hàng trăm công cụ nghiệp vụ—từ truy vấn cơ sở dữ liệu, gửi email, tra cứu thanh toán đến tạo vé hỗ trợ kỹ thuật—kỹ sư buộc phải gửi kèm toàn bộ tài liệu định nghĩa tham số (JSON Schema) trong mảng tools ở mỗi lượt gọi API.

Tài liệu kỹ thuật của Google chỉ rõ: một thư viện gồm vài chục hàm chức năng có thể tiêu tốn từ 10.000 đến hơn 30.000 token cố định trên mỗi lượt gửi yêu cầu (prompt). Hiện tượng phình to ngữ cảnh (context bloat) này kéo theo ba hệ lụy nghiêm trọng:

  • Đội chi phí suy luận (inference cost): Doanh nghiệp phải trả tiền cho hàng chục nghìn input token lặp đi lặp lại đối với những công cụ thậm chí không bao giờ được chạm tới trong phiên tương tác.
  • Gia tăng độ trễ mạng (latency): Dung lượng payload lớn làm chậm đáng kể tốc độ phản hồi của tác tử, đặc biệt trong các kịch bản hội thoại đa bước (multi-turn interactions).
  • Phân tán khả năng tập trung (attention degradation): Bối cảnh chứa quá nhiều schema kỹ thuật chi tiết khiến mô hình dễ bị loãng sự chú ý, làm tăng nguy cơ sinh ảo giác (hallucination) hoặc gọi nhầm công cụ.
Dữ liệu thực nghiệm và sơ đồ kỹ thuật: Cơ chế Deferred Loading: Tối ưu hóa chu trình nạp công cụ
📷 Dữ liệu thực nghiệm và sơ đồ kỹ thuật: Cơ chế Deferred Loading: Tối ưu hóa chu trình nạp công cụ

Cơ chế Deferred Loading: Tối ưu hóa chu trình nạp công cụ

Giải pháp của Google triển khai một lớp trừu tượng thông minh: chia tách thông tin công cụ thành hai tầng riêng biệt. Ở trạng thái mặc định ban đầu, mô hình chỉ tiếp nhận tên hàm (name) cùng một đoạn mô tả ngắn gọn (short_description). Cấu trúc tham số chi tiết (parameter schema) hoàn toàn được hoãn lại ở hậu trường.

Để kích hoạt, nhà phát triển chỉ cần khai báo thực thể {"type": "tool_search"} trong mảng công cụ và gắn thuộc tính defer_loading: true vào các hàm mong muốn hoãn nạp. Trong tài liệu thử nghiệm của Google Developers trên mô hình gemini-4-hydrogen, một tác tử hỗ trợ khách hàng chứa hơn 50 hàm nghiệp vụ nạp trễ (như hàm xử lý hoàn tiền issue_refund) nhưng vẫn duy trì kích thước prompt khởi tạo cực kỳ tinh gọn.

Khi người dùng đưa ra yêu cầu đòi hỏi công cụ cụ thể, chu trình tương tác diễn ra theo ba bước chuẩn hóa:

  1. Mô hình phát hiện nhu cầu và kích hoạt lệnh tìm kiếm công cụ nội bộ.
  2. Hệ thống Gemini API tự động phân giải truy vấn và nạp schema tương ứng vào ngữ cảnh phiên làm việc.
  3. Mô hình sinh mã gọi hàm (function_call) hoàn chỉnh chứa đầy đủ đối số chính xác để ứng dụng của lập trình viên thực thi và trả về kết quả (function_result).

Dưới đây là bảng so sánh kỹ thuật giữa cơ chế nạp tĩnh truyền thống và giải pháp Tool Retrieval mới trên Gemini API:

← Vuốt ngang để xem đủ bảng →
Tiêu chí kỹ thuật Nạp tĩnh truyền thống (Static Loading) Tool Retrieval (Server-side) Tool Retrieval (Client-side)
Dung lượng Token ban đầu Toàn bộ schema (10.000 - 30.000+ token) Rất thấp (chỉ gồm name và short_description) Rất thấp (chỉ tải danh mục công cụ ban đầu)
Hạ tầng quản lý chỉ mục Không cần xử lý bổ sung Hoàn toàn tự động, không cần dựng index Cần tự quản lý vector database hoặc tool registry
Độ trễ Round-trip mạng 1 vòng lặp chuẩn Tự động xử lý ngầm trong 1 request của API Tốn thêm 1 round-trip để client phản hồi schema
Khả năng chèn công cụ động Không thể bổ sung giữa phiên Giới hạn trong danh sách khai báo nạp trễ Cho phép nhúng công cụ mới linh hoạt mid-conversation
Quy mô thư viện tối ưu Dưới 10 công cụ đơn giản 20 đến hàng trăm công cụ chuẩn hóa Hàng nghìn công cụ gắn phân quyền doanh nghiệp (RBAC)

Tùy biến sâu: Lựa chọn giữa Server-side và Client-side

Google cung cấp hai chế độ thực thi riêng biệt cho Tool Retrieval nhằm đáp ứng linh hoạt các bài toán hạ tầng khác nhau của doanh nghiệp:

  • Chế độ Server-side (Mặc định): Gemini đảm nhận toàn bộ quá trình tìm kiếm ngữ nghĩa và nạp schema. Lập trình viên không cần xây dựng cơ sở dữ liệu vector hay hosting hạ tầng tìm kiếm bên ngoài. Lượng token phục vụ tìm kiếm schema được ghi nhận minh bạch trong trường total_tool_use_tokens và tính theo biểu phí input tiêu chuẩn.
  • Chế độ Client-side ("execution": "client"): Ứng dụng phía máy khách tự thực hiện tra cứu thông qua kho lưu trữ nội bộ (embedding index, tool registry) hoặc bộ lọc quyền hạn (permission filter). Ứng dụng sau đó trả về định nghĩa schema phù hợp qua trường function_result.result. Điểm đắt giá của chế độ này là khả năng chèn thêm công cụ mới vào giữa cuộc trò chuyện ngay cả khi chúng chưa từng được khai báo ban đầu.

Đặc biệt, tính năng này tương thích trực tiếp với giao thức Model Context Protocol (MCP). Bằng việc thiết lập defer_loading: true trên định danh mcp_server, toàn bộ công cụ do máy chủ MCP đó cung cấp sẽ tự động chuyển sang trạng thái nạp trễ nhưng vẫn giữ nguyên khả năng thực thi từ xa thông qua hạ tầng Gemini API.

Tuy nhiên, Google cũng đưa ra lưu ý quan trọng về tính năng Prompt Caching: việc hoãn nạp schema giúp thu nhỏ đáng kể kích thước prompt ban đầu, nhưng nếu độ dài prompt giảm xuống dưới ngưỡng kích hoạt tối thiểu của hệ thống cache (minimum cacheable size), ứng dụng sẽ không tận dụng được mức chiết khấu giá của bộ nhớ đệm định kỳ.

Khảo sát bối cảnh triển khai: Bàn cờ chiến lược AI Agent và tác động thực tế tới kỹ sư Việt Nam
📷 Khảo sát bối cảnh triển khai: Bàn cờ chiến lược AI Agent và tác động thực tế tới kỹ sư Việt Nam

Bàn cờ chiến lược AI Agent và tác động thực tế tới kỹ sư Việt Nam

Việc Google ra mắt Tool Retrieval là nước cờ chiến lược nhằm củng cố vị thế của Gemini trong kỷ nguyên bùng nổ của Autonomous Agents. Trước đó, cả Anthropic và OpenAI đều đã triển khai các cơ chế tìm kiếm công cụ nội bộ với những con số tiết kiệm token ấn tượng được công bố trong các bài thử nghiệm độc lập. Bằng cách chuẩn hóa Tool Retrieval trên Interactions API cùng khả năng tích hợp gốc với giao thức MCP, Google đang biến Gemini trở thành lựa chọn hàng đầu cho các hệ thống tác tử cấp doanh nghiệp.

Đối với cộng đồng kỹ sư phần mềm và các doanh nghiệp công nghệ tại Việt Nam, cập nhật này mở ra những tác động thực tiễn sâu sắc:

  • Tối ưu hóa chi phí vận hành AI Agent: Rất nhiều startup và đội ngũ kỹ thuật tại Việt Nam đang xây dựng các hệ thống AI tự động hóa chăm sóc khách hàng, quản trị doanh nghiệp (ERP) hoặc trợ lý fintech kết nối hàng chục microservices nội bộ. Trước đây, chi phí API hàng tháng thường bị đẩy lên hàng nghìn USD chỉ vì phải gửi đi gửi lại hàng chục schema tĩnh. Tool Retrieval giúp các hệ sinh thái này cắt giảm mạnh chi phí vận hành biến đổi.
  • Hiện thực hóa kiến trúc Micro-Agent quy mô lớn: Các nhóm kỹ sư có thể tự tin xây dựng những 'siêu tác tử' sở hữu thư viện hàng trăm kỹ năng mà không lo ngại chạm ngưỡng giới hạn context window hay làm suy giảm độ chính xác của mô hình.
  • Tăng cường bảo mật và kiểm soát phân quyền (RBAC): Với chế độ Client-side, các ngân hàng và tổ chức tài chính tại Việt Nam hoàn toàn có thể kiểm soát quyền gọi công cụ dựa trên vai trò của từng người dùng cuối trước khi cung cấp schema cho mô hình, đảm bảo tuân thủ nghiêm ngặt các quy định an toàn thông tin nội bộ.
Câu hỏi thường gặp (FAQ)

Khi nào lập trình viên nên chọn chế độ Client-side thay vì Server-side mặc định của Tool Retrieval?

Chế độ Client-side là lựa chọn tối ưu khi ứng dụng cần bảo mật phân quyền nghiêm ngặt (RBAC), sở hữu thư viện công cụ khổng lồ trên kho vector nội bộ, hoặc cần chèn thêm công cụ động theo ngữ cảnh giữa phiên hội thoại mà không cần khai báo từ đầu.

Cơ chế nạp trễ công cụ có làm mất hiệu lực của tính năng Prompt Caching trên Gemini API không?

Không làm mất hiệu lực. Các schema khi được nạp vẫn áp dụng cơ chế implicit caching bình thường; tuy nhiên, việc hoãn nạp có thể làm co dung lượng prompt ban đầu xuống dưới ngưỡng tối thiểu (minimum cacheable size) cần thiết để kích hoạt bộ nhớ đệm.

Đánh giá bài viết

Bạn thấy thông tin này như thế nào? Hãy để lại cảm xúc!

Ban Biên Tập TinTứcAI
Ban Biên Tập TinTứcAIBộ phận Phân tích Công nghệ Chuyên sâu

Tác giả chuyên sâu về nghiên cứu trí tuệ nhân tạo, quy trình Agentic và giải pháp tự động hoá quy mô lớn.

Chia sẻ:

Bài viết liên quan

6m đọc

Cuộc xâm lăng của AI Agent vào tin nhắn văn bản: Khai tử ứng dụng độc lập, tái định nghĩa giao diện người dùng

Làn sóng AI Agent thế hệ mới đang đồng loạt tích hợp trực tiếp vào SMS, iMessage và RCS thay vì bắt người dùng tải thêm ứng dụng độc lập. Bước chuyển dịch sang điện toán phi giao diện này mở ra kỷ nguyên tự động hóa tác vụ đa bước ngay trong luồng hội thoại thường nhật.

Ban Biên Tập TinTứcAIChi tiết
6m đọc

RadixArk Trình Làng DaisyRose-27B: Đột Phá Lập Trình Agentic Thuần RL Không Cần SFT

RadixArk chính thức phát hành DaisyRose-27B, mô hình lập trình agentic 27 tỷ tham số được hậu huấn luyện 100% bằng học tăng cường (RL) mà không dùng SFT hay chưng cất tri thức. Giải pháp mã nguồn mở này tăng hơn gấp đôi điểm chuẩn Terminal Bench 4.1, mở ra bước tiến lớn cho năng lực tự trị phần mềm.

Ban Biên Tập TinTứcAIChi tiết
6m đọc

Hugging Face ra mắt Harness Adapters: Tăng vọt hiệu năng lập trình tự động, giảm hơn 50% chi phí gọi công cụ

Hugging Face chính thức công bố kỹ thuật Harness Adapters, ứng dụng học tăng cường (RL) trực tiếp bên trong môi trường vận hành thực tế của AI Agent. Giải pháp giúp mô hình mã nguồn mở như Qwen3.8-27B tăng tới 25,5 điểm phần trăm trên SWE-bench Pro đồng thời cắt giảm hơn một nửa số lượt gọi công cụ và chi phí suy luận.

Ban Biên Tập TinTứcAIChi tiết