NVIDIA Vera Rubin 'quét sạch' MLPerf: Gấp đôi hiệu năng huấn luyện và bước ngoặt 10x cho Agentic AI
Điểm nhấn cốt lõi (Key Takeaways)
- Vera Rubin NVL72 thống trị tuyệt đối mọi bài kiểm tra trong MLPerf Training v6.1, đem lại hiệu năng trên mỗi GPU cao gấp 2 lần so với thế hệ Blackwell Ultra (GB300).
- Khả năng mở rộng quy mô phi thường với hiệu suất scaling đạt trên 97% từ 256 lên 1.024 GPU, rút ngắn thời gian huấn luyện mô hình khổng lồ DeepSeek-V3 671B xuống chỉ còn 4,14 phút.
- Tạo cột mốc mang tính bước ngoặt tại MLPerf Endpoints v1.0 khi cải thiện thông lượng trên mỗi Watt (throughput per watt) gấp hơn 10 lần cho các tác vụ suy luận tác tử (Agentic AI).
Trong màn ra mắt chính thức tại MLPerf Training v6.1 và MLPerf Endpoints v1.0, nền tảng NVIDIA Vera Rubin đã khẳng định vị thế tối thượng với hiệu năng huấn luyện vượt trội cùng bước nhảy vọt hơn 10 lần về hiệu quả năng lượng cho các tác vụ Agentic AI.

MLPerf từ lâu đã được xem là thước đo chuẩn mực và khắt khe nhất trong ngành bán dẫn trí tuệ nhân tạo, nơi các hãng công nghệ phô diễn sức mạnh thực chiến của phần cứng lẫn phần mềm. Tại đợt công bố kết quả MLPerf Training v6.1 và MLPerf Endpoints v1.0 vừa qua, NVIDIA đã chính thức đưa kiến trúc thế hệ tiếp theo mang tên Vera Rubin ra ánh sáng. Không chỉ thiết lập kỷ lục mới ở mọi hạng mục huấn luyện, nền tảng này còn định hình lại bài toán tối ưu năng lượng cho làn sóng ứng dụng AI tác tử (Agentic AI) đang bùng nổ trên quy mô toàn cầu.
Màn chào sân áp đảo: Khi Vera Rubin thiết lập chuẩn mực siêu tính toán mới
Chiến thắng tuyệt đối trên toàn bộ danh mục đo kiểm Tại kỳ đánh giá MLPerf Training v6.1, hệ thống Vera Rubin NVL72 đã tạo nên một cú "clean sweep" lịch sử khi vượt qua tất cả các đối thủ và hoàn thành trọn vẹn cả 7 bài test tiêu chuẩn. Danh mục này bao gồm toàn bộ phổ tải tính toán của AI hiện đại: từ huấn luyện tiền kỳ (pre-training) các mô hình ngôn ngữ lớn (LLM), mô hình sinh ảnh khuếch tán (diffusion models), hệ thống gợi ý quy mô siêu lớn (recommenders), cho đến quá trình hậu huấn luyện tăng cường (reinforcement learning post-training).
Đáng chú ý, NVIDIA tiếp tục là đơn vị duy nhất trong ngành nộp kết quả hoàn chỉnh trên toàn bộ các bảng đấu. Kết quả này phản ánh sự hoàn thiện của hệ sinh thái CUDA cũng như khả năng thương mại hóa thần tốc của chuỗi cung ứng máy chủ AI do đội ngũ Jensen Huang dẫn dắt.
Bước nhảy vọt trước người tiền nhiệm Blackwell Ultra So với nền tảng tiền nhiệm vốn đã rất mạnh mẽ là Blackwell Ultra (GB300 NVL72), Vera Rubin NVL72 đạt mức cải thiện hiệu năng thuần túy trên từng GPU lên tới 2 lần ngay trong lần đầu thử nghiệm. Điều này chứng minh rằng việc chuyển dịch kiến trúc không chỉ là sự gia tăng đơn thuần về số lượng bóng bán dẫn, mà là một bước nhảy vọt toàn diện về cấu trúc vi xử lý và quản trị dữ liệu.

Động cơ tăng tốc huấn luyện: Gấp đôi sức mạnh và bài toán nghìn GPU
Khả năng mở rộng tuyến tính vượt ngưỡng 97% Một trong những thách thức lớn nhất của các cụm siêu máy tính AI (AI Factory) hiện nay là hiện tượng suy hao hiệu năng khi ghép nối hàng nghìn vi xử lý qua mạng lưới liên kết. Ở bài toán này, Vera Rubin đã thể hiện sức mạnh vượt trội với hiệu suất mở rộng (scale-out efficiency) đạt hơn 97% khi tăng quy mô từ cụm 256 GPU lên 1.024 GPU.
Sự đồng bộ giữa vi xử lý trung tâm Vera CPU, bộ gia tốc đồ họa Rubin GPU, bộ nhớ băng thông cao thế hệ mới HBM4 và đường truyền liên kết NVLink thế hệ thứ 6 đã phá vỡ hoàn toàn các nút thắt cổ chai về băng thông truyền thông (inter-node communication bottlenecks).
Kiểm chứng thực tế trên mô hình DeepSeek-V3 671B Minh chứng rõ nét nhất cho sức mạnh xử lý cấu trúc chuyên sâu là bài kiểm tra với mô hình Mixture-of-Experts (MoE) DeepSeek-V3 quy mô 671 tỷ tham số. Trên cùng quy mô cụm 1.024 GPU, nếu như hệ thống Blackwell Ultra GB300 hoàn thành khối lượng đo lường trong 8,03 phút thì cụm Vera Rubin NVL72 chỉ mất 4,14 phút — tức giảm gần một nửa thời gian xử lý. Đây là một con số có ý nghĩa sống còn đối với các phòng thí nghiệm AI hàng đầu, nơi mỗi giờ chạy thử nghiệm tính bằng hàng triệu USD chi phí hạ tầng.
Cuộc cách mạng Agentic AI: Cú nhảy vọt 10x hiệu quả năng lượng trên mỗi Watt
Đo lường chuẩn xác kỷ nguyên tác tử qua MLPerf Endpoints Bên cạnh khối lượng tính toán huấn luyện truyền thống, MLPerf Endpoints v1.0 đánh dấu lần đầu tiên cộng đồng công nghiệp đưa ra bộ chỉ số chuyên biệt để đo lường năng lực phục vụ suy luận qua API và các quy trình tác tử (Agentic Workflows). Khác với suy luận tĩnh đơn lượt, Agentic AI đòi hỏi chuỗi xử lý tương tác đa bước (multi-step reasoning), liên tục gọi công cụ (tool-calling) và kiểm soát ngữ cảnh động, đặt ra áp lực nghẹt thở lên độ trễ và thông lượng máy chủ.
Đột phá Throughput per Watt và bài toán năng lượng trung tâm dữ liệu Trong lần đầu gửi kết quả dự thi MLPerf Endpoints, nền tảng Vera Rubin đã gây chấn động khi mang lại bước nhảy vọt hơn 10 lần về thông lượng trên mỗi Watt (throughput per watt) cho các tác vụ Agentic AI.
Trong bối cảnh các trung tâm dữ liệu toàn cầu đang đối mặt với giới hạn nghiêm ngặt về điện lưới và chi phí làm mát, việc tăng gấp 10 lần số lượng truy vấn tác tử phục vụ được trên cùng một đơn vị công suất điện tiêu thụ sẽ trực tiếp giải quyết bài toán suy luận ở quy mô hàng tỷ người dùng. Sức mạnh này có được nhờ sự tối ưu hóa sâu sắc giữa công nghệ nén lượng tử hóa mức thấp (low-bit quantization), engine xử lý ngữ cảnh dài trong TensorRT-LLM và kiến trúc bộ nhớ HBM4 siêu tốc độ.

Tác động sâu rộng và bài toán hạ tầng cho doanh nghiệp công nghệ Việt Nam
Củng cố vị thế độc tôn của đế chế đồ họa Màn trình diễn áp đảo của Vera Rubin khẳng định hào lũy bảo vệ (moat) của NVIDIA ngày càng kiên cố. Dù các đối thủ như AMD với dòng Instinct hay các hãng đám mây tự phát triển chip tùy biến (ASIC/TPU) đang nỗ lực bám đuổi, năng lực kết hợp giữa phần cứng tối tân và phần mềm tối ưu hóa sát ván vẫn giúp NVIDIA duy trì khoảng cách công nghệ từ 1 đến 2 năm so với phần còn lại của thị trường.
Góc nhìn chiến lược cho hệ sinh thái AI Việt Nam Đối với cộng đồng công nghệ và các doanh nghiệp Việt Nam, sự ra đời của Vera Rubin mang lại nhiều bài học và cơ hội chiến lược: - Chiến lược đầu tư hạ tầng thông minh (TCO Optimization): Các trung tâm dữ liệu trong nước khi xây dựng hạ tầng GPU cho khách hàng doanh nghiệp cần tính toán kỹ chu kỳ vòng đời công nghệ. Việc chạy theo các dòng chip thế hệ cũ giá rẻ có thể gây thiệt hại lớn về lâu dài do chi phí điện năng và hiệu suất suy luận kém hơn gấp nhiều lần. - Tận dụng đám mây thay vì tự sở hữu (Cloud-first Strategy): Với các startup và doanh nghiệp phát triển ứng dụng Agentic AI tại Việt Nam, thay vì chịu gánh nặng đầu tư cụm máy chủ on-premise đắt đỏ, giải pháp tối ưu là khai thác các dịch vụ suy luận đám mây (Cloud Endpoints) sử dụng hạ tầng thế hệ mới. Khi các nhà cung cấp đám mây như CoreWeave hay AWS tích hợp Rubin, chi phí trên mỗi token suy luận tác tử dự kiến sẽ giảm mạnh, mở ra dư địa thương mại hóa khổng lồ cho các giải pháp tự động hóa doanh nghiệp trong nước.
Nền tảng NVIDIA Vera Rubin mang lại nâng cấp kỹ thuật cốt lõi nào so với thế hệ Blackwell Ultra?
Vera Rubin kết hợp vi xử lý trung tâm Vera CPU, GPU Rubin thế hệ mới tích hợp bộ nhớ băng thông cao HBM4 và chuẩn liên kết NVLink 6, giúp tăng gấp 2 lần hiệu năng huấn luyện trên mỗi GPU và cải thiện hơn 10 lần hiệu quả năng lượng (throughput per watt) cho các tác vụ Agentic AI.
Doanh nghiệp AI tại Việt Nam nên tiếp cận nền tảng Vera Rubin như thế nào để tối ưu chi phí?
Thay vì đầu tư mua sắm cụm máy chủ vật lý tốn kém, các doanh nghiệp và startup trong nước nên ưu tiên tiếp cận thông qua API đám mây (Cloud Endpoints) từ các đối tác hạ tầng toàn cầu để tận dụng mức giảm giá thành suy luận trên mỗi token mà kiến trúc mới đem lại.
Bạn thấy thông tin này như thế nào? Hãy để lại cảm xúc!
Tác giả chuyên sâu về nghiên cứu trí tuệ nhân tạo, quy trình Agentic và giải pháp tự động hoá quy mô lớn.


