Giấy phép NVIDIA AI Enterprise có giá 4.500 đô la mỗi GPU mỗi năm

Một doanh nghiệp muốn tự động kiểm tra hợp đồng tín dụng không chỉ cần một mô hình biết đọc chữ. Hệ thống còn phải hiểu bảng số liệu, diễn giải biểu đồ, đối chiếu thông tin trên trang web và áp dụng quy định nội bộ trước khi đưa ra kết quả. Chỉ cần sai một con số hoặc bỏ qua một điều khoản, toàn bộ câu trả lời có thể mất giá trị.

Đó là bài toán NVIDIA muốn giải quyết bằng dòng mô hình Nemotron 3.5 mới. Sản phẩm gồm Nemotron 3.5 Super VL với 120 tỷ tham số, Nemotron 3.5 Bolt 74B-A9B hướng đến các tác vụ nhiều bước trên hệ thống cục bộ và Nemotron 3.5 Bolt E4B dành cho trợ lý hội thoại, giọng nói và thiết bị nhúng.

Điểm đáng chú ý không chỉ là quy mô mô hình. NVIDIA đang kết hợp mô hình có trọng số mở, công cụ tinh chỉnh theo dữ liệu riêng và nhiều lựa chọn triển khai. Với doanh nghiệp, điều này mở ra cơ hội xây dựng hệ thống trí tuệ nhân tạo phù hợp với tài liệu, quy trình và yêu cầu bảo mật của chính mình. Tuy nhiên, kết quả thử nghiệm do NVIDIA công bố vẫn cần được kiểm chứng trên dữ liệu thực tế trước khi có thể chuyển thành lợi ích kinh doanh.

NVIDIA mở rộng Nemotron từ mô hình suy luận sang xử lý tài liệu trực quan

Nemotron 3.5 Super VL được thiết kế để xử lý tài liệu PDF, bảng biểu, biểu đồ, hình ảnh và trang web, đồng thời làm theo chỉ dẫn và sử dụng công cụ bên ngoài. Đây là sự mở rộng đáng chú ý trong dòng sản phẩm Nemotron, vốn đã có những mô hình phục vụ phân tích hình ảnh và tài liệu.

Trước đó, Nemotron Nano 2 VL đã hỗ trợ phân tích tài liệu và hình ảnh. Đến tháng 4, NVIDIA giới thiệu Nemotron 3 Nano Omni, mô hình 30 tỷ tham số kết hợp văn bản, hình ảnh, âm thanh và video. Tháng 3, hãng đưa ra Nemotron 3 Super với trọng tâm là suy luận cho các tác nhân trí tuệ nhân tạo, sau đó bổ sung Nemotron 3 Ultra cho những công việc đòi hỏi cao hơn. Nemotron 3.5 Lightning tiếp tục nhắm đến các bước xử lý lặp lại với khối lượng lớn trong những quy trình kéo dài.

Super VL đưa khả năng hiểu tài liệu và hình ảnh vào phân khúc Super có quy mô lớn hơn. Trong khi đó, dòng Bolt mở rộng lựa chọn chạy mô hình tại chỗ, thay vì buộc mọi tác vụ phải gửi lên dịch vụ đám mây.

Sự kết hợp này có thể giúp đơn giản hóa một số hệ thống. Chẳng hạn, quy trình xử lý yêu cầu bồi thường bảo hiểm cần đọc hồ sơ đã quét, trích xuất dữ liệu, so sánh với điều khoản hợp đồng và xác định trường hợp cần nhân viên kiểm tra. Nếu một mô hình có thể xử lý cả phần chữ lẫn thông tin trực quan, nhà phát triển có thể giảm số lượng hệ thống riêng biệt cần kết nối.

Dù vậy, ít thành phần hơn không tự động đồng nghĩa với ít lỗi hơn. Doanh nghiệp vẫn phải kiểm tra xem mô hình có trích xuất đúng dữ kiện, đọc chính xác bảng biểu và áp dụng đúng quy tắc hay không.

Tinh chỉnh theo dữ liệu riêng là trọng tâm của chiến lược NVIDIA

Một mô hình dùng chung thường không biết đầy đủ cách một doanh nghiệp phân loại hồ sơ, đánh giá rủi ro hay xử lý ngoại lệ. Doanh nghiệp có thể phải bổ sung quy tắc, kết nối nguồn dữ liệu và xây dựng những bước kiểm tra để biến câu trả lời của mô hình thành kết quả có thể sử dụng.

NVIDIA cho biết các tổ chức có thể tinh chỉnh bổ sung Nemotron 3.5 Super VL bằng dữ liệu, công cụ và chính sách của riêng họ. Hãng cũng cung cấp công thức huấn luyện, bộ dữ liệu và tài nguyên tùy chỉnh thông qua NeMo, cùng tài liệu hướng dẫn về kiến trúc kỹ thuật.

Theo công bố của NVIDIA, quá trình huấn luyện của Super VL sử dụng khoảng 26 nghìn tỷ đơn vị dữ liệu trong giai đoạn huấn luyện ban đầu và huấn luyện tiếp tục, khoảng 3,8 triệu mẫu tinh chỉnh sau huấn luyện, cùng học tăng cường trên khoảng 100 môi trường mở. NVIDIA còn dự kiến cung cấp các bộ dữ liệu liên quan đến sử dụng công cụ, tài chính, ngữ cảnh dài, an toàn và khả năng hiểu kết hợp ngôn ngữ với hình ảnh.

Đối với doanh nghiệp, giá trị của cách tiếp cận này nằm ở khả năng điều chỉnh mô hình theo công việc cụ thể. Một công ty tài chính có thể tập trung vào việc đọc hợp đồng và trích xuất số liệu. Một tổ chức an ninh mạng có thể ưu tiên nhận diện tình huống nguy hiểm. Một doanh nghiệp phần mềm có thể tập trung vào hỗ trợ lập trình.

Tuy nhiên, tinh chỉnh không phải giải pháp tự động cho mọi vấn đề. Dữ liệu huấn luyện thiếu đại diện, quy tắc mơ hồ hoặc kết quả mẫu không được kiểm tra kỹ vẫn có thể khiến mô hình học sai cách xử lý. Khâu chuẩn bị dữ liệu và đánh giá chất lượng vì thế vẫn là phần quan trọng của dự án.

Các đối tác ghi nhận mức cải thiện từ 9% đến 44%

NVIDIA cho biết hàng chục tổ chức đang tinh chỉnh Super VL cho những nhiệm vụ riêng. Các ví dụ được công bố gồm Scale AI tham gia phát triển tác nhân tài chính tín dụng nhà cung cấp cho Skydance và tác nhân thẩm định thương vụ mua bán, sáp nhập cho EY; AfterQuery phục vụ phân tích hợp đồng tín dụng của Hebbia; AI21 và Alice tập trung vào an ninh mạng; Mercor phát triển tác nhân lập trình.

Ramp, Dream, Lila Sciences và R1 cũng nằm trong nhóm đang tùy chỉnh mô hình. Các nền tảng tích hợp mô hình được NVIDIA nêu tên gồm Atlassian, CrowdStrike, Dassault Systèmes, Perplexity, Salesforce và Synopsys.

Biểu đồ do NVIDIA công bố so sánh kết quả trên năm nhóm nhiệm vụ, gồm hiểu tài liệu, khả năng chống lại các cuộc tấn công an ninh, trích xuất thông tin từ hóa đơn tài chính, thử nghiệm khoa học và xử lý yêu cầu bảo hiểm y tế. Theo biểu đồ, các phiên bản được tinh chỉnh cải thiện từ 9% đến 44% so với mô hình nền ban đầu, tùy nhiệm vụ.

Ở bài kiểm tra yêu cầu bồi thường y tế, độ chính xác được thể hiện tăng từ khoảng 28% lên 72% sau tinh chỉnh, trong khi Claude Opus 5 đạt khoảng 38% ở phép thử đó. Với bài kiểm tra khả năng chống tấn công an ninh, điểm số tăng từ khoảng 35% lên 76%, so với khoảng 66% của GPT-6.1 Sol.

Những kết quả này đáng quan tâm nhưng cần được diễn giải đúng. Đây là các phiên bản mô hình đã được tinh chỉnh cho những nhiệm vụ chuyên biệt khác nhau, không phải bằng chứng rằng mô hình Super VL nguyên bản luôn vượt các mô hình đối thủ trong mọi lĩnh vực.

NVIDIA cũng chưa cung cấp cùng biểu đồ đầy đủ định nghĩa nhiệm vụ, quy mô mẫu và quy trình kiểm thử. Doanh nghiệp vì thế cần đánh giá độc lập bằng dữ liệu của mình, với cùng tiêu chí và điều kiện so sánh, trước khi đưa ra quyết định triển khai.

Tốc độ tạo văn bản có thể đạt 625 đơn vị mỗi giây

NVIDIA còn nhấn mạnh tốc độ tạo đầu ra của Super VL. Theo hãng, mô hình đạt khoảng 625 đơn vị văn bản đầu ra mỗi giây trong phép đo của Artificial Analysis, sử dụng bốn bộ xử lý đồ họa Blackwell B200.

Biểu đồ của NVIDIA đặt kết quả này ở mức điểm khoảng 26 trên Chỉ số Trí tuệ của Artificial Analysis. Hãng so sánh tốc độ đó với mô hình mở Inkling Small, đạt khoảng 125 đơn vị đầu ra mỗi giây ở mức điểm tương tự, từ đó đưa ra tuyên bố Super VL nhanh gấp năm lần trong phép so sánh được trình bày.

Nhưng tốc độ tạo văn bản không phải tổng thời gian hoàn thành công việc. Một tác nhân có thể mất thời gian đọc dữ liệu đầu vào, truy vấn hệ thống khác, gọi công cụ, kiểm tra kết quả và sửa lỗi. Nếu những bước đó chiếm phần lớn thời gian, tốc độ tạo văn bản cao hơn chưa chắc khiến cả quy trình nhanh hơn tương ứng.

Ngoài ra, điểm tổng hợp khoảng 26 không đặt Super VL lên vị trí dẫn đầu toàn bộ nhóm mô hình mở trong biểu đồ. NVIDIA cho biết một số mô hình khác, trong đó có GLM-5.3-Flash đạt 42 điểm và Qwen3.8-Flash-Next đạt 40 điểm, có kết quả tổng hợp cao hơn. Chỉ số này kết hợp mười phép đánh giá liên quan đến công việc chuyên môn, lập trình, khoa học và suy luận; phần đánh giá hình ảnh được Artificial Analysis thực hiện riêng.

Vì vậy, tốc độ là một lợi thế đáng thử nghiệm, đặc biệt với hệ thống phải tạo nhiều phản hồi trong một quy trình dài. Nhưng nó cần được đo cùng độ chính xác và thời gian hoàn thành toàn bộ nhiệm vụ.

Dòng Bolt đưa tác nhân trí tuệ nhân tạo đến hệ thống cục bộ

Nemotron 3.5 Bolt 74B-A9B có tổng cộng 74 tỷ tham số, nhưng chỉ kích hoạt 9 tỷ tham số tại một thời điểm. NVIDIA cho biết kỹ thuật nén ở mức hai bit giúp mô hình phù hợp với bộ nhớ 24 GB và có thể chạy cùng các ứng dụng khác trên hệ thống RTX Spark và DGX Spark.

Mô hình hướng đến nghiên cứu trên mạng, viết mã, sửa lỗi và các công việc nhiều bước thông qua công cụ tác nhân chạy tại chỗ. Mục tiêu là thực hiện một số nhiệm vụ mà không cần gửi dữ liệu lên mô hình được lưu trữ trên đám mây.

NVIDIA gọi Bolt là mô hình mở đứng đầu trong nhóm của mình trên PinchBench và đứng thứ hai trong nhóm mô hình mở trên BrowseComp. Tuy nhiên, thông báo không nêu điểm số cụ thể hoặc định nghĩa đầy đủ nhóm mô hình dùng để xếp hạng. Vì vậy, các tuyên bố này cần được kiểm tra thêm trước khi dùng làm căn cứ lựa chọn.

Bolt 74B-A9B có trên Hugging Face và hỗ trợ llama.cpp, Ollama, LM Studio cùng vLLM. NVIDIA cũng liệt kê máy tính sử dụng GeForce RTX, DGX Station và máy trạm RTX PRO trong danh sách hệ thống được hỗ trợ.

Phiên bản Bolt E4B được thiết kế nhỏ hơn, với mục tiêu sử dụng khoảng 4 GB bộ nhớ. Mô hình hướng đến trợ lý giọng nói, nhân vật tương tác và giao diện nhúng. Theo kế hoạch được NVIDIA công bố, sản phẩm dự kiến phát hành ngày 23 tháng 10, hỗ trợ hội thoại nhiều lượt và sử dụng công cụ dựa trên trạng thái hiện tại của ứng dụng.

Các lựa chọn cục bộ có thể hữu ích với doanh nghiệp cần giới hạn dữ liệu gửi ra ngoài hoặc muốn tích hợp tác nhân vào phần mềm đang chạy trên thiết bị. Tuy nhiên, khả năng vận hành còn phụ thuộc vào phần cứng, mức nén, chất lượng kết quả và chi phí quản trị hệ thống.

Mô hình có trọng số mở không đồng nghĩa với vận hành miễn phí

NVIDIA cho biết trọng số của Super VL được cung cấp trên Hugging Face. Các kênh tiếp cận khác được nêu gồm OpenRouter, ModelScope và NVIDIA NIM. Bolt 74B-A9B cũng có trên Hugging Face.

Theo NVIDIA, các mô hình sử dụng giấy phép OpenMDW, cho phép sử dụng thương mại, tinh chỉnh và phân phối lại. Việc cung cấp công thức huấn luyện và bộ dữ liệu giúp nhà phát triển có thêm cơ sở để thử nghiệm và điều chỉnh hệ thống.

Nhà phát triển có thể sử dụng giao diện lập trình ứng dụng do NVIDIA lưu trữ để phát triển, với giới hạn tốc độ và không thu phí theo thông báo của hãng. Các đối tác cung cấp dịch vụ lưu trữ mô hình có thể đặt giá riêng, trong đó có dịch vụ thông qua OpenRouter.

Đối với triển khai sản xuất bằng NVIDIA NIM, NVIDIA công bố mức phí giấy phép NVIDIA AI Enterprise là 4.500 đô la cho mỗi bộ xử lý đồ họa mỗi năm. Đây là phí phần mềm, không phải tổng chi phí vận hành. Doanh nghiệp còn phải tính phần cứng, điện năng, lưu trữ, hạ tầng, nhân sự kỹ thuật và giám sát hệ thống.

Super VL được tối ưu cho hệ thống Blackwell và Hopper, gồm DGX Spark, DGX Station và GPU RTX PRO 6000 Blackwell, đồng thời có thể chạy trên GPU thế hệ Ampere. Dù vậy, khả năng tương thích không có nghĩa mọi cấu hình đều mang lại hiệu năng giống nhau.

Mô hình có trọng số mở đem lại quyền linh hoạt hơn trong tinh chỉnh và triển khai, nhưng doanh nghiệp vẫn phải tự chịu trách nhiệm về chất lượng dữ liệu, bảo mật, giám sát và tổng chi phí sở hữu.

NVIDIA cạnh tranh trong thị trường mô hình đa phương thức mở

NVIDIA không phải doanh nghiệp duy nhất phát triển mô hình có thể xử lý cả văn bản và hình ảnh. Meta với Llama 4 và Google với Gemma 4 cũng tham gia thị trường này.

Điểm khác biệt mà NVIDIA muốn xây dựng nằm ở sự kết hợp giữa mô hình Nemotron quy mô lớn, công cụ tinh chỉnh và triển khai, hệ sinh thái phần cứng cùng những kết quả mà đối tác công bố sau khi tùy chỉnh cho nhiệm vụ riêng.

Cách tiếp cận này có thể tạo ra lợi thế cho doanh nghiệp đã sử dụng hạ tầng NVIDIA hoặc cần tối ưu mô hình cho hệ thống của mình. Nhưng lợi thế đó không tự động xuất hiện ở mọi trường hợp. Nếu một mô hình khác đạt độ chính xác tương đương với chi phí thấp hơn, dễ vận hành hơn hoặc phù hợp hơn với quy trình hiện tại, doanh nghiệp vẫn cần so sánh dựa trên kết quả thực tế.

NVIDIA cũng cho biết thỏa thuận mua lại Hugging Face, nền tảng phân phối các mô hình mở, có giá trị khoảng 12,93 tỷ đô la chưa hoàn tất. Hãng dự kiến hoàn thành giao dịch trong nửa đầu năm 2027, tùy thuộc vào chấp thuận của cơ quan quản lý và các điều kiện khác. NVIDIA cam kết tiếp tục duy trì nền tảng mở với các nhà phát triển mô hình và nhà cung cấp chip khác.

Nếu thương vụ hoàn tất, mối liên hệ giữa hạ tầng, công cụ và phân phối mô hình có thể trở nên quan trọng hơn. Tuy nhiên, tại thời điểm được mô tả trong thông tin gốc, giao dịch vẫn chưa hoàn tất, nên không thể coi những lợi ích tiềm năng là kết quả đã đạt được.

Doanh nghiệp Việt Nam nên bắt đầu từ bài toán có thể đo lường

Với doanh nghiệp Việt Nam, Nemotron 3.5 có thể đáng thử nghiệm ở những công việc như đọc hóa đơn, phân loại hồ sơ, trích xuất dữ liệu từ hợp đồng, kiểm tra tài liệu kỹ thuật hoặc hỗ trợ nhân viên lập trình. Những trường hợp này có đầu vào tương đối rõ ràng và có thể xây dựng tiêu chí đánh giá chất lượng.

Bước đầu tiên không nên là đưa toàn bộ hoạt động lên một tác nhân tự động. Doanh nghiệp nên chọn một quy trình nhỏ, tập hợp các trường hợp thực tế và xác định kết quả đúng cần có. Sau đó, so sánh mô hình nguyên bản với phiên bản đã tinh chỉnh, đồng thời ghi nhận tỷ lệ sai sót, thời gian xử lý, chi phí và số lần nhân viên phải can thiệp.

Nếu tài liệu chứa thông tin khách hàng hoặc dữ liệu kinh doanh nhạy cảm, doanh nghiệp cần đánh giá yêu cầu lưu trữ, quyền truy cập và nơi dữ liệu được xử lý trước khi lựa chọn mô hình đám mây hay cục bộ. Việc có thể tải trọng số về không thay thế nhu cầu bảo mật hệ thống, quản lý tài khoản và cập nhật phần mềm.

Các doanh nghiệp nhỏ cũng cần tính đủ chi phí phần cứng và vận hành. Một mô hình có thể chạy trên hệ thống hiện có sẽ khác với mô hình đòi hỏi đầu tư thêm GPU, bộ nhớ và nhân sự chuyên trách. Nếu khối lượng công việc thấp, dịch vụ lưu trữ có thể thuận tiện hơn; nếu dữ liệu nhạy cảm hoặc nhu cầu xử lý tại chỗ lớn, mô hình cục bộ có thể đáng xem xét hơn. Quyết định cần dựa trên điều kiện thực tế, không chỉ dựa vào quy mô tham số.

Giá trị cuối cùng nằm ở kết quả công việc chứ không phải số tham số

Nemotron 3.5 Super VL cho thấy NVIDIA đang xây dựng một hướng tiếp cận kết hợp mô hình đa phương thức, khả năng tinh chỉnh theo dữ liệu riêng và lựa chọn triển khai linh hoạt. Các kết quả được công bố về xử lý hồ sơ bảo hiểm, an ninh và tài liệu chuyên biệt cho thấy việc tùy chỉnh có thể cải thiện đáng kể hiệu quả ở một số nhiệm vụ.

Dòng Bolt bổ sung lựa chọn chạy tác nhân trên hệ thống cục bộ, trong khi giấy phép và công cụ của NVIDIA tạo điều kiện để doanh nghiệp thử nghiệm, điều chỉnh và triển khai. Nhưng mức cải thiện từ các đối tác không phải cam kết về kết quả cho mọi tổ chức, còn tốc độ tạo văn bản không đại diện cho toàn bộ thời gian xử lý.

Với doanh nghiệp, câu hỏi thực tế không phải mô hình nào có nhiều tham số hơn hay xuất hiện ở vị trí nào trên bảng xếp hạng. Điều quan trọng là mô hình có đọc đúng tài liệu của mình, tuân thủ quy trình, bảo vệ dữ liệu và tạo ra giá trị đủ lớn so với chi phí hay không.

Cách tiếp cận hợp lý là bắt đầu bằng một nhiệm vụ cụ thể, kiểm thử có đối chứng và chỉ mở rộng khi dữ liệu chứng minh hiệu quả. Chính kết quả trong môi trường vận hành, chứ không phải tuyên bố tiếp thị, mới quyết định liệu Nemotron có trở thành nền tảng hữu ích cho doanh nghiệp hay không.

Giấy phép NVIDIA AI Enterprise có giá 4.500 đô la mỗi GPU mỗi năm

NVIDIA Nemotron, Nemotron 3.5, Super VL, Nemotron Bolt, mô hình mở, trí tuệ nhân tạo, xử lý tài liệu, tinh chỉnh mô hình, tác nhân trí tuệ nhân tạo, AI cục bộ, tự động hóa doanh nghiệp, NVIDIA AI Enterprise, mô hình đa phương thức, doanh nghiệp Việt Nam