NVIDIA và Microsoft mở rộng điện toán tăng tốc từ Azure sang máy tính Windows

13 min read
NVIDIA và Microsoft đang mở rộng sự hợp tác toàn diện để giúp các tổ chức xây dựng, tùy chỉnh và triển khai các ứng dụng thông minh — từ cơ sở hạ tầng thế hệ mới trên Azure đến các hệ thống công nghiệp và máy tính để bàn Windows.
Vera Rubin NVL72
Tại sự kiện Microsoft Ignite, hai công ty đang mở rộng quyền truy cập vào các máy ảo Azure được cung cấp sức mạnh bởi hệ thống NVIDIA Vera Rubin NVL72, đồng thời bổ sung khả năng cung cấp các mô hình mở của NVIDIA và khả năng tùy chỉnh thông qua Microsoft Foundry, cùng các tùy chọn mới để chạy AI ở biên, nơi các doanh nghiệp tạo ra và sử dụng dữ liệu của mình.
Vera Rubin NVL72
Microsoft cũng đang sử dụng các công nghệ của NVIDIA để tăng tốc các mô hình và dịch vụ của riêng mình, bao gồm phần mềm suy luận NVIDIA Dynamo cho giai đoạn sau huấn luyện và GPU NVIDIA RTX PRO 6000 Blackwell cho các mô hình tìm kiếm Bing.
Vera Rubin NVL72

NVIDIA Vera Rubin NVL72 Hoạt Động Trên Azure

Các hệ thống NVIDIA Vera Rubin NVL72 đang chạy trong các trung tâm dữ liệu Azure, cung cấp cơ sở hạ tầng được thiết kế cho các tác vụ suy luận đòi hỏi cao, ứng dụng tác nhân (agentic applications), cùng việc huấn luyện và suy luận mô hình quy mô lớn.
Vera Rubin NVL72
Microsoft và NVIDIA cũng đang hợp tác để mở rộng điện toán bảo mật sang cơ sở hạ tầng AI dạng bare-metal và cấp độ rack. Công việc này sẽ giúp bảo vệ các mô hình và dữ liệu nhạy cảm trong quá trình xử lý, hỗ trợ các tổ chức cần làm việc với thông tin độc quyền hoặc tuân thủ các quy định ngặt nghèo.
Vera Rubin NVL72
Công nghệ Điện toán Bảo mật NVIDIA và tính năng xác thực giúp khách hàng xác minh môi trường điện toán trước khi phát hành các mô hình, dữ liệu hoặc khóa nhạy cảm. Khi khối lượng công việc AI trảiσ rộng trên nhiều bộ tăng tốc được kết nối với nhau, hai công ty đang nỗ lực mở rộng các biện pháp bảo vệ đó trên toàn bộ cơ sở hạ tầng nhà máy AI.
Vera Rubin NVL72
Để giúp các trung tâm dữ liệu khai thác hiệu suất cao hơn từ nguồn điện khả dụng, NVIDIA và Microsoft cũng đang hợp tác về hiệu quả sử dụng năng lượng bằng cách sử dụng NVIDIA MaxLPS. Phiên bản xem trước của Azure chạy trên kiến trúc Vera Rubin được xây dựng dựa trên sự đồng thiết kế và tối ưu hóa hiệu suất giữa NVIDIA và Microsoft, được minh chứng rõ nét qua các kết quả MLPerf mới nhất dựa trên nền tảng NVIDIA Blackwell. Trong MLPerf Training v6.1, Azure đã mở rộng quy mô lên tới 10.240 GPU NVIDIA với các hệ thống GB200 NVL72 trên mô hình DeepSeek-V3, đạt quy mô lớn nhất trong đợt thử nghiệm này. Trong MLPerf Inference v6.1, các hệ thống NVIDIA GB300 NVL72 của Azure đã dẫn đầu các bài nộp trên nền tảng đám mây về thông lượng tương tác DeepSeek-R1 hơn 10%, theo Signal65.

Hỗ Trợ Doanh Nghiệp Tùy Chỉnh và Triển Khai Mô Hình Mở

Các tác nhân AI dành cho doanh nghiệp cần phải suy luận qua các tác vụ phức tạp, tìm kiếm thông tin liên quan của công ty và hiểu các tài liệu kinh doanh. NVIDIA và Microsoft đang mở rộng các mô hình và dịch vụ có sẵn thông qua Microsoft Foundry để giúp các nhà phát triển đưa các khả năng này vào các ứng dụng kinh doanh. Chương trình Đào tạo Lập trình sẵn phi máy chủ (serverless) của Microsoft mang đến cho các nhà phát triển quyền kiểm soát đối với quy trình làm việc sau huấn luyện, trong khi Foundry quản lý cơ sở hạ tầng bên dưới. Các doanh nghiệp có thể tập trung vào dữ liệu kinh doanh của mình, đánh giá phản hồi của mô hình và cải thiện hành vi của mô hình. Foundry Managed Compute bổ sung hỗ trợ triển khai trọng số mô hình tùy chỉnh, giúp kết nối việc tùy chỉnh mô hình với việc triển khai thông qua các dịch vụ được quản lý của Microsoft. EY đã sử dụng Programmed Training trong Microsoft Foundry để điều chỉnh các mô hình mở NVIDIA Nemotron nhằm phân loại hồ sơ mua sắm của công ty, cải thiện độ chính xác trên tập dữ liệu đánh giá lên 55% và giảm chi phí xuống 15 lần so với các mô hình tiên tiến độc quyền. Công việc này chứng minh cách các doanh nghiệp có thể tùy chỉnh các mô hình mở cho các tác vụ kinh doanh chuyên biệt. Dòng sản phẩm NVIDIA Nemotron 3.5 mở rộng trên Foundry Managed Compute hỗ trợ các yêu cầu khác nhau giữa các ứng dụng doanh nghiệp. Nemotron 3.5 Super được thiết kế cho các tác nhân chạy dài hạn làm việc trên các quy trình lập trình, nghiên cứu và kinh doanh, trongขณะ Lightning hỗ trợ các ứng dụng cần phản hồi nhanh và sử dụng công cụ. Các mô hình bổ sung giúp các tác nhân tìm kiếm thông tin liên quan với Nemotron Embed và Rerank, trích xuất thông tin cấu trúc từ tài liệu với Nemotron Parse và phát hiện nội dung có hại với Nemotron Content Safety. Nemotron 3.5 Bolt — được thiết kế cho khả năng suy luận thông lượng cao, độ trễ thấp — và Transcribe, dành cho nhận dạng giọng nói, sẽ sớm ra mắt.

Đưa AI Đến Gần Hơn Với Dữ Liệu Doanh Nghiệp

NVIDIA và Microsoft đang mở rộng các tùy chọn triển khai vượt ra ngoài đám mây, giúp các tổ chức chạy các mô hình và tác nhân gần hơn với dữ liệu của họ đồng thời duy trì quyền kiểm soát đối với cơ sở hạ tầng và hoạt động. Việc mở rộng hỗ trợ cho Nemotron 3.5 trong Foundry Local mang lại các khả năng suy luận, lập trình và sử dụng công cụ cho các môi trường Azure Local. Các mô hình truy xuất giúp các ứng dụng tìm kiếm bằng chứng trên văn bản, hình ảnh tài liệu, biểu đồ và bảng biểu. Azure Local cũng sẽ hỗ trợ GPU NVIDIA RTX PRO 6000 Blackwell từ các đối tác phần cứng, mang đến cho các tổ chức các tùy chọn bổ sung để triển khai AI tại chỗ (on-premises). Azure Local đang mở rộng sang các nền tảng AI biên NVIDIA Jetson Thor và Jetson Orin để hỗ trợ các ứng dụng công nghiệp như thị giác máy tính, robot và các hoạt động tự động. Các mô hình AI vật lý của NVIDIA, bao gồm Cosmos, cũng đang được đưa vào Foundry Local. Trên các máy tính Windows được trang bị NVIDIA RTX Spark, NVIDIA và Microsoft sẽ giới thiệu trải nghiệm mô hình ngôn ngữ lớn cục bộ tại Ignite, minh họa cách các nhà phát triển có thể chạy các ứng dụng AI trực tiếp trên thiết bị. Đối với các tổ chức sử dụng Cloud PCs, hai công ty đang mang các tính năng Direct Stream đến các Cloud PC Windows 365 được tăng tốc bằng GPU. Các tính năng này hỗ trợ các ứng dụng đồ họa đòi hỏi khắt khe với tối đa hai luồng 4K ở tốc độ 60 khung hình mỗi giây và độ trễ thấp, ngay cả trên các mạng phức tạp. Một bản xem trước giới hạn đang mở cho việc đăng ký, với bản xem trước công khai dự kiến vào đầu năm 2027.

Kết Nối AI Khoa Học Với Microsoft Discovery

Đối với nghiên cứu khoa học, Bộ công cụ tác nhân NVIDIA BioNeMo và Bộ công cụ NVIDIA ALCHEMI đang mở rộng sang danh mục Microsoft Discovery, đưa các mô hình khoa học đời sống, khám phá thuốc và khoa học vật liệu, hóa học vào nền tảng nghiên cứu tác nhân của Microsoft. Bộ công cụ tác nhân BioNeMo giúp các nhà khoa học sử dụng ngôn ngữ tự nhiên để chạy các quy trình sinh học tính toán trong Microsoft Discovery, với các tác nhân điều phối các công cụ và lệnh gọi mô hình cần thiết để thực hiện công việc. Một tích hợp ban đầu sử dụng mô hình RFD4-Proteina, được phát triển hợp tác với Viện Thiết kế Protein thuộc Đại học Washington, để tạo ra các cấu trúc protein ứng viên và trình tự axit amin nhằm đánh giá thêm và xác thực trong phòng thí nghiệm.

Tăng Tốc Các Mô Hình và Dịch Vụ Của Microsoft

Bên cạnh việc mở rộng quyền truy cập của khách hàng vào các công nghệ của NVIDIA, Microsoft đang sử dụng phần mềm NVIDIA và điện toán tăng tốc trong quá trình phát triển và dịch vụ AI của chính mình. Microsoft AI sử dụng NVIDIA Dynamo để hỗ trợ suy luận triển khai học tăng cường trong quá trình sau huấn luyện. Quá trình đòi hỏi nhiều tính năng tính toán này tạo ra các trải nghiệm được sử dụng để cải thiện các mô hình. Dynamo điều phối việc suy luận trên một đội ngũ GPU lớn, tối ưu hóa hiệu suất, cũng như giúp quản lý các yêu cầu, cập nhật mô hình và phục hồi sau sự cố. Việc triển khai này được xây dựng dựa trên sự hợp tác kỹ thuật giữa Microsoft AI và NVIDIA.

Bạn có thể thích bài này