Theo đó, NVIDIA đã hợp tác với SoftBank Corp. để cung cấp các thiết bị siêu mạnh cho các trung tâm dữ liệu thế hệ tiếp theo của SoftBank bằng siêu chip Grace Hopper sử dụng cho công nghệ AI và 5G/6G.
Siêu chip Grace Hopper dựa trên nền tảng các công nghệ siêu chip Arm-Based và kiến trúc mang tính cách mạng về sức mạnh của BlueField-3 DPU cho phép truyền thông không dây dựa trên AI sáng tạo.
Mở đường cho việc triển khai nhanh chóng trên toàn thế giới, các ứng dụng và dịch vụ AI tổng quát, SoftBank sẽ xây dựng các trung tâm dữ liệu có thể phối hợp với NVIDIA lưu trữ các ứng dụng AI và ứng dụng không dây tổng quát trên một nền tảng máy chủ chung nhiều bên thuê, giúp giảm chi phí và tăng hiệu suất thiết bị.
Nền tảng này sẽ sử dụng kiến trúc tham chiếu NVIDIA MGX™ mới với Siêu chip Arm Neoverse-based GH200 và dự kiến sẽ cải thiện hiệu suất, khả năng mở rộng và sử dụng tài nguyên của các ứng dụng.
“Khi chúng ta bước vào kỷ nguyên mà xã hội cùng tồn tại với AI, nhu cầu xử lý dữ liệu và yêu cầu về điện năng sẽ tăng lên nhanh chóng. SoftBank sẽ cung cấp cơ sở hạ tầng thế hệ tiếp theo để hỗ trợ xã hội siêu số hóa ở Nhật Bản. Sự hợp tác của SoftBank với NVIDIA sẽ giúp cơ sở hạ tầng của SoftBank đạt được hiệu suất cao hơn đáng kể với việc sử dụng AI, bao gồm tối ưu hóa RAN. Chúng tôi hy vọng điều này có thể giúp giảm mức tiêu thụ năng lượng và tạo ra một mạng lưới các trung tâm dữ liệu được kết nối với nhau có thể được sử dụng để chia sẻ tài nguyên và lưu trữ một loạt các ứng dụng AI tổng quát", Junichi Miyakawa, Chủ tịch kiêm Giám đốc điều hành của SoftBank Corp cho biết.
Jensen Huang, người sáng lập kiêm Giám đốc điều hành của NVIDIA cho biết: “Nhu cầu về điện toán tăng tốc và trí tuệ nhân tạo đang tạo ra sự thay đổi cơ bản trong kiến trúc của các trung tâm dữ liệu. NVIDIA Grace Hopper là một nền tảng điện toán mang tính cách mạng được thiết kế để xử lý và mở rộng quy mô các dịch vụ AI tổng quát. Giống như các sáng kiến có tầm nhìn khác trong quá khứ, SoftBank đang dẫn đầu thế giới trong việc tạo ra một mạng viễn thông được xây dựng để lưu trữ các dịch vụ AI tổng quát”.
Các trung tâm dữ liệu mới sẽ được phân bổ đồng đều hơn trên diện tích của nó so với các trung tâm được sử dụng trước đây và xử lý cả khối lượng công việc AI và 5G. Điều này sẽ cho phép chúng hoạt động tốt hơn ở công suất tối đa với độ trễ thấp và chi phí năng lượng tổng thể thấp hơn đáng kể.
SoftBank đang khám phá việc tạo ra các ứng dụng 5G cho xe tự lái, nhà máy AI, thực tế ảo và tăng cường, thị giác máy tính và cặp song sinh kỹ thuật số.
RAN ảo với thông lượng phá kỷ lục
Các đơn vị xử lý dữ liệu NVIDIA Grace Hopper và NVIDIA BlueField®-3 sẽ tăng tốc truy cập mạng vô tuyến ảo hóa 5G (Virtualized Radio Access Network -vRAN) bằng phần mềm, cũng như các ứng dụng AI tổng hợp mà không cần bộ tăng tốc các thiết bị phần cứng riêng hoặc CPU 5G chuyên dụng. Ngoài ra, bộ chuyển mạch NVIDIA Spectrum Ethernet với BlueField-3 sẽ cung cấp giao thức định thời gian có độ chính xác cao cho 5G.
Giải pháp đạt được tốc độ 5G đột phá trên thiết kế máy chủ dựa trên nền tảng 1U MGX được NVIDIA tăng tốc, với thông lượng cao nhất trong ngành là dung lượng đường xuống 36Gbps, được thiết kế từ những dữ liệu có sẵn công khai trên các bộ tăng tốc 5G. Các nhà khai thác đã phải rất vất vả để cung cấp dung lượng đường xuống cao như vậy bằng cách sử dụng các máy chủ tiêu chuẩn công nghiệp.
Kiến trúc tham chiếu mới
NVIDIA MGX là một kiến trúc tham chiếu mô-đun cho phép các nhà sản xuất hệ thống và khách hàng quy mô lớn xây dựng hơn một trăm biến thể máy chủ khác nhau một cách nhanh chóng và tiết kiệm chi phí để phù hợp với nhiều ứng dụng AI, HPC và NVIDIA Omniverse ™.
Bằng cách kết hợp phần mềm NVIDIA Aerial™ cho các mạng 5G gốc trên nền tảng đám mây, được xác định bằng phần mềm, hiệu suất cao thì các trạm gốc 5G này sẽ cho phép các nhà khai thác phân bổ linh hoạt các tài nguyên điện toán và đạt được hiệu suất năng lượng gấp 2,5 lần so với các sản phẩm cạnh tranh.
Rene Haas, Giám đốc điều hành của Arm cho biết: “Tương lai của AI tổng hợp đòi hỏi khả năng tính toán hiệu suất cao, tiết kiệm năng lượng như Siêu chip Grace Hopper dựa trên Arm Neoverse của NVIDIA”. Thêm vào đó, “Kết hợp với DPU NVIDIA BlueField, Grace Hopper cho phép các trung tâm dữ liệu 5G mới của SoftBank chạy các ứng dụng sử dụng nhiều bộ nhớ và điện toán đòi hỏi khắt khe nhất, đồng thời mang lại mức tăng hiệu quả theo cấp số nhân cho 5G và AI được xác định bằng phần mềm trên Arm.
