Sản phẩm H200 của Nvidia được công bố vào ngày 13/11 sẽ được cho ra mắt vào quý II/2024, được biết H200 sẽ được dùng trong siêu máy tính hoặc đào tạo AI. Tốc độ trả kết quả của H200 nhanh gấp 2 lần so với H100 hiện nay. Có thể nói H200 sẽ tạo ra những bước nhảy vọt về hiệu suất, khả năng suy lận của sản phẩm này cực kỳ cao.
Những thử nghiệm cho thấy H200 có hiệu suất cao gấp đôi so với H100 (chip AI mạnh mẽ nhất hiện nay, đang sử dụng phổ biến ở cả GPT-4) trong mô hình ngôn ngữ lớn Liama 2 của Meta với 70 tỷ tham số.
Mặc dù không công bố nhiều thông tin về H200 nhưng nhà sản xuất cho biết chúng đã được cải tiến đáng kể về băng thông và dung lượng bố nhớ. Dòng GPU mới này vẫn được xây dựng trên kiến trúc Hopper giống với H100. Sản phẩm mới này sử dụng bộ nhớ HBM3e với dung lượng 141GB, băng thông 4,8 TB/s.
Chip H200 của Nvidia ra mắt vào đầu năm 2024 sẽ là chip AI mạnh nhất thế giới
H200 sẽ được trang bị các bo mạch Nvidia HGX với cấu hình gồm 4 hoặc 8 GPU. Đồng thời hãng còn cung cấp siêu chip GH200, kết hợp giữa CPU Grace và H200 với tổng cộng 624GB bộ nhớ. Với cấu hình khi sử dụng 8 GPU thì HGX H200 sẽ có khả năng tính toán 32 triệu tỷ phép tính mỗi giây ( 32 petaflop ). Ngoài ra điều đặc biệt ở H200 là tương thích với hệ thống H100 nên những hệ thống hiện nay có thể nâng cấp dễ dàng.
Với những thông số trên thì H200 của Nvidia sẽ cải thiện khả năng làm việc của hệ thống AI tạo sinh cũng như hệ thống HPC (điện toán hiệu năng cao). Từ đó giúp giải quyết các thách thức quan trọng trên thế giới.
Phó chủ tích Nvidia – Ian Buck nói rằng để tạo ra trí thông minh bằng HPC và AI thì lượng dữ liệu khổng lồ phải được xử lý hiệu quả ở tốc độ cao với các GPU có bộ nhớ lớn hơn và nhanh hơn.
Dù Nvidia chưa công bố giá của chip AI H200 nhưng sẽ cao hơn mẫu chip H100 siêu hot hiện nay được hầu hết công ty AI săn lùng với giá trong khoảng 25,000 đến 40,000 USD.
GỬI Ý KIẾN
