Jeśli myślałeś, że 700-watowe procesory Nvidia H100 to gorące i energochłonne maszyny, po prostu poczekaj, aż B100 z procesorem graficznym pojawi się jeszcze w tym roku.
Według Jeffa Clarka, dyrektora operacyjnego Dell Technologies, najnowszy akcelerator AI firmy Nvidia będzie zużywał 1000 watów, czyli o 42 procent więcej niż jego poprzednik. Ale nie martw się, jest całkiem pewien, że chłodzenie cieczą nie będzie konieczne, aby okiełznać bestię.
„Jesteśmy podekscytowani tym, co dzieje się z H200 i jego lepszą wydajnością” – powiedział Clark inwestorom w witrynie Dell. Zarobki dzwonią [PDF] W zeszłym tygodniu, zanim dodał, miał takie same odczucia co do nadchodzącego akceleratora B100 firmy Nvidia i innego, który nazwał B200.
Doszedł do wniosku, że nie będzie potrzeby bezpośredniego chłodzenia cieczą w przypadku procesorów graficznych zużywających 1000 watów każdy – poziom, który, jak powiedział, „stanie się możliwy w przyszłym roku z B200”.
Nie jest do końca jasne, jaką kartę Clark nazywa „B200”, ponieważ żaden chip o tej nazwie nie pojawia się w planie działania udostępnionym inwestorom jesienią ubiegłego roku przez Nvidię. Uważamy jednak, że Clark w rzeczywistości ma na myśli GB200 Superchip, który podobnie jak GH200 ma łączyć procesor Nvidia Grace z własnym procesorem graficznym B100.
Zgodnie z prezentacją dla inwestorów opublikowaną w tym miesiącu, Nvidia planuje przejść na roczny cykl wydawniczy – kliknij, aby powiększyć
W oparciu o to, co wiemy o procesorze Grace w modelu GH200 i zakładając brak większych zmian w zużyciu energii, projektowa moc cieplna (TDP) GB200 będzie wynosić około 1300 watów — o 30 procent więcej niż w przypadku poprzednika.
Możliwe też, że Nvidia ma w zanadrzu inną kartę, o której jeszcze nie wiemy. Szczegóły dotyczące architektury Blackwell nowej generacji giganta GPU są wciąż skąpe.
Niezależnie od nomenklatury Clark zasugerował, że nadchodzący chip będzie okazją do szerszego zaprezentowania wiedzy Della na temat innych form chłodzenia cieczą. Wskazał na „problemy związane z chemią płynów i wydajnością, naszą pracą między sobą, pracą telemetryczną, którą wykonujemy, pracą związaną z zarządzaniem energią”, jako kroki w kierunku alternatyw dla bezpośredniego chłodzenia cieczą, nawet w przypadku bardzo gęstych chipów.
Nvidia odmówiła komentarza – jak można było się spodziewać, biorąc pod uwagę, że doroczna konferencja GTC już za kilka tygodni. Nagrywać Będzie on obecny na miejscu wydarzenia i poinformuje Cię o wszystkich szczegółach, gdy tylko zostaną ogłoszone.
Premiera B100 ma nastąpić dopiero pod koniec 2024 roku, po premierze Nvidii Szerokość pasma soku Procesory graficzne H200 zadebiutowały w pierwszej połowie roku.
Zapowiedziany pod koniec 2023 roku model H200 to aktualizacja modelu H100 z maksymalnie 141 GB pamięci HBM3e, która zapewnia imponującą przepustowość 4,8 TB/s. Nvidia twierdzi, że urządzenie może podwoić wydajność dużych modeli językowych, w tym Llama 70B, dzięki zestawom pamięci HBM3e w chipie.
Nawet biorąc pod uwagę, że w tym roku na rynku mają pojawić się dwa nowe akceleratory, analitycy ostrzegają, że podaż procesorów graficznych Nvidii pozostanie ograniczona. To jednak Raporty Można się spodziewać, że Nvidia będzie w stanie przenieść więcej niż trzy dostawy procesorów graficznych w 2024 roku.
Oprócz nowych akceleratorów plan działania Nvidii zakłada także wprowadzenie przed końcem roku szybszych i wydajniejszych kart sieciowych InfiniBand i Ethernet oraz przełączników zapewniających przepustowość do 800 Gb/s na port. ®